05 Jul, 2026

基於 NVIDIA BlueField-4 STX,WEKA 以更低的每 Token 成本將 Token 輸出推至極限

NeuralMesh 及 Augmented Memory Grid 與 NVIDIA STX 整合,能在相同 GPU 佔用空間下,將 Token 產量提升 6.5 倍,大減 AI 驅動機構的推理成本 加州聖荷西和加州坎貝爾2026年3月18日 /美通社/ — 在 2026 年圖形處理器 (GPU) 技術大會 (GTC 2026) 上,人工智慧 (AI) 儲存與記憶體系統公司 WEKA 今日宣佈,已將其 NeuralMesh™ 軟體與 NVIDIA STX 參考架構整合。 WEKA 基於 NeuralMesh 執行的突破性 Augmented Memory Grid™ 記憶體擴充套件技術,將支援 NVIDIA STX,為代理型 AI 工廠帶來高吞吐量的情境記憶儲存,使跨會話、工具和任務的長語境推理變得無縫流暢。 基於 NVIDIA STX 的 NeuralMesh 解決方案,運用 NVIDIA Vera Rubin NVL72、NVIDIA BlueField-4 及 NVIDIA Spectrum-X 乙太網絡,預計能將情境記憶體的每秒 Token 生成量提升 4 至 10 倍,同時為 AI 工作負載提供每秒不少於 320 GB […]

1 min read