LLM
Skymizer Taiwan Inc. 發表突破性架構 單卡實現超大型 LLM 推論
提供業界領先的效能功耗比，單張 PCIe 介面卡即可執行 700B 引數模型——無需 GPU 叢集,亦無須密集散熱 新竹2026年4月23日 /美通社/ — 於 COMPUTEX 2026 展前，AI 推論解決方案先驅 Skymizer Taiwan Inc.( 臺灣發展軟體科技股份有限公司)今日預先揭露其在地端 AI 部署的重大突破——HTX301 推論晶片，內建於 COMPUTEX 2025 首次發表的軟硬體協同設計平臺 HyperThought™。HTX301 為 HyperThought IP 的首款參考晶片，該 IP 為 AI 推論定義了長期的架構願景。此首版矽晶片在大幅簡化超大型模型推論所需基礎設施的同時，亦帶來卓越的效能功耗比。 打破 GPU 對超大型模型推論的壟斷 一直以來，在地端部署超大型模型皆需仰賴龐大的 GPU 叢集、NVLink/NVSwitch 等高速互連技術，以及密集的散熱系統——導致成本高昂且維運複雜。 Skymizer 於業界首次將此願景化為可能。 僅需一張 PCIe 介面卡——搭載 六顆 HTX301 晶片與 384 GB 記憶體——企業即可於本地執行 700B 引數模型推論，每卡功耗僅約 240W。 […]
1 min read