「中小企業友好」 IBM 發表 Granite 4.0小語言模型 輕量 高效 低成本
全球第一個獲得 ISO/IEC 42001:2023 AI 管理系統認證的開源模型 專為處理代理型關鍵任務而生 可單獨部署或作為大型複雜推理系統的關鍵模組 臺北2025年10月7日 /美通社/ — IBM 日前發表其最新一代企業級「小語言模型」 Granite 4.0,以創新的混合式架構,結合 Mamba-2 與 Transformer 技術,實現前所未有的效能與效率。Granite 4.0 不僅大幅降低記憶體與硬體成本,更提供企業部署 AI 的安全性、可控性與彈性,為臺灣各型別企業的 AI 應用落地提供強力支援。 IBM 發表「中小企業友好」的小語言模型 Granite 4.0,處理AI 複雜任務時大幅降低記憶體的使用量達 70%,推理速度加快 2 倍,同時支援更平價的 GPU包括家用硬體;大幅降低企業部署AI成本,更提高應用AI 的安全性、可控性與彈性。 Granite 4.0已在 IBM watsonx.ai 平臺正式上線,並同步支援 Dell Technologies (Dell Pro AI Studio 與 Enterprise Hub)、Docker Hub、Hugging Face、Kaggle、LM Studio、NVIDIA NIM、Ollama、OPAQUE 及Replicate 等平臺;未來也將支援 Amazon SageMaker JumpStart 與 Microsoft Azure AI Foundry。 混合式架構,創造效能與成本的完美平衡 Granite 4.0 採用創新的 Mamba/Transformer 混合架構,突破傳統 Transformer […]