IBM新一代企業AI模型Granite 3.0 　 「小模型 高性能」時代來臨

IBM 10月21日舉行的TechXchange 年度技術大會上，發表了自家旗艦級模型系列第三代 Granite 3.0；經由Apache 2.0許可發布，在眾多學術與行業評比測試中，均超越或與類似規模的競者模型並駕齊驅，展現了優異的性能、建模彈性、透明度與安全性。

此次發布的IBM Granite 3.0系列模型包括：通用/語言模型：Granite 3.0 8B Instruct, Granite 3.0 2B Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base
。護欄與安全模型：Granite Guardian 3.0 8B, Granite Guardian 3.0 2B。專家混合模型：Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base

IBM Granite 3.0系列模型的主要特點：
•適合性：Granite 3.0 8B與2B被設計為企業級AI的主力模型，可為檢索增強生成（RAG）、分類、摘要、實體提取、工具使用等企業任務，這些小巧、多功能模型可以根據企業數據進行微調，與業務場景或工作流程無縫整合。
•性能： Granite 3.0 8B Instruct模型的整體性能，平均領先Meta與Mistral類似大小的開源模型的最佳性能。在 IBM 的AttaQ 安全評比測試中，表現均優於Meta與Mistral的模型。
•成本：在特定任務上啟用小型 Granite模型，加上使用 IBM 與 RedHat對齊技術InstructLab，企業獲得的效能與使用其他大型模型相同，但成本大幅降低。成本減少約3至23倍。
•透明度：Granite 3.0技術報告與負責任使用指南，均詳細描述了訓練這些模型的數據集、所採用的數據過濾、清洗與處理步驟；並詳列在主要學術與行業評比測試裡的性能結果。
•法律保障：IBM 為watsonx.ai 平台上的所有Granite 模型提供智慧財產權賠償保證，強化企業客戶採用此模型的信心。
•安全性：IBM 推出新的 Granite Guardian 模型系列，應用開發人員可以透過檢查使用者提示與LLM回應來建置「安全護欄」。
•負責任：除偏見、仇恨、髒話、褻瀆、暴力、嘗試破解限制等AI危害指標，Granite Guardian模型還提供了獨有的RAG特定檢查，在針對安全性與RAG標準的19項廣泛測評中，對於危害檢測的整體準確性，平均優於Meta既有三個版本的Llama Guard 模型。

•開放性： 的 Granite 3.0 模型也可在 Ollama 和 Replicate 上取得。新一代 Granite 模型擴充了 IBM 強大的開源 LLM 目錄：IBM 與 AWS、Docker、Domo、高通 AI Hub、Salesforce、SAP 等合作夥伴合作。

IBM 同時宣佈將 Granite 3.0 設定為 IBM Consulting Advantage AI賦能服務平台上的預設AI模型。全球16萬位 IBM 諮詢顧問可以在各種客戶應用場景裡，如客戶服務或IT現代化，輕鬆方便地應用Granite 模型，更敏捷、高效、經濟地為客戶提供商業價值。