IBM 推出 Granite 3.2 大語言模型,體現 IBM 發展企業專用、小型、高效與實用 AI 的策略。
所有 Granite 3.2 模型均採用寬鬆的 Apache 2.0 開源授權條款,可在 Hugging Face 下載。部分模型現已在 IBM watsonx.ai、Ollama、Replicate 和 LM Studio 上提供,預計不久將支援 RHEL AI 1.5,為企業與開源社區注入更強大的 AI 能力。
IBM 持續推動企業專用的小型 AI 模型策略,並已在測試中展現高效能。例如,Granite 3.1 8B 模型在 Salesforce 大型語言模型CRM基準測試中獲得高分,顯示其在實際應用中的準確度和可靠性。
IBM Granite 模型家族擁有廣大的合作夥伴生態體系,許多領先的軟件公司已將Granite模型嵌入其技術。Granite 3.2 是 IBM 在推動企業專用小型 AI 方面的重要進展,體現了 IBM 致力於提供小型、高效、實用 AI 的產品策略。
CrushBank 首席技術官 David Tan表示:「在 CrushBank,我們親眼目睹了 IBM 開放、高效的人工智能模型如何為企業人工智能帶來真正的價值--在性能、成本效益和可擴展性之間實現適當的平衡。Granite 3.2 通過新的推理功能更進一步,我們很高興能在構建新的代理(智能體)解決方案時探索這些功能。」
Granite 3.2 是 IBM 產品組合和戰略發展的重要一步,旨在為企業提供小型實用的 AI。雖然思維鏈在推理任務中表現強大,但它需要大量計算資源,並非所有任務都必須啟用。因此,IBM 在 Granite 3.2 模型中加入了程式化開關功能,使用者可以根據需求開啟或關閉推理模式;模型可在不啟用推理的情況下運行較簡單的任務,以降低不必要的計算成本。
此外,其他推理技術(例如推理擴展 Inference Scaling) 已顯示 Granite 3.2 8B 模型能夠在標準數學推理基準測試中,媲美甚至超越更大模型的性能。持續發展這項推理技術也是 IBM 研究團隊的重點方向[4],以進一步提升 AI 的效能與應用範圍。
IBM AI 研究副總裁 Sriram Raghavan 表示:「AI 的下一個時代將聚焦效率、整合與實際應用的影響力 — 企業應該能夠在不過度消耗計算資源的情境下,取得強大的 AI 效益。IBM 最新的 Granite 模型發展專注於開放式解決方案,逐步推動 AI 的普及,使其更具成本效益,為現代企業創造更大價值。」
IBM 是全球領先的混合雲與人工智能、以及企業服務提供商,為全球175個國家和地區的客戶服務,幫助企業把握其數據洞察、簡化業務流程、降本增效,獲得行業競爭優勢。 IBM 混合雲平台和紅帽OpenShift 為全球超過4,000家政府和企業機構的關鍵性基礎設施提供有力支撐,例如來自金融服務、電訊和醫療健康等行業的客戶,幫助他們快速、高效、安全地實現數碼轉型。 IBM 在人工智能、量子運算、特定行業的雲解決方案以及企業服務等方面的突破性創新,使其可以為客戶提供開放和靈活的選擇。 IBM 對信任、透明、責任、包容和服務的歷久彌新的承諾,是我們業務發展的基石。查詢更多資料,請瀏覽:www.ibm.com/