Google Cloud近日宣布將於未來數週推出第7代自研張量處理單元(TPU)晶片Ironwood,藉此擴大在人工智慧(AI)市場的影響力,特別是在客製化晶片需求日益增長的領域。
根據Google Cloud官方部落格,目前包括Google自家的Gemini、Veo、Imagen以及AI新創Anthropic的Claude等先進模型,均在TPU晶片上進行訓練與服務提供。隨著企業焦點從模型訓練轉向追求與模型間更實用且靈敏的互動,新一代TPU的推出正好迎合這一趨勢。
Google已研發TPU晶片長達10年,與前代TPU v6e(Trillium)相比,Ironwood在訓練與推論工作負載上的效能提升超過4倍。值得注意的是,Anthropic計劃使用100萬個TPU來運行其Claude模型。
在部署方面,TPU系統會將獨立晶片相互連結形成Pod(叢集內的執行個體),使這些互連的TPU能作為單一運算單元運作。新推出的Ironwood superpod能在單一網域中連接9216個TPU晶片,Google Cloud聲稱這將有效解決「對性能要求最高的模型資料瓶頸」問題。
研調機構集邦科技已將2025年全球8大主要雲端服務業者(包括美系的Google、AWS、Meta、Microsoft、Oracle及中系的Tencent、Alibaba、Baidu)的資本支出總額年增率從61%上修至65%。預計2026年合計資本支出將進一步增至6000億美元(約新台幣18.6兆元)以上,年增40%,顯示AI基礎建設具有長期成長潛力。
Copyright © 2022~2026 好好聽文創傳媒股份有限公司 All Rights Reserved.