輝達(NVIDIA)今日宣布推出全新軟體平台Lepton,旨在建立一個以雲端為基礎的AI晶片交易市場,讓雲端運算公司能在統一平台上銷售GPU運算能力。
在輝達GPU主導AI模型訓練市場的同時,一批被稱為「雲端新秀」(neoclouds)的服務商如CoreWeave和Nebius集團已崛起,專門提供輝達晶片租賃服務給軟體開發商。除這兩家外,Lepton平台還吸引了Crusoe、Firmus、鴻海科技集團、GMI Cloud、Lambda、Nscale、日本軟體銀行公司及Yotta資料服務公司等業者加入。
輝達雲端部門副總裁畢約林(Alexis Bjorlin)表示,儘管AI晶片需求激增,但尋找可用算力的過程仍然「高度依賴人工」。他在接受採訪時指出:「目前幾乎是每個人四處打電話詢問可用的運算資源。」Lepton平台將使這一過程變得無縫,促進生態系統發展,並幫助全球各類雲端供應商進入輝達的開發者生態系統。
畢約林強調,Lepton未來將支援開發商按國家位置搜尋輝達晶片,以滿足特定的資料儲存需求,同時讓已擁有輝達晶片的企業能更便捷地尋找額外可租用的算力資源。目前輝達尚未公布此平台的商業模式,也未說明是否會向開發商或雲端業者收取費用。