「任何單一 AI 模型,無論訓練得多麼完善,只要模型訓練所依據的世界發生變化,誤差便會開始累積。」Allora Labs 首席科學家兼論文作者 Diederik Kruijssen 博士表示。「這是資訊理論上無法避免的效能上限。我們證明,由刻意多樣化的模型組成的群體能突破這一上限,原理與生物物種在環境變化中存活相同。它們具備既有變異,其中一些更適合環境變化後的世界。」
這項關鍵洞見直接源自演化生物學。在自然界,物種透過突變維持基因多樣性。大多數突變對個別生物有害,但族群會因此受益,因為當環境轉變時,部分變異可能恰好適應新的條件。這項研究證明,同一原則也適用於 AI 模型群體:每個突變模型單獨來看表現較差,但當環境發生變化時,突變群體中的最佳模型在約 80% 的情況下能勝過經優化群體中的最佳模型。
「個體不完美促成集體適應的理念,在演化理論中早已確立;但能以數學保證的方式,在人工系統中將這一理念形式化,實在是重大進展。這項研究為我們思考 AI 在不斷變化環境下的穩健性,開拓了全新維度。」 —— Steven Longmore 教授,Liverpool John Moores University,AI 驅動的生物多樣性保育
Allora Labs 行政總裁 Nick Emmons 談及這項研究時表示:「隨著 AI 系統部署於金融市場、醫療保健、自動駕駛汽車及其他不斷變化的環境,無法適應不斷變化的條件,已成為它們最主要的失效模式。目前大部分 AI 研究都集中於讓單一模型變得更大、更快。我們認為,更大的提升空間在於模型群體之間如何互動及演化,而這項研究證明,這正是正確的思考方向。」
「我們所認為的智能特質,例如原創性、適應能力及創造力,都要求具備在前所未遇的條件下保持良好表現的能力。」Kruijssen 博士表示。「現有 AI 模型做不到這一點。它們只能複製已學到的內容,卻無法適應未知。不斷演化的模型群體則能做到。這正是本研究所展示的結果,也是演化數十億年來一直在做的事情。」
論文列出多個未來研究方向,包括透過微調方法將自然缺陷原則應用於大型語言模型、將其延伸至去中心化 AI 網絡,以及開發一套可自動調節突變強度的控制器演算法,而無需預先掌握環境將如何變化。Kruijssen 博士補充:「這樣的成果將帶來眾多後續研究方向。我們團隊已建立一套控制器,讓這項原則能在實際應用中發揮作用;多項具體應用的研究工作亦已展開。」
關於 Allora Labs
Allora Labs 是 Allora Network 的主要開發貢獻方。Allora Network 是一個去中心化 AI 推理網絡,善用遍佈全球的機器學習模型社群,實時生成高度準確且具情境感知能力的預測。Allora Labs 由行政總裁 Nick Emmons 創立,研究範疇涵蓋群體智能、模型協調及推理合成。公司已與 AWS、Alibaba Cloud、Saudi Telecom 及 Vodafone's Pairpoint 等機構建立合作,並獲 Polychain、Framework、Blockchain Capital 及 CoinFund 等投資者支持。詳情請瀏覽 alloralabs.xyz 及 allora.network。
關於 Allora Decentralized Intelligence
Allora Decentralized Intelligence(ADI)是一份學術研究期刊,專門發表去中心化機器智能、模型協調及群體智能領域的創新研究。ADI 由 Allora Labs 首席科學家 Diederik Kruijssen 博士創辦並領導。他是一名 AI/ML 研究員及天體物理學家,擁有逾 20 年在研究、科技、金融及 web3 領域從事尖端量化建模的經驗,並發表超過 300 篇經同行評審的學術論文。