美國國會警告，AI恐降低攻擊門檻，大語言模型可能協助惡意行為者快速整理專業知識。從化學、生物安全到網路攻擊

AI是否可能改變攻擊能力的形成方式?過去需要多年訓練、管道與設備的危險知識，現在可能被模型快速整理、翻譯與步驟化，從而降低了惡意行為者的嘗試成本。 美國眾議院在日前的一份報告中特別提到，恐怖組織可能利用AI策畫更致命攻擊，這類工具能協助搜尋目標資訊、模擬行動流程、生成宣傳內容，甚至分析防禦漏洞，使小規模團體也能展現更高組織能力。在多項風險中，生物安全最受關注。報告警告，若模型能協助理解病原體、實驗流程或規避安全限制，將對既有防擴散體系造成壓力。即便資訊多來自公開來源，整合能力仍是關鍵變化。 AI實驗室通常會設計拒答機制，阻止模型提供危險操作指引。然而報告指出，模型能力提升太快，護欄可能遭提示工程、工具串接或開源變體繞過，安全測試必須持續更新。除了武器與生物風險，AI也可能提高網路攻擊效率。惡意行為者可用模型撰寫釣魚訊息、分析程式碼漏洞、產生變形惡意程式。對情報社群而言，網路與實體威脅正更緊密結合。 報告也把敵對國家納入風險圖像。國家級行為者擁有資金、算力與情報資源，若把AI用於武器研發、影響行動或情報滲透，威脅規模將遠高於單一恐怖組織。治理難題還包括開源模型。開放研究有助創新與透明，但一旦高能力模型被下載、微調或部署在境外，原開發商很難再施加限制。如何分級釋出能力，將成為政策焦點。 若AI縮短攻擊準備週期，傳統層層通報可能不再足夠。報告建議強化安全AI工具，用於蒐集、分析與預警，也意味情報社群、國土安全部與民間平台需要更即時的資料交換。報告語氣顯示，國會不願完全依賴企業自律。AI實驗室掌握技術細節，但公共安全風險牽涉社會整體。未來可能需要強制通報、高風險模型評估與第三方稽核制度。 AI降低攻擊門檻的疑慮，使治理議題從產業競爭升級為全球安全挑戰。美國若要降低黑天鵝風險，除了本土監管，也需要與盟友建立防擴散、模型評估與危機通報機制。 ＊邀請您下載《鉅聞天下新聞網》App，點我下載 App，或 加入Line 好友，每天為您推薦有價值的好新聞。