美國國務院近日發布外交電報,揭露一起利用人工智慧(AI)技術冒充國務卿盧比歐(Marco Rubio)的事件。據報導,一名身份不明者於6月中旬在通訊軟體Signal上建立假冒盧比歐的帳號,成功接觸到三位外國部長級人物以及兩名美國高級官員,包括一位州長和一位國會議員。
這名冒充者使用了Marco.Rubio@state.gov的帳號,不僅在至少兩人的語音信箱留下疑似AI生成的語音訊息,還透過文字訊息邀請其中一名目標在Signal上進行對話。國務院電報警告:"行動者可能意在利用AI生成的文字及語音訊息來操縱目標,以獲取敏感資訊或帳號控制權。"
這份日期為7月3日的電報已發送至所有美國外交與領事機構,建議相關人員提醒合作夥伴警惕假帳號和網路詐騙。值得注意的是,當局目前正在調查兩起假冒國務院人員的事件,除了"冒牌盧比歐案"外,另一起始於4月的事件涉及"與俄羅斯掛勾的網路行動者",該行動者透過網路釣魚手法鎖定智庫學者、東歐活動人士、記者及卸任官員的Gmail帳戶。
隨著AI聲音模仿技術日益普及且價格低廉、易於使用,資訊安全專家對此表示擔憂,認為深偽音訊技術可能被廣泛用於假冒或抹黑公眾人物,構成新型安全威脅。此事件也再次引發對高級官員使用非官方通訊渠道處理公務的爭議,此前川普政府官員因類似問題已引起批評。