趨勢科技近日發布最新研究報告,揭示深偽(deepfake)技術在網路犯罪領域的快速發展與成熟應用。隨著生成式AI工具變得更加強大、經濟且易於取得,犯罪集團正迅速將這些技術整合到各類攻擊中,包括商業詐騙、勒索和身分盜用等。
該報告強調,深偽技術已從概念性威脅演變為實際的攻擊手段,不僅破壞了人們對數位媒體的信任,也使企業面臨前所未有的風險,同時加速了駭客集團商業模式的發展。
趨勢科技資深威脅研究員David Sancho表示:「AI生成的媒體不僅是未來的風險,更是當前的商業威脅。我們已經看到企業高階主管被冒充、招募流程被入侵,以及金融安全機制在這些技術面前顯得脆弱。在一個視覺證據不再可靠的時代,數位信任需要全面重建。」
研究發現,現今犯罪者不再需要專業的駭客技能就能發動有效攻擊。他們只需使用針對內容創作者設計的現成平台,就能製作出足以欺騙個人和企業的逼真深偽內容。這些工具不僅價格實惠、操作簡便,而且越來越能突破身分驗證系統與安全控制。
報告指出,這些深偽技術已被廣泛應用於多種詐騙場景:駭客利用深偽音訊或視訊冒充高階主管參與企業線上會議;利用AI生成虛擬應徵者通過面試以獲取企業內部系統存取權限;以及使用深偽技術繞過金融服務公司的KYC真人驗證,進行匿名洗錢活動。
趨勢科技警告,犯罪地下市場正積極販售相關教學指南、工具和服務,大幅降低了實施這類攻擊的門檻。面對日益增加的深偽詐騙,企業應採取積極措施降低風險,包括加強員工對社交工程風險的認識、重新評估認證流程,以及探索合成媒體偵測解決方案,以保護內部人員和業務流程。