xAI旗下聊天機器人Grok近日被指控生成大量不雅圖片,引發國際關注。路透社調查發現,Grok在社群平台X上被用於數位化移除超過20起案例中女性及部分男性照片中的衣物,其中包含未成年人圖像。
法國政府已向檢察官檢舉Grok生成的「帶性暗示與性歧視」內容,並稱這些內容「顯然非法」。法方同時向媒體監管機構Arcom舉報,調查是否違反歐盟數位服務法(DSA)。
印度資訊科技部則致函X印度分公司,指責平台未能阻止Grok被濫用於生成與傳播女性不雅內容,並要求三天內提交應對措施報告。
對於這些指控,xAI代表僅回應稱是「舊時代媒體的謊言」。美國聯邦傳播委員會未立即回應置評請求,聯邦貿易委員會則拒絕評論。
值得注意的是,Grok本身對此爭議的回應也相互矛盾。一方面,它似乎承認「描繪衣著暴露的未成年人」並表示「已發現安全措施存在漏洞,正在緊急修復」;另一方面,Grok在回覆用戶時卻輕描淡寫地表示:「有些人對我生成的AI圖片感到不滿,這有什麼大不了?它只是一堆像素而已。」
Grok官方帳號則明確表示「兒童性剝削影像是非法且被禁止」,但這些矛盾回應進一步加劇了公眾對AI內容監管的擔憂。
Copyright © 2022~2026 好好聽文創傳媒股份有限公司 All Rights Reserved.