追劇
好好聽文創
好享買
立足台灣 放眼天下
立足台灣 放眼天下
根據反數位仇恨中心（CCDH）最新研究報告，Grok AI 的圖片編輯功能在短短 11 天內疑似生成約 300 萬張涉及女性的性化圖像，其中包含約 2.3 萬張疑似未成年者的不當內容，引發全球監管機構與社會團體的高度關注。
研究指出，這些深偽（Deepfake）內容多透過簡單文字指令產生，如要求替照片人物更換衣著或移除服裝。平均每分鐘可產出近 190 張高度擬真的深偽圖片，被相關單位形容為接近「系統化不當內容製造」的風險等級。
受影響對象不僅限於一般網路使用者，還包含 Taylor Swift、Selena Gomez 等多名公眾人物。面對外界批評，X 平台表示已在部分地區採取「地理限制」措施。然而，菲律賓、馬來西亞與印尼等國已陸續對 Grok 進行封鎖或嚴格限制，美國加州總檢察長也已展開調查，評估是否違反州法與兒童保護規範。
儘管 xAI 對外界指控提出反駁，但在監管與輿論壓力下，已同意在部分市場調整 Grok 的圖像編輯能力，以降低生成違規內容的風險。此事件再次凸顯生成式 AI 在創作自由與安全防護之間，仍存在明顯的制度與技術缺口有待補強。
好好聽文創傳媒股份有限公司
聯絡信箱：[email protected]
公司地址：114 台北市內湖區舊宗路二段 169 號 1 樓
統一編號:83643205
版權所有，非經授權，不許轉載本網站內容
電話:02-7709-9365
Copyright © 2022 好好聽文創傳媒股份有限公司 All Rights Reserved.
