美國加州州長紐松(Gavin Newsom)日前否決了一項旨在限制未成年人使用AI聊天機器人的重要法案。該法案原本規定,企業必須確保AI聊天機器人不會與未滿18歲用戶進行性話題對話或鼓勵自殘行為,否則不得向未成年人開放此類技術。
紐松表示,雖然他支持為未成年人設立AI使用安全防護的目標,但認為該法案對對話式AI工具的限制過於廣泛,可能導致未成年人完全無法使用這些產品。值得注意的是,在否決該法案的同一天,紐松簽署了另一項新法案,要求平台每3小時提醒未成年用戶一次他們正在與AI聊天機器人而非真人互動,並建立預防自殘內容的機制。
身為4個未成年子女的父親,紐松強調加州有責任保護越來越依賴AI聊天機器人的兒童和青少年,這些未成年人從學業協助到情緒支持都可能仰賴這些工具。然而,「常識媒體」(Common Sense Media)創辦人暨執行長思特爾(James Steyer)對紐松的決定表示深感失望,認為被否決的法案對保護兒童及青少年遠離危險AI聊天機器人極為必要。
加州是今年美國幾個致力回應兒童與AI聊天機器人互動安全疑慮的州之一,這些法案是加州立法機關為約束發展迅速但缺乏監管的AI產業所提出的一系列措施的一部分。
Copyright © 2022~2026 好好聽文創傳媒股份有限公司 All Rights Reserved.