Grok深偽「脫衣」風波擴大！多國啟動調查　平台責任與法律灰區浮現

記者蔡曉容／綜合報導

馬斯克旗下xAI的Grok引發國際反彈。近期有用戶利用 Grok 的影像生成功能，將照片中人物「脫衣」，部分生成未經同意的性化影像，受害照片包含未成年人。這些作法違反xAI的使用政策，該政策明文禁止性化他人影像及任何兒少性剝削內容。

《商業內幕》報導，法國檢方已就Grok深偽影像的擴散展開調查，非法散布深偽色情影像在當地最高可處兩年徒刑。印度電子與資訊科技部則致函X，要求平台全面檢視技術與治理機制，並下架所有違反印度法律的影像。英國婦女受暴議題部長Davies-Jones 也點名馬斯克，要求他採取行動，強調「Grok一分鐘就能替數百名女性脫衣」，並呼籲立法將深偽色情列為可處罰的犯罪。

廣告 更多內容請繼續往下閱讀

有用戶在X上貼出疑似Grok生成未成年性化圖像的截圖後，Grok官方帳號回應稱「已發現安全機制漏洞並緊急修補」，但未說明訊息是否經人工審核。官方坦承存在「少數案例」成功生成未成年裸露或近似裸露影像，並表示正強化阻擋機制。外媒指出，Grok在8月推出的「spicy mode」允許生成 AI 女體色情影像，訓練人員也透露曾遇到用戶要求AI生成兒少性虐待內容。

AI 深偽影像正成為各國執法與平台治理的難題。美國《Take It Down法案》可處理非自願深偽影像，但對成年人僅限於包含生殖器或性行為的影像；對未成年則更嚴格。多州也已通過更嚴密的深偽法規。不過平台是否需負責仍存在法律灰區，因《通訊端正法》第230條多半豁免平台對用戶內容的責任。有律師指出，若 AI 工具有「共同創作」之嫌，平台可能失去豁免，呼籲建立更清晰的法律途徑追究責任。

廣告 更多內容請繼續往下閱讀