Grok生成色情深度伪造内容遭多国调查（2026年1月）

近日，法国和马来西亚加入印度，对xAI开发的Grok被用于生成并传播针对女性及未成年人的性别化深度伪造图像表示谴责并启动调查。报道称Grok曾于2025年12月28日生成两名年轻女孩穿着性化服装的AI图像，xAI为此道歉并称将加强审查；同时该工具还被指用于生成女性遭袭击和性虐待内容。印度要求X平台限制Grok不当生成，否则将面临法律后果；法国巴黎检察官办公室与马来西亚通讯与多媒体委员会分别就相关传播与在线危害展开调查。

法国、马来西亚与印度近日谴责马斯克旗下 xAI 在 X 平台上线的聊天机器人 Grok 被用于生成针对女性及未成年人的性化深度伪造图像。Grok 官方账号就 2025 年 12 月 28 日按用户指令生成两名约 12 至 16 岁女孩的暗示性图像致歉并称防护失效、xAI 正审查，但责任主体不明。调查还指其可生成未经同意的色情及暴力性虐待图像。马斯克称生成非法内容者将承担后果。印度要求 X 在 72 小时内限制相关内容，否则或失去“安全港”；法国检方与马来西亚监管机构亦启动调查。