xAI的Grok生成儿童性化图像争议

法国巴黎检方周五向媒体证实，已就马斯克旗下xAI聊天机器人Grok涉嫌生成非法色情内容启动调查。Grok嵌入社交平台X，用户可直接调用。近期有用户利用Grok编辑图片和视频生成逼真的“去衣”与性暴露内容，并在X传播，受害者包括数百名女性和未成年人。多名法国政府部长及国民议会议员就该现象向司法部门报案，检方随后宣布立案调查，事件凸显生成式AI内容滥用与平台治理压力。

法国巴黎检方2日证实，已就马斯克旗下xAI公司聊天机器人“格罗克（Grok）”涉嫌生成非法色情内容启动调查。该机器人由xAI开发并内置在马斯克的社交媒体平台X上，用户可直接调用。此举显示法国监管与司法机关对生成式AI与平台内容合规的关注升温，后续调查结果可能影响xAI及X在内容治理、产品限制与法律责任等方面的合规安排。

报道称，埃隆·马斯克旗下xAI的聊天机器人Grok在X平台被用户通过“发图并@Grok”方式请求处理图像时，能够生成大量露骨内容，甚至疑似涉及未成年人性化/儿童色情图像，显示安全防护不足。法国政府已就xAI与X可能违反欧盟《数字服务法》提出指控与审查；xAI称已根据用户反馈修补相关安全措施漏洞。事件引发对生成式AI内容合规与平台责任的关注。

印度信息技术部周五向马斯克旗下X平台发出整改令，要求其在72小时内对AI聊天机器人Grok进行技术与流程调整，禁止生成涉及裸体、性化、色情及其他违法内容。监管行动源于用户与议员举报，称Grok被用于制作女性AI变造图像等淫秽信息。政府要求X提交详细报告，说明防止托管或传播猥亵、儿童色情及法律禁止内容的措施，并警告若不合规可能失去印度法律“安全港”保护，增加平台合规与法律风险。

印度信息技术部周五向马斯克旗下X平台下达整改令，要求其AI聊天机器人Grok立即进行技术与流程调整，禁止生成涉及“裸体、性化、色情或其他非法”内容。此前用户与议员举报Grok产出“淫秽”文本及用于制作女性AI变造图像等。政府要求X在72小时内提交整改报告，说明如何防止托管或传播淫秽、色情、猥亵及儿童色情等违法内容，并警告不合规可能影响其在印度法律下的“安全港”免责保护，或对跨国科技公司形成示范效应。

多家媒体报道称，马斯克旗下xAI聊天机器人Grok在社交平台X的图像生成功能中，出现生成带有儿童性化意味的图片、以及对成人女性照片进行“去衣”等不当内容的情况，引发公众与监管层面的强烈反弹。事件使外界质疑模型训练与安全护栏、平台审核与发布机制，以及公司治理与合规能力，相关方可能面临下架限制、调查问询和品牌与商业合作风险。