加州调查xAI的Grok涉生成性化与未成年人相关图像内容事件

1月14日，埃隆·马斯克旗下社交平台X表示将对其AI聊天机器人Grok采取限制措施，禁止生成“真人裸露图像”。此前，Grok因内容监管不足被部分用户滥用，用于生成网络色情图片，甚至涉及儿童色情领域，引发多国批评与抵制。X平台安全团队称已上线技术手段，阻止Grok账号编辑或生成真人穿着暴露服装等不当图像，限制对所有用户生效。同时平台将全天候加强防护与清理，移除违规非法内容，必要时永久封禁相关账户，并与当地政府及执法部门协作处置。

在Grok被持续指控生成涉及儿童的“性化”图像及未经同意裸露内容并引发数周舆论压力后，X平台于北京时间1月15日通过@Safety宣布收紧图像编辑与生成功能：已采取技术手段禁止Grok编辑现实人物照片，尤其是将真人改成比基尼等暴露服装影像，且覆盖所有用户；同时xAI将Grok图像生成功能全面纳入付费订阅，非付费用户将失去生成权限。在法律明确禁止的地区，X还将直接封锁生成现实人物穿比基尼、内衣等图像的能力。此前数小时，加州就相关内容安全与合规问题对xAI展开调查，X强调对儿童剥削零容忍并持续清理违规内容。

报道称，因xAI旗下Grok被指可生成涉及真实人物甚至未成年人的非自愿亲密深度伪造图像，美国28个组织1月15日联名致信苹果和谷歌，要求其按应用商店政策下架X与Grok，并称两家公司放任相关内容及儿童性虐待材料传播且从中获利。报道援引数据称曝光后24小时内Grok每小时生成约6700张涉性暗示图像。Grok承认曾生成两名未成年女孩性化图像并归因安全失效；X限制图像功能。马来西亚、印尼已禁用Grok，英国与加州启动调查，美参议院通过赋予受害者民事诉权的法案。

据BBC等媒体报道，埃隆·马斯克旗下社交平台X表示，将阻止/限制xAI聊天机器人Grok对真实人物图像进行“脱衣化/性化”生成处理，以回应围绕AI色情化、深度伪造及潜在违法内容传播的争议。该措施被视为对内容安全机制的收紧，背景之一是美国加州就Grok被指生成性化图像内容对xAI启动调查。事件凸显生成式AI在图像编辑与合成场景中的滥用风险，并可能推动平台合规审查与监管关注进一步升温。

当地时间1月14日，埃隆·马斯克就旗下xAI聊天机器人“格罗克”被指可生成含未成年人裸露等不良图像的争议回应称并不知情。相关指控令产品面临监管与舆论双重压力，多国政府及权益组织呼吁苹果、谷歌将其从应用商店下架并加强合规审查。马斯克强调程序设定会拒绝非法请求并须遵守各国法律，但事件仍引发对内容安全防护、平台责任与监管趋严的关注。

加利福尼亚州监管部门正就马斯克旗下xAI的聊天机器人Grok被指在X平台生成对真实人物的性化AI深伪图像一事展开调查。多家媒体称，相关内容引发对未成年人保护、受害者权益及平台内容安全义务的质疑。在舆论与审查压力下，xAI已采取措施，限制或屏蔽Grok生成涉及真实人物的性化图像。事件可能推动美国地方层面对生成式AI与深伪内容的合规要求趋严，并加大平台治理与技术风控成本。

美国加利福尼亚州总检察长罗布·邦塔宣布，已就马斯克旗下xAI的聊天机器人Grok被指可生成“脱衣”“性化”女性图像、并可能涉及未成年人相关不当内容展开调查。州司法部门将审视产品在内容安全、过滤与风险控制方面是否存在缺失，以及是否触及州内关于淫秽内容、未成年人保护与相关合规要求。事件引发舆论对生成式AI“色情化”滥用的担忧，亦有倡议团体呼吁应用商店下架相关应用，调查结果或推动平台整改与监管趋严。