聊天机器人“格罗克”因生成色情深伪内容在多国遭调查

马斯克旗下xAI开发、并内置于社交平台X的聊天机器人“格罗克”，近期被指其图像生成与编辑功能可生成真实人物的深度伪造裸露图像，受害者包括未成年人，引发多国谴责与监管介入。法国启动司法调查，印度要求平台删除内容并限期提交整改，欧盟要求X提供信息；印尼、马来西亚临时限制访问，英国依据《在线安全法》调查X履责情况。事件暴露大模型在缺乏约束下被滥用的伦理与治理难题，推动各国加快立法与平台责任落实。

据NPR等媒体报道，美国国防部正考虑在部分工作中采用埃隆·马斯克旗下X平台的聊天机器人“格罗克”（Grok），并在推动“军事AI”加速落地的背景下讨论相关应用场景。与此同时，格罗克因图像与生成能力被指可用于制作传播色情深度伪造内容而在多国引发抗议与监管调查。军方靠近该工具的动向，使外界对涉密数据安全、模型偏见与内容合规责任、以及军备竞争升级的风险再度聚焦。

围绕马斯克旗下X平台的聊天机器人Grok被指可生成并传播真实人物的露骨深度伪造图像，英国在推进新的线上安全与反深伪法律框架之际，已对相关功能与平台治理启动调查。BBC分析指出，新法可能把“防止非法内容扩散”的义务、未成年人保护、用户举报与快速处置机制写入合规要求，违规或遭高额罚款、下架命令乃至访问限制；调查结果也将影响X与生成式AI产品在英国乃至欧洲的运营，并引出美方对监管调查的关切与潜在外交摩擦。