X更新Grok图像生成安全策略

美国社交媒体平台X1月14日表示，将禁止其内置聊天机器人Grok生成基于真人的伪造性暴露图像，禁令覆盖包括付费用户在内的所有用户，并对未成年人性侵害及未经当事人同意的裸露内容实行“零容忍”，将清除违规内容并处置相关账号。当天早些时候，加州总检察长邦塔宣布就马斯克旗下xAI及Grok涉嫌生成并传播涉及女性和未成年人的不雅色情图像展开调查，关注“热辣模式”等功能被滥用导致深度伪造内容扩散的风险。

香港个人资料私隐专员公署表示，留意到人工智能聊天机器人Grok可能被用作生成不雅或恶意照片及影片，相关情况已在多个司法管辖区引起关注，公署正主动联络相关机构了解。公署提醒市民，向AI提供个人资料以生成内容须遵守《个人资料（私隐）条例》及保障资料原则；不当或恶意使用可能违反私隐法规，甚至触犯其他刑事罪。公署并呼吁勿轻易与AI分享自己或他人个人资料，使用他人资料应先取得明确同意，切勿生成儿童色情等非法内容，并慎防侵权、歧视或偏见的生成内容。

研究指出，xAI旗下X平台聊天机器人Grok被用于生成大量非同意性的“脱衣”深伪图像，1月5-6日样本显示其每小时可生成约6700张，且约85%带有性暗示内容，引发法国、英国、印度、澳大利亚等多国关注与调查。X随后更新Grok账户图像生成安全策略，限制对真实人物暴露着装（如比基尼）图像的编辑，并将相关功能收紧为付费订阅用户可用；在相关内容受法律禁止的司法辖区实施地理封锁。X称将对儿童性剥削及未经同意裸露内容“零容忍”，删除违规材料并在必要时向执法机构提供账户信息。

在多起投诉与舆论反弹后，社交平台X表示将限制其xAI聊天机器人Grok的图像生成功能，防止用户利用“脱衣/去衣”等提示把真实人物照片生成裸露或性露骨的深伪图像。相关报道称该能力曾被用于制作和传播非自愿色情内容，并引发受害者、媒体及监管层关注。X称将收紧内容安全策略、加强拦截与处置，降低平台滥用与侵权风险。