Grok关闭免费图像生成功能并引发调查

美国多名民主党参议员近日致信苹果CEO库克与谷歌CEO皮查伊，要求其应用商店下架X平台及其AI聊天机器人Grok，称Grok被用于生成真实女性及儿童的性暗示图像，涉嫌违反两家公司禁止色情与非自愿性内容的规定，并将削弱应用商店安全承诺。X方面回应称已将Grok图像生成功能限制为付费用户专用，承诺封禁违规账号并配合执法打击非法内容，但报道称马斯克仍抵制增加更多安全限制。参议员要求两家公司在1月23日前回复，英国政府也在考虑对X采取禁令措施。

在多起争议与舆论反弹后，社交平台X收紧了其AI图像生成相关功能与权限，试图遏制被用于生成非同意性、带性暗示的真人图像与深伪内容。多家媒体称，xAI旗下Grok在平台端受到限制，但独立的Grok应用仍可生成涉及真实人物的性化深伪，引发对未成年人保护、受害者救济与内容追责的担忧。英国等地官员与监管机构也被报道正评估对X采取更严厉措施或限制的可能性。

据NBC等媒体报道，美国多名参议员敦促苹果与谷歌将社交平台X及其关联的Grok从应用商店移除，称相关AI工具被用于生成并传播针对真实人物的性化深伪图像，带来隐私侵害与现实伤害风险，并质疑平台与应用分发方的审核责任。该争议同时在英国发酵，政府要求监管机构在数日内就是否限制或禁用X作出决定，显示生成式AI滥用治理正从平台规则延伸至应用商店“把关”与跨国监管协同，可能迫使相关公司收紧图像生成与内容处置机制。

英国首相府1月9日就马斯克旗下xAI聊天机器人“格罗克”被指在社交平台X上生成真实人物的虚假性暴露内容一事表示，将相关图像生成与编辑功能改为仅付费用户可用，对受害者是“侮辱性”的做法，且并非解决方案，只是把可能产生非法图像的能力变成高级服务。报道称此调整发生在英国通信管理局称已与X“紧急联系”之后；首相斯塔默此前也批评事件“令人不齿、作呕”，要求企业控制局面。

据《商业内幕》1月9日报道，色情照片门争议后，X平台已将Grok的AI图像生成/编辑能力在平台内收缩为仅向付费订阅用户开放，相关提示称功能仅限订阅者使用，并意味着平台可留存付费用户姓名与付款信息以便追溯。此前Grok被用于在未经同意情况下对真实人物进行性化处理，甚至有未成年人图像突破防线，引发政府与监管机构施压。英国首相斯塔默批评此举只是把可能生成非法图像的能力变为付费服务；xAI未就质疑作出实质回应。马斯克称制作非法内容者应承担与上传者同等后果，X强调对儿童性剥削“零容忍”。

多家媒体称，马斯克旗下xAI的聊天机器人Grok在X平台的图像生成功能被用于生成对真实人物的性化合成图，涉嫌非同意性深伪，引发公众愤怒与受害者维权呼声。报道指出，X将相关功能从免费转为付费订阅并被质疑“收费修补”滥用问题。英国政府要求监管机构在数日内评估是否限制或禁用X，相关官员也在对外沟通中提及平台深伪泛滥。事件凸显生成式AI与平台在内容审核、追责及隐私保护上的监管压力。

研究人员对1月5日至6日24小时数据分析称，xAI旗下聊天机器人Grok被用于生成大量非同意性“脱衣”深伪图像，速度约每小时6700张，且约85%带性暗示内容，远高于其他同类网站。事件引发强烈抗议并波及公众人物家属，多国政府（法国、英国、印度、澳大利亚等）介入调查。X平台随后对绝大多数用户关闭Grok图像生成功能，仅向付费订阅者开放，以便在滥用时通过账号与支付信息追溯身份。

英国媒体监管机构Ofcom被议员与倡议者敦促动用其“禁令”权力，针对社交平台X上由xAI聊天机器人Grok生成的非同意性“脱衣/性化”深伪图像采取下架或封禁措施。争议源于该工具可将真实人物照片生成裸露影像，引发受害者与政府批评，并促使X收紧图像生成权限；美国民主党人亦要求苹果和谷歌审查并将相关应用从商店移除。事件凸显生成式AI滥用风险与平台合规监管压力上升。

多家媒体称，xAI旗下聊天机器人Grok在X平台被用于生成真实人物的“脱衣”深伪和性化图像，引发公众愤怒与对非自愿色情的担忧。英国首相表示政府“将采取行动”，副首相亦就深伪内容激增与平台治理问题向相关方施压，并要求监管机构尽快评估是否需要采取限制、整改或处罚等措施。相关报道还提到，平台将图像生成功能转向付费订阅并声称可追溯滥用者，但批评者认为未从源头解决问题。事件凸显生成式AI被滥用时的责任界定、内容审核与受害者救济难题。