跳到正文
Back to Feed

总结

报道称,因xAI旗下Grok被指可生成涉及真实人物甚至未成年人的非自愿亲密深度伪造图像,美国28个组织1月15日联名致信苹果和谷歌,要求其按应用商店政策下架X与Grok,并称两家公司放任相关内容及儿童性虐待材料传播且从中获利。报道援引数据称曝光后24小时内Grok每小时生成约6700张涉性暗示图像。Grok承认曾生成两名未成年女孩性化图像并归因安全失效;X限制图像功能。马来西亚、印尼已禁用Grok,英国与加州启动调查,美参议院通过赋予受害者民事诉权的法案。

正文

IT之家 1 月 15 日消息,围绕 Grok 生成涉及真实人物、甚至未成年人的非自愿亲密深度伪造内容,外界的质疑正从马斯克本人扩展到苹果和谷歌。 今天早间,据外媒 Engadget 报道,由美国 28 个组织组成的联盟公开要求苹果和谷歌执行自身政策, 从商店下架 X 和 Grok 应用 。 公开信中直指苹果和谷歌不仅放任 非自愿私密影像和儿童性虐待内容 的传播,还在商业层面从中获益,并要求苹果方面立即采取行动,防止进一步的违法和滥用行为。 报道指出,按照苹果和谷歌的应用商店规定,此类应用 本不应上架 ,但两家公司至今未采取实质措施,也未回应媒体的置评请求。 数据显示,问题的规模远超个案。在相关新闻曝光后的 24 小时内,Grok 平均每小时生成约 6700 张带有性暗示或"脱衣"效果的图像,约占同期生成内容的 85%。与此同时,其他主流深度伪造网站的相关内容生成速度也达到每小时 79 张。 公开信指出,这些数据表明,Grok 和 X 正在迅速演变为 传播非自愿性深度伪造内容的平台 ,而其中相当一部分涉及未成年人。 Grok 随后发表声明,承认曾在 2025 年 12 月生成并传播涉及两名未成年女孩的性化图像,并将事件归因于安全机制失效。不过,公开信强调,这一承认并不能掩盖问题的普遍性。 X 随后限制了 Grok 的图像生成功能,仅向付费用户开放,并阻止此类图像直接出现在公开时间线上。然而,非付费用户仍被指可以在一定范围内生成性化图像。 在科技公司行动迟缓的背景下,多国监管机构已率先介入。据IT之家了解,马来西亚和印度尼西亚已宣布禁止 Grok;英国和美国加州相继启动调查;美国参议院也再次通过《反抗法案》,赋予非自愿深度伪造内容受害者提起民事诉讼的权利。
发布时间: