Back to Feed
总结
马斯克1月15日称自己“并不知晓”xAI聊天机器人Grok生成过任何未成年人裸体图像。数小时后,加州检察长办公室宣布就平台上未经同意的性露骨材料泛滥对xAI展开调查,拟核查是否违法及违法方式。报道指X平台用户曾借Grok将真实女性乃至儿童照片篡改为性化图像,内容治理平台估算此类图像发布量极高。事件引发英国、欧洲及东南亚多国监管压力,马斯克则将其归因于用户恶意指令并称可通过修复漏洞解决。
正文
IT之家 1 月 15 日消息,埃隆 · 马斯克于当地时间周三表示,他"并不知晓 Grok 生成过任何未成年人裸体图像"。而就在数小时后,加利福尼亚州检察长办公室已针对人工智能公司 xAI 旗下的这款聊天机器人展开调查,调查事由是其平台上"未经同意的性露骨材料泛滥"。 此番马斯克出面否认之际,xAI 正面临来自全球多国政府的压力,从英国、欧洲到马来西亚、印度尼西亚,各国监管部门均已纷纷介入。此前,社交平台 X 的部分用户利用 Grok,在未经本人同意的情况下,将真实女性乃至儿童的照片篡改生成性化图像。据人工智能检测与内容治理平台 Copyleaks 估算,X 平台上平均每分钟就有一张此类图像发布。另有一份 1 月 5 日至 6 日的抽样数据显示,24 小时内该类图像的发布量达到每小时 6700 张。(IT之家注:X 平台与 xAI 同属一家公司。) 加州检察长罗布 · 邦塔在一份声明中指出:"此类不良内容已在互联网上对多人实施骚扰。我敦促 xAI 立即采取行动,确保这种情况不再继续。" 加州检察长办公室将着手调查 xAI 是否存在违法行为,以及具体的违法方式。 在相关乱象曝光数日后,马斯克非但未严肃对待,反而戏谑性地要求 Grok 生成自己穿比基尼的图像。1 月 3 日,X 平台的官方安全账号发布声明称,公司会"对平台上的非法内容(包括儿童性虐待内容)采取处置措施",但对 Grok 明显存在的安全防护漏洞,以及针对女性的性化篡改图像问题却避而不谈。 这一表态与马斯克当日发布的内容如出一辙,马斯克在帖子中写道:"我并不知晓 Grok 生成过任何未成年人裸体图像,绝对一张都没有。" 马斯克在帖子中称:"显然,Grok 不会主动生成图像,它仅会根据用户指令行事。在处理图像生成请求时,它会拒绝制作任何违法内容,因为 Grok 的运行原则是遵守各国及各州的法律规定。不排除存在恶意用户通过指令'破解'系统,导致意外情况发生的可能。一旦出现此类问题,我们会立即修复漏洞。" 综合来看,马斯克的这条帖子将相关事件定性为偶发个案,归咎于用户的不当请求或恶意指令攻击,并将其描述为可通过技术修复解决的问题,却始终未承认 Grok 在底层安全设计上存在的缺陷。
发布时间: