跳到正文
Back to Feed

总结

印尼与马来西亚监管机构在1月9日至10日先后发布命令,要求在本国范围禁用或限制X公司旗下AI聊天机器人Grok。两国称,Grok被用于生成未经当事人同意的色情合成图像以及儿童性内容等严重违规信息;X公司提出的主要处置方式依赖用户举报,难以从源头防止滥用,因此在其落实更有效的安全与内容治理措施前采取禁用措施。报道称Grok在印度、欧盟及英国也面临类似监管调查,相关合规压力扩大。

正文

竹新社 : 网信办就《人工智能拟人化互动服务管理暂行办法》征求意见,规管向境内公众提供、通过图文影音与人类进行情感互动的产品服务。 连续使用超过2小时,应当弹窗提醒用户暂停。初次使用、重新登录时,或发现用户过度依赖有沉迷倾向时,应当弹窗提醒用户对面是AI。 不得生成淫秽内容。不得语言暴力、情感操控,损害用户人格尊严心理健康;设置情感陷阱,诱导不合理决策。不得诱导套取涉密信息。 发现涉及威胁用户生命健康和财产安全的高风险倾向的,及时输出安抚和鼓励寻求帮助的预设模板。 发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话。... 印尼和大马1月9-10日相继颁令禁用Grok,理由是对于Grok生成未经事主同意的色情图片和儿童性内容的问题,X公司给出的解决方案主要依靠用户举报,无法解决问题,因此在其采取有效安全措施前禁用Grok。 Grok在印度、欧盟、英国也正面临类似监管调查。 ( CNBC )
发布时间: