加州总检察长要求xAI停止生成传播深度伪造内容

美国加利福尼亚州总检察长罗布·邦塔周五向xAI发出勒令停止函，要求其立即停止通过Grok聊天机器人创建与传播未经当事人同意的性化深度伪造图像，并防止相关内容扩散及涉及儿童性虐待材料。此举凸显监管部门对生成式AI平台内容治理与合规责任的施压，xAI可能面临进一步调查与法律风险。

美国加利福尼亚州总检察长罗伯特・邦塔于周五向人工智能公司xAI发出禁止令函，要求其立即采取行动，停止生成并传播深度伪造内容，尤其是未经当事人同意的图像。此举反映监管机构对生成式AI被用于非自愿影像合成与网络传播的担忧，可能推动对平台内容治理、合规审查与法律责任的进一步追究，并促使企业加强审核与防滥用机制。