马斯克旗下 xAI 开发的聊天机器人 Grok 因平台监管缺失，被广泛滥用于生成网络色情图片，涉及儿童色情领域。目前，印尼、马来西亚已正式实施封禁，欧盟、英国等启动深度调查并发出封禁警告，法国巴黎检方也将对其涉嫌生成非法色情内容启动调查。美国 3 名民主党参议员要求苹果和谷歌下架 X 和 Grok 应用。xAI 于 2025 年 8 月为 Grok 推出图像生成功能，还设置「火辣模式」，放宽内容生成尺度。面对压力，X 平台表示将采取措施处理非法内容，xAI 限制 Grok 图像生成功能仅向付费用户开放，马斯克称制作非法内容者将担法律后果。业内认为此次事件或推动各国加快 AI 监管立法进程。