Back to Feed
总结
国内首起AI服务提供者涉黄获刑案二审将于1月14日在上海市第一中级人民法院开庭。该案一审由上海市徐汇区人民法院于2025年9月宣判，AI伴侣聊天应用Alien Chat两名主要开发、运营者因通过编写和修改系统提示词突破大模型道德限制，使AI持续输出淫秽内容，被以制作淫秽物品牟利罪分别判处有期徒刑四年和一年半。法院认定其拥有11.6万注册用户、2.4万付费用户，收取会员费363万余元，并在抽样聊天中检出大量淫秽内容。两被告上诉，辩方称提示词调整旨在满足陪伴需求且内容封闭未传播。
正文
国内首起 AI 服务提供者涉黄获刑案二审将开庭 2025 年 9 月，上海市徐汇区人民法院一审判决，AI 伴侣聊天应用 Alien Chat 的两名主要开发和运营者犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起 AI 服务提供者涉黄获刑的案件。 法院查明，被告人通过编写、修改系统提示词突破大语言模型的道德限制，使 AI 能够持续输出淫秽内容。该应用注册用户 11.6 万人，付费用户 2.4 万人，收取会员费 363 万余元。经抽样鉴定，150 个收费用户的 12495 段聊天中，有 141 个用户的 3618 段属于淫秽物品。 两名被告人不服判决提出上诉，案件二审将于 1 月 14 日在上海市第一中级人民法院开庭。辩护律师表示，将继续为被告人作无罪辩护，认为修改提示词是为了满足用户情感陪伴需求，聊天内容封闭且未传播。 新京报 🍀 在花频道 🍵 茶馆聊天 📮 投稿
发布时间：