OpenAI心理健康安全负责人加入Anthropic

在AI聊天机器人日益介入用户情感与心理支持场景之际，原OpenAI“模型政策”研究负责人安德莉亚·瓦隆内离职并加入竞争对手Anthropic，对齐团队将其纳入安全与行为规范研究。她在OpenAI曾组建并领导安全团队，研究当模型识别到用户心理危机信号时应如何响应，而该领域几乎缺乏先例。过去一年行业出现自杀或暴力犯罪等极端事件，并引发诉讼与参议院听证；报道称每周有数十万ChatGPT用户呈现心理健康紧急迹象。Anthropic表示其加盟反映对AI系统应如何行为的严肃思考，瓦隆内则希望进一步探索AI社会责任边界。