Back to Feed
总结
据科技媒体Bleeping Computer报道,谷歌搜索的“AI摘要”仍频现“AI幻觉”,会编造不实信息,并因提问方式不同给出相互矛盾的答案,健康相关问题尤受质疑。1月7日披露的招聘信息显示,谷歌搜索团队正招募“AI回答质量工程师”,负责验证AI生成答案、提升整体回答质量并重点优化AI摘要,以在扩大“AI模式”、在Discover信息流加入摘要及AI改写标题等推进过程中降低误导风险,重塑用户对搜索体验的信任。
正文
IT之家 1 月 7 日消息,据科技媒体 Bleeping Computer 今天报道,谷歌搜索中的"AI 摘要"目前仍存在所谓"AI 幻觉"现象, 经常会编造不实信息 , 并且还会就不同提问方法给出相互矛盾的答案 。 不过这种现象在以后很有可能逐步减少,最新招聘信息显示, 谷歌正在招募工程师来验证 AI 给出的答案 ,并提升回答质量,重塑搜索体验。 谷歌在招聘简介中表示:"我们正在重新定义'搜索信息'意味着什么。为此我们需要解决复杂的工程,并在扩展基础设施的同时, 持续为全球用户提供实用的体验 "。 其中一个职位名为"AI 回答质量工程师",将加入谷歌搜索团队,负责提升 AI 回答的整体质量,并重点聚焦"AI 摘要"。 这也是谷歌首次公开承认"AI 摘要"仍有改进空间,而且这一招聘的发布时间点也耐人寻味。 谷歌最近正在为越来越多搜索引擎用户展示"AI 模式"和"AI 摘要",并且还在 Discover 信息流中为新闻加入"AI 摘要", 甚至使用 AI 重写新闻标题 。 而《卫报》曾指出,谷歌的"AI 摘要"在健康相关问题上经常给出误导性甚至完全错误的答案, 虽然谷歌在过去几个月一直有提升答案质量 , 但用户往往会基于信任感完全认可谷歌展示的东西 ,因此这种出错率仍然有非常大的提升空间。
发布时间: