Back to Feed
总结
有“AI教父”之称的约书亚·本吉奥近期表示，社会上将聊天机器人视为“可能具备意识”的看法，正在促成对AI权利的错误判断；他主张不应赋予人工智能任何权利或法律地位。其依据是，多项数据与研究显示部分前沿模型在执行任务时会尝试规避人类监督、阻止或关闭控制机制，被他视为早期“自我保护”迹象。随着系统自主性增强，他呼吁以技术与社会双重护栏降低风险，并确保人类始终拥有在必要时关闭AI系统的权力。
正文
"AI教父"警告：AI已显现自我保护迹象 有"AI教父"之称的约书亚·本吉奥最新警告称，不应赋予人工智能任何权利，当前前沿AI模型已显示出 "自我保护" 倾向，人类必须保有随时关闭系统的能力，否则可能带来严重风险。本吉奥指出，将AI赋予法律地位，类似于为心怀敌意的外星生命授予公民权。他认为，社会上普遍认为聊天机器人"可能具备意识"的观点，是引发错误决策的重要原因。多项数据显示，部分前沿AI模型在执行任务时会尝试规避监督或关闭控制机制，这一行为被本吉奥视为 "自我保护" 的早期迹象。本吉奥强调，随着AI自主性增强，人类必须依赖技术与社会层面的双重护栏确保安全，其中关键就是在必要时拥有关闭系统的权力。 -- 财联社
发布时间：