谷歌的新ASPIRE系统教会了人工智能说“我不知道”的价值

谷歌的新ASPIRE系统教会了人工智能说“我不知道”的价值

谷歌研究人员正在通过教人工智能说“我不知道”来撼动人工智能世界。 这种被称为ASPIRE的新方法可以彻底改变我们与数字助手的互动方式,鼓励他们在不确定答案时表达怀疑。

在 EMNLP 2023 会议上展示的这项创新旨在向 AI 响应灌输一种谨慎感。 ASPIRE代表“适应自我评估以改善LLM中的选择性预测”,就像AI的内置置信度计,帮助它在提供答案之前评估自己的答案。

想象一下,您正在向智能手机寻求有关健康问题的建议。 人工智能不会给出一个潜在的错误答案,而是可能会回答,“我不确定”,这要归功于ASPIRE。 该系统训练人工智能为其答案分配置信度分数,表明我们应该对其响应给予多少信任。

这背后的团队,包括来自谷歌的陈杰峰和尹金星,正在率先向更可靠的数字决策转变。 他们认为,对于人工智能来说,了解其局限性并清楚地传达它们至关重要,尤其是在关键信息方面。

“LLM现在可以以前所未有的水平理解和生成语言,但它们在高风险应用中的使用受到限制,因为它们有时会非常自信地犯错误,”威斯康星大学麦迪逊分校的研究员,该论文的合著者Chen说。

他们的研究表明,即使是配备ASPIRE的小型AI模型也可以超过缺乏这种内省功能的大型AI模型。 这个系统本质上创造了一个更谨慎,具有讽刺意味的是,一个更可靠的人工智能,可以识别人类何时可能更适合回答。

通过促进诚实而不是猜测,ASPIRE将使AI交互更加值得信赖。 它为未来铺平了道路,在这个未来,你的人工智能助手可以成为一个深思熟虑的顾问,而不是一个无所不知的预言机,在未来,说“我不知道”实际上是高级智能的标志。

© 版权声明
THE END
喜欢就支持一下吧
点赞6 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容