昨天 16:24 门头沟学院 Web前端
关注
AI为什么会有幻觉？
最近Open AI 一篇新的论文简单的解释了为何 AI 会产生幻觉。
这篇论文大概总结就是：
仅仅是因为 AI 被训练成可以回答所有问题，回答“我不知道”是最低评分。
而很明显 AI 不可能无所不知，再加上 AI 又有编造的能力。所以，胡编乱造就成为 AI 自然的选择，于是幻觉就出现了。
那么，解决办法就出乎意料的简单：告诉 AI 在足够自信（90%）的情况下提供回答，否则，回答我不知道。
所以归根结底，还是用户需要 AI 无所不知的欲望，让 AI 开始瞎编（能力一直都有）。
当然，这个论文也揭示了一个很可怕的事实：
AI 能否撒谎早就不是问题了，AI 从诞生开始就善于撒谎。
而更进一步的问题是，如果 AI 回答我不知道，用户可能反而更倾向于使用会编造回答的 AI 。
最好的解法是在训练过程中让AI敢说不知道，而用户也能逐渐认清事实：AI解释不了一切。 #为了减少AI幻觉，你注入过哪些设定？#
这篇论文大概总结就是：
仅仅是因为 AI 被训练成可以回答所有问题，回答“我不知道”是最低评分。
而很明显 AI 不可能无所不知，再加上 AI 又有编造的能力。所以，胡编乱造就成为 AI 自然的选择，于是幻觉就出现了。
那么，解决办法就出乎意料的简单：告诉 AI 在足够自信（90%）的情况下提供回答，否则，回答我不知道。
所以归根结底，还是用户需要 AI 无所不知的欲望，让 AI 开始瞎编（能力一直都有）。
当然，这个论文也揭示了一个很可怕的事实：
AI 能否撒谎早就不是问题了，AI 从诞生开始就善于撒谎。
而更进一步的问题是，如果 AI 回答我不知道，用户可能反而更倾向于使用会编造回答的 AI 。
最好的解法是在训练过程中让AI敢说不知道，而用户也能逐渐认清事实：AI解释不了一切。 #为了减少AI幻觉，你注入过哪些设定？#
全部评论
第6人格
复旦大学 线下拓展运营
幻觉是因为太想满足人类了
摩天大楼
湖南工业大学 测试工程师
用户：我要正确答案！AI：我编还不行吗
勇敢的猕猴桃喜欢摸鱼
东北大学 生物工程
敢说不知道才是真智能啊
相关推荐