#上头条 聊热点#

粉丝老爷们好啊！

经常用AI的朋友应该发现了

AI这玩意儿大部分时间都挺好用

但回答某些问题的时候

它也会一本正经的胡说八道

举个例子——

竟然列出来十几篇论文

看起来有板有眼的

但你去检索一下相关文献

会发现以上内容全是AI胡扯

你继续追问

AI会虚心认错

然后再给你列出二十几篇“船新”的论文

不出所料

这些论文依然是“查无此人”

那么问题来了

AI都发展这么多年了

都说它已经上天入地无所不能了

怎么还是改不了“回答不上来就胡说八道”的毛病呢

接下来我就给老爷们展开讲讲

为啥AI宁可瞎编胡诌

死都不愿意说“对不起我不知道”
？

我查阅相关资料后发现

大致是有以下两点原因——

01-AI记不住那么多信息

还是举个简单的例子

假设我今天中午吃了汉堡、薯条、炸鸡

然后我问AI：

“好奇博士今天中午吃了啥
？”

面对这个问题

AI需要从几乎无穷多个错误答案里

找到正确的那三个

从比例上来看

正确答案的占比约等于零

而且这种问题的答案

还有“随机事实”的特性

简单来说就是选项之间没有关联性

无法根据“意大利面拌42号混凝土”的对错

就推出“小鸡炖蘑菇”的对错

面对这种问题

AI也只有一种办法——死记硬背

尽管AI的“脑容量”够大

但它无法理解错误答案为啥错

假设AI记住了99.99%的错误答案

剩下的0.01%的错误答案

从数量上看还是会把正确答案淹没

然后AI就只能随机选择一个碰运气了

这种现象学名“AI幻觉”

是指大语言模型编造它认为真实的

看起来合理可行的信息

类似我们上面举的例子

那些正确答案非常多

错误答案更是浩如烟海的问题

是AI幻觉的重灾区

看到这儿肯定有老爷会说

既然如此——

02-训练AI时

为啥不让它直接说不知道
？

原因其实不难理解

AI回答问题时

回答错误不得分

回答“不知道”一样也不得分

就和我们参加考试一样

不会的题蒙一个还有得分的概率

空着不填那就铁定没分了

AI训练时用的测试题库

基本都是二元评分的

“打错”和“弃权”都不得分

在测试阶段

那些敢于“蒙一个”的AI

最终的得分反而会更高

也不行！

有研究发现

如果鼓励AI说“我不知道”

不仅不会的题会答错

那些原本能答对的题
，
正确率也下降了

总结一下就是“AI没有自知之明”

如果鼓励AI回答“不知道”

它可能会变成这样——

综上所述

现在的AI还不是“全知全能”的

它给出的答案

老爷们千万不要无脑全信啊~

网友看法

1、网友爱管闲事的吃瓜群众：@豆包 说你呢

2、网友才高八斗南南南：@豆包 文章太长，帮忙总结到 50 字以内

3、网友银河系碳基生物研究：初代AI而已。