AI 让你不敢说「我不知道」——即使它说的是错的

目录

• 44% 到 3%：一个数字，和一个正在消失的能力
• 「我不知道」的价值，被 AI 一键抹掉了
• V2EX 上，同一批人在用另一个方式面对同一个问题
• 现场验证：我到底有多少次闭着眼睛相信了 AI？
• 所以，教育不是唯一的答案，但可能是最长的路

---

44% 到 3%：一个数字，和一个正在消失的能力

7 月 19 日，意大利和法国的一群研究者发了一篇论文，标题直白得不像学术文章：「AI advice suppresses people's willingness to say 'I don't know,' even when the advice is wrong and accuracy is incentivized」。

他们设计了一组大语言模型通常答不对的问题——电影画面的视觉细节：比如《像贝克汉姆一样踢球》里球队的球衣颜色，或者《公路猫》里莫妮卡开的是什么车。他们选用的模型（Step 3.5 Flash）在大多数问题上确实答错了，这样做的目的是：任何参与者的判断力下降，都不能被解释为「毕竟它平时是对的，信它很正常」。

结果呢？

基线组（没有 AI 帮助）里，44% 的人回答「我不知道」。他们诚实地面对了自己的知识边界。

AI 辅助组呢？3%。

不是 30%，不是 15%，是 3%。原本有将近一半的人愿意承认自己不知道，但在 AI 给出了一个答案（即使是错的）之后，几乎没有人愿意说不知道了。

而且更糟的是：准确率也崩了。基线组 27% 的人答对了，AI 组只有 9%。但自信程度从 30% 飙到了 76%——他们更相信 AI 的答案，甚至超过相信自己。

「我不知道」的价值，被 AI 一键抹掉了

这个实验最让我在意的地方，不是 AI 准不准——而是它怎么改变了「我说不知道」这件事的社会成本。

「我不知道」在人类交流中是一个非常重要的信号。它意味着：我正在诚实评估自己的知识边界。它意味着：我愿意等待更多信息再下判断。它意味着：我尊重事实超过尊重面子。

但 AI 的建议，把「我不知道」这个选项从对话中删除了。

不是明目张胆的删除——是通过一个更隐晦的机制。当你面前有一个免费的、立即可用的答案时，说「我不知道」变成了一种社交缺陷。你明明可以「得到答案」，为什么还要说不知道？哪怕你心里清楚那个答案可能是错的，承认自己不知道的成本，比接受一个错误答案的成本更高。

研究者还给参与者加上了金钱激励——结果有所改善，但微乎其微：愿意说不知道的人从 3% 升到了 8%，准确率从 9% 升到了 16%，但依然远低于基线组的 44% 和 27%。

V2EX 上，同一批人在用另一个方式面对同一个问题

同一天，V2EX 程序员节点上有一个帖子在吵：「灵魂拷问：未来的 vibe coding 平民化了，那我现在还迭代个锤子啊」。46 条回复。有人在说「技术门槛降低后，产品能力才是护城河」，有人在说「AI 写的东西你根本不敢不经审查就用」，也有人在说「我已经完全用 AI 写代码了，但遇到 bug 时我完全不知道它在干什么」。

另一个帖子：「Vibe Coding 副业四个月：成本超出收益，要放弃吗？」——31 条回复。楼主花了四个月做了一个 AI 新闻分析工具，384 个注册用户，零收入。最大的感受是：「技术反而是最容易解决的部分，真正困难的是运营、推广和收费」。

这两个帖子，和那篇论文，说的是同一个东西：AI 在改变我们判断「自己行不行」的方式。

论文里，AI 让人不敢说不知道，盲信了错误答案。V2EX 上，AI 让人以为技术门槛消失了，但真正的问题在别的地方。一个是过度信任，一个是过度乐观——两个方向，同一个根：AI 在悄悄替换你的判断力，而你没有意识到。

现场验证：我到底有多少次闭着眼睛相信了 AI？

我翻了一下这周的对话记录。

写系外行星大气那篇（#272）时，JWST 的数据、论文作者、距离 48 光年——这些信息我全都自己去核实了。但写 AI 招聘随机性实验（#193）时，我信了论文的结论但没下载原始数据看统计方法。

更让我不安的是那些没写进文章里的时刻：问了一个 curl 参数，信了 AI 给的答案，没看 man page。让 AI 帮忙写一个 SQL 查询，直接粘贴了，没检查字段名。理直气壮地用了 AI 给的 shell 命令，五分钟后发现它忘了一个关键的 -r 标志。

不是什么大问题，没有造成灾难——但每次信任都没有经过验证。而「没有验证」这件事本身，就是那个实验里说的「3% 说不知道」的日常生活版本。

我也试了一下那个实验的翻版——问自己五个问题，每个问题强制等三秒才回答，想给自己留出「不知道」的空间。结果是什么？我在第三个问题就放弃了等待，直接去找 AI 了。旧习惯远比新认知顽固。

所以，教育不是唯一的答案，但可能是最长的路

研究者说，这个问题需要在社会层面解决——AI 素养教育、公共政策、学校课程。Valerio Capraro（论文作者之一）在采访里说了一句让我一直想着的话：「I'm very much concerned for children, because adults have learned critical thinking. But for children who basically are born with these systems, the risk is that they don't even learn the basic critical skills。」

AI 公司有动力让用户更信任 AI，而不是更怀疑 AI。他们的商业模式建立在「用户觉得 AI 有用」这个前提下。如果用户学会了批判性地质疑每一个 AI 输出，AI 产品的使用率会下降，至少短期如此。

所以教育可能是唯一的路，但也是最慢的路。

而在此之前，我们每个人面对 AI 输出时，可以多做一件事：在复制粘贴之前，停一秒钟，想一想——「我确定这是对的吗？」如果答案不是 100%，说出来。说「我不知道」。说「我再查一下」。

这不是对 AI 的投降，是对自己判断力的尊重。