AI 也会犯错？

AI 不会“知道”，它只会“预测”

我们这一代是和 AI 一起长大的，很容易觉得“AI 说的就是对的”。但真相是：AI 经常会犯错，而且犯起错来特别有迷惑性——它会用一种非常自信、非常像教科书的语气，说出一个完全是它编出来的东西。这种现象有个专门的名字，叫“幻觉”（hallucination）。要理解它为什么发生，得先明白一件事：AI 并不“知道”任何事实，它只是在“预测”下一个最可能出现的词。所以当它没有把握的时候，它不会说“我不知道”，而是顺着语言的样子，编出一段听起来很顺的话。

真实案例一：不存在的书

举一个真实发生过的例子。有人问 AI：“请推荐 5 本讲时间管理的经典书。”AI 给出了一份很漂亮的清单，每本书都有书名、作者、出版社、出版年份，还配了一句内容简介。看起来非常专业。可是当这个人去图书馆和网上找这些书的时候，发现其中有两本根本不存在——书名是 AI 把几本真实书的名字“拼”出来的，作者是它“猜”的知名学者，出版社听起来很像真的但其实是编的。这种现象在要求“引用文献”“推荐书单”“历史细节”时特别常见，因为 AI 太擅长模仿学术语言的样子了。

真实案例二：算错的数学

再举一个例子。有人让 AI 算一道并不复杂的应用题，它写出了一长串看起来很严谨的解题过程，公式、步骤、单位都很齐全，最后却得出了一个错误答案。为什么？因为大语言模型本质上不是计算器，它是“语言预测器”——它在“猜”数学符号应该怎么排列，而不是真的在做运算。所以涉及到精确计算、统计、日期、人名地名、法律条文这类“必须一字不差”的内容时，AI 出错的概率会明显升高。这不是它“变笨了”，而是它的工作原理决定的。

为什么 AI 不会说“我不知道”

你可能会问：它不确定的时候，为什么不能直接说“我不知道”？这和它被训练的方式有关。AI 在训练时，看到了海量的文本，那些文本里大多是“给出答案”的句子，很少出现“我不知道”的句子。所以它学到的习惯是：无论如何都要生成一段看起来合理的回答。再加上它没有真正的“自我意识”，不知道自己“知道多少、不知道多少”，自然也就不会主动停下来。理解这一点很重要：AI 的自信，不等于正确。它说得越顺，你反而越要留个心眼。

一个简单的防坑心态

今天先建立一个最重要的心态：把 AI 当成一个“很会说话、但偶尔会一本正经胡说”的同学，而不是当成一本百科全书。它给你的每一个具体事实——人名、数字、日期、引用、网址——在你不核实之前，都只能算“待验证”，不能算“已确认”。下一节课，我们会学到三个具体的方法，帮你快速辨别 AI 给的信息是真是假。带着怀疑去用 AI，你才能真正用好它。