AI 的偏见从哪来？

AI 不是一面“中立”的镜子

很多人觉得 AI 是机器，所以一定是“客观中立”的。这其实是一个大误会。AI 的答案，来自它训练时读过的那些文本——而这些文本是人类写的。人类有偏见、有立场、有盲区，所以 AI 也就“继承”了这些偏见和盲区。换句话说，AI 不是一面干净的镜子，它更像一面被磨过花的镜子，照出来的世界自带某种“颜色”。理解这一点，是你成为成熟 AI 使用者的关键一步。

偏见来源一：训练数据“偏科”

第一个偏见来源，是训练数据本身“偏科”。AI 读得最多的是互联网上的文本，而这些文本里，英文比中文多、发达地区比欠发达地区多、男性作者比女性作者多、城市题材比乡村题材多。这就导致 AI 对某些群体、某些文化、某些地区特别“熟”，对另一些却几乎“看不见”。一个真实的例子：早期的一些图像 AI，让它画“一位科学家”，画出来的几乎全是白人男性；让它画“一位护士”，又几乎全是女性。这不是 AI 故意的，而是它读过的数据里，这类搭配出现得太多，它就“以为”这是常态。

偏见来源二：历史数据“带着过去的痕迹”

第二个来源更隐蔽：历史数据本身带着过去的偏见。AI 训练时读了大量历史文献、旧新闻、老讨论，这些内容里很多观念在今天看来是有问题的——比如对某些职业的刻板印象、对某些群体的不公平描述。AI 不加分辨地学进去，就会在回答里“无意”地重复这些老观念。举个例子，如果你问 AI“什么样的人适合当领导”，它有时候会下意识地偏向某些性别、年龄或背景的描述，因为这些在它读过的旧文本里出现得更频繁。这不是你的错觉，而是数据里残留的历史痕迹在起作用。

偏见来源三：标注和调整中的人为选择

第三个来源是“人”。在 AI 出来之前，会有一群人对它的回答进行筛选和调整（这一步叫“人类反馈强化学习”等），告诉它哪些回答好、哪些不好。可是这些“打分的人”本身也有自己的文化、立场和偏好，他们的选择会悄悄影响 AI 的“价值倾向”。比如同样一个有争议的话题，不同文化背景的标注者会给出不一样的偏好，最后 AI 的回答就会向某一侧倾斜。所以即使是“同一个 AI”，在不同版本、不同公司、不同语言下，回答的倾向也可能不一样。

面对偏见，我们能做什么

知道了偏见的来源，我们该怎么做？三件事。第一，保持警觉，遇到涉及性别、职业、地域、文化的话题，多问一句“这个说法是不是太绝对了”。第二，主动求多样，刻意让 AI 给你不同角度、不同文化的观点，比如“请同时给出支持和反对的两方看法”“请从中国文化角度再讲一次”。第三，丰富自己的认知，多读、多看、多接触不同的人和事，让自己的判断力不被单一来源塑造。AI 的偏见不可怕，可怕的是我们把它的话当成唯一的标准答案。做一个清醒的使用者，比做一个听话的使用者，重要得多。