研究：AI会削弱人类批判性思维，降低人们说“我不知道”的意愿

IT之家 7 月 20 日消息，我们常说AI有“幻觉”问题，它给出的答案经常不靠谱。但接下来这个发现，可能比幻觉本身更值得警惕。

来自法国和意大利多所大学的研究人员发现，在获得AI的建议后，人类的批判性思维能力可能会受到削弱。更直白地说，人们会更容易、也更自信地复述AI提供的错误信息。

这项研究的核心，其实是关于一个我们越来越稀缺的能力——说“我不知道”。

“对于人类来说，能够说‘我不知道’非常重要，因为这代表我们意识到了自身知识的局限。”米兰比可卡大学副教授Valerio Capraro在接受采访时表示，“但如今借助AI，我们几乎可以轻松获得任何问题的答案。因此，我们想知道，这会不会影响人们承认‘我不知道’、暂缓判断的能力。”

为了验证这个猜想，Capraro与同事Chiara Marcoccia、Walter Quattrociocchi共同设计了一项实验。论文标题直接揭示了研究结论：《AI建议会降低人们说“我不知道”的意愿，即使AI给出的建议是错误的且准确性是被鼓励的》。

AI建议让人更少承认“不知道”

Capraro表示，他们团队专门设计了一组大型语言模型通常无法正确回答的问题。

在实验中，参与者被要求回答一些关于电影视觉细节的问题，比如《我爱贝克汉姆》里球队球衣的颜色，或者电影《高速路上一只猫》中主角驾驶的车辆类型。这类细节通常不会出现在大多数AI模型的训练数据中，而实验所使用的模型也确实经常无法回答这些问题。

他们还测试了包括GPT-5.5、Claude Sonnet 4.6和Gemini 3.5 Flash在内的较新前沿模型。这些模型在车辆问题上表现不佳，但其他细节问题答得还行。

研究人员最终选择Step 3.5 Flash这个模型，正是因为它在这个实验中通常会给出错误答案。这可以避免有人质疑“参与者只是合理地把判断权交给了一个可靠工具”。

实验分组也很简单。“我们将参与者分成两组。”Capraro解释道，“一组需要在没有AI建议的情况下回答问题，另一组则可以向AI请求帮助。结果发现，在没有AI的情况下，有44%的人选择回答‘我不知道’，也就是暂缓判断。而在可以获得AI建议后，只有3%的人这么做。也就是说，人们暂停判断的能力几乎崩溃了。”

AI降低准确率，却提高自信程度

更令人意外的是，当AI提供帮助时，参与者的回答准确率也明显下降。换句话说，人们开始更加相信AI的答案，而不是自己的判断。

“在没有AI的情况下，有27%的人给出了正确答案。”Capraro说，“但在获得AI建议后，只有9%的人回答正确。因此，一些原本可能答对的人，在询问AI后反而得到了错误答案。”

与此同时，AI建议还显著提高了人们对自身答案的信心。没有AI帮助时，参与者认为自己正确的比例约为30%；而使用AI后，这一比例上升到了76%。

这组数据揭示了一个令人不安的真相：即使AI存在幻觉问题，人们依然会相信它提供的信息。

“简单来说，人们的表现变得更差——准确率只有原来的三分之一，但他们的自信程度却提高了一倍。”Capraro总结道。

金钱激励能改善情况，但效果有限

研究人员还做了另一项实验，引入金钱奖励机制，希望鼓励参与者更加谨慎地判断。

结果确实有所改善。选择暂缓判断、承认“不知道”的比例从3%提升到了8%；回答正确的比例也从9%提升到了16%。

但这两个数字仍然明显低于没有AI时的水平——分别为44%和27%。

虽然研究人员选择的是电影细节类问题，但他们认为，这一发现可以推广到其他领域。核心问题在于，人们正在失去对知识边界的基本判断力。

Capraro认为，这个问题需要通过社会层面的AI素养教育和教育政策来解决。“当然，模型提供商也应该努力改善这一问题，但我认为双方的利益并不完全一致。更有希望的解决方式，可能是在教育层面进行干预。”

他特别担心AI对儿童成长带来的影响。

“成年人已经通过过去的学习经历培养了一定的批判性思维能力。但对于那些从出生起就伴随着这些系统成长的孩子来说，风险在于，他们甚至可能无法真正学会最基本的批判性思考能力。”