研究人员发现，AI建议使人们的准确率降低了三倍，却使他们的自信度提高了一倍。

一项新研究揭示了一个令人不安的现象：当AI提供建议时，人们判断的准确率不升反降，而自信心却大幅膨胀。具体来说，研究人员发现，AI建议让参与者愿意说“我不知道”的比例从44%骤降至3%，准确率从27%跌到9%，而信心却从30%飙升至76%。这组数据来自法国和意大利三所大学的联合研究，由米兰-比科卡大学副教授Valerio Capraro与同事共同完成。他们故意选用AI模型（Step 3.5 Flash）通常答错的题目——比如电影《我爱贝克汉姆》中球队队服的颜色——来测试人类对AI的依赖程度。结果发现，即使是原本能独立答对的参与者，在咨询AI后也犯了错。这并非因为AI是可靠工具而人类合理委托，恰恰相反，AI在这里扮演了帮倒忙的角色。

金钱激励能起到一定作用，但效果有限。在给予金钱奖励的情况下，承认无知的意愿从3%回升到8%，准确率从9%升至16%，但依然远低于无AI辅助时的基线水平（44%和27%）。沃顿商学院的研究者今年早些时候提出了“认知投降”这个概念，用来描述类似现象：人们在80%的情况下接受错误的AI答案，同时声称的信心水平比未使用AI的人更高。而这项新研究提供了更精确的数据点。问题不只是人们会信任错误的AI答案，更在于：仅仅存在AI选项，就抑制了人类识别自身知识局限的认知习惯。

“对人类而言，能够说‘我不知道’极为重要，因为这代表了对自身知识边界的清醒认识，”Capraro说。他特别关注儿童群体——这些孩子在发展出批判性思维技能之前，已经开始使用AI系统。谷歌的AI搜索改版，用自信满满的AI摘要替换了传统链接，本周《Common Sense Media》直言这种设计对学生来说是“不可接受的风险”。模式始终如一：AI产品被设计成回答问题，而不是说“我不知道”。而使用它们的人类，正在不知不觉地学习同样的事。