科学网—AI时代的判断力：如何根据证据调整对AI的依赖？
精选
已有 690 次阅读
2026-7-22 15:12
| 系统分类: 科研笔记
向AI提出一个问题，几秒之后，一段结构完整、语言流畅、理由看似充分的回答便会出现。它不仅给出结论，还能补充解释、例子和参考资料。
这样的回答常常让人感觉：问题似乎已经被讲清楚了。
但真正需要追问的是：我们为什么相信它？
是因为关键事实经过了核查、理由得到了证据支持，还是仅仅因为它解释得足够完整，就停止了追问？
这个问题不能只停留在是否会使用AI的工具层面。过去，学习的一项重要任务是寻找答案；今天，答案来得很快，信息不再那么稀缺，判断信息的责任却更加突出。
当AI参与学习和决策，真正需要培养的不是一种笼统的信任或怀疑，而是 恰当依赖 ：AI正确时能够采纳，AI错误时能够拒绝。
从批判性思维教育的角度看，这是一种判断校准能力。它要求人根据证据质量、任务风险和不确定性，调节自己对AI的依赖程度，并为最终决定承担责任。
这种调整不是笼统地增加或减少对AI的信任，而是使依赖程度与证据质量、任务风险和不确定性相匹配。
一、流畅的解释，可能绕过判断
AI最容易让人相信的地方，未必是它掌握了多少知识，而是它能够把答案组织得非常像知识。
完整的结构、流畅的语言、明确的语气和看似充分的理由，会共同形成一种可靠感。人们很容易把语言上的自洽当成事实上的正确，把读懂解释误认为已经完成了判断。
在一个有308人参加的实验中，参与者借助大语言模型回答困难的客观问题。当AI给出正确答案时，加入解释后，参与者的正确率从67.2%提高到78.2%。解释促进了对正确答案的采纳。
但当AI给出错误答案时，加入解释后，参与者的正确率却从21.8%下降到17.2%。一个带有完整解释的错误答案，比一个没有解释的错误答案更容易让人接受。
解释还提高了参与者的信心和他们对AI回答质量的评价，同时减少了继续追问的意愿。
这里容易被误解的是，解释越多并不意味着判断越充分。这组结果真正值得警惕的，并不是AI在刻意欺骗人，而是解释能够提高接受度，却不一定提高辨错力。它既可能帮助人理解正确答案，也可能为错误答案增加一层说服性包装。
在批判性思维教学中，需要特别强调一个看似简单、实际上经常被忽略的区分：
— 答案，是AI给出的结论；
— 解释，是对结论的展开和辩护；
— 证据，是能够独立核查并对结论提供支持的信息。
解释写得再完整，也不能自动成为证据。面对AI生成的内容，首先需要追问的不是表达是否清楚，而是理由是否足以支持结论。
换句话说，AI的解释是需要评价的对象，不是评价已经完成的证明。
二、有效的怀疑，需要外部核查和真实分歧
既然AI可能犯错，最直接的反应似乎是提醒自己不要轻易相信。
但批判性思维不应被理解成一种习惯性的否定。没有依据的怀疑，与没有依据的信任一样，都可能导致不恰当依赖。批判性思维的核心不是唱反调，而是要求判断接受证据的约束。
因此，有效的怀疑不是拒绝，而是暂缓接受，并启动核查。
外部来源是一种重要的核查通道。它使人有机会离开AI自我解释的语言闭环，把关键主张带回原始资料、数据和专业信息中验证。
但来源只有被真正使用时才有价值。在上述308人的实验中，189人从未点击AI提供的任何来源。链接虽然出现在屏幕上，却只是增加了答案看起来可信的程度，并没有转化为实际核查。
因此，AI学习任务尤其需要看重实际核查。要求AI列出参考资料，并不等于完成了证据核验；看到一个熟悉的机构名称，也不等于知道该来源究竟支持了什么。关键不在于页面上有没有链接，而在于学习者是否打开来源、理解内容，并判断它与当前主张之间的关系。
内部矛盾也能触发重新检查。当前后数字对不上、理由与结论不一致、两个陈述无法同时成立时，流畅阅读会被打断，人更可能重新计算、比较信息和追问依据。
人机之间的真实分歧同样重要。
传统AI辅助方式通常是：AI给出结论和解释，人决定接受还是拒绝。这种二元选择看似保留了人的决定权，实际上却把复杂判断压缩成了听AI还是听自己。
更有教育价值的做法，是让人先表达自己的判断和理由，再比较人与AI分别依据了什么证据、采用了什么假设、使用了什么判断标准。这样一来，分歧就不再是一场立场竞争，而会转化为一次推理结构的比较。
在一组研究生录取判断任务中，围绕人机分歧进行结构化讨论，比传统的AI结论加解释模式取得了更高的判断准确率。参与者对AI的主观信任有所下降，但对错误AI建议的依赖也随之减少。
这种信任下降尤其值得重新理解。它并不意味着人机协作失败，反而可能说明用户形成了更准确的AI心理模型：AI不再是等待服从的权威，而是一个需要评价的信息来源。
三、怀疑也需要边界：判断是一种元认知调节
信任可能变成盲从，怀疑也可能走向另一个极端。
如果面对AI的每项建议都启动复杂核查，或者为了保持独立而拒绝正确意见，人同样无法获得良好判断。前者增加不必要的认知负荷，后者则会形成不足依赖。
这正是质疑一切并不等于批判性思维的原因。批判性思维不是怀疑得越多越好，而是知道什么值得怀疑、怀疑到什么程度，以及什么时候可以暂时接受。
一种反思型AI系统曾把关注点从解释AI为什么这样回答，转向检查人为什么这样判断。它不急于呈现自己的结论，而是帮助用户检查其理由中的三类缺陷：
— 不完整：是否遗漏了可能支持或反驳结论的信息；
— 不可靠：证据与结论之间是否依赖未经检查的假设；
— 冲突：是否存在另一组证据，能够支持不同结论。
这一过程实际上是在支持元认知监控：人不仅作出判断，还要检查自己是如何得出判断的，并在必要时修正推理。
结果显示，这种方式能够减少对错误AI建议的依赖，却也提高了认知负荷，并增加了对正确AI建议的拒绝。多数参与者依然更喜欢直接获得结论，因为那样更简单、更省力。
教育实践不能忽略这种认知成本。如果把每一次AI使用都设计成一场完整的证据审判，学生很可能只是在执行程序，而没有真正理解为什么要核查。判断训练的关键不是不断增加步骤，而是让核查强度与任务风险相匹配：
— 低风险、可逆的日常任务，可以采用较轻的核查；
— 高风险、后果重要或证据不确定的任务，需要更完整的审议；
— 当人和AI都缺乏把握时，应主动扩大信息来源；
— 当证据充分一致时，也应避免为怀疑而怀疑。
真正成熟的判断，不是站在信任或怀疑的某一边，而是根据证据强度调整立场。
四、把判断过程留下来：先判—对照—外查—更新
无论是个人使用AI，还是将AI引入课堂，如果只关注最终答案，就很难看见判断如何形成，又如何发生变化。
把三项研究放在一起，可以提炼出一条适合个人判断与教学实践的行动路径：先形成自己的判断，再定位人机分歧，核查关键证据，最后根据证据更新结论。需要说明的是，这并非某篇论文原有的模型，而是基于上述研究机制所作的实践转化。
这一过程可以整理为四个步骤： 先判—对照—外查—更新。
第一步：先判
在查看AI答案之前，先记录自己的初步结论、信心水平和主要依据。
信心水平可以用0—100表示。它不是为了制造精确的数字，而是让学生意识到自己的判断存在确定程度，并为后续变化提供参照。
先判之所以位于第一步，是因为没有初始立场，就很难看清AI究竟改变了什么。使用者只有先留下自己的判断痕迹，后续的接受、拒绝和修正才有可能被看见。
第二步：对照
比较人与AI的理由，定位真正的分歧。
分歧可能发生在三个层面：事实是否准确、证据应当占多大权重、判断采用了什么标准。只有把分歧具体化，学生才能避免在AI对还是人对之间进行笼统选择。
第三步：外查
选择一个对结论具有决定性影响的主张，回到AI之外核验。
核验时至少检查三点：来源是否真实，来源是否与主张相关，来源是否真的能够支持当前结论。优先使用原始文献、官方数据或可信的一手资料，而不是让同一个AI用新一轮生成文本证明上一轮生成文本。
这里不必追求把所有信息查完。更重要的是找到那个一旦成立或不成立，就足以改变结论的关键主张。选择核查什么，本身就是判断力的一部分。
第四步：更新
根据新增证据重新表述结论，并说明判断为什么发生或没有发生变化。
更新记录至少包括：修改了什么，哪条证据导致修改，拒绝了AI的哪项建议，当前结论还存在哪些不确定性。
这一过程体现了批判性思维中的 信念修正 。改变观点并不代表缺乏主见，拒绝改变也不代表具有独立性。真正重要的是：变化能否得到理由和证据的支持。
个人可以把这四个步骤作为日常使用AI时的检查清单。教师也可以把它写入AI学习任务单，要求学生提交初步判断、人机分歧、核查证据和观点更新记录。这样留下的就不只是最终答案，还有判断形成的过程。
五、当AI进入课堂，评价也要从答案转向判断过程
如果教师只评价最终答案，就很难区分学生是在独立思考后合理采纳AI，还是直接复制了一个碰巧正确的结论。
更适合AI时代的评价，至少应关注四个方面：
— 初步判断是否有明确依据；
— 是否准确识别了人与AI的分歧；
— 是否使用独立、相关的证据进行核查；
— 最终观点的更新是否与证据变化相匹配。
对教师而言，更值得观察的不是学生的答案是否与AI一致，而是信任和怀疑是否经过校准。这不仅有助于识别学生是否真正参与了思考，也能把AI使用从结果生产转化为判断力训练。
这里还需要强调一点：判断过程并不是越复杂越好，反思记录也不是越长越好。真正值得评价的，是学生能否抓住关键分歧、选择有决定意义的证据，并对自己的观点作出与证据相称的调整。
判断可以借助AI，责任仍然属于人
AI正在改变人与知识相遇的方式。
当答案越来越容易获得，教育不能只训练学生寻找答案，也要帮助他们判断答案；不能只要求学生会使用AI，也要让他们知道自己为什么接受、凭什么怀疑，以及应当在什么证据面前改变观点。
批判性思维教育的目标，不是培养一群习惯否定的人，而是培养能够对理由作出回应、对证据保持敏感、也愿意修正自己的人。
AI可以提供信息、解释观点、提出反例，也可以帮助人检查自己的理由。但无论它多么流畅、主动和聪明，最终的判断责任都不能被语言的便利所取代。
AI时代的判断力，不是永远相信自己，也不是最终服从AI，而是让信任经得起核查，让怀疑有证据，让改变有理由。
在信任与怀疑之间，真正需要保留的，是人对证据的敏感、对自身思考的监控，以及为最终判断负责的能力。
参考文献
Kim, S. S. Y., Vaughan, J. W., Liao, Q. V., Lombrozo, T., & Russakovsky, O. (2025). Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies. CHI ’25 . https://doi.org/10.1145/3706598.3714020
Ma, S., Chen, Q., Wang, X., Zheng, C., Peng, Z., Yin, M., & Ma, X. (2025). Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making. CHI ’25 . https://doi.org/10.1145/3706598.3713423
Tian, H. Y., Amin, H., & Yin, M. (2026). Understanding the Effects of AI-Assisted Critical Thinking on Human-AI Decision Making. CHI ’26 . https://doi.org/10.1145/3772318.3790785
转载本文请联系原作者获取授权，同时请注明本文来自任学柱科学网博客。 链接地址： https://blog.sciencenet.cn/blog-3658560-1544700.html
上一篇： 我们究竟要培养什么样的思考者？批判性思维教育的百年追问 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 