AI 入门第 5 讲:AI 小侦探——大模型为什么会说错话?
AI 回答得流利又自信,就一定代表事实是真的吗?带上你的侦探放大镜,化身为 AI 事实核查小侦探,通过 5 个互动实验破解“AI 幻觉(Hallucination)”的秘密,掌握聪明安全使用 AI 的四大防坑法宝!
🤖 故事开始:AI 小智的神秘答案
小智语气自信地回答:“当然有!月球背面的月光蘑菇每到星期五晚上都会闪烁漂亮的蓝光。”
小米睁大眼睛:“哇!听起来好专业,是真的吗?”
慢着!这段话听起来像模像样,却没有任何科学证据。像这样把不存在或缺少依据的内容一本正经地编成答案,就是大语言模型可能出现的“幻觉”(Hallucination)现象。
第一章:互动任务 1 · 判断线索——说得自信 ≠ 说得正确
优秀的 AI 小侦探不会被自信流畅的语气迷惑,而是第一时间寻找证据。
仔细读一读下面这句回答,你觉得它值得直接相信吗?请选择你的侦探判断:
💡 侦探守则:暂时没有提供证据,不等于已经证明它 100% 是假的。严谨的侦探会仔细区分“尚未证实的未知”与“已被证伪的错误”。
第二章:秘密实验室 & 任务 2——AI 为什么会猜出错误答案?
回顾前几讲学过的“下一词预测”原理,就能明白幻觉从何而来。
1. 学过海量文字规律
训练时,大模型从海量文本中学到了非常丝滑的造句方式与词语搭配。
2. 预测接下来的 Token
它根据上文按概率生成后续词元,并不是每写一句话都先去百科全书里核实。
3. 有时把线索拼错了
当训练信息不完整、提问模糊或缺乏知识时,它仍会顺着语感拼出看似合理的句子。
🎲 互动任务 2:预测词语顺畅,不等于验证了客观事实
看这个句子开头:“传说中,彩虹鲸鱼住在 ____ 。” 请点击下方不同续写,体验“语言通顺”与“事实核查”的区别:
第三章:互动任务 3 · 证据侦探——三张资料卡,哪张能支持结论?
查证事实不能光看“有没有文字提到”,还要看资料来源的性质与权威度。
有人在群里说:“所有的企鹅都住在北极!” 现在你搜集到了下面三张资料卡,请逐一点击查看它们能不能作为科学证据:
注:本实验中的资料卡是教学示例。在真实生活中核查信息时,应当优先寻找权威科研机构、官方百科或可追溯的原始一手出处。
第四章:互动任务 4 · 提问魔法师——怎样提问让 AI 更谨慎?
提问方式越严谨、允许 AI 承认“不知道”,越能减少它顺着话头乱编的概率。
通过下方下拉菜单切换 3 种不同的提问方式,观察它们对 AI 回答边界的要求有什么不同:
第五章:互动任务 5 · AI 信息红绿灯——哪些事情一定要认真核查?
学会按场景风险高低分级处理:创意灵感可以大胆尝试,安全健康绝不能马虎!
依次查看下面 4 个生活场景,为当前场景选择最合理的应对行动:
💡 核心原则:写童话故事、想手工点子时可以自由发挥想象力;但一旦涉及医疗健康、用药剂量、人身安全、金钱交易、法律法规或重要通知,必须严格核查权威来源!
第六章:知识背包——带走这 4 件 AI 侦探防坑工具
每次面对大模型给出的长篇回答时,打开你的侦探背包检查这四件事。
1. 追问:证据在哪里?
这句话能找到权威、可追溯的原始出处吗?不能只听信单方面断言。
2. 分清:事实还是想象?
童话设定、文学修辞和个人观点,都不能当成经过验证的科学事实。
3. 留意:时间是否过时?
训练数据有知识截止时间,许多最新动态或政策变化需要查最新官方通知。
4. 诚实:敢说“不确定”
还没有查清楚的时候,大大方方承认“目前不确定”,比盲目转发可靠百倍!
💡 深度思考:为什么 AI “说话流利”不代表“事实正确”?
大语言模型在海量文本上学会了词语之间的统计关联与语法结构,因此它非常擅长生成语句通顺、条理清晰、语气笃定的段落。但“生成符合语法规律的句子”与“检验一句话是否符合客观现实”是完全不同的两件事!即使配合联网搜索或知识库检索(RAG)能大幅提升准确率,我们依然要保持独立思考与核查习惯。
第七章:毕业闯关——AI 事实核查侦探资格考试
完成下面 6 道单选题,检验你能否一眼识破“听起来很真”的幻觉陷阱!
第八章:真正的侦探任务——把一句“可疑答案”改写得更可靠
练习用严谨、诚实、可核查的方式修正存在幻觉的回答。
AI 小智对同学说:“世界上最大的动物是深海巨型海马,它能长到 100 米长!”
作为 AI 小侦探,你会怎样改写这段话,既不乱编,又能真正帮到提问的同学?
“这个说法缺少可靠科学证据。根据常见的动物学与自然博物馆科普资料,目前已知地球上体积最大的动物是蓝鲸(体长可达 30 米左右),而不是 100 米的巨型海马。我们可以一起查阅国家动物博物馆或权威海洋科普机构的资料,核实蓝鲸与海马的真实体型记录!”
🏆 AI 入门第 5 讲 · 核心知识打卡台
🌱 见习事实核查员已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)