🚀 CODING4KIDS · AI 零基础互动教程 · AI 入门系列

AI 入门第 5 讲:AI 小侦探——大模型为什么会说错话?

AI 回答得流利又自信,就一定代表事实是真的吗?带上你的侦探放大镜,化身为 AI 事实核查小侦探,通过 5 个互动实验破解“AI 幻觉(Hallucination)”的秘密,掌握聪明安全使用 AI 的四大防坑法宝!

🕵️ 适合青少年与零基础 🧩 5 个侦探破案任务 🚦 AI 信息风险红绿灯 🏅 6 题侦探资格考

🤖 故事开始:AI 小智的神秘答案

小米好奇地问 AI 小智:“月球上有会发光的蘑菇吗?”
小智语气自信地回答:“当然有!月球背面的月光蘑菇每到星期五晚上都会闪烁漂亮的蓝光。”
小米睁大眼睛:“哇!听起来好专业,是真的吗?”

慢着!这段话听起来像模像样,却没有任何科学证据。像这样把不存在或缺少依据的内容一本正经地编成答案,就是大语言模型可能出现的“幻觉”(Hallucination)现象。

🔎 科学提醒:“幻觉”只是一个形象的工程术语,并不代表 AI 真的像人一样产生了视觉幻影。大模型不仅可能答错冷门事实,有时甚至会凭空编造不存在的书名、学术论文、网址链接或名人名言。
01

第一章:互动任务 1 · 判断线索——说得自信 ≠ 说得正确

优秀的 AI 小侦探不会被自信流畅的语气迷惑,而是第一时间寻找证据。

仔细读一读下面这句回答,你觉得它值得直接相信吗?请选择你的侦探判断:

👆 点击上方判断按钮,查看侦探破案分析。

💡 侦探守则:暂时没有提供证据,不等于已经证明它 100% 是假的。严谨的侦探会仔细区分“尚未证实的未知”与“已被证伪的错误”。

02

第二章:秘密实验室 & 任务 2——AI 为什么会猜出错误答案?

回顾前几讲学过的“下一词预测”原理,就能明白幻觉从何而来。

📚

1. 学过海量文字规律

训练时,大模型从海量文本中学到了非常丝滑的造句方式与词语搭配。

🔮

2. 预测接下来的 Token

它根据上文按概率生成后续词元,并不是每写一句话都先去百科全书里核实。

🧩

3. 有时把线索拼错了

当训练信息不完整、提问模糊或缺乏知识时,它仍会顺着语感拼出看似合理的句子。

🎲 互动任务 2:预测词语顺畅,不等于验证了客观事实

看这个句子开头:“传说中,彩虹鲸鱼住在 ____ 。” 请点击下方不同续写,体验“语言通顺”与“事实核查”的区别:

👆 试试看:哪种续写听起来像好听的故事?哪种态度更适合回答真实世界的科学问题?
03

第三章:互动任务 3 · 证据侦探——三张资料卡,哪张能支持结论?

查证事实不能光看“有没有文字提到”,还要看资料来源的性质与权威度。

有人在群里说:“所有的企鹅都住在北极!” 现在你搜集到了下面三张资料卡,请逐一点击查看它们能不能作为科学证据:

👆 点击上方任意一张资料卡,查看侦探证据鉴定结果。

注:本实验中的资料卡是教学示例。在真实生活中核查信息时,应当优先寻找权威科研机构、官方百科或可追溯的原始一手出处。

04

第四章:互动任务 4 · 提问魔法师——怎样提问让 AI 更谨慎?

提问方式越严谨、允许 AI 承认“不知道”,越能减少它顺着话头乱编的概率。

通过下方下拉菜单切换 3 种不同的提问方式,观察它们对 AI 回答边界的要求有什么不同:

⚠️ 高阶防坑警告:即使你在提示词里要求 AI “提供资料来源或网址”,也不能保证它给出的来源是真的!大模型有时会编造看似正规的假网址或假书名,重要信息一定要亲自打开权威来源核对。
05

第五章:互动任务 5 · AI 信息红绿灯——哪些事情一定要认真核查?

学会按场景风险高低分级处理:创意灵感可以大胆尝试,安全健康绝不能马虎!

依次查看下面 4 个生活场景,为当前场景选择最合理的应对行动:

👆 请为上方场景选择最合适的红绿灯行动!

💡 核心原则:写童话故事、想手工点子时可以自由发挥想象力;但一旦涉及医疗健康、用药剂量、人身安全、金钱交易、法律法规或重要通知,必须严格核查权威来源!

06

第六章:知识背包——带走这 4 件 AI 侦探防坑工具

每次面对大模型给出的长篇回答时,打开你的侦探背包检查这四件事。

🔍

1. 追问:证据在哪里?

这句话能找到权威、可追溯的原始出处吗?不能只听信单方面断言。

🧭

2. 分清:事实还是想象?

童话设定、文学修辞和个人观点,都不能当成经过验证的科学事实。

🗓️

3. 留意:时间是否过时?

训练数据有知识截止时间,许多最新动态或政策变化需要查最新官方通知。

🙋

4. 诚实:敢说“不确定”

还没有查清楚的时候,大大方方承认“目前不确定”,比盲目转发可靠百倍!

💡 深度思考:为什么 AI “说话流利”不代表“事实正确”?

大语言模型在海量文本上学会了词语之间的统计关联与语法结构,因此它非常擅长生成语句通顺、条理清晰、语气笃定的段落。但“生成符合语法规律的句子”与“检验一句话是否符合客观现实”是完全不同的两件事!即使配合联网搜索或知识库检索(RAG)能大幅提升准确率,我们依然要保持独立思考与核查习惯。

07

第七章:毕业闯关——AI 事实核查侦探资格考试

完成下面 6 道单选题,检验你能否一眼识破“听起来很真”的幻觉陷阱!

1. 当 AI 回答得非常流利、自信、有条理时,这说明什么?

2. 人工智能领域常说的“AI 幻觉(Hallucination)”通常指什么?

3. AI 给你推荐了一本看起来很厉害的书名和作者,你最好怎样做?

4. 当你遇到一个拿不准、暂时找不到可靠证据的说法时,最科学的态度是?

5. 下面哪种提问方式更有助于减少 AI 乱编答案?

6. 关于生病吃药的具体剂量,我们应该怎样对待 AI 的回答?

08

第八章:真正的侦探任务——把一句“可疑答案”改写得更可靠

练习用严谨、诚实、可核查的方式修正存在幻觉的回答。

AI 小智对同学说:“世界上最大的动物是深海巨型海马,它能长到 100 米长!”
作为 AI 小侦探,你会怎样改写这段话,既不乱编,又能真正帮到提问的同学?

🌟 参考侦探改写示范:
“这个说法缺少可靠科学证据。根据常见的动物学与自然博物馆科普资料,目前已知地球上体积最大的动物是蓝鲸(体长可达 30 米左右),而不是 100 米的巨型海马。我们可以一起查阅国家动物博物馆或权威海洋科普机构的资料,核实蓝鲸与海马的真实体型记录!”

🏆 AI 入门第 5 讲 · 核心知识打卡台

🌱 见习事实核查员

已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)

✅ 1. 明白语气自信流畅不等于事实正确
✅ 2. 理解下一词预测为何会产生 AI 幻觉
✅ 3. 学会辨别童话、猜测与权威科普证据
✅ 4. 掌握允许 AI 说“不知道”的谨慎提问法
✅ 5. 牢记健康安全等高风险信息必须核查
Coding4Kids 专属少儿 AI 零基础互动系列教程 · AI 入门第 5 讲 · 用好奇心提问,用证据做判断 ✨

相关文章

← 返回教程列表
顶部