AI 入门第 11 讲:AI 的记忆本——上下文、记忆与知识库(RAG)
为什么 AI 有时记得你刚刚说的话,开启新对话后却忘了你最喜欢的颜色?今天和机器人小星一起,打开“对话小书包(上下文窗口)”、“长期记忆本”和“知识图书馆(RAG)”,揭开 AI 记忆与查资料的秘密!
故事开场:小星忘记了谁的生日?
区分当前对话上下文、应用保存的记忆与外部知识库。
先认识三种不一样的东西:
上下文(Context)
模型这次回答时能看到的文字等信息,好比桌面上摊开的纸。
保存的记忆
某些应用会把有用信息另外保存,在之后需要时再提供给模型。
外部知识库
课本、资料库、文档等,需要时可以检索相关内容。
实验 01 · 小书包有多大:上下文窗口装得下多少信息?
体验上下文窗口(Context Window)容量限制与旧信息滑出过程。
模型一次能处理的信息有容量限制,叫上下文窗口。它通常按 Token 计量,而不是按“几句话”计量。为了看得清楚,这里把每张信息卡当成一个单位,模拟一个只能装 4 张卡片的小书包:
真实系统可能截断、压缩、总结或选择性保留历史消息;并非所有模型都简单地“丢掉最早一句”。
实验 02 · 代词侦探:“它”到底指的是谁?
上下文不只是记住事实,还帮助我们理解句子之间的前后指代联系。
这里的分析是预设示例,真实语言模型会综合上下文信息进行预测,也可能在含糊的句子里判断错误。
实验 03 · 记忆与新对话:为什么开新对话可能“失忆”?
在这个模拟聊天里,你可以选择是否把一条偏好保存到应用的“小记忆本”。
实验 04 · 知识图书馆:RAG 先找资料,再回答
体验检索增强生成(Retrieval-Augmented Generation)的两步工作流程。
如果问题涉及学校图书馆的最新规则,小星不能只靠训练时学到的知识。它可以先检索资料,再根据找到的内容回答。这种常见思路叫 检索增强生成(RAG):
包含 3 张校内公告卡,均为虚构教学资料。
实验 05 · 证据对对碰:资料发生矛盾怎么办?
当知识库里同时存在旧公告与新公告时,学会根据发布时间戳核查时效性。
小星查到两张“活动时间”公告。一张是旧公告,一张是新公告。你会先参考哪张?
📄 公告 A
发布日期:2024 年 3 月
机器人社团活动:每周三 15:00
📄 公告 B
发布日期:2026 年 9 月
机器人社团活动:每周五 16:00
两个公告都是虚构例子。真实情况还要核查发布者是否权威、公告是否适用于当前学期,以及有没有更新版本。
实验 06 · 记忆守门员:哪些信息应该记住?
“记忆”有帮助,但并不是保存越多越好。判断哪些信息适合在允许后保存,哪些不应随意保存。
知识地图:把今天学到的连起来
从提问到核实回答,看上下文、记忆本与知识库如何协同工作。
这个流程是便于理解的示意,不表示每个 AI 产品都会同时使用记忆和知识库。
🔧 进阶知识:RAG 和继续训练有什么区别?
继续训练通常会调整模型参数;RAG通常不需要为每条新资料修改模型参数,而是在回答时把检索到的内容提供给模型。两者可以配合使用。
📏 进阶知识:上下文越长越好吗?
更长的上下文能容纳更多资料,但也可能带来计算成本和信息干扰。模型未必能准确利用其中每一条信息。合理筛选和组织上下文同样重要。
知识闯关:6 道题,挑战“AI 记忆侦探”徽章
完成下面 6 道单选题,检验你对上下文窗口、长期记忆与 RAG 的掌握!
毕业任务:设计一个“班级阅读助手”
请想象你要设计一个 AI,帮助同学查找图书馆规则、记住自己喜欢的书籍类型,并保护隐私。它应该怎样工作?
💡 参考示范:班级阅读助手设计
阅读助手可以在同学允许后记住“喜欢科幻故事”这样的偏好;查询借阅规则时优先搜索学校最新公告并注明来源;如果资料矛盾,提醒同学询问图书馆老师;不要求输入密码,不随意保存住址或联系方式。
🌟 今天最重要的三句话
① 上下文是模型当前能使用的信息,有容量限制;不等于永久记忆。
② 保存的记忆和外部知识库可以帮助 AI,但它们不是模型参数本身。
③ RAG 能让 AI 先找资料再回答,仍要核查资料是否可靠、及时,并保护隐私。
🏆 AI 入门第 11 讲 · 核心知识打卡台
🌱 记忆探索新手已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)