AI 入门第 24 讲:AI 怎样预测未来的数字?线性回归(Linear Regression)
跟着小星和小乐,把散落的数据点变成一条会预测的直线。亲手计算误差、训练模型,再检验它究竟靠不靠谱!
🌟 故事开始:校园植物观察站
小乐记录了小苗长了几周、长到了多高。小星问:“能不能预测第 7 周的高度?”小乐答:“我们先把数据画出来,看看它们有没有大致规律。”
今天的关键任务:认识回归——预测连续数值;掌握 y = wx + b;理解误差、均方误差(MSE)、梯度下降、训练与测试、外推风险。
🎛️ 预测工坊:亲自摆放一条直线
图上的点是已经观察到的样本。改变斜率 w 与截距 b,看看蓝色预测线能否接近所有样本。点击图表还可以添加新样本。
横轴:观察周数 x;纵轴:高度 y(厘米)。点击空白位置添加样本。
斜率表示 x 每增加 1,预测值变化多少;截距表示 x=0 时模型预测的 y。
🔍 误差放大镜:为什么要把误差平方?
选择一个样本,观察真实值、预测值与误差。MSE 把每个误差平方后求平均,避免正负误差互相抵消,并更重视大误差。
MSE 的单位是“厘米²”,不是厘米;如果希望回到厘米,可以看均方根误差 RMSE。
⚙️ 自动训练:梯度下降寻找更好的 w 和 b
AI 不需要我们每次手动猜参数。它可以计算损失对参数的变化方向,沿着使损失下降的方向迈出一小步,重复许多次。
实际运行批量梯度下降:对每个训练样本计算预测误差,求出 MSE 对 w、b 的梯度,再更新参数。学习率过大时可能震荡甚至发散。
🪨 一个奇怪的数据点,能拉动整条线吗?
试着加入一个偏离大多数数据的点,再比较普通最小二乘拟合的结果。离群点可能有真实原因,也可能是记录错误;不能看到它就直接删除。
本实验用解析公式求最小二乘直线,与实验 3 的迭代训练不同,但目标都是尽量降低平方误差。
🧪 训练成绩好,遇到新题也会好吗?
将数据分为训练集和测试集。测试集不参与拟合。试试增加训练数据中的测量噪声,观察模型在新样本上的误差。
蓝点:训练数据;橙色方块:测试数据。模拟数据以固定规律加不同扰动生成,每次可重新采样。
🔮 预测第几周?警惕“超出经验范围”
模型只看过第 1–6 周的模拟数据。把预测周数调到 12 周,直线仍能给出数字,但这不等于预测可靠。
思考:如果植物长到一定高度就停止生长,一条直线能一直预测下去吗?
🧠 知识地图:把今天的知识串起来
① 从样本出发
每条数据都有输入 x 和真实数值 y。预测连续数值叫回归。
② 选择模型
线性回归用 ŷ=wx+b 表示输入与预测之间的直线关系。
③ 定义错误
MSE = 平均[(预测值−真实值)²]。它是训练目标之一。
④ 学习与验证
调整参数使训练误差下降,再用未参与训练的样本评估表现。
进阶:最小二乘法的解析解是什么?
对于只有一个输入特征的线性回归,在输入不全相同的情况下,最小二乘斜率为 w = Σ(x−x̄)(y−ȳ) / Σ(x−x̄)²,截距 b = ȳ−wx̄。它能直接求出最小化训练 MSE 的直线。
进阶:为什么梯度下降能更新参数?
对于 n 个样本,MSE = (1/n)Σ(wxᵢ+b−yᵢ)²。它对 w 的梯度是 (2/n)Σxᵢ(wxᵢ+b−yᵢ),对 b 的梯度是 (2/n)Σ(wxᵢ+b−yᵢ)。每次更新:w←w−学习率×梯度,b 同理。
进阶:线性回归的“线性”究竟指什么?
通常指模型对待学习的参数是线性的。现实中可以通过特征变换表达某些曲线关系,但模型是否适用仍需要数据和独立评估来判断。相关不代表因果。
🏅 小小数据科学家知识挑战
🚀 毕业任务:设计一位“校园数字预测员”
选择一个适合回归的问题(例如预测植物高度、校园用水量),说明:① 输入和输出是什么;② 怎样收集可靠数据;③ 用什么指标评估;④ 怎样避免隐私问题和不可靠的外推。
本任务不上传任何内容;保存仅使用当前浏览器的本地存储。
🏆 AI 入门第 24 讲 · 核心知识打卡台
🌱 见习 AI 观察员已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)