🚀 CODING4KIDS · AI 零基础互动教程 · AI 入门系列

AI 入门第 23 讲:AI 怎样画出一条分界线?线性分类与逻辑回归

判断一个样本属于哪一类,不一定要像决策树那样不断提问。我们还可以在特征平面上画一条分界线(Decision Boundary),并通过 Sigmoid 函数转换成 0%~100% 的概率!

👧 适合 9–15 岁 ⏱️ 建议 35–45 分钟 📍 6 个分界线与概率实验 ⚙️ 真实交叉熵梯度下降 🏅 6 题闯关赢探险家徽章
🌟

故事与核心公式:机器人水果店的分界线

依次探索:线性打分 → 决策边界 → 概率 → 损失函数 → 梯度下降 → 泛化能力。

🍎 桌上的红果与蓝果:
小乐:“桌上有红果和蓝果。能不能一眼看出它们的分布规律?”
小星:“把水果的两个特征画成坐标点,再找一条能把两类分开的线!”
导师:“不过,真实数据有重叠,也会有噪声。线不一定能完美分开。我们还要学会判断预测有多确定,以及如何用训练数据改进这条线。”

🎯 分类

回答“属于哪一类?”例如橙果(类别 0)或蓝果(类别 1)。

📏 线性模型

把特征乘上不同权重再相加,形成一个综合线性分数 z。

🎚️ 逻辑回归

把线性分数转换为 0~1 的概率 p,再与阈值比较做分类。

🧠 先认识核心公式

z = w₁ × x₁ + w₂ × x₂ + b
p = 1 / (1 + e^(−z))

x₁、x₂ 是特征;w₁、w₂ 是权重;b 是偏置;z 是线性打分;p 是模型对“蓝色类别”的估计概率。通常 p ≥ 0.5 时判为蓝类。当 z = 0 时,p 恰好等于 0.5;图上的这组位置就是决策边界。二维时,它通常是一条直线。

🔍 进阶:为什么叫“逻辑回归”,却用来分类?

名字中的“回归”来自历史命名;它使用 sigmoid 函数将线性分数映射为概率,常用于二分类。概率的可靠性还需通过独立数据评估,不能把 90% 直接理解为“现实中必然有九成正确”。

01

实验 01 · 自己画出分类边界

拖动滑块观察分界线怎样转动和平移;点一下坐标图,可以添加新的待预测探测点。

蓝点代表类别 1,橙点代表类别 0。背景是当前模型的预测区域;真实点颜色是已知标签,不会随滑块改变。

02

实验 02 · 一条 S 形概率曲线(Sigmoid)

调节线性分数 z 和分类阈值,观察 Sigmoid 函数如何输出平滑概率并作出判断。

阈值不是模型的训练参数,而是我们根据任务需求设置的判断标准。

03

实验 03 · 线性分类能分开所有图案吗?

切换数据形状,再让程序尝试寻找一条最好的直线。特别注意“交叉棋盘 XOR”!

这里采用网格搜索,在有限候选直线中找训练错误最少的一条,不等于逻辑回归的梯度下降训练。

04

实验 04 · 让 AI 自己训练:真正的梯度下降

每按一次训练按钮,程序都会用当前训练样本计算交叉熵损失与梯度,自动更新 w₁、w₂、b。

这里实现了二维二分类逻辑回归的全批量梯度下降,不是预设动画。

📐 进阶:每一步梯度下降到底怎么算?

对第 i 个样本:zᵢ=w₁xᵢ₁+w₂xᵢ₂+b,pᵢ=sigmoid(zᵢ)。交叉熵是 −[yᵢln(pᵢ)+(1−yᵢ)ln(1−pᵢ)]。平均梯度为 ∂L/∂wⱼ = 平均[(pᵢ−yᵢ)xᵢⱼ],∂L/∂b = 平均(pᵢ−yᵢ)。更新:参数 ← 参数 − 学习率×梯度。

05

实验 05 · 训练分数好,就真的学会了吗?

使用不同训练集训练 350 步,再用始终独立的测试集评估,观察数据质量如何影响泛化。

每种情况都从零开始训练 350 步;测试集不参与参数更新。

06

实验 06 · AI 分类决策官:误报与漏报的权衡

假设蓝色表示需要优先检查的情况:阈值调高可能减少误报(FP),却会增加漏报(FN)。

本实验用一组固定的模型预测概率演示阈值影响,模型没有重新训练。

07

知识地图:记住这五件事

把线性打分、Sigmoid 概率、梯度下降与泛化评估串成完整体系。

1. 线性分类用特征的加权和来打分,二维的决策边界通常是一条直线。

2. 逻辑回归通过 sigmoid 把分数变成 0~1 的概率。

3. 模型参数可以用训练数据和梯度下降自动学习。

4. 单条直线有局限,遇到复杂形状可能需要非线性特征或更复杂的模型。

5. 评价模型要看独立测试集,也要考虑误报、漏报和实际应用风险。

🌀 进阶:分类边界是弯的怎么办?

可以引入新特征,例如 x₁²、x₁x₂,也可以采用决策树、核方法或神经网络。注意:在新特征空间中是线性的模型,画回原来的二维坐标后也可能出现曲线。

📊 进阶:模型概率是否一定可靠?

不一定。逻辑回归输出的是模型估计值;若训练数据有偏差、模型假设不适用或遇到未见过的情况,概率可能不准确。需要通过独立数据检验,必要时进行概率校准。

08

六题闯关:赢取“分界线探险家”勋章

每道题选一个答案,点击“提交答案”查看得分和逐题解释。

1. 线性分类模型 z=w₁x₁+w₂x₂+b 中,w₁ 和 w₂ 表示什么?

2. 二维线性分类模型的决策边界通常是什么形状?

3. sigmoid 的主要作用是什么?

4. 梯度下降训练会怎样更新参数?

5. 如果两类数据呈 XOR 交叉棋盘分布,单条直线通常能完美分开吗?

6. 判断一个分类模型能否处理新数据,应该重点看什么?

还没有提交。
09

毕业挑战:设计一个“校园物品分类助手”

想象你要根据物品的重量和体积,判断它适合放入哪种收纳箱。设计一个简单的逻辑回归系统:

① 定义任务

两类标签分别是什么?为什么这个分类有用?

② 准备数据

如何收集代表性样本?哪些样本需要人工复核?

③ 训练与评估

怎样分训练集和测试集?误报和漏报分别有什么后果?

设计任务不自动判分:需要解释自己的选择,而不是背出标准答案。

隐私提示:不要在设计中收集同学姓名、照片、联系方式等无关个人信息。浏览器保存功能只保存在当前设备;导出文件由你自行保管。

🏆 AI 入门第 23 讲 · 核心知识打卡台

🌱 分界线观察员

已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)

✅ 1. 理解权重加权和与决策边界
✅ 2. 掌握 Sigmoid 将分数转成概率
✅ 3. 明白单条直线无法解决 XOR
✅ 4. 体验交叉熵与梯度下降更新
✅ 5. 学会权衡分类阈值误报与漏报
Coding4Kids 专属少儿 AI 零基础互动系列教程 · AI 入门第 23 讲 · 离线互动课程,所有计算均在本地浏览器执行。
← Back to tutorials
Top