🌱 Coding4Kids · AI 零基础互动教程 · 第 21 / 48 讲

AI 入门第 21 讲:寻找最近的朋友——KNN 最近邻算法

如果你不知道一个新朋友属于哪一组,能不能看看他附近的朋友?今天亲手操作真正的 KNN 分类算法!

🎯 零基础直觉图解 🧪 可交互实验工坊 🏅 6 题闯关自测 🔒 100% 本地安全运行
故事开场

🐱 小星的神秘动物卡片

小乐带来一张动物卡片,只有“体型大小”和“耳朵长度”两个数值,却忘了写是猫还是兔。小星说:“我可以找出特征最接近它的几张已知卡片,再参考它们的标签!”这就是 K 最近邻(K-Nearest Neighbors,KNN) 的基本想法。

① 先保存例子

每个训练样本有特征和标签。

② 计算距离

比较新样本与已知样本有多接近。

③ 参考 K 位邻居

分类时通常采用多数投票;回归时可以取平均等。

“邻居”不是现实生活中的朋友,而是特征空间里距离近的数据点。距离近不保证真实类别相同。

实验 01 · 二维 KNN 训练场

📍 在地图上亲自分类

蓝点代表猫,橙点代表兔。点击坐标图选择待预测的新样本位置;也可以选择添加训练样本。算法会计算真实欧氏距离、找出 K 个最近邻并投票。

横轴:体型大小(0–10);纵轴:耳朵长度(0–10)。这是虚构教学数据,不是可靠的动物识别模型。平票时按最近邻的类别决定,保持规则确定。

实验 02 · 距离计算器

📐 为什么说这两个点“近”?

在平面上,最常用的一种距离是欧氏距离。把两点连成直角三角形,使用勾股定理就能算出距离。

欧氏距离公式:d = √[(x₂ − x₁)² + (y₂ − y₁)²]。先理解差值,再理解平方与开方。

实验 03 · K 值投票站

🗳️ 为什么 K 不是越大越好?

这里有按距离从近到远排列的 9 个邻居。改变 K 值,观察投票结果。

K 太小,容易被个别噪声样本影响;K 太大,可能把较远、不同类别的样本也算进来。合适的 K 应通过验证数据来选择。

实验 04 · 特征尺度实验室

⚖️ 一个单位有多大,会影响“谁更近”吗?

有时两个特征使用不同单位,比如身高(厘米)与考试分数(分)。如果不做适当缩放,大数值特征可能主导距离。

教学示例:查询点 Q=(0,0),样本 A=(3,1),样本 B=(1,2)。通过改变第二维的尺度比较距离。真实项目通常用训练集估计标准化参数,再对测试集使用相同参数。

实验 05 · 噪声与 K 的挑战

🧪 一条错误标签会怎样?

在同一组样本中加入一个标签有误、却离查询点很近的样本。分别使用 K=1 与 K=5,看看预测如何变化。

本实验只展示一个特定案例,不意味着 K=5 总是优于 K=1;实际表现取决于数据分布。

实验 06 · 小型模型评测站

🎯 不只看训练题,还要看新题

在固定的训练样本上,使用不同 K 值预测一组没有参与训练的测试点,比较准确率。

这是固定的小型教学测试集,不能代表现实中的模型表现。实际建模通常需要更多数据、合理划分和交叉验证。

知识地图

🧠 KNN 算法到底做了什么?

保存数据

KNN 通常在预测时使用训练样本,不一定需要像神经网络那样学习一组权重。

计算距离

距离可以是欧氏距离,也可能是其他合适的度量。

选择邻居

按距离排序,找到最近的 K 个训练样本。

作出预测

分类通常投票;回归可使用邻居的平均值。

评估泛化

用没参与建模的新数据验证效果。

检查限制

特征尺度、噪声、维度和数据量都可能影响结果。

进阶:为什么高维数据会让 KNN 更困难?

当特征维度很高时,样本之间的距离可能变得不容易区分,而且计算和存储成本增加。这与所谓“维度灾难”有关。

进阶:KNN 能做回归吗?

可以。例如预测一间房的价格,找到特征最相近的 K 间房,取其价格平均值(或按距离加权平均)作为预测值。

进阶:什么是距离加权投票?

除了每个邻居各投一票,还可以让更近的邻居拥有更高权重。这样能体现距离差异,但也可能更受非常近的错误样本影响。

知识闯关

🏅 6 道题,挑战最近邻侦探徽章

答完题目后点击批改。
毕业任务

🚀 设计一个校园 KNN 助手

选择一个合理的分类问题,说明你的特征、标签、距离、K 值以及怎样用新数据检验模型。注意保护个人隐私。

写下你的方案吧!
参考设计

“校园植物卡片分类器”:根据叶片长度和宽度,参考已知植物卡片的类别进行预测。收集多个种类的样本,统一测量单位,划分训练与测试数据,比较不同 K 的表现;不收集同学个人信息。需要注意,只有两项特征可能不足以准确识别植物。

🌟 今天记住三句话

① KNN 根据特征空间中的距离寻找最近的 K 个样本。

② K 值、距离算法、特征尺度和训练数据质量都会影响预测。

③ 要用没见过的测试数据检验算法,而不是只看熟悉的训练样本。

第22讲预告:《机器怎样做决定?——决策树》,亲手让 AI 学会一连串“如果……那么……”的判断。

🏆 AI 入门第 21 讲 · 核心知识打卡台

🌱 见习 AI 观察员

已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)

✅ 1. 掌握:小星的神秘动物卡片
✅ 2. 掌握:在地图上亲自分类
✅ 3. 掌握:为什么说这两个点“近”?
✅ 4. 掌握:为什么 K 不是越大越好?
✅ 5. 掌握:一个单位有多大,会影响“谁更近”吗?
Coding4Kids 专属少儿 AI 零基础互动系列教程 · AI 入门第 21 讲 · 所有互动实验均在浏览器本地安全运行,不采集上传任何个人信息。
← Back to tutorials
Top