AI 入门第 25 讲:自动寻找小伙伴——K-means 聚类算法
没有标签,没有标准答案,机器怎样把相似的事物分成小队?跟小星一起,用真正运行的 K-means 算法发现数据里的秘密!
🌟 故事:校园星球的神秘点点
今天的任务:把这套想法变成一个能自己运行的算法。
先记住:聚类属于无监督学习。它发现数据中的相似群体,但分出来的组不自动等于真实世界的类别。
🗺️ 一张图看懂 K-means
这里的 K 是你事先指定的组数;means 指每组的平均值(均值)。每轮尽量减小“点到所属中心的平方距离之和”(SSE)。
🎯 让 K-means 真正跑起来
点击图中空白位置添加无标签样本;先设置 K,再依次“分配队员”和“移动中心”。注意中心是如何一步步移动的。
为公平比较,初始中心由样本中随机挑选;不同初始化可能得到不同结果。自动运行最多 60 轮。
📏 为什么这个点属于蓝队?
拖动待分类点的坐标,亲自计算它离两个中心的距离。K-means 每次分配时,只看谁更近。
进阶:距离怎么算?
两点 (x₁,y₁) 与 (x₂,y₂) 的欧氏距离:√[(x₁−x₂)²+(y₁−y₂)²]。比较远近时也可以直接比较距离的平方,结果一样。
🔢 分成几组才合适?
同一批数据,改变 K 并重新聚类。观察 SSE 的变化:组数增加通常会让 SSE 变小,但不代表分组一定更有意义。
下方是同一数据在 K=1…7 下的 SSE(各 K 取多次初始化的较好结果)。寻找下降开始变缓的“肘部”,但它并不总是明显。
🎲 同样的数据,为什么结果不同?
K-means 有时会卡在不同的局部最优。反复运行相同数据,比较每次的 SSE 和中心位置。
实际应用常使用多次初始化或 K-means++ 来减少不理想的初始中心造成的影响。
🌙 月牙形数据也能分好吗?
把数据切换为圆形团块或弯曲月牙,看看同样的 K-means 会怎样划分。它倾向于按到中心的距离形成凸形区域,并不擅长所有形状。
图中颜色是算法发现的分组,不代表它知道真实形状。换成密度聚类等算法,有时更适合弯曲形状。
🛍️ 为校园小店设计分组助手
假设每个点代表一位虚构顾客:横轴是每周到店次数,纵轴是平均购买数量。先聚类,再思考这些组能说明什么、不能说明什么。
聚类结果只能提示相似行为,不能推断某个人的性格、家庭情况或消费能力。真实场景应尽量使用匿名、必要的数据,并避免给人贴标签。
🧠 知识进阶:你已经接触到的数学
1. 为什么要计算“平均位置”?
在每组成员固定时,使成员到中心的平方距离总和最小的位置,恰好是每个坐标的算术平均值。这是 K-means 的关键数学性质。
2. SSE 是什么?
SSE = Σ‖xᵢ − μ所属组‖²。每个样本减去所属组中心,算距离平方,再加起来。越小表示点在几何上越贴近各自中心,但不能单靠 SSE 判断聚类是否有实际意义。
3. 算法一定会找到全世界最好的分法吗?
不一定。标准 K-means 在分配和更新两个步骤中不会增大 SSE(在常规非空组情况下),最终会稳定在某个局部最优。不同初始中心可能得到不同结果。
4. 为什么要先标准化特征?
假如横轴是“年龄(十几)”,纵轴是“年收入(几万)”,后者数值可能主导距离。通常需要根据问题合理缩放特征;但标准化并不能自动保证分组公平或合理。
5. K-means 和 KNN 是一回事吗?
不是!KNN 是有标签的监督学习,用邻居投票预测类别;K-means 是无监督聚类,预先设定 K 个中心、反复分配和更新。两个算法都有字母 K,但意义不同。
🏅 六道挑战题 · 自动评分
先独立作答,再点击提交。每道题都会给出解释。
🚀 毕业设计:校园里的无监督学习
请选择一个场景:校园植物分组、图书借阅兴趣发现、运动轨迹整理(必须匿名)、或自拟主题。写出:①每个样本是什么;②至少两个可量化特征;③为什么选择 K;④如何检查分组有没有意义;⑤隐私和误用风险。
🏆 AI 入门第 25 讲 · 核心知识打卡台
🌱 见习 AI 观察员已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)