AI 入门第 13 讲:AI 会不会真正思考?智能、意识与人类的独特能力
AI 能答题、写故事、下棋。那它是不是和我们一样在思考?它会感到开心吗?今天我们用科学家的方法,区分“会完成任务”和“有内心体验”,探索人工智能与人类独特智慧的边界!
🤖 故事开场:小星说“我好开心!”
小乐和机器人小星一起完成了科学展览。小星在屏幕上写:“我好开心呀!”小乐好奇地问:“小星,你真的像我一样感到开心吗?”小星回答:“我能生成表达开心的句子,但仅凭这句话,不能证明我有和人一样的内心感受。”
这引出了三个容易混淆的词:
能力(Capability)
能不能完成一项任务,例如识别图片、解数学题、规划路线。
智能(Intelligence)
学习、推理、解决问题和适应新情况等能力的集合。不同领域的定义不完全相同。
意识与主观体验
“从自己的角度感觉到什么”,例如疼痛、快乐、看到红色的感受。
实验 01 · 会做题 ≠ 有感受:区分能力与体验
下面哪些现象能直接证明一个系统“有内心感受”?
这个实验不是要否认 AI 的能力,而是训练区分“我们观察到的行为”和“我们推断的内在状态”。
实验 02 · 规则与理解:“照规则回答”能不能看起来很聪明?
你来扮演一个只能按规则处理符号的“神秘盒子”。观察者看不到盒子内部,只能看到输入和输出。
☀️ → “带上遮阳帽”;☁️ → “看看天空”;🌧️ → “带上雨伞”。
实验 03 · 新情境挑战:解决新问题需要什么?
一个小机器人学会了“遇到红色障碍就向左绕”。现在出现新的情况,你会如何改进它的策略?
能够适应新情况,是很多智能任务的重要部分。但适应能力也有程度差异,并不等于系统一定拥有意识。
实验 04 · 图灵测试小剧场:像人一样聊天,就等于人吗?
科学家艾伦·图灵曾提出一种通过对话来讨论机器智能的测试思路。下面两段回答,你能仅凭文字确定谁有主观体验吗?
💬 回答 A
“下雨时我喜欢听窗边的声音,因为那让我想起童年。”
💬 回答 B
“我能描述雨声和回忆,但你不能仅凭我的文字确认我是否有感受。”
这些回答均由本教程预先编写,不是真实的人机对话测试。图灵测试关注对话行为的可区分性,并不是公认的意识检测仪。
实验 05 · 人类与 AI 合作实验室:谁适合负责什么?
学校要设计一场“保护小河”主题活动。请为每项任务挑选更合适的负责方式。
人类有身体、社会关系、生活经历、价值判断和责任。AI 可以提供信息与工具支持,但不应取代人在重要决定中的责任。
实验 06 · 科学观点分拣:事实、推测,还是开放问题?
科学思考要分清“有证据支持的事实”和“还没有解决的问题”。
知识地图 · 今天的三个重要区分
把外部行为、内部计算机制与主观体验清晰分开。
1. 行为表现
我们能观察到系统做了什么,例如回答问题、下棋、识图。
2. 内部机制
我们可以研究算法、参数、计算过程和训练方法。
3. 主观体验
系统是否“感觉到什么”是另一类更难研究的问题。
💡 进阶知识:为什么意识问题这么难?
因为我们能测量行为、神经活动或计算过程,却难以直接观察另一个主体的第一人称体验。研究者对意识的定义、理论和检测方法仍有不同观点。
💡 进阶知识:人类思考与大模型推理有什么不同?
人类学习和思考与身体感知、社会交往、长期生活经验等紧密相连。大语言模型通常在训练中学习参数,推理时根据输入进行计算和生成;某些系统还能使用工具、记忆和反馈。它们可以在一些任务上呈现相似的行为,但机制和能力边界并不完全相同。
知识闯关 · 6 道题,挑战科学思辨徽章
完成下面 6 道单选题,检验你对能力、智能与意识区分的理解!
毕业任务 · 写给未来 AI 科学家的一封信
假如你是一名未来科学家,你想设计什么实验来了解 AI 的能力?哪些现象能观察到,哪些问题仍需要谨慎?
🌟 查看参考示范
我想研究 AI 能否在没见过的新迷宫中找到出口。我会设计不同形状的迷宫,记录成功率和失败原因。如果 AI 能解开迷宫,我可以说它具有一定的规划能力,但不能仅凭这一点证明它拥有主观体验。我还想知道它是否会根据失败调整策略。
① AI 能完成复杂任务,这是值得认真研究的能力。
② “表现聪明”和“有主观体验”是两个不同的问题。
③ 关于 AI 意识,我们应该保持好奇、尊重证据,不把猜测说成定论。
🏆 AI 入门第 13 讲 · 核心知识打卡台
🌱 科学思辨新星已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)