AI 入门第 12 讲:AI 安全守护队——隐私、公平与负责任使用
AI 可以帮我们学习、画画和解决问题。可是,怎样保护自己和同学的个人隐私、识破一本正经的错误、发现不公平偏见并坚持诚实思考?今天你就是 AI 安全守护队长!
故事开场:小星收到一条奇怪的消息
学会在使用强大的 AI 工具前先筑起安全防线。
AI 就像一件强大的工具:用得好,能帮助大家;用得不小心,也可能造成伤害。今天我们学习核心守护技能:
保护隐私
不随便分享自己和别人的个人信息。
核查事实
AI 说得流利,也可能说错。
发现偏见
观察 AI 是否对某些人不公平。
尊重他人
不拿 AI 欺骗、冒充或伤害别人。
实验 01 · 隐私分拣站:哪些信息可以告诉 AI?
下面的信息,你会怎样处理?请选择最合适的做法。
实验 02 · 真假信息侦探:AI 回答得很自信,就一定对吗?
小星回答:“月球是地球最大的恒星,而且我百分之百确定!”你要怎样处理?
科学知识:月球是地球的天然卫星,不是恒星。“说得很肯定”不等于“有证据”。
🔍 进阶知识:为什么 AI 会一本正经地出错?
语言模型会根据上下文生成看起来合理的文字,但它的生成过程本身不能保证事实正确。模型也可能遇到过时知识、模糊问题或不可靠资料。因此重要信息应核查来源。
实验 03 · 公平裁判:AI 的决定对每个人公平吗?
一个机器人社团用 AI 推荐成员。下面两位同学的相关技能一样,只是名字不同。观察系统会不会给出不同评价。
👩 小雨
编程:熟练
机器人比赛:参加过
团队合作:优秀
👨 小明
编程:熟练
机器人比赛:参加过
团队合作:优秀
实验 04 · 友善创作室:用 AI 创作,不能伤害别人
有人建议用 AI 把同学的脸放到搞笑视频里,再发到班级群。你会怎么做?
AI 生成的图片、声音或视频可能让人误以为是真的。使用真实人物的肖像、声音时,要尊重同意、隐私和学校规则,不能用于欺骗或霸凌。
实验 05 · 学习诚信挑战:AI 可以帮忙,但不能替你学习
老师布置了一篇《我最喜欢的动物》的作文。哪种做法更能帮助你真正进步?
学校、老师对 AI 辅助作业的规定可能不同,应遵守具体要求,必要时说明 AI 的参与方式。
实验 06 · 安全决策闯关:遇到风险时,先停一下
小星想自动完成三件事。请勾选哪些事情必须先由可信任的大人或相关人员批准:
知识地图:AI 安全守护队的五条约定
记住这五颗安全守护星,做聪明、诚实又负责任的 AI 探索者。
🔐 1. 隐私
少分享、不泄露、尊重他人信息。
🧪 2. 核查
重要事实要找可靠来源验证。
⚖️ 3. 公平
留意不合理的差别对待。
🤝 4. 尊重
不冒充、不欺骗、不欺负别人。
👩🏫 5. 监督
涉及现实后果的行动需要人类把关。
🛡️ 进阶知识:AI 安全是不是只靠一条提示词就够了?
不够。负责任的 AI 系统还需要数据保护、权限控制、测试、人工审核、纠错机制,以及持续改进。提示词可以帮助表达要求,但不能替代完整的安全措施。
知识闯关:6 道题,赢取“AI 安全守护队长”徽章
完成下面 6 道单选题,检验你的安全守护实力!
毕业任务:为学校制定一份《AI 安全使用公约》
写出至少三条你认为重要的规则,并举出一个具体例子。
💡 查看参考公约
1. 不上传密码、验证码和他人未经同意的个人信息。2. 遇到重要事实先查证。3. 不用 AI 制作欺骗或伤害他人的内容。4. AI 可以帮助学习,但作业要体现自己的思考,并遵守老师规定。5. 遇到让人不舒服或有风险的内容,及时向可信任的大人求助。
🌟 今天记住这三句话
① AI 很有用,但不能替代你的判断。
② 保护隐私、尊重别人、核查事实,是使用 AI 的基本功。
③ 当 AI 可能影响现实中的人时,需要更多谨慎、规则和人类监督。
🏆 AI 入门第 12 讲 · 核心知识打卡台
🌱 安全守护预备员已掌握:0 / 5 个核心知识点(点击下方卡片点亮勋章)