人工智能伦理

它是什么

人工智能伦理，关心的是：这样用人工智能，对不对得起人。

技术问：它做得到吗？伦理问：它该不该做？做错了伤害谁？谁来负责？

几条线对小学生已经够用：

1. 隐私：别人的脸、声音、作业记录，不是路边的树叶。
2. 同意：要拍、要录、要拿去训练，先问过本人。
3. 责任：人工智能会认错。错了，不能把锅全甩给机器。做决定、去核对的是人。
4. 使用不当：偷拍人脸、伪造声音和图片，即使声称好玩，也可能伤害人。

伦理不是空道理。它是能练的说话和行动：拒绝、报告、核实、保护隐私。

名字从哪来

人讨论「工具该怎么用」，比电脑更早。刀可以切菜，也可以伤人。规则写在法律、校规和人心里，不写在刀上。

科幻作家阿西莫夫在二十世纪四十年代写过「机器人三定律」：不伤害人、服从人、保护自己。这些句子第一次完整出现在 1942 年的短篇《环舞》（Runaround）里，后来收进《我，机器人》。

三定律是故事里的设定，不是世界上的真法律。 真的语音助手、闸机、推荐软件，并没有被写进这三条。真问题要人来商量：隐私、同意、出错以后谁负责。

近几十年，人脸、声音、推荐进入学校和城市。伦理讨论也从实验室走到教室：谁的照片能进 训练数据？闸机认错了怎么办？假语音传来「作业全免」，该不该信？

怎么工作

伦理不像加减法，没有一台机器替你按出「对」或「错」。它靠人问清楚，再选择行动。

遇到一件新玩法，先问三句：

1. 对方知道吗？
2. 对方愿意吗？
3. 如果传出去，谁会难堪、谁会被骗？

有一个答案是「不」或「会伤害人」，就停下。

技术局限出现时，伦理问的是责任。借书机认错旧书，老师来核对。这是承认局限，不把责任全推给机器。

偏见出现时，伦理问的是公平。同一类同学总被拦，要去查系统，不要嘲笑被拦的人。

深度伪造出现时，伦理问的是伤害。没问过就换脸，哪怕还没发到网上，也已经拿走了别人的样子。

可以把班级公约写得很短：

• 不偷拍脸
• 不传假声音
• 被拒绝就停止
• 奇怪通知先问老师

生活里

这些都是伦理在场的时刻：

• 英语软件、推荐书、拍题批改，可以好好用
• 有人没问过就拍同学的脸去做换脸
• 有人传来「老师的声音」说作业全免
• 有人把阅读记录投到大屏上炫耀
• 同学说：「请不要拍我的脸。」

拒绝、报告、核实，都是正当动作。到办公室问一句，比在群里吵更快更稳。不要用另一条来路不明的语音，去证明这一条语音。

大人世界里还有更重的问题：自动驾驶出事谁负责，医院软件看错片子怎么办。小学生先抓住身边的：脸、声音、同意、核对。

相近差别

伦理和技术不是对立。技术问能不能做，伦理问该不该做。两问都要，才配用更强的 人工智能工具。

它和法律有关，但不等于法律课。有的伤害还没写成法条，已经对不起同学。校规、家规、当面问一句，都是伦理的练习场。

它和阿西莫夫的三定律也不一样。三定律是小说里给机器人装的「内心规则」；现实里，规则装在人的选择上。

它和「好玩」更要分开。好玩如果建立在别人没同意上，就不是友好。

常见误会

误会 1：好玩就可以。

好玩如果拿走别人的脸和声音，就可能变成伤害。

误会 2：没发到网上就完全没问题。

拍照这一刻，隐私已经被拿走。传不传出去，是下一问。第一问是：对方愿意吗？

误会 3：伦理只是大人的事。

五年级、六年级就会遇见假语音和偷拍。现在就要会说不。

误会 4：讲伦理就是反对人工智能。

恰恰相反。会分清对错，才配用更强的工具。

误会 5：机器会自己遵守三定律。

不会。那是科幻。真的责任在设计的人、使用的人、管理的人。

想知道更多

• 书：蔡宗翰《写给小学生看的 AI 课》。
• 书：《图解 10 岁就懂的 AI 入门》。
• 书：清华大学《人工智能通识（小学版）》。
• 小说：阿西莫夫《我，机器人》短篇（和家长一起读。科幻不是说明书，三定律不是真实世界的法律）。
• 电影：《超能陆战队》《机器人总动员》适合问「机器该怎样待人」；《她》（Her）题材偏大，和家长一起看。
• 纪录片：《阿尔法狗》《你好，人工智能》。看完可以问：强了以后，人还要留下哪一段责任。