会帮人，也会搞错

它能让日子变快，也会看走眼。

你会说出人工智能怎样改生活和工作。 你会知道它会认错，不能全信。 你会知道偏见会让对待不公平。

这节课要完成什么？ 分清「盖章」和「帮人」；结果出来了，还要检查。

图书角换了自助借书机。 以前要等老师盖章，现在把书放上去，几秒就完成。林晓很高兴。

第二天，她把一本封面磨损的书放上去，机器写成另一本书名。 她只好重新排队找老师。

同桌说：「它既帮忙，也会添乱。」 老师点头：「这就是我们要看清楚的改变。」

如果觉得有点难 先找自己的一天：哪一件事变快了？ 变快了，仍要问一句：错了谁来改？

如果已经会了 想一个大人的工作：批改口算、整理借书记录。 说说机器能帮哪一段，再说人必须留下哪一段。

人工智能会改我们怎么过日子。

上学，闸机看脸更快，队伍走得快。

写作业，拍题能先批一版；看书，软件会推荐下一本。这些都让等待变短。

工作也在变。图书馆老师少盖一些章，可以去帮同学找更合适的书。

食堂如果用识别统计菜品，打饭会更快。 方便：少排队、少重复劳动。

有人担心：那人是不是没用了？

不是这样看。活被分段了。

重复、核对的活，机器能分担；需要关心人、做决定、负责任的活，还是人来。

盖章这一段，机器可以先做；帮人找书这一段，老师来。 同学难过了，还是人去安慰。

借书机认错了，老师要判断真正的书名。

所以：盖章可以交给它，帮人这一段，留下给人。

方便背后，有技术局限。

第一种：识别错误。 语音软件把「林晓」写成「林小」，闸机在逆光时不认人，借书机把旧封面认成别的书。错了就要人来核对。

第二种：偏见。 偏见，就是偏向某一边。 如果训练照片几乎都是短头发，长头发的同学可能更常被拦下。 这不公平。不是同学不好，是数据看见的世界不完整。

第三种：它只能做会做的那一段。 它不会真正着急，也不会承担全部责任。 成绩、进出校、借书记录，最终仍要人负责。

使用时要留一个习惯：

先享受方便，再检查结果。

觉得奇怪，就问老师、问家人。不要因为「电脑说的」就停下思考。

机器可以先批改，同学仍要自己看一遍。 如果总是同一类同学被拦下，要告诉老师去查原因。

所以：结果出来了，还要检查；机器盖完章，人还要再看一眼。

这样用，对不对得起同学。 错了谁来改。

这一课看见改变，也看见边界。

1. 人工智能让生活和工作更快、更省力。
2. 盖章可以交给它，帮人、负责留给人。
3. 它会认错、会偏。结果要人检查。

试着向家人讲「借书机认错旧书」的故事，再补一句：老师少盖章，是为了去帮人找书。

下一课才学：好好用，别伤害人。 这节课先会检查结果。

看完就来检查一下。选错了也可以再想。