技术局限

它是什么

技术局限，指人工智能做不到、或做不稳的那些边界。它很能干，可它不是万能的。

现在最值得看见的几条是：

1. 识别错误：看走眼、听走音。
2. 偏见：偏向某一边，造成不公平。
3. 没有真正感情：可以说「加油」，不会真的心疼。
4. 说得像真的，却可能在编：有的对话程序会写出很像样的句子，内容却是错的。大人有时管这叫「幻觉」。对小学生，记住这句就够：写得顺，不等于查过事实。

局限不是骂它「笨」。是看清它能帮哪一段，人必须留下哪一段。出错以后，责任仍在人：要检查、要改、要决定怎么用。

名字从哪来

人工智能从 1956 年有了学科名字以后，一直在「能做什么」和「还不能做什么」之间来回。有过高潮，也有过低谷。低谷常常是因为：实验室里好看的演示，一到真实噪音、真实光线、真实的人，就不稳。

语音识别早期只能听几个数字。图像识别在 2012 年一场大型看图比赛后进步很快，仍会在口罩、逆光、少见过的人脸上出错。下棋、答题，可以非常强；换到「真正懂你」「永远正确」，仍然做不到。

近几年，会聊天的程序更会把句子写顺。写顺了，人更容易相信。于是「说得像真的却可能编」变成新的局限：越像真的，越要核对。

怎么工作

局限往往从流程里长出来。

语音：风扇太响，数字信号乱，后面的字就会歪。图像：像素糊、边被挡住，标签就不稳。推荐：记录少或偏，建议会飘或变窄。对话：程序按统计接下一句，不一定在查课本或事实。

训练数据少、偏、乱，局限会更明显。换一个它没见过的场景，旧本领也可能突然不会。这和 人类智能的举一反三不一样。

遇到奇怪结果，可以用三步检查：

1. 这是识别错误吗？照片不清、声音太吵。
2. 这是偏见吗？是不是同一类同学总被拦。
3. 这是使用不当吗？有没有偷拍、有没有假声音。

前两步主要是技术局限。第三步要走到 伦理。有些伤害不是局限，是人把工具用歪了。详见 深度伪造。

习惯句可以一直用：

先享受方便，再检查结果。

生活里

这些都是局限站出来的时刻：

• 语音软件把名字写成另一个字
• 闸机在逆光时不认人
• 自助借书机把旧封面认成另一本书
• 训练人脸的照片几乎都是短头发，长头发的同学更常被拦下
• 聊天程序回答「某条河有多长」，数字说得很肯定，其实是编的
• 电脑弹出「加油」，你却仍觉得孤单

成绩、进出校、借书记录，最终仍要人负责。医院里的辅助看片，也仍要医生把关。

人工智能工具大多数时候仍然更快。错了，让人来核对就好。不要因为一次错，就说整门技术没用；也不要因为十次对，就把第十一次当圣旨。

相近差别

局限和使用不当要分开。

它和「机器没有感情」连在一起，但不是同一句话。没有感情，是一种局限；用假安慰去骗同学，是使用问题。

它也和人类智能对照。人会累、会走神，这是人的局限；机器不困，却可能重复同样的错。两边都有边界。人的边界里，还包括能道歉、能负责。

常见误会

误会 1：出错就说明这技术没用。

借书机大多数时候仍然更快。错了，让人来核对就好。

误会 2：电脑说的永远比老师对。

老师会把旧书拿到眼前看。机器可能只看到磨损的封面特征。写得流畅，也不等于查过事实。

误会 3：局限等于故意欺负某位同学。

有的不公平来自数据不完整。要去查原因、去补例子、去改流程，不是先指责被拦下的人。

误会 4：以后都可以交给机器。

关心同学、做决定、负责任，仍是人的工作。

误会 5：它既然会聊天，就不会编。

越会把句子写像真的，越可能把错的也写得像真的。重要的事先问老师、问家长、问可靠的书。

想知道更多

• 书：蔡宗翰《写给小学生看的 AI 课》。
• 书：《图解 10 岁就懂的 AI 入门》。
• 书：清华大学《人工智能通识（小学版）》。
• 电影：《超能陆战队》《机器人总动员》把机器写得很全能或很有心，那是故事。看完对照：真的系统哪里会失手。
• 电影：《她》（Her）适合和家长一起，讨论「会说话」和「真正懂你」的差别。
• 纪录片：《阿尔法狗》能看见机器在棋盘上很强，离开棋盘仍是程序；《你好，人工智能》也常谈边界。