这就是我与人们争论是否应当害怕广义人工智能(artificial general intelligence,缩写为 AGI ) 时常常遇到的问题。广义人工智能(AGI)指的是我们将建造出与人类一样运作的自主机器人。我被告知自己还没明白广义人工智能会有多么强大。这不是争论所在。我们对于广义人工智能是否存在都没有概念。我希望它是存在的――这一直都是我自己在机器人和 AI 领域工作的动力所在。但是现代广义人工智能(AGI)研究的进展十分不好,不论是在广义上还是在支持持续存在的独立个体上。广义人工智能(AGI)貌似主要受困于人工智能至少 50 年来一直存在的问题上,即推理和常识。我看到的所有证据都证明我们目前在如何建造广义人工智能方面毫无头绪。它的特性完全未知,所以在修辞上他就很快变成了魔法,强大而没有任何边界限制。
这并不意味着这些系统是毫无用处的;他们对于搜索引擎具有极高价值。但是这正是问题所在。人们听说某些机器人或者某些 AI 系统已经完成了某些任务。然后他们将这一性能(performance)归纳为一种能力(performance),即一个完成同样任务的人被认为会具备的能力。他们把这一归纳应用到了机器人或 AI 系统。
与之类似的是,当人们听说计算机可以打败国际象棋冠军( 1997 年)或者世界顶尖围棋选手( 2016 年)的时候,他们倾向于认为,计算机在像人类一样“下”棋。当然了,现实中那些程序根本不知道游戏是什么,甚至是他们在玩儿什么。他们的适应性也很差。人类玩游戏的时候,规则的微小变动对人类影响不大。对于 打败世界顶尖围棋选手的 AlphaGo 或者打败国际象棋冠军的 Deep Blue 而言却并非如此。
手提箱文字导致人们错误理解了机器能够在人类从事的任务中做得多好。这部分归咎于 AI 研究人员――更不可饶恕的是他们所在的研究机构的新闻办公司――急于采用手提箱概念的实例来声明研究进展。这里的重点是“实例”(an instance)。这一细节很快就消逝了。标题党们宣扬手提箱文字,并扭曲了大众对于人工智能当前进展和未来前景的理解。