我们可以让机器 比自己更聪明吗

　　我们可以让机器 比自己更聪明吗

　　周健工

　　[人类将不得不从哲学的层面，再一次思考人类的终极问题，去准备迎接一种新的文明，机器文明]

　　人工智能技术让我们对未来产生了激动不已又忐忑不安的心理。人类历史上每经历一次技术革命，结果都是人类面对日益强大的机器。以往人类可以操控这些机器，用来征服自然，但这一次人类的自信心有点动摇，因为机器会学习了，可能一生下来就比人类聪明，而且比人类学得更快更好。最重要的是，机器会有独立的意识吗?

　　5月下旬在乌镇，机器人(19.030, 0.27, 1.44%)阿尔法狗完胜世界排名第一的围棋天才柯洁，终结了机器与人类之间最复杂的智力游戏博弈。之后阿尔法狗之父、DeepMind公司创始人得米斯·哈萨比斯(DemisHassabis)接受了第一财经的独家专访，我特意问了他有关机器会不会产生独立意识的问题。

　　第一财经：今天，你谈到很多自我学习，从我们这些围棋爱好者来观察，有一些棋招很有创意又出其不意，你认为在不远的将来独立学习机制会产生独立的动机吗？机器在计算的时候有其自我目的吗？

　　得米斯：是的，这是个好问题。我认为在设计系统的时候要给它们定个目标。就像AlphaGo的目标不是开车或是干其他的，它只知道我们给它定的目标，那就是赢得围棋比赛。所以我认为在可预见的将来，人工智能系统会被设计成实现设计者既定目标的工具。怎么去实现目标，也可以让机器来学习。一般说来，我认为这些系统都会竭尽所能去实现我们设定的目标。

　　第一财经：所以你认为不远的未来机器总是会服从和实现人类设定的目标吗？

　　得米斯：是的，AlphaGo不能自己设定自己的目标，所以你只能另外设计一种机器去做设定的工作。

　　第一财经：是因为你不让它们做吗？是因为你把它们设定成不能为自己做事还是它们没有能力为自己做事？

　　得米斯：对，这是后者。我们目前设计的这个系统不具备这样的能力。所以也许能想出这种设计，但我们认为这一点现在还不是很有用处，因为我们是想设计在一些领域可以帮助人类专家的工具。如果只是个工具，那还是让人类专家去设定目标。这正是我们现阶段在研发的系统。

　　而《未来简史》的作者尤瓦尔·赫拉利认为机器与人类最大的区别，正是机器有智能，但没有自我意识，而人类有智能与意识。但是如果我们相信人类的自我意识也是大脑的一种功能、一种生物机制，它最终也是可能被模仿出来的。DeepMind的最新论文提出了一种新的神经网络：符号-概念神经网络，模仿人类文字和视觉获取的方式，建立起视觉-文字-概念的模型。利用符号指令，能够建立起从简单到复杂的概念分层体系，从而理解更加抽象的概念。这项技术正在证明，机器通过无监督的学习，有可能产生类似于人的思考。

　　机器会变得无比聪明，并且会在一个又一个领域替代人类，在这一点上可能不会有什么悬念，但引发争议的焦点，是机器能否发展出独立的智能和意识，这一点，其实在人工智能产生之初就存在着两个派别的对立。

　　1956年，在美国达特茅斯学院的一个研讨会上，美国数学家、计算机科学家约翰·麦卡锡提出“人工智能”(ArtificialIntelligence,AI)。这个词一出现，就包含了用电脑替代人脑工作的意思。

　　相信人工智能的大师们曾经很乐观。60年代，参加过达特茅斯研讨会的赫伯特·西蒙预言：20年内，机器将可以做任何人可以做的事，而马文·明斯基声称：一代人的功夫，创建人工智能的所有问题会基本解决。但我们知道，70年代很快就进入了人工智能的黑暗时期。

　　而以美国工程师道格拉斯·恩格尔巴特为代表的一派则相信智能机器是用来扩展人类能力的，即人们所说的增强智能(IntelligenceAugmentation，IA)，他帮助发明了鼠标、图形界面等帮助人类更好使用电脑的工具。如果从IA的角度来看机器智能，这些年来已经取得了巨大的进步。

　　一直以来，我们把机器智慧统称为人工智能，但这个领域一直有AI与IA的对立，直到今天。而AI与IA的对立与统一，也出现在机器人这个称呼中。它是具备了人类特征的机器，还是被机器增强了的人类，或者这两者终有一天会完全融合?所有这些，成为科幻小说中丰富的想象题材，也诞生了无数优秀的作品。我们不要忘记，那些伟大的科幻作家想象出来的场景、概念、主角，往往深远地影响了科学的发明与创造。

　　沿着AI与IA这两个思路，对人类的未来可能产生什么样的展望呢?

　　对于AI信奉者来说，人类终将面临一个奇点。自从出现AI以来，对这个奇点的到来，一直都有着过于乐观的说法。最近有影响的预言来自硅谷的科学家库兹韦尔(RayKurzweil)，他预言奇点可能在2045年降临，机器智慧将超过人类智慧。许多人担心，越过这个奇点，机器会产生自主意识，这个世界有可能被机器所统治，人类将会面临大规模失业，甚至成为机器的奴隶，即使过得很舒服，也是被机器“放牧”。一些基本的概念将会被颠覆，如果人类工作的大部分将由机器来完成，那么经济增长的基本要素劳动力是机器，还是人类?经济中的产出，是由机器产生的，还是由人类产生的?未来谁向政府纳税?如果机器创造了财富，是否应该由机器来分享?什么是财富?最终这个世界将以机器为本。

　　创新工场创始人李开复是一位人工智能科学家，他相信通用人工智能，认为人工智能将会导致人类大规模失业、贫富差距，甚至全球权力结构的改变，并且发表文章提出了对策。

　　对于IA的信奉者来说，机器人将永远是为人民服务的，它只会延伸人类的智慧和能力，我们将实现人类智慧与机器智慧的结合，不管是脑机结合，还是通过机器连接起人类的群体智慧。我们仍然会坚守人类原有的一些基本价值观和概念，而机器人永远是工具和生产资料。例如，如果一半人类的工作被机器所取代，那也就意味着人类只需要一半的劳动力就能完成原先的工作，劳动生产率提高一倍。越多的机器人取代人的工作，劳动生产率提高得越快。而那些脱离重复性劳动的人们，将会有更多的闲暇时间娱乐，或者从事更加具有创造力和想象力的工作。最终这个世界不管机器人多么聪明，仍然是以人为本。

　　携程董事长梁建章批驳了李开复，认为人工智能不会带来大规模失业，反而会提高劳动生产率。中国科技公司多数企业家更倾向于增强智能。

　　跳开AI与IA的对峙，伯克利的另一位AI大师迈克尔·乔丹认为我们正处于II(IntelligenceInfrastructure)时代。机器与人类正在实现更深的交互，在机器变得更加聪明的同时，机器会帮助人类完成更多的工作，人类与机器之间的合作也更加默契。除了工业机器人，我们发现AI已经进入我们的日常生活、工作与娱乐中。最近一两年，由于芯片技术的发展，云计算能力的迅速提升，算法的改善，以及大数据的积累，人工智能的应用场景越来越多：从银行的风险控制到家庭的语音助理，从人脸识别到自动驾驶，从电脑视觉到语义识别，我们正在从互联网进入物联网，我们正在进入一个AI为基础设施的世界，似乎这是一个美丽新世界(11.940, 0.03, 0.25%)。

　　无论是AI还是IA，分别从两个阵营出发，我们都可以得到人类未来乐观与悲观的一面。AI的乐观者会憧憬机器人能独立完成更多的工作，相当于人类可以掌握无限数量的“机器人奴隶”，从而极大地提升自己的福利。但人类可能一不留神，就被机器替代了。悲观者担心被机器替代有两种可能，一种可能是机器人被少数人或者少数集团掌握，成为统治大多数人的工具，另外一种是机器产生独立的意识，比人类更聪明，最终统治了这个世界。

　　而IA的乐观者憧憬，机器人会极大地增强人类的智慧，甚至从智力和体力上把人类变成“超人”，彻底地满足人类的自由意志。但悲观者会担心，人类想使自己优秀和超能的欲望可能是没有止境的，最终可能会挑战人类自身的一些基本定义。例如，IA与基因技术和纳米技术的结合，有可能使人类对弥补自身在智力和身体上的缺陷，延长人类的寿命，提升人类的满足感，这些无疑会造福人类。但是，使用这些技术的边界在哪里?人类可以用来去复制生命吗?如果对自身进行无休止的改善，甚至认为可以将意识进行存储，从而实现某种程度的永生，那么什么是自我?生命与死亡的定义又是什么?我们准备接受非生物的生命体吗?

　　无论是AI还是IA，人类都无法摆脱对自身和社会从根本上的再认识。人类将不得不从哲学的层面，再一次思考人类的终极问题，去准备迎接一种新的文明，机器文明。一个被人工智能深深影响的经济与社会正在变成现实，我们对它乐观还是悲观，完全取决于我们如何认识它、设计它。

　　也许技术作为一种“生态”会有一种演进的力量让机器产生独立的意识，但不管这种演化会产生多么智慧和精密的机器，人类会对此视而不见吗?人类绝不应该是盲目的钟表匠，而是明目的报时者。