第6期 | 「人工智能：不朽还是终结？」 – 黄晓庆，汤超，陈嘉映
玉河夜话现场
翁菱：今天是玉河夜话第六期，欢迎所有来到的朋友。「玉河夜话」是天安时间当代艺术中心与丹麦国宝级设计品牌Georg Jensen联合发起的跨界文化交流活动，从去年冬天第一期夜话开始到现在，它已经成了北京城中心朋友们友好相聚、自由交流思想的一个平台。每一次，都有很多好朋友来参加，在不同领域专家的话题牵引下，就各种当下有趣的话题展开一些自由讨论。
今天是Georg Jensen全球董事长David Chu先生第一次参加「玉河夜话」。这期夜话是由生物物理学家汤超教授促成的，他也是在场许多文艺女青年的新偶像。今晚的主讲嘉宾黄晓庆先生是人工智能领域的专家，他和汤超先生一样，都是国家“千人计划”引回的科学家，另外一位嘉宾是我多年的好友，在艺文圈深具影响力的哲学家陈嘉映先生。今天到场的还有一位理论物理学家于渌先生，是非常谦逊的一位科学大家。
今晚「玉河夜话」的主题是“人工智能”，标题是《不朽还是终结？》。作为一个科学盲，我觉得人工智能是让我特别担忧的事情，但也有一些人非常积极地在拥抱这个人工智能未来时代的到来。今天是拜托陈嘉映先生作为我们人文学科的代表与几位科学家在这里展开不一样的思维探讨。
生物物理学家汤超
汤超：大家好！我觉得科学和人文学科一交叉就是不一样，当时翁菱跟我说“人工智能”的话题最近好像比较热门，能不能做一次关于“人工智能”（的对话）。于是我就请来了老朋友黄晓庆，他是人工智能领域的专家，之前担任中国移动研究院院长，在技术层面上对人工智能的理解没有人比他更清楚得了。今天还有陈嘉映先生！他从哲学上对人工智能也有很多独到的见解。
（至于这次对话的）主题是什么？我想不出来主题除了“人工智能”之外还能是什么，但是海报出来后发现标题是《不朽还是终结？》，这个问题非常有意思。今天晚上应该也是比较自由的一个交流对谈，作为开始，我想请黄晓庆先跟我们大致介绍一下什么是人工智能。
人工智能领域专家黄晓庆
何为人工智能？
黄晓庆（黄）：关于人工智能的一系列讨论，实际上都是从计算机开始的，因此不得不简单介绍一下计算机的历史。被誉为“计算机之父”的阿兰·图灵（Alan Turing），也就是电影《模仿游戏》里的主人公，这位了不起的数学天才在1935正式任职剑桥大学国王学院研究院，同年他发表了一篇论证计算理论的论文——The Theory of Computation，在理论层面上证明了任何运算都可以被解决，突破了前辈数学家哥德尔（Kurt Gödel)所提出的数学计算有其极限的理论，引起了学术界的极大震动，他也曾经带领团队破译了法西斯的密码，帮助英国在二战中出奇制胜，可惜图灵因为是同性恋，在社会压力之下自杀，英年早逝。这个故事在以图灵为主人公的电影《模仿游戏》里也有很多的描写。
为了突破理论层面上的验证，阿兰·图灵与很多他的同时代人一样，试图做出一个机器进行这样的无限制运算。早期的尝试都是用齿轮和机械手段制作这种“图灵机器”，没有成功，一直到1945年，美籍匈牙利科学家约翰·冯·诺伊曼（John Von Neumann)提出用电子手段，也就是我们现在熟悉的CPU、集成电路、存储等方法重新尝试。冯·诺伊曼从美国海军得到了一笔资金，在宾夕法尼亚大学的实验室早出了世界上第一台真正意义上的计算机，开启了我们所知的“第三次工业革命”或者说“信息工业革命”。
“人工智能”的讨论是基于计算机发展的基础之上而来的。虽然图灵早在30年代就在不断探索“有智慧的机器”的可能性，他在短暂的生命中，不断尝试依照他的计算理论做出一个有智慧的机器，甚至希望用他的理论证明任何智慧，归根结底都不过是一个极其复杂的运算而已。图灵一切探索的焦点都是“智慧”，而“人工智能”（AI, Artficial Intellegence)这个概念则是由约翰·麦卡锡(John McCathy)和马文·明斯基（Marvin Minsky)联合提出的，他们还共同创立了全球影响力最大的科学研究室——MIT人工智能实验室。如果说图灵的“智慧机器”着眼于用机器实现人的六大智慧功能，诸如视觉、语言、学习、运算、推理、和认知，而明斯基则认为人工智能发展面临的问题是——机器尚未解决的人的问题，因为一旦任何问题能够被机器解决，人类就自动将其移除人工智能领域的探索范围。
目前，人类已经开始着眼于通过使用技术手段从复杂领域入手，尝试接近我们人的大脑能够实现的纬度。计算机领域的科学家们，已经试图开始用计算机模拟人的大脑，也就是伴随着Alpha Go热门起来的“神经网络”这一概念。它最早由著名的科学家Danny Hills在上世纪80年代通过著作《连接的机器》(The Connection Machine )提出，阐述世界上的所有事情都是连接的神经元和机器，可惜的是因为当时的计算机水平尚未达到要求以及神经网络理论有所缺失，导致这次模拟失败了，也让神经网络这一条研究道路被搁置了很久，直到2009年另一位科学家 Geoffery Hinton提出了DNN（Deep Neural Networks，深层神经网络），突破了之前研究的制约，让机器在图像识别、语言领域、和翻译上做到基本接近于人，我们现在最热门的Alpha Go也正是基于该技术而实现的。这是一次跨时代的尝试，重新点燃了人类能造出跟人一样聪明的机器人的梦想，这一次是玩真的，不再会出现所谓“狂热之后的冰冷”，人工智能真正意义上走出科幻，全方位进入科学世界。
现有的技术，AI有什么前景？
黄：现实一点，我认为基于现有的人工智能技术，如果结合下一代移动通讯技术和机器人技术，通过这样的融合，很有可能在2025年就可以为每一个家庭提供一个能干脏活、累活、苦活，不会病休事休也无需发薪的保洁。
Alpha Go与人工智能，是强大的运算能力还是真正的智能创造？
汤：从文化、社会、哲学的角度来看，你觉得人工智能是什么？跟人有关还是没有关的？
哲学家陈嘉映
陈嘉映（陈）：这个问题很有趣。黄老师刚才帮我们做了一些基础的科普和概念的梳理，AI已经经历了好几波的发展，为什么现在大家开始对它有所感觉？一开始的AI研究，按照图灵的设想，相当于人们的一个助手，但是现在为什么大家慢慢觉得AI甚至构成了威胁？是哪些人工智能的发展促生了从运算向智能的过渡？
黄：流行文化在这一点上也是有影响力的，尤其是科幻文学和电影。按照《星际迷航》的定义，文明可以被归结为三个层面：第一层是智慧生物智能在其居住的星球上获得智能；第二层是智慧生物可以去其所存在的星系中生存，比如去火星挖矿等等；第三层是智慧生物可以跨越星系，到其他的太阳系去生存。热门电影《星际穿越》就是发生在跨星系基础之上的。流行文化在人工智能上的影响很深，就不一一阐述了。
回归科学角度，想要明确人工智能的改变，首先一点是明确人脑的复杂程度，然后才能进行类比。从科学角度来说，我们人类的大脑到底有多复杂？人的大脑里平均有1000亿个神经元，大脑平均重1500克左右，所消耗的功率平均是40瓦，和日常家用照明灯差不多一样的功率。这里有一点趣事可以值得补充，即人脑的所耗费的功率占人体所有技能总和的五分之一，这是巨大的耗能比例，在生物学角度上是完全不可持续的，意味着人类作为物种本身存在的不合理性，按照这种耗能比例，意味着人类每天要不停不歇地吃16个小时的食物才能满足大脑的正常运作。而让我们不必如此的原因，实际上在于我们吃的是熟的东西。所以在我看来，人类文明的起源是什么？是火的应用。火的使用才是人类和其他生物之间本质的区别，不是语言，不是简单的工具，不是结构化的社会行为，当然也绝对不是政治。
2011年时，我访问斯坦福大学时见到一位肯尼亚教授，他专门研究用“如何用电子和电路实现人的神经？”这个课题的研究。这位斯坦福的教授告诉我，如果用芯片来实现我们人脑的复杂程度，按照2011年那时候只有45纳米级的芯片计算，那么则需要两千吨重的芯片，耗电达到27兆瓦。换句话说，就是当人能制造出和人脑一样复杂的计算机时，这台机器耗电量是普通人脑的100万倍。即使创造了壮丽的文明，实际上，人脑运转的速度是很慢的，只有500赫兹，现在随随便便一个计算机都至少是1000兆赫兹 （赫兹：每秒进行计算的次数），假如真的有这样一台和人脑一样复杂的电脑被造了出来，那么它完全有可能非常聪明，会比人类中最聪明的人想得快100万倍。
汤：这是一个很有争论的观点，假如我们用计算机做一个跟大脑一样多神经原的网络，刚才估计是两千吨的芯片，要用27兆瓦的变压器这很容易，可以达到人类的智慧而且算得比人快100万倍，然而这样可以算是超过人类的智慧吗？于渌先生，您觉得有可能吗？
理论物理学家于渌
于渌（于）：这个问题可能就牵扯到了目前很热门的Alpha Go，关于它和李世石对弈围棋这件事情。围棋相比象棋还是比较简单的，围棋能够预见的步数，对人脑（的运算能力）来说是有限的，但这恰恰是计算机的专长。
我的看法可能有知识结构带来的片面性，用通俗得科普语言而非专业术语来解释，是人们不用担心AI的发展会（威胁）人类。计算机的发展是无法取代人类的，因此我说自己是一个乐观主义者。这一点的原因是计算机有它的专长和短处。计算机专长是什么？就是非常强大的能力可以储存和平行运算。为什么下围棋我相信计算机一定可以赢？因为AI是把过去所有的经验和可能性全部穷尽之后，通过超强运算能力分析得出的结果。围棋看似玄妙，实际上还是复杂的数学和运算能力的问题。然而计算机不能做“完全创造性思维”。何为“完全创造性思维”？虽然在定义上依然存在争议，但是我认为人类的创造性，简单说就是“出其不意”。
黄：您刚才说“人类是有创造性的，机器是没有创造性的”，这是一个经典认知，但不是真的。为什么？因为我们并不知道人类是怎样获得创造性的。如果知道了，科学马上就能把创造力复制出来。Alpha Go是有创意的，当它第一次下出人看不懂用意的棋时，其他九段棋手认定AlphaGo会输，然而事实证明这是一步妙招，那一步棋是人类棋手下不出来的，类似的下法在后来的四盘棋中反复出现了30多次，这一点证明了AlphaGo是会下棋的。聂卫平认为AlphaGo的棋力在人类的13或14段，人类棋手是无法抗拒AlphaGo的。Alpha Go用的不是人下棋的方法，AlphaGo研发团队也没有一个人超过业余五段，说明AlphaGo不是在重复之前人类下的棋，不是人教它下棋的，它有自己的创造力。
现场嘉宾朱云来
朱云来（朱）：回到于渌先生提到的关于创造的问题，你这里就有歧义了。首先你也说了，人类的创造力从和未来、具体是什么还难以说清，同时你也说Alpha Go有创造力，这其中最大的矛盾在于Alpha Go在围棋这单一领域的创造力能等同于人类的创造力吗？你现在的逻辑是Alpha Go的能力可以替代人类的创造力？谷歌很自豪的说赢了李世石，可这依然是在围棋这一个单独领域内的，而且围棋千变万化，归根结底依然是运算问题。把这个案例引申到广义的人工智能可以战胜人类创造力，还是不太妥当的。而且，Alpha Go是通过case-by-case培训的，通过逻辑它学习了人类的下棋方法，而不是开发它的程序员，因此开发团队棋力不足没有意义。
黄：开发团队是不清楚AlphaGo会如何下棋的，它的设计大概分三个层面：包括两个神经网络，再加上一个无穷尽的搜索算法。AlphaGo的确用过去很多人下的棋谱进行了粗浅的培训，可它的核心竞争力在于“增强学习能力的算法“，简而言之是通过两个AlphaGo之间的对垒，自动提高它的棋力，相当于超快读且无穷尽的让几个棋手分组对垒来累计经验。它是从几千万盘棋的对垒中自我获得了下棋的能力，获得了一个巨大的深层神经网络。
于：我想问的是，AlphaGo为什么输了一盘？
黄：黄晓庆：到现在也没有人说清它为什么会输了那一盘，但是很明显的是Alpha Go走错了，有十几步走错了。计算机业界的人认为这是一个BUG（编程错误）造成的。
朱：AlphaGo自己和自己对垒，无非是说它具有极强的自学能力。我有一个问题，不同版本之间的AlphaGo对垒，最后谁赢了？
黄：各有输赢。
朱：说明AlphaGo也是有限的，与人对弈是一样的，各有输赢。AlphaGo的例子很强很深，证明它有极强的学习能力，可是依然只针对下棋这一件事情，仍然不等同于人工智能可以打败人类，或者替代人类。AlphaGo证明机器有创造，甚至是人脑无法达到的速度，但是它并没有能够模拟人类的创造力。图灵在世的时候并没有那么大的目标来模拟人，他只是从核心的计算理论出发，认为所有的计算可以解决，至于图灵的论文证明他最终是想要用机器模拟人类，这我是完全相信的。
人工智能，能取代人吗？
朱：关于AI，我一直在思考，人工智能究竟是什么东西？到底有怎样的意义？我们很多人对于人工智能科技的恐惧和担忧，担心它是否会替代人、威胁人，甚至都不必担心。因为再怎么深层次的神经网络，归根结底是给它一套原则，它按照这一套原则或法则进行演变和衍生。计算机最大的特点是想（运算）的速度比人快，记忆（存储）的东西比人多。
陈：争论“计算机能否具有创造性的思维”，这一点有些困难，因为还是要先定义一下何为“创造性的思维”。人类说到“学习”这一概念，学习迁移这就是跟基本的创造性——我在这件事情上学到的东西，可以平行挪用到另外一个事情上。这点AlphaGo与之前另一个叫作Deep Blue的AI是不同的，后者还是比较单向的，AlphaGo的学习是可以转移的，也就是我们说的“深度学习”、“强度学习”。
任何一项有明确目标的智力任务，我觉得计算机没有一样不会超过人类得，只是一个时间早晚的问题。但是要做到真正取代人类，这就不一样了。人的所思所想都是基于欲望，人是有机物，而有机物第一个欲望是存活，保存自己诸如此类，所有人脑的思考好和计算、思维意识都是为“生存”这个基本目的服务的。之前提到了人的计算速度很慢，那是因为介质不行。人是有机物，有机物作为介质不是用来做运算的，相反，计算则是依赖于有机物存活而存在的。
在这一点上电脑不管怎么发展，都和取代人与否不相干。我们知道不论什么样的政权争取统治权，都有它的目的，虽然科幻电影常常看见电脑战胜人类、统治了地球，但是电脑没有统治人类的欲望和目的！电脑不知道为什么要统治我们人类！
玉河夜话现场
文艺创造可以被计算机替代吗？
汤：我们讨论了人类会不会被计算机替代、讨论了创造力的定义，但是有些文艺或者软性的创造，说不清为什么，但是计算机就是无法替代人。我想问一下Georg Jensen的董事长兼设计总监David Chu先生，如果计算机模拟怎么当董事长、管理一个企业，最终能做得比人精彩吗？还想请问钢琴家赵胤胤，假如说计算机联系很多钢琴演奏，那钢琴家最后会不会失业？
钢琴家赵胤胤
赵胤胤：我同意之前几位说的人工智能在某一个领域之内可以超越人类，这只是一个时间问题，但是从艺术的角度来讲，就很难预测了。因为艺术是一个十分抽象的东西，没有具体的数字或者衡量标准。当我弹琴的时候，是另一个有智慧的人在综合评论，而非一个硬性的标准。艺术不像围棋是一种技艺，艺术没有输赢之分。
在音乐和绘画上，前辈有许多大师，那我们今天为何还能吃这口饭呢？原因很简单——因为那些大师没有在我们的当下活过，他们的感染力与当下的感受没有关系，另外好的艺术家会有前瞻性，比如斯特拉文斯基的《春之祭》。今天看来是经典，教科书一样的东西，可是在当年首演时全部观众都走了，只剩下他的妻子和经纪人，因为其他人觉得太前卫了而没有办法欣赏。
艺术家的存在，就在于我们活在当下、我们感受了当下的社会和人文、然后用我们当下的理解再把这个东西反馈出来，要是说机器可以把这一点做得天衣无缝，我很难想象。
David Chu：对我来讲，今天听了很多的互相竞争，人要竞争才有进步，Alpha Go自己与自己对弈也是竞争。可是，我们人类互相竞争了几千年，最后的目的是什么？人工智能是不是只不过是这种竞争的内部延伸？从人开始到现在几万年的衍变，是不是下一步的衍变就是这样？灵魂和机器结合，达到新的演变？
人工智能，是人类的下一步进化方向吗？
黄：我想我们大家应该不能每个人都同意这个观点，我们绝对不是宇宙里唯一的智慧生物，也就是说我们在这个宇宙里绝对不是孤独的，在其他的星球可能有比我们发达100万年的文明，这样的文明完全有可能创造出一个复杂程度是远远超过我们人类大脑的计算机。
陈：我觉得你关于演化的想法有一点太初级教科书了，首先我们演化出什么东西使一个物种能够实存，这个事情没有必然性的，进化并不是一个直线进步的概率问题。人类发展到要靠脑子，脑子的发达统治了全地球，这件事情是非常偶然的。宇宙中有没有其他物种、有的话如何进化，都没有必要按照人的进化旅程来进化。
黄：人类永远不用惧怕机器人的技术。若是人能够制造出和人一样聪明甚至更加聪明的机器人的话，就可以实现人类的一样永恒诉求——永生不死。人类就是大自然的机器，被一个叫做基因的很奇妙的操作系统操作。所以我们人类如果有这么一个机器人，我们一定实现的是什么？不朽，而且是一个非常伟大的不朽。我们唯一的存在是意识。你从小到大有可能多大的变化，比如说手脚都摔断了，但是你还是你自己。我们真正的智能是意识。
陈：意识的根本依然在欲望，意识是为了欲望而存在的。那么机器需要欲望吗？如果不需要就没有意识的存在可能性。除非，机器有它自己的独有欲望，且并非人的欲望，若是这样的机器存在，那就不是人的机器，而是一个能够取代我们独立存在。
于：人对科技的掌握一直都在制衡科技的滥用，不管是核能还是基因编辑。道德、法律、各式各样的标准，就是为了让科学的进步来帮助我们人类生活的更好。我们必须要记住一件事情，就是人工智能也好，所有的也好，我们人类是这个东西的主体，我们自己绝对不会造一个东西还毁灭我们自己，这是最重要的一件事。
玉河夜话现场
人工智能能够获得人的感情吗？
黄：汤超、David、赵胤胤都问了这个问题，实际上，人类情感和灵感是AI问题上最困难的部分。工业界内部认为，有朝一日若是计算机在智能，包括创意、灵感、和情感上，都达到或者超越了人类，那一刻就是“技术奇点”，有人认为这一刻很有可能是2039——2049这十年之间。未来30年内，很可能机械性的重复劳动都可以被机器人所取代。
翁菱：人工智能和生物科学，哪一个对我们更有意义？
陈：一般人对“生物工程”的想想比AI要直接得多，集中反映了很直接的社会问题、伦理问题、人性问题，比如现在就有技术来修改我们的记忆。而“人工智能”用非人的东西取代人，把（这个非人的东西）越做越像人，这点恰恰和生物工程是相反的。
人工智能如果说要取代人的话是拿一个非人的东西，把它越做越像人，这个生物工程倒过来的，就拿一个人来说，是把其变得越来越不像人了。这是两条不同的科学路径，可是与我们刚才所讲的自然的人、我们认知上的人，都在发生冲突。
汤：哲学家就是哲学家总结得非常好，人工智能的未来发展确实有两个方向，但我认为如果梦想能够实现的话，就算是殊途同归，都能达到不朽，无论是肉体不朽也好、灵魂不朽也罢，通过机器的帮助都可以让人类以达不朽。
玉河夜话嘉宾及友人留影
玉河夜话嘉宾及友人留影
