Episode 13 | Artificial Intelligence: “Brave New World” – Kai-Fu Lee, Feng Junlan, Ma Yansong, Tang Chao
代表天安时间当代艺术中心和Georg Jensen Hus，欢迎大家来参加第13期「玉河夜话」，这期夜话《人工智能 —— “美丽新世界”》是第三次直面科技与艺术的夜话。身处变革前夜，人类面临前所未有的机遇和危机。科技带给人们对未知的无限探索和遐想，同艺术一样，它不是一个行业，而更多是一种信念。我们对科技与艺术话题的深入讨论，也是由于个体的灵魂在面对剧烈的外界变化时，愈加需要敏感与自省。生而为人，我们的思维创造到底可以带来怎样的影响和改变？我们怀着既好奇又恐惧的心情，不断发问…..
——翁菱
2017年3月28日，初春的凉风轻抚玉河，天安时间当代艺术中心与Georg Jensen联合举办的「玉河夜话」也迎来了第三次关于科技与人文的思辨讨论：《人工智能 —— “美丽新世界”》。这一次请到了中国移动研究院首席科学家冯俊兰、北京大学前沿交叉学科研究院执行院长汤超、创新工厂董事长李开复，在三位先锋的带领下，探索“人工智能”现阶段的发展与未来的预期……
如若仰望星空……
冯俊兰：首先能来到「玉河夜话」特别荣幸，自从认识了翁菱她就一直夸我，让我觉得特别开心，所以我代表“有感情的”科学家来到「玉河夜话」。现在人工智能太火了，我都不好意思跟别人说我是做这个的，感觉都在凑热闹一样。跟李老师一样，我从开始做语音识别到现在有20多年了，很开心人工智能变得这么火，可越火越觉得还是很迷茫。很多很有名的人也好，身边人也好，都在表达自己的的观点，每天低头看你要完成的艰难、同事的工作、朋友的工作，都很艰难。别人担忧人工智能会取代人类，我都不知道在哪里，每一步都很艰难。如果抬头仰望星空，还是感叹这300多年科学改变生活，生活方式这么大的幅度，这么快的速度，自己可能感知到很慢。回头看看，再想想我们从人有文明开始想哲学、开始思考，到现在变化是非常巨大的。
冯俊兰
AI带给大家这些挑战。如果AI沿着某一条路径走，我们要重新思考很多现在认可了的了解世界的方式。我们了解世界的方式，可以用哲学方式看世界，可以用科学方式看世界，可以用艺术方式看世界。我们领域内的人每一天都在想如何让科技再往前走一步，但是在技术圈外面，整个社会对这个东西接受到底是什么样的程度？我自己相信它可以真正带给我们美好的。
真正带来美好的同时，其实有很多更短期的东西值得担忧的。比如说运用人工智能技术的很多身边的设备会涉及到我们隐私、安全。如果人工智能替代了很多社会工作，那短期内会造成社会的一个变化，是格局性的颠覆。我去年参加一个国际会议，当时有一个英国的记者发言。他说你们坐在一屋子里的几千人是世界上很前沿的AI领域专家，大家都在做深度学习或与人工智能相关的领域研究，可一旦离开你们的世界，外面世界是很不一样的。如果你们这圈人研究出的东西不能被外面的世界所理解，甚至可能会造成社会的割裂，那大家能否互相理解和沟通？所以短期来讲，对我们这些从业者而言，挑战远远大于大家想象的未来。
我自己大概对人工智能的看法就是这样，今天一个版本，明天又是另外一个版本，而此时此刻，这就是我对于人工智能的看法。这20年过来，有那么多聪明的人、卓著的人，在研究这个技术，我也很感慨这个技术取得了如此大的进步，至少现在我觉得它带给我们的都是非常正向的影响。
人工智能无处不在
李开复：我第一次接触到“人工智能”概念是在80年代读大二的时候，然后基本上做了一辈子和人工智能相关的事情。这个过程当中有一段时间，人工智能不太“火”，所以不太敢承认，实际上在微软研究院的时候，微软和谷歌里的很多技术就都是人工智能了。首先，我想解释几个常见的误解，即人工智能实际上已经无所不在了，当淘宝推荐商品给你时候、百度给你搜索结果的时候、当今日头条根据你点击推送你想读什么的时候、当滴滴帮助你安排哪个司机接的时候……背后都是人工智能。AI简单来讲就是一个非常大的算法，算法的细节解释起来很困难，就不赘述了。简单说，就是把数据丢进去，然后一个按钮结果就出来了。算法决定了AI可以预测结果、可以分类、可以告诉你某个特定问题的答案。
李开复
人工智能的当下
李开复：人工智能确实非常厉害，非常有价值的，但它目前的应用也非常有限，所以我们从科幻小说和电影里得到的关于人工智能的认知可以暂时抛弃，那些顾虑很多都没有事实依据，全凭想象。未来还是不可预知的，可直到那一天到来，谁也不会知道现在科幻构想出来的AI认知对不对，至少我们眼下的人工智能技术是绝无可能发展到值得被那样忧虑的地步。
科幻作品的世界里，人类总充满了自以为是。我们觉得人死了灵魂要留下，或者机器来了就会产生感情，从而要么爱上我们，要么就要统治我们、杀死我们。这真的是人类太自以为是了！机器就是机器，人就是人。当下的人工智能是绝对没有感情的、没有自我存在感、没有自我意识、更绝对没有艺术的，甚至没有“理解”。这个“理解”是人们学习与机器的学习最大的区别。Alpha Go下围棋很厉害，但它对“下棋”这件事并没有感情，赢了也没有胜利感，输了也不会难受，更不能在下棋中得到博弈的乐趣。我们人类的学习和理解，不仅仅是要知道一件事情，而且要能够解释出来，“知其然亦知其所以然”，而对机器的学习来说，它所学习的东西，绝大部分是解释不出来的。这些我们认为很基础的智能，机器是没有的。
科幻作品幻想的高度科技化的未来可不可能发生？当然可能，但还很遥远。回到刚才讲的，人工智能的算法在什么情况下可以产生价值？基本上四个条件。第一，要有非常大量的数据。AI没有人类聪明，不能举一反三，你要给它千万上亿的数据供其学习。第二，这个数据要有标注，不是随意下载的数据，比如你需要明确给Alpha Go标注某盘棋这么下最后输了、股票这么炒最后赔了……这些是需要人为标注的。大数据是有标注的，这点非常重要。第三，算法只能作用在单一领域内。我们人有常识用以交叉判断信息，但是AI一次只能处理一件事情、作用在一个领域内，比如滴滴打车的运算程序无法帮你处理外卖订单的追踪，就是这样的道理。第四，要有非常强力的计算机、非常好的算法、当然还有非常优秀的科学家。只有在这几个前提成立以后，AI才可以产生魔术了。
10年里AI将取替50%人的工作
李开复：我刚才一下子把人工智能讲得完全没有任何意义了似的，像是说什么用处都没有，限制又非常非常大，要大数据量，科学家什么的，那AI到底有什么用呢？ AI还是非常有用的，我认为今天已知的技术就能够在未来的10年内取替社会50%的工作。
我们每天做的事情到底有多少不是单一领域内的重复性工作？不是数字化的、不是做简单判断的，而是需要经过漫长缜密的思考、需要研究、需要发明的？实际上，这种工作真的不多。蓝领的工作最快受到波及，然后是白领的事务性工作，大部分的会计、记者、股票交易员……乃至医生和护士的工作都会被AI取替。很多人认为医生是体面有未来的工作，可是在人工智能时代，医生很容易被取代，尤其是影像放射科这种，因为这些领域依靠的是大数据测算，而机器在这方面比人处理得更好，所以很快会被取代。保姆爱孩子、关怀孩子的能力机器无法做到，但是在照顾孩子安危上，机器的能力超过了人类，比如在第一时间报警、比如人脸识别能力上机器就强过人类。人工智能取代人类工作，这对社会有很大冲击，它带给人类对于未来的思考也是非常严峻的。人工智能在今天的技术依然非常有限的，但是即便是非常有限的技术，也能够取代一大部分人类的工作。
创造性思维如何应对AI语境？
汤超：李开复老师说现在人类50%工作可以被人工智能所取代，而这些工作都是基于数据的判断性工作，都是逻辑性很强的工作。那么艺术家就比较高兴，因为艺术家的思维谁也跟不上。科学家可能先被取代，因为科学还是要用逻辑。艺术是不是不太用逻辑？艺术与科学最明显的碰撞就是建筑领域，那么建筑师是如何思维的？建筑师思维有没有一系列固定逻辑或者标准？建筑有没有被机器模仿的可能？
汤超
朱小地：我还没有想过这个问题。若作为一个一般性企业会计，我会把所有的相关数据分解整理进电脑里，然后根据客户需要，我马上会形成很多方案可以供其挑选。可是作为设计师，可能我们设计领域内的技术也在进步，通过人工智能设计方案可以更快更好地提交给客户，但是我觉得作为一个真正想做自己事情的建筑师，虽然要给客户的项目提出最称心如意的答案，可我觉得那还是需要经过我自己的思考而形成的作品。当然学习别人的东西肯定是一个积累的过程，但归根结底，过程还是靠自己的思考。我觉得可能作为一个有创意的建筑师，我还不会那么快被代替吧！
朱小地
人工智能可以进行创造吗？
汤超：这是“人工智能”能不能进行创造的问题。
冯俊兰：我们做人工智能的基础就是解锁人类智能。人类智能有哪些类别？我比较同意去年美国的《国家人工智能报告》里分出的6大类：学习能力，认知能力，语言能力，规划能力，进化能力，和推理能力。现在的技术去解锁这六个类别的人类智能有很多不同的方法。第一种就是类比，即机器看过了很多某事的例子，然后尝试去做类似的事情，这就是一种解锁。去年Alpha Go很热，它所采用的是另一种解锁方式——强化学习。举例来说就是小孩子最初不知道怎么走到房间里，走一下碰一下再走一下再碰一下，然后也就走到了。我去走，去尝试，碰到什么错误就更新什么计算模型，一直不断地走，所以是自己和自己玩，自己和这个环境去玩，玩的过程中能力就自然而然强化了。
另一种是今年流行起来的学习方式，就是你刚才问的“能不能具备创造力？”，其实就是博弈论的方式。比如我们玩剪刀石头布，最开始我不知道怎么玩，但只要参与就会产生一个对抗方式。也许我不知道什么是正确的结果，但我可以和你对抗，因为对抗能产生一个东西。比如机器可以生成一个东西，同时有一个艺术家创作的产物作为真实数据进行比较，再介入一个判别器去判别真实艺术家的产物和机器生成的产物。机器不断生成，试图让判别器不能再判别哪个是人创造哪个是机器生成的，这是一种对抗性的方式。我们试图解析语言能力的过程中，很多采取的都是这种方式。
然而这种生成是创新意义的生成，还只是重组状的生成呢？这其中有很大的区别。机器发展到现在，依然不知道创作的意义什么。人的创新有一个意识上的驱动，想要创造某种东西。我觉得机器本身没有这样智能上的意识驱动，它只是单纯在完成人下达的指令。所以回到建筑师、设计师、艺术家，会不会被取代的问题上，我自己不知道，也不如开复老师那么肯定，但是我相信人们工作当中的一些环节注定会被AI所取代。我想懂得使用AI的设计们一定会取代现在的设计师们。
AI会有感情吗？
汤超：于渌老师是物理学家，从物理学来看，所有思维包括意识都有物质基础，实际上就是神经原放电。神经原放电，机器也可以放电。你觉得以后机器会不会能达到比较高境界的思维阶段？
于渌：我真的想过这个问题。在认知的几个阶段当中，“推理”大概是现阶段技术可以揣摩的，但是“感情”应该是比较难。这就是说科学家了解感情以及情感如何生成。我自己感觉至少在现在这个阶段里，情感这一步好像还不是人工可以代替的东西。
于渌
我们去年觉得Alpha Go是最好的，现在知道它只是很优秀，能够被超越。我感觉将来有一种可能性，就是人机结合起来发展——这件事情能走多远，我觉得现在不太能够想象。如果人机能够结合，直接对话，人工智能的发展会上一个台阶。这里面感情的因素，有没有可能搀杂进去？那这件事情就会变得比较复杂，而且比较有趣。我自己感觉现在说的人工智能应用，还不是真正意义上的人工智能的应用，而是因为技术水平不高而受到了限制的产物，而感情这件事情现在还不能够被真正机器化。不知道这一点业内是否有所考虑？
李开复：我非常同意于老师看法。感情这个事情是与生俱来的。人与人彼此的信任，彼此的爱，然后人与人之间的缘分，这些事情没有道理，不是逻辑，这些感情其实是机器很难学习的，但是也不是说完全不能学习。除了Alpha Go这个下围棋的AI外，还有一个专门玩德州扑克的。打牌和下围棋不同，里面有骗人的诈术，还有那种恐惧的感觉，也有自信，还有通过对方的表达和流露的神态去揣测对方心情从而判断对手还有什么牌……似乎机器应该打不过人，但是AI打败了世界冠军。这是为什么？机器并没有了解人的感情，它只是把游戏模型化了，通过计算得出下一步的结果，原理也是“强化学习”。人在玩德州扑克的时候也通过计算，但我们算不了那么快，玩牌中产生的那些情感都是在弥补我们计算的不足，但要以此来证明机器也可以凌驾感情或者分析感情，是很极端和荒谬的。我个人是科学出身，但是我相信人是有灵魂的，我相信机器没有办法模仿到部分灵魂或者灵性和感性在里面。没有科学根据说这句话，这是我个人感觉！
冯俊兰：我觉得情感分很多级别。面对一个事情发展的好坏，人们的情绪由平静到激动，这是一个标准划分情感的方法。我所在的研究所观测情感，我们每天给客服中心打电话，同时检测通话过程中客服人员的情感与你的情感，如果监测到你的情感有变化，是会做一些特别处理的。
我不觉得简单的情感跟其他的东西有太大区别。我通过一张脸就可以识别简单的情感，也可以通过文字、你讲话的内容、面部表情、甚至你说话的方式——因为人的情感会通过你的声音表达，现在学术界有很多做这种情感的归类处理，这是一个机器来识别情感的途径。机器来产生情感，这种是不是能真的替代人情感的作用呢？我的女儿问，人为什么会有情感？情感是人没有充分进化的一个东西，还是说我们人进化是必须需要情感才去主动进化的？这个我真的是不知道。但是我觉得让AI来处理情感，我不觉得和处理别的东西有太多的不同。可能不能替代整个过程，但是很多级别或类型的情感应该是可以被识别和生成的。
AI会超越人类吗？
朱钦祺David：刚刚开复说很多事情是不可能的，如果回到两百年前，你说我在伦敦给一个上海人打电话，人们一定觉得你是疯子，如果站在未来往回看今天人工智能的走向，也多半如此，因为我们人类一直在进步。可能今天的AI打扑克牌只是比照数据，如果将来有了视觉概念，可以分析人的表情数据，在这个方向继续走下去，是不是AI终有一天会超越人类？
朱钦祺David Chu
李开复：逻辑判断推理上人类已经被超越了。科幻小说想象的未来，难道任何人可以肯定回答它不会发生吗？过去发生了很多奇迹，为什么以后不会再发生呢？这些奇迹当然会再发生，但不负责任的说法是在没有理论依据的前提下盲目预测。
对我来讲一个打扑克的AI能够通过视觉分析把牌打得越来越好、甚至模拟表象情感……这都是可以预测将来会发生的。可是说一台机器真的懂得人的感情，甚至会有自我存在的意识，想要要统治人类、伤害人类，这个我觉得现在还没有足够的科学根据。当我们人类已经面临挑战的时候，事务性工作从业者要失业了，那孩子们的未来怎么办？每个人都做艺术家？还是从事服务业？人工智能对教育系统的打击可能是灾难性的。因为现在系统训练出来的孩子大多数会被AI取代。人类有这么多迫在眉睫的问题需要思考，我们是不是应该把时间花在这些真实确切的问题上？而不要花太多时间想象缥缈的可能和不确切的问题……
AI让人类变成高级生物？
田薇：人工智能的发生和不断的演变在多大程度上会让我们加深对自己的了解？人工智能带来的社会变化，是不是将重新定义人类在做什么？以及到底在多大程度上，人工智能可以帮助人类在我们从来没有想象过的能力前提下进行学习，从而让我们转化为一种彻底不同水平的生物？
田薇
冯俊兰：深度学习有很多层次。物理世界需要处理很多不确定事件其本身所存在着的层次关系，因此人类才做多层次思考，反过来想想，人类每天就很少有时间做单一领域的深度学习。机器每天做深度学习，我们每天却做浅层学习，这样想也许真的不知道未来会怎样发展……可是人脑是很强大的，人脑中的智能没有被充分激活，所以我相信人的潜力。一个技术进步的时候，一定会在很大程度上拓展智能，同时也会让人类重新改变自我思考的方式。当我们有了这样一个技术之后，可能对人是一种真正意义上的警醒——人也许会变得更聪明、更智慧、更有爱。当有另外一种智能跟你匹敌的时候，也许可以激发人类全新模式的发展。
汤超：我简单在技术上回答一下田薇的问题。“通过人工智能能不能实现对自己大脑的了解？”，这个问题现在已经在进行了。我们对大脑的理解非常少，技术手段虽然在进步但也很有限，但从另外一方面来讲，我们对人工智能的研究也越来越深入。现在有相当一部分科学家想看看人工智能怎么处理的某些问题、怎么思维，以此作为启发，看看人脑怎么处理这些问题的，比如说语言、影像识别、逻辑判断……就是看一下我们大脑是怎么思维的。
人类的未来
翁菱：作为做艺术的人其实我不太熟悉科技的话题。人工智能也好，生物工程也好，实际上还是对我们人类的自我革新，或者说自我认知的革命。上一次汤超老师带来了两位生物科技领域的专家，分别是干细胞技术与基因编辑方面，而今天的人工智能也是在改变人类，这些技术都是对我们人类的自我革新的一种未来选择。那么在生物科技与人工智能之间，是不是有很多交互？同样作为前沿科技，哪一个可能把人类带到一个更远的境界？
大卫：我们一直讲人类进化，人如果一直往前走，是不是有“超人”会代替现在的人类？毕竟是不同种类的人类不断地进化，才有了我们今天的人类。那么再往前走的话，真正意义上的人工智能加上特别发达的生物科学，会不会造成一个“超人”而代替人类？这也是我的疑问。
汤超：就像李开复刚刚说的，任何事情都有可能，但预测它什么时候发生则非常困难。现在生物技术进步非常快，上次我和两名北大的科学家来这里讲基因编辑和干细胞技术，把很多艺术家都吓坏了，因为科学家们说未来人可以不老不死。大家觉得不死的话，怎么还有艺术诞生呢！生物存在的意义似乎都被科技改变了一样。扪心自问，科学家那时所言在未来并非不可能，只是不知道是多久之后的未来。我们能够改变基因从而活的健康长久，不知道艺术的存在是否也可以顺应着生成另外的形式而存在？
冯俊兰：现在生物可以改变人的智商的是吧？
汤超：现在我们对人脑了解太少，不知道哪些基因是决定智商的。如果我们知道的话，改变智商应该是很容易的事。
冯俊兰：当我们不能改变自己智商的时候，智商也就跟自己无关了，但是如果智商可以改变的话，我想如果世界上的人都将会变成更聪慧的人。届时若再加上高级的外界设施，外界设备就成了人思维控制的延伸，会有非凡的结果出现。
于渌：我最后补充一点。关于人工智能和生物技术在伦理层面上的忧虑大部分来自科幻作品造成的恐怖心理，是一个很负面的东西。这也是因为科普的不充分所造成的结果。李开复也从最开始就说了那些想法都是无稽之谈。大家不用过度忧虑，但是它不能从根本解决问题。为什么不能根本解决问题？因为每一个技术的进步都会带来风险！而这个风险必须要可控。核裂变这个技术能生出原子弹和氢弹，后果是十分可怕的，甚至能够毁灭人类，但是只要你知道这个东西的危险性在哪里、知道如何控制它，不滥用它，那么科技就是好的事情。我们要控制自己的欲望，而不是一概的反对科学技术进步。
人工智能和生物技术面对这个问题，答案就是不能失控。如果失控了势必造成灾难，所以我觉得研究这些前沿科技的人，同时要有一个社会责任——要和社会讲清楚这个东西有怎样的危险以及如何控制它。把这个问题妥善解决以后，就可以解除大家的一些担忧。
翁菱：今晚的《人工智能 | “美丽新世界”》是第三次直面科技与艺术的「玉河夜话」。 去年的《人工智能 | 不朽还是终结？》，我们在夜话中初次碰触未来科技的话题，即抛出了哲学意义上的宿命追问； 《生物科技 | 革命之路》则是关乎自我革新与自身探索的深入探讨；这一次的「人工智能」讨论在前两次的基础上，展开了对“美丽新世界”的想象。
科技发展的太快了，所以我们频频邀请不同领域、不同学科背景的大家来这里，一起围炉夜话，希望可以跟你们了解或者学习到深一点的东西。对于我来说，组织参与这样的讨论都是出于好奇，然后更多的是出于恐惧。其实每次听完科学家的讨论之后，我也不知道这种对于未知的恐惧感是减弱还是增强！可能还得请大家经常来到玉河，指点我们的思想迷津，让我们自以为很浪漫的艺术思维方式，可以多一些的层次，到达另外一种境界！谢谢三位！
END
