【静点评】昨天《环球时报》科技版用了近整版的篇幅做人工智能的相关报道，这些日子一篇知乎上谢熊猫君翻译的三万五千字论文：《人工智能很可能导致人类的永生或者灭绝，而这一切很可能在我们的有生之年发生》也在各个微信群里以各种版本流传。就连央视的财经频道和10套科教频道都在策划制作人工智能相关的选题。人工智能热为何延烧到了大众传媒上？为什么人人都开始关注“奇点”问题？这本身可能涉及到社会心理学的问题。实际上，末日效应一直是人类共同关注的话题。1999过去了，又来了玛雅人的2012。2012过去了，又来了更有鼻子有眼，有科学实现手段，可能性更大的2045。“奇点”引人关注是正常的，问题是我们需要以科学理性的方式去关注和思考。

去年3月底，我曾经主持了一次《奇点临近》的主题沙龙，众多计算机领域的专家参与讨论并形成了一些观点。非常感谢《环球时报》的科技版编辑刘扬将当时的一些核心内容重新编辑整理，发表了这篇《人工智能会最终毁灭人类吗？》的报道。让近一年前的一场思想风暴，能有机会再次与大众热点对接。

也推荐大家阅读《环球时报》的另一篇报道《电影中，那些超越人类的人工智能》。实际上，今天的人工智能热，与好莱坞大片不无关联。大家可以回想一下《2012》那部影片对人们思想与行为的影响。不难想象，现在每年5-6部与人工智能相关的好莱坞大片上映，对全球精英和普通民众心灵的巨大震撼。一次又一次的思想冲击和洗脑，让人工智能与人类的关系问题，现实地摆在人类面前。作为媒体，不可能不关注。期待《环球时报》这样雅俗共赏，又不失谨慎理性的报道能给人们提供更多智慧参照。

人工智能会最终毁灭人类吗

环球时报记者 刘扬 特约记者 伊文

在不久的未来，人工智能（ArtificialIntelligence，英文缩写AI）技术会全面超越人类的智慧，甚至会反过来控制或毁灭人类——这一灾难性的预测来自一群世界上公认“最聪明的人”，包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”埃隆·马斯克。甚至有美国学者认为，人工智能超过人类的时间点——“奇点”已经逼近，很可能就在几十年后。这一切真的会发生吗？还是正在发生之中？

　科技巨头担忧人工智能失控

据多家美国媒体报道，在最近一次网络答问活动中，盖茨被提问如何看待人工智能的潜在危害，他表示，这确实是值得担心的问题。盖茨说：“如果我们能够很好地驾驭，机器能够为人类造福，但如果若干年后机器发展得足够智能，就将成为人类的心头大患。”

此前，数十位科学家、企业家及与人工智能领域有关的投资者曾联名发出一封公开信，警告人们必须更多地注意人工智能的安全性及其社会效益。参加联署的人中包括霍金及马斯克等。据英国《金融时报》报道，这封发自生命未来研究所的公开信还附带了一篇论文，其中建议应优先研究“强大而有益”的人工智能。目前，人们日益担心机器的智力和能力可能会超过创造它们的人类，从而影响到人类的就业，甚至影响到人类的长期生存。马斯克表示，他相信不受控制的人工智能“可能比核武器更危险”。

《金融时报》2日一篇名为《机器人何时“造反”？》的文章称，物理学家霍金最近向BBC表示，“完备人工智能的发展可能导致人类灭亡。”霍金认为，一旦诞生了真正的人工智能——即人类思想的全数字化版本——它“将开始自主迅速发展，并以越来越快的速度重新设计自己……受限于缓慢生物进化的人类无法与之竞争，将被取代”。

2045，人工智能超人脑？

人工智能全面超越人脑这样具有科幻色彩的话题，不仅在国内外科技界受到关注，甚至还有美国学者明确提出了人工智能超过人类的时间点。美国著名专家库兹韦尔在他的《奇点临近》一书中预测这个时间点将是2045年。

那什么是人工智能呢？从字面来看就是人造的智能，也就是让机器具备人类一样的行为能力及思维意识。美国麻省理工学院的温斯顿教授认为：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

那人工智能技术是否可以等同于机器人呢？360公司副总裁谭晓生11日接受《环球时报》记者采访时表示，机器人要用到人工智能技术，两者是一个交集关系，但不能完全等同。对于超级计算机和人工智能的关系，谭晓生认为，超算只是一个拥有巨大计算能力的载体，这是人工智能更深度发展的一个物质基础。除了这个物质基础，还有一些软性的东西。他认为，学界探讨的人工智能主要是指机器是否可能有自主意识，像人类一样去做一些复杂的智力活动。争论的核心可能包括，机器的智商能有多高？机器是否会产生自我意识？

谭晓生表示，人工智能近来受到关注可能与计算机芯片性能提升、计算能力提升以及算法的优化有关，但更重要的因素可能与深度学习技术的进步有关。深度学习技术就是机器模拟人脑的工作机理，这个理论很早就被提出了，但由于计算能力的限制，一直没法实现。随着深度学习的进步，使人类看到机器按照人脑的机理工作可以取得这么大的进步，因此产生了对于机器超越人脑的推理。

对于是否存在奇点的问题，国内的学界与产业界也存在着完全不同的观点。中科院计算所研究员、中国计算机学会副秘书长陈熙霖不认同2045奇点到来的结论。他认为，机器智慧很难超越人类，也许更像永远处在逼近的过程中。对于如何衡量智慧，如果仅仅是从记忆能力上看，或者计算能力上看，今天的计算机已经远远把人的能力甩在后面了。但从人类的智力活动来看，我们包括了记忆、联想、归纳、演绎、判断、思考、顿悟、甚至做梦等诸多智力活动，我们的智力还与情感有关，从这个意义上看机器智慧很难超越人类。

中国科学院计算所研究员、中国计算机学会高性能计算专委会秘书长张云泉也认为，机器智慧很难超越人类。仅从超级计算机的技术发展状况看，几十年内出现奇点的可能不大，但在资本的推动下，也有自我实现的可能。

而百度深度学习研究院(IDL)常务副院长余凯则认为，以他从事人工智能行业十几年的经验，再从上世纪八十年代到现在整个的发展看，人工智能产业发展非常快，至少从过去30年的进展看，计算能力跟数据量高速成长，人工智能（超越人类）的发展走势是有可能的。

英特尔中国研究院院长吴甘沙表示，相信奇点，但是采用一种预测的态度，而非预报，言之凿凿说2029或2045有点不合适。人的智慧形成，也存在奇点，在那之后加速进化。他表示，人的生理结构、DNA编码、脑和神经系统那么精密，常常有种错觉，人就是过了奇点的机器。吴甘沙写过一篇名为“与机器赛跑：Winordie”的文章，总的观点是机器智能终将超越人类。

　“进化的机器”会最终毁灭人类吗？

美国《华尔街日报》曾发表题为《人工智能不是威胁——现在还不是》的文章称，在过去几十年里，从象棋到算术再到网上交易，计算机在许多事情上的表现都有长足进步，但到目前为止，它们还没有对我们或我们的财物表现出一星半点的兴趣。FT的文章也认为，人工智能展示的技术进展意义重大，它们展示了非凡计算能力、海量数据和案例分析软件所能形成的威力。它们将改善我们的生活、改变我们的经济，但它们造反的可能性与叉车没有两样。人类面临大量短期挑战，为什么要把未来的幽灵说成即将到来的恶魔呢？

谭晓生的观点则相对激进。他表示，文明的进化不用过分担心。哪天机器进化超过人了，从优胜劣汰角度，如果机器会带来更高的文明，人类为啥还要占着茅坑呢？看看《三体》、《星舰文明》，就很能理解。为了文明延续，要让最强者得到机会，4艘星舰留存1艘，其它舰人员甚至沦为食物，sowhat？更何况，即使从文明延续的角度看，机器智能与人类也未必不能共处。▲（文中部分专家观点摘选自《互联网与人工智能的未来：奇点临近》专题沙龙）

电影中，那些超越人类的人工智能

图片说明：电影《普罗米修斯》的剧照。

《环球时报》驻美国特约记者王海

人工智能是否会超越人类智慧还是现实中一个热议的话题，但它早已在各国的影视作品中“实现”了。最早的人工智能影片可以追溯到默片时代，并且在20世纪五六十年代开始常见起来，但大量涌现还是在上世纪七八十年代科幻片雨后春笋般发展的年代，从《星球大战》到《星际迷航》，从《银翼杀手》到《终结者》，越是脍炙人口的科幻片就越离不开一个让人印象深刻的人工智能。

总的来说，科幻小说家和编剧笔下的人工智能在未来的发展不外乎两类：人工智能的发展突破了人类的束缚，拥有了自我意识之后开始寻求认可和社会地位，直到控制甚至毁灭人类；另一类是人工智能获得了高度的发展，甚至拥有了人类的感情，但是依旧为人类服务或者和人类和谐相处，比如《钢铁侠》中的机器人助手贾维斯或者游戏《光环》当中的女助手科泰娜。虽然当下人工智能还未能达到模拟人类感情的境界，鉴于机器为人类服务在目前是现实生活中的主流，所以为了主题能够达到吸引眼球的效应，大量的影视作品描述的是前一类，人类遭到人工智能的猎杀，最后奋起反抗的故事被说了一遍又一遍，观众们依然乐此不疲。

如果我们去关注一下在影视作品中的人工智能超越人类智慧的年代，会发现各位剧作家们的观点比科学家们要有更大的分歧，一般来说，拍摄年代越近的影片，人工智能超越人类智慧的年代离我们越遥远，比如2008年动画片《机器人瓦力》当中，即使在800年之后地球已经被垃圾覆盖，人类移居到了巨型星际飞船上时，人工智能依然主要是为人类服务。而在1999年拍摄的《黑客帝国》中，21世纪人工智能就开始觉醒，并和人类发生战争，最后机器获胜，到了22世纪人类都成了控制地球的巨型人工智能的电池。拿最为经典的《终结者》系列来说，影片在上世纪80年代描绘的人工智能控制全人类的“审判日”在系列作品中一延再延。

值得一提的是，在电影里面发展出人类感情的人工智能中，它们寻求人类的认可和自我地位的实现也走向了不同的结果，这集中体现在《人工智能》、《我，机器人》和《普罗米修斯》等影片当中。这3部影片中的人工智能高度发展都出现在近未来，也就是21世纪的中叶到后期，《人工智能》当中的21世纪末期的小机器人大卫为了让自己能够变成真人而去寻找“蓝仙子”的过程让人心碎又发人深省，而《我，机器人》当中2035年的机器人则具备了自我进化的能力，它们对阿西莫夫的“机器人三大法则”有了自己的理解，它们随时会转化成整个人类的“机械公敌”。2012年的影片《普罗米修斯》当中的机器人则在2089年随着飞船远征，它能够理解人类的情感甚至会使诈，但它既没有革人类的命，也不寻求成为人类。▲

来源：http://tech.huanqiu.com/it/2015-02/5658393.html#rd