人工智能会最终毁灭人类吗?

作者:刘扬 

点评:杨静lillian

时间:2015-02-13

来源:http://tech.huanqiu.com/it/2015-02/5658393.html#rd

【静点评】昨天《环球时报》科技版用了近整版的篇幅做人工智能的相关报道,这些日子一篇知乎上谢熊猫君翻译的三万五千字论文:《人工智能很可能导致人类的永生或者灭绝,而这一切很可能在我们的有生之年发生》也在各个微信群里以各种版本流传。就连央视的财经频道和10套科教频道都在策划制作人工智能相关的选题。人工智能热为何延烧到了大众传媒上?为什么人人都开始关注“奇点”问题?这本身可能涉及到社会心理学的问题。实际上,末日效应一直是人类共同关注的话题。1999过去了,又来了玛雅人的2012。2012过去了,又来了更有鼻子有眼,有科学实现手段,可能性更大的2045。“奇点”引人关注是正常的,问题是我们需要以科学理性的方式去关注和思考。

去年3月底,我曾经主持了一次《奇点临近》的主题沙龙,众多计算机领域的专家参与讨论并形成了一些观点。非常感谢《环球时报》的科技版编辑刘扬将当时的一些核心内容重新编辑整理,发表了这篇《人工智能会最终毁灭人类吗?》的报道。让近一年前的一场思想风暴,能有机会再次与大众热点对接。

也推荐大家阅读《环球时报》的另一篇报道《电影中,那些超越人类的人工智能》。实际上,今天的人工智能热,与好莱坞大片不无关联。大家可以回想一下《2012》那部影片对人们思想与行为的影响。不难想象,现在每年5-6部与人工智能相关的好莱坞大片上映,对全球精英和普通民众心灵的巨大震撼。一次又一次的思想冲击和洗脑,让人工智能与人类的关系问题,现实地摆在人类面前。作为媒体,不可能不关注。期待《环球时报》这样雅俗共赏,又不失谨慎理性的报道能给人们提供更多智慧参照。

人工智能会最终毁灭人类吗

环球时报记者 刘扬 特约记者 伊文

在不久的未来,人工智能(ArtificialIntelligence,英文缩写AI)技术会全面超越人类的智慧,甚至会反过来控制或毁灭人类——这一灾难性的预测来自一群世界上公认“最聪明的人”,包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”埃隆·马斯克。甚至有美国学者认为,人工智能超过人类的时间点——“奇点”已经逼近,很可能就在几十年后。这一切真的会发生吗?还是正在发生之中?

 科技巨头担忧人工智能失控

据多家美国媒体报道,在最近一次网络答问活动中,盖茨被提问如何看待人工智能的潜在危害,他表示,这确实是值得担心的问题。盖茨说:“如果我们能够很好地驾驭,机器能够为人类造福,但如果若干年后机器发展得足够智能,就将成为人类的心头大患。”

此前,数十位科学家、企业家及与人工智能领域有关的投资者曾联名发出一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效益。参加联署的人中包括霍金及马斯克等。据英国《金融时报》报道,这封发自生命未来研究所的公开信还附带了一篇论文,其中建议应优先研究“强大而有益”的人工智能。目前,人们日益担心机器的智力和能力可能会超过创造它们的人类,从而影响到人类的就业,甚至影响到人类的长期生存。马斯克表示,他相信不受控制的人工智能“可能比核武器更危险”。

《金融时报》2日一篇名为《机器人何时“造反”?》的文章称,物理学家霍金最近向BBC表示,“完备人工智能的发展可能导致人类灭亡。”霍金认为,一旦诞生了真正的人工智能——即人类思想的全数字化版本——它“将开始自主迅速发展,并以越来越快的速度重新设计自己……受限于缓慢生物进化的人类无法与之竞争,将被取代”。

2045,人工智能超人脑?

人工智能全面超越人脑这样具有科幻色彩的话题,不仅在国内外科技界受到关注,甚至还有美国学者明确提出了人工智能超过人类的时间点。美国著名专家库兹韦尔在他的《奇点临近》一书中预测这个时间点将是2045年。

那什么是人工智能呢?从字面来看就是人造的智能,也就是让机器具备人类一样的行为能力及思维意识。美国麻省理工学院的温斯顿教授认为:“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

那人工智能技术是否可以等同于机器人呢?360公司副总裁谭晓生11日接受《环球时报》记者采访时表示,机器人要用到人工智能技术,两者是一个交集关系,但不能完全等同。对于超级计算机和人工智能的关系,谭晓生认为,超算只是一个拥有巨大计算能力的载体,这是人工智能更深度发展的一个物质基础。除了这个物质基础,还有一些软性的东西。他认为,学界探讨的人工智能主要是指机器是否可能有自主意识,像人类一样去做一些复杂的智力活动。争论的核心可能包括,机器的智商能有多高?机器是否会产生自我意识?

谭晓生表示,人工智能近来受到关注可能与计算机芯片性能提升、计算能力提升以及算法的优化有关,但更重要的因素可能与深度学习技术的进步有关。深度学习技术就是机器模拟人脑的工作机理,这个理论很早就被提出了,但由于计算能力的限制,一直没法实现。随着深度学习的进步,使人类看到机器按照人脑的机理工作可以取得这么大的进步,因此产生了对于机器超越人脑的推理。

对于是否存在奇点的问题,国内的学界与产业界也存在着完全不同的观点。中科院计算所研究员、中国计算机学会副秘书长陈熙霖不认同2045奇点到来的结论。他认为,机器智慧很难超越人类,也许更像永远处在逼近的过程中。对于如何衡量智慧,如果仅仅是从记忆能力上看,或者计算能力上看,今天的计算机已经远远把人的能力甩在后面了。但从人类的智力活动来看,我们包括了记忆、联想、归纳、演绎、判断、思考、顿悟、甚至做梦等诸多智力活动,我们的智力还与情感有关,从这个意义上看机器智慧很难超越人类。

中国科学院计算所研究员、中国计算机学会高性能计算专委会秘书长张云泉也认为,机器智慧很难超越人类。仅从超级计算机的技术发展状况看,几十年内出现奇点的可能不大,但在资本的推动下,也有自我实现的可能。

而百度深度学习研究院(IDL)常务副院长余凯则认为,以他从事人工智能行业十几年的经验,再从上世纪八十年代到现在整个的发展看,人工智能产业发展非常快,至少从过去30年的进展看,计算能力跟数据量高速成长,人工智能(超越人类)的发展走势是有可能的。

英特尔中国研究院院长吴甘沙表示,相信奇点,但是采用一种预测的态度,而非预报,言之凿凿说2029或2045有点不合适。人的智慧形成,也存在奇点,在那之后加速进化。他表示,人的生理结构、DNA编码、脑和神经系统那么精密,常常有种错觉,人就是过了奇点的机器。吴甘沙写过一篇名为“与机器赛跑:Winordie”的文章,总的观点是机器智能终将超越人类。

 “进化的机器”会最终毁灭人类吗?

美国《华尔街日报》曾发表题为《人工智能不是威胁——现在还不是》的文章称,在过去几十年里,从象棋到算术再到网上交易,计算机在许多事情上的表现都有长足进步,但到目前为止,它们还没有对我们或我们的财物表现出一星半点的兴趣。FT的文章也认为,人工智能展示的技术进展意义重大,它们展示了非凡计算能力、海量数据和案例分析软件所能形成的威力。它们将改善我们的生活、改变我们的经济,但它们造反的可能性与叉车没有两样。人类面临大量短期挑战,为什么要把未来的幽灵说成即将到来的恶魔呢?

谭晓生的观点则相对激进。他表示,文明的进化不用过分担心。哪天机器进化超过人了,从优胜劣汰角度,如果机器会带来更高的文明,人类为啥还要占着茅坑呢?看看《三体》、《星舰文明》,就很能理解。为了文明延续,要让最强者得到机会,4艘星舰留存1艘,其它舰人员甚至沦为食物,sowhat?更何况,即使从文明延续的角度看,机器智能与人类也未必不能共处。▲(文中部分专家观点摘选自《互联网与人工智能的未来:奇点临近》专题沙龙)

电影中,那些超越人类的人工智能

图片说明:电影《普罗米修斯》的剧照。

《环球时报》驻美国特约记者王海

人工智能是否会超越人类智慧还是现实中一个热议的话题,但它早已在各国的影视作品中“实现”了。最早的人工智能影片可以追溯到默片时代,并且在20世纪五六十年代开始常见起来,但大量涌现还是在上世纪七八十年代科幻片雨后春笋般发展的年代,从《星球大战》到《星际迷航》,从《银翼杀手》到《终结者》,越是脍炙人口的科幻片就越离不开一个让人印象深刻的人工智能。

总的来说,科幻小说家和编剧笔下的人工智能在未来的发展不外乎两类:人工智能的发展突破了人类的束缚,拥有了自我意识之后开始寻求认可和社会地位,直到控制甚至毁灭人类;另一类是人工智能获得了高度的发展,甚至拥有了人类的感情,但是依旧为人类服务或者和人类和谐相处,比如《钢铁侠》中的机器人助手贾维斯或者游戏《光环》当中的女助手科泰娜。虽然当下人工智能还未能达到模拟人类感情的境界,鉴于机器为人类服务在目前是现实生活中的主流,所以为了主题能够达到吸引眼球的效应,大量的影视作品描述的是前一类,人类遭到人工智能的猎杀,最后奋起反抗的故事被说了一遍又一遍,观众们依然乐此不疲。

如果我们去关注一下在影视作品中的人工智能超越人类智慧的年代,会发现各位剧作家们的观点比科学家们要有更大的分歧,一般来说,拍摄年代越近的影片,人工智能超越人类智慧的年代离我们越遥远,比如2008年动画片《机器人瓦力》当中,即使在800年之后地球已经被垃圾覆盖,人类移居到了巨型星际飞船上时,人工智能依然主要是为人类服务。而在1999年拍摄的《黑客帝国》中,21世纪人工智能就开始觉醒,并和人类发生战争,最后机器获胜,到了22世纪人类都成了控制地球的巨型人工智能的电池。拿最为经典的《终结者》系列来说,影片在上世纪80年代描绘的人工智能控制全人类的“审判日”在系列作品中一延再延。

值得一提的是,在电影里面发展出人类感情的人工智能中,它们寻求人类的认可和自我地位的实现也走向了不同的结果,这集中体现在《人工智能》、《我,机器人》和《普罗米修斯》等影片当中。这3部影片中的人工智能高度发展都出现在近未来,也就是21世纪的中叶到后期,《人工智能》当中的21世纪末期的小机器人大卫为了让自己能够变成真人而去寻找“蓝仙子”的过程让人心碎又发人深省,而《我,机器人》当中2035年的机器人则具备了自我进化的能力,它们对阿西莫夫的“机器人三大法则”有了自己的理解,它们随时会转化成整个人类的“机械公敌”。2012年的影片《普罗米修斯》当中的机器人则在2089年随着飞船远征,它能够理解人类的情感甚至会使诈,但它既没有革人类的命,也不寻求成为人类。▲

来源:http://tech.huanqiu.com/it/2015-02/5658393.html#rd

转载请注明:《 人工智能会最终毁灭人类吗? | 我爱计算机

Leave a Reply

Your email address will not be published. Required fields are marked *