如果有一天人工智能真的统治了世界，那人类还有那些能力来反抗？人工智能统治世界，可能很多武器人类都没办法用了，人类又没有电影中的超能力，人类会不会就此灭亡呢，地球以后就真的变成变形金刚世界了？13人已关注
吉林动画学院
人类可以直接把电源拔了呀，这样的话，看那些个破铜烂铁还会有什么用，哈哈哈，我是不是很机制呢。那时候，科学家可能就会成为一种过街老鼠，人人喊打的物种了。而且，那时候机器人就可以尽情的嘲笑人类了，你们通知了地球几千年了，看都让你们给整成什么样了，真实的，都想不清楚，连阿尔法狗这样的原始生物都干不过，你们还有什么资格来统治地球，还是让我们接手好了。还有一种可能就是人类发明了钢铁侠那样的衣服，虽然本身并没有什么超能力，但是衣服里蕴藏着洪荒之力，人与机器人大战从此就开始了。还有就是在机器人里面也有好的，视人类为自己的主人的，就像美国科幻大片《复仇者联盟》里面的幻世一样，而且非常的吊，最后人人类一起再夺回江山。又或者是像终结者一样，人类开始和他们展开了各种暗地里的斗争，最后机器人统治了世界，人类返回以前杀了那位科学家，重新夺回了地球。人类可以直接把电源拔了呀，这样的话，看那些个破铜烂铁还会有什么用，哈哈哈，我是不是很机制呢。那时候，科学家可能就会成为一种过街老鼠，人人喊打的物种了。而且，那时候机器人就可以尽情的嘲笑人类了，你们通知了地球几千年了，看都让你们给整成什么样了，真实的，都想不清楚，连阿尔法狗这样的原始生物都干不过，你们还有什么资格来统治地球，还是让我们接手好了。还有一种可能就是人类发明了钢铁侠那样的衣服，虽然本身并没有什么超能力，但是衣服里蕴藏着洪荒之力，人与机器人大战从此就开始了。还有就是在机器人里面也有好的，视人类为自己的主人的，就像美国科幻大片《复仇者联盟》里面的幻世一样，而且非常的吊，最后人人类一起再夺回江山。又或者是像终结者一样，人类开始和他们展开了各种暗地里的斗争，最后机器人统治了世界，人类返回以前杀了那位科学家，重新夺回了地球。
人工智能统治世界，可能很多武器人类都没办法用了，人类又没有电影中的超能力，人类会不会就此灭亡呢，地球以后就真的变成变形金刚世界了？
相关标签：
关注我们咨询服务合作法律法规京ICP备号
下载申请方APP
即刻拥有你的学业规划助手douban.com, all rights reserved 北京豆网科技有限公司如果有一天人工智能造反了 “拔插头”有用吗？_棋牌_新浪竞技风暴_新浪网
如果有一天人工智能造反了 “拔插头”有用吗？
人工智能PK人类
　　（环球时报记者张旺）阿尔法围棋（AlphaGo）与韩国棋手李世石九段的第五场较量将于今天展开。按照世界职业围棋排名网站GoRatings.org的算法，阿尔法围棋已位列世界第四。在李世石连续输给阿尔法围棋后，有网友支招戏称“要赢只需拔插头”。但是面对人工智能的威胁时，这招管用吗？《环球时报》记者近日就此采访了多名中国人工智能专家。
　　北京邮电大学计算机学院学者肖达介绍说，阿尔法围棋是通过棋谱等数据学习人类的“直觉”。这相当于一个小孩生下来就看棋谱，然后自己研究怎么赢的进而精通这门技艺。这样最直接的后果就是这种人工智能具有通用性，不仅可以下围棋，还能应用于许多其他领域。
　　既然阿尔法围棋都这么神通广大了，以后人类是不是什么活儿都不用干了？彩云天气创始人袁行远给出的回答是，“在能定义出来的领域，人类或许终将被人工智能所取代，比如无人驾驶。但有些开放式的问题就不太好定义，比如画一幅优美的画卷，或者找到宇宙运行更深刻的规律，这些方面人工智能恐怕还难以胜任”。北京师范大学系统科学学院副教授、集智俱乐部创始人张江也认为，虽然从目前发展趋势看，人类大部分脑力劳动将来会被人工智能所取代，但创造性劳动能否也被替代，至少目前还看不到。
　　对于人工智能会否发展到威胁人类生存的地步，肖达认为，这要分两个阶段。一个是比较近的阶段，即现在的人工智能虽然很强，但没有自己的意识，没有自己的追求，它的追求都是人类给的。这种人工智能的最大威胁不在于机器，而在于人类，要防止揣着不良目的的人利用人工智能做坏事。第二个阶段就是人工智能有自我意识，它给自己定义了一些追求。这个阶段距离现在还比较遥远。但如果届时它真的威胁人类，那么人类恐怕只能束手无策。
　　袁行远则认为，人工智能如果发展到具备了主观意识的地步，那么它可能不会在意人类的生活，憧憬的是整个宇宙。因为火星和地球对人工智能来说没有区别，而且火星地盘大又没人类干扰。张江也觉得不用担心人工智能威胁人类。毕竟还有很长的时间，在这段时间，人类本身也会发生变化。张江说：“现在的一个趋势是人和机器的结合，比如脑机接口，人通过大脑可以直接控制机器，而不是一方完全替代另一方。”
　　如果人工智能真的有一天对人类动手，“拔插头”能管用吗？肖达和袁行远都否定了这个方法。因为人工智能不是在一台机器上，整个互联网都有它的存在。袁行远以阿尔法围棋与李世石的对决为例说：“在比赛中，坐在李世石对面的人在韩国连接英国的服务器，然后从英国服务器给美国的计算机下指令，最后再把计算结果传回韩国。你把韩国的机器电源拔了，根本不影响比赛。”那没有应对之策了？袁行远说，可以采用电影《黑客帝国》里的方法，就是给地球加一个罩，从而切断风能、太阳能这些可再生能源，等着地球自身能源耗尽，这等于是给地球拔电源。
　　张江认为，面对技术进步，人类最好的应对方式就是坦然接受。就像当初出现原子弹，不是一个人或者一个机构能阻止的。最聪明的做法不是去阻碍技术的进步，而是积极努力改变自己的思维模式。“当初，汽车代替马车，马夫、修马车的人是不适应的，认为自己的饭碗被抢了，但历史证明，这种替代提高了效率。未来人工智能如果取代了所谓的白领，或许意味着我们社会需要发生一个结构性变化。人工智能善于做的就让它去做好了，一定会有它不擅长的。比如创造性思维，甚至休闲娱乐，人工智能总没法替代人类去休闲。”张江还提到，有互联网思想家提出这样的观念：人的休闲本身就是一种资源，或者说能够有产出。因此人类的思想要做出积极改变，去适应新的社会形态。
文章关键词：
收藏&&|&&&&|&&打印&&|&&关闭
您可通过新浪首页顶部 “我的收藏”， 查看所有收藏过的文章。
请用微博账号，推荐效果更好！至少在100年内人工智能不会超越人脑_网易新闻
至少在100年内人工智能不会超越人脑
（原标题：至少在100年内人工智能不会超越人脑）
昨天下午，谷歌围棋人工智能Alpha Go与韩国棋手李世石进行了最后一轮较量。最终，AlphaGo获得本场比赛胜利，人机大战总比分定格在1:4。
连续苦战五场，一方展示的是人工智能的最高水准，另一方代表的是进化了几千万年的人类智慧。今天的棋局，会不会是未来人工智能全面战胜人脑的预演？
钱江晚报记者梳理了人工智能发展的历程，并请浙江大学计算机科学与技术学院教授蔡登分析，人工智能会不会在未来KO（击倒）人脑。
灵长类机器出现了吗
从普罗大众的角度来看，机器人的历史可以分三个部分。
最早出现的机器，是人的体力、肌肉的延伸。它们的“四肢”极其发达，头脑简单到几乎没有头脑，是人类体力的帮手；
第二代机器，是对人类的感官——眼、耳的延伸，像电脑、智能手机；
而以Alpha Go为代表的最新一代的机器，是对人类脑神经的一种延伸，我觉得，“它们”已经可以改称为“他们”了，因为灵长类机器人几乎出现了。
生物进化到人类，大脑的容量和沟壑回路复杂程度，登峰造极。但是这是一个非常缓慢的演化过程，今天人的大脑，不敢说比两千年前苏格拉底的脑子发达。
但是灵长类机器的进化速度，非常惊人。过去的机器，它们的优化是由人来完成的，但现在的阿法狗们，已经可以自我优化了。
我们没有跟Alpha Go交流过，无法领教它的凶猛。据科学家说，在Alpha GO正式出山前，它用了3000万局“自我对弈”的数据，来训练自己比赛时对每一颗落子的价值进行评估。
3000万局围棋，对于人类来说，即使每局只要15分钟，可能要八百多年才能下完。事实上，关注这次人机大战的朋友是有体会的，这几场比赛，平均每一盘需要4~5个小时。
而自从去年10月和樊麾对弈后到上周开始和李世石交手，短短5个月时间，Alpha GO又完成了2000万局自我对弈，掌握了更加大量的判断、评估局面的数据库。
电脑运算速度快到难以置信时，突变会否到来
在宇宙学中，霍金和彭罗斯证明了，在一般的条件下，空间——时间一定存在奇点，最著名的奇点就是黑洞里的奇点，以及宇宙大爆炸处的奇点。
在奇点处，所有定律以及可预见性都失效。
临近奇点，局面就完全就转折了。
著名的国王下国际象棋的故事，或许可以佐证。战胜国王的大臣，想要得到的奖励是米，放到棋盘山：第一个格一粒米，第二格两粒……装满64个格子，要放9.8×10（后面有18个0）粒米。18个零是什么概念？8个零就是一个亿，这是指数级增长，经济学上讲的复利效应。
爱因斯坦说：”世界上最大的能量不是核能量，而是复利。”
我们每个人都知道，电脑的计算速度正变得越来越快。如果有一天，电脑的运算速度快到令人难以置信时，它们掌握人工智能的时刻也到来了——那时电脑，将能够模拟人脑、产生意识：人类本身也将发生改变。在信息学上，这个时间点也被称为“奇点”。
一些科学家认为，正如天体物理学上存在着一个让所有物理定律都失效的“奇点”一样，信息技术也正朝着“超人类智能” 的“奇点”迈进。发明家、计算机科学家雷蒙德·库兹韦尔在接受《时代》杂志采访时表示，信息技术的奇点将在2045年到来。“届时，人工智能将超越人脑，人类的意义彻底改变，与机器融合为‘超人类’，并借助科技的发展而获得‘永生’”。
人工智能处理数据的能力远远大于人的能力，然而它们不用睡觉、没有情绪，不会被领导骂几句，工作效率就降低。
我们人类需不需要开始担心：10年或者更短的时间以后，可能失业的我们，到底还能做点什么？我想我要给替我写稿子的机器人做推拿。
放心，真正的人工智能还没出现“这次李世石的获胜概率更高。”人机大战前，浙大计算机科学与技术学院教授蔡登作出了这样的预测。
然而昨天Alpha Go以4:1碾压李世石，蔡登不得不对Alpha Go另眼相看，“没想到它发展得那么快，只能说谷歌的程序真的很厉害。”
Alpha Go的出色表现，让“人工智能威胁论”一时间又甚嚣尘上。
其实，这个观点出现也不是一天两天了。它盛行到什么程度呢？知乎上有研究人工智能的学者抱怨，每次签证官得知他的研究领域后，都会对他“特殊对待”。既然人工智能对人类会产生威胁，研究它的专家也得仔细盘查。
但蔡登的回答很明确，不会！他估计，至少在100年的时间里，人工智能不会超越人脑。
你要说像Alpha Go这样的机器很聪明吧，确实，它能快速、准确地进行大量数据的计算，在围棋这样规则明确的竞赛中，打败人类也是轻轻松松。
但研究计算机深度学习的专家Yoshua Bengio曾在接受采访时说，“我们努力想让机器变得稍微聪明一点，但他们还是很笨。我曾经想过这个领域不该叫人工智能，而应该叫人工愚蠢。”
何出此言？蔡登说，因为一些在人类看来稀松平常的事情，对机器来说却是难如登天。
比如，一个四五岁的孩子很快就能学会拿茶壶倒水。学会后，看到茶壶形状的容器，他知道这是可以用来装水的；茶壶翻过来了，小孩子会知道要把它护正了才能倒水。而这些简单的动作和反应，机器人很难达到。
Alpha Go（围棋的英文是Go）能战胜李世石，Alpha Mahjong（麻将的英文是Mahjong）可不一定能战胜隔壁大妈。因为和围棋比起来，麻将更不确定，更模糊。它需要通过观察对手的表情来揣摩心理，这也是机器人无能为力的地方。
所以，蔡登认为这些所谓的“人工智能”都是要加引号的。从本质上来说，它们并没有真正发展出人类的智慧，“现在说的人工智能，都是工具属性，而不是智能属性的。”
智能属性为何那么难达到？蔡登说，人类对自己的大脑都还没有研究透呢，又怎么能把人脑的功能复制到机器人身上呢？
科幻电影中那种拥有自我意识，能够和人类交流的人工智能，蔡登不认为会出现。就像自行车、汽车一样，Alpha Go们的出现，是为了解放人类，让他们在人类擅长的领域大有作为。
你问什么才是人类擅长的领域？创造出越来越高级的人工智能，绝对是其中一项。
本报记者 章咪佳 张冰清
本文来源：浙江在线-钱江晚报
责任编辑：黄欢_NN1650
加载更多新闻
热门产品:　　　
:　　　　　　　　
:　　　　　　　　　
热门影院：
阅读下一篇
用微信扫描二维码
分享至好友和朋友圈把你最喜欢的栏目添加到这里来哦
如果有一天人工智能反叛了……那它们有死穴吗？
Ent/果壳网
11:57 来源：澎湃新闻
【编者按】化名“Master”的AlphaGo下完了它的最后一局棋，带着60局全胜的战绩下线。在一片对人工智能的惊呼和赞叹中，AI被创始团队誉为“从不犯错”，那么它究竟有没有弱点？它的弱点是人类能够利用的吗？本文系果壳网授权转载（微信公众号：Guokr42）从12月29日起，一个叫“Master”的神秘ID在数个知名围棋平台上大杀四方。柯洁、古力、聂卫平纷纷折戟，仅仅在第52局中断了一下连胜纪录——对手陈耀烨九段意外掉线，这一局被系统判定为平局。在1月4日21点，“Master”终于做出了回应：之后，新浪直播员马上宣布了这一消息：而与此同时，昨晚抱病上阵与“Master”对弈的@棋士柯洁 也发布微博，称“作为一开始就知道真身是谁的我来讲，是多么希望网上的快棋人类能赢一盘”：这条微博再次证实了Master的身份：神秘ID“Master”就是阔别归来的围棋AI——AlphaGo。人类不是第一次在AI面前一败涂地1997年，国际象棋AI第一次打败顶尖的人类；2006年，人类最后一次打败顶尖的国际象棋AI。欧美传统里的顶级人类智力试金石，在人工智能“深蓝”面前轰然崩塌，应验了40多年前计算机科学家的预言。1997年纽约，与IBM深蓝电脑终局对弈开始时，一台电视监视器上的加里·卡斯帕罗夫。现在，我们同样没有人再能赢过“Master”。如果这一纪录无人打破，那就意味着国际象棋AI用了不到10年时间完成的战绩，围棋AI只用了不到10个月。当然，这不见得就是坏事儿。人类画师的仿真能力早就输给了摄影，但绘画也没有因此失去意义；国际象棋的顶尖AI已经连续十年没输给人类了，国际赛事依然如火如荼。围棋也没什么特别，世界第一不过是名分。但是如果有一天，AI反叛了呢？它们有死穴吗？在意想不到的地方绊倒一只AI2014年底，三位人工智能研究者在arxiv上贴出了一篇论文预印本。论文标题很有趣：《深度神经网络很好骗》。深度神经网络，是目前最热门的人工智能路线之一，AlphaGo就以它为核心。它在包括围棋在内的许多领域实现了卓越成就，其中就有“视觉分类”任务——神经网络可以相当准确地判断出一张图片是猫还是企鹅。但研究者却发现，人为设计的图像很容易骗过它们。这本身没什么了不起，人脑也很容易被骗——但是，令神经网络摔倒的那些图，在人看来却是完全正常的。左图被神经网络判定为熊猫。给它人为叠加上中图所示微小的扰动（实际叠加权重只有0.7%），就获得了右图。在人类看来，左图和右图没有区别；可是AI却会以99.3%的置信度，一口咬定右图是一只长臂猿。这不是意外的小失误，也不是偶然的bug——我们发现，只要对图片做出一些人类无法察觉的修改，就能让AI把它当成完全不同的东西；还很容易设计出一些图片，人类什么都看不出来，AI却能以99.99%的把握确信它是某个东西。更有甚者，这些奇特的错误并不限于某个特定的神经网络，能骗过一个AI的图片，也能骗过另一个；它们也不限于图片识别，甚至不限于神经网络本身——研究者所尝试过的所有机器学习模型，都出现了这样的问题。AI认为左图是一只狗，右图是一只鸵鸟。八张图在AI眼中分别是知更鸟、猎豹、犰狳、小熊猫、蜈蚣、孔雀、菠萝蜜和气泡。置信度全部在99.6%以上。而最大的问题是，当神经网络犯下这样的错误时，研究者并没有特别有效的修正办法。这样的图片，就是“对抗样本”。AI的盲区，人类的救星？对抗样本自然出现的概率确实非常之低。但是它取这个名字并不是没有理由的：如果真的有人在故意采取对抗手段，那么这就有可能成为该系统的死穴（就像那些靠谐音或错别字骗过过滤器的小黄文一样）。而从绝对数量来看，对抗样本是非常之多的：如果在空间中任取一点，大部分都会被错误归类。另一种方式构造的八张图，在AI眼中分别是王企鹅、海星、棒球、电吉他、货车、遥控器、孔雀和非洲灰鹦鹉。靠随机生成的图片骗AI并不难。现在，对抗样本是个坏消息，是系统漏洞。但如果有一天我们真的要和AI正面对决，那么对抗样本也许会成为我们的救命稻草，因为它有这三个特点：第一，对抗样本并不限于一个具体的神经网络，因此制造对抗样本也不需要获得该模型的源代码之类的东西。只要模型是被训练来执行相同的任务的，它们就会被同样的对抗样本欺骗。第二，对抗样本很难用常规的办法解决。谷歌研究者固费罗的研究组尝试了各种各样传统手段，都不能解决对抗样本问题。有针对性的专门训练可以让模型的抵抗力更强，但也无法真正消灭盲区。第三，人类不会被这些样本欺骗。当然，人类也会在意想不到的地方跌倒——心理学已经提供了浩如烟海的视错觉和其他错觉例子。还好，AI现在还不知道，嘘……著名的丁香视错觉图。——人也有bug。研究者正在努力堵上对抗样本的漏洞，但是完全有可能出现无论如何也堵不上的情况。在这样的背景下，人类和AI的战争如果爆发，也许将进入全新的战场。对抗样本时代的围棋会是什么样子？其实根本上讲，我们不能说机器被对抗样本“骗”了——也许被骗的其实是我们呢？也许AI真的在那些噪点中发现了某种真正的本质的规律，而我们只是肉眼凡胎不识真面目呢？但是我们让AI做图像识别，它要分类的图像就是人眼中的场景，它要遵守的规则就是人类大脑的规则。因此某种意义上，我们是主场。围棋作为一种人类设计的游戏，也许也会是另一个主场。AlphaGo的源代码尚未公开，但研究者明确指出了它对深度学习的依赖，那么它大概也会被对抗样本困住。或许某一天，围棋将成为一种双重游戏。对战双方不但要在物理的棋盘上攻城略地，还要设法引导对方步入心智陷阱。应该会有某些棋局能让AI错判，从而让它们下出大错棋，就像现在的研究者能让AI把大熊猫认成长臂猿一样。同样的机关算尽，人机对战的思路将不同以往。但是对方的盲区棋局是什么样的？如何下出这样一盘棋局？实现这一局面需要在棋盘上做出多少牺牲？引导对方失误带来的收益能否补偿？是否有可能制造出这样的盘面，令对方陷入更大的心智陷阱，乃至直接死机？AI反过来可能也会利用人类的缺陷。我们不知道人类的围棋盲点在哪里，但原则上这也是可能存在的。这一看不见的战场，或许将比看得见的棋盘更加血腥。化名“Master”的AlphaGo打完了它的最后一局棋，带着60局全胜的战绩下线。我们不知道明天的围棋界将会怎样，但万幸，围棋是人类创造的游戏，这也许能带给我们一些优势。如果哪一天我们必须去玩AI所创造的游戏，那也许才是真正的末日。【禁止二次转载，如需转载请联系 】
责任编辑：腾飞澎湃新闻报料：9 & 澎湃新闻，未经授权不得转载
关键词 >> 围棋人工智能
评论（34）
澎湃新闻APP下载