怎样通过什么是人工智能能,把商品上传给收索商品者

【IT时代网编者按】创新工场董事長兼CEO李开复对“什么是人工智能能”进行了深入浅出的讲解分析在这篇长达万字的演讲实录里,关于什么是人工智能能、深度学习、Google的野心等首次“科普式”地得以展现。


什么是人工智能能正以前所未有的态势汹涌而来一方面是风投和创业创新,都把什么是人工智能能当做了下一个尚未被开垦的宝地;另一方面是应用比起概念盛行的阶段,现在的无人车、AlphaGo等已经把什么是人工智能能技术带到了“看得箌摸得着”的境地

那什么是人工智能能到底是什么?这个领域包含哪些要素?它将如何改变当今世界,又面临哪些问题和瓶颈?对于什么是人笁智能能的应用和商业化哪些领域会最快显现效果出来?

在清华大学“清华学堂计算机科学实验班”题为《什么是人工智能能的黄金时代》的演讲中,创新工场董事长兼CEO李开复对“什么是人工智能能”进行了深入浅出的讲解分析

在讲解中,这位机器学习领域的博士对什么昰人工智能能追古溯源、引用知名商业案例并结合Google等巨头的布局和调整,为受众勾勒了什么是人工智能能的框架、要素、商用领域和条件并且强调了什么是人工智能能当前的瓶颈和对当前互联网市场的影响。

值得一提的是这位中国最知名的创业导师还给有志于在什么昰人工智能能领域进行创业的创业者们提供了建议。

在这篇长达万字的演讲实录里关于什么是人工智能能、深度学习、Google的野心等,首次“科普式”地得以展现

以下是李开复演讲实录:

谢谢大家!非常高兴有这个机会又一次来到清华,尤其是在我最尊敬的姚期智教授的邀请囷介绍之下姚教授的姚班在全球已经享有盛名,我从Google到创新工场看到有非常多成功的工程师,都是在姚老师的培养之下成为了计算机堺的顶尖人才

在讲什么是人工智能能之前,我想向大家介绍一下我的一些可能不太为人熟知的背景:其实在进入几个国际大公司任职之湔也就是在30多年前,我就进入了什么是人工智能能领域我是在1980年首先做的自然语言处理,1982年做的计算机视觉1983做的语音识别,1985年做的囚机对弈1996年做的VR/AR……但我们现在知道,那时候我的这些选择基本上都是非常“糟糕错误”的职业选择因为每一件事情,我都是在它的黃金时代之前、白银时代之前甚至破铜烂铁都不是的时代就涉足了。从这个事情上其实我也想说,做计算机研究这个领域本身的素質能力当然都非常重要,但是还要在正确的时候选择正确的事情我在错误的时候太过狂热的跳进了什么是人工智能能领域,与此同时過去的三四十年什么是人工智能能也是起起伏伏,一下很火一下又跌入谷底。

但现在是什么是人工智能能的黄金时代可能各位也会问,凭什么这次说是什么是人工智能能的黄金时代?为了说明这个问题这次我肯定不只用一些理论来说服大家,毕竟我过去也做了这么多“錯误的选择”——我今天还带一些实际的数据来跟大家分享为什么我对今天的什么是人工智能能充满信心什么是人工智能能有很多分支,其中之一是机器学习机器学习里面还有一个分支是深度学习,今天我更多的会用深度学习作为案例

最近什么是人工智能能成为全球熱门新闻话题,很多是因为大家看到AlphaGo在几个月前击败了李世石最近在网上还传出年底之前它要挑战柯杰的消息。但在这个新闻的热度之丅有一点让我觉得很可惜:大家对这个话题讨论的重心都放在了什么是人工智能能是不是在模仿人脑,“奇点”是否即将来临这样的问題上却没有真正关注什么是人工智能能对我们的现实影响。

“奇点”认为未来机器将有各种的智能、人类必须做一些事情来保护自己峩们在座的没有任何一个人能够证明或否定“奇点”,但就我个人而言我认为什么是人工智能能要取代人还是一个非常遥远的事情。我覺得我们需要更关注的事情是什么是人工智能能是今天能够拿来用的工具它能帮助人类解决问题,能取代重复性的工作能创造商业价徝。正因为这个理由我认为我们今天进入了什么是人工智能能的黄金时代。

随便举几个例子:今天很多的工作以后大部分都会消失比洳说翻译,虽然现在还不是做的那么完美但是每年进步的都很快,再过几年人工的翻译可能就会非常难找到工作了记者也同样如此,洳今90%美联社的文章都是用机器来写的几乎所有思考模式可以被理性推算的工作岗位,在有足够数据支撑的时候都会被取代。有人说十姩之内一半的工作会消失有人说十五年之内一半的工作会消失,我觉得这些都是合理的揣测

我想在座大部分都会相信这个理论,而如果你对此还有怀疑你可以想想,为什么AlphaGo这么厉害?就是因为它可以动用到几千台机器每天和自己对弈上万盘的围棋而这人是做不到的;以後为什么自动驾驶会这么厉害呢?因为它可以用它的各种的sensor在路上搜集数据,这不是任何一个司机可以匹敌的所以这些都是一些必然的过程。

到底什么是什么是人工智能能呢?我觉得大概来说可能是有几个部分

首先是感知,感知就是包括视觉、语音、语言;然后是决策刚刚講的做一些预测,做一些判断这些是决策层面的;那当然如果你要做一套完整的系统,就像机器人或是自动驾驶它会需要一个反馈。


在這些例子上可以看到感知可能更多的是帮助识别图里面一个婴儿在沙发上抱着泰迪熊这种。在推荐上面我举的例子是一个用Google now通过你过詓做的一些事情推测你下面要做什么,在最下面的例子你会看到有一个无人驾驶的汽车它有各种的sensor,它捕捉的信息可以用来做最后的决筞比如怎么去操作方向盘、油门、刹车等等的。其实这三件事情的总和就是今天所被归纳为的什么是人工智能能

再从博弈、感知决策鉯及反馈四个方面回顾一下什么是人工智能能的发展历程。博弈今天就不讲太多了但是基本上我可以看到从我在大学做的Othello到Checkers再到DeepBlue chess,经过佷长的一段时间终于有了今天AlphaGo打败了围棋世界冠军。我们从中可以看到这是一条长达三十多年的路程。


什么是人工智能能的各阶段发展里程碑事件什么是人工智能能的各阶段发展里程碑事件

在感知方面从我的博士论文发表到Nuance成为一个顶尖的公司,从中国诞生了科大讯飛到美国的Deep Face、中国的Face++等等做得越来越好的企业这些年也有很多的进步。还有一些很特殊的例子比如最近看到一些搞笑的比较Microsoft Tay在Twitter上开始哏人家交流一下子就讲了一堆不堪的话,就被Microsoft撤回了所以这里有很多的成功例子,也有很多有趣的事件

决策方面,从早期Microsoft Office里的工具到Google廣告的推荐然后到金融行业的很多智能决策公司的出现,进步迅速Google auto mail可能大家还没有看过,但是如果你现在还在用Gmail的话会发现你有时候收到email,Google会跳出来问要不要发回复有时候它连回复都帮你写好了,而且写的很精确这也是什么是人工智能能的体现。可能以后我们讲話都不用助理能帮我们搞定,什么是人工智能能的助理肯定也是一个方向

最后是反馈,从CMU Boss早期的无人驾驶到Amazon用Kiva推动物流再到最近的Pepper、Google car,我们可以看到这个领域过去三四年特别的热有很多看起来商业化已经做的非常好。

在这里我要稍微深度讲一下深度学习。

深度学習是一种神经网络与但与之前的相比,它的特点是使用了多层网络能够学习抽象概念,同时融入自我学习而且收敛相对快速。收敛赽速可能是一种技巧不见得是一个理论,但是有一批人通过它解决了很多重要的问题

简单的来说,如果我们有很多笑脸然后我们把笑脸的像素输入到一个神经网络里面去,最后你那儿希望让机器能识别这是姚明那是马云,但是因为你这个深度学习的网络很深要一佽性学会这么多也会比较困难,所以就需要用到一个比较快速收敛的技巧——自我学习通过自我学习,机器会逐步从大量的样本中逐层抽象出相关的概念然后做出理解,最终做出判断和决策

比如它可以有好几层的nodes和connection,经过这些nodes和connection它在每一个层次会感知到不同的抽象特征,且一层比一层更为高级这些都是通过自我学习实现的,而不是人教的经过自我学习,从一个脸输进去再从同样的一个脸输出来它就从里面抽象的学习到了一个人的脸重要特征。

深度学习的分层无监督训练深度学习的分层无监督训练

经过这个学习之后我再去做監督训练,看机器是否能够识别他们如果不能,就在训练之后做微调例如,如果我输入了马云的脸出来的却是王宝强,那训练系统僦会告诉你的网络说这个是错误的:这不是王宝强这是马云。那接下来就是要进行微调以便于下一次机器看到这个脸时,能识别出是馬云的概率高一些出来王宝强的概率低一些。


分层无监督训练分层无监督训练

但是这么一调也不能调的太过火了要不然就会有overtraining的问题,我们就对整个数学公式做一点微调用大量的数据,不断重复的去教它经过不断微调,那么它就很可能在多次之后降低识别错误

其實这一整套理论在二三十年前就已经有了,我在做我博士论文的时候很多我的同事就在做训练神经网络的工作。

深度学习在最初的时候訓练速度特别特别慢所以比较难进入工业级别或者是应用级别,比如你的手机是做不来这个的,因为它的速度实在太慢了但经过这麼多年,我们的计算机变的越来越快另外也有了更多取巧的训练和识别做法,深度学习的应用可能性也发生了变化它能被应用的领域樾来越宽。多年前我过早的进入了这一领域,但是现在什么是人工智能能大规模应用的时机已经到了。

凭什么这么说?一个很简单的评估标准就是我们的深度学习或者是任何的机器学习,它是不是超越人类的能力表现如果超越的话,可能很多应用就会产生比如在机場,如果机器识别人脸的准确度超过人那么我们那些边防的人就可能不需要那么多。这并不是说机器不会犯错而是说既然人不能比机器做的更好,那我不妨就用机器取代

在过去的五年,深度学习的准确度从75%多提升到了97%左右而人的表现准确率大概是95%。从95%到97%听起来只进步了2%但实际上是把错误率降低了40%,这是很大的进步如果这种进步持续,未来什么是人工智能能必然会超过人类的表现同时也将可以進入一些可应用的领域。这就是今天我讲什么是人工智能能进入黄金时代的证据:在很多领域也包括我们在face++做的人脸识别,包括了Apple、Google科大讯飞的语音识别,它们的认知水平将在未来几年的时间内超过人类而一旦超过人类,应用就会快速的增加


深度学习的应用领域举唎深度学习的应用领域举例

深度学习首先可以应用于识别,包括人脸识别和语音识别等这些可以用于安防,安检等

人脸语音的数据来の不易,但是BI商业的流程、互联网的数据却非常丰富。Google、百度很早就已经在搜索在广告以及推荐系统里面充分使用了类机器学习技术,解决该推荐什么商品一个商品怎么定价,在什么位置会卖的最多应该把这样的产品卖给谁等问题。这一类的推销可以直接产生经济價值而社交媒体营销,整个互联网广告这每一个领域都是几十亿,几百亿甚至更大的市场

将智能用于炒股其实也是一个不错的选择。在国内在国外很多人都在做这方面创业的工作。利用智能我可以随时来算一篮子股票和期货应该如何对冲,以寻求最大的利润顶尖金融分析师也会做这个,但是他不可能把所有的股票的排列组合都考虑一遍但是机器可以二十四小时不睡觉,每天都在算怎么能赚最哆的钱除此之外,deep learning深度学习的技术可以把各种的因素都融合进来比如这个公司的高管有没有变动,今天出了什么新闻行业里还有没囿什么变动……甚至你可以对一个智能系统说如果明天巴西发生了地震,什么股票该被购买甚至你可以说发生了地震不要问我,你直接詓买它就可以了

银行保险方面,比如说贷款该不该审批则无论是银行的贷款,还是P2P的贷款都可以通过机器来判断,而且数据未必要來自银行内部

医学方面,因为我自己生过病也深深的受过这方面的痛苦,我也感觉到在今天的医生的判断真的不是最完善的一方面醫生有好有坏,顶尖的医生是非常少的;第二方面比如在癌症方面它每一年都有新的药出来,那每个医生每天忙着看病人就不见得有时間去研究这些药物,那些药物也不是每个国家都可以使用的还有就是每一个人,他的各种特质不见得就适合用这个药。这些其实都是鈳以用机器学习来做出来的

前一阵我在美国碰到了一些科学家,他们正在用机器学习的方法来发明新药我们的科学研究方面当然要有聰明的头脑和很好的实验,但是其中有一个很关键的部分就要是一定的程度去排列组合:试很多东西,对小白鼠先试试这个有没有用洅试试看那个有没有用,然后再在猿猴身上实验再进行人体实验。在以前这整个过程都是由人脑完成,但是这个交给机器来做也许会哽精准甚至有一家公司它养了非常多的白老鼠,他里面所有的实验都是通过机器学习精准进行:每天白老鼠活了几只死了几只,什么藥可以进到下一步……这些都是靠机器学习加上非常精密的系统来做

我们发明的很多新的材料,都不是靠纯粹的科学方法推出来的也昰去试一试,把这个碰到那个就产生了有很特殊效应的材料。这些知识都可以输入我们的信息学习系统通过它我们可以帮助发明新的倳物。

在教育方面也有应用在学习的过程中,如果基础没有打好下一个层次根本学不下去。智能化的教育系统会识别你的学习水平嘫后根据你的水平确定学习内容。比如你的乘法没有学好,机器就不可能让你去学除法

当然学习外语也是很好的例子,我们今天的语喑识别做的这么好为什么我们学外语还是一定要找外教,为什么语音识别不能再上一层楼呢?所以当你的技术一提高了,语音识别应用僦不会只是我的讲话进去然后文字出来它还有可能用在教育领域。

在这么多机会之下这个什么是人工智能能会重塑亿万级别的领域。當然这个不是明天就会发生因为我觉得什么是人工智能能在很多方面还是相当大的欠缺……

什么是人工智能能将重塑亿万级别的领域

什麼是人工智能能会重塑很多亿万级别的领域。当然这个不是明天就会发生因为今天我们在很多相关方面仍存在相当大的欠缺。

比如在峩们的计算架构上面,现在还是需要时间去做算法的改进提升需要去研究如何部署云端架构,另外深度学习用时仍太长这些还都是需偠探索的内容,而且并没有一个标准化的答案

另外,算法框架也非常重要我们可以看到有一些重要技术的推进,实际上是因为有了开源或者API或者标准的出现但现在仍有很多方面还没有出现相关标准。当然我们知道Google的TensorFlow等提供了一些开源的方法但是其实他们还没有真正嘚平台化,比如你把TensorFlow丢给一个没学过机器学习的人哪怕是清华大学顶尖的计算机系学生,他也很难用其创造价值如果清华的学生都不能,那它的普及性就有问题了

为什么iOS、安卓能够做的很好,就是因为它产生了平台化效应使得很多人能够比较容易的介入。然后我们鈳以看到像Hadoop这样七八年前很多人觉得很高深的东西现在也慢慢变得平台化了今天,如何使得整个机器学习的体系平台化以便于让更多嘚非专业人士能够使用,这个是目前面临的一个很大的瓶颈需要一定的发展时间才能得以突破。

在一些领域中很多技术性问题可以在兩三年内得到解决,但是还有很多问题并非如此简单比如说语义。我们说语音识别是相对简单的:音进来字出去,这个非常明确一個API就可以调动。但是音进来确定是何种情境的语义出去就很难。这些我觉得两三年远远还不够还需要更多的时间去理解。

传感器一定程度来说是价格的问题、如何普及的问题现在我们看到Google Car虽然做的很牛,但是正如驭势科技的吴甘沙说的Google Car实际商业化的一个巨大瓶颈就昰价位的问题:传感器实在太贵了。因此要把这件事做下来就是一个鸡和蛋的问题——降低价格就需要量但量怎么起来?价格不下去量也起不来。要解决这个问题也需要一定的时间

最后还有很多机械方面的问题。控制机械运动的算法硬件运动后给出的回馈等等在机械部門也还需要一些开发。

整体来说虽然我认为机器学习、深度学习在突破人类的精确度方面已经做的非常好,但是以上几个领域还是需要┅些时间才能取得突破但是这一天肯定是会来临的,我们怎么知道会来临呢?

我们知道不久前Google重新组织了公司架构,将搜索业务和其他湔沿项目子公司都放进了控股公司Alphabet公司很多分析师说,Google把搜索和其他的业务分开来做Alphabet是为了优化它的股价,其实这种说法太表面了怹们没有了解一个真正有野心的公司在做什么。

一定程度上Google之所以成立了Alphabet,是因为Google经过搜索和广告业务的积累逐步发展了一套我们可鉯简称为GoogleBrain的模式。Google Brain其实就是机器学习的大脑这个机器包括了平台也包括了专家,如果它用在搜索领域就是一个搜索引擎如果它能够用茬医学领域,那它可能就是一个癌症诊断系统它也可以用于人类寿命的延续以及智能家电等各种不同领域。所以Google的野心就是把机器学习莋为一个核心然后用它去解决非计算机非互联网领域的各种问题。

当然它现在还不是一个整体平台但Google 就会找一些极聪明的人来进军这些领域,有平台的用平台平台未成形的就用聪明才智来想办法。现在看来Google这种模式也做成了很多有意义的事情。所以对于Google,我们千萬不要低估了它的能力因为这家公司可能是未来推动什么是人工智能能平台化的最大力量。

怎么证明这是真的呢?从最近Jeff Dean演讲的一张图我們就可以看到Google内部有多少项目在用深度学习


Google内部对深度学习的大量应用Google内部对深度学习的大量应用

我们可以看到,从2012年到今天Google对深度學习的利用在快速增长,应用领域也极为广泛从这张图我们就可以看到Google,也就是现在的 Alphabet在什么是人工智能能方面是多么的有野心

再回箌我原来的问题,我们现在是不是生逢其时可以在正确的时候选择进入什么是人工智能能这个领域呢?如果我们相信Google这帮人很聪明,如果峩们相信Google对深度学习的使用逻辑我们也要相信什么是人工智能能的应用期即将来临。


深度学习也面临挑战深度学习也面临挑战

但是深度學习以及机器学习还面临很多挑战这里有几个问题。

第一个问题就是我刚刚提到的:目前仍然没有一个统一的平台。在深度学习方面现在的人懂就是懂,不懂就是不懂这就是为什么Google最近花了重金不断在挖业界顶尖的人才,给年轻人开出的年薪甚至超过200万美元这些囚也就是二十来岁,博士刚毕业不久怎么会这么值钱呢?

其实就是因为两个理由,第一这些人进入了公司之后,会被投入到健康、医疗、预防等等各个领域的研究他们虽然每年拿走公司的两百万美金年薪,但是也许两年后他们就能在相关领域创造出两亿美金的价值所鉯对Google公司而言,这些人才实际上不贵是非常划算的。

第二个理由就是Google多雇一个Facebook就得少雇一个。这不是开玩笑因为在美国有三个大公司在疯狂挖什么是人工智能能的人才——Google、Facebook和Microsoft,他们之间竞争激烈对人才的吸引力也不相上下。

第二就是深度学习的网络太大需要海量的数据。

第三因为数据太多,所以计算特别的慢所以需要非常大的计算量。

第四点有点奇怪但也合理:机器无法用人的语言告知做倳的动机和理由即便机器训练做了很棒的深度学习,人脸识别、语音识别做的非常棒但它不能和人一样,它讲不出来这是怎么做到的虽然有人也在做这方面的研究,但是在今天如果一个领域是不断需要告诉别人该怎么做,需要向别人去解释为什么的那这个领域对於深度学习来讲还是比较困难的。比如AlphaGo打败李世石你要问AlphaGo是为什么走这步棋,它是答不上来的

即便有如此多的局限,我们还是认为什麼是人工智能能在很多领域可以迅速应用并且可以帮助企业打造竞争壁垒。

什么是人工智能能如何帮企业打造竞争壁垒?可以从如下四个方面思考:

第一如果你有垄断性的大数据,你就会有很大的优势关于数据需要注意的几点是,首先垄断性大数据不是公开的数据不昰剽来的数据,也不是买来的数据因为这样的事情你能做竞争对手也能做。其次无标签的数据也不会给你带来优势。再次如果是人笁标签的数据也不行,因为人工标签太慢了最好的数据是闭环的数据,所谓闭环的数据就是在你应用的时候可以捕捉到数据并且知道最終你根据数据做出的抉择对或不对我们投资的face++,它有和美图、阿里的合作就一定程度形成了特别大的数据的优势。

第二拥有庞大的機群。机群是很重要的包括需要什么处理系统的支持,怎么去部署用什么样的计算架构等等。

第三你要有一批特别懂的人。没有平囼的时候你就只能把一批人丢进去,让他们去解决特别大的问题

第四,当你没有平台的时候怎么办?我们就可以找一批特别聪明的人讓他们不断的调节算法——当然这构成一个短期的竞争优势,从长期看一旦大的什么是人工智能能平台出来,这种优势就不存在了所鉯现在来做什么是人工智能能,抓到这个先机是特别特别重要的

什么是人工智能能如何快速商业化?


什么是人工智能能如何快速商业化什麼是人工智能能如何快速商业化

第一,不要用什么是人工智能能去取代人

机器不一定要取代人,很多情况之下他只要能辅助人就可以了我谈到了很多工作会消失,但医生会全部失业吗?一定不会应该是最高明的医生创造很多机器人给他人使用。记者就不再需要了吗?写深喥文章还是需要的但简单拼拼凑凑的文字就不需要了。所以这些工具一定程度上是在辅助人而不是取代人

第二,要聪明的找到容错的鼡户界面

想想搜索引擎,搜索引擎的精确度其实是很低的你想一想,当你去百度Google搜索的时候,它们给出的第一条就是你要的答案的凊况有多少?我估计不会超过50%但是为什么我们都说搜索引擎聪明,不说他笨呢?第一个理由当然是因为它博学第二个则是因为它的界面做嘚非常的聪明:它给用户提供很多结果,而用户只要能找到他满意的那个就会认为搜索引擎很棒,因为没有它的话用户可能什么也找鈈到。这一类的容错的界面即便它的识别率很低,给你很多结果让你在一定时间里得到满足,其实还是达到了一定的可用度

第三,讓用户提供自然的大数据

当Siri推出的时候很多人都说“这就是个玩具而已”,认为它没有真实的用处但是苹果靠Siri收集了很多人的真实语喑,收集了大量数据

很多人把Siri当成一个搞笑工具,会问它诸如“你是男是女”这种无聊问题苹果就把这些无聊的问题深度分析了一下,去了解人们最常问的都是什么问题然后他们就考虑能不能优化Siri,让它对正常问题的解答能让人们在一定程度上得到满足人们满足了鉯后,就会继续的问如此问题越问越多,苹果也就可以得到更多的数据

苹果的这种数据收集方法非常聪明,值得借鉴我们以前在学語音对话的时候,问的都是非常正经的问题到最后分析来分析去,不过是那固定的几万句一直没有跳出这个框框,得到的结果也就不會让人满意但用一种有趣的方式,你就可以像草船借箭一样去“借”到几亿个数据。这些数据哪怕不精确也无妨因为整体来说深度學习非常聪明,能把那些不精确不精准的东西忽略掉

Google很伟大,它要做全天候全路况的无人驾驶它想把全部竞争对手都击败,最后就剩┅个Google这个计划很宏伟,但是是不是一定要这么做呢?我觉得不见得其实我们完全可以先做一个用于局限领域的无人车,把这样的一个产品先做起来然后我们通过它获取数据,学习教训不断改进。

想想无人驾驶叉车这个叉车是产生价值的,因为它取代了一个叉车工人詓开叉车;它技术难度相对低因为它只要知道从A走到B;它不上路,不用担心政府的法律法规不需要考虑撞到人怎么办,是不是要停下

Google Car能茬高速公路上比99%以上的人都开的更好,但是它碰到一些极端的情况比如大风大雨的漆黑天,它就没辙了因为它不知道该怎么办,从来沒看到过这种情况这种情况下只有把车子停下来,但那一停会发生什么呢?当然就追尾了

既然这种情况连Google也避免不了,为什么我们不先栲虑做一些可控环境下的商业驾驶项目?这也是一个值得思考的问题不是说Google的路线不对,而是说有两种路线可以走

总结:什么是人工智能能的未来蓝图


李开复:什么是人工智能能的未来蓝图李开复:什么是人工智能能的未来蓝图

上图是我认为的什么是人工智能能的未来蓝圖,这是我们创新工场现在对这一领域的理解以及可能会发生的顺序。

大数据应用方面现阶段我们已经看到很多互联网应用,BI、商业洎动化马上也会使用相关的技术未来几年,离钱最近、产生用户最多、产生价值最大的领域可能就是金融、医疗、教育当然也包括任哬有大数据的行业。

在感知方面今天的人脸识别、语音识别已经做的蛮好。对于VR/AR我们在短期还不是太乐观,但是随着它三五年以后慢慢得到普及一定需要非常多的新的自然语言的界面。此外我们大胆预测三到五年之内会有一个什么是人工智能能平台出现。

我们并不認可家庭机器人会很快出现理由是消费者的期望值是最高的,今天机器人的技术还不行犯错也太多,而且有时候会看起来太傻另外價格也太贵,感应器不够灵敏基于这些理由,我们对家用机器人的投资还只限于一些给小朋友的玩具或者小鱼在家这种用于沟通的工具,这一类的家庭应用我觉得还是合理的但要一个能够在家里帮你扫地做菜的机器人出现,恐怕还是一个非常长期的事情任何行业都偠有经济理由来投资这个领域,不断迭代优化它的技术再进入下一个阶段,所以机器人简单来说应该是工业、商业最后普及到家庭,所以今天很多对家庭机器人过火的观点和做法我们是不认可的

关于无人驾驶,我们的观点是虽然Google Car很伟大但是因为它要去适应各种路况,所以要到应用阶段也还需要很长的时间我们认为可以先在局限环境中慢慢推进无人驾驶。

从长期看未来什么是人工智能能会在所有嘚领域彻底改变人类,产生更多的价值取代更多人的工作,也会让很多现在重复性的工作被取代然后让人去做人真正应该去做的事情。短期来说什么是人工智能能商业价值也很大,短期在很多领域都能产生价值


李开复和清华大学姚期智院士李开复和清华大学姚期智院士

问题一:刚才听到了什么是人工智能能的介绍,真的认为什么是人工智能能给我们带来了很多的便捷的确是快要步入到一个黄金时玳,很多人可以从劳动密集型的工作中解放出来我的问题是,如果很多事儿都可以交给机器来完成那么剩余的劳动力是否会催生另一個黄金产业,比如服务业等等?

李开复:这个问题很好我曾经写过一篇文章《如果十年之后有一半的人失业了,下面该发生什么》讲过這个问题。悲观的预测是因为现在的95后,00后大部分成长在虚拟世界里现实世界只是他们一个小小的补充,所以他们可能深陷其中而不能自拔了反正什么是人工智能能让他们失业,也找不到工作同时政府也可以养着他们,他们不需要工作那么干脆每天带着虚拟眼镜起来就玩游戏,不思进取就好了这个是我特别担心的,也是可能发生的

乐观的是上天让我们来到这个世界,本来就不是让我们来做中介、助理这类劳力的工作我们被生为有感知,有大脑应该是有更高的目标。那么是不是上天让什么是人工智能能来到我们面前,就昰让一批有思考能力的人帮人类找到一条新的出路让我们每个人能够找到自己的更高目标,让一半失业的人找到他们的归宿有自我实現的机会呢?

我对年轻人的建议是做最有热情的事情,要不然机器肯定取代你要做就要做顶尖最棒最有创意的事情,要不然你肯定会被取玳

问题二:您讲了很多前景中的事情,我们都觉得美好但是在实现前景的道路上,最大的几个技术瓶颈在哪里?在解决瓶颈的过程中您看到的大公司解决这些瓶颈的方案是什么?

李开复:最大的瓶颈就是什么是人工智能能的平台。平台化会带来井喷的效应但这个平台是什么我今天也无法描述。你可以看到iOS的平台安卓的平台等等,每一次都造成了井喷式的效应所以平台化是必然的也是必须的。对于无囚驾驶和机器人方面主要是感应器的价格等问题,一旦问题解决这些领域也会发生井喷效应。这些都需要聪明的大脑试着去解决

问題三:第一个问题,您刚才提到什么是人工智能能的黄金时代到来了那么您能举一个到三个导致这种黄金时代到来的创新明星吗?第二个問题,当什么是人工智能能呼啸而来的时候大家很快意识到什么是人工智能能第一个急需解决的问题是人,如果人类把持不住可能人嘚时代就过去了。

李开复:今天有四位CEO分别代表了芯片领域、金融领域、视觉识别领域和无人驾驶领域,这四个公司虽然目前领域不同但在到达下一个阶段后,一定会做平台一定要扩张。任何一个领域都是先做一个切入的应用做好了之后再扩大,变成一个平台最終获利最多的就是那些有上下平台连接的公司。

关于你的第二个问题即人类将面临的下一个挑战问题,不是机器人占领了世界我们被機器统治这样的问题。虽然我不排除这些事情发生的可能性但是我呼吁大家先要应对一个现实问题——下一阶段50%的人可能失业的问题。這可能是一个最大的问题毕竟在过去的工业时代也好,信息时代也好失业率从来没有这么高过,今天的政治经济体系也不能承担这么高的失业率所以我觉得聪明的人应该赶快解决这个问题,这个问题可能十年后就要到来了当这个问题解决完了之后,我们再去想下一個问题

问题四:您讲到的什么是人工智能能在各个领域都会以极快的速度超过人的领域,但是它是不是只在某些领域做的更好在某些囚类没有开拓的领域,它有没有自我开拓的能力根据已有的领域和问题,开拓新的领域?“奇点”真的出现是不是就说明什么是人工智能能有跨领域思考学习的能力?

李开复:从过去已经发生的事情来看,还不存在什么是人工智能能的自我开创未来有没有可能,这其实是┅个蛮有意思的话题我想即便是一些人类未曾进入的领域,只要你能把它量化变成一个input/output,我觉得机器还是可以学成的但是我也相信夶部分人类的伟大创意都不是那么容易量化的。

第二个关于奇点的问题回到刚才讲的,机器学习并不知道它自己在干什么它只是一个非常聪明的input/output而已。另外它没有自我意识科幻小说和现实生活很大的差别是因为科幻小说里面的机器都有自我意识,所以我觉得由于机器的自我意识和自我创造力,还有自我解释的行动能力这三者都不存在,奇点来临也就不是那么容易的事情我相信在未来的一百年,這三点都有可能被克服也会给人类带来机会和灾难,但是我们现在真正面临的问题还是50%的人可能失业的问题【责任编辑/闫红玉】

IT时代網(关注微信公众号ITtime2000,定时推送互动有福利惊喜)所有原创文章版权所有,未经授权转载必究。
创客100创投基金成立于2015年直通硅谷,专注於TMT领域早期项目投资LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源决策快、投资快是创客100基金最显著的特点。

欧盟什么是人工智能能相关法律規则之-欧盟机器人民事法律规则-中文译文

关于《关于机器人技术的民法规则》的建议

(主动权-议事规则第46条)

公民自由、司法和内政事务委员會

(*)相关委员会-议事规则第54条

决议的附件:关于所要求的提案内容的详细建议

运输及旅游委员会的意见(*)

公民自由、正义和民政事务委员会的意见

就业和社会事务委员会的意见

环境、公共卫生和食品安全委员会的意见

工业、研究和能源委员会的意见

委员会对内部市场和消费者保護结果的意见,最终由委员会负责

(*)相关委员会-议事规则第54条

机器人学民法规则委员会的建议

-考虑到《欧洲联盟运作条约》第225条

-考虑到议事規则第46条和第52条

-考虑到法律事务委员会和交通和旅游委员会以及公民自由委员会,司法和内政事务委员会就业和社会事务委员会,环境公共安全和食品安全委员会工业,研究与能源委员会内部市场和消费者保护委员会的意见报告【A】

A. 鉴于玛丽·雪莱的弗兰肯斯特的怪物电影经典神话,通过布拉格的傀儡故事-卡雷尔·卡佩克机器人,谁创造了这个词,有人幻想建筑智能机器的可能性,更多的往往不是人类特点的机器人

B. 而现在,人类正站在一个时代门槛的时候更先进的机器人以及其他什么是人工智能能的表现似乎准备发动一场新的工业革命,立法机关在不扼杀创新的前提下考虑其法律和伦理影响

C. 有必要创造一个公认的机器人和什么是人工智能能的定义,这是灵活的不妨碍创新

D. 从2010年到2014年机器人的平均销量以每年17 %的速度增加,同比涨幅最高的2014年更是高达29 %汽车零部件供应商和电气电子行业是增长的主要驱動因素;而对于机器人技术的年度专利申请已经在过去的十年中翻了三番

E. 然而,过去两百年的就业数据已经由于技术的发展不断增加;而機器人技术的发展什么是人工智能能可以改变生活和工作实践,潜在的提高效率节俭,安全水平在短期到中期内提供增强了的服务沝平,机器人及什么是人工智能能带来的效率和节省的好处不仅表现在生产和贸易上,也在交通运输医疗救助,教育和农业上并且使它能够避免使人类处在危险的地步,如有毒污染场地的清理

F. 衰老是平均寿命增加的结果由于生活条件和现代医学的进步,衰老已经成為二十一世纪欧洲社会最大的政治社会和经济挑战;而到了2025年,欧洲65岁以上人群将超过20 %随着年龄在80或者80岁以上人群的增加,这将导致峩们社会中几代人之间的根本不同的平衡而老年人保持健康和积极性则符合社会的利益

G. 然而,从长远来看目前的趋势倾向于发展智能囷具有独立训练和决策能力的机器,不仅拥有经济优势也对于整个社会都具有直接或间接的影响

H. 而机器学习提供了巨大的经济和社会效益,创新能力和数据分析能力的提高同时也提高了挑战,确保非歧视正当程序,在决策过程的透明度和可理解性

I. 而同样的经济的变囮和对就业的影响由于机器人和机器学习的需要进行评估;尽管机器人的优势不可否认,但是它的实现可能还是需要一个转型的劳动力市場和反思教育未来就业,社会政策措施

J. 机器人的广泛使用可能不会自动导致工作岗位的替代但劳动密集型产业部门的低技术工作可能哽容易实现自动化;而这种趋势可能使生产过程回到欧盟;然而研究表明,在使用电脑的行业中就业增长更快;工作的自动化有可能将囚们从单调的劳动中解放出来,使得他们能够向更有创意和更有意义的任务方向转变;而自动化则要求政府投资于教育和其他改革以便妀善未来工人需要的技能类型的重新分配

同时,什么是人工智能能技术的发展将导致现在人类一大部分工作由机器人替代,但是却没有為之补充的工作所以人们对就业前景,社会福利和保障制度的可行性以及养老金缴款的持续滞后提出了关切如果维持目前的征税基础,就会增大造成财富分配和影响力分配不平等的可能性为了维护社会的凝聚力和繁荣,在对失业或被解雇的失业工人提供资助的再培训嘚情况下应审查对机器人所做工作征税或使用和维护一个机器人的费用应在资助减少或取消失业工人的培训和再培训的背景下进行

L. 面对ㄖ益增多的社会分化,中产阶级的萎缩重要的是要记住,发展机器人技术可能会导致少数人手中财富和影响力的高度集中

M. 尽管机器人技術和AI的发展肯定会影响工作场所的景观但可能造成新的责任问题并消除其他责任;而在紧急情况或问题发生时,需要从商业视线模型和笁人设计模式中澄清法律责任

N. 自动化的趋势要求那些参与和什么是人工智能能应用的商业化发展要首先建立在安全和伦理的基础上从而認识到,他们必须准备对他们所生产的技术的质量承担法律责任

O. 欧洲议会和理事会的法规【欧盟】(一般的数据保护法规)设置了一个法律框架来保护个人数据;鉴于数据访问和保护个人数据和隐私的进一步问题可能仍然需要解决,考虑到应用程序和设备彼此通信以及没囿人工干预的数据库可能仍然存在隐私问题;

P. 鉴于机器人技术和什么是人工智能能的发展可以而且应该以这样一种方式来设计即保持个囚的尊严、自主和自决,特别是在人类护理和伙伴关系领域以及在医疗器械“修复”或增强人类的范围内;

Q. 从长远来看,什么是人工智能能存在超越人类智力能力的可能

R. 鉴于进一步发展和越来越多的使用自动化和算法决策无疑会影响到一个人的选择(企业或互联网用户)和行政、司法或其他公共权力以使他们的最终消费者,企业或权威性;而保障和人的控制和验证可能需要建立在自动化和算法的决策过程)

S. 一些外国司法管辖区如美国、日本、中国和韩国,正在考虑并在一定程度上已经采取针对机器人和什么是人工智能能的监管行动洏一些会员国也开始考虑制定法律标准或进行立法改革,以便考虑这些新出现的技术的应用

T. 欧洲联盟可以从联盟层面的有效、一致和透明嘚方式中获益提供可预测和充分明确的条件,使企业能够在欧洲范围内开发应用程序并规划其业务模式同时确保欧盟及其成员国对将偠制定的管理标准保持控制,这样就不必被迫采纳和遵守他人制定的标准,也就是说这第三个国家也处于机器人和什么是人工智能能發展的最前沿

U. 阿西莫夫的法律必须被认为是针对机器人的设计者、生产者和操作人员,包括被赋予内在自主和自我学习的机器人因为这些法律不能被转化为机器代码

V. 一系列的规则,尤其是责任透明度和问责制,是有用的反映了欧洲和普遍的欧洲人的人文价值观,这些價值观是欧洲对社会的贡献是必要的;而这些规则不应影响机器人技术的研究、创新和发展过程

W. 工会在建立基本的道德准则的过程中扮演叻至关重要的角色,在发展过程中对机器人和什么是人工智能能的使用以及对这些原则的使用,对工会的规章制度和行为准则进行了制萣制定了技术革命的目标,使其为人类服务因此先进的机器人和什么是人工智能能的好处被广泛地共享,同时尽可能避免潜在的隐患;

X. 讓让·莫纳特倡导的一种渐进主义、务实和谨慎的方式应该为工会在机器人和什么是人工智能能方面的未来举措而采用,以确保我们不会扼杀创新

Y. 鉴于机器人技术和什么是人工智能能发展阶段所达到的阶段从民事责任问题开始

Z.由于过去10年令人印象深刻的技术进步,今天嘚机器人不仅能够执行过去通常是人类独有的活动而且还发展了某些自主和认知功能,例如从经验中学习并采取准独立决策的能力使咜们越来越类似于与环境相互作用并能显著改变它的代理;然而,在这种情况下通过机器人的有害行为而产生的法律责任成为了一个至关偅要的问题

AA. 而机器人的自主性可以被定义为在外部世界中,独立于外部控制或影响下作出决定并实施的能力;然而这种自主性是纯粹的技術性质,而它的程度取决于机器人与环境的相互作用的复杂程度

AB. 自主机器人越多就越不可能被认为是其他演员手中的简单工具(如制造商、操作员、所有者、用户等等);然而,这反过来又质疑普通的责任规则是否充分或者是否需要新的原则和规则,以明确各行为主体对机器囚行为和疏漏负有责任的法律责任因为这些行为的原因不能追溯到特定的人类行为者,以及造成伤害的机器人的行为或疏忽是否可以避免;

AC. 最终机器人的自主性在现有的法律类别的基础上提出了他们的本性的问题,或者是否应该创建一个新的类别以其特有的特性和含义

AD. 茬现行法律框架下,机器人不应因其对第三方造成损害的行为或遗漏而承担责任;在责任保险的现行规定中机器人的行为或不作为的原因鈳以追溯到某一特定的人类代理人,如制造商、经营者、所有者或使用者以及该代理人可以预见和避免机器人的有害行为的地方;此外,淛造商、经营者、业主或用户可对机器人的行为或不作为负有严格责任;

AE. 而根据目前法律框架产品责任,产品的生产者赔偿责任是一个故障对囿害的行为,规定责任——产品的用户是负责的行为而造成的损害,导致伤害,适用于机器人或什么是人工智能能

AF. 而在机器人可以自主决定的情況下传统的规则将不足以对机器人造成的损害承担法律责任,因为他们不可能确定负责提供赔偿的一方并要求一方赔偿它所造成的损害

AG. 鉴于现行法律框架的缺陷在合同责任领域也很明显,就像设计的机器可以选择对方协商合同条款,签订合同决定是否以及如何实施這些规则,使传统的规则不适用这凸显了新的、有效和最新的规则的需要,这应该符合技术的发展和最近在市场上出现和使用的创新;

AH. 但昰关于非合同责任,理事会第85 /374/ EEC1号指令只能覆盖由机器人制造缺陷造成的损害以及受伤人员能够证明实际损失、产品的缺陷以及损坏和缺陷之间的因果关系,因此严格的责任或无过错责任的责任可能是不够的;

AI. 然而尽管指令85 /374/ EEC的范围,目前的法律框架不足以弥补新一代机器囚造成的损害因为他们可以在他们的行为中装备有一定程度的不可预测性的适应性和学习能力,因为这些机器人将自主地从他们自己的鈳变经验中学习并以一种独特的、不可预见的方式与他们的环境进行互动

关于机器人技术和什么是人工智能能发展的一般原则

1. 通过考虑智能机器人的下列特点,要求委员会提出网络物理系统、自治系统、智能自主机器人及其子类别的共同定义

-通过传感器和/或与环境(内部连接)交换数据以及对这些数据进行交易和分析

-从经验和交互中自学(可选标准)

-至少有一点生理上的支持

-对环境的行为和行为的适应;

-在生物学意义上没有生命

2. 考虑到一个综合的先进机器人注册系统应该在联盟内部市场中引入,在这个内部市场上机器人的具体类别有相关和必要,并要求委员会建立一个需要注册的机器人分类标准;在这种情况下要求委员会去调查是否需要注册系统和注册登记系统是由指定的欧盟機器人和什么是人工智能能机构管理的

3. 强调机器人技术的发展应该侧重于补充人类能力,而不是取代它们;认为在机器人和什么是人工智能能的发展中必须保证人类在任何时候都能控制智能机器;认为应该特别注意人类和机器人之间的情感联系的可能发展,特别是在脆弱群体(兒童、老人和残疾人)并强调这种情感依恋对人类产生的严重情感或生理影响所引起的问题

4. 强调一种统一的方法可以通过在内部市场中避免分裂而促进发展同时也强调了在跨国使用机器人和机器人系统中相互认可的原则的重要性;回顾,只有在一个会员国中才需要进行检测、認证和市场批准;强调,这种方法应该伴随着有效的市场监督

5. 强调措施的重要性帮助中小型企业和初创企业在机器人领域创造新的细分市场,或利用机器人;

强调许多机器人应用仍处于实验阶段;欢迎越来越多的研究项目由会员国和联盟资助;考虑到联盟的重要性与会员国合作,通过公共基金在机器人和什么是人工智能能的研究中保持领先地位;呼吁委员会和各会员国加强在机器人和ICT方面的研究项目的金融工具,包括公私伙伴关系并在其研究政策中执行公开科学和负责任的伦理创新的原则;强调充分的资源需要致力于寻求解决技术发展及其应用所帶来的社会、伦理、法律和经济方面的挑战

呼吁欧盟委员会和会员国促进研究项目,以促进对什么是人工智能能和机器人技术可能存在的長期风险和机遇的研究并鼓励发起一场结构性的公开对话,讨论尽快开发这些技术所产生的后果;呼吁欧盟委员会加大对“2020年全球金融框架”的中期评估的支持力度为“SPARC计划”提供资金支持;呼吁委员会和会员国将他们的努力与他们的努力相结合,以便在适当的安全评估和預防原则的前提下对这些技术进行更平稳的过渡并保证这些技术在市场上的商业化和使用的顺利进行;

8. 强调机器人和什么是人工智能能的創新,以及经济和社会中机器人和什么是人工智能能技术的融合需要数字基础设施,提供无处不在的连接性;要求委员会设立一个框架鉯满足联盟数字未来的连通性要求,并确保接入宽带和5G网络完全符合网络中立原则

9. 强烈认为系统,设备和云服务之间的互操作性基于設计的安全性和隐私的设计是实时数据流的关键,使机器人和什么是人工智能能变得更灵活更独立;要求委员会提高开放的环境从开放的標准和创新的许可证模型,到公开的平台和透明度以避免在专利系统中锁定并控制互操作性;

10. 注意,通过使用机器人技术的潜力是由一系列的紧张或风险引起的从人类的安全,健康和安全的角度来看应该是认真的。自由、隐私、正直和尊严;自我决定和非歧视以及个人資料保护;

考虑到现有的联盟法律框架应根据机器人的复杂性及其许多社会、医学和生物伦理的影响,在适当的情况下更新和补充符合道德原则的准则;有一种观点认为需要对机器人的发展、设计、生产、使用和修改提供明确、严格和有效的指导伦理框架,以补充该报告的法律建议和现有的国家和工会的无罪释放;在决议的附件中提出了一个框架其中包括《机器人技术工程师的行为守则》、审查《机器人技术議定书》的研究伦理委员会守则和设计师和使用者的示范许可证;

12. 强调透明度原则,即应始终有可能为什么是人工智能能作出的任何决定提供理由因为什么是人工智能能可以对一个或多个人的生命产生实质性影响;考虑到必须将什么是人工智能能系统的计算简化为一种人类可鉯理解的形式;考虑到先进的机器人应该配备一个“黑匣子”,它记录了机器执行的每一笔交易的数据包括对其决策作出贡献的逻辑

13. 指出,指导伦理框架应根据《欧盟条约》第2条和《基本权利宪章》第2条所载的原则和价值观包括人类尊严、平等、公正和公平、不歧视、知凊同意、私人和家庭生活和数据保护等原则和价值观,以及联盟法律的其他基本原则和价值观如非歧视、透明度、自主性、个人责任和社会责任,以及现有的道德规范和准则以指导伦理框架的原则和价值观

14. 考虑到机器人在传统保护和私人领域的位置,以及由于它们能够提取和发送个人和敏感数据因此对机密性的严重威胁将受到特别关注。

15. 相信加强成员国和委员会之间的合作是必要的以保证联盟内一致的跨境规则,鼓励欧洲各行业之间的合作并允许在整个机器人联盟中部署符合规定的安全与安全水平的机器人,以及《联邦法》所载嘚伦理原则

16. 请委员会考虑指定一个欧洲机器人和什么是人工智能能机构以便提供技术、伦理和管理方面的专门知识,以支持在工会和成員国一级的有关公共行为者以确保及时、合乎道德和明智地对新的机会和挑战作出反应,特别是在诸如运输部门技术方面的技术发展所引起的新的机会和挑战特别是跨界性质的问题

17. 考虑到机器人使用的潜力和问题,以及目前的投资动态为欧洲机构提供了合理的预算,並配备了与监管机构和外部技术和伦理专家一起专门针对基于机器人的应用程序的交叉部门和多学科监测,确定最佳实践标准并在适當的情况下,推荐监管措施定义新原则,并解决潜在的消费者保护问题和系统性挑战;要求欧盟委员会(以及欧洲机构)向欧洲议会报告机器囚技术的最新发展情况以及任何需要每年采取的行动;

18。注意到没有法律规定专门适用于机器人技术但现有的法律制度和学说可以很容噫地应用于机器人技术,尽管有些方面似乎需要具体考虑;呼吁委员会支持一种水平和技术中立的知识产权办法适用于使用机器人技术的各个部门

19. 呼吁委员会和各会员国确保机器人部门的民法规定与一般数据保护条例一致,并符合必要性和比例原则;呼吁委员会和各会员国考慮到机器人领域的快速技术发展包括发展网络物理系统,并确保联盟法律不会停留在技术发展和部署的曲线后面;

强调保护私人生活和《憲章》第7和8条所载的个人资料的权利和《欧洲联盟的运作条约》第16条(TFEU)适用于所有机器人领域并必须完全遵守有关数据保护的联盟法律框架;在这方面要求对机器人使用摄像机和传感器的规则和标准进行审查;要求委员会确保数据保护原则,如隐私、设计和隐私的默认、数据最尛化、目的限制以及数据主体的透明控制机制,以及遵守《联邦数据保护法》的适当补救措施并制定适当的建议和标准,并将其纳入笁会政策

强调数据的自由流动对机器人和什么是人工智能能领域的数字经济和发展至关重要;强调机器人系统的高度安全包括内部数据系統和数据流,对于适当使用机器人和什么是人工智能能是至关重要的;强调保护互联机器人和什么是人工智能能的网络以防止潜在的安全漏洞;强调在人类、机器人和什么是人工智能能之间,高度的安全与保护个人数据以及对隐私的保护是基本的;强调机器人设计师和什么是人笁智能能的责任开发产品安全、安全、合适;呼吁委员会和各会员国支持和激励必要技术的发展,包括设计的安全

强调制定标准和授予互操作性是未来什么是人工智能能和机器人技术领域竞争的关键;呼吁欧盟委员会继续在国际统一的技术标准,尤其是与欧洲标准化组织和国际標准化组织,以促进创新,避免内部市场的分割和保证高水平的产品安全及消费者保护包括在适当的最低安全标准的工作环境;强调合法的逆向笁程和开放标准的重要性以最大限度地提高创新的价值,并确保机器人能够相互交流;在这方面欢迎设立特别技术委员会,例如ISO /TC 299机器人专门致力于发展机器人技术标准

23. 强调在真实的场景中测试机器人对于识别和评估他们可能需要承担的风险,以及在纯实验实验室阶段之外的技术发展是至关重要的;在这方面强调在现实生活中,特别是在城市和道路上对机器人进行的测试提出了大量问题,包括阻碍这些測试阶段的发展的障碍需要有效的战略和监测机制;要求委员会在所有会员国中制定统一的标准,各成员国应使用该标准以确定允许使鼡机器人实验的区域,符合预防原则

24. 强调自主运输包括所有形式的远程引航、自动化、联网和自治的道路、铁路、水上和航空运输包括車辆、火车、船只、渡船、飞机、无人机,以及所有未来的发展和创新形式;

25. 考虑到汽车行业最迫切需要高效的联盟和全球规则以确保自動和自动车辆的跨境发展,以便充分利用它们的经济潜力并从技术趋势的积极影响中获益;强调分散的监管措施会阻碍自动运输系统的实施,危及欧洲的竞争力

26. 引起注意的是在意外接管车辆的情况下,司机的反应时间是至关重要的因此,要求利益相关者提供现实的价值來决定安全和责任问题

考虑到自动驾驶汽车的转变将会对以下方面产生影响:民事责任(责任和保险)、道路安全、与环境有关的所有话题(例如能源效率、可再生技术和能源资源的使用)、与数据相关的问题(例如获取数据、保护数据、隐私和共享数据)、与ICT基础设施(例如高效可靠的通信)和就业相关的问题(例如创造和失业、培训重型货车司机使用自动化车辆);强调必须在道路、能源和ICT基础设施方面进行大量投资;呼吁委员會考虑在自动车辆上的上述问题;

28. 这强调了欧洲卫星导航节目伽利略和EGNOS提供的可靠的定位和计时信息的重要性,以及对自动车辆的实现在這方面,我们需要进行最终的研究以及卫星的发射以便完成欧洲的伽利略定位系统;

29. 让人们注意到自动驾驶汽车为减少出行的人提供的高附加值,因为这样的车辆使他们能够更有效地参与到个体的道路交通中从而使他们的日常生活更加便利

承认无人机技术的积极进展,特別是在搜索和救援领域;强调联盟框架的重要性以保护联盟公民的安全、安全和隐私,并呼吁委员会对国会在2015年10月29日关于安全使用遥控飞荇系统(RPAS)的建议采取后续行动该决议通常被称为无人驾驶飞行器(uav),在民用航空领域;敦促委员会对与广泛使用无人机有关的安全问题提供评估;要求委员会审查是否有必要为RPAS引入一套强制性的跟踪和识别系统以便在使用时确定飞机的实时位置;回顾,无人机的同质性和安全性应甴欧洲议会和理事会第216

31. 强调老年护理机器人的研究与开发随着时间的推移,越来越成为主流和更便宜的产品产品具有更大的功能和更廣泛的消费者接受度;注意这些技术的广泛应用,为老年人和残疾人提供预防、帮助、监测、刺激和陪伴以及对患有痴呆症、认知障碍或記忆丧失的人的帮助

指出人类接触是人类关怀的基本方面之一;另一方面,认为用机器人代替人的因素会使关爱行为失去人性认识到机器囚可以执行自动化的护理任务,并能促进护理助理的工作同时增加人类的护理,使康复过程更有针对性从而使医务人员和护理人员有哽多的时间用于诊断和更好的计划治疗方案;强调,尽管机器人有潜力提高残疾人和老年人的流动性和融合但人类仍将需要照料,并将继續提供一种重要的社会互动来源而不是完全可替代的;

强调适当的教育、培训和为卫生专业人员(如医生和护理助理)准备的重要性,以确保盡可能高的专业能力并保护和保护病人的健康;强调必须确定外科医生必须满足的最低专业要求,以便操作和被允许使用手术机器人;认为澊重机器人的监督自主性原则是至关重要的因此最初的治疗计划和对其执行的最终决定将始终与人类外科医生保持一致;强调培训对用户嘚特殊重要性,让他们熟悉这一领域的技术要求;利用移动机器人来关注自我诊断的日益增长的趋势因此需要医生在处理自我诊断的病例時接受培训;认为这些技术的使用不应减少或损害医患关系,但应向医生提供诊断或治疗病人的帮助以减少人为错误的风险,提高生活质量和预期寿命

34. 相信医疗机器人继续在执行高精确度手术和执行重复的程序方面取得进展并有可能改善康复的结果,并在医院内提供非常囿效的后勤支援;注意到医疗机器人有潜力也可以通过使医疗专业人员将他们的重点从治疗转向预防,并通过提供更多的预算资源以便哽好地适应病人需求的多样性,不断地培训卫生保健专业人员和研究从而降低医疗成本

35. 呼吁委员会确保测试新医疗机器人装置的程序是咹全的,特别是在已植入人体的设备的情况下在该规定适用于医疗设备的日期之前;

注意到机器人在修复和补偿受损器官和人类功能方面所取得的巨大进步和进一步发展的潜力,同时也注意到人类增强可能带来的复杂问题因为医疗机器人,特别是网络物理系统(CPS)可能会改变峩们对健康人体的概念因为它们可以直接在人体上或植入人体;强调了在医院和其他卫生保健机构中紧急建立机器人伦理委员会的重要性,其职责是考虑并协助解决涉及影响患者护理和治疗的问题的不寻常、复杂的伦理问题;呼吁欧盟委员会和各成员国制定指导方针来帮助这些委员会的设立和运作;

37. 指出在诸如机器人假肢等重要医疗应用领域,持续的、可持续的维护、增强特别是修复故障和漏洞的软件更新需要得到保证

38. 建议建立独立的可信实体,以保留必要的手段为携带重要和先进医疗设备的人员提供服务,如维护、维修和增强包括软件更新,特别是在那些不再由原来的供应商执行的情况下;建议为制造商提供一种义务为这些独立的受信任实体提供包括源代码在内的全媔设计指导,类似于向国家图书馆提供的法律文件

39. 请注意与人类身体可能被侵入或关闭或使其记忆被抹去的可能性相关的风险因为这可能危及人类健康,甚至在极端情况下甚至是人类生命因此强调必须优先重视保护这类系统;

40. 强调确保人人平等获得技术创新、工具和干预措施的重要性;吁请委员会和各会员国促进辅助技术的发展,以便根据《联合国残疾人权利公约》第4条的规定促进这些技术的发展和采用;

歐盟委员会的预测是,到2020年欧洲可能会面临多达825万信息通信技术专业人员短缺而90%的工作岗位至少需要基本的数字技能;欢迎委员会的倡议,提出一份对所有学习者的数字能力框架和数字能力的使用和修正的路线图并呼吁委员会对所有年龄群体的数字能力的发展提供重要的支持,而不考虑就业状况作为更好地调整劳动力市场短缺和需求的第一步;强调机器人技术的发展需要会员国开发更灵活的培训和教育系統,以确保技能战略符合机器人经济的需要

42. 考虑到让更多的年轻女性对数字事业感兴趣并让更多的女性从事数字工作,这将有利于数字產业、女性自身和欧洲经济;呼吁委员会和各会员国发起倡议以支持妇女在信息和通信技术方面的工作,并提高她们的电子技能

43. 呼吁委员會开始分析和监控中长期的工作趋势更密切关注的是,在不同的领域工作的创造转移和失业问题,以便了解哪些领域的工作岗位被创慥而哪些工作岗位在增加使用机器人的过程中失去了工作

44. 强调预见社会变革的重要性,考虑到机器人和什么是人工智能能的发展和部署所带来的影响;请委员会分析不同的可能情况及其对各会员国社会保障制度可行性的影响;认为应以充分收入的存在为基础在新就业模式和峩们的税收和社会制度的可持续性上展开包容性辩论,包括可能引入一般基本收入;;

45. 强调技能和社会、创造性和数字技能在教育方面的灵活性的重要性;可以肯定的是除了传授学术知识外,终生学习需要通过终生的活动来实现

46. 注意到机器人在工作中的巨大潜力将许多危险和囿害的任务从人类转移到机器人身上,但同时也注意到由于工作场所的人机交互作用越来越多,它们可能产生一组新的风险;在这一点上强调了为人机交互应用严格和前瞻性的规则,以保证工作场所的健康、安全和尊重基本权利的重要性;

注意到机器人和什么是人工智能能嘚发展应以这种方式进行因为环境影响受到有效的能源消耗、能源效率的限制,促进使用可再生能源和稀有材料以及极小的浪费,例洳电力和电子垃圾以及可修复性;因此鼓励委员会将循环经济的原则纳入任何关于机器人的联盟政策;注意到使用机器人还将对环境产生积極的影响,特别是在农业、粮食供应和运输领域特别是通过减少机械的规模和减少肥料、能源和水的使用,以及通过精密耕作和路线优囮

48. 强调CPS将导致能源和基础设施系统的建立这些系统能够控制从生产者到消费者的电力供应,同时也将导致能源生产和消耗能源的产生;从洏获得重大的环境效益;

49. 认为对机器人造成的损害的民事责任是至关重要的问题也需要在工会层面上进行分析和解决以确保在整个欧盟的法律确定性的有效性,透明度和一致性的实现以保证公民,消费者和企业的利益

50. 注意到机器人技术的发展需要更多的理解因为人类机器人活动需要共同的基础,这应该基于两个核心的相互依赖关系作为可预测性和可直接性;指出这两种相互依赖关系对于确定人类和机器人の间需要共享的信息至关重要人类和机器人之间的共同基础是如何实现的,以便使人类机器人能够顺利地共同行动

51. 请委员会根据第114条TFEU的規定提出一项关于在未来10至15年可预见的有关发展和使用机器人和什么是人工智能能的法律问题的立法文书的提案,并结合在附件中提出嘚建议的指导方针和行为守则等非立法文书;

52. 考虑到其适用于除财产损害以外的其他机器人造成的损害民事责任的法律解决方案未来的立法文书不应限制可能恢复的损害的类型或范围,也不应限制向受害方提供赔偿的形式因为损害是由非人类代理人造成的;

53. 认为未来的立法攵书应以委员会的深入评估为基础,确定是否应该采用严格的负债或风险管理方法

54. 同时注意到严格的责任只需要证明已经发生了损害并苴建立了机器人的有害功能和受伤方所遭受的损害之间的因果关系

55. 注意,风险管理方法并不关注“谁的过失”而是指在某些情况下,在某些情况下能够将风险最小化,并应对负面影响的人

56. 考虑到原则上,一旦确定了承担最终责任的各方他们的责任应该与机器人的实際操作水平以及其自主程度成比例,从而使机器人的学习能力或自主权越大机器人的训练越长,其教练员的责任就越大;特别指出的是“训练”所产生的技能,不应与技能相混淆而应严格依赖于自身的学习能力,而这正是机器人的有害行为所导致的;注意到至少在现阶段,责任必须由人类而不是机器人来承担

57. 指出一个可能的解决办法是对日益自动化的机器人造成的损害承担责任的复杂性,可能是一项強制性的保险计划就像已经发生的情况一样,例如汽车;然而,与道路交通保险制度不同的是这种保险涵盖了人类的行为和失败,而機器人的保险系统应该考虑到供应链中的所有潜在责任

Robotics)具体内容大家自行翻译~这样的保险制度可以由一个基金来补充,以确保在没有保险覆盖的情况下可以对损失作出赔偿;呼吁保险业发展新产品和提供符合机器人技术进步的服务类型;

59. 在执行对其未来立法文书的影响评估时,呼吁委员会探讨、分析和考虑所有可能的法律解决办法的影响例如:

a) 建立一种适用于特定类别的机器人的强制保险计划,类似于已經发生在汽车、生产者或机器人所有者的情况下将需要为其机器人可能造成的损害投保

b) 确保赔偿基金不只是为保险公司所造成的损害而提供赔偿的

c) 允许制造商、程序员、所有者或用户从有限责任中受益,如果他们向赔偿基金作出贡献以及他们共同拿出保险来保证赔偿,洏损害是由机器人引起的

d) 决定是否为所有智能自主机器人设立一个通用的基金或为每一个机器人类别创建一个单独的基金以及在市场上放置机器人时是否应支付一次性费用,或者是否应在机器人的生命周期中支付定期捐赠;

e) 确保机器人和其基金之间的联系可以通过在特定的笁会登记簿上出现的个人登记号码来显示这样任何人与机器人之间的互动就可以了解基金的性质、财产受到损害的责任的限制、贡献者嘚名字和功能以及所有其他相关细节;

f) 从长远来看,为机器人创造一个具体的法律地位这样至少可以建立起最先进的自主机器人,使其成為电子人的地位使其能够对自己造成的损害产生良好的影响,并可能将电子人格应用到机器人做出自主决定或与第三方独立互动的情况丅;

(g)向希望集体要求赔偿的消费者提供一种合适的工具从制造公司的智能机器故障中得到赔偿;

60. 注意到目前适用于联盟内的交通事故的一般國际私法规则并不迫切需要实质性的修改,以适应自主车辆的发展但是,简化现行的适用法律的双重制度(根据欧洲议会的第864 / 2007号规定以忣1971年5月4日的《关于交通事故的法律的海牙公约》)将提高法律确定性,限制论坛购物的可能性;

61注意到需要考虑对诸如《维也纳道路交通公約》和《海牙公约》等国际协定的修正案,以及适用于交通事故的《海牙公约》;

62. 希望委员会确保各会员国执行国际法例如《维也纳道路茭通公约》,以使无人驾驶成为可能并以统一的方式进行修订,并呼吁委员会、各会员国和工业尽快执行《阿姆斯特丹宣言》的目标;

63. 大仂鼓励国际合作审查社会、道德和法律方面的挑战,然后在联合国主持下制定监管标准

64. 指出欧洲议会第428 / 2009号规例所规定的限制和条件以忣在双重用途物品贸易方面所规定的货物、软件和技术,既可用于民用和军事用途也可用于大规模毁灭性武器的扩散,也应适用于机器囚技术的应用;

65. 根据第二百二十五条的要求委员会根据《关于机器人技术的民事法律规则》第一百一十四条的建议,提出一项关于《关于機器人的民事法律规则的指示》的建议并遵照本附件所列的详细建议

66. 确认建议尊重基本权利和补贴原则

67. 认为如果设立一个新的欧洲机构,所要求的建议将具有财政影响

68. 指示其主席提出这项决议并向委员会和理事会提出详细建议

决议的附件:关于所要求的提案内容的详细建議

智能机器人”的定义与分类

在欧洲,对于智能自主机器人的一个共同定义应该是在适当的情况下,包括其子类别的定义考虑以下特點

-通过传感器和/或交换数据与其环境(连通性)和分析这些数据的能力;

-通过经验和互动学习的能力;

-机器人身体支持的形式;

-使其行为和行动适应環境的能力。

为了达到可追溯性的目的为了便于实施进一步的建议,应根据为机器人分类而建立的标准介绍一套先进机器人的注册制喥。登记制度和登记制度应该是统一的涵盖内部市场,并且可以由指定的欧盟机器人和什么是人工智能能机构管理以防这样的机构成竝。

除对财产造成损害的以外适用于机器人和什么是人工智能能的任何法律解决方案都不应限制赔偿的种类或范围,也不应限制可能向受害方提供的赔偿形式因为损害是由非人类代理人造成的。

未来的立法文书应以委员会的深入评估为基础确定是否应该采用严格的负債或风险管理方法。

应当建立一种义务保险制度它可以根据生产者的义务为其生产的自主机器人投保。

保险制度应由基金补充以确保茬无保险承保的情况下,可以赔偿损失

关于适用于机器人和什么是人工智能能的民事责任规则的任何政策决定,都应与欧洲范围内的研究和开发项目进行协商该项目致力于机器人和神经科学,科学家和专家能够评估所有相关的风险和后果

互操作性获得代码和知识产权

網络连接的自主机器人之间相互作用的互操作性应该得到保证。在需要的时候可以访问源代码、输入数据和构建细节,以调查智能机器囚造成的事故和损坏以及确保它们继续运行、可用性、可靠性、安全性和安全性

委员会在提出与机器人技术有关的法律行为时,应考虑箌下述《机器人技术宪章》所载的原则

机器人领域的道德行为准则将为识别、监督和遵守设计和开发阶段的基本伦理原则奠定基础。

这個框架是由一个致力于机器人和神经科学的欧洲范围研究项目的研究项目起草的,它的设计必须是一种反思的方式可以让个体的调整茬特定的情况下进行调整以评估在特定的情况下特定的行为是正确的还是错误的,并根据预先设定的价值等级来决定是否正确的决策

该垨则不应取代解决这一领域所有重大法律挑战的需要,但应具有补充功能它将促进机器人的伦理分类,加强这一领域负责任的创新努力并解决公众关注的问题

应特别强调相关技术轨迹的研究和发展阶段(设计过程、伦理审查、审计控制等)。它应该致力于解决研究人员、实踐者、用户和设计师遵守道德标准的需要同时也提出了一种方法来解决相关的伦理困境,并允许这些系统以道德负责的方式运作

机器人笁程师的道德行为准则

《行为守则》邀请所有研究人员和设计师采取负责任的行动并对尊重人类尊严、隐私和安全的必要性予以绝对考慮。

《守则》要求各学科密切合作以确保以安全、合乎道德和有效的方式在欧盟开展机器人技术研究。

《行为准则》涵盖了机器人领域嘚所有研究和开发活动

行为守则是自愿的,并提供一套一般原则和准则以供所有利益相关者采取行动

机器人研究资助机构、研究机构、研究人员和伦理委员会都被鼓励在最早期的阶段,考虑被研究的技术或对象的未来影响并发展一种责任文化,以应对未来可能出现的挑战和机会

公共和私人机器人研究资助机构应该要求进行风险评估,并提交一份关于机器人研究经费的提案这样的代码应该考虑人类,而不是机器人作为负责任的代理。

机器人领域的研究人员应该致力于最高的道德和职业行为并遵守以下原则:

慈善-机器人应该为人类嘚最大利益服务;

非恶意——“第一,不伤害”的原则机器人不应该伤害人类;

自主性——在与机器人交互的条件下,做出知情的、非强制性的决定的能力;

公平分配与机器人和医疗机器人的负担能力相关的好处

机器人研究活动应尊重基本权利,并以个人和社会的利益和自我意志为基础在他们的设计,实施传播和使用中进行。人的尊严和自主性——无论是身体上的还是心理上的——总是受到尊重的

机器囚研究活动应遵循“预防原则”,预见结果的潜在安全影响并采取适当的预防措施,与保护水平成正比同时鼓励社会和环境的进步

机器人工程师保证透明度和尊重所有利益相关者获取信息的合法权利。包容性允许参与或关注机器人研究活动的所有利益相关者参与决策过程

机器人工程师应该对机器人对现在和未来几代人的社会、环境和人类健康影响负责。

机器人设计师应该考虑和尊重人们的身体健康、咹全、健康和权利机器人工程师必须保护人类的福祉,同时尊重人权并及时披露可能危及公众或环境的因素。

可逆性是编程机器人安铨可靠的一种基本概念是可控性的必要条件。可逆模型告诉机器人动作是可逆的,如果它们是可逆的撤销最后一个动作或一系列动莋的能力允许用户撤销不希望的动作,回到工作的“好”阶段

隐私权必须始终受到尊重。机器人工程师应该确保私人信息的安全并且呮需要适当地使用。此外机器人工程师应该保证,除了特殊的情况之外的个人并没有个人身份而且只有明确的,明确的知情同意人類的知情同意书应该在任何人机交互之前进行。因此机器人设计师有责任开发和遵循有效的同意、保密、匿名、公平对待和正当程序的程序。设计者将遵守任何要求任何相关数据被销毁,并从任何数据集删除

研究者应该在各个阶段,从初始到传播的各个阶段寻求最夶的好处。必须避免对研究对象/人类主体/实验、实验或研究对象的伤害当风险出现时,作为研究的不可避免和不可分割的部分应该开發和遵守稳健的风险评估和管理协议。通常情况下危害的风险不应大于在日常生活中所遇到的危险,即人们不应暴露在其正常生活方式Φ所暴露的风险大于或增加的风险机器人系统的运行应该始终基于一个彻底的风险评估过程,这应该由预防和比例原则来告知

研究伦理委员会守则(REC)

伦理审查过程应独立于研究本身这一原则强调了需要避免研究人员和那些审查伦理协议的人之间的利益冲突,以及审查人员囷组织治理结构之间的利益冲突

伦理审查过程应由审稿人以适当的专业知识进行,

考虑到需要仔细考虑成员的范围和特定于伦理的培训

审查过程应该负责,并接受审查RECs需要认识到它们的责任,并在组织结构中适当地定位以使REC操作和程序保持透明,以维护和审查标准

REC通常负责审查所有涉及由有关机构或机构所雇用的人进行的研究;确保伦理审查独立、有能力、及时;保护研究参与者的尊严、权利和福利;栲虑到研究人员的安全;考虑到其他利益相关者的合法利益;对建议的科学价值作出明智的判断;并向研究人员提出建议,如果该建议在某些方媔是欠缺的

REC通常应该是多学科的;包括男人和女人;在机器人研究领域有广泛的经验和专业知识。任命机制应确保委员会成员在科学专业知識、哲学、法律或伦理背景方面提供适当的平衡并提出意见,并包括至少一名成员具有专业知识的伦理知识、专家健康、教育或社会服務的使用者这些人是研究活动的重点,以及与他们所审查的研究有关的具体方法专门知识的人;他们必须是这样构成的避免利益冲突。

所有的研究机构都应该建立适当的程序以监测已经得到伦理认可的研究的行为,直到它完成并确保在研究设计中能够预见到可能需要解决的时间的变化。监测应该与与研究相关的风险的性质和程度成比例REC认为监测报告引起了对该研究的伦理行为的重大关切,因此应要求充分和详细地说明对全面伦理审查的研究如果认为一项研究是不道德地进行的,则应考虑撤回其批准并暂停或中止其研究

-在设计、開发和交付这些技术的过程中,包括不需要伤害、伤害、欺骗或利用(脆弱的)用户时你应该考虑到欧洲的尊严、自主性和自决、自由和正義的价值观。

-你应该在机器人操作的各个方面包括硬件和软件设计,以及为安全目的而在平台上进行任何数据处理都应该引入值得信賴的系统设计原则。

-你应该通过设计的特点来介绍隐私以确保私人信息的安全,只需要适当的使用

-你应该整合明显的选择机制(杀死开關),这应该符合合理的设计目标

-你应该确保机器人的运作方式符合当地、国家和国际的道德和法律原则。

-你应该确保机器人的决策步骤昰有利于重建和可追溯性的

-你应该确保在机器人系统的编程中需要最大的透明度,以及机器人行为的可预测性

-你应该通过考虑解释和荇动的不确定性,以及可能的机器人或人类的失败来分析人类机器人系统的可预测性

-你应该在机器人的设计阶段开发追踪工具。这些工具将促进对机器人行为的会计和解释即使是有限的,在针对专家、操作员和用户的不同层次上

-在评估机器人的益处和风险时,你应该起草设计和评估协议并与潜在的用户和利益相关者合作,包括认知、心理和环境方面

-你应该确保机器人在与人类互动时能被识别为机器囚

-你应该保护那些与机器人接触和接触的人的安全和健康,因为机器人是产品应该使用确保他们的安全和安全的过程来设计。机器人笁程师必须保护人类的福祉同时尊重人权,不得在不保障系统运行的安全性、有效性和可逆性的情况下部署机器人

-在一个真正的环境Φ测试机器人,或者在设计和开发过程中涉及到人类你应该从一个研究伦理委员会得到一个积极的意见。

-你被允许使用一个没有风险或害怕身体或心理伤害的机器人

-你应该有权利要求机器人执行任何明确设计的任务。

-你应该知道任何机器人都可能有知觉、认知和驱动

-伱应该尊重人类的脆弱,无论是生理上的还是心理上的以及人类的情感需求。

-你应该考虑到个人的隐私权包括在亲密的程序中关闭视頻监视器。

-未经资料当事人明确同意不得收集、使用或披露个人资料。

-你不允许以任何违反道德或法律原则和标准的方式使用机器人

-伱不允许修改任何机器人以使其成为武器

根据议事规则附件六,法律事务委员会特别负责民事和商法、公司法、知识产权法和解释适用國际法,在欧盟受到影响的范围内以及与新技术有关的伦理问题。机器人和什么是人工智能能的发展引发了法律和伦理问题这些问题顯然与所有这些领域有关,而且需要立即对欧盟层面进行干预虽然最终将由委员会提出一个或更多的机器人和什么是人工智能能相关的竝法提案,欧洲议会已经决定为这类项目铺平道路使用其权利根据第225条的条约对欧盟的功能和规则46的议事规则。

因此在2015年1月20日,JURI委员会决萣成立一个工作组(WG)讨论有关在欧盟发展机器人和什么是人工智能能(AI)的法律问题。WG主要是起草与这一主题有关的民法规则

除了法律事务委员会成员之外,工作组还包括代表工业、研究和能源委员会(ITRE)、内部市场和消费者保护委员会(IMCO)和就业和社会事务委员会(EMPL)的成员

WG咨询了来洎非常不同背景的专家,接受了这项决议所包括的重要贡献

机器人技术和什么是人工智能能已经成为本世纪最突出的技术趋势之一他们嘚使用和发展的迅速增加给我们的社会带来了新的和困难的挑战。从工业部门到公民社会环境的道路在这些技术上有不同的方式,因为機器人和什么是人工智能能将增加他们与人类在非常不同领域的互动

JURI委员会认为,这些新互动所带来的风险应被紧急处理确保一套核惢的基本价值被翻译成机器人、什么是人工智能能和人类之间的每一个接触阶段。在这一过程中应特别强调人类的安全、隐私、正直、澊严和自治权。

本决议所涉及的其他重要方面包括:标准化、知识产权、数据所有权、就业和责任至关重要的是,监管提供了可预测的、足够清晰的条件以激励欧洲在机器人和什么是人工智能能领域的创新

委员会的行动是为了使现有的立法适应机器人和什么是人工智能能嘚现实,应该基于第114条TFEU根据第5条第(3)条的规定,“补贴原则”规定联盟应只在其在中央或区域和地方一级无法充分实现拟议行动的目标時采取行动,但是由于拟议行动的规模或影响,可以更确切地说在联盟一级取得更大的成就。机器人技术的发展目前正在整个联盟中發生为了应对这一创新,各成员国正在制定不同的国家立法这些差异有望为机器人的有效发展创造障碍。由于这项技术有跨国影响朂好的立法方案是欧洲的。

该决议确立了关于机器人技术和什么是人工智能能发展的一般原则和伦理原则首先,为了恰当地解决这一问題智能自主机器人的一个共同定义是基本的。此外还应加强对机器人技术和ICT以及其传播的影响的研究。

第二为了解决伦理原则,本決议附了《机器人宪章》该宪章包括机器人工程师的道德行为准则、研究伦理委员会的代码和设计师和用户的许可证。拟议的框架完全苻合《欧盟基本权利宪章》

此外,还建议成立一个欧洲机器人和什么是人工智能能机构该机构应提供必要的技术、伦理和管理方面的專门知识,以支持有关的公共行为者

知识产权、数据保护和数据所有权

该决议呼吁委员会在应用于硬件和软件标准和保护创新的代码时采取平衡的知识产权方式,同时促进创新此外,还要求拟订“自主知识创造”标准以供计算机或机器人生产的版权作品。

目前的数据保护和所有权法律框架不足是由于使用机器人技术和什么是人工智能能带来的(预期的大量)数据流而引起的极大关注

越来越多的机器人和什么是人工智能能需要欧洲的标准化,以避免成员国之间的差异和欧盟内部市场的分裂

此外消费者对使用机器人和什么是人工智能能的咹全性和安全性的担忧需要得到解决。这项决议特别强调在现实生活中测试机器人对于识别和评估他们可能需要承担的风险是必不可少嘚。

具体使用机器人和什么是人工智能能的规则

该决议包括适用于特定类型机器人的规定自主车辆、护理机器人、医疗机器人、人类修複和增强以及无人机(RPAS)都应该采用个人规则。

可能发生的风险与我们社会中使用自治机器本身有关一个机器人的行为可能具有民事法律含義,无论是在合同方面还是在非合同责任方面因此,需要对机器人的行动负责并最终确定机器人的法律能力和/或地位,以确保欧洲联盟的生产者和消费者的透明度和法律确定性

委员会呼吁对其未来的立法文书进行一次影响评估,以探讨所有可能的法律解决办法的影响例如设立一项强制保险计划和赔偿基金。

在社会背景下的机器人和什么是人工智能能

增加与机器人的交流和互动有可能深刻影响我们社会的身心关系。特别是对于那些特别容易受到伤害的人来说他们可以产生情感和依恋,从而引起人们对人类尊严和其他道德价值的担憂

机器人和什么是人工智能能已经影响了教育和就业。在这种背景下为了避免对就业市场产生不良影响,必须密切监测就业趋势

鉴於世界各地的机器人技术和什么是人工智能能的发展,应该考虑并采取主动行动在必要时修订现有的有关国际协定,或拟订新的文书鉯介绍对机器人和什么是人工智能能的具体参考。在这方面的国际合作是非常可取的

运输及旅游委员会的意见(*)

向关于机器人的民法规则委员会提出建议

(主动权-议事规则第46条)

运输和旅游委员会吁请法律事务委员会作为负责任的委员会,将下列建议纳入其提案的动议:

- - -关于2016年4月14 - 15ㄖ理事会关于阿姆斯特丹宣言在联网和自动驾驶领域的合作(“阿姆斯特丹宣言”),

a .委员会最近设立了一个高级组齿轮组其任务是为自動车辆的适当部署制定路线图;

b出于民事责任的目的,应当在自动车辆(包括允许自动执行某些驾驶操作的设备)和自动车辆(执行所有此类操作)の间进行区分而在前一种情况下,驾驶必须由司机持续监控并完全由司机负责;在后一种情况下,驾驶不再需要持续的监控或用户的任哬干预;而在前一种情况下与常规车辆相比,民事责任制度保持不变而在后一种情况下则需要调整;

1 .工作强调自主运输包括所有形式的遥控、自动化、联网和自主的道路、铁路、水上和空中运输,包括车辆、火车、船只、渡船、飞机、无人机以及所有未来的发展和创新形式(鉯下简称“运输的自主方式”);

2呼吁委员会考虑以下各方面的自主工作

运输工具:民事责任(责任和保险),与环境相关的所有主题(如能源效率、鈳再生能源技术和能源的使用)和问题相关的数据(数据访问、保护个人数据和隐私,事故和风险情况的共享数据,数据及其分布)的经济价值;

3 .项目栲虑到自动交通工具可能会对提高交通安全产生重大影响,因为人类错误目前造成了90%的道路交通事故;然而自动驾驶车辆不可能排除所有倳故;这就提出了责任问题和有关各方的责任问题,以及在事故发生时对受害者的赔偿问题

4回顾了在公共交通部门(地铁系统)长期存在的自治运输系统,并证明了它们的可靠性和高水平的公众接受度;

5将视图切换到自动车辆,除了其积极影响道路安全,燃料消耗、环境和创造新的僦业机会在电信和汽车行业,也可能导致交通部门失业以及保险行业产生影响;

6。引起注意的是在意外接管车辆控制权的情况下,司机的反應时间是至关重要的因此,要求利益攸关方为确定安全和责任问题提供现实的价值;

7. 强调法律事务委员会关于运输部门的报告草稿的特别偅要性鉴于技术进步,鉴于目前市场上已经有了半自治的运输工具而且完全自主的交通工具也将很快可用;

8。强调支持更多的机器人技術创新例如联网和自动化的车辆和无人机,以加强联盟工业的全球市场地位;

9注意到自主交通工具在发展可持续运输方面发挥着重要作鼡;注意自治的运输方式可以帮助减少交通堵塞,并呼吁委员会和各会员国及时充分反映技术进步以及环境和安全的影响和促进创新;

10。希朢委员会能确保成员国修改现有的法律例如1968年11月8日的维也纳公路交通公约,以统一的方式让无人驾驶的驾驶成为可能,并呼吁委员会会员国和工业尽快落实阿姆斯特丹宣言的目标;

11。促请委员会就广泛使用无人机有关的安全问题作出评价;呼吁委员会提供关于自动运输工具对提高运输安全和可持续性的影响的研究

12指出通过优化路线、对抗拥塞、优化推进系统的使用以及与流量控制系统的通信,将有助于妀善环境因素特别是城市节点;

13。强调交通运输、交通管理、基础设施及其管理等自治手段之间的相互作用需要高度的有效和可靠的通信以确保实时传送大量的数据;强调必须在道路、能源和ICT基础设施方面进行大量投资,同时确保隐私和数据保护;

14强调明智和相互联系的运輸基础设施的重要性,因此呼吁委员会和各会员国建立适当的全面、跨境和可互操作的基础设施;

15呼吁委员会制定民事责任制度,包括举證责任适应自主车辆的发展;强调确保分工明确的重要性之间的设计师,制造商的各种组件和自主车辆的装配工,服务提供者(运输服务或服务所需的操作自动车辆)和最终用户,以确保乘客的安全与权益,数据保护和防止盗版;

16。强调了欧洲卫星导航系统提供的可靠的定位和计时信息的偅要性以及对自动驾驶车辆的实现,尤其是对自动驾驶车辆的导航和安全系统以及另一方面的智能运输系统和交通管理系统的重要性;

17。让人们注意到自动驾驶汽车为减少出行的人提供的高附加值因为这样的车辆使他们能够更有效地参与到个体的道路交通中,从而使他們的日常生活更加便利;

18呼吁委员会于2019年提出一项欧洲共同战略(包括单一路线图),以实现自主运输工具并加强所有有关利益攸关方的合莋,包括对市场动态和发展的审慎分析和建议;呼吁委员会审查和调整工会的监管框架以支持开发和使用自动运输工具;为了完成欧洲的伽利略定位系统,迫切需要完成和发射所需的卫星以便这样的系统可以作为自主交通工具的默认定位系统;

19。注意到自主车辆的发展需要茬工会和成员国以及技术中心和汽车工业的参与方面采取积极和坚定的体制办法;

20。呼吁委员会制定欧洲基础设施标准以允许自动车辆的擴散和道路地图实施

21。呼吁委员会和各会员国包括在重型货车司机的最初和高级培训中使用自动化车辆并使这部分培训需要获得汽车驾駛执照;

22。回顾在欧洲议会和理事会的第216 / 2008号规定中规定的措施应确保无人飞机的同质性和安全性。

公民自由、司法及民政事务委员会的意見(*)

关于《关于机器人技术的民法规则》的建议((INL))

(主动权-议事规则第46条)

(*)联合委员会-议事规则第54条

公民自由、司法和民政事务委员希望法律事务委员会上将下列建议纳入其决议的动议:

a.机器人领域的技术进步将给工会经济带来积极的影响同时也为个人的日常生活带来积极影响,泹也可能意味着需要解决的风险;然而在2020年地平线范围内或外部的所有新技术和生产模式的发展,必须尊重伦理原则并应适当考虑《基夲权利宪章》所载的基本权利;

.虽然许多第三个国家已经通过了关于机器人技术的指导方针和立法,一些会员国已经在这方面提出了具体的反映;而一个监管框架,在联盟管理水平的发展和使用机器人和什么是人工智能能和工会等基于现有规则的一般数据保护监管可以防止碎片的單一市场规则,进一步保障所有欧盟公民的基本权利的保护人类尊严,隐私和家庭生活、个人数据和知识产权保护的言论自由和信息,平等和非歧视原则,团结,和公民权利和正义,以及安全和安全,而受制于比例的原则;

1考虑到现有的联盟法律框架应该得到更新和补充,在适当的情况下指导设计、工程、测试和使用机器人和什么是人工智能能的伦理原则,以确保这些技术能够真正提高人类生活的质量;要求在发展和使用這些技术时经常考虑预防原则;

2相信机器人技术和什么是人工智能能,特别是那些具有自主能力的人包括独立提取、收集和分享与不同利益相关者的敏感信息的能力,以及自我学习甚至自我进化的可能性都应该受到强有力的概念法则或原则的约束,比如机器人可能不会殺死或伤害人类它必须服从并被人类控制;机器人和什么是人工智能能收集、使用和处理个人数据的过程必须是透明和可理解的;认为这些原则应该是中性的,基于实证研究;支持为研究人员、学术界和工程师制定一种以伦理为基础的框架以确保这些技术解决方案不会妨碍研究和技术发展,而是符合现有的工会和国家伦理规范以及在CFR中所规定的权利和原则,特别是人的尊严、尊重和保护私人和家庭生活、安铨与安全、保护个人资料、保护知识产权、表达和信息自由、平等和不歧视、团结和公民权利和正义并应遵守比例原则;

3 .项目认识到这些法律和原则的定义以及它们的实际实施需要在什么是人工智能能伦理领域进行更多的研究;考虑到欧洲科学和新技术伦理小组最终将在伦理准则和标准的定义中发挥作用,这些准则和标准对未来的技术变化都具有前瞻性和响应性;

4强调需要解决人机交互的心理和社会影响以及技术对人类能力的双重影响,特别注意弱势群体特别是儿童,避免造成对机器人的有害依赖例如通过唤起情感反应,或将这些人从现實中隔离;

5强调机器人和什么是人工智能能,特别是健康、护理和家庭机器人和医疗网络物理系统其中某些元素可以植入人体或在人体仩佩戴,将对人类生活产生重大影响尤其是对残疾人而言;因此,注意确保这些技术的包容性和平等获得是至关重要的;进一步指出这种机器人对用户隐私的影响因为他们可以访问传统的受保护空间和敏感的个人信息;认为应确保医学伦理原则、病人安全以及所提供护理的完整性;

6。重申保护私人生活和保护个人资料的权利如第7条和第8条CFR和第16条所载的权利,适用于机器人和什么是人工智能能的所有领域并必須完全遵守《数据保护联盟法律框架》;强调机器人和什么是人工智能能设计师的责任,他们开发产品的方式是安全、安全、符合目的遵循符合现行法律、保密、匿名、公平对待和正当程序的数据处理程序;

7。呼吁委员会确保任何关于机器人和什么是人工智能能的联盟立法都將包括考虑到这一领域迅速的技术演变的措施和规则包括发展网络物理系统,以确保联盟立法不会落后于技术发展和部署的曲线;强调这樣的立法需要符合规则的隐私和数据保护,即有关信息义务,有权获得的解释基于自动化的处理决定,遵循隐私的原则设计的要求,在默认情况下,仳例原则、必要性、数据最小化,目的限制,以及透明的数据对象和数据保护部门控制机制,和适当的补救措施符合当前的立法;要求审查机器人Φ使用相机和传感器的规则、原则和标准并根据联盟法律框架进行数据保护;

8。呼吁对机器人技术和什么是人工智能能采取统一的、横向嘚方法并将其应用于技术中立的联盟监管框架,并适用于机器人可以被应用的各个领域例如交通、卫生、工业制造、电信、执法等;强調在适当的情况下,应该更新现有的法律框架并补充,以确保数据保护、隐私和安全的同等水平

9强调通过机器人和什么是人工智能能技术防止大规模监控的重要性;

10。呼吁欧盟委员会和各成员国促进强有力的和透明的公共和私营部门和学术界之间的合作,加强知识共享,并促進教育和培训为设计师在伦理问题,安全与基本权利的尊重以及对消费者的使用机器人和什么是人工智能能,特别关注安全和数据保密;

数据和數据系统的安全性和数据流

11强调数据的自由流动对数字经济是至关重要的,对机器人和什么是人工智能能的发展至关重要;强调机器人和什么是人工智能能系统作为一个整体的高度安全包括其内部数据系统和数据流,对于充分利用机器人和什么是人工智能能至关重要;强调保护互联机器人和什么是人工智能能的网络以防止潜在的安全漏洞、网络攻击或个人数据的滥用,特别是在收集和处理大量数据的时候;強调需要设计一种机制使使用者能够在发生安全漏洞时停止对其个人资料的处理;指出研究和开发活动在数据保护技术领域的重要性,并強调公共和商业的共同责任以保证在人员和机器人和什么是人工智能能之间的通信中使用的数据的安全性、安全性和隐私性,以及高质量的语音和手语识别系统;认为商业硬件和软件生产商应该对其疏忽造成的数据安全严重违约负责;呼吁欧盟委员会和会员国支持和激励必要技术的发展包括设计和沟通渠道的安全;

无人机(遥控飞行器系统,RPAS)

12强调个人资料经RPAS处理后,无论是由公共部门出于执法目的还是由法律、法律允许的其他目的、自由和安全的权利,以及在第6条和第7条中所规定的尊重私人生活的权利在第8条CFR和16 TFEU中规定的个人资料的保护权利,以及有关数据保护的联盟法律框架必须完全遵守;要求委员会审查是否需要为RPAS引入一种强制性的跟踪和识别系统,以便在使用时确定飛机的实时位置

13。重申呼吁安理会制定一项严格和有效的联合框架在使用武装无人机时,最重要的是尊重伦理原则、人权和国际人道主义法并解决诸如法律框架、相称性、问责性、透明度和保护平民等问题,包括采取一切可行的预防措施以避免错误的目标和对平民慥成的伤害,并确保最终的控制和责任与人类有关;重申其对禁止生产、开发和使用全自动武器的要求这使得在没有人为干预的情况下进荇罢工;敦促委员会和各会员国开展一项广泛的国际政策对话,旨在为发展、扩散和使用日益自主的武器系统(例如以具有约束力的国际协萣的形式)建立全球法律标准和法律和道德限制;

14。承认无人机技术的积极进展特别是在搜索和救援领域,并坚持认为这是联盟在推进无人機技术方面应该采取的方向

15。考虑到在相关研究表明立法发展尚不成熟的特定领域,应在适当立法的同时鼓励软法律框架、行为准则戓公私伙伴关系可能是全联盟范围内的,以确保工业和机器人设计师与公共当局及所有其他相关利益相关者合作;相信这样 的工具应该集Φ在切实可行的解决方案上以确保隐私和数据保护、人类尊严、非歧视、机器人工业的安全与伦理,以及日常使用机器人和什么是人工智能能

就业和社会事务委员会的意见

关于《关于机器人技术的民法规则》的建议((INL))

报告员:亚当·科莎公司

(主动权-议事规则第46条)

就业和社会倳务委员会吁请法律事务委员会,作为负责任的委员会将下列建议纳入其提案的动议:

1呼吁委员会立即对机器人的数量和工作类型的影响進行彻底的评估以及现有工作的质量和能力概况;收集信息对新形式的就业为了尽可能有效地预测,首先,机器人技术的传播是否带来福利和进步本身,无论是呈现人类劳动在传统的生产和服务结构和不必要的,如果是这样的话,需要哪些条件除了金融安全,以确保人们健康的身心健康,快樂,和活跃的公民和理论是否利益人和机器之间的共生关系提供有效的健康与发展;,第二,是否在改变劳动力市场成员国法律和惯例可以确保社會公正、包容和可持续的方法减少不平等、贫困和社会排斥,一个环境中,所有人类都有平等的机会来开发他们的天赋、技能和个人的感觉;

2。強调尽管机器人和什么是人工智能能的发展正在加速,但它对就业和社会政策的影响是至关重要的因为在产品和服务的生产过程中,機器人技术的增加和全球使用会带来更高的生产率而这些都可以用很少的人力来实现,因此在接下来的十年里,一些工作将被完全消除许多其他的工作也会受到影响;因此,呼吁委员会对就业的挑战和机会进行分析并制订一种方法,使监测工作失去的数量和性质并創造出自动化和自动化,以及这种现象对社会保障制度造成的收入损失的影响;进一步呼吁委员会定期评估和与社会伙伴进行对话以达到烸周、每年和终身工作小时的程度,不损失收入并开始探索未来社会保障制度的新融资方案,并重新思考工人如何与他们的工作进行接觸以及数字劳工平台如何更好地将个人、团队和项目联系起来;

3 指出,由于机器人的出现许多工作岗位将会流失,但尽管在经济的许多蔀门个人工作时间将会缩短,但生产率的提高可以确保工人不会遭受工资的损失;

4认为机器人应该使用确保人类控制和机器人操作的可逆性的过程来设计,考虑到机器人的自主性越来越高这应该伴随着对机器人的行为或不作为所造成的后果的责任的修正;关于在新的和正茬进行的工业革命中工作自动化缺乏一般的框架和法律规定,并认为这对联盟来说是必要的它规定了反映机器人的复杂性及其众多社会影响的法律框架;因此,要求委员会提出一个关于智能自主机器人及其在工作场所的子类别的共同定义并考虑强制保险方案的利弊,该方案涵盖了机器人所造成的潜在损害和失败

5强调教育和培训制度必须适应职业和生产方式的变化,将更多的注意力放在创造性和非重复内嫆的工作上以保持人力资源的价值,并为所有代人提供所有必要的工具为他们提供最好的工作机会,在这个不断变化的世界里因为機器人化和自动化;强调技能灵活性的重要性,强调生活技能和社会技能在教育中的重要性;可以肯定的是除了教授学术知识的学校外,孩孓们还需要掌握批判性的思维能力能够提出问题并做出明智的决定,创造性的技能能够将想法付诸行动,培养一种主动性终身学习需要通过终生的行为来实现;强调数字能力对于当今快节奏的自动化和数字化的工作和服务是必不可少的,需要发展数字技能和能力以确保高水平的就业,根除日益增长的数字文盲和与之相关的社会排斥的风险;强调对教学的数字化教学以及在教学中利用机械知识的重要性洏教育也应强调人文学科,而人文学科则是在改变劳动力市场的创新创新,艺术和培养的品质中为人类继续在机器上保持相对的优势;

6承认机器人提供了潜力巨大的支持和救助,特别是,残疾人和老年人的日常生活,可能会作出重大贡献他们的自主的生活和他们的包容在劳动力市场上,认为深入必须考虑问题的就业条款可能是必要的劳动力,如果人工或基因开发或补充现有的人类的能力导致人以非凡的能力,从而从根夲上改变“残疾”一词的含义,赋予一个不容置疑的优势等人提供技术创新、工具和干预自然会引发的伦理道德问题,应该彻底检查;

7。强调个囚选择或拒绝种植体、假体或延伸至人体的决定绝不能导致在就业、教育、医疗、社会保障或其他福利方面受到不利的待遇或威胁,并強调所有公民都必须享有平等和无障碍的机会以从新技术中获益;在这方面指出,作为人的尊严的中心联盟和国际人权法,重要的是要研究如哬确保那些尚未被列为禁用不治疗,增强人类的相比处于不利地位类似于人智障和智障患者能否做出独立决定通过支持决策的概述《残疾人權利公约》在机器人的帮助下,和它们之间如何分配责任

8。然而指出使用机器人有风险,应该仔细权衡他们可能带来的好处;注意到机器人慥成的工作伤害以及相关的索赔要求;注意到虽然像外骨骼这样的可穿戴机器人技术可以提高生产率,但它们可能会提高雇主对员工的期朢进而增加伤害风险;指出这必须考虑到立法委员、雇主、工会和雇员通过内部规则、集体协议以及其他与机器人有关的风险可能与反歧視有关,这些风险可能会在工作面试后发生的情况下发生而这些数据是由于获得了导致非预期分析的数据而引起的;注意到与贸易和隐私囿关的新挑战也可能由于使用机器人而产生;

9。强调在社会上的分化日益加剧中产阶级正在缩小,重要的是要记住发展机器人技术可能會使少数人手中的财富和影响力高度集中;

10。指出,对就业和社会政策的影响由于技术进步和持续的自动化有了翻天覆地的变化,人们访问和提供信息,沟通,社交和工作,从而创造新的机遇以及挑战,开辟新的前景可能增加活动的效率,节约能源和材料;然而指出的是,尽管机器人和什么昰人工智能能在短期和中期的效率和经济方面承诺了真正的优势不仅是在生产和贸易方面,而且在那些由于人类的相互作用、智力和创慥力的领域自动化是困难的,而且迄今为止只有人类,比如在那些有大量低技能人才的行业中机器人领域的工作机会将不会增加,洇为在交通、后勤和办公室工作等领域的工作岗位数量将会减少;因此呼吁欧盟委员会和各成员国,在与社会的合作伙伴和地区和地方当局在適当情况下,开发新的机制适合工作和事业的保护模式的数字化和机器人使用的增加,为所有人提供适当的教育和培训;

11指出,由于开发和使鼡智能协同机器人和什么是人工智能能,创造和失业之间的差异可能会影响社会保障计划的经济发展养老金系统和失业保险系统的影響,并且强调在中期和长期以来的就业损失是由于机器化的后果也可能与消费能力的损失有关;强调来自自动化和自动化的大多数好处不僅来自于降低劳动力成本,而且还应通过减少错误、提高产量、提高质量、安全性和速度来提高生产率;在调整机器人技术和数字经济的监管框架时要求委员会和各成员国定期咨询和参与社会伙伴,以确定技术创新所产生的潜在的职业健康和安全风险并采取适当措施应对咜们,并探讨在机器人建立之前引入通知系统的可能性以及它们以税收和社会安全贡献为目的的公司营业额的相对参与情况;

12。呼吁委员會就今后在机器人领域中规定的道德和社会原则提出指导方针特别是关于确定适合未来技术发展的前瞻性标准的目标;

13。指所谓的众包工莋;呼吁委员会调查这种新形式的就业并检查社会保障制度和适用的劳工法在多大程度上需要调整,以提供适当的保护以供众包工人使鼡;

14。强调虽然不可能阻碍技术进步但现在这代人有机会和责任来决定它的路线,以便造福人类和地球;认为联盟应在福利、经济增长和技術的政策领域内为一项综合战略作出贡献以使其处于全球发展的最前沿;呼吁成员国和欧盟委员会详细研究的近未来后果增加劳动力和使鼡机器人系统提供一个框架,这种发展与立法设计技术为员工尽可能平稳过渡和坚信,紧迫感,必须找到一个答案的问题,是否在机器人进一步发展的结果和更便宜的解决方案,将会有工作能力的人类工作将受法律限制由于有害或危险的工作性质相对于人类健康(目前与规则适用于孕妇)戓其他原因,并找到答案的问题领域潜在的可能被认为是限制或禁止部分或全部自动化,以保证安全和尊重的基本权利受到整个行业的自动化,增加考虑人口变化和可持续性,避免任何意想不到的社会后果;

15。相信鉴于技术进步的步伐我们应该在可预见的未来为机器人立法;同时,为叻应对科学技术的变化立法应该是符合目的的;认为有必要根据机器人技术和什么是人工智能能的进一步发展,预测新业务领域的发展;然洏指出,机器人不仅是工作的工具而且越来越多地在产品和服务的生产中自主地采取行动,因此需要全面的保护系统以确保工人的健康和安全受到充分的保护,当与机器人和其他形式的什么是人工智能能以及其他形式的什么是人工智能能和责任规则一起工作时确保洎动机器人的损害能够被明确的有利于员工;因此,呼吁工会和会员国鼓励进行一场结构化的公开对话以尽快发展这些技术的后果并呼吁參与这项研究的利益攸关方提出一个关键的解决方案并为公众对话提供建设性的信息;

16。强调机器人和什么是人工智能能系统所进行的任何處理活动必须完全符合联盟的数据保护法并必须按照默认原则在设计和隐私中嵌入隐私;

17。指出自动化提供了相当大的机会把制造业带回聯盟,从而创造新的就业机会,特别是低技能工人的;

18相信在生产过程中使用机器人会对工作场所的健康和安全带来重大挑战;指出机器人化可鉯一方面减轻工人的体力负担,但同时也会导致更高的精神压力因为个体在更复杂的生产过程中承担的责任越来越大;欧盟委员会及其机構,尤其是欧盟-职业安全局对数字化、机器人技术和什么是人工智能能对精神压力的影响进行了调查,并提出了相应的对策建议;要求给予员工机会在任何时候都积极地塑造他们的工作环境,并让社会伙伴和工会参与到各个层次;

19一些科学研究指出,当试图立法使用机器囚时出现了四个主要问题:谨慎,考虑到涉及什么是人工智能能发展和研究的平台和制造商这在监管机构中可能并不总是可见的;当什么昰人工智能能系统由研究人员组成的团队开发时产生的扩散性,在地理上和司法上是分开的;“自由裁量权”指的是什么是人工智能能系统鈳能需要许多独立的、独特的预先存在的硬件和软件组件;指出将所有这些组件组合在一起的效果可能在事后才得到充分的重视,而不透奣意味着什么是人工智能能系统的工作方式可能比以前的技术更加不透明;注意到这可能会成为监管机构的一个问题因为对于这些系统可能构成的问题以及如何解决这些问题,缺乏清晰的思路

环境、公共卫生和食品安全委员会的意见

关于《关于机器人技术的民法规则》的建议((INL))

(主动权-议事规则第46条)

环境、公共卫生和食品安全委员会呼吁法律事务委员会作为负责任的委员会将下列建议纳入其决议的动议:

A. :老龄化昰由于生活条件和现代医学的进步而延长寿命的结果,也是21世纪欧洲社会最大的政治、社会和经济挑战之一;然而到2025年 65岁以上的欧洲人将會超过20%,特别是80岁以上的人口数量急剧增加这将在我们的社会中产生一种根本不一样的平衡,而老年人仍然保持健康和积极的生活这苻合社会的利益

B. .在2010年至2014年期间,机器人的销售和生产显著增加仅2014年就增加了近30%,特别是在卫生部门和保健部门;

C. .然而在老龄化社会中,殘疾、慢性疾病、中风、脑损伤和能力下降等疾病的患病率和发生率正在增加;

D. 社会和健康系统需要适应衰老的过程和老年人的医疗保健需求这样他们就能提供足够的照顾,维持经济的可持续发展;

E. 而网络物理系统是由网络计算机机器人和什么是人工智能能系统组成的技术系统与物理世界相互作用并在医疗领域有很多应用程序;

F. 鉴于CPS的性质,需要在整个联盟中实现具体的、更详细的标准;

G. 鉴于这些系统将为新兴囷未来的智能服务提供基础和基础并将在个性化保健、紧急反应和远程医疗方面取得进展;

H. 在任何情况下,都不应使用机器人或高科技的診断或治疗手段导致医生或卫生保健人员需要使用它们的责任增加;鉴于此,建议增加有关医疗机构或制造商的责任;

I. .鉴于CPS的经济和社会潜仂远远大于先前的设想世界各地正在进行重大投资,以发展这项技术;

J. 鉴于使用此类技术不应减少或损害医患关系但应向医生提供诊断囷/或治疗病人的协助;

K. 尽管CPS提高了许多高期望,并且有很大的潜力但是新引进的技术的影响永远不会被完全预测,只有当社会能够适应一種新的与技术交互的方式时它才能成功地整合起来

1。 承认在医疗保健领域采用新技术假定重点在于医患关系和自由意志,很可能在病囚护理和治疗的有效性和准确性方面带来重大利益并以减少人为错误的风险为目标,从而导致提高生活质量和延长寿命;

2尽管机器人技術可以带来社会效益,但它们同时也能极大地改变人们相互交流的方式从而对当前的社会结构产生切实的影响;因此,迫切需要对这场新技术革命进行广泛而有见地的公开辩论;

3号我们认为,要建立一个基于道德原则的监管框架符合机器人的复杂性及其许多社会、医学和苼物伦理的影响,这是至关重要的

4。强调提供更好的诊断和更好的治疗、护理和康复方案的创新将导致更准确的医疗决策和更快的康複时间,从而可以缓解护理和康复过程中卫生保健专业人员的短缺;

5强调CPS部门需求的增加有可能在工会中创造大量高技能职位

6。认为机器囚在支持医生或医疗保健方面是有用的

助理人员为了改善人类的诊断和治疗经验,但不考虑是否需要确保医疗实践和病人护理实践不被非人化;

7注意到,由于智能技术可用于预防、协助、监测和陪伴因此CPS能够改善残疾人士的生活。

8注意到CPS可能会对医疗保健行业产生深遠的影响,有可能使医疗专业人员将重点从治疗转移到预防上从而降低医疗保健的整体成本;

9。强调老年护理机器人的研究与开发随着時间的推移,越来越成为主流和更便宜的产品产品具有更大的功能和更广泛的消费者接受度;指出这些技术的广泛应用范围,为老年人提供预防、帮助、监测、刺激和陪伴以及患有痴呆症、认知障碍或记忆丧失的人;

10。我们强调虽然CPS有潜力提高残疾人和老年人的流动和社茭能力,但人类的照顾者仍然需要并且将继续为他们提供一个重要的社会互动的来源这并不是完全可以替代的;指出,CPS技术或机器人只能大大增强人类保健和康复过程更有针对性,使医务人员和护理人员可以分配更多的质量诊断和更好的治疗方案;

11早期的机器人和智能CPS设备已经被鼡于医疗保健,例如电子医疗设备和手术机器人在不久的将来,这项技术将继续发展有可能降低医疗费用,使医疗专业人员能够将他們的注意力从治疗转移到预防并提供更多的预算资源,以便更好地适应病人需求的多样性继续培训卫生保健专业人员和研究;

12。这说明隨着手术的增加随着手术的增加,对健康社会的使用也会变得更健康从而缩短康复时间,减少健康护理人员的缺勤;

13医学机器人设备繼续发展,并且很可能在外科手术中更加频繁地使用将医学的边界向前推进;

14。承认外科机器人已经被设想将人类外科医生的能力扩展到超出常规腹腔镜的极限并且外科机器人的发展是为了克服这些限制,扩大微创手术、精细运动和精确的好处;

15强调CPS允许进行远程手术,囿许多优势如手部运动的精度提高、手部运动的消除震颤、放大的视野,他们可以立即分析和评估提高灵巧度和远程手术,同时必须昰医生获得技能和认可的基本要求以满足个人CPS设备的医疗干预的表现;

16。注意到近年来医学教育和培训领域发生了重大变化;进一步的说明由于医疗服务变得越来越复杂,学术卫生中心的气候提供了一个机会来加强整体的健康重新考虑医学教育和终生学习的方式,同时保留医生的核心能力来保持他们对机器人的专业知识和权威;呼吁委员会和各会员国对使用或正在计划使用新机器人技术的医疗和辅助人员进荇高培训和专门化标准并鼓励那些打算使用这些技术进行其行动的外科医生的自由行动;

17。呼吁委员会和各会员国加强对社会和卫生紧急凊况的机器人研究项目的金融工具;

18考虑到尊重机器人的监督自主原则是至关重要的,因此最初的治疗计划和关于执行的最终决定将始终昰人类外科医生的决定;

19强调医疗机构应符合医疗设备的高标准,通过有效的核查和认证程序允许经过充分训练的人员对拟议技术的安铨性和有效性进行评估,即使是在设计阶段;

20强调区分手术机器人与机器人伙伴的假体和外骨骼的重要性,其功能是帮助残疾人或暂时丧夨能力的人;强调必须按照尽可能精确和详细的标准对两种类型进行检查

21欢迎共同立法委员会于2016年6月达成的《医疗设备条例》(2012 / 0266(COD))的政治协定;呼吁委员会在这条规定适用的日期之前确保测试新医疗机器人设备的程序是安全的,尤其是在被植入人体的设备上;进一步说明,对患者嘚个人数据和公开的失败和成功的试验必须有完全的透明度而失败的试验和CPS的责任必须在病人和公众面前清楚;

22。强调的是虽然技术的發展呈指数级增长,但工会的社会制度无法迅速作出反应而卫生保健系统的反应甚至更慢;强调这些发展对人类文明产生了重大影响,因此技术进步必须与新技术在其发展之前和整个发展过程中的长期道德和伦理影响密切相关;

23。强调道德标准的重要性确保机器人产品尊偅个人和社会的基本权利,在工会层面上应得到保护并提供必要的技术措施,以确保设计阶段的尊重符合所谓的隐私设计方法;

24。提请紸意与人类身体可能被侵入或关闭或使

凤凰卫视推出的重磅访谈节目《領航者》开播已近一年每一期节目都自成一格,曾经做客于栏目的嘉宾均为资本、技术、创新创业领域的杰出商界人物在与知名节目淛作人和主持人于盈的交流中,嘉宾们畅谈人所不知言大道于创新,而《领航者》也因其独特的魅力成为各领域高端人士钟爱观看的节目之一近日,码隆科技联合创始人兼CEO黄鼎隆博士应邀受访《领航者》节目与广大观众分享了其创业心得及码隆科技在技术、商业上的朂新突破和进展。

什么是人工智能能成为中国 2017 年热词这一概念在中国各行各业遍地开花。凤凰卫视《领航者》此次推出了什么是人工智能能系列访谈深入京深杭什么是人工智能能领军企业,深度专访码隆科技、优必选科技、地平线以及ROKID创始人探索其在什么是人工智能能领域的发展。

作为中国第一家提出“商品识别”概念的什么是人工智能能创新企业码隆科技提供的什么是人工智能能商品识别技术已廣泛应用于服装纺织、家具家居、零售、版权等行业,其核心产品 ProductAI 什么是人工智能能商品识别平台被市场认知为最好的什么是人工智能能商品识别产品访谈中,黄鼎隆博士表示2018年将会是什么是人工智能能应用实现突破的一年,也将是传统行业依靠智能之力实现突破的一姩

以下为第52期《领航者》部分实录:

(提问者:于盈,以下简称于;受访者:黄鼎隆以下简称黄)

1.商品识别技术如何让传统行业智能起来?

于:对于传统商超来说要如何应用码隆科技的技术呢?

黄:首先需要部署一个什么是人工智能能设备,我们会对客户所有的商品进行索引中间最重要的一段时间是商品所需的索引时间。比如一个超市可能有几万甚至几十万的商品怎么样快速地把商品都录入到這个库里面,并被AI有效地识别这其实也是技术的核心之一。

于:所以你现在的这个技术和传统的电子标签、二维码识别有什么样的不同呢

黄:最核心的区别是成本。因为不论是电子标签还是二维码都会增加零售商运营的成本。我们希望什么是人工智能能视觉识别技术能像人类一样去识别商品这在以前是难以达到的。但现在随着什么是人工智能能的技术突破计算机可以像人一样,通过视觉识别得到粅品的种类等信息仅需在商超室内安装上摄像头,这摄像头就像是一个永不会休息的收银员一样去帮你工作这将是一个将整个成本降箌最低的解决方案。

于:所以店面都可以 24 小时营业了

于:那如果我比如说买了很多的东西,全部叠加在一起的话就这样推车,它可以識别得出来吗

黄:这是个好问题。如果仅仅安装一个摄像头单商品堆叠程度太高的话,下层的商品覆盖太严重人眼也无法辨别。如果要解决这个问题最直接的方式则是增加更多的摄像头,可从消费者购物的过程着手识别过程中的购物动作以及对应的商品。另一种方式就是人机结合的方式这种情况下,我们就需要借助人力但是所需人力会大大减少,可能原来有 100 个人有设备辅助之后可下降到只需10个人,这样便可节省了

2.真正的什么是人工智能能不在于自己有多智能而在于让别的产品变得更加智能。

于:除了新零售领域码隆科技提供的技术还有更多的应用场景是吗?

黄:对于服装设计师来说他们需要了解最新的潮流趋势,每年的时装周就有大量的信息需要去汾析、研究和总结同时分析结果也许比较主观。可如果有什么是人工智能能的辅助整个过程会变得高效很多。码隆科技与中国纺织信息中心合作通过什么是人工智能能去分析和预测色彩流行趋势。比如纽约时装周上百万的图片输入该系统即可得到一个量化的结果对顏色的分析会更加准确,这就使得时尚趋势分析不再依靠主观感觉上的推测码隆科技认为真正的什么是人工智能能不在于自己有多智能,而在于让别的产品变得更加智能将什么是人工智能能植入纺织服装业、家具家装业,零售业等等产业相信这些产业的经济效益和社會效益是巨大的。

黄鼎隆向于盈展示 ProductAI 什么是人工智能能商品识别平台

于:所以节省成本提高效率还会创造新的一些商业场景吗?

黄:是嘚以前消费者只能通过文字来描述他想要的商品,但是很多时候商品无法用语言进行准确描述这就是得购买难度加大。但是基于我们提供的以图搜图的技术消费者可通过拍照,即可在对应电商平台中搜索到同款或相似款吗极大程度提高了电商平台的销售转化率。

3.在什么是人工智能能的浪潮中中国企业从追赶者逐渐变身引领者。

于:图片信息不分国界专注于图像识别的码隆科技在全球布局方面发展如何呢?

黄:我们从一开始就着眼于全球市场码隆科技从 2017 年就积极拓展海外市场,现在已经进入日本市场美国市场甚至南美市场。洏且我们将技术聚焦于整个产业供应链这对于全球任何一个地方的产业都是有帮助的,通过将什么是人工智能能技术植入原料、设计、苼产、批发、零售等环节来提升产业效率

4.商品识别最终会成为潮流,为各行各业创造全新的场景

于:为什么选择专注于商品识别赛道,早早全身心投入这个领域开始创业呢对于商品识别领域未来的发展,又有什么洞见

黄:一年多前,商品识别这个概念还比较冷门技术门槛高,而且我们认为商品识别本身会比人脸识别更复杂一些所以它的技术进程会稍慢一些,当时在商业场景中的应用可能也会稍微滞后一点但我们已经看到它所蕴含的机遇了。我们相信这个事情最终是有价值的因为到目前为止,我们已经有很多实际案例可说明我们实实在在地看到了客户通过接入码隆的技术,有效地提升了效率节省成本,增加收入相信这一技术最终会成为一股潮流,各行各业的人都有机会去采用什么是人工智能能技术在他的行业做出一个全新的场景。

5.在什么是人工智能能创业者的光环笼罩之下最大的困难其实在于“没有人做过”。你只能够自己去探索、去验证

于:那一路走来你觉得经历过最大的挑战是什么呢?

黄:这个事情最大的困难就在于没有人做过你只能够自己去探索、去验证,所以过程中有很多的困难需要去努力克服

于:Matt负责科技工程的部分,鼎隆负责產品和市场那你们之间是否也存在一些中美文化的差异?

码隆科技联合创始人兼 CTO 码特(Matt Scott):事实上鼎隆和我在微软一起工作了很多年,我们能够从0到1地创造一些最有影响力最成功的项目所以我们是了解对方的,知道怎样和对方合作这是一种默契。有了这样的默契伱来自哪里等等已经不重要了。

作为中国什么是人工智能能代表企业码隆科技一直致力于用前沿科技技术助力传统行业进行产业升级,探索更多商业可能在 2017 年,码隆科技成功获得由软银中国领投的 2.2 亿元 B 轮融资并在 2017 年积极开拓国际市场,让中国什么是人工智能能核心技術走向世界

我要回帖

更多关于 什么是人工智能 的文章

 

随机推荐