about

关于阿西莫夫的机器人三定律和自动驾驶的五条基本常识性原则详解

时间: 2024-02-04 来源:碳化硅管系列

  ,除了应该不断提升机器本身的智力水平之外,让其更好用之外,在其和人类打交道的时候,还需要一个更宏观的,在技术至上的指导原则。他在短篇小说集《我,机器人》中写了这样一组规则,称为“机器人三定律”:

  1985年,阿西莫夫又出版了《机器人与帝国》,在书中他将三则扩张为四则,增加了第零法则:机器人不得伤害整体人类,或坐视整体人类受到伤害,构成更加完整的机器人四定律。

  虽然机器人三定律、四定律在很多有关于人工智能的电影和文学作品中屡屡出现,但也一直停留在想象阶段,并没有被实际应用过。一方面的原因,是在很长一段时间里,机器的智力水平还没有高到能和人类社会日常生活的息息相关;另外一个原因,则是由于阿西莫夫的原则只是简单的语言符号,并未构成严密的逻辑闭环。

  但这并不妨碍阿西莫夫的思考成为一种新学科“机械伦理学”的基础,一门以人类为中心,关于机器人的建造和使用的学科,其核心就是如何安全的应用智能机器。

  而Mobileye公司,正在试图在自动驾驶领域,书写堪比机器人三定律,甚至更精确的规则。

  这个月的月初,至顶网(赛博故事母平台)拜访了Mobileye,一家创立于 1999 年,总部位于以色列的高科技公司。该公司的主要业务为辅助驾驶系统和自动驾驶开发所需要的计算机视觉机器学习、数据分析、定位与地图建模等技术。2017 年的 3 月,Mobileye被英特尔公司斥资 153 亿美元收购,并与后者的自动驾驶事业部(ADG)合并,形成新的自动驾驶部门,由 Mobileye 联合创始人、董事长兼首席技术官阿姆侬·沙书亚(Amnon Shashua)教授领导。

  图注:Mobileye 联合创始人、董事长兼首席技术官阿姆侬·沙书亚教授

  很长时间以来,自动驾驶汽车的安全可靠性,一直被认为只和数据量密切相关。这是由于这一次由机器学习、深度学习带来人工智能浪潮的本质来是使用统计学方法对数据的利用,让机器通过“吃掉”海量的数据来总结模式和规律。只要数据足够多,也就是路测的里程足够长,自动驾驶汽车就会更安全。沙书亚在和我们交流中表示,在自动驾驶这件事上,“把任务完全交给统计学是不可行的”,不能只有数据训练,还要有一些常识原则,否则会面临极大的发展障碍。

  障碍之一在于经济性,“要让人类信任自动驾驶汽车,安全性至少要比人类司机好100倍。如果用统计学方法来实现,这就意味着1亿小时的路测,假设路测时每小时行驶30公里,路测的距离是30亿公里”, 沙书亚做了一个简单的计算来证明经济上的不可能性,毕竟30亿公里,相当于绕地球跑了7万圈还不止。

  障碍之二来自于黑箱问题,沙书亚认为统计学之上的AI “既不透明、也不公开”。现在的深度学习是基于数据的自动编程,一种方式成功了,我们知道它有效,但是我们不知道它为什么有效,反之,如果它失败了,我们也不知道它为什么失效,唯一能做的就是不断调整参数,加大数据量,试图让结果更尽如人意,但实际上我们对其“内在”一无所知。

  但对自动驾驶而言,透明是非常重要的。毕竟驾驶这件事太复杂了,涉及到社会安全,涉及到驾驶员、乘客、路人,以及涉及交通部门、汽车公司甚至保险公司等利益相关方。一旦车辆发生事故,我们却无法向涉事相关方解释缘由,也无法界定责任,进而很难让自动驾驶赢得社会信任。

  在自动驾驶汽车,很可能成为人类第一个要考虑如何与其安全相处的智能机器之际。Mobileye试图在统计学之上,增加一些人类可以理解的规则,发布了它RSS—— Responsibility Sensitive Safety模型,中文翻译为责任敏感安全模型。RSS中所制定的各种规则,正如同阿西莫夫的“机器人三定律”,其核心目的也是安全。

  1. 自动驾驶汽车本身不能导致事故(它可以是事故中的一方,但不是导致事故的一方);

  2. 自动驾驶汽车应该在其它车辆发生错误时(导致事故),做出正确反应,避免发生更严重的事故。如果用一句话来总结,就是自动驾驶汽车永远不应为一场事故负责。

  之所设立这个目标,可以理解为是要解决自动驾驶的可行性。不导致事故,就意味着自动架设汽车不会为事故承担责任,这在基础上卸下了监管部门、汽车公司的压力。

  但如果没有合理的方式,仅靠这句文字符号,无从保证自动驾驶汽车可以沿着这个目标迈进。所以自动驾驶汽车就需要能回答这样几个问题:1,什么是可能发生事故的危险情况;2,遇到问题时,什么是正确的反应;3,以及最后,也是非常重要的,既然自动驾驶汽车要避免成为导致事故的一方,那么如何认定事故中的责任方?(即如何避免成为责任方)

  3. 拥有“路权”,但别刻意争取路权。(英文是:right-of-way is given,not taken)。如果举例来说明,前车加塞,或许“可以不让路,但是为了保证安全,可以让速。

  需要注意的是,RSS并非只是看似简单的文字符号描述,而是由强大的数学逻辑来保证可实现,像下图这样的公式(关于安全车距),在论文中处处可见。沙书亚也强调,必须遵守基于三方面的原则对这些常识进行公式化,包括合理性、有效性和可验证性。而有了这些常识准则,自动架设汽车的决策系统,就可以避开单纯依靠统计学AI实现安全驾驶的低效性。

  在我们走访Mobileye公司的过程中,发生了比较重要的新闻。Mobileye和大众宣布共同合作首个自动驾驶网约车服务(也称为出行即服务,MaaS)。沙书亚认为这个项目的重点在于,这是全球第一个由政府参与的自动驾驶MaaS项目。以色列政府承诺将为此成立专门的委员会,讨论监管壁垒、监管架构支持MaaS发展。

  对于自动驾驶汽车这样的新生事物,沙书亚认为监管的松紧程度是非常重要的。如果为了安全,过于看重监管,很可能一事无成。这方面来看,美国相对放松,欧洲则是重重监管,过松或者过严都会保证一事无成(过松导致事故频发让公众失去信心,过严则让产业毫无创新机会)。而以色列做了制度上的创新,由政府介入来确保项目在安全性和可行性的平衡,“做到了创新型监管(制度创新)”。

  在沙书亚眼中,新的技术要求,让政府法律的合理监管体系,和技术上的严密数学逻辑,组成了一门重要的新学科——“法规科学”(regulatory science),一门把法律和高等数学结合在一起的新学科,正如阿西莫夫催生了机械伦理学一样。沙书亚希望RSS不是Mobileye一家之言,而是成为全球自动驾驶产业的共识,作为一项“常识规则”,认同的人越多,安全性和可用性就越能得到保证。Mobileye现在正在同主机厂合作,同行业供应商合作(百度4个月前宣布将采用Mobileye的RSS模型),甚至同美国、中国等监管机构进行合作,来开展这样推动共识,协同创新的工作。

  同样发生在我们到达Mobileye之时,北京公交集团、北太智能也同时到访Mobileye,三方共同签署了谅解备忘录,建立合作伙伴关系。用北太智能的运营总监李华的话来说,“建立一个基础交通大数据的基础设施”。

  第一次是自驾,以色列并非是一个司机开车循规蹈矩的国度,当我们一行人在异国他乡小心自驾时,时不时被后边响起的鸣笛声催促,甚至被逆行超车。所以当我把这个自动驾驶网约车相关新闻发到朋友圈时,有位在以色列工作过的朋友说,在这里开发自动驾驶,绝对是好地方,有足够丰富的路测场景。

  第二次是乘上了Mobileye平台支持的自动驾驶汽车。在没有人类司机干预的情况下,我们乘坐的福特汽车在马路上自由穿梭。甚至在一次变线时,其反应速度远远超过人类。而事后复盘一想,这丝毫不值得奇怪,毕竟这辆汽车的摄像头可以实时兼顾前后两百米的路况,根本无需像人类一样转向之前,还要匆忙再看一眼后视镜。

  实际上,自动驾驶汽车完全可能已经比人类司机更杰出了,只不过出于跨物种担心的缘故,我们需要自动驾驶汽车,比人类驾驶汽车的安全水平高一百倍,才能认可一个新司机的出现。就让人类“老司机”再保持最多不会超过十年的自信吧。

  声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。举报投诉

  手术,多起法律诉讼都表明,美国食品及药品管理局(FDA)在审查方面,做得远远不够;再比如“

  您下一设计硬件预算和规划面临威胁的问题。虽然您无法阻碍技术变革,但是您可以预测其影响。

  总体任务进度的中央处理器发出位置变化请求时开始的。导航系统通过制定行程计划或轨迹以开始执行位置变化请求。行程计划需考虑可用路径、已知障碍位置、

  烹饪的智能化设备。对现代年轻人工作忙碌和年老体弱等没有时间做饭或者无法

  的带宽有了更高的要求。从而使用以太网技术及中央域控制(Domain)和区域控制(Zonal)架构是下一代车载网络的发展方向。然而对于

  事故,和最近在Defcon上演示的如何干扰传感器,都充分说明了传感器在

  实现的基础,如果不能正确地感知周围环境,那么接下来的认知、决策与控制,都是空中楼台。

  对环境和拥堵产生积极影响。市场调研公司ABI Research预测:到2030年,道路上四分之一的汽车将会是

  概念想必大家并不陌生,但对于其中发挥“眼睛”作用,眼观六路耳听八方的各种传感器,可能大家未必非常熟悉。通常而言,为获得良好的路况检测结果,一辆

  ;某些高科技公司则希望通过各种外部传感器实时采集海量数据,处理器经过数据分析然后

  汽车业务(autonomous vehicle business task),旨在专注于具有战略意义的行业。 此前,LG

  的激光雷达传感器、毫米波雷达加到车上后,可以实现不再依靠人脑控制车辆,开始进入

  的分级,目前国际上普遍认可的是SAE(国际汽车工程师协会)的标准,分为L0-L5,共六级,SAE在

  的斯坦福大学教授塞巴斯蒂安·特伦(Sebastian Thrun)。在谷歌任职时,特伦

  上面的多种传感器及器件均用过,超声波传感器和巡线传感器还未接触过,想了解下这种传感器的灵敏度和精度,而且近年来

  的冬天来了?“一个致命的事故一定是由多个小的错误组成的。”7月初,特斯拉发表博客叙述了NHTSA(美国国家公路交通安全管理局)正在着手调查第一起Tesla

  汽车研发团队的联合调试打磨,RS-LiDAR-Algorithms 目前已经可以驾驭常见的大部分

  的几种算法的系统集合,并无真正人类的“智慧”。至于网络上那些造型各异的唱唱歌跳跳舞的

  ”汽车普及也有相应的“痛点”,包括法律法规、伦理问题、成本高企等。 无人

  技术是怎么回事,是用什么板子开发的需要应用哪些技术和知识。提问题提得不是很好请各位见谅

  新车将搭载激光雷达。随着成本不断下探且产品质量达到车规级要求,激光雷达在高级辅助

  领域的市场规模将在未来5年里保持高速增长,激光雷达在无人机、智能城市和

  台监控萤幕,车上再安装几个基本硬体设备,以及 4G LTE 的网路连线

  概念车,但为什么直至最近无人车才不再被视为科幻小说,而是眼下将实现的革命

  科技产品?追其原因,主要在于,人工智能的显著进展,以及开发无人车的所需技术和硬件

  部分,针对R16 5G-V2X进行详细介绍,分析目前技术仍存在的不足。第四部分,总结了全文主要观点,并强调了通信对未来网联化

  汽车。于是乎在各种行业论坛和发布会上,我们都能看到不少人面对企业和专家提出了特殊情景下“该撞谁”的问题。

  公共车辆——出租车、拼车或公交车,能够将我们从公共交通站、市中心或办公区域带到想去的地方(最后一公里)。有没有更好的ADAS系统解决方案,对接口进行衔接?

  ,需要消除很多法律、社会和结构障碍。尽管几乎我们所有人都在科幻小说或电影中见识过“

  【如果你在开车,不论是外界客观环境或自己身体条件造成看不清前方路况时,你会减速及停车】,这是

  Mobileye,在日前推出的责任敏感安全模型——RSS(Responsibility Sensitive Safety),以及该模型的运行模式。在交流中,Jack Weast将RSS定义为给

  装置。它既可以接受人类指挥,又可以运行预先编排的程序,也可以根据以人工智能技术制定的

  不能伤害人类;它们必须服从于人类;它们必须保护自己。后来还加入了“第零

  正以各种各样的形态存在于我们的日常生活与工作当中。那么对于这些逐渐融入到我们生活的

  ”,它被描述为一组“以安全为重点的提示”,指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。

上一篇:一种光纤比色测温仪设计的具体方案

下一篇:《专利法细则》及《专利审查指南》修改详解:权期限补偿