“【2021世界智能网联汽车大会】约瑟夫·希发基思：自动驾驶为何难以实现”

9月25日至28日，2021年世界ICV大赛在北京举行。 本届大会围绕产业重建、融合应用、共生三个章节展开，设有开幕式、主论坛、7个主题峰会、6个特色专业场地和2个闭门会。 图灵奖国际专家1人，国内外院士7人，国际国内ICV及ict行业专家近150人，邀请公司人士参加演讲讨论。 以下是图灵奖获得者、法国工程院院士和欧洲科学院院士、美国人文科学院士约瑟夫·希法基斯( joseph sifakis )的演讲实录，请参考。

照片:图灵奖获得者、法国工程院院士和欧洲科学院院士、美国人文科学院士joseph sifakis

在这次演讲中，我将阐述自动驾驶车，特别是可靠的自主系统的制造如此困难的原因。 在我看来，自律系统对实现产业物联网的愿景非常重要。 由于市场的诉求，自律系统诞生了。 它使现有的系统更加自动化，人工操作正在被自主系统所取代。 同时，自主系统与游戏机器人和智能个人助手有很大不同，自主系统很重要，能够动态匹配不断变化的可能相互冲突的目标。 他们需要应对许多复杂的不确定性和无法预测的网络物理环境，最终与人类和谐、协调、合作。 这就是我们所说的“共生”自治。

目前，为了实现自治系统的愿景，需要从单一任务的单一目标、单一域系统转移到响应型或主动型智能系统。 这些系统很多很复杂，紧接着自动驾驶系统、智能车、智能工厂等多个协同任务。 众所周知，自动驾驶车是一个非常热门的话题，尽管大型科技企业积极参与并投入巨额资金，但自动驾驶车“即将实现”的预测是错误的。

最近，埃隆·马斯克也承认，要全面落地应用全自动无人驾驶技术，就必须克服实现世界的人工智能技术，我们也正从过渡乐观期过渡到分支期，但由于我们的过度乐观而导致了错误的认识。 这反映了我们对自主问题的本质和潜在的技术问题，了解不足的现状也是今后要讨论的问题。

目前两种不同的技术方法不能解决自主问题的挑战 一是使用以前流传下来的重要系统工程。 我们已经将这种锥形方法应用于飞行控制装置的生产系统，但这种方法不适用于自动驾驶车。 大型科技企业正在使用另一种方法。 也就是说，虽然是端到端的人工智能处理方案，但这些人工智能处理方案同样无法提供所需的强大可靠性保证。

虽然目前正在讨论人工智能的不可解释性，但是我认为如果我们成功构建了自律系统，自律交通系统就会大幅缩小机械和人类智慧的差距。 我想说的是，这现在还有点难实现，但将来要实现这个愿景需要新的科学和工程基础。 请看这里。 这是我今天演讲的大纲。 阐述一下制造自动驾驶车这么难的理由。 这次演讲结束时，我们将讨论可靠性问题。

陈述一下自主和自主代理的区别吧。 自主代理是一个主动的系统，与新的环境不断交流。 请看这辆汽车。 车内有内部环境和外部环境。 传感器感知到新闻系统并发出指令，执行器在这种环境下执行指令。 该照片集成了3个模块、态势感知模块，可以感知周围环境中发生的事件，并根据态势感知和知识管理进行决定。 你是怎么工作的呢？ 收集到的感觉新闻被传递到神经互联网等系统，用于感知目的和分解器框架。 根据这个解体，制定汽车环境的模型。 这是决策模块采用的语义模型。 这个模块有两个功能。 一个是目标管理，例如预测和解决不会污染的短期目标，使汽车能够在正确的路径上长距离行驶。

例如，假设你想开车从北京出发去上海。 当然，根据语义模型选择目标会生成计划，并按月生成计划。 这是一个相当复杂的过程。 我们不知道怎么处理这个问题，所以今天就讨论这个问题。 另一个功能对未来的自主代理和知识管理非常重要。 为什么会这样呢？ 正因为有知识，ai才能提高理解你可能永远不会遇到的情况，定义新目标的能力，但这在今天并不实用。

我当然知道人工智能很重要，但它引起了一点关于系统可靠性的问题。 现在，为了更好地说明自动化和自主性的不同，我们考虑了汽车工程师协会提出的自动驾驶等级表。 你可以看到这个从l0开始的等级表。 l0表示非自动驾驶，l5表示全自动驾驶。 前三个等级是自动化等级，具有自动化驾驶功能，但责任主体仍然是驾驶员，l3以上等级的自动驾驶系统可能由驾驶员监督。 这称为监督条件下的自动驾驶。 也有在控制的环境下进行自动驾驶的“地理围栏”的自动驾驶和l5级的全自动驾驶。

这里我想强调的是，这个等级表引起了很多误解和误认。 因为这表明从自动化数据系统向自动驾驶系统的过渡是可以渐进的。 但是，你只是从自动化转向了自动驾驶，水平提高了而已。 我刚才说过，l2和l3的水平差距还是很大的。 然后，l3级的自动驾驶带来了很多技术问题，结果发现这是一个非常危险的想法。 因为，我们不知道如何处理人机交互的问题。 这不仅是一般经典的人机交互问题，更是将人的责任转移到机器上的问题。 恰恰相反。 我们不知道怎么处理这个问题。

最后，等级l4和等级l5之间也有很大的差异。 l4级代表地理围栏的自动驾驶。 我相信很快就会实现l4级的自动驾驶。 我知道在欧洲有一辆感兴趣的卡车在高速公路上并排行驶。 这证明了至少在短时间内实现l5级自动驾驶是可望而不可及的。 意味着在我们能做到的前提下，多年后将实现l5级的自动驾驶。

现在，让我们来考虑一下自主系统的问题。 就像我说的，现在有两种方法。 一是使用经典的重要系统工程。 这里展示的这些方法是定义的方法，换言之，他们都是基于标准制定的。 在这里可以看到应用于该系统的v模型和重要的系统开发。 从诉求上看，有建筑模块、编码模块，还有一种向上的做法。 这些做法的一个共同优点是，基于模型的工程师使用模型来解释他们的选择额度。 基于这些模型，他们可以解释提供交通自主系统的决定性证据。 例如民用飞机的话，每小时的飞行故障率是十万亿分之一。 综上所述，这种基于模型的范式输给了自动驾驶交通自律系统的诸多复杂性，也解释了整体上端到端机器学习技术在领域中应用的原因。 当然这也有问题，不允许任何具有决策意义的安全保证，这就是标准要求的。

因此，目前只有我们有构建自动化系统的专业信息，可以信赖，但这是一个多而复杂的系统，只能是组件。 我们有大型技术企业开发的端到端处理方案。 我听说有一个内置巨大的神经互联网，经过长时间训练，积累了庞大数据的自动驾驶平台。 这里，接收帧，发出转向指令，中断加速信号。 目前有几种可用的商业处理方案，但这些方案并未用于自动驾驶汽车。 其理由是为了确保安全性能和可靠性。

我想，将来我们应该构建混合体系结构，从各自的做法中充分挖掘精华。 因此，对于这个混合体系结构系统的一些组件，我认为需要采用机器学习技术，采用神经互联网，但是对于决策等其他方面，可以采用基于模型的技术来处理力的问题 如何以最佳方式组合这些方法是开放性的问题。 另一个非常开放的问题是如何验证自动驾驶车是否足够安全。 你可能看过这样的新闻，但我们甚至模拟过100亿英里的自动驾驶距离。 我们的自动驾驶系统足够安全，这些论点是根据一点点统计形成的。

在现在的情况下，例如，可以通过数据知道哪个国家每英里的事故率。 例如，对于这些来自美国的数据，我们可以对各国进行研究，根据统计学的立场，估算出可以行驶的行驶距离。 行驶2亿9100万英里，如果没有伤亡，系统可靠度可以达到95%。 可信度要达到99.99%，可能需要达到这个数字。 问题是这些争论是关于技术的吗？ 我认为不是这样。 因为在模拟时无法说明模拟英里和“真正的英里”的关系。 这是一个非常重要的技术问题。 你可能让你的自动驾驶车在理想的高速公路条件下行驶几百年也不会发生事故，但问题是模拟涵盖了多少情况，有很多情况。

例如，不同类型的道路，不同的交通状况，不同的天气状况。 对此，我们需要进行技术论证，这也是现在缺失的。 现在拿软件测试来类比，软件有覆盖率的概念，软件测试的覆盖率是指已经运行的软件的比例，这是一个客观的标准，这个标准是你的系统被验证了多少

目前，我们对自动驾驶车没有这样的标准。 另外，关于软件，还应用了功能测试技术。 对此，将本例应用于自动驾驶系统。 应用场景来检测极端情况和高风险情况，但需要了解高风险情况有多少。 有必要了解这些高风险的情况。 我们需要的不仅仅是环境。 当然，从统计学的角度来看，无法对故障和各种风险因素提供判断和诊断。 例如，为什么会有这样的风险呢？ 因为道路结构，堵车程度，天气还是违反交通规则的。

现在，我们总的来说。

首先，我想强调大家都知道的事件。 神经网络的机器学习技术也有可能被愚弄，许多实例证明了这一点。 我最近看了特斯拉的自动驾驶，把月亮误以为是黄灯。 我想解释一下为什么这不会发生在人类身上。 我们应该通过人与人的比较来理解其理由。 人类的理解结合了从传感器层面到语义层面的自下而上的推理。 因为在我们的脑海里，有着这个世界的意义模型呢。 然后进行从语义模型到感知的自上而下的推理。 例如，如果让身体看看被雪复盖的信号的照片，知道信号，同时看到过雪的话，就可以推测这是被雪复盖的信号。 但是，对机器来说，必须训练其在各种情况和各种气象条件下识别信号。

当然，对人类来说，他知道这是基于常识的事故。 给他们看这样的父亲带着孩子的照片，不用说说明谁是父亲谁是孩子，人类就有能力将这两种具象的知识类型和象征性的知识结合起来理解世界。 这也是现在缺失的东西，我们需要这样的系统。 该系统是自学系统，可以建立基于环境的渐进语义模型。 相比之下，机器学习还不够。 推理技术需要结合起来。 这是个困难的问题。 目前，以较为技术性的事实为结论，我认为建立可靠的自主系统不仅关系到智能，还关系到我们不知道如何应对的重要系统工程问题。

当然，我们应该采取混合设计的方法，但问题是如何结合模型库和数据库技术，采用形式化方法的验证也无法实现全球系统验证。 需要很棒的模拟器和测试技术。 此外，还有比较这类系统的测试理论。 任何技术合理的安全判断都必须基于模型，因此必须依赖系统模型中定义的标准。

最后的结论是，我想说自动化系统和自律系统之间有很大的差距。 因此，从其他系统转移到自动驾驶系统的过程不是渐进的。 尽管如此，还是有一点自动化系统要转移到l4级自动驾驶系统。 如果这些系统与可预测的环境有关的话，我想当然也会实现l5级的自动驾驶，但什么时候实现还不知道。 如果要实现的话，就需要花很多时间来实现这个愿景。 对此，我们需要新的科学成果和新的工程技术。

谢谢您的聆听。 谢谢你。

会议副本不断增加。 请点击以下链接查看。 [/s2/]

网站: auto.gasgoo/newstopiclive/358

移动终端: m.gasgoo/news /主题直播/ 358