图灵奖得主Joseph Sifakis：迈向工业化 AI——挑战与机遇
仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
近期，图灵奖得主，美国国家科学院、工程院院士约瑟夫·斯发基斯发表了题为「迈向工业化AI——挑战与机遇」的演讲。他表示，人工智能的工业革命才刚刚开始，实现这轮工业革命将主要取决于我们开发AI智能体从而构建自治系统的能力。
与此同时，他表示，中国拥有坚实而广泛的工业基础和统一的国内市场，应该发展自己的人工智能愿景。如果中国成功实现了这一愿景，将能够在工业AI领域取得领先地位，平衡AI的战略博弈，并与志同道合的国家联手，以一种调和科技发展与安全需求的方式规范AI，造福社会。
JosephSifakis，欧洲科学院、法国科学院、法国工程院、美国国家工程院院士。2007年，他曾和EdmundClarke（美国卡耐基梅隆大学教授）及AllenEmerson（美国得克萨斯大学奥斯汀分校教授）一起荣获图灵奖。他们在开发模型检查方面发挥了重要作用，检查了硬件和软件行业广泛采用的高效验证技术。
以下是全文要点摘录：
01
数字融合：从传统人工智能到自主人工智能
迄今为止，信息通信技术（ICT）和人工智能（AI）基本是各自发展的，两者之间几乎没有互动，而人工智能在数字革命中仅发挥了边缘作用。如上图所示，数字融合指的是将计算机整合到不同类型应用中的趋势，推动了商业应用、电信网络、嵌入式系统等领域的持续进步。预计人工智能在这一演变过程中将发挥重要作用，这需要开发智能的自主系统。人工智能的成功将取决于其对构建智能系统以及实现数字融合最终阶段的贡献。
人工智能仍处于初级阶段。尽管今天看到的AI成果令人印象深刻，但它们仅为构建智能系统提供了要素。我们尚未掌握将这些元素整合在一起的原理和技术。目前的人工智能主要侧重于辅助功能，而未来的应用将需要与人类持续互动或在无人干预的情况下进行。
因此，我认为当今有三种不同的方式来使用人工智能系统：
系统针对用户提出的问题给出答案。
监控系统：
能够与系统持续互动的AI智能体。
人工智能的工业革命才刚刚开始，实现这轮工业革命将主要取决于我们开发AI智能体从而构建自主系统的的能力。
我们如今讨论的“人工智能”体系，涵盖了各种各样的人工智能方法和不同的应用领域。正如上图所展示的那样，不同的AI应用有着不同的成熟度。例如，计算机视觉已然成为一项在实际场景中广泛应用的成熟技术；而像“自动驾驶系统”这类技术，目前仍处于发展的初级阶段。
此外，通用人工智能在特定领域的应用中蕴含着巨大的潜力。我们需要用于科学研究的人工智能、需要用于分析经济和社会的人工智能，也需要用于工程和工业用途的人工智能。显而易见的是，我们当下所拥有的人工智能，亟需针对特定的应用领域进行高度专业化的发展，以满足不同专业领域的独特需求。
02
自主系统及其重要性
自主系统是人工智能发展的终极阶段，是迈向构建展现人类水平智能系统的重要里程碑。正如物联网（loT）技术所设想的那样，随着自动驾驶汽车、智能电网、智能工厂、智能农场、自治网络的发展，自主系统可以代替人类，进一步自动化现有组织的需求。自主系统支持超越机器学习系统的智能系统范式。这样的自主系统应该是由智能体组成的分布式系统，每个智能体追求特定目标，智能体应该能够管理相互冲突的目标，与不可预测的网络物理环境互动，与人类协作。自治系统将展现出群体智能，最终实现系统的整体目标。
与信息通信技术（ICT）系统不同，当下的AI系统可解释性较低。我们无法依据数学模型来预测其行为及其后果，这导致我们无法保证AI系统的可靠性。这一点在自动驾驶系统中表现得尤为明显。
03
AI系统需要克服的障碍
曾有人声称到2020年可实现完全自动驾驶，但这并未实现。AI系统的安全性至关重要。这一问题已经成为国际峰会和联合国讨论的主题。
另一点需要强调的要点是，一些大型科技公司提出所谓的“负责任的人工智能”概念。由于我们尚未了解人类智能背后决策机制，因此很难评估这种“以人为本”的属性并保证其有效性。
所有的迹象都表明，人工智能“泡沫”已经达到了一个平台期，其在实体经济中的使用和影响实际上是非常有限的。当然，这不仅是因为AI的可靠性不足，还与大型科技公司的战略有关。这些公司优先考虑让大众快速采用AI对话技术，从而迅速占领市场。他们正在依赖暴力算法进行一场疯狂的竞赛，假设当前解决方案足以实现人类水平智能。这种策略还带来了严重的经济风险。经济分析师已警告投资规模与盈利时间范围之间存在不平衡，甚至有人担心金融泡沫会破裂。
04
AI与系统工程的结合
自主系统的发展依赖于传统信息通信技术（ICT）与人工智能之间的结合。这带来了一些技术难题。例如，如何使用不可信组件（包括AI组件）构建可靠的系统。另一个重要问题是，在需要适应变化的运行条件以实现可进化性的前提下，如何确保运行时的正确性。
自主人工智能系统的验证十分重要。我们现在正从基于理性验证方法转向经验验证方法，因为我们无法应用数学模型来解释当下的AI系统的行为。例如，目前关于自动驾驶汽车是否足够安全还存在很多争论。我们可能需要统计技术、测试技术来保证系统的安全，而这些技术尚未成熟。
技术标准的缺失也是一个非常重要的问题。如果我们没有标准来评估风险，我们无法对自洽系统的接受程度进行客观评估。自动化系统和自主系统之间还存在很大的差距、我们需要努力发展新的科学和技术基础，弥平这一差距。
05
建立全球监管框架
若没有全球统一的监管框架，我们就无法认可人工智能在工业和其它应用领域中做出的关键决策。各国政府和机构的官方声明证实了人工智能监管的需求。然而，对于以下问题仍缺乏共识：应监管哪些内容？使用人工智能涉及哪些风险？如何在实践中落实监管？
当前，欧盟和美国在人工智能监管上存在分歧。欧盟拥有更强大且全面的人工智能法规，尤其是《人工智能法案》和《数字服务法案》这两项法案。这些法规采用了风险管理方法，要求确保所有人工智能系统（尤其是关键性系统）必须具备高可靠性。
然而，如果严格实施欧盟的法规，许多关键的人工智能应用将不会被接受。相比之下，美国的法规则更为宽松，主要由建议和指南构成，为商业人工智能开发商提供了更大的自由度。这些法规与大型科技公司的立场一致，提倡负责任的人工智能原则，并主张不应仅依据严格的技术标准来评估人工智能系统。
联合国倡导建立人工智能全球监管框架，但目前达成协议的可能性很小。美国正利用其在对话式人工智能领域的主导地位，推行自我监管和以市场为中心的方法。
06
中国是否能引领工业AI
中国拥有坚实而广泛的工业基础和统一的国内市场，这使得中国非常适合发展更可靠的且更适合实体经济需求的人工智能，特别是实现从自动化系统向自主系统的转变。
中国应聚焦于每个应用领域的核心技术，开发特定领域的解决方案，并利用其庞大而多样化的工业基础所积累的丰富数据。这些数据可用于训练系统以解决工业问题。同时，中国还可以依赖大量智能手机用户提供的数据。此外，中国应鼓励各领域的国有企业合作，生产基础的人工智能构建模块。目前，构建工业人工智能应用所需的许多关键构建模块仍然是缺失的，包括公共数据基础设施、平台、方法和工具。
中国应发展自己的人工智能愿景。凭借强大的产业基础，中国应将AI应用于各种领域，如自主运输系统、智能城市、智能工厂和农场、智能电网以及自主电信网络等。如果中国成功实现了这一愿景，中国将能够在工业AI领域取得领先地位，平衡AI的战略博弈，并与志同道合的国家联手，以一种调和科技发展与安全需求的方式规范AI，造福社会。
-推荐阅读-
报名丨第七届智源大会，6月6-7日北京见
本文版权归智源社区所有
