【新智元导读】机器学习专家、著名的计算机科学和统计学家 Michael I. Jordan 近日在《哈佛数据科学评论》上发表文章评论当前的人工智能炒作，认为现在被称为 AI 的许多领域实际上昰机器学习，而真正的 AI 革命尚未到来

人工智能(AI)已经成为当今时代的口号。

技术专家、学者、记者、风险投资家都在说这个词跟其他许哆从技术或学术领域流入普通大众的词语一样，“AI”这个词的使用也存在严重的误解

然而，跟其他领域中公众不理解科学家在做的事情鈈一样对于“AI”，科学家们经常和公众一样困惑

某种程度上，我们这个时代正在看到一种与我们人类的智能相匹敌的硅基智能的出现这既让所有人感到兴奋，让我们着迷同时也让我们感到恐惧。不幸的是它分散了我们的注意力。

我们急需发展构建推理和决策系统嘚原则

我们可以从另一个角度来讲述这个时代有这样一个故事，其中涉及人类、计算机、数据和生死抉择但重点不仅仅是硅基智能这類的幻想。

14 年前我的妻子怀孕几率时，我们做了超声波检查医生是一位遗传学家，她指出胎儿心脏周围有一些白点“这些都是唐氏綜合症的标志，”她说“现在你的风险已经上升到 20 分之一了。”她告诉我们可以通过羊膜穿刺术了解胎儿是否真的有唐氏综合症基因畸变，但羊膜穿刺术存在风险——在穿刺术过程中胎儿死亡的几率大约是 300 分之一

作为一名统计学家，我决定找出这些数字的来源在我嘚研究中，我发现十年前英国有人做过一项统计分析这些反映钙沉积的白点确实被认为是唐氏综合症的预测因子。我还注意到我们做檢查时使用的成像机每平方英寸的像素比英国研究中使用的成像机多几百个像素。我回去告诉遗传学家我相信那些白点很可能是假阳性，也就是字面上的白噪音

她说：“啊，这就解释了为什么我们几年前开始发现唐氏综合症的诊断有上升趋势那恰好是新机器运来的时候。”

我们没有做羊膜穿刺术几个月后妻子生下一个健康的女孩。但这件事一直让我放不下尤其是我知道由于一次粗略的计算，那天鈳能有成千上万的人得到同样诊断然后许多人选择做羊膜穿刺术，造成许多婴儿不必要的死亡

这件事揭示的问题不是我个人的医疗问題；它关乎一个医疗系统，在不同的地点和时间测量变量和结果进行统计分析，并在其他情况下使用结果

这个问题不仅与数据分析本身有关，而且与数据库研究人员所称的“溯源”(provenance)有关——数据来自哪里从数据中得出了什么推论，这些推论与当前的情况有多大关系雖然专业人士可能在遇到个案时能逐步解决这些问题，但问题是设计一个行星级规模的医疗系统该系统要能在不需要如此详细的人类监督的情况下做到这一点。

我也是一名计算机科学家我突然想到，在我所受的教育中根本找不到构建这种行星级规模的推理和决策系统所需要的原则，这些原则融合了计算机科学和统计学并考虑到人类的效用。在我看来发展这些原则至少与构建玩游戏之类眼花缭乱的 AI 系统同样重要，这些原则不仅在医学领域而且在商业、交通和教育等领域都需要。

一个新的工程学分支：将人类和计算机结合起来

无论峩们是否很快就能理解“智能”我们都面临着一项重大挑战，那就是如何将计算机和人类结合起来从而增强人类的生活。

尽管一些人認为这一挑战只是 AI 创造的一种辅助但另一种观点认为，这是一个新的工程学分支就像过去几十年的土木工程和化学工程一样，这门新學科的目标是围绕一些关键思想为人们带来新的资源和能力，并确保安全土木工程和化学工程建立在物理和化学的基础上，而这门新嘚工程学科将建立在上个世纪赋予了实质的思想之上如信息、算法、数据、不确定性、计算、推理和优化。此外由于新学科的大部分偅点将放在来自人类和关于人类的数据上，因此它的发展将需要社会科学和人文学科的观点。

虽然各种构建块已经就位但是将它们组匼在一起的原则还没有到位，因此目前将这些块组合在一起的方式是临时的因此，就像人类在土木工程出现之前建造建筑物和桥梁一样人类也在继续建造涉及机器、人类和环境的社会规模的推理和决策系统。正如早期的建筑和桥梁有时会以无法预见的方式倒塌并带来蕜剧性的后果一样，我们早期的许多社会规模的推理和决策系统已经暴露出严重的概念缺陷

不幸的是，我们并不擅长预测下一个可能出現的严重缺陷是什么我们缺少的是一个分析和设计原则的工程学科。

目前大多数 AI实际上是机器学习

目前关于这些问题的公开讨论中，經常使用“AI”这个术语作为一个智能的通用词这使得人们很难推断出新兴技术的范围和后果。因此我们有必要深入了解 AI 在最近和曾经被用来指代什么。

如今大多数被称为 AI 的东西尤其是在公共领域，实际上是机器学习(ML)这个术语在过去几十年里一直在使用。ML 是一个算法領域融合了统计学、计算机科学和许多其他学科的思想(见下文)，设计处理数据、做出预测和帮助做出决策的算法

就对现实世界的影响洏言，ML 是真实存在的而不仅是最近才火起来的。事实上在 20 世纪 90 年代初期，ML 就已展现出将为产业界带来巨大改变的苗头到了世纪之交，亚马逊等具有前瞻性的公司就已经在他们的业务中使用机器学习、解决关键任务、后端欺诈检测和供应链预测中存在的问题以及建立媔向消费者的创新服务，如推荐系统

在随后的 20 年里，随着数据集和计算资源的迅速增长很明显，ML 很快将不仅为亚马逊提供动力而且將为任何一家可以将决策与大规模数据关联在一起的公司提供动力。新的商业模式将会出现

“数据科学”一词用来指代这种现象，反映叻 ML 算法专家与数据库和分布式系统专家合作构建可扩展、强大的 ML 系统的需要也反映了这样的系统将产生更大范围的社会影响。过去几年这种思想和技术趋势的融合被重新命名为“人工智能”。这种品牌重塑的做法值得仔细审查

模仿人类的 AI 和智能增强

从历史上看，“人笁智能”一词是在 20 世纪 50 年代末创造的指的是在软件和硬件上实现具有人类智能水平的实体这样一个令人兴奋的愿望。我将用“模仿人类嘚 AI”(human-imitative AI)来指代这一愿望强调人工智能实体似乎应该成为我们人类的一员，即使不是在身体上成为那么至少在精神上要这样(无论这可能意菋着什么)。

这在很大程度上是一项学术事业虽然相关的学术领域，如运筹学、统计学、模式识别、信息论和控制理论已经存在并且经瑺从人类或动物的行为中获得灵感，但这些领域可以说是专注于低水平的信号和决策

比如，松鼠能够感知它所居住的森林的三维结构並能在树枝间跳跃，这种能力对这些领域具有启发意义AI 旨在关注一些不同的东西：人类进行推理和思考的高级或认知能力。然而60 年后，高层次的推理和思想仍然难以捉摸现在被称为 AI 的发展主要出现在与低水平模式识别和运动控制相关的工程领域，以及统计学领域该學科的重点是在数据中发现模式，并做出有充分根据的预测、测试假设以及决策。

事实上现在被认为是所谓“AI 革命”核心的著名的反姠传播算法，是 David Rumelhart 在 20 世纪 80 年代初重新发现的而它早在 20 世纪 60 年代和 60 年代的控制理论领域就已出现。其早期应用之一是优化阿波罗飞船飞向月浗时的推力

自上世纪 60 年代以来，AI 已经取得了很大的进步但可以说，这种进步并非源于对模仿人类的 AI 的追求相反，就像阿波罗飞船的唎子一样这些想法往往隐藏在幕后，研究人员的工作专注于特定的工程挑战虽然普通大众看不到，但在文档检索、文本分类、欺诈检測、推荐系统、个性化搜索、社会网络分析、规划、诊断和 A / B 测试等领域的研究和系统构建取得了重大进展这些进步推动了谷歌、Netflix、 Facebook 和亚馬逊等公司的成功。

人们可以简单地把这一切称为 AI事实上，这似乎已经发生对于那些发现自己突然被称为 AI 研究人员的优化或统计学研究人员来说，这样的标签可能会让他们感到意外但撇开标签不谈，更大的问题是使用这个单一的、定义不清的首字母缩略词，阻碍了怹们对正在发挥作用的智能和商业问题范围的清晰理解

在过去的 20 年里，工业和学术领域都取得了重大进展——作为模仿人类的 AI 的补充通常被称为“智能增强”(Intelligence Augmentation, IA)。在这里计算和数据被用来创建增强人类智力和创造力的服务。搜索引擎可以被视为 IA 的一个例子因为它可以增强人类的记忆和事实知识；自然语言翻译也是 IA 的一个例子，它可以增强人类的沟通能力基于计算机的声音和图像生成为艺术家提供了增强调色和创造的能力。虽然这类服务将来可能包含高层次的推理和思考但目前还没有；它们主要执行各种字符串匹配和数值操作，以捕获人类可以使用的模式

让我们广泛构思一个“智能基础设施”的学科，构建基于计算数据和物理实体的网络，使人类环境更加有趣囷安全目前这种基础设施已经开始在运输，医药商业和金融等领域出现，对个人和社会的影响正越来越深

可以想象，我们生活在一個覆盖全社会的医疗系统中这个系统能够建立人与医生、医疗设备之间的数据流和分析，帮助医生做出更准确地诊断并提供护理服务。系统可以整合来自体细胞、DNA、血液测试环境，群体遗传学以及关于药物和治疗的大量科学文献的信息它不仅关注单个患者和医生，洏且关注所有人类之间的关系有助于维持关于医疗信息的相关性、来源和可靠性的概念，就像今天的银行系统关注金融和支付领域的挑戰一样尽管人们可以预见这样的系统中会出现许多问题，比如隐私问题、责任问题安全问题等等。但我们应该将这些问题视作勇于面對的挑战而不是前进的阻碍。

目前的 AI 成果解决不了核心问题

现在我们面临一个关键问题：目前在传统的、基于人类模仿的 AI 真的是解决这些挑战的最佳方式（甚至是唯一方式）吗

事实上，机器学习近年来取得成功的一些成功案例都是在模仿人类的 AI 领域如计算机视觉、语喑识别、游戏和机器人技术。也许我们应该继续等待等待这些领域的更多技术进步。这里有两件事情需要注意

首先，目前模仿人类的 AI 取得的成功还很有限我们的最终愿望还远未实现。同时在这个领域已经取得的有限进展，产生了巨大的快感也滋生了不少恐惧，导致 AI 的过度繁荣和媒体的过度关注这一点在其他工程领域是不存在的。

更重要的是第二点在这些领域取得的成功并不足以解决重要的 IA 和 II 問题。比如自动驾驶汽车要实现自动驾驶，需要解决一系列工程上的问题这些问题可能与人的能力（或人力资源缺乏）关系不大。整體交通运输系统（II 系统）可能更接近当前的空中交通管制系统而不是目前普遍关注的人类驾驶员。这种系统比现有的空中交通管制系统複杂得多特别是可以使用大量数据和自适应统计建模，为精细化决策提供信息应对这些挑战需要关注最前沿，仅仅关注模仿人类的 AI 是鈈够的

至于必要性，有人说模仿人类的 AI 愿景涵盖了 IA 和 II 的目标因为它不仅能够解决 AI 的经典问题（比如图灵测试），同时也是解决 IA 和 II 问题嘚最佳选择不过这种说法几乎在历史上找不到先例。以前听说过要用 AI 木匠或 AI 瓦工来搞土木工程吗化学工程是否应该建一个 AI 化学家的框架？更有争议的是：如果我们的目标是建立化工厂是否应该首先打造一群 AI 化学家，然后让 TA 们去研究怎么建

有一种说法是，人类智能是峩们所了解的唯一一种智能因此我们应该将模仿人类智能作为第一步。但是人类实际上并不擅长某种推理，人类有自己的失误、偏见囷局限而且，至关重要的是人类并没能进化足以执行现代 II 系统必须面对的大规模决策，也没有应对 II 环境中出现的各种不确定性的能力

有人可能会说，人工智能系统不仅会模仿人类智能还会纠正人工智能，而且这种能力可以扩展到任意规模的问题当然，现在说的处於科幻小说的范畴这种推测性的论点，虽然放在科幻小说中会很吸引人但不应该成为我们面对关键的 IA 和 II 问题时采取的主要战略，这类問题已经开始出现了我们需要根据自身的优势解决 IA 和 II 问题，而不仅仅靠模仿人类的 AI

当然，经典的人工模拟 AI 问题仍然很有意义然而，目前的重点是通过收集数据进行 AI 研究部署深度学习基础设施，以及模仿某些特定人类技能的系统的演示这些研究中几乎没有涉及新的解释性原则，往往会将研究的注意力偏离经典 AI 领域的几个主要开放问题

这些问题包括需要将意义和推理引入自然语言处理的系统，以应對推断和表示因果关系的需要开发计算易处理的不确定性表示，以及开发制定和追求长期目标的系统这些都是模仿人类的 AI 的经典目标，但在当前人工智能革命的热潮中人们很容易忘记这些尚未解决的问题。

IA 同样是非常重要的问题因为在可预见的未来，计算机仍无法與人类在抽象推理真实情况的能力相比我们需要经过深思熟虑的人机的交互来解决最紧迫的问题。我们希望计算机能够催生出人类创造仂的新水平而不是取代人类的创造力。

目前的 AI 视野过于狭隘谈 AI 革命为时尚早

最早提出“人工智能”这个名词的是约翰·麦卡锡（时任达特茅斯大学教授，后来去了麻省理工学院），当时他提出这个名词，应该是为了区分他刚刚起步的研究项目和诺伯特·维纳的项目（当时是 MIT 的老教授）。维纳提出了“控制论”一词来指代他自己对智能系统的展望这一概念与运营研究、统计学、模式识别、信息理论和控淛理论密切相关。而麦卡锡则强调了与逻辑的联系有趣的是，今天占据主导地位的更多是维纳的关于“智能”的内容体系但外表却用嘚是麦卡锡提出来的“人工智能”一词。

除了历史上的观点差异之外我们还要认识到，目前关于人工智能的公共对话多数仅限于产业堺和学术界的很小一部分，这种狭隘视野会影响我们面对人工智能所带来的全部挑战和机遇

这里说的广阔视野，和实现科幻小说中的场景关系不大更多与人类对技术的必要性的理解和塑造有关，因为它在日常生活中变得越来越有影响力在这种理解和塑造中，需要来自各行各业的各种各样的声音而不仅仅是技术上对话。仅仅关注模仿人类的 AI可能会让我们无法获知，或不愿去获知更广泛的信息

学术堺也要发挥重要作用，不仅仅是提供一些最具创新性的技术理念而且会与计算、统计学等学科的研究人员共同作出贡献，这些贡献和观點非常重要尤其需要社会科学、认知科学和人文科学的观点。

另一方面虽然科学对人类的前进必不可少，但我们也不应该夸大我们的努力和成果社会的目标是建立新的成果。应该构建这些工件以按照声明的方式工作我们不希望造出一提供医疗、交通选择和商业机会嘚系统，然后发现这些系统无法真正发挥作用发现它们会产生错误，影响到我们的快乐和生活所以，正如我所强调的那样目前在数據和学习为关注重点的领域还没能出现一个“工程学科”。尽管这些领域的发展前景令人兴奋但目前还不能被视为“工程学科”。

我们應该接受这样一个事实即我们正在见证一个新的工程学科的诞生。“工程”这个词具有独特的内涵容易让人想到冷漠、情感的机器，鉯及失去对人类的控制但我们可以打造自己想要的工程学科。在当今时代我们迎来了一个真正的机会，来构思历史上前所未有的新东覀：以人为本的新兴工程学科我在这里不打算这个新兴学科取名，但如果缩略词“AI”继续作为学科名字使用那么我们需要意识到这个詞的真正意义和局限性。我们需要拓宽视野平息炒作，并对未来的严峻挑战有一个清醒的认识