本文的神话：溯因推理，并提醒人们不要“人工智能的冬天”

本文对当今人工智能界的深度学习现象泼了一盆冷水，指出了人工智能的盲点：溯因推理，并提醒人们不要忽视深度学习的各种问题，否则将面临第三次“人工智能” “因为深度学习。智能冬天”。

深度学习领域的最新进展重新点燃了人们对这些用于通用人工智能的新机器的兴趣。这个想法是，通过构建更大更好的神经网络，我们将能够获得一个越来越接近人脑的数字化版本。

但这是一个神话，计算机科学家 Erik Larson 认为，所有证据都表明人类和机器之间存在根本不同的智能。拉尔森的新书《人工智能的神话：为什么计算机不能像我们一样思考》广为流传的关于智能和推理的误解如何导致人工智能研究走上限制创新和科学发现的狭窄道路。

人工智能的神话，Erik J. Larson 着。

拉尔森警告说，除非科学家、研究人员和支持他们工作的组织不改变方向，否则他们将注定“屈服于机器世界的扩张，真正的发明被边缘化，有利于那些提倡现有的未来主义言论的人”。这种方法来自根深蒂固的利益集团。”

人工智能的神话

从科学的角度来看，人工智能神话假设我们将通过在应用程序上取得进展来实现人工智能（AGI），例如对图像进行分类、理解语音命令或玩游戏。但这些狭义人工智能系统的底层技术并不能解决通用智能能力必须解决的更大挑战，例如进行基本对话、完成简单的家务或其他需要常识的任务。

拉尔森写道：“我们不是在逐步取得进展，而是在成功地应用更简单、更窄的智能版本并从更快的计算机和更大量的数据中获益。水果。”

人工智能神话的文化后果是无视智能的科学奥秘，无休止地谈论深度学习和其他当代技术的不断进步。这一神话阻碍了科学家思考应对智能挑战的新方法。

“如果我们选择忽略一个核心谜团，而不是直面它，我们就无法实现创新，”拉森写道。“健康的创新文化强调探索未知，而不是夸大现有方法的扩展……关于人工智能不可避免的成功。神话往往会扼杀真正进步所需的发明文化。”

演绎、归纳和绑架

当你走出家门时，你会发现街道湿漉漉的。你的第一个想法是它一定在下雨。但是天气晴朗，人行道干燥，所以你立即排除了下雨的可能性。当您向侧面看时，您会看到路边停着一个洒水器。你断定街道是湿的，因为洒水器冲洗街道。

以上是“推理”的一个例子，即从观察中得出结论的行为，这也是智能生物的基本能力。我们不断地根据我们所知道和感知的东西进行推理。它们大多是在潜意识中发生的。

“任何能够推理的系统都必须具备一些基本的智能，因为用已知和观察到的东西更新信念的行为必须与我们所说的智能相关联ai遇到未知的图像结构，”拉森写道。

人工智能研究人员在两种类型的推理引擎上构建他们的系统：演绎和归纳。演绎推理是使用先验知识对世界进行推理。这是符号人工智能的基础，也是人工智能早期几十年研究人员关注的重点。工程师通过给他们一组预定义的规则和事实来创建符号系统，人工智能使用这些知识来推理它接收到的数据。

溯因推理，即通过经验获取知识，在过去十年中越来越受到人工智能研究人员和科技公司的关注。机器学习算法是一种溯因推理引擎，一种在相关实例上训练的机器学习模型，可以找到将输入映射到输出的模式。近年来，人工智能研究人员使用机器学习、大数据和高级处理器来训练模型处理超出符号系统能力的任务。

第三种推理，溯因推理，最早由美国科学家查尔斯·桑德斯·皮尔斯在 19 世纪提出。溯因推理是提出直觉和假设的认知能力，比随机猜测真相做出更好的猜测。

美国科学家查尔斯·桑德斯·皮尔斯在 19 世纪提出了溯因推理。资料来源：纽约公共图书馆，公共领域。

例如，潮湿的街道可能有很多原因（包括一些我们从未直接经历过的原因），但通过溯因推理，我们可以选择最有希望的假设，快速排除错误的假设，找到新的假设，并得出可靠的结论。正如拉森在《人工智能的神话》中所写：“我们从几乎无限的可能性中猜测哪些假设似乎是合理的或合理的。”

溯因推理是许多人所说的“常识”。这是我们看到事实或数据的概念框架，也是绑定其他类型推理的“粘合剂”。这使我们能够密切关注我们大脑中的大量信息以及我们从感官接收到的大量数据中的相关内容。

但问题在于，人工智能社区很少关注溯因推理。

人工智能与溯因推理

由于对 Abduction Logic Programming 的尝试，Abduction 在 1980 年代和 1990 年代进入了 AI 讨论，但这些努力存在缺陷并最终被放弃。“它们是逻辑编程的重新表述，是演绎的一种变体，”拉尔森告诉 TechTalks。

Erik J. Larson，《人工智能神话》的作者。

绑架在 2010 年代通过贝叶斯网络获得了另一个机会，贝叶斯网络是试图计算因果关系的推理引擎。但是，与早期的方法一样，新方法也有一个缺陷，即它没有捕捉到真正的溯因，Larson 说，而且贝叶斯和其他图形模型是“归纳的变体”。他在《人工智能的神话》中称它们为“名副其实的绑架”。

在很大程度上，人工智能的历史一直以演绎和归纳为主。

“当早期 AI 先驱 Alan Newell、Herbert Simon、John McCarthy 和 Marvin Minsky 着手解决人工推理问题（AI 的核心）时，他们认为编写演绎规则足以产生智能思维和行动，”拉尔森说。“实际上并非如此，早在关于我们如何做科学的讨论中就应该认识到这一点。” “这太奇怪了，以至于没有人真正停下来明确地说‘等等，这行不通。是的！’”拉森说，“这将允许研究直接转向溯因或假设生成，或‘上下文敏感推理’ 。”

近二十年来，随着数据和计算资源的日益丰富，机器学习算法——尤其是深度神经网络——已成为人工智能领域的研究热点。深度学习技术开辟了以前超出计算机限制的应用程序。它还吸引了世界上一些最富有的公司的兴趣和资金。

“我认为随着万维网的出现，经验或归纳（以数据为中心）的方法开始流行，而溯因推理，就像演绎一样，在很大程度上被遗忘了，”拉尔森说。

然而，机器学习系统也受到严重的限制，包括缺乏因果关系、对边缘情况的处理不善以及对数据的过度需求。与此同时，随着研究人员试图将机器学习应用于医疗保健和金融等敏感领域，这些限制变得越来越明显和问题越来越多。

溯因推理与人工智能的未来

包括强化学习先驱 Richard Sutton 在内的一些科学家认为，我们应该坚持使用可随数据和计算可用性扩展的方法，即学习和搜索。例如，随着神经网络变得越来越大、数据越来越丰富，它们最终会突破极限并带来新的突破。

拉尔森驳斥了数据驱动人工智能的大规模应用，认为“作为一种智能模型，它天生就有缺陷”。他重申ai遇到未知的图像结构，虽然搜索和学习都可以提供有用的应用，但它们是基于非溯因推理的。

“如果没有推理思维的革命，搜索就无法扩展到常识或溯因推理，而这还没有发生。与机器学习类似，学习方法的数据驱动性质意味着推理必须来自数据，可以说，这通常是由人来完成的，案例中的很多智能推理显然不是这样，”拉尔森说。 “我们无法仅仅通过查看过去，比如从大型数据集中得出结论、思考或推理未来。”

其他科学家认为，将符号系统与神经网络相结合的混合人工智能有望克服深度学习的缺陷。一个例子是 IBM Watson，它以在美国电视智力竞赛节目 Jeopardy 中击败世界冠军而闻名！最新的概念验证混合模型在仅符号 AI 和深度学习表现不佳的应用中运行良好。

Larson 认为，混合系统可以填补仅机器学习或仅规则方法的空白。作为自然语言处理领域的研究员，他目前正致力于将大规模和训练有素的语言模型（例如 GPT-3）与语义网络上的较早工作以知识图谱的形式结合起来，用于搜索、问答、和其他任务。创造更好的应用程序。

“但演绎-归纳组合并没有让我们绑架，因为这三种推理在形式上是不同的，所以它们不能相互减少或组合得到第三种，”他说。

在人工智能的神话中，拉尔森将规避绑架的努力称为“推理陷阱”。

“无论计算机有多快，纯粹的归纳启发式技术，如机器学习，是不够的。像 Watson 这样的混合系统也缺乏普遍的理解，”他写道。“在开放的场景中，就像语言理解一样，它需要对世界的了解，而溯因是核心且不可替代的。因此，将演绎和归纳策略结合起来的尝试总是注定要失败……这个领域需要对溯因的理解基本理论。同时，我们陷入了一个陷阱。”

人工智能商业化

AI 社区对数据驱动方法的狭隘关注，将研究和创新重点放在了少数拥有大量数据存储和财力雄厚的组织上。随着深度学习成为将数据转化为利润丰厚的产品的有效方式，大型科技公司陷入了激烈的人工智能人才招聘竞争，为研究人员提供丰厚的薪水以使他们远离学术界。

这种转变使非营利实验室和小公司难以参与人工智能研究。

“当你将人工智能研发与大型数据集的所有权和控制权联系起来时，初创公司就会面临进入壁垒，因为他们不拥有数据，”拉森说。他补充说，数据驱动的人工智能从本质上来说并没有任何进展，它在商业世界中创造了“赢家通吃”的局面。

反过来，人工智能的垄断阻碍了科学研究。由于大型科技公司专注于创建可以利用其庞大数据资源来保持竞争优势的应用程序，因此几乎没有动力探索其他 AI 方法。这一领域的工作开始倾向于狭隘和有利可图的应用，忽略可能导致新发明的努力。

“目前没有人知道如果没有如此庞大的集中式数据集，人工智能会是什么样子，所以对于想要通过设计不同、更强大的人工智能来竞争的企业家来说，没有真正的机会，”拉森说。

在他的书中，拉尔森对当前的人工智能文化提出了警告，“它正在从唾手可得的果实中榨取利润，同时继续编织人工智能神话。” 他写道，AGI 进步的幻觉可能会导致另一个 AI 寒冬。

但是，虽然 AI 寒冬可能会抑制对深度学习和数据驱动 AI 的兴趣，但它也可以为新一代思想家探索新途径开辟道路。拉森希望科学家们开始超越现有的方法。

在《人工智能的神话》中，拉尔森提供了一个推理框架，阐明了当今该领域面临的挑战，并帮助读者看穿 AGI 或奇点进步的夸张说法。“我希望外行有一些工具来对抗这种不科学的必然性，我的同事和其他人工智能科学家认为这是解决该领域面临的真正问题的警钟。”

关于作者：

Ben Dickson，软件工程师和 TechTalks 的创始人，作家，撰写有关技术、商业和政治的文章。

原文链接：