由 dawei
Bengio 认为，未来的深度神经网络应当能够实现 System2（逻辑分析系统），实现的是有意识的、有逻辑的、有规划的、可推理以及可以语言表达的系统。本文所讨论的 Logical Reasoning（逻辑推理）拟实现的就是 System2 中重点关注的有逻辑的（Logical）和可推理的（Reasoning）特点。
近年来，深度神经网络的应用获得了巨大的成功，也推动了人工智能的飞速发展。然而，深度神经网络仍存在一些局限性。一般来说，深度神经网络如何进行学习、使用何种算法实现的智能、基于哪些理论分析得出的相关结论并不会在网络架构中有任何的显式或符号表示。也就是说，深度神经网络学习的算法隐式地存储在成千上万甚至是数百万的权重中，这些通常是人类智能体无法破译或验证的。
Bengio 在 AAAI 2020 的演讲报告中提出，人的认知系统包含两个子系统：System1（直觉系统），实现的是快速、无意识、非语言的认知，这也是现有的深度神经网络所实现的。他认为，未来的深度神经网络应当能够实现 System2（逻辑分析系统），实现的是有意识的、有逻辑的、有规划的、可推理以及可以语言表达的系统。我们这篇文章中所讨论的 Logical Reasoning（逻辑推理）拟实现的就是 System2 中重点关注的有逻辑的（Logical）和可推理的（Reasoning）特点。
本图选自 Bengio 在 AAAI 2020 的演讲报告
逻辑推理是一个非常宽泛的概念。实际上，我们所熟悉的字符识别、语音识别、图像识别也可以看做是一种逻辑推理，这不过，这些逻辑推理是低层次的，已经能够使用传统的深度神经网络所解决。我们在这篇文章中所讨论的逻辑推理是更高层次的推理过程，即，即使是人来完成这个逻辑推理任务也是要进行一下思考的。