杨立昆十问：AI的领导者将成为未来世界的统治者？杨立昆制造界前天来源/制造界（ID：baixiuo1）作者/杨立昆封面/图虫创意“图灵奖"得主、“深度学习三巨头“之一、“卷积神经网络之父”Facebook首席人工智能科学家....由于在人工智能领域的突出贡献，杨立昆被中国计算机科学界和企业界所熟知。杨立昆是法国人，名字原文为YannLeCun，姓氏为LeCun，因在美国常被误缩写为Y.L.Cun，于是把LeCun合写在一起。中文译名原为扬·勒丘恩，华人AI圈一直亲切地称他为“杨乐康”，他本人听闻后，干脆自己给自己取了中文名字一一杨立昆。他被誉为“卷积神经网络之父”，2019年3月，因在人工智能深度学习方面的贡献获得2018年度图灵奖。此外，他还获得了2014年IEEE神经网络先锋奖（NeuralNetworkPioneerAward）2015年IEEEPAMI杰出研究奖和2016年LoVie终身成就奖。他为卷积神经网络（CNN，ConvolutionalNeuralNetworks）和图像识别领域做出了重要贡献，以手写字体识别、图像压缩和人工智能硬件等主题发表过190多份论文，研发了很多关于深度学习的项目，并且拥有14项相关的美国
杨立昆十问：AI 的领导者将成为未来世界的统治者? 杨立昆制造界前天 来源/制造界（ID：baixiu01) 作者/杨立昆 封面/图虫创意 “图灵奖”得主、“深度学习三巨头”之一、“卷积神经网络之父”、 Facebook 首席人工智能科学家.由于在人工智能领域的突出贡献，杨 立昆被中国计算机科学界和企业界所熟知。 杨立昆是法国人，名字原文为 Yann Le Cun，姓氏为 Le Cun，因在美国 常被误缩写为 Y.L.Cun，于是把 LeCun 合写在一起。中文译名原为扬•勒 丘恩，华人 AI 圈一直亲切地称他为“杨乐康”，他本人听闻后，干脆自己 给自己取了中文名字——杨立昆。 他被誉为 “卷积神经网络之父”，2019 年 3 月，因在人工智能深度学习 方面的贡献获得 2018 年度图灵奖。此外，他还获得了 2014 年 IEEE 神 经网络先锋奖（Neural Network Pioneer Award）、2015 年 IEEE PAMI 杰出研究奖和 2016 年 Lovie 终身成就奖。他为卷积神经网络 （CNN，Convolutional Neural Networks）和图像识别领域做出了重 要贡献，以手写字体识别、图像压缩和人工智能硬件等主题发表过 190 多份论文，研发了很多关于深度学习的项目，并且拥有 14 项相关的美国
专利。研究领域包括人工智能、机器学习、机器感知、移动机器人学和计算神经学。人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的65年中，无数电影与小说塑造了各种经典的人工智能角色，Al（ArtificiaIntelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智能不断拓宽我们对未来想象的同时，也不芝”AI统治世界”等一类的消极论调那么，我们当下讨论的AI真的即将统治人类吗？AI真的比我们更聪明吗？如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走那么，图灵奖得主杨立昆（YannLeCun）的新书《科学之路：人，机器与未来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。杨立昆在书中对人工智能提出了10个问题并进行了深入探讨，让我们更全面更客观的了解人工智能。在真正开始有关AI的伦理思考之前，我们首先要弄清楚以下三个名词的关系：人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。自前，开发新应用最常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。1/人工智能是不可理解的黑匣子吗？一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神
专利。研究领域包括人工智能、机器学习、机器感知、移动机器人学和 计算神经学。 人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的 65 年中，无数电影与小说塑造了各种经典的人工智能角色， AI（ Artificial Intelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智 能不断拓宽我们对未来想象的同时，也不乏“AI 统治世界”等一类的消极论调， 那么，我们当下讨论的 AI 真的即将统治人类吗？AI 真的比我们更聪明吗？ 如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走， 那么，图灵奖得主杨立昆（Yann LeCun）的新书《科学之路：人，机器与未 来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。杨 立昆在书中对人工智能提出了 10 个问题并进行了深入探讨，让我们更全面、 更客观的了解人工智能。 在真正开始有关 AI 的伦理思考之前，我们首先要弄清楚以下三个名词的关系： 人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出 一种新的能以人类智能相似的方式做出反应的智能机器。目前，开发新应用最 常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方 法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。 1/ 人工智能是不可理解的黑匣子吗？ 一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控 人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神
经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原理，但这不正是所有智能决策的特点吗？我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时，为什么还要对它产生怀疑呢？人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满意的效果，这不就够了吗？而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它于1897年首次被合成，可是直到1971年我们才明确其作用机制。2/大脑只是一部可模拟的机器吗？如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿个相对简单的神经元的活动，我们便获得了大脑和思想
经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原 理，但这不正是所有智能决策的特点吗？ 我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的 神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲 倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时， 为什么还要对它产生怀疑呢？ 人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信 息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是 否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满 意的效果，这不就够了吗？ 而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物 都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉 的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它 于 1897 年首次被合成，可是直到 1971 年我们才明确其作用机制。 2/ 大脑只是一部可模拟的机器吗？ 如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的 机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神 经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其 发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿 个相对简单的神经元的活动，我们便获得了大脑和思想
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重现。质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但是我坚信，哺乳动物或人类的大脑是可以“计算“的机器，并且这些计算原则上可以通过电子机器或计算机进行再现。3/人工智能会产生意识吗？意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认出自己的大象和黑握握已经具有自我意识，而狗不行。我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开启"世界模型"以规划下一步行动。对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人类的不同，它们可以同时专注于多项住务。但它是无法培养意图或发展意识的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基础概念
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反 对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重 现。 质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结 合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但 是我坚信，哺乳动物或人类的大脑是可以“计算”的机器，并且这些计算原则 上可以通过电子机器或计算机进行再现。 3/ 人工智能会产生意识吗？ 意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识 混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认 出自己的大象和黑猩猩已经具有自我意识，而狗不行。 我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意 识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我 们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时， 我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开 启“世界模型”以规划下一步行动。 对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人 类的不同，它们可以同时专注于多项任务。但它是无法培养意图或发展意识 的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能 够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基 础概念
4/人工智能比人类更聪明吗？人工智能正在改变人类对自身的看法，不断冲击着人类独有的的“物种傲慢。在文艺作品中，AI危险又美丽，为人类服务却各方面都比人类更加强大、更有创意。但在现实中，AI落地的应用却往往不懂常识、行动迟缓且耗能极大。当你凝视人工智能时，人工智能并不一定在凝视你，因为它根本不知道你为什么要凝视他（至少现在不知道）。原因就是人工智能缺乏常识，没有感知，甚至没有办法根据场景变换对已存储的知识活学活用。DeepMind训练了一个可以玩经典雅达利（Atari）视频游戏的系统，系统一共包括80个游戏，每场比赛它至少要花费80个小时来训练，才能勉强达到合格水平，而一个人只需要15分钟就可以做到这一点。但实际上，这80个小时是机器实时玩游戏时所花费的训练时间，在训练结束之后，它可以用（比人类）更快的速度进行游戏，甚至可以同时进行多个游戏。也就是说如果让系统运行更长的时间，它将达到人类无法企及的超高效率。但并不是所有应用AI的系统都有足够的时间成本去用更长时间接受更多的训练，比如自动驾驶领域。自动驾驶系统中的AI必须跟随汽车在道路上行驶以获得更多训练数据一一必须驾驶数百万个小时，模拟引起成干上万次的撞车事故，而后才能学会如何避免撞车。如果汽车掉下悬崖，系统一定会说“哦我一定是错了”，但这只会稍微纠正其策略。第二次，汽车可能会以不同的方式掉下悬崖，然后系统会再次纠正一点。依此类推，在系统彻底弄清楚如何
4/ 人工智能比人类更聪明吗？ 人工智能正在改变人类对自身的看法，不断冲击着人类独有的的“物种”傲 慢。在文艺作品中，AI 危险又美丽，为人类服务却各方面都比人类更加强 大、更有创意。但在现实中，AI 落地的应用却往往不懂常识、行动迟缓且耗 能极大。 当你凝视人工智能时，人工智能并不一定在凝视你，因为它根本不知道你为 什么要凝视他（至少现在不知道）。原因就是人工智能缺乏常识，没有感 知，甚至没有办法根据场景变换对已存储的知识活学活用。 DeepMind 训练了一个可以玩经典雅达利（Atari）视频游戏的系统，系统一 共包括 80 个游戏，每场比赛它至少要花费 80 个小时来训练，才能勉强达到 合格水平，而一个人只需要 15 分钟就可以做到这一点。但实际上，这 80 个 小时是机器实时玩游戏时所花费的训练时间，在训练结束之后，它可以用 （比人类）更快的速度进行游戏，甚至可以同时进行多个游戏。也就是说， 如果让系统运行更长的时间，它将达到人类无法企及的超高效率。 但并不是所有应用 AI 的系统都有足够的时间成本去用更长时间接受更多的训 练，比如自动驾驶领域。自动驾驶系统中的 AI 必须跟随汽车在道路上行驶以 获得更多训练数据——必须驾驶数百万个小时，模拟引起成千上万次的撞车 事故，而后才能学会如何避免撞车。如果汽车掉下悬崖，系统一定会说“哦， 我一定是错了”，但这只会稍微纠正其策略。第二次，汽车可能会以不同的方 式掉下悬崖，然后系统会再次纠正一点。依此类推，在系统彻底弄清楚如何