人工智能是人类的潜在威胁么？针对这个问题的讨论或许可以从此划上句号了。
华盛顿大学教授、《终极算法》作者佩德罗·多明戈斯指出：“AI自己产生的次目标，只在我们所限定的范围内为我们设置的目标服务。只要这个状况不被打破，那就还不必担心机器人。”简而言之，人工智能对人类并无威胁。
本文精选了佩德罗在Quora上对读者提问的回答，传递了本书的主要思想。算法已在多大程度上影响我们的生活，什么是终极算法，以及你为什么必须了解终极算法？佩德罗补充回应了这些问题。
人工智能是红杉资本中国基金一直关注和投资布局的重点领域，目前，红杉已投资了今日头条、第四范式、出门问问等代表性公司。《终极算法》是近二十年来算法与智能领域最具轰动性的著作，也是红杉春节书单的推荐书目与比尔·盖茨年度推荐图书。本文经“机器之心”（ID:almosthuman2014）授权转载，禁止二次转载。
***
【每日金句】
未来最关键的问题将不再是
“我怎样才能打败机器？”，
而是
“我怎样能利用计算机把我的工作完成得更好？”
【推荐人语】
红杉Family成员企业新智元创始人 杨静
2017年1月份， DeepMind的Master以60:0全胜人类所有顶尖棋手，再度引发AI与人类智能潜力的思考。 AAAI Fellow 佩德罗·多明戈斯的《终极算法》一书英文原名即为：The Master Algorithm。作者认为生物进化过程的缓慢让人难以接受，一个有机体一生只会产生一条与其基因组相关的信息：它的适应度，反映在后代有机体的数量上，简直是在浪费大量的信息。
《终极算法》详解了机器学习的五大学派，每个学派都有自己的主算法，能帮助人们解决特定的问题，而进化和大脑不可能提供学习算法。如果整合所有这些算法的优点，就有可能在几十年内找到一种“终极算法”，该算法可以获得过去、现在和未来的所有知识，大数据和终极算法带来的智能飞跃的临界点将颠覆人类现有的生活方式，也必将创造新的多元化人类文明。
***
这本书让我面临的最大挑战，是学习如何撰写一本科普书，这与撰写技术论文或教科书十分不同。不但不能使用数字或者伪代码，还要加入一些吸引人的故事、示例、类比等等，但我的目标便是让非专业领域的读者也能读懂。
总的来说，撰写《终极算法》的目的主要有两个：一，给予这个领域之外的人对机器学习的基本理解以及意识；二，将这个领域向正确的方向推动。
同时，这一行业始终存在的矛盾是，相对于已经长时间沉浸在这个领域的专业研究人员来说，进入这个领域的新人可能更有潜力提出这样的思路。所以，我希望这本书可以吸引更多新人进入机器学习领域，用他们的想法丰富这一领域。
机器学习尚未解决的问题
我认为机器学习尚未突破表征学习的问题。这正是人类非常神奇的地方 ：从像素认识物体，从声波了解意义，没有表征学习，人类的学习将被局限且脆弱不堪。
同时，我们知道无数种学习线性组合基本函数的方法，不管这些函数是高斯的、S的、单项的、规则的、树的还是其他种类。但这些基本函数又是从哪儿来的呢？事实上，即使在50年的研究之后，我们依然无法解开这些问题。
当然，反向传播算法和深度学习是一个答案，但我认为最近它们取得的一系列伟大的结果仅仅是因为数据集规模的增大。到头来，通过最近这些年深度学习所有的方法还是无法从训练集数据点中进行概括。因此，仍有许多工作要做，仍然缺失诸多关键见解。
深度学习无法取代其他学习形式
首先，理解人类大脑对深度学习很重要，但有一个限度。
举个例子，对卷积神经网络结构（convnets）的了解是基于Huble和Wiesel对于猫的视觉皮层组织的经典发现。如果没有后者，前者根本不会存在。
但是被Hubel和Wiesel所启发而建立的第一个视觉学习模型则是Fukushima的神经认知机，他试图了解大脑皮层运作的方式，但最终并没有成功。
误差反向传播看起来更像是小脑的学习方式。所以我们现在所拥有的看起来有点像科学怪人，但是这很管用。这对深度学习的启示是：从大脑中提取灵感，但是适可而止。
换言之，深度学习到现在为止并没有对神经科学产生太大的影响。我认为这是因为神经科学还没有达到精确理论模型可以通过实验测试的阶段。但它正朝着那个方向发展。最终，计算模型对于神经科学会像数学对于物理那样重要。
那么，深度学习对于外行来说意味着什么？
一个快速的答案是：深度学习是利用不止一层的隐藏神经层去学习一个神经网络（即除去输入与输出层之外超过一层）。
而更佳答案是：深度学习是去发现最能代表问题的特征，而不仅仅是一个组合方法。例如，在目标识别中，浅度学习以手动制作图片的特征开始，但深度学习则以原始像素开始。
最后，深度学习会取代其他的学习形式么？我认为不会。
深度学习是表征学习的一种形式，它会自动的从数据里面提取模型的特征，而不用再人工的去建造，而怎样完成这一过程正是机器学习的核心所在。表征学习还有其它形式，比如在图像模型中的诱导隐藏变量和符号学习中的谓词创造，它们能做目前深度学习算法所不能做的事情。
当然，我可以从深度学习开始，慢慢延伸来包含这些功能，但你也完全可以从另一个方向入手。不管怎样，最终的结果也不会仅仅是深度学习（但是从现在对深度学习的热情来看，很多人也可能会错误地认为它就是一切！）。
AI对人类无威胁
AI对于人类来说不是一个潜在的威胁。有一个非常简单的原则：创造AI并不是AI本身的意图。
AI自己产生的次目标，只在我们所限定的范围内为我们设置的目标服务。只要这个状况不被打破，那你就不必担心机器人，因为它的进化不过是为了更好的服务你罢了。
当然，可能会有人利用AI来填补自己的贪欲。为了应对这种状况，我们需要William Gibson所谓的“图灵原则”：像警察逮捕罪犯，好的AI去抓捕坏的AI。银行抢匪利用高速跑路，但这并不意味着我们就不该有高速。对于AI来讲，也一样。
然而有另外一种AI对人性的威胁可能是我们更要担心的：人工智能的傲慢，缺乏常识，或者过于表面的理解指令都可能造成破坏——这就像个“魔法师学徒问题”。
实际上，这种情况一直存在，对于判定一个人是否有资格获得信用卡，一个病人是否被误诊，一个无辜的人被贴上恐怖分子的标签，等等。想要让电脑做出正确决策需要使其更加智能，而不是更傻。人们担心计算机会因为变得过于聪明从而接管世界，但真正的问题是，它们已经占领了世界却依旧很愚蠢。
大部分人工智能研究放弃了基于逻辑的人工智能，转而支持统计方法。简单来说就是统计方法在实践中能更好地工作。但是我认为基于逻辑的人工智能也做了许多贡献，最终我们需要将两者结合。的确，这正是我大部分研究的重点。
另外，大数据会在未来人工智能中起很大作用，因为我们掌握越多数据，机器学习就越强大，而机器学习是人工智能的关键。但是大数据也只能达到目前我们所达到的程度了，因为智能代理通常需要非常少的数据。这一点人类非常擅长，我们仍然需要找出如何在人工智能系统中做到这一点。
当然，在人工智能领域，我最大的弱点是：我既不是一流的数学家，也不是一流的系统构建者。但是对于所有研究来说，更重要的事情是：理解问题然后想出解决办法。没有人擅长所有事情，你必须愿意走出自己的舒适区，充分利用自己的长处，也要确保自己有扎实的基础。
未来的玩法
在未来的10到20年内，会有一些职位消失，也会有很多新的职业涌现。但职场最主要的变化还是在于绝大多数职业会发生本质上的改变。它们还会存在，但是会变得和现在不一样。因为计算机会完成更多日常工作，将专业人士解放出来，去做更多非日常的事情。
未来最关键的问题将不再是“要怎样我才能打败机器？”，而是“我怎样能利用计算机把我的工作完成得更好？”
自动化就好比是一匹马，你不需要跑得比它快，而是要去驾驭它。国际象棋便是个很好的例子。国际象棋程序可以很容易击败所有人，但是世界上最好的棋手却不是电脑。在国际象棋界，有一些团队里面既有人也有计算机，他们经常被称为Centaurs。
人和计算机可以互补优缺点，所以当两者合作时才能发挥最大功效。我觉得这种情况会出现在绝大多数的领域。
另一方面，强化学习会是未来人工智能的主要组成部分吗？
我想，它会是主要部分，但并不是唯一部分。比如强化学习需要监督学习的支持。同时我们也应该将强化学习问题（从延迟奖励中学习）与目前强化学习技术区分开来。我认为前者是不可避免的，但后者我们未来可以用更好的方法代替。
同时，我也预测：随着电脑对自然语言的理解越来越好，越来越多的编程将由非程序员来完成，这将会彻底改变计算机科学的面貌。
现在只有一种思维（逻辑、精细化等）可以在计算机科学领域成功。但是未来，这些将变得不重要，因为人工智能将填补这些空白。人们的任何想法都能转化为一个可以运作的系统。
原标题/《深度 | Quora 机器学习 Sessions : 对话算法大师 Pedro Domingos》
联系客服
