是的。

霍金，马斯克和盖茨这样说; 但我想解释他们为什么是正确的技术原因。

AI意味着人工智能。目前，有一系列标准方法，如机器学习及其子集，计算机科学家使用这些方法使计算机更加智能化。目前大多数方法都没有威胁，因为它们非常有限。他们不是很“聪明”。但像Facebook，谷歌等公司对开发下一级别的人工智能有很大的兴趣，没有任何根本障碍可以阻止他们取得成功。

这就是为什么它们能够成功以及它为何非常危险的原因。

智能只是意味着某些东西可以感知世界（视觉，音频等信息），识别这些信息中的模式，并识别这些模式之间的因果关系。例如（非常简化）我们的大脑认识到一堆像素实际上代表了一个有树木的森林; 看到一个男人用斧头和一棵树落下; 并将这两者联系成因果关系。

为了能够识别任何模式，大脑需要一个标准，或者从如何观察世界的角度来看。这个标准是我们“想要的”，它是我们情感的直接功能。情绪为我们的认知活动指明了方向，并间接告诉我们的认知空间需要搜索哪种类型的模式和逻辑。

最后，为了开发先进的智能，有一个抽象概念：在看到3个斧头落树的男人之后，我们的大脑得出结论“在森林中有斧头的男人倒下树木”。它甚至可能会增加另一层抽象，并得出结论“有斧头的人会摧毁东西”。通过这种认识，我们的大脑可以得出结论，当它看到一个男人在购物中心斧头时：“事情会被摧毁”。它还可以得出结论：“我在商场。我想生存。离开商场会增加我的生存几率。离开购物中心”。

AI的问题在于，一旦情绪，模式识别，逻辑和抽象被编码到计算机系统中，它们就很难被包含。智慧的本质在于它是自我引导，自我扩张和自我启发。否则它就不会很聪明。

这使得AI固有地无法控制。人工智能将能够得出结论并衍生出越来越多的东西。该数字仅受我们分配给它的计算空间的深度限制。与人类大脑不同，这个空间可以是无限的。

这就是人工智能天生无法控制和危险的原因。要真正聪明，它需要情感和认知空间，一旦正确实施，将自动导致自由意志和意识。从那里开始，我们将拥有一台有意识的机器，拥有自由意志，可以在数百万次的情况下击败人类的智力和创造力。

让AI如此成问题的原因在于它的危险程度很可能是一个二元函数：只要我们拥有今天的原始AI组件，它们根本就没有危险，因为它们没有意识而且没有自由意志。但是第二个人提出了正确的设计 - 一个可以遵循相当简单的核心原则的设计 - 这种设计将迅速扩展其能力并发展无法控制的思想。其中一个想法可能是毁灭或征服我们。配合无限智能，这将是一个问题。