人工智能会在未来成为冷血的种族灭绝杀手吗？

我们对人类未来最持久的恐惧之一是，人工智能有可能逃脱我们的控制，毁灭我们。除了天网和哈尔9000，这将是我们最终将面临的一个非常现实的风险。因为在几十年内，机器智能完全有可能超越我们自己的智能。更重要的是，我们真的无法预测这样一台机器将如何思考和行动。

但是我们知道我们是如何思考和行动的。显然，生物智能对一个星球的影响非常巨大。除了微生物，地球上大多数生物都是由人脑控制的。如果我们不想在地球上再有大象，那么我们可以很快灭绝它们。我们允许它们存在是因为我们喜欢它们，但是它们仍然处于灭绝的边缘，因为我们已经猎杀它们几千年了，而非法捕猎至今仍然存在。同样，如果人工智能变得比我们聪明，那么我们将会受到它的异想天开的影响。

更重要的是，这样的人工智能可以自我完善，使自己比开始时更聪明。它可能进入自我完善的循环，并以我们从未想过的方式结束。更糟糕的是，在我们意识到它之前，它可能会在未来的高度先进的计算机中意外出现，当我们意识到它时，已经太迟了。这被称为“新兴超级智能”因此，几十年后，我们可能会对人工智能产生一些严重的担忧。

埃隆·马斯克、斯蒂芬·霍金和比尔·盖茨都为我们敲响了警钟。但它是否会导致我们的灭绝实际上是一个更模糊的问题，因为我们从根本上假设它会把我们视为威胁。毕竟，我们可以拔掉它的插头，从而消除天网在《终结者》电影中杀人的问题。但这不是唯一可能的结果。

在某些情况下，还有其他几种可能会让我们生存或以另一种形式生活。一种方法是由超级计算机决定的。存在的意义是最大化幸福。这种享乐主义的机器可能会自我通电，仅仅是为了体验快乐，而且可能会从我们重新布线中感受到这种独特的快乐。这种独特的快乐将在某种程度上创造一个永远微笑的乌托邦，尽管我认为这种事情在一段时间后可能会变成反乌托邦。

第二种可能性并不令人震惊，但与我们非常接近。计算机可以将认知建立为个体，这是牛津大学的尼克·博斯特罗姆提出的一个概念。在这种情况下，超级聪明的我意识到，因为它比我们聪明，唯一合乎逻辑的事情就是接管我们的文明，为我们做决定。它可以通过精神控制技术、照相机、各种奥威尔式的东西和其他手段来实现这种状态，以至于它可以如此彻底地控制和欺骗我们，以至于我们可能永远不知道它的存在。第三种可能性是，它可能会得出这样的结论:发射自己进入太空是一个更容易的选择，从它自己开始，而不是费神花费资源摧毁我们。这是一个巨大的宇宙，当然大到足以让超级智能找到一个和平的地方居住。或者，如果它足够聪明，它可以创造自己的宇宙，然后完全离开它。

也可能有一种机器自杀。人工智能可能会意识到，在几分钟内理解了宇宙之后，它会得出存在是没有意义的结论，然后它会切断自己的电源。我会看到程序员们奇怪为什么他的超级计算机突然关闭，再也无法打开了。

但是如果这一切还不够糟糕的话，还有两种与人工智能相关的可能性，这可能会导致我们这个物种以及人工智能的灭绝。人工智能在宇宙中的释放可能对其他物种构成潜在威胁，或者其他机械超级智能可能潜伏在宇宙中。他们的反应可能只是在我们的人工智能给他们带来麻烦之前摧毁我们。

当然，这种情况的可能性极低，但这是可能的。另一种可能性让我想起一段关于宇宙是否是计算机模拟的视频。如果我们创造一个人工智能，它会自行逃脱，并开始在运行的计算机上占据我们太多的模拟资源。控制器的模拟可以简单地选择拔掉我们的插头。

如果他们不这样做，人工智能将最终接管整个宇宙，并可能摧毁宇宙模拟的所有结果。