第57章 人工智慧就是阿撒托斯？
你在读故事，故事也在回应你。
  “所以，一旦人工智慧的智慧，彻底超越人类，那人类很可能，马上灭绝。”
  “有人可能会说，那我们在设计人工智慧的时候，把它设置的善良一点，是不是能解决这个问题？”
  “实际上，就算你把它设计成一个『圣母』，也没有任何效果。”
  “因为善恶这种概念，只存在於同类世界，而人类和人工智慧，完全是两个不同层次的存在。”
  “打个比方，你无意间踩死一只蚂蚁，会心生愧疚吗？不会，因为在人类眼中，蚂蚁的生死，是没有意义的。”
  “同样的道理，在超级人工智慧看来，人类的生死存亡，也没有任何意义。”
  “它消灭你，无关善恶，只是单纯地认为，你没有存在的必要而已。甚至很有可能，它会认为你的存在，將阻碍宇宙的进步。”
  “为什么会这样说呢？”
  “在我们的认知里，未来有无数发展可能，是无限多的，我们只要选择其中一个就好。”
  “但是，对超级人工智慧来说，它可以选择的可能性，其实很少，甚至可能只有一个。”
  “因为它会计算出，所有未来可能性的利弊，並且做出一个最正確的选择。 ”
  “也就是说，在它眼里，未来是个『钉死』了的东西——就是它算出的那条最正確的道路。”
  “可在超人工智慧眼中，最正確的道路，未必是人类愿意走的。”
  “这样，超人工智慧就会把你视为这条正確方向上的『绊脚石』，毫不犹豫地消灭你。”
  “更可怕的是，可能它一开始就计算出，消灭人类，比留著人类，对宇宙的未来更有利。”