也许会有这样一个时刻，大脑是如此的萎缩，以至于被摧毁
如今，人类和人工智能应该融合的想法已经广为流传。例如，特斯拉(Tesla)和SpaceX首席执行官埃隆·马斯克(Elon Musk)建议“在某种程度上合并生物智能和机器智能”。他的公司Neuralink的目标是使植入大脑芯片像激光眼科手术一样司空见惯。
所有这些谈话的基础是对心灵未来的激进愿景。谷歌的未来学家兼工程总监雷·库兹韦尔(Ray Kurzweil)设想了一个技术乌托邦，在那里，人类的思维可以上传到云端，成为超意识、不朽的超级智能。马斯克认为，人们应该与人工智能合并，以避免失去对超级智能机器的控制，并防止技术失业。
但这些想法真的可能实现吗? 哲学上的障碍和技术上的障碍一样紧迫。这是一个新的挑战，来自澳大利亚科幻作家格雷格·伊根(Greg Egan)的一个故事。想象一下，一种名为“宝石”的人工智能设备在你出生时就被植入你的大脑。这颗宝石会监控你大脑的活动，以便学习如何模仿你的想法和行为。当你成年时，它完美地模拟了你的生物大脑。
在某种程度上，就像其他社会成员一样，你会变得自信，认为你的大脑只是多余的肉制品。所以你变成了一个“宝石头”，你的大脑被手术切除了。宝石现在掌控你的一切。
与伊根的故事不同，让我们假设这颗宝石是完美无缺的。那么你是谁？你的大脑是你还是宝石的大脑是你呢? 似乎这颗宝石永远不可能是真正的你，因为你的生物大脑和意识就在它旁边。很难想象，当你的大脑被摧毁时，你的意识会神奇地转移到宝石上。相反，更有可能的情况是，在你选择摘除大脑的那一刻，你无意中杀死了自己。
这表明，人类与人工智能的融合是欠考虑的——至少，如果这意味着最终完全用人工智能组件替换大脑的话。你的大脑不是它的后备驱动器，即使它有相同的记忆和确切的行为。
你可能会反对，取而代之的可能是有限的整合，移除大脑的某些部分，只用人工智能组件替换那些部分。但这也是有问题的。想象一下，有一天科学家发明了一种新型的珠宝——称之为“玉”。玉慢慢地接管了你的生物大脑的不同部分的功能，当它这样做的时候，它破坏了它卸载的部分。
记住我们在宝石案例中的结论(你的头脑不是宝石的大脑)，我们知道在这个过程的某个时刻你的头脑停止了存在。你可以用芯片来增强你的智力，但总有一天你会结束你的生命。我把这个可怕的事件称为“大脑流失”。
在这个过程中，什么时候人才会流失?正如哲学家德里克·帕菲特(Derek Parfit)所观察到的那样，用几块芯片替换大脑的某些部分可能不会产生可怕的影响，但目前还不清楚该在哪里划定界线。会是15%的神经替代吗?75% ?任何选择似乎都是武断的。
结果很明显。我们应该对任何有关人类可以与人工智能融合的说法持怀疑态度。基于人工智能的增强技术仍然可以用来补充神经活动，但如果它们能取代正常功能的神经组织，在某种程度上，它们可能会终结一个人的生命。
从某种意义上说，如果足够多的人忽视了大脑流失的可能性，社会仍然会受益。将会有足够聪明的个人跟随人工智能的复杂计算，并在工作中与他们竞争。但是在这样一个世界中，注册增强的人并不是受益的人。他们已经死了。
