AGI系统减少或没有疼痛的经验

       我爱许多关于活着和成为人类的东西 - 但痛苦不是其中之一。粗暴地，痛苦真的吸了。这只是一个不愉快的事情。我真的宁愿放弃它。或者至少 - 将它完全置于有意识的控制之下，所以我只有当它，如果我想要它。

 

       这不是我受到特别多的痛苦，与其他人相比。我最近一直在想疼痛，但更多的是因为一个朋友与慢性区域性疼痛综合征（CRPS），而不是因为我自己的直接经验。幸运的是，我自己的生活是多么令人愉快比痛苦，到目前为止任何速度。

 

       但是我越是这样想，我认为痛苦就像死亡一样 - 它是“人类的生命，我们知道它”的一个整体，我们一般只是把它视为理所当然，忘记了它是什么。如果有不朽丸，几乎没有人会选择死亡;如果疼痛可以消除或根本上减少而没有坏的副作用，几乎没有人会选择经历疼痛。 （好吧，好吧，也许现在只是为了新奇！）在我们的头脑中没有痛苦和死亡的时候，我们的生活经验将是不同的，我们的自我和世界观将以戏剧性的方式。

 

       对我来说，似乎清楚的是，健康的人寿寿命的根本延长是可行的。死亡在很大程度上是可以避免的，通过人类掌握的技术。但是，废除或接近废除的痛苦真的可能吗？先进的技术能使我们改变我们的大脑，以避免疼痛的存在，或把疼痛完全置于意识的控制之下 - 不杀死我们，或使我们失去知觉，愚蠢或不想要的东西？

 

       这很难知道肯定 - 但在目前，我最好的猜测是答案是肯定的。

 

       为了解释为什么我认为这一点，我需要深入了解痛苦经验的哲学，以及被称为“疼痛asymbolia”的奇怪的脑疾病的性质。

 

 

       英语单词“pain”主要指主观体验 - 某种伤害的经验。但这种经验不是一个简单的，不可分解的事情 - 它实际上是一个复杂的经验与多层。了解消除疼痛的前景，包括仔细区分这些层。

 

       为了消除或大大减少我们的疼痛经验，我们将需要在其神经和认知相关性方面处理疼痛。主观经验 - qualia - 不同于神经或认知结构或动力学。但是有相关性。例如，深层思考与新皮层相关 - 如果你删除它，人不再深思。回忆的感觉与与情绪和情景记忆相关的认知结构以及与诸如边缘系统和新皮层的神经区域相关。等等。

 

 

       在他的书“感觉痛苦和痛苦”中，哲学家尼古拉·格雷切克达到这个问题的答案。他认为这种疾病的概念意义被称为“疼痛Asymbolia” - 其中一个人意识到痛苦的感觉在那里，但没有经历痛苦的​​伤害。他们感到痛苦，但他们不疼。此外，他们可以认知地理解，疼痛意味着对他们的身体的损害，应该避免（在这种情况下，这是真的）。疼痛是感知和理解的，但它不伤害。

 

       Gracek的书考虑了一些非常有趣的问题，但我觉得它的结论有点混乱。有一个小的学术文献跟进他的想法，但它挖掘太深入的技术哲学，我的口味 - 所以在阅读本书后，我结束了对自己的问题，像我通常做的。

 

       在这种情况下，一个问题是：大脑的什么方面是什么，它的异常与疼痛亚麻相关？什么方面的大脑的结构和动力学是不同的人疼痛asymbolia，对应于他们不同的qualia关于疼痛？神经科学家还没有完全明白这一点，但有一些强大的线索。许多疼痛asymbolia的人似乎对大脑区域称为颗粒状insula和顶叶operculum的损伤。

 

 

       在这方面，似乎有必要区分四个级别的疼痛处理：

1.疼痛传感器（例如皮肤上的神经细胞）

2.疼痛传感器的认知表示（例如在脑，脊髓等中）

3.与疼痛信号相关的损伤和危险的“无意识”认知表示

4.“意识”，反映表示与疼痛信号相关的损害和危险

 

       这是一个前馈/反馈层次结构，每个级别传递信息到上下级别并对其施加影响。

 

       纯粹的情感性疼痛，没有任何直接的身体原因 - 说，失去一个爱的人的痛苦 - 从3级和4级开始，但通过反馈连接通常可以影响1级和2级。当情绪性疼痛足够严重或持续太久时，它可能真正身体伤害。

 

       这种分层视图使我们得出一些关于疼痛asymbolia和其他疼痛相关疾病的推测，暂定结论。看来，在疼痛木本的情况下，1,2和4级基本上是完好的。这表明可能3级不是的假设。具体来说，似乎信息从2级到3级的前馈在患有疼痛的患者中不能正常工作。

 

       有些类似地，在某些慢性疼痛（如我的朋友有CRPS）情况下，信息在2级到3级之间的传递以不同的方式功能失调。在水平2和水平3之间可以存在相互激发电路，其导致即使当没有来自基本疼痛传感器的疼痛信号时，由于疼痛信号导致身体处于损伤/危险状态的永久感觉。这也可能导致反馈到疼痛传感器，​​导致实际的低水平疼痛信号出现，完全由来自功能失调的较高水平的反馈刺激。

 

       所以 - 痛苦的认知相关性是什么？的痛苦的“ouchness”，事实，它实际上HURTS？似乎答案可能是：无意识的心/身体表示的疼痛信号相关的损伤/危险的某些方面，如由多个脑区域，如颗粒状的岛和顶叶手术介导的。这个答案，如果正确，可能对消除或大大减少疼痛在人类和其他智能系统的经验中的作用的可能性具有戏剧性的影响。

 

       作为补充从研究患有疼痛木本的人获得的信息，对其他人通过冥想，武术，瑜伽等设法避免疼痛的痛苦的其他情​​况进行神经学研究也将是迷人的和有启发性的。有趣的是，几个瑜伽练习者告诉我，他们可以在瑜伽练习期间进入心理状态，他们知道他们的身体正在发出疼痛信号，但实际上并没有伤害。我不知道这是否影响同样的大脑区域在疼痛asymbolia的情况下受损。 - 或者，也许，大脑的疼痛解释网络的不同部分？

 

       最后，虽然这不是我的焦点在这里，我不能拒绝注意这种思路对非人类动物的痛苦经验有一些潜在的影响。这表明反射的，高水平的认知理解与疼痛信号相关的损害和危险，不是感觉疼痛的先决条件。所有需要的是通过紧急的整体心理/身体状态无意识地反映对这种损害/危险的恐惧或预期的能力。它看起来很清楚，任何宏观的动物可以做到这一点，甚至可能，甚至微生物可以。这可能是因为我们正在造成微小的痛苦经验，一次又一次地对大量细菌造成伤害，这是我们人类存在的不可避免的后果。

 

 

       疼痛的神经和认知科学是一个引人入胜的话题。但更有趣的是，对我来说，是人类经验的工程痛苦的过程 - 以及我们构建的AGI系统的经验。

 

       如果上面开发的思路是正确的，那么，一个工程师疼痛的方法是插入一个大脑植入物，可以触发某种全部或部分疼痛asymbolia命令。如果植入物被完全激活，则疼痛信号的存在仍然记录在大脑中，并且潜在损害和危险的知识在适当时仍将认知地出现 - 但是被损坏和濒危的无意识的头脑/身体感觉将消失，与它的quale的痛苦。如果植入物被良好设计，则用户可以根据他们的偏好和情况随意调整其最大或中值疼痛水平。潜在地，用户还可以调整他们从不同来源感觉到的疼痛的水平。

 

       想象一下，如果认知传递的信号“OK，我已经知道蚊子叮咬存在，那么让我们结束那痛苦的瘙痒！”实际上将由身体...通过意识控制高度适应性脑植入物服从。这是有用的，得到蚊子咬你的身体的信号，所以你知道，在你得到10000蚊子和蚊子毒液之前逃离蚊子群 - 但一旦咬的事实已经记录在心中，持续的疼痛瘙痒对智力成年人没有真正的价值。

 

       这将远远胜过目前的情况，在这种情况下，我们的身体根据复杂的动态向我们提供不同程度的。，这些动态往往与我们思想的审慎和反思部分紧密相连。在目前的情况下，疼痛传感器及其神经相关性将我们的思维的强烈意识的部分输入，但是他们不注意这些有意识的部分提供的反馈。适当的脑植入物可以将更多的自顶向下的信息流注入到疼痛网络中，从而产生更好地满足生物体的总体需要的整体疼痛处理系统。

 

       另一种可能的方法来摆脱疼痛，将通过神经反馈。在这种方法中，人们不能创建能够控制脑功能的植入物 - 人们只是试图实时测量与大脑有关的大脑部分的操作。假设一个人创建了一个硬件/软件系统，使用户能够在计算机屏幕上实时查看他们大脑部分的激活，使他们的疼痛受到伤害。他们可以做到这一点，同时实验导致自己各种小程度的痛苦。看屏幕，他们可以执行各种内部心理动作，并观察这些行动对其大脑相关部分的活动的影响。通过这样做一段时间，他们将学会控制他们感觉到的ouchness的程度。这可能达到与脑植入相同的目的，但侵入性较低（虽然在一大堆工作之后）。

 

       一个有趣的问题是，如果使用脑植入物或神经反馈消除或大大减少褥疮，会产生什么副作用。这会降低快乐的强度吗？我在几年前写了一个关于这个主题的短篇故事 - “最后的春天”，它集中在一个未来的社会，每个人都戴着脑部植入物消除疼痛，但带来的副作用，也消除了快乐的强度。然后某些人禁用他们的脑部植入物，允许自己在脑植入时代之前体验以前已知的老人的存在的充分的喜悦和折磨。这是一个辛苦的想法，但实际上，我所阅读的关于疼痛asymbolia的人不支持这种想法。痛苦的元音人通常不能体验“在快乐中”，只是“在痛苦中”。可能有各种各样令人讨厌的副作用的最原始的方法，禁用传统的痛苦，但我怀疑疼痛的根本减少可以用比在自然痛苦木头的人看到的更复杂的方式实现。

 

       诱导疼痛asymbolia或任何类似于年轻的孩子或动物，如狗或鸟（至少，在任何类似于现在的情况下，在地球上的任何类似的情况下 - 激进的奇异性场景旁边！）是危险的。这可能导致快速死亡，因为这些生物缺乏知识和成熟度来形成他们的疼痛信号的审慎认知模型，并相应地调节他们的行为。但在我生命的这一刻，我知道足够的停止弯曲，当我的背部发出疼痛信号，因为我不想得到一个残疾的背伤 - 我不需要那讨厌的愁容，为了有意义服从我背部的疼痛信号。我知道足够多的黄蜂在被捅了一次后，我不需要强烈的不可阻挡的燃烧刺痛的感觉。我绝对不需要对应于来自我不时得到的口腔溃疡的疼痛信号的ouchness - 这些给我没有价值，但让我烦恼，降低我的生产力。

 

       我强烈怀疑有可能工程师脑植入，诱导各种精心制作，灵活可调的疼痛asymbolia的形式。我也怀疑神经反馈，如上所述，将是一个可行的方法。也许他们将被结合，与神经反馈用于学习正确的控制大脑冲动。无论涉及的具体工具是什么，一旦实施和广泛分布，我们现在的生活经验的种类，在那里痛苦的痛苦跟随我们，不断威胁或折磨我们，将是一个过去。

 

       我还认为，几乎肯定有可能工程的AGI系统，有很少或没有疼痛的经验。疼痛asymbolia显示，它可能甚至对于人类，与认知结构演变以体验疼痛的痛苦，以避免疼痛伤害。因此，几乎可以肯定的是，对于一个AGI系统设计的最小化ouchness作为一个设计目标，它将是可能做一个更好的工作。年轻的人类儿童和人类的进化前代，似乎需要冥想的神经/认知相关的生存 - 由于他们非常有限的审慎，有意识的认知建模损伤和与疼痛信号相关的危险的能力。但是AGI系统可以被开发出来，具有以复杂的方式推理与他们的感觉输入相关的损害和危险的能力。他们对盎然的夸张没有什么需要，我怀疑他们的心理健康将会更大，如果他们的工程设计，使这些质量被最小化。它是人类兴趣和​​AGI的利益，不是让AGI与痛苦和坚韧的心理学来自经验ouchness天和白天出来。