ramy  2020-01-22 14:04:03  云计算 |   查看评论   

Mel等人认为,这意味着可以将单个的神经元构想为 two-layer 的神经网络:树突充当非线性计算子单元,收集输入并吐出中间输出;这些输出信号将在细胞体中进行结合,然后决定整个神经元的反应。

 

当然,截止目前为止,我们还并不清楚树突水平的活动,是否会影响神经元的放电以及邻近神经元的活动。不过,不管如何,局部处理在整个神经元系统中的作用已经毋庸置疑。在计算能力上,神经元要比我们想象的强大很多。

 

神经学家Shepherd也曾表示:“皮层中进行处理的大部分功率实际上是低于阈值的。单个神经元系统可能并不仅仅只是一个加权求和的系统。”

 

从理论上来讲,几乎任何可以想象的计算都可以由一个具有足够树突的神经元来执行,每个树突都能够执行自己的非线性计算。

 

而前面提到的最近发表在《Science》上的论文中,研究人员将这一想法又向前推进了一步:他们认为,不仅仅是树突本身,树突中的微小区室也能够独立执行复杂计算。

 

意外尖峰与明斯基的不可能

 

本文作者Matthew Larkum 是一位洪堡德的神经科学家,他的研究团队希望能够从不同的问题角度来研究树突。之前研究者主要在研究啮齿类动物的树突活动,因此他们希望能够研究有大量且更长树突的人类神经元中的电信号有什么不同。

 

他们从人类大脑皮层的第二层和第三层获取了脑组织切片,人类大脑皮层包含了有许多树突的特大神经元。当他们用电流来刺激这些树突时,他们看到了意料之外且反复出现的尖峰,这些尖峰似乎与其他已知的神经信号完全不一样。它们非常迅速而短暂,就如同动作电位一般,是由钙离子的流动所引起的。这是值得注意的,因为传统的动作电位通常是由钠离子和钾离子所引起的。并且,虽然此前已经在啮齿动物的树突状中也观察到了这种由钙离子所诱发的信号,但是那些尖状物的持续时间要长得多。

 

更奇怪的是,给树突注入给多的电流刺激,反而会降低神经元放电的密集度,而非增加。

 

为了搞清楚这种新的尖峰可能带来什么影响,研究人员构建了一个能够反映神经元行为的模型。

《Science》新作揭露 神经元树突也隐含计算能力

该模型发现,输入 X和输入Y,如果只有输入 X 或只有输入Y,树突会出现尖峰;而如果两个输入同时出现,就不会有尖峰。这相当于异或(或XOR)的非线性计算。

《Science》新作揭露 神经元树突也隐含计算能力

这一发现在计算机领域产生了轰动。多年来,他们都认为 XOR 函数不可能出现在单个神经元中,著名的计算机科学家Marvin Minsky 和Seymour Papert在他们于1969年合著的《Perceptrons》一书中,还对单层人工网络无法执行 XOR 进行了论证。这一结论具有毁灭性的影响,以至于很多计算机科学家都将20世纪80年代之前神经网络研究陷入低迷状态,归咎于这一结论。

 

神经网络研究者最终找到了避开Minsky 和 Papert所提出的困难的方法,同时神经科学家们也在自然界中找到了这些解决方案的案例。例如,Poirazi 之前就已经发现了XOR是可能存在于单个神经元中的:并且简单将两个树突结合起来,就能够实现这一点。而在最近的这个实验中,他们甚至能够提供了一个合理的、在单个树突中执行XOR的生物物理机制。

 

处理器中的处理器

 

当然,并非所有的神经元都是如此。据论文作者 Gidon 所说,大脑的其他部分也存在很多更小的点状神经元。或许发现的这种神经复杂性的存在是有原因的。

 

神经元中的一个小区室,为什么需要具有整个神经元或一个小型的神经网络才具备的能力呢?

 

一个可能是:多层神经网络的神经元能够有更好的处理能力,并且能够有更好的学习和存储能力。

 

对此,Poirazi指出:“或许在单个的神经元内就有一个深度网络,这在学习有难度的问题或认知方面,会强大许多。”

 

Kording 也提到:“单个神经元或许能够计算真正复杂的函数,例如,它可能能够拥有自主识别对象的能力。”

 

正如Poirazi 所说,如此强大的单个神经元,也将有助于大脑降低能量消耗。据了解,研究者们计划下一步将尝试在啮齿类动物或其他动物身上的树突中寻找相似的信号,以此来确定这种计算能力是否是人类所独有。他们也希望能够超越模型的范畴,将他们观察到的神经行为与动物的实际行为结合起来研究。

 

与此同时,Poirazi 则期望能够比较这些树突中的计算与神经元网络中实际发生的情况,以此证明前者是否具备一些优势。这包括测试其他类型的逻辑操作、探索这些操作将对学习和记忆有哪些贡献意义。她表示:“在我们开展这些实验之前,我们无法真正确定这一发现将带来多大的影响。”

 

结语

 

虽然现在研究者们还有很多工作需要做,但他们认为这些发现也暗示着他们需要重新思考他们该如何对大脑以及其更广泛的函数建模。仅仅关注不同神经元和大脑区域的关联性,远远不够。

 

这一新结果,似乎也会对赢咖4和机器学习领域的问题带来影响。人工神经网络依赖于点状模型,这种模型将神经元视作对输入计数并在活动函数中传递总数的节点。

 

纽约大学认知科学家、深度学习的怀疑者 Gary Marcus曾说过:“只有少数人在认真对待这个观点:单个神经元可能是一个复杂计算的设备。”

 

他补充道,尽管这篇在《科学》上发表的论文只是更广泛的研究史中阐述了这一观点的其中一项发现,但计算机科学家应该严肃看待这一观点,因为它用 XOR 问题为阻碍了神经网络研究如此长时间的研究难题提供了一个研究框架。他表示:“也就是说,我们真地需要考虑采用这种解决思路,想从愚蠢的神经元中获得聪明的认知的整个研究规则,可能是错误的。”

 

除特别注明外,本站所有文章均为 赢咖4注册 原创,转载请注明出处来自《Science》新作揭露,神经元树突也隐含计算能力

留言与评论(共有 0 条评论)
   
验证码:
[lianlun]1[/lianlun]