顾险峰:当人工神经网络遇上脑科学

导读:

一场棋局过后,有人对人工智能欢呼雀跃,又有人为机器打败人类而忧心忡忡。但是,或许你不知道,正是人类在脑科学上孜孜不倦的研究,才成就了今天人工神经网络的成果。在上期的SME-Talk线上沙龙中,我们邀请到美国纽约州立大学终身教授顾险峰,带我们走进《当人工神经网络遇上脑科学》。点击这里,可以听到本期沙龙的录音。

1

首先感谢SME组织本次交流分享活动。这次的分享主要内容是根据我的《人工智能中的联结主义和符号主义》这篇文章整合而成。

感谢南加州大学的Paul Thompson教授、俄亥俄大学的Zhong-Lin Lv教授、密苏里大学Judith Miles教授、Ye Duan教授、亚利桑那州立大学的Yalin Wang教授香港中文大学Ronald Lui教授以及吴文俊先生的高足高小山研究院的支持。

1

前段时间谷歌的机器人AlphaGo以4:1击败了李世石,引起了全社会的讨论。有人认为技术奇点即将来临,也有人对此不以为然。有人认为这是人工智能一次质的飞跃,也有人认为这只是一次量变。我们这次演讲会回顾一下人工智能发展的历史,并与脑科学发展历史相互映照,并对未来做一些预测。

人类的智能主要包括归纳总结和逻辑演绎,对应着人工智能中的联结主义(如人工神经网络)和符号主义(如吴文俊方法)。人类大量的视觉听觉信号的感知处理都是下意识的,基于大脑皮层神经网络的学习方法;大量的数学推导,定理证明是有强烈主观意识的,是基于公理系统的符号演算方法。

联结主义

1

David Hunter Hubel和TorsenWiesel最早进行视觉的研究。他们把猫麻醉之后,在其头部插入了很多微电极。然后在猫的眼前投影各种简单模式,观察猫的视觉神经元的反映。他们发现神经元可以分为高级神经元和低级神经元。猫的视觉中枢中有些神经元对于某种方向的直线敏感,另外一些神经元对于另外一种方向的直线敏感;某些初等的神经元对于简单模式敏感,另外一些高级的神经元对于复杂模式敏感,并且其敏感度和复杂模式的位置与定向无关。这证明了视觉中枢系统具有由简单模式构成复杂模式的功能。这也启发了计算机科学家发明了人工神经网络。

1

后来,通过对猴子的视觉中枢的解剖,将猴子的大脑皮层曲面平展在手术台表面上,人们发现从视网膜到第一级视觉中枢的大脑皮层曲面的映射是保角映射。保角变换的最大特点是局部保持形状,但是忽略面积大小。这说明视觉处理对于局部形状非常敏感。

1

现在我们有很好的方法可以测量这个映射。研究表面,这个映射是在人的幼年时期形成的,如果这个映射发生损伤,将对人类视觉造成很大的伤害。

人们逐步发现,人类具有多个视觉中枢,并且这些视觉中枢是阶梯级联,具有层次结构。人类的视觉计算是一个非常复杂的过程。如下图所示,在大脑皮层上有多个视觉功能区域(v1至v5等),低级区域的输出成为高级区域的输入。低级区域识别图像中像素级别的局部的特征,例如边缘折角结构,高级区域将低级特征组合成全局特征,形成复杂的模式,模式的抽象程度逐渐提高,直至语义级别。后来这种猜想在深度学习领域得到一定的验证。

1

毕加索的名画格尔尼卡(Guernica)中充满了抽象的牛头马面,痛苦嚎哭的人脸,扭曲破碎的肢体。我们可以毫不费力地辨认出这些夸张的几何形体。其实,图中大量信息丢失,但是提供了足够的整体模式。由此可见,视觉高级中枢忽略色彩、纹理、光照等局部细节,侧重整体模式匹配和上下文关系,并可以主动补充大量缺失信息。

1

最近,深度学习技术的发展,使得人们能够模拟视觉中枢的层级结构,考察每一级神经网络形成的概念。图4显示了一个用于人脸识别的人工神经网络经过训练后习得的各层特征。底层网络总结出各种边缘结构,中层网络归纳出眼睛,鼻子,嘴巴等局部特征,高层网络将局部特征组合,得到各种人脸特征。这样,人工神经网络佐证了视觉中枢的层次特征结构。

专用和通用

人工神经网络在20世纪80年代末和90年代初达到巅峰,随后迅速衰落,其中一个重要原因是因为深度神经网络的发展严重受挫。人们发现,如果网络的层数加深,那么最终网络的输出结果对于初始几层的参数影响微乎其微,整个网络的训练过程无法保证收敛。

人们发现大脑具有不同的功能区域,每个区域专门负责同一类的任务,例如视觉图像识别,语音信号处理和文字处理等等。并且在不同的个体上,这些

分享到:

相关推荐

  • tumblr_o65tesuXOy1v8c07lo1_500

    这些奇葩颜料出现之后,女王白了,拿破仑死了,梵高疯了

    我们从小就向往颜色丰富的世界,就连形容仙境也常用五彩斑斓、绚丽多彩这样的词汇。 这种对色彩天然的热爱让许多父母将绘画作为自己孩子的重点培养爱好。 虽然真正热爱绘画的孩子没有几个,但却鲜有孩子能抵抗一盒精美颜料带来的魅力。 柠檬黄、橘黄、大红、草绿、橄榄绿、熟褐、赭石、...

  • 2000

    中国保健教父的打鸡血王朝,注射的不只是狂热,还有愚昧

    中华大地上的子民们历来爱搞发明,人尽皆知的“四大发明”就是最好的证据。 近代,由于科学发展的滞后以及国力衰落,前人提出了“师夷长技以制夷”的方针。 自那以后,中国诞生了很多中西结合的产物,例如平安夜送苹果,西式婚礼闹洞房。 近来闹得不可开交的中药注射剂也是一种中西结合的奇...

  • memorable-moments-1896-600x400

    百年现代奥运史,千年兴奋剂滥用史

    自古以来,人类靠着一个又一个的科技突破不断挑战新的极限。 从莱特兄弟的飞行者1号到美国宇航局研制时速上万公里的X-43A。 从古老的摩尔斯码电报机到全球互联的移动智能手机。 我们享受着这样的进程,同时也积极努力地推进技术的发展。 然而,有一个领域足以代表人类科技的最尖端水...

SME 发掘你不知道的科技故事