重新发明计算机:后摩尔时代的脑启发计算
2020-01-19 09:28:31
  • 0
  • 0
  • 1

来源:环球创新智慧

导读

据美国物理学联合会官网近日报道,美国 Rain Neuromorphics 公司和惠普实验室的研究人员重点研究了推进脑启发神经形态计算所需的核心技术,并提出一种由数字架构和模拟架构组成的混合架构。

背景

1947年,美国贝尔实验室成功演示了首个基于锗半导体的点接触型晶体管。晶体管的问世,标志着现代半导体产业的诞生与电子信息时代的开端,它也被誉为二十世纪最重要的发明之一。

重新发明计算机:后摩尔时代的脑启发计算

各种型号的晶体管(图片来源: 维基百科)

自晶体管诞生以来,科学家们就一直致力于缩小它的尺寸,使单颗芯片上容纳晶体管的数量越来越多。集成电路技术出现以后,指甲盖大小的微芯片上能够容纳的晶体管数量已经非常多。

这种趋势用“摩尔定律”来描述就是:“当价格不变时,集成电路上可容纳的晶体管数目,约每隔18个月便会增加一倍,性能也将提升一倍。”

重新发明计算机:后摩尔时代的脑启发计算

摩尔定律-集成电路芯片上晶体管数量(1976-2016)(图片来源:维基百科)

可是,随着晶体管尺寸逼近5纳米,我们就会面临新的问题,例如“量子隧道效应”。也就是说,电子不再受制于欧姆定律,穿越了原来无法穿越的势垒,引起了集成电路漏电现象,使晶体管变得不再可靠。此外,随着单颗芯片上集成的晶体管数量不断增加,电荷带来的发热问题会更加严重,从而影响到芯片的处理速度与性能。这些问题都严重阻碍了电子器件的小型化进程。

下图所示:摩尔定律(晶体管/面积)、生成的数据(计算需求)、计算效率随着年份变化的对比。自2008年以后,尽管摩尔定律和计算机技术的需求仍然在持续增长,但是计算效率的增长却明显减缓了,从而创造出了“计算差距”,这个差距需要新技术来填补。尽管摩尔定律在持续增长,但是它不再按比例地为计算机技术带来效益。实心的圆圈是数据,虚线是线性拟合(在对数坐标系上)。

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:参考资料【1】)

创新

在本周于《应用物理学评论(Applied Physics Reviews)》杂志上发表的一篇论文中,Rain Neuromorphics 公司的 Jack Kendall 和惠普实验室的 Suhas Kumar 对计算机技术进行了全面深入的研究,聚焦于推进脑启发神经形态计算所需的运行函数。他们提出了一种混合架构,由数字架构以及复兴的模拟架构组成,通过忆阻器实现。忆阻器是一种具有记忆功能的电阻,可在信息存储的地方直接处理信息。

Kumar 表示:“未来计算机技术,将不再是向一颗芯片内塞入更多的元件,而是从头开始重新思考处理器的架构,模仿大脑高效处理信息的方式。”

Kendall 补充道:“模仿大脑天然处理系统的解决方案正开始浮现,而研究和市场的空间都很广阔。”

技术

人脑识别人脸的能力,至少也不差于人类设计的最佳算法。此外,人脑的神经连接数量,比如何企图模仿它的技术都高几个数量级。人脑不仅可以存储成千上万幅图像,也可以采用高效的算法从这些大数据集中分类数据。时下流行的技术例如人工智能,正是在模仿人脑的学习能力。

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:Olivia Wang, Peng Cheng Laboratory)

计算机需要以新的形式出现。正如论文作者们指出的:“如今最先进的计算机每秒处理指令的数量与昆虫的大脑差不多。”而且,它们缺少有效扩展的能力。相比而言,人脑大约要强一百万倍,由于可塑性和稀疏性,它执行计算的复杂度要高得多。

因此,论文作者们采用最简单的深度神经网络(DNNs)作为一个工具来解释脑启发神经形态计算机的原语。

DNNs 含有多个计算层,每一层都含有数个“神经元”,用于处理反馈给它们的任何信息,例如通过阈值函数(在这种情况下,当输入超过阈值时,神经元就会发出一个信号)。给定的某层中,每个神经元的输入输出都会通过加权连接或者说是“突触”,连接到其他层。这些权重定义的连接、神经元的函数、网络拓扑一起描绘着系统的行为。

下图描绘了一个有限深度或者说是多层的神经网络在识别图像。无论是通过算法还是网络还是二者兼有,这个基础网络都能体现出脑启发计算机的所有原理。这幅图介绍了深度神经元网络的特点,描绘和标记了一个深度神经网络。深度神经网络的属性用不同的背景颜色来注解。大部分的属性(特别是诱因),并没有通过任何已知的神经网络进行有效的展示,但是论文作者在相关任务背景下,将它们描述为神经形态系统的重要特征。

a

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:参考资料【1】)

接下来,论文作者们讨论了实现脑启发或者神经形态计算机的十大关键“操作原语”:并行(Parallelism)、内存内计算(In-memory computing)、模拟计算(Analog computing)、可塑性(Plasticity)、概率计算(Probabilistic computing)、可扩展性(Scalability)、稀疏性(Sparsity)、学习(Learning)、因果性(Causality)、非线性(Nonlinearity)。

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:参考资料【1】)

然后,论文作者们讨论了加速器,特别是专注于神经科学的加速器和专注于学习的加速器,以及神经形态架构和一些新的研究方向,例如新算法和相关硬件、突触和神经元材料的设计等等。

价值

重新打造计算机,以便更好地模仿大脑中的神经架构,是解决动态非线性问题的关键。论文作者们预测,神经形态计算最早将在本世纪中叶普及。

计算原语例如非线性、因果性、稀疏性的进展,在新的架构例如深度神经网络中,将带来新一波的计算技术。这一波的技术,可以处理非常难解的约束优化问题,例如天气预报和基因测序。

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:参考资料【1】)

论文作者们总结称,为了神经形态计算的成熟,材料、器件、架构和工具等都必须发展。他们呼吁探索新的功能材料,以开发新型计算器件。

重新发明计算机:后摩尔时代的脑启发计算

(图片来源:参考资料【1】)

这篇论文不仅为该领域新手确定研究方向提供了入门指导书,也为某些研究人员找寻方法突破传统计算模式的基本限制提供了启发。

参考资料

【1】Jack D. Kendall, Suhas Kumar. The building blocks of a brain-inspired computer. Applied Physics Reviews, 2020; 7 (1): 011305 DOI: 10.1063/1.5129306

【2】https://publishing.aip.org/publications/latest-content/reinventing-the-computer-brain-inspired-computing-for-a-post-moores-law-era/


 
最新文章
相关阅读