MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!





近年来,随着科学家们不断推动机器学习的边界,训练日益复杂的神经网络模型所需的时间、能源和资金正在飞速增长。「模型能建,训练太慢」成为困扰越来越多研究人员的一个头疼问题。

最近,被称为「模拟深度学习」的人工智能新领域有望以更少的能源实现更快的计算。

可编程电阻器是模拟深度学习的关键部分,就像晶体管是数字处理器的核心元素一样。

通过在复杂的层中重复排列可编程电阻器,研究人员可以创建一个模拟人工神经元和突触网络,就像数字神经网络一样执行计算。这个网络可以被训练来实现复杂的人工智能任务,如图像识别和自然语言处理。

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图1

模拟神经网络的计算速度很大程度上取决于「人造突触」的传输速度。

麻省理工学院的一个团队要解决的就是这个环节。他们之前已经开发了一种人造模拟突触,现在要做的是,搞个新材料,超越原来的老版本。

这次,他们在制造过程中利用了一种实用的无机材料,让前文提到的可编程电阻器的运行速度达到了以前的版本的100万倍,同时也实现了比人脑中的突触快约100万倍。

此外,这种材料还使电阻的能源效率极高。与早期版本的设备中使用的材料不同,新材料与硅制造技术兼容。这一变化使得在纳米尺度上制造器件成为可能,并可能为整合到深度学习应用的商业计算硬件中铺平道路。

这项研究论文已经发表在Science上。

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图2
论文链接:https://www.science.org/doi/pdf/10.1126/science.abp8064

论文的通信作者、麻省理工学院电气工程和计算机科学系(EECS)的唐纳教授Jesús A. del Alamo说:

「凭借这一关键发现,加上MIT.nano的强大的纳米制造技术,我们已经能够把这些碎片放在一起,并证明这些设备本质上是非常快的,可以在合理的电压下运行。」

「该设备的工作机制是将最小的离子--质子--电化学插入绝缘氧化物中,以调节其电子传导性。因为我们用的设备非常薄,所以可以通过使用强电场来加速这个离子的运动,并将这些离子设备推向纳秒级操作」论文通信作者、核科学与工程系和材料科学与工程系的Breene M. Kerr教授Bilge Yildiz解释说。

论文通信作者、巴特尔能源联盟核科学与工程系教授和材料科学与工程系教授Ju Li说:

「生物细胞中的动作电位以毫秒级尺度上升和下降,因为大约0.1伏的电压差受制于水的稳定性。"在这里,我们在一个特殊的纳米级厚度的固体玻璃薄膜上施加高达10伏的电压,该薄膜可以传导质子,而不会永久损坏它。而且,电场越强,离子设备运行速度就越快。」

本文的共同作者还包括材料科学与工程系的Ellen Swallow Richards教授Frances M. Ross;博士后Nicolas Emond和Baoming Wang;以及EECS的研究生Difei Zhang。

这些可编程电阻器极大地提高了神经网络的训练速度,同时极大降低了进行训练的成本和能耗。这可以帮助科学家们更快地开发深度学习模型,应用于自动驾驶汽车、欺诈检测或医学图像分析等用途。

「一旦有了模拟处理器,就不用再训练其他人正在研究的网络了。你可以训练具有前所未有的高复杂度的网络,而这种复杂度是其他人无法承受的。换句话说,这不仅仅是一辆跑得快的汽车,而是一家飞机」。论文第一作者、麻省理工学院博士后Murat Onen说。

100万倍加速深度学习


模拟深度学习之所以比其数字深度学习更快、更节能,主要有两个原因。

首先,计算是在内存中进行的,所以巨大的数据负载不会从内存来回传输到处理器。模拟处理器也以并行方式进行操作。如果矩阵扩大,模拟处理器不需要更多时间来完成新的操作,因为所有的计算都是同时进行的。

麻省理工学院新的模拟处理器技术的关键元素被称为质子可编程电阻。这些电阻以纳米为单位,排列成一个阵列,就像一个棋盘。

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图3
纳秒级质子可编程电阻器

为了开发一种超高速、高能效的可编程质子电阻,研究人员寻找了不同的电解质材料。当其他设备使用有机化合物时,Onen却专注于无机磷硅酸盐玻璃(PSG)。

PSG基本上是二氧化硅,这是一种粉状的干燥剂材料,用来除湿。

在加湿条件下,研究人员研究了它作为燃料电池的质子导体。它也是硅加工中最著名的氧化物。为了制造PSG,硅中加入了少量的磷,使其具有质子传导的特殊特性。

Onen假设,优化后的PSG在室温下可以具有较高的质子导电性,且不需要水,这将使其成为理想的固体电解质。

惊人的速度


PSG能够实现质子的超快运动,因为它包含大量纳米大小的孔,这些孔的表面为质子扩散提供了路径。

它还能承受非常强的脉冲电场。

Onen解释说:「这一点至关重要,因为对装置施加更多的电压可以使质子极速移动。」

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图4

Onen说:「这种速度相当令人惊讶。通常情况下,我们不会在设备上使用如此强大的磁场,以避免它们变成灰烬。但相反,质子最终以巨大的速度穿梭在设备堆上,而且还是比我们之前的速度快一百万倍。此外,由于质子体积小、质量低,这种运动不会破坏任何东西。它几乎就像传送一样。」

因为质子不会损坏材料,所以电阻器可以运行数百万个周期而不发生故障。

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图5
质子可编程电阻器的超快和高能效调制特性

这种新型电解质使可编程质子电阻器的速度比以前的设备快100万倍,并且可以在室温下有效工作,这对于将其纳入计算硬件非常重要。

由于PSG的绝缘特性,当质子运动时,几乎没有电流通过材料。Onen补充说:「这使得该设备非常节能。」

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图6

del Alamo表示:「现在他们已经证明了这些可编程电阻器的有效性,研究人员计划对其进行重新设计,以实现大批量生产。然后他们可以研究电阻阵列的特性,并将其放大,以便将其嵌入到系统中。」

Yildiz补充说:「这些离子设备可以实现的另一个令人兴奋的方向是节能硬件,以模拟神经科学中推导的神经回路和突触可塑性规则,超越模拟深度神经网络。我们已经开始与神经科学进行这样的合作,得到了MIT Quest for Intelligence的支持。」

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的图7

del Alamo说:「 我们的合作对未来的创新至关重要。未来的道路仍然充满挑战,但同时也非常令人兴奋!」

斯坦福大学材料科学与工程副教授William Chueh说:「 诸如锂离子电池中发现的插层反应已经在存储设备中得到了广泛的探索。这项工作表明,基于质子的存储器件提供了令人印象深刻且令人惊讶的开关速度和耐用性。」

不过William Chueh并没有参与这项研究。

参考资料:
https://news.mit.edu/2022/analog-deep-learning-ai-computing-0728

文章来源:新智元

免责声明:本文系网络转载,版权归原作者所有。如涉及版权,请联系删除!


神经网络机器学习

MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的评论0条

    暂无评论

    MIT新材料打造「人造突触2.0」,模拟深度学习训练提速100万倍!的相关案例教程

    盖世汽车讯 据外媒报道,随着减少碳排放的需求日益迫切,人们迅速转向电气化交通,并扩大在电网上部署太阳能和风能。如果这些趋势持续升级,对更好的电能储存方法的需求将会增强。 (图片来源:MIT) 麻省理工学院(MIT)材料科学与工程学副教授Elsa Olivetti表示:“大规模开发基于网格的存储技术至关重要。然而,对于移动应用,尤其是交通领域,很多研究都集中于改良目前的锂离子电池,使其更安全、更小,
    2023年6月4日,南极熊获悉,来自麻省理工学院的工程师团队报告了一种简单、廉价的方法来制备陶瓷纳米纤维强化 Inconel 718材料,以用于金属 PBF 增材制造工艺。研究团队认为,他们的这种采用陶瓷纳米线强化3D打印金属粉末的方法同样可用于改进许多其他材料。航空航天和能源生产领域许多重要应用的关键材料必须能够承受高温和拉伸应力等极端条件而不会失效,所以,MIT开发的这种新型强化高温合金在航空
    来源 | 机器之心 知圈 | 进“域控制器群”请加微13636581676,备注域 来自清华、MIT的研究团队提出了一种基于自监督学习的方法,让自动驾驶模型从已有的轨迹预测数据集中学会正确判断冲突中的礼让关系。 自动驾驶汽车上路时,不可避免的需要学习一些道路上的“潜规则”。 自动驾驶系统需要察言观色,随机应变地及时发现什么时候应该减速礼让,什么时候又应该发现别人正在礼让而尽快加速通过。 由于道路环
    原版定制【微信:Amver888】《麻省理工学院毕业证|MIT成绩单》〖真实留信认证、本科、硕士、offer、雅思、外壳等材料〗绝对诚信可靠,可直接看成品样本,帮您解决无法毕业带来的各种难题!行业标杆!精益求精,诚心合作,真诚制作!多年品质 ,按需精细制作,24小时接单,全套进口原装设备。十五年致力于帮助留学生解决难题,包您满意。 要想富,先修路。党的十八大以来,习近平总书记对农村公路的发展始终牵
    更新说明 SYNOPSYS™ 经典版本 V16.100和新界面版本 V2.100 0 1 新界面版本(V2.100)新功能 1. 同时运行2个 SYNOPSYS 实例:从这个版本开始,可以允许同时运行 SYNOPSYS™ 的2个实例。 更多细节,请参见说明'运行2个 SYNOPSYS™ 实例的注意事项'。分析 02 新界面版本(V2.100)问题修复 1.完善了 CODE V 的导入功能。 我们对
    影响力
    粉丝
    内容
    获赞
    收藏
      项目客服
      培训客服
      0 0