━━━━
用忆阻器制成的新型神经网络
可以显著提高教会机器
像人一样思考的效率。
该神经网络被称为水库计算系统，它能够谈话前对其预测，并根据当前状况预测未来的结果。
提出该系统的研究小组由密歇根大学电气工程和计算机科学的教授Wei Lu带领，并且该小组最近在《Nature Communications》杂志上发表了他们的研究成果。
水库计算系统能够提高传统神经网络的容量并减少所需的训练时间，它一直以来都是用较大的光学元件组建。然而，U-M团队使用忆阻器组建了他们的系统，这种系统所需的空间较小，可以更容易地集成到现有的硅基电子设备中。
忆阻器是一种特殊类型的电阻设备，它既能执行逻辑运算，也能存储数据。在传统的计算机系统中，执行逻辑运算与数据存储的处理器模块相互分离，忆阻器则与它形成了鲜明的对比。在这项研究中，Lu的团队使用了近几年新出现的一种特殊忆阻器。受大脑启发，这种神经网络由神经元、节点、突触以及节点之间的连接所组成。
━━━━
为了执行某一任务，需要利用大量的问题及对应的答案来训练神经网络。在所谓的“监督式学习”的过程中，节点之间的连接权重会变得更大或更小来将误差最小化，从而得到正确答案。一旦训练完毕，神经网络就可以在不知道答案的情况下进行测试。例如，一个系统可以处理一张新照片，并正确识别人脸，因为它已经从其训练集中的其他照片中学习了人脸的特征。
该研究负责人Lu说：“很多时候，训练一个网络需要几天或几个月的时间，这是非常昂贵的。”
图像识别也是一个相对简单的问题，因为除了静态图像之外他不需要其他任何信息。更复杂的任务，如语音识别，可以高度依赖上下文，并要求神经网络了解刚刚发生的事情或刚才所说的内容。
Lu说：“当把语音转换成文本或翻译语言时，一个单词的含义甚至发音都会因为之前的音节而有所不同。” 这需要一个递归神经网络，它在网络中加入了循环，给网络带来记忆效应，但培养这些递归神经网络特别昂贵。但是，使用忆阻器组建的水库计算系统可以跳过大部分昂贵的训练过程，而且仍然可以提供网络记忆效应。这是因为系统中最关键的部分——“水库”不需要培训。
当一组数据输入到水库中，它会识别数据的重要时变特征，并以更简单的格式将其传递到第二层网络。然后，第二层网络只需要像简单的神经网络那样训练，改变第一层网络传递的特征和输出的权重，直至达到可接受的误差水平。
Lu说：“水库计算的美妙之处在于，我们在设计时不需要训练。”
该团队使用手写识别测试来验证水库计算的概念，这种测试是神经网络的共同基准。数字被分解成像素行，然后用像摩尔斯电码那样的电压输入到计算机中，黑色像素的电压为零，白色像素的电压为1伏。
为了识别手写数字，该系统仅需88个忆阻器作为节点，而传统的网络将需要数千个节点的任务，水库计算系统的精度达到了91％。
水库计算系统尤其善于处理时变数据，如数据流或文字流，或依赖于过去结果的函数。为了证明这一点，团队测试了一个复杂的函数，这个函数取决于多个过去的结果，这在工程领域是很常见的。水库计算系统能够以最小误差对复杂函数进行建模。
Lu计划用在两个方向进行探索：语音识别和预测分析。Lu说：“我们可以对自然语言进行预测，所以你甚至不用说全文，我们就可以预测你接下来要说什么。”
在预测分析中，Lu希望利用该系统接收带有噪声的信号，如远程广播电台的静态信号，并产生更清晰的数据流。即使输入停止，它也可以预测并产生输出信号。
本文转自我们的智能时代
来源：ScienceDaily，University of Michigan. "Memristors power quick-learning neural network." ScienceDaily. ScienceDaily, 22 December 2017.
往期推荐
