作者:苗千
10-15·阅读时长4分钟
约翰·霍普菲尔德(John Hopfield)与杰弗里·辛顿(Geoffrey Hinton)两位科学家因“为利用人工神经网络进行机器学习做出的基础性发现和发明”而共同获得了本年度诺贝尔物理学奖,确实出乎很多人的预料。可以说,这两个人都不算是严格意义上的物理学家,但也不能否认他们的工作与物理学密切相关,他们多年来工作的成果对物理学研究又有着巨大的推动作用。从这点来看,他们获得诺贝尔物理学奖完全符合阿尔弗莱德·诺贝尔在遗嘱中关于这个奖项的要求:“……奖给在物理界有最重大的发现或发明的人。”
霍普菲尔德出生于1933年,现年91岁;辛顿出生于1947年,现年76岁。这两位获奖者取得最基础性的突破都是完成于20世纪80年代,具有承上启下的关系。他们进行研究的重点虽然不完全相同,却有一个共同的关键词:“人工神经网络”(artificial neural network)。顾名思义,这项研究是模拟大脑中的神经网络,以神经元为一个一个的节点,进行信息处理和交换。这项研究以大脑为模仿对象,但是想要通过电子计算机模拟这种复杂的生物器官,研究者依靠的却是基础物理学知识。
科学家从20世纪40年代起研究大脑的构造,逐渐理解了它的神经网络结构。神经网络以神经元(neuron)为基本单位,神经元通过“突触”(synapse)发送信号。人类大脑中的神经元数以千亿,每个神经元都相当于一个节点,可以存储信息,又可以与其他神经元进行交流,互相影响。大脑可以存储信息,也能够进行学习,也就是说神经网络可以被“训练”——这意味着神经元之间的联系加强了。
霍普菲尔德1958年在康奈尔大学获得了物理学博士学位之后开始进行细胞生物学研究,到了1980年,他在加州理工学院接触到了计算机。生物学研究、计算机以及物理学背景三个因素叠加在一起,让他产生了灵感。很多微小的部分共同作用,就能够产生出某种全新的现象,这不仅是神经网络的特点,也是物理学研究中对于某些磁性物质内部原子自旋性质的理解——在某些物质中相邻原子的自旋会相互影响,最终某个区域内所有原子的自旋方向都相同,便让物质产生了磁性。
在这样的启发下,霍普菲尔德利用计算机建立起一个神经网络,每个节点可以存储“0”或“1”两个数值,节点之间以不同的强度相互连接。整个网络的状态与物理学中计算一个自旋系统能量的公式相同,这个公式包含了网络中所有节点的值以及它们之间的连接强度。也就是说,这个网络可以通过一个自旋系统的能量公式来描述。向这个网络输入数据(比如一幅图像),网络内部的连接会根据公式进行调整,以确保储存的数据具有较低能量。通过这种特殊的方式,网络可以保存多组数据,并可以在其间区分彼此。霍普菲尔德最初在1982年发表了这个“霍普菲尔德网络”,网络具有30个节点,每个节点相互连接,共有435个连接。其中每个节点的数值不同,连接的强度也各有不同。
辛顿于1970年在剑桥大学获得心理学学位,1978年又在爱丁堡大学获得了人工智能博士学位。在20世纪80年代,辛顿在卡内基梅隆大学进行研究,希望能够让机器像人类一样具有学习能力。他和同事研究了霍普菲尔德网络,又结合统计物理学的概念,将其扩展建造成为一个新的模型。
统计物理学描述的是由许多相似元素所组成的系统。比如说我们不可能追踪某一个气体分子,却可以研究气体分子的整体性质,比如压强和温度。对于这样的系统来说,某些状态要比另一些状态更可能出现,这与系统的可用能量相关。奥地利物理学家路德维希·玻尔兹曼(Ludwig Boltzmann)早在19世纪就利用“玻尔兹曼分布”(Boltzmann distribution)从统计物理学的角度描述气体分子的特性。辛顿所开发的网络正可以利用这样的数学形式来描述。于是他在1985年发表这个网络时为它取了“玻尔兹曼机”这个名字。
玻尔兹曼机由两种节点构成。信息被输入到“可见节点”中,而另一层则由“隐藏节点”构成一个隐藏层。可见节点与隐藏节点相互连接。在机器运行时,整个网络利用统一的规则,不断更新节点的值。节点的模式可以改变,但是整个网络的整体性质则保持不变。
可以说,玻尔兹曼机让机器学习成为可能。这种机器可以通过范例进行学习,并且通过更新其网络连接的数值进行“训练”。经过训练的玻尔兹曼机还可以在从未见过的信息中分辨出其熟悉的特征。一开始,玻尔兹曼机的工作效率极低,而辛顿一直在不断改进机器,使其更加高效。到了20世纪90年代,很多人对于人工神经网络失去信心,但辛顿从未放弃,一直在不断尝试发明新的训练方法。
可以说,霍普菲尔德在20世纪80年代关于霍普菲尔德网络的研究奠定了人工神经网络研究的基础,而正是辛顿多年来一直对于人工神经网络能够在人工智能领域起到关键作用坚信不疑,最终促成了以人工神经网络为基础的人工智能研究在21世纪初期出现了爆发式的突破。如今,各种人工智能工具又成为物理学研究最重要的工具之一。这两位科学家获得诺贝尔奖,可谓实至名归。
(本文写作参考了诺贝尔奖网站的相关信息)
发表文章326篇 获得0个推荐 粉丝3927人
喵
现在下载APP,注册有红包哦!
三联生活周刊官方APP,你想看的都在这里