杰弗里·辛顿：“图灵诺奖双得主”、“AI教父”，至高荣誉加身，果然没人比他更合适

tayun

北京时间2024年10月8日傍晚，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予约翰·J·霍普菲尔德（John J. Hopfield）和杰弗里·E·辛顿（Geoffrey E. Hinton），表彰他们在使用人工神经网络进行机器学习的基础性发现和发明。

杰弗里·辛顿是谁？


他是英国皇家学会院士，加拿大皇家学会院士，美国国家科学院外籍院士，多伦多大学名誉教授。


辛顿不仅是深度学习的奠基人，还带领人类进入了一个智能机器的时代。他的研究改变了人类对神经网络和人工智能的理解。


他的故事也堪称传奇，从小木匠到“图灵奖”得主，再到诺贝尔奖得主；从学术困境到AI传奇，最初被视为“逆潮流”的先驱，如今他是AI领域无可争议的巨擘。

最初的梦想：小木匠

杰弗里·辛顿（Geoffrey Hinton），1947年12月6日出生于英国温布尔登，祖父乔治·布尔（George Boole）是布尔代数的创立者，这个数学系统是现代计算机科学的基础之一。可以说，科学基因早已在辛顿的血脉中流淌。然而，辛顿并非一开始就注定要在计算机领域大展拳脚。


杰弗里·辛顿自幼对人类大脑的运作机制充满了浓厚的兴趣，希望揭开其中的奥秘。出于种种原因，18岁的Hinton进入剑桥大学国王学院攻读物理和化学，但只读了一个月就退学了。


一年之后，他又重新申请了国王学院的建筑学，结果又退学了，这次他只坚持了一天。之后又转向了物理和生理学，后来又转到了哲学，花1年修完了2年的课程，结果和自己的导师吵了起来。


最后，他转向了心理学，并于1970年，从剑桥大学获得了实验心理学的学士学位。然而，对本科阶段学习的种种不满和失望，使得他做出了一个令人意想不到的决定——成为一名木匠。


在木匠工作中，辛顿一边制作书架、木门，一边思考着大脑运行的奥秘。他认为这种生活方式能让他更好地探索自己的兴趣。然而，经过一年多的木工生涯，他逐渐意识到，这段经历并不能真正帮助他理解大脑的运作。他渴望更深入的研究，遂下定决心重返学术殿堂，投身于科研领域。


开启学术探究之路

出于一直对大脑运作方式及如何产生智慧充满兴趣，同时他也觉得人工智能领域很有发展前景，辛顿就跑去研究人工神经网络了。


当时 AI 正处于理论阶段，学术届分为统计学派和辛顿研究的神经网络派。绝大多数科研者都支持统计学派，认为神经网络学派没有前途。神经网络这个科研方向并没有多少人关注，也得不到其他人的认可，那时候并没有现在强大的 GPU 等算力资源，也没有充足的科研经费，只有辛顿的满腔热血。

辛顿在剑桥大学获得了实验心理学学位，初期他的研究兴趣在于大脑如何处理信息。大脑是一个复杂的神经网络，辛顿认为，或许可以通过模仿大脑的结构，来创造一种人工的“智能”。这是一种大胆的想法，当时并未得到广泛认可。


在爱丁堡大学攻读博士学位时，辛顿遇到了改变他一生的导师——克里斯托弗·朗格特·希金斯（Christopher Longuet-Higgins）。在希金斯的引导下，辛顿开始深入研究神经网络，这一领域当时仍处于起步阶段。他常常熬夜在实验室中工作，试图解开大脑如何处理信息的奥秘。正是在这个过程中，他对神经网络产生了浓厚的兴趣，并决心在这一领域开辟新的天地。

1978年他在爱丁堡大学获得了人工智能方向的博士学位，开始了他与神经网络的不懈探索。这时他已经 31 岁了。为了找到一个支持他研究神经网络的栖身之处，也避免研究被用于军事项目，辛顿来到了加拿大高级研究所(CIFAR)，就是CIFAR10/CIFAR100数据集中的那个CIFAR，最后落脚在加拿大的多伦多大学。


逆流而行的信仰

在20世纪70至80年代，神经网络几乎被学术界抛弃。当时，更多的科学家和工程师关注的是基于规则的专家系统，而神经网络被认为过于复杂且不实用。即便如此，辛顿对自己的想法却始终坚定不移。


1970年代末，辛顿曾在加州大学圣迭戈分校工作，但他逐渐意识到美国的研究气氛并不适合自己。他移居加拿大，加入了多伦多大学，并在这里一待就是数十年。多伦多成为了他的创新实验室，远离学术界的主流观点，辛顿得以安心深入研究神经网络。

真正的转折点出现在1986年，当时辛顿与大卫·鲁梅尔哈特（David Rumelhart）和罗纳德·威廉姆斯（Ronald J. Williams）共同提出了反向传播算法。这项算法解决了神经网络的关键问题——如何有效训练多层网络，使其能够自动调整权重来优化性能。


反向传播的提出重新燃起了对神经网络的兴趣，并为后来的深度学习打下了基础。然而，即使在这项突破性发明之后，神经网络在学术界仍未彻底回归主流。


甚至在21世纪初期，辛顿还被一些学术机构、AI与计算机科学领域的圈子拒之门外。参加学术会议时，辛顿常坐在房间的最角落里，在大牛云集的会议上完全被忽视。


好在辛顿在加拿大多伦多大学，有稳定的职位和还算充裕的支持神经网络的研究经费，使他能在这个冷门领域里坚持耕耘。更为重要的是，随着时间的推移，一些深度学习的信徒们被辛顿所吸引。


他培养了不少学生，学生又有学生，加上博士后及合作者，研究神经网络深度学习的人才济济群星闪烁，尽管寒冬期间工作机会少，资金仍然稀缺。但研究者们兴趣盎然，他们凭借自身的信念，排除嘈杂的干扰而自得其乐。


深度学习的复兴

辛顿是个充满理想主义的人，哪怕在最孤独的时刻，他也从未放弃自己对“让机器像人一样学习”的信念。随着计算能力的提升和数据量的增加，他终于等到了一个可以验证其理论的机会。


进入21世纪后计算机硬件的能力发展迅速，数据以惊人的速度开始积累，神经网络的训练开始变得可行。


2006年辛顿在Science上发表文章揭开了深度学习的序幕。他率先将反向传播用于多层神经网络，发明了玻尔兹曼机，提出逐层初始化预训练方法和胶囊神经网络。这一工作被认为是深度学习时代的开端。辛顿利用他的网络模型在手写数字识别等任务上取得了优异的表现，这让学术界重新审视神经网络的潜力。


2009年辛顿的2位学生使用神经网络赢下了一个语音识别比赛。2012年，是辛顿职业生涯中的一个转折点。他与学生亚历克斯·克里泽夫斯基（Alex Krizhevsky）和伊尔亚·苏茨克维（Ilya Sutskever）共同开发的AlexNet参加了ImageNet大规模视觉识别挑战赛。


在比赛中，他们以惊人的准确率赢得了冠军，准确率高出第二名十多个百分点。这一成就让全世界都为之震惊，深度学习技术迅速成为各大科技公司的研究重点。

在领奖台上，辛顿激动地发表演讲，他说：“这不仅是我们团队的胜利，更是整个神经网络研究领域的一次复兴。”这一刻，他不仅收获了荣誉，更让全世界看到了人工智能的无限可能。


全球的科技巨头都开始争相投资深度学习。谷歌、Facebook、微软等公司纷纷投入巨资进行神经网络和深度学习的研究。


创造工业界的奇迹

随着深度学习技术的发展，辛顿逐渐成为全球人工智能领域的重要人物。2013年，他创办的公司DNNresearch被谷歌收购，辛顿也随之加入谷歌。在这里，他继续进行深度学习研究，并带领团队开发了一系列突破性的技术。辛顿常常在会议上分享他的研究成果，与来自不同领域的科学家进行深入讨论。


在谷歌工作期间，辛顿提出了“胶囊网络”（Capsule Networks）的概念，旨在解决卷积神经网络的不足。卷积网络擅长处理二维图像，但对于更复杂的三维物体理解力不足，尤其在处理不同角度或视角的物体时，往往容易混淆。辛顿的胶囊网络模型试图通过模拟人类大脑的方式，提升神经网络在空间层次理解上的能力，进一步推动了机器视觉的发展。


2018年，辛顿与杨立昆（Yann LeCun）和约书亚·本希奥（Geoffrey Hinton）共同获得图灵奖，这一荣誉被誉为计算机科学界的“诺贝尔奖”。在领奖时，他谦逊地说：“这份荣誉属于所有为人工智能奋斗的人们。”他的言辞展现了他对团队合作和科学精神的重视，也让更多人关注到人工智能的发展。


直到2023年，为了更自由地探讨这些问题，辛顿选择从谷歌离职。他希望能够引发更多关于AI伦理与社会责任的讨论，并推动相关政策的制定。在一次采访中，他坦言：“我希望未来的人们能以负责任的方式使用AI，而不是让它成为我们生活中的威胁。”

辛顿的理论不仅在工业界产生了深远的影响，也在人工智能的博弈领域掀起了一场革命。2016年，基于深度学习的围棋程序AlphaGo战胜了世界围棋冠军李世石。虽然辛顿本人并未直接参与AlphaGo的开发，但其神经网络和深度学习的研究为AlphaGo打下了坚实的基础。


AlphaGo的胜利让全世界认识到了深度学习的力量，也让辛顿几十年来的坚持和努力得到了更广泛的认可。他不再只是学术界的“孤胆英雄”，而是成为了全球AI领域的领军人物。


AI世界的传火者

辛顿长久地坚持在这个冷门的领域耕耘，让他最终迎来了AI的春天，不但为人工智能领域带来了革命性的突破，辛顿（Hinton)的研究不仅带来了技术上的飞跃，也培养了一大批优秀的AI人才。包括：


1. 同获2018年图灵奖的Yann LeCun是辛顿的博士后，担任Facebook人工智能研究院总监。


2. Brendan Frey是辛顿的博士，DeepGenomics公司创始人和CEO。


3. Radford Neal是辛顿的博士，R语言的pqR解释器作者。


4. Ilya Sutskever是辛顿的博士，DNNresearch的联合创始人，目前任OpenAI&nbsp的研究总监。


5. Alex Krizhevsky是辛顿的博士，AlexNet网络模型的第一作者。

在多伦多大学，辛顿培养了一代又一代的AI研究人员，他的实验室成为全球顶尖AI人才的摇篮。这些学生不仅继承了辛顿的学术精神，还带着他的理念走向世界，在不同的领域推动着人工智能的进步。


荣誉加身不忘疾呼

2024年，辛顿因其在神经网络和人工智能领域的开创性贡献，获得了诺贝尔物理学奖。这一殊荣是对他一生工作的肯定，也是对神经网络与人工智能研究领域的历史性认可。

辛顿通过物理学的方式理解人工智能，他运用物理的理论和工具来分析人工神经网络的结构和行为，找到了训练这些网络的方法，彻底改变了机器学习的未来。


尽管辛顿已经在人工智能领域取得了巨大成功，但他对未来仍充满警惕。他反复提醒人们，AI的崛起带来的不仅是技术进步，还有诸多潜在风险。他曾公开表达过对超级智能失控的担忧，强调AI的发展必须伴随着伦理和法律框架的构建，以防止技术滥用。


辛顿认为，未来的AI不仅要追求更高的效率，还要更加“可解释”，即AI的决策过程需要透明，能够被人类理解和审查。这种观点也引发了全球科技界和学术界对AI“黑箱问题”的广泛讨论。

杰弗里·辛顿的10大语录：


1、“深度学习的潜力是无限的，只要我们愿意去挖掘。”


——Hinton在谈及深度学习的未来时，强调了这项技术的广泛应用潜力。


2、“人工智能就像电一样，将渗透到每个角落。”


——他常将AI的影响比作历史上重大技术革新，尤其是工业革命。


3、“深度学习是让机器从数据中学习的方式，而不是手动编码它们的行为。”


——解释了深度学习的本质及其区别于传统编程的方式。


4、“我从未预料到人工智能的发展会如此迅速。”


——他在谈论AI技术的飞速进步时曾表达过这种惊叹。


5、“在某些领域，机器已经超越了人类能力。”


——探讨AI技术在特定任务上超过人类的能力，尤其是图像和语音识别领域。


6、“我们必须对AI的潜力保持警惕，尤其是它的负面影响。”


——近年来，Hinton对AI发展速度及其潜在威胁提出了警告。


7、“人工智能可能在智力上超过人类，而不仅仅是在体力上。”


——他强调AI在智能领域可能带来的变革，而非像工业革命那样仅是物理层面的突破。


8、“我希望AI能帮助我们解决重大社会问题，而不是创造新的问题。”


——表达了对AI积极应用的期待，同时警惕其潜在的社会风险。


9、“我坚信，学习的本质就是从数据中发现模式，而这正是深度学习的核心。”


——他对深度学习的基本原理进行了简洁而有力的描述。


10、“AI的未来充满希望，但我们也需要承担起它带来的责任。”


——强调了在AI飞速发展过程中，责任伦理和道德的重要性。

杰弗里·辛顿的故事是一段充满坚持、创新与突破的历程。他从一个不被看好的领域起步，逆流而行，最终改变了整个科技世界。他不仅是一个科学家，更是一个梦想家，一个从未放弃信仰的人。他用毕生的精力证明了一个简单的信念：机器可以像人类一样学习，甚至在某些方面超越人类。


辛顿的传奇故事不仅属于过去，它还在继续书写。他对人工智能的愿景和信仰，将继续影响未来几代科学家、工程师和决策者，推动我们走向一个更加智能化的世界。



来源：36kr