米兰-获诺奖的AI教父辛顿：曾提醒AI或威胁人类生存—新闻—科学网

“AI（人工智能）教父”、神经收集范畴年夜牛获诺贝尔物理学奖。

美国普林斯顿年夜学的约翰 霍普菲尔德（John J. Hopfield）和加拿年夜多伦多年夜学的杰弗里 辛顿（Geoffrey E. Hinton）

本地时候10月8日，瑞典皇家科学院公布，将2024年诺贝尔物理学奖授与美国普林斯顿年夜学的约翰 霍普菲尔德（John J. Hopfield）和加拿年夜多伦多年夜学的杰弗里 辛顿（Geoffrey E. Hinton），以表扬他们“为鞭策操纵人工神经收集进行机械进修作出的根本性发现和发现”。获奖者将同享1100万瑞典克朗（约合745万元人平易近币）奖金。

诺贝尔奖评奖委员会暗示：“本年物理学奖得主获得的冲破成立在物理科学的根本上。他们为我们展现了一种全新的体例，让我们可以或许操纵计较机来帮忙和指点我们，应对社会晤临的很多挑战。”

从20世纪80年月最先，两位获奖者就在人工神经收集方面展开了主要工作。此中，霍普菲尔德是一位物理学家，提出了往后被称为“霍普菲尔德收集”的一种新的神经收集模子，振奋了该范畴的研究。

另外一边，辛顿的名声也许加倍清脆一些。他是卷积神经收集理论的领甲士物，也被视为由ChatGPT掀起的本轮AI手艺跃进背后的奠定性科学家，被誉为“AI教父”。

辛顿诞生在1947年，履历了复杂的肄业履历，随后最先潜心研究神经收集。他与其他两位作者一同在1986年颁发了一篇题为《经由过程反向传布误差来进修》（Learning representations by back-propagating errors）的论文。在这篇奠基了深度进修理论焦点的论文中，三位科学家将反向传布算法利用在多层神经收集，而且证实了这类方式对机械进修行之有用。

随后，辛顿在卡内基梅隆年夜学任教五年，后来成为加拿年夜高档研究院的研究员，并进入多伦多年夜学计较机科学系任教。辛顿在2013年插手谷歌。因其在深度进修方面的进献，他与约书亚 本希奥和杨立昆被一同称为“深度进修三巨子”，三人在2018年被授与了图灵奖。

2023年5月，辛顿从谷歌去职。自那今后，他延续公然呼吁谨严看待AI手艺，成为旨在指导AI系统、使其行动合适设计者好处和预期方针的“AI对齐派”的代表。今朝，辛顿是英国皇家学会会士，也是美国国度工程学院和美国艺术与科学学院的外籍会员。

在数十年的研究生活生计中，辛顿可以称得上是“桃李满全国”。例如，在客岁年底那场遭到全球注视的OpenAI“政变风云”中，被猜想发现“超等智能”冲破、试图解雇公司CEO的OpenAI前首席科学家伊尔亚 苏茨克韦（Ilya Sutskever）恰是辛顿最自得的门生之一。

本年5月，苏茨克韦从OpenAI去职，并在一个月后公布成立新公司SSI（Safe Superintelligence Inc，平安超等智能），暗示新公司将致力在寻求平安超等智能。

而在辛顿这边，自从分开谷歌后，他也在一贯旗号光鲜地鼓吹“AI要挟论”。在客岁去职后不久，辛顿便在X（原推特）平台上发文暗示，他分开谷歌就是为了可以“公然地谈论AI的危险”。

随后，辛顿在一场采访中直言，他最先对本身平生从事的工作感应有些悔怨：“我用泛泛的捏词来抚慰本身：就算我没做，他人也会做的......很难想象，你能若何禁止坏人操纵它（AI）来做坏事。”

本年3月，辛顿在接管外媒采访时又一次具体论述了本身的不雅点。他暗示，本身在2023年4月与作为上司的谷歌首席科学家杰夫 迪恩（Jeff Dean）睁开过会商，称AI有可能带来事关人类保存的危机；迪恩但愿能挽留他留在谷歌研究AI的平安对策，但为了不受公司好处限制，辛顿仍是选择了分开。

辛顿认为，AI的危险的地方在在，其真的有可能采取对人类有害的手段来实现被设定的方针，而且AI之间还可能会在将来呈现竞争关系：“面临经由过程竞争变得更伶俐的AI，我们人类将会掉队。良多人主张，要避免AI掉控，只要关失落电源开关便可。但超出人类聪明的AI可以用说话把持我们，也许会试图说服我们不要关失落开关。”

在采访中，辛顿还表达了对学生苏茨克韦的撑持，称从OpenAI的“政变”年夜戏中可以看出，比起平安性，组织常常会更正视AI缔造的好处。

（原题：《获诺贝尔物理学奖的AI教父辛顿：曾在谷歌工作十年，提示AI或要挟人类保存》）

特殊声明：本文转载仅仅是出在传布信息的需要，其实不意味着代表本网站不雅点或证实其内容的真实性；如其他媒体、网站或小我从本网站转载利用，须保存本网站注明的“来历”，并自大版权等法令责任；作者假如不但愿被转载或联系转载稿费等事宜，请与我们联系。