量子计算+机器学习。分子模拟领域能碰撞出怎样的火花?曾师从诺贝尔奖获得者的量子物理学博士、机器学习大师MaxWelling将为我们提供答案。昨日,机器学习顶级会议ICML公布了杰出论文奖、时间测试奖等奖项。MaxWelling等人在2011年发表的一篇论文。获得时间测试奖。主题是“基于随机梯度朗之万动力学的贝叶斯学习”。该奖项证明了MaxWelling等人的工作产生的深远影响。对机器学习社区有影响。获奖的喜悦还没有消散,MaxWelling又宣布了一个重要消息:他将于今年9月1日以杰出科学家的身份加入微软研究院,将致力于与分子模拟相关的研究。MaxWelling目前是阿姆斯特丹大学机器学习研究主席和高通技术公司副总裁,也是加拿大高等研究院(CIFAR)的高级研究员。此外,他还是阿姆斯特丹大学附属公司ScyferB.V.的联合创始人(致力于深度学习研究,于2017年夏季被高通公司收购)。MaxWelling透露,他的变动是在阿姆斯特丹领导一个新的微软实验室。在那里,他将组建一个多元化的研究和工程团队,专注于分子模拟问题。为什么要进行分子模拟?MaxWelling解释说:因为,除了电磁力、引力和其他一些更奇异的力,物理学中几乎所有东西都是由分子构成的。然而,由于大自然是量子力学的,我们无法在经典计算机上准确地模拟它们。随着机器学习(例如等变图神经网络)的不断突破以及量子计算和经典计算能力的增强,我预计我们将在未来十年取得非常重大的进展。随着我们对分子和化学反应理解的加深,这个方向的潜在应用也在增加,比如改进药物治疗疾病、寻找绿色技术的高效催化剂、开发具有惊人性能的新材料等。可以看出,分子模拟已经成为MaxWelling的主要研究兴趣。对于新实验室的进展,MaxWelling透露,他们已经招募了No.1员工——来自GoogleAI的研究科学家RiannevandenBerg。在加入微软的同时,MaxWelling还将继续担任阿姆斯特丹大学的教授,指导学生和博士后研究员。MaxWelling:博士在诺贝尔奖获得者的指导下攻读量子物理学与一般的机器学习研究人员不同。MaxWelling并非计算机专业出身,而是就读于世界顶尖公立研究型大学——荷兰乌得勒支大学。11年物理学,导师为荷兰理论物理学家、1999年诺贝尔物理学奖获得者Gerard'tHooft。1999年,胡夫特和他的老师韦尔特曼因在20世纪70年代做出的“阐明物理学中电弱相互作用的量子结构”的理论研究成果而获得诺贝尔物理学奖。他们的计算理论给了粒子物理学更坚实的数学基础,特别是他们的理论可以用来更精确地计算物理量。在Hooft的监督下,MaxWelling获得了博士学位。1998年获得量子物理学博士学位。MaxWelling随后在加州理工学院(1998-2000)、伦敦大学学院(2000-2001)和多伦多大学(2001-2003)担任博士后研究员。2003-2013年,他在加州大学欧文分校担任助理教授、副教授和教授。2012年,他开始担任阿姆斯特丹大学机器学习教授和研究主席。学术成果方面,MaxWelling的论文被引用超过50,000次,h-index高达79。2016年,MaxWelling与阿姆斯特丹大学硕士生ThomasKipf(2020年毕业),现在是谷歌大脑的研究科学家)。)共同提出了图神经网络领域的一项重要成果——图自动编码器(GAE),相关论文在NIPS2016Workshop上发表。图自动编码器(GAE)可用于图结构数据中的无监督学习和链接预测,其主要组件是基于图神经网络的编码器和基于成对评分函数重建图链接的解码器。之后,两人进一步提出了GAE的模型变体——变分GAE(variationalGAE)。GAE和变分GAE非常适用于没有节点标签的图表示学习。论文链接:https://arxiv.org/pdf/1609.02907.pdf2017年,MaxWelling加入高通,担任技术副总裁。在任期间,他参与了量化、无监督学习和量子人工智能方面的研究。在去年的一篇文章中,MaxWelling介绍了他们在量子AI研究领域的一些成果。例如,他们开发了一个量子变形二元神经网络,它支持在量子计算机或经典计算机上运行大型经典神经网络。高效模拟。基于此,高通研究人员对这个经典的神经网络进行了变形,并集成了量子效应,网络仍然可以高效地训练和运行。这也是第一个用于真实数据的量子二进制神经网络。可见,MaxWelling在物理学方面,尤其是在量子物理领域的积累,帮助他在机器学习领域取得了一些成就。机器学习、量子物理学、化学、分子生物学将如何碰撞欢迎MaxWelling加入微软研究院担任新阿姆斯特丹实验室的负责人,以及微软研究院剑桥实验室主任ChrisBishop。与MaxWelling类似,ChrisBishop也是一位具有深厚物理学背景的计算机科学家。他获得了博士学位。英国爱丁堡大学理论物理学博士,研究方向为量子场论。两人在访谈中,结合共同的物理学背景和对分子模拟的愿景,探讨了机器学习和量子计算在分子模拟领域的应用前景,机器学习在分子模拟领域提供所需数据的能力。分子模拟领域,以及阿姆斯特丹实验室第一年及以后的愿景。在采访中,ChrisBishop认为,MaxWelling所有卓越的研究都与分子模拟直接相关,这是微软研究院剑桥实验室非常感兴趣的领域。办公室领导的初衷。MaxWelling还表示,他一直在努力将自己的研究方向转向分子模拟领域。他宁愿将自己的职业生涯献给气候变化,计算化学是解决许多挑战的关键。微软这个大平台,可以为自己提供大量可用的计算基础设施。ChrisBishop对此表示赞同,并相信分子模拟将在解决气候灾难方面发挥重要作用。至于什么是分子模拟,为什么现在的分子模拟研究如此火爆,与机器学习有什么关系,两人进行了深入的探讨。ChrisBishop认为机器学习对分子模拟领域的影响将与它对计算机视觉、语音识别和自然语言理解的影响一样大。机器学习、量子物理学、化学和分子生物学的结合将在包括但不限于气候变化在内的许多领域带来巨大希望。MaxWelling还描述了分子研究的美妙之处,他说我们周围的一切都是由分子构成的,除了光和其他我们无法真正看到但也无法真正理解的力。它们的特性无法真正预测。因此,如果我们开始更好地理解分子,许多相关应用就变得触手可及。例如,我们可以通过设计更好的催化剂来促进氢经济、设计新药等。微软研究院在这方面做了很多研究。ChrisBishop还列举了微软研究院在药物发现领域所做的努力,比如与制药公司的积极合作、机器学习如何影响药物发现过程的研究等等。微软研究院一直在做的大部分工作都使用由实验数据驱动的机器学习,并致力于从蛋白质如何折叠和与其他蛋白质相互作用的量子物理学的第一性原理模拟中创建数据。此外,微软研究院对药物发现和更广泛的生命科学感兴趣,例如对COVID-19的研究。ChrisBishop还提到,MaxWelling以其在机器学习中的不变性和等变性方面的工作而闻名。这些与分子模拟中遇到的挑战有什么关系?MaxWelling解释说,对称性是物理学中需要考虑的东西,几乎所有的物理理论都是围绕对称性建立的。事实上,整个标准模型都是由粒子组成的,根据对称变换进行组织。他和他的同事们也想在神经网络中实现这个原理,事实上卷积神经网络已经在一定程度上实现了。“神经网络的大致思路是,如果你把一只猫从一个地方移动到另一个地方(翻译),神经网络的输出要么是不变的,要么是猫,要么是猫;如果你看到左边有一只猫orrightordoimagesegmentationonit,segmentationmaskshouldbemovewiththecat(equivariance).我们正在思考如何扩大这些原则的适用范围,比如旋转物体,预测结果应该保持不变(invariant)。一只倒立的猫毕竟还是一只猫,对吧?这对于分子模拟尤其重要,因为如果你旋转一个分子,你仍然认为它的属性与你从另一个角度看它时的属性相同周围,??并将这种归纳偏差,即先验知识,构建到您的模型中,这就是我们最近一直在做的事情。我们将其构建到我们所谓的图形神经网络中,您可以将原子视为图形中的节点,原子之间的相互作用是边缘,这些在oms互相发送信息,这很像做卷积。所以,在那个图神经网络中,我们让它们在经过旋转后保持某种对称性,然后用它来描述分子,这是非常成功的。有趣的是,你可以使用数据集来预测这些分子的性质,而且这些预测非常准确。现在,整个社区开始意识到这个领域在未来可能会产生重大影响。两人一致认为,对称性将在机器学习领域发挥重要作用。那么,量子计算将如何影响分子模拟?根据MaxWelling的说法,分子本质上是量子系统,尤其是电子可以用量子力学很好地描述。量子计算机在某种意义上也是一种自然的量子模拟。我们可以将量子计算机视为一种量子实验或量子模拟。人们认为,量子计算的第一个实际应用将发生在模拟量子力学领域。目前,量子计算仍处于起步阶段,真正可用的量子计算有望在10年以上。在这个阶段,我们可以首先使用量子计算来使用一些噪声较大的量子设备来模拟分子,而量子计算与机器学习之间的协同作用是最令人兴奋的。除了讨论机器学习、量子计算和分子建模的技术融合和发展前景,两人还分享了阿姆斯特丹实验室的一些信息。MaxWelling表示,阿姆斯特丹是一座宜居宜业的城市,人才交流频繁。实验室将招募优秀研究人员,组成多元化团队,与剑桥实验室团队合作。在接下来的几年里,他希望建立一个系统,可以预测分子的性质,生成具有某些性质的分子,并在巨大的空间中搜索这些分子。未来10年,MaxWelling希望解决“理解分子”的问题,能够实时设计新材料,比如设计新的催化剂,为绿色经济赋能。他还希望能够针对目前无法治愈的多种疾病设计新药。
