[[412546]]

量子計算 + 機器學習可以在分子模擬領域碰撞出什么火花？師從諾獎得主的量子物理博士、機器學習大牛 Max Welling 將給出我們答案。

昨天，機器學習頂會 ICML 公布了杰出論文獎、時間檢驗獎等獎項，Max Welling 等人 2011 年的一篇論文獲得時間檢驗獎，主題是「基于隨機梯度 Langevin 動力學的貝葉斯學習」。這一獎項表明，Max Welling 等人的工作對機器學習社區產生了深遠的影響。

拿獎的喜悅還未沖散，Max Welling 又公布了一項重要消息：他將于今年 9 月 1 日以杰出科學家的身份加入微軟研究院，致力于分子模擬相關研究。

Max Welling 現為阿姆斯特丹大學機器學習研究主席和高通技術副總裁，兼任加拿大高等研究院（CIFAR）高級研究員。此外，他還是阿姆斯特丹大學附屬公司 Scyfer B.V.（致力于深度學習研究，2017 年夏被高通收購）的聯合創始人。

Max Welling 透露，他此番變動是要去領導微軟在阿姆斯特丹新建的一個實驗室。在那里，他將組建一支多樣化的研究和工程團隊，主攻分子模擬問題。

為什么是分子模擬？Max Welling 解釋說：

因為世界上除了電磁力、重力和其他一些更奇異的力之外，幾乎所有物理的東西都是由分子組成的。然而，由于自然界是符合量子力學的，我們無法在經典計算機上準確地模擬它們。隨著機器學習（如等變圖神經網絡）技術不斷取得突破，以及量子計算和經典計算能力的不斷提升，我期望我們在下一個十年能夠取得非常顯著的進展。

隨著我們對分子和化學反應理解的加深，這一方向潛在的應用領域也越來越多，如改進對抗疾病的藥物，尋找服務于綠色技術的高效催化劑以及開發具有驚人性能的新材料。

可以看出，分子模擬已經成為 Max Welling 的主要研究興趣所在。

關于新實驗室的進展，Max Welling 透露說，目前他們已經招募到了一號員工——來自谷歌 AI 的研究科學家 Rianne van den Berg。

在入職微軟的同時，Max Welling 還將繼續擔任阿姆斯特丹大學的教授，指導學生和博士后。

Max Welling：一個師從諾獎得主的量子物理學博士

和一般機器學習研究者不同，Max Welling 并不是計算機專業科班出身，而是在世界頂尖公立研究型大學——荷蘭烏得勒支大學學了 11 年的物理，而且導師是荷蘭理論物理學家、1999 年諾貝爾物理學獎得主 Gerard 't Hooft。

1999 年，Hooft 和他的老師韋爾特曼因 70 年代作出的「闡明物理學中電弱相互作用的量子結構」方面的理論研究成就而獲得諾貝爾物理學獎。他們的計算理論使粒子物理有了更牢固的數學基礎，尤其是可以用他們的理論來更精確計算物理量。

在 Hooft 的指導下，Max Welling 于 1998 年拿到了量子物理學博士學位。

之后，Max Welling 曾先后在加州理工學院（1998-2000）、倫敦大學學院（2000-2001）和多倫多大學（2001-2003）擔任博士后研究員。2003-2013 年，他歷任加州大學歐文分校的助理教授、副教授和教授。2012 年，他開始擔任阿姆斯特丹大學的教授和機器學習研究主席。在學術成就方面，Max Welling 的論文被引量達到了 5 萬多次，h 指數高達 79。

2016 年，Max Welling 與其在阿姆斯特丹大學指導的博士生 Thomas Kipf（2020 年畢業，現為谷歌大腦研究科學家）共同提出了圖神經網絡領域的重要成果——圖自編碼器（GAE），相關論文在NIPS 2016 Workshop上展示。

圖自編碼器（GAE）可用于圖結構數據中的無監督學習和鏈接預測，它的主要組件是基于圖神經網絡的編碼器和基于成對評分函數重建圖鏈接的解碼器。之后，二人又進一步提出了 GAE 的模型變體——變分 GAE（variational GAE）。GAE 和變分 GAE 非常適合沒有節點標簽情況下的圖表示學習。

論文鏈接：https://arxiv.org/pdf/1609.02907.pdf

2017 年，Max Welling 加入了高通，擔任技術副總裁。任職期間，他參與了量化、無監督學習和量子 AI 等方面的研究。在去年的一篇文章中，Max Welling 介紹了他們在量子 AI 研究領域的一些成果，比如他們開發了量子形變二值神經網絡，支持在量子計算機上運行大型經典神經網絡，或在經典計算機上進行高效模擬。基于此，高通研究人員將這一經典神經網絡變形并集成量子效應，而且該網絡仍能高效訓練和運行。這也是首個用于真實數據的量子二值神經網絡。由此可見，Max Welling 在物理學，尤其是量子物理領域的積累已經幫助他在機器學習領域取得了一些成就。

機器學習、量子物理、化學、分子生物學將如何碰撞

對于 Max Welling 加入微軟研究院并擔任新建阿姆斯特丹實驗室的負責人，微軟研究院劍橋實驗室主任 Chris Bishop 表示了熱烈歡迎。和 Max Welling 類似，Chris Bishop 也是一位有著深厚物理學背景的計算機科學家，他在英國愛丁堡大學拿到了理論物理學博士學位，研究方向是量子場論。

在兩人的一次訪談中，他們結合共同的物理學背景以及對分子模擬的愿景，探討了機器學習和量子計算在模擬分子領域的應用前景、機器學習在模擬分子領域提供所需數據的能力、以及阿姆斯特丹實驗室第一年和之后的發展愿景。

在訪談中，Chris Bishop 認為 Max Welling 所有令人矚目的研究都與分子模擬直接相關，這是微軟研究院劍橋實驗室一直以來非常感興趣的領域，也成為了微軟研究院邀請 Max Welling 出任阿姆斯特丹實驗室 leader 的初衷。

Max Welling 也表示自己已經努力將研究方向轉向分子模擬領域。他更想將之后的職業生涯致力于氣候變化，其中計算化學是解決諸多挑戰的關鍵所在。微軟這個大平臺可以為自己提供大量可用的計算基礎設施。

Chris Bishop 對此表示贊同，并認為分子模擬將在解決氣候災難中發揮重要作用。

至于什么是分子模擬，當前分子模擬研究為何如此激動人心、與機器學習又存在哪些關聯，兩人進行了深入探討。Chris Bishop 認為機器學習將像影響計算機視覺、語音識別和自然語言理解那樣對分子模擬領域產生重大影響。機器學習、量子物理、化學和分子生物學的結合將在包括但不限于氣候變化的眾多領域具有巨大的應用前景。

Max Welling 也描述了分子研究的美妙之處，他表示除了光和其他一些無法真正看到的力（force），我們周邊的一切都是由分子組成的，但卻沒能真正地理解它們，也無法真正地預測它們的特性。因此，如果我們開始更好地理解分子，則很多相關應用就變得觸手可及。比如，我們可以通過設計更好的催化器來助力氫經濟、設計新藥等。微軟研究院在這個方向的研究上已經做了很多。

Chris Bishop 也列舉了微軟研究院在藥物挖掘領域所做的努力，比如與藥物公司展開積極合作、研究機器學習如何影響藥物發現過程等等。微軟研究院一直在做的很多工作都用到了由實驗數據驅動的機器學習，并且致力于從蛋白質分子折疊以及與其他蛋白質相互作用的量子物理學第一原理模擬中創建數據。此外，微軟研究院還對藥物發現和更廣泛的生命科學領域感興趣，如對 COVID-19 的研究。

Chris Bishop 還提到，Max Welling 最出名的工作是在機器學習中研究不變性（invariances）和等變性（equivariances）。這些又與分子模擬遇到的挑戰存在哪些關系呢？

Max Welling 解釋說，在物理學中要考慮對稱性，幾乎所有的物理學理論都是圍繞對稱性建立的。事實上，整個標準模型都是由粒子組成的，粒子是根據對稱變換來組織的。他和同事也想在神經網絡中實現這一原則，事實上卷積神經網絡在某種程度上已經實現了。

「神經網絡大體上有這么個想法，如果你把一只貓從一個地方移到另一個地方（translation），神經網絡的輸出要么是不變的（ invariant），即貓還是貓；如果你在圖像左邊或右邊看到貓或者對它做圖像分割，則分割 mask 應隨著貓移動（equivariance）。我們在思考如何擴大這些原理的應用范圍，比如將物體旋轉，預測結果應該還是不變的（invariant）。顛倒的貓終究還是貓，對吧？這對于分子模擬來說尤其重要，因為如果你旋轉一個分子，你仍然會認為它的性質和你在其他方向看到它時的性質是一樣的，并且把這個歸納偏置，即先驗知識，構建到你的模型中，這就是我們最近一直在做的。我們把它構建成所謂的圖神經網絡，你可以把原子看作是圖中的節點，而原子之間的相互作用是邊，這些原子互相發送信息，這和做卷積很相似。所以，在那個圖神經網絡中，我們讓它們在經歷旋轉后保持某種對稱，然后用它描述分子，這是非常成功的。有趣的是，你可以通過數據集來預測這些分子的性質，而這些預測是驚人的準確。現在，整個社區開始意識到這一領域在未來可能產生重大影響。」

兩人在對稱性將在機器學習領域扮演重要角色這一點上達成了一致。那么，量子計算又會對分子模擬產生哪些影響呢？

Max Welling 認為，分子本質上屬于量子系統，特別是電子通過量子力學得到了很好的描述。量子計算機在某種意義上也是一種自然的量子模擬。我們可以將量子計算機看作某種量子實驗或者量子模擬。人們認為第一個實際的量子計算應用將出現在模擬量子力學領域。現在，量子計算仍處于初步階段，真正可用的量子計算有希望在 10 多年后出現。現階段，我們可以首先使用一些噪聲更多的量子設備，利用量子計算來建模分子，其中量子計算與機器學習的協同合作最令人興奮。

除了探討機器學習、量子計算與分子建模的技術融合以及發展前景之外，兩人還就阿姆斯特丹實驗室的一些情況做了分享。

Max Welling 表示阿姆斯特丹是一座適宜居住和工作的城市，人才交流頻繁。實驗室將招聘優秀的研究人員，組建一支多樣化的團隊，并與劍橋實驗室團隊展開合作等。未來幾年，他希望可以構建一個預測分子特性的系統，可以生成具有某些特性的分子，以及在巨大的空間中搜索這些分子。

未來 10 年，Max Welling 希望可以解決「理解分子」的問題，并能夠即時設計新材料，比如設計新的催化劑來賦能綠色經濟。他還希望能夠為現在無法治療的各種疾病設計新藥。