一個(gè)月前，DeepMind開發(fā)的AlphaFold 3驚艷了整個(gè)生物圈和AI圈。

AlphaFold 3能夠根據(jù)氨基酸序列預(yù)測(cè)蛋白質(zhì)的三維結(jié)構(gòu)，解決了生物學(xué)中一個(gè)長期存在的難題。

這一突破對(duì)生物醫(yī)學(xué)研究、疾病認(rèn)識(shí)（如在COVID-19大流行期間對(duì)蛋白質(zhì)結(jié)構(gòu)的認(rèn)識(shí)）和生物技術(shù)具有深遠(yuǎn)影響。

除了技術(shù)上的成就，AlphaFold項(xiàng)目還在解決問題、團(tuán)隊(duì)管理和跨學(xué)科合作方面提供了寶貴的經(jīng)驗(yàn)。

AlphaFold的成功不可被復(fù)制，但是它成功的經(jīng)驗(yàn)卻可以遷移。

那么，震驚整個(gè)科學(xué)界的AlphaFold開發(fā)團(tuán)隊(duì)究竟做對(duì)了什么？Google DeepMind的研究副總裁Pushmeet Kohli，分享了AlphaFold成功的秘密。

- 組建多元化團(tuán)隊(duì)：吸納具有不同專長的人才，以解決不同方面的問題。

- 促進(jìn)開放式交流：營造一種環(huán)境，讓團(tuán)隊(duì)成員在需要幫助和分享知識(shí)時(shí)能暢所欲言。

- 促進(jìn)持續(xù)學(xué)習(xí)：鼓勵(lì)團(tuán)隊(duì)成員相互學(xué)習(xí)以及向其他學(xué)科學(xué)習(xí)。

- 注重循序漸進(jìn)：優(yōu)先考慮持續(xù)、漸進(jìn)的改進(jìn)，而不是尋求單一的突破。

- 利用跨學(xué)科見解：利用不同領(lǐng)域的知識(shí)為項(xiàng)目提供信息并加以改進(jìn)。

關(guān)于AlphaFold

AlphaFold將蛋白質(zhì)的氨基酸序列作為主要輸入，并輸出該蛋白質(zhì)的預(yù)測(cè)三維結(jié)構(gòu)。

輸入：相關(guān)蛋白質(zhì)的氨基酸序列

輸出：預(yù)測(cè)蛋白質(zhì)復(fù)合物的三維結(jié)構(gòu)及原子坐標(biāo)

蛋白質(zhì)是在生物體內(nèi)發(fā)揮各種功能的重要分子。

它們的功能由其三維結(jié)構(gòu)決定，而三維結(jié)構(gòu)則由其組成的氨基酸序列決定。

了解蛋白質(zhì)的結(jié)構(gòu)可能需要花費(fèi)數(shù)月時(shí)間，但一旦完成，就可以深入了解蛋白質(zhì)的工作原理和功能。準(zhǔn)確的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)至關(guān)重要，而且有多方面的下游應(yīng)用。

- 加速藥物發(fā)現(xiàn)：通過了解蛋白質(zhì)結(jié)構(gòu)，研究人員可以設(shè)計(jì)出更有效的藥物。

- 增進(jìn)對(duì)疾病的了解：蛋白質(zhì)結(jié)構(gòu)知識(shí)可以幫助人們深入了解疾病的機(jī)理，包括COVID-19。

- 推進(jìn)生物技術(shù)：它允許設(shè)計(jì)具有特定功能的新型酶和其他蛋白質(zhì)。

在蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)關(guān)鍵評(píng)估（Critical Assessment of protein Structure Prediction，CASP）競(jìng)賽中，以往的獲勝方案穩(wěn)定在40.0左右。AlphaFold打破了這一瓶頸，并大幅超越了之前的分?jǐn)?shù)。

歷年CASP競(jìng)賽中表現(xiàn)最佳的模型

AlphaFold2再次刷新了這一新紀(jì)錄，給該領(lǐng)域帶來了革命性的沖擊，讓蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)直接進(jìn)入「后AlphaFold時(shí)代」。

確定蛋白質(zhì)結(jié)構(gòu)的傳統(tǒng)方法，如X射線晶體學(xué)和冷凍電子顯微鏡，既耗時(shí)又昂貴。AlphaFold提供了一種可擴(kuò)展的高效替代方法，但開發(fā)如此復(fù)雜的模型也面臨著一系列挑戰(zhàn)。

AlphaFold項(xiàng)目團(tuán)隊(duì)是如何做到的呢？

跨學(xué)科合作

AlphaFold項(xiàng)目的突出特點(diǎn)之一是不同團(tuán)隊(duì)之間的有效合作。DeepMind 匯集了來自不同領(lǐng)域的專家，包括：

- 生物學(xué)家：深入了解蛋白質(zhì)的生物學(xué)意義。

- 機(jī)器學(xué)習(xí)專家：開發(fā)復(fù)雜的算法和模型。

- 結(jié)構(gòu)生物學(xué)家：確保預(yù)測(cè)在物理上合理。

AlphaFold項(xiàng)目匯集了各個(gè)團(tuán)隊(duì)來解決復(fù)雜的跨學(xué)科問題

主要經(jīng)驗(yàn)

- 聘請(qǐng)領(lǐng)域?qū)＜遥鹤屜嚓P(guān)領(lǐng)域的專家參與進(jìn)來，全面了解問題。

- 跨職能團(tuán)隊(duì)：促進(jìn)不同學(xué)科間的合作，從多個(gè)角度解決復(fù)雜問題。

漸進(jìn)式改進(jìn)

羅馬不是一天建成的。

AlphaFold的成功不是單一突破的結(jié)果，而是一系列漸進(jìn)式改進(jìn)的結(jié)果。無論是模型架構(gòu)、訓(xùn)練數(shù)據(jù)，還是算法調(diào)整，每一個(gè)微小的改進(jìn)都為整體成功做出了貢獻(xiàn)。

沒有任何單一突破能夠帶來AlphaFold最先進(jìn)的性能，持續(xù)的迭代開發(fā)和漸進(jìn)式改進(jìn)提供了性能的巨大綜合提升

主要經(jīng)驗(yàn)

-迭代開發(fā)和改進(jìn)：強(qiáng)調(diào)持續(xù)改進(jìn)和迭代測(cè)試，以完善模型。接受你所獲得的勝利，無論大小。這樣做的目的是通過了解失敗案例，并使用更好的數(shù)據(jù)和方法，提高性能，不斷改進(jìn)。

-消融實(shí)驗(yàn)（Ablation Studies）：進(jìn)行徹底的消融實(shí)驗(yàn)，以了解每個(gè)組件的影響并優(yōu)化性能。這個(gè)方法來自神經(jīng)科學(xué)，有許多實(shí)驗(yàn)是通過損傷(ablate)一個(gè)或多個(gè)特定的神經(jīng)元來研究它們的功能。

消融實(shí)驗(yàn)表明，AlphaFold的性能之所以如此出色，并不是依靠單一的靈丹妙藥，而是一系列漸進(jìn)式改進(jìn)的組合

從上述消融實(shí)驗(yàn)的總結(jié)中可以看出，并沒有一個(gè)明確的主導(dǎo)思想能帶來如此巨大的性能提升。只有通過許多漸進(jìn)式的改進(jìn)才能解決這一難題，最終形成最先進(jìn)的系統(tǒng)。

ML模型的歸納偏差：模型的基礎(chǔ)

歸納偏差（Inductive Bias），是AI領(lǐng)域的一個(gè)關(guān)鍵概念，它描述了機(jī)器學(xué)習(xí)算法在學(xué)習(xí)過程中對(duì)特定解決方案的偏好或傾向。歸納偏差有助于算法在面對(duì)有限數(shù)據(jù)和不確定性時(shí)，做出合理的預(yù)測(cè)和泛化。

在某些領(lǐng)域，例如生物學(xué)或物理學(xué)，有些規(guī)律是我們?nèi)祟愐呀?jīng)知道的，比如牛頓運(yùn)動(dòng)定律。

當(dāng)然，只要有足夠多的相關(guān)數(shù)據(jù)，我們也能讓機(jī)器學(xué)習(xí)模型自己找到這些規(guī)律。

不過，有時(shí)在這些模型中預(yù)埋這些信息是非常有必要的，這樣當(dāng)模型學(xué)習(xí)時(shí)就不需要從這些基礎(chǔ)知識(shí)開始，而是可以直接去學(xué)習(xí)那些難以用正式方程或定律寫下來的細(xì)微差別。

DeepMind做得很好的一點(diǎn)是，他們沒有使用通用的現(xiàn)成模型，而是給模型注入了領(lǐng)域內(nèi)的專業(yè)知識(shí)，以及對(duì)所要解決問題的了解，讓模型更「好」，也更「相關(guān)」，從而贏在了起跑線上。

讓所有團(tuán)隊(duì)達(dá)成共識(shí)

對(duì)于AlphaFold的機(jī)器學(xué)習(xí)工程師來說，了解問題背后的基礎(chǔ)科學(xué)至關(guān)重要。

這種深刻的理解使他們能夠?qū)⑻囟I(lǐng)域的知識(shí)納入模型設(shè)計(jì)，從而實(shí)現(xiàn)更準(zhǔn)確的預(yù)測(cè)。

「對(duì)齊顆粒度」，讓整個(gè)團(tuán)隊(duì)發(fā)揮更大的影響力

對(duì)于一個(gè)包含生物學(xué)家、計(jì)算機(jī)科學(xué)家和工程師等各領(lǐng)域人才的跨學(xué)科團(tuán)隊(duì)來說，讓每個(gè)人都參與到項(xiàng)目中來，保持同頻至關(guān)重要。

要讓生物學(xué)家理解機(jī)器學(xué)習(xí)，讓計(jì)算機(jī)科學(xué)家理解蛋白質(zhì)，并不是一件簡單的事情。

然而，一旦完成這項(xiàng)艱巨的工作，所有團(tuán)隊(duì)都將達(dá)成一致，并對(duì)更廣泛的情況有一個(gè)總體的了解。

這就像一種「催化劑」，讓團(tuán)隊(duì)中的每個(gè)成員都能提供比通常情況下更多的價(jià)值，因?yàn)樗麄円呀?jīng)將問題內(nèi)化并清楚地理解了它。

主要經(jīng)驗(yàn)

- 領(lǐng)域知識(shí)：投入時(shí)間學(xué)習(xí)問題領(lǐng)域的基礎(chǔ)知識(shí)，建立更有效的模型。

- 跨學(xué)科培訓(xùn)：鼓勵(lì)跨學(xué)科教育，彌合各領(lǐng)域之間的差距，讓領(lǐng)域?qū)＜以诟玫亓私猱?dāng)前問題的背景下發(fā)揮最大作用。

AlphaFold的成功證明了跨學(xué)科合作、漸進(jìn)改進(jìn)和深厚領(lǐng)域知識(shí)的力量。

通過培養(yǎng)開放、持續(xù)學(xué)習(xí)和迭代開發(fā)的文化，團(tuán)隊(duì)甚至可以應(yīng)對(duì)最復(fù)雜的挑戰(zhàn)并推動(dòng)創(chuàng)新。

AlphaFold的開發(fā)經(jīng)驗(yàn)提供了一幅通往項(xiàng)目成功管理和執(zhí)行的藍(lán)圖。