精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

南大周志華:百萬模型進入學件基座系統,很多我們沒預期過的事也有可能實現 | MEET 2025

人工智能 新聞
在MEET 2025智能未來大會上,周志華教授從宏觀角度和技術角度詳細為我們分享了學件范式的最新進展。

大模型時代,全世界AI從業者追趕OpenAI GPT系列的腳步仍未停歇,但也有人,堅持深耕在國產原創的另一條大模型之路上。

南京大學副校長、國際人工智能聯合會理事會主席周志華教授,就是其中代表。他提出的“學件范式”,旨在從數據隱私角度著手,通過模型+規約的方式構建基座系統,讓用戶的需求能被自動匹配到合適的模型、模型組合上,安全、可靠地復用他人開發的模型工具。

用戶只需要提出需求,學件基座系統就會根據需求,從無數學件中去找出一個或者若干個學件,甚至把它們組裝起來解決問題。

在MEET 2025智能未來大會上,周志華教授從宏觀角度和技術角度詳細為我們分享了學件范式的最新進展。

圖片

為了完整體現周志華教授的觀點,在不改變原意的基礎上,量子位對演講內容進行了編輯整理,希望能給你帶來更多啟發。

MEET 2025智能未來大會是由量子位主辦的行業峰會,20余位產業代表與會討論。線下參會觀眾1000+,線上直播觀眾320萬+,獲得了主流媒體的廣泛關注與報道。

核心觀點

  • 學件=模型+規約。規約通過對模型進行刻畫,可以使模型在不知道開發者數據的情況下被復用。
  • 用戶只需要提出需求,學件基座系統就會根據需求,從無數學件中去找出一個或者若干個學件,甚至把它們組裝起來解決問題。
  • 學件基座系統可以看作異構大模型,隨著更多的模型被提交,它會長大、重組,未來提供服務的時候一定程度還提供了可解釋性,和現在常見的大模型不同。

(以下為周志華教授演講全文)

學件=模型+規約

大家好,很高興跟大家做交流,我的題目叫作《學件和異構大模型》。

大模型大家都很清楚是什么,那么學件是什么?

我們知道計算機里有硬件,有軟件。大概在9年前,那時候還沒有大模型,深度神經網絡也剛剛開始被大家注意,那時候我們發表了一個東西,向大家公開我們的預期,說機器學習這樣發展下去會不會產生一種形態,我們命名為學件(Learnware)。學件從這個詞從概念,再到研究體系,都是我們完全原創的。

我今天主要跟大家介紹一下這條路線在做什么事。

因為考慮到今天這個場合大家主要需要一些宏觀理解,而不是技術細節,所以我們先思考這幾個問題。

第一個問題:未來機器學習解決世界上的問題,是會用一個模型解決一切,還是用很多模型協作?我想大家都會有自己的回答,我們的回答是B——可能我們需要很多模型協作。

第二個問題:這些模型是會由一位開發者開發,還是很多開發者各自開發?我們認為這個答案應該也是B。

第三個問題:這么多來自世界各地的開發者,他們開發的模型都有自己的數據,他們會把數據都公開嗎?我們認為答案很可能是不公開。

第四個問題:數以百萬計的模型,是不是能一次性全部產生,還是陸陸續續的,今天有一些,明天有一些,后天有一些?我想這個答案肯定是B。

第五個問題:對未來某位人工智能用戶,全世界數以百萬計的模型都對他有用嗎?還是只有少量甚至個別模型有用?答案還是B。

第六個問題:對于用戶來說,這些已經存在的模型中,一定有某個模型能解決他的任務嗎?還是未必有?說不定我們可以通過組裝一些模型來解決這個任務。我們認為答案還是B。

有了這么多問題之后,歸結起來就是這么一個問題:在拿不到開發者的訓練數據,甚至用戶也不愿意公開自己數據的情況下,我們如何知道數以百萬計、全世界各個開發者開發的模型中,哪個或者哪些經過組裝之后對用戶是有幫助的?我們如何能夠對來自不同的開發者、針對不同任務的模型進行組裝復用,或者就像大家都在談的,大小模型協同。

學件這條路線就是在往這個方向努力。

學件是什么呢?學件=模型+規約。為了便于理解,我們舉一個類比,假設現在世界上有很多開發者做出他們的模型,他們愿意分享他們的模型,在這個圖上,每一把刀、每一個錘子、每一把斧頭都是一個機器學習模型。

圖片

模型大家都清楚,規約是什么?就是對模型進行某種刻畫,使得系統在不知道開發者數據的情況,能夠根據未來用戶的需求被找出來復用。

容納這些模型的地方,一開始我們把它叫作“學件市場”,好比一個超市。后來有專家跟我們討論,說“市場”給大家感覺是要做交易。其實未來確實是可以做交易,比方說被用得很多的學件,可以收費,收費之后再回報給開發者。但在現在,我們主要關注其中的科學技術問題,所以我們現在也把它叫學件基座系統

有了這個基座系統之后,未來用戶想要開發自己的AI任務,就不需要從頭開始。今天當我們要做一個自己的機器學習應用的時候,我們要搜集數據,要訓練模型,要調參數,但是在別的領域不是這樣的,比如說要買一把切肉的刀,我絕對不會說自己再去采礦打鐵,我會到超市上看一看,有沒有這樣的刀。就算沒有,我找一把西瓜刀拿回家,用我自己的數據打磨打磨,說不定就能用了。

所以我們希望未來的用戶只需要提出需求,然后學件基座系統根據用戶需求,在學件基座系統所容納的無數學件中去找出一個或者若干個,甚至組裝起來解決你的問題。注意,在整個過程中,開發者的數據不披露給學件基座系統,甚至用戶的數據也不需要披露給學件基座系統。

這個事情2016年發表了第一篇論文提出這件事,后來的七年時間里面,我們沒有發表論文,一直在解決這里面的關鍵科學技術問題,目前這些問題有了初步的解決方案。在講技術方案之前,我們先宏觀地來看,和以往有什么不同。

圖片

經典的機器學習范式,是針對某個任務做一個模型解決它。

大模型范式,是匯集很多數據去訓練一個模型。匯集數據的過程實際上是希望數據相關方要放棄隱私和所有權,這對對話、視頻這樣的任務是比較容易做到的,但對生產生活中的很多任務其實不太容易。比方說,哪怕是同一個類型的企業,往往也不愿意把數據分享出來給你收集起來訓練模型,許多企業認為,一旦把數據分享出去,通過大模型,就等于技術優勢分享給同行了。但如果只能用企業內部數據,往往又不夠大模型訓練。

學件這個范式的關鍵,是不收集你的數據,只是匯集起不同的模型。這些模型可以是為很私有的任務開發的,你不需要披露你的訓練數據。另外,模型的黑箱性一般認為是個壞事,而在這里卻能夠起到正面作用。有了這些模型之后,大家容易想到,可以為未來的很多任務提供服務,它們不必須是同一大類的。這很容易理解,比如有天氣預報的模型,以后當然可以做天氣預報,有地震預測模型,以后當然可以做地震預測。但是需要認識到,對某些我們從來沒有考慮過的任務,也有可能通過把若干個模型拼裝起來解決它。

舉個例子,假設我們要考慮A和D分類,從來沒有開發者做過這種模型,但有人做過A和B,有人做過B和C,有人做過C和D,就有可能把它們組裝起來解決A和D的分類任務。

所以這是一條和一般大模型不同的路。第一假設所有模型都潛在有用,即便對開發者不太好的模型,對別的用戶說不定是有用的。第二可能很多小模型匯集在一起之后,能夠做一些今天我們認為只有大模型才能做的事,當然大小模型協作都可以在其中完成,而且不存在災難性遺忘,因為一個模型只要放在基座系統中,除非它的能力被完全替代,否則就一直在哪里,天然在進行終身學習,而且不必披露開發者和用戶數據。另外,開發者提交的模型,在未來適用的時候可能超越開發者原本的意圖,用于解決他完全沒考慮過的任務。

從哲學方法論上來說,如果說大模型是幾個大英雄打天下的話,學件則是認為“力量蘊藏在人民群眾”中。我們預期,學件基座系統容納了數以百萬計的模型之后,這條路線的力量會更加涌現出來,很多我們原來沒想過的事都有可能做。

學件基座系統可視作異構大模型

回到技術問題上。

規約是什么?它需要對模型進行適當刻畫。大概是什么做法,涉及到兩方面,一個是學件基座系統,一個是模型開發者。

首先學件基座系統給開發者發送兩個信息k和n,k是某個函數,n是規約大小。模型開發者用自己的數據訓練模型,基于基座系統提供的k和n生成規約。他提交模型的時候,把規約和模型一起提交。

圖片

我們可以看到,所有的訓練數據一直在模型開發者手上,基座系統是不接觸數據的,碰到的只有提交的模型和規約。大家要問了,這個規約是基于你給我的k和n生成的,你有沒有可能根據這個把我的訓練數據破解出來?

我們最近做了一個理論證明,首先,規約不會包含開發者訓練數據,第二,即便對信息安全中強大的推斷攻擊和鏈接攻擊,并且是針對確定性算法最強的暴力搜索這樣的攻擊,仍然可以有效地保護開發者的數據。而且有了這個結果之后,我們就可以得到關于規約大小設置的理論指導,通過設置為合適的大小,既能起到數據保護作用,還能支持模型復用。

圖片

為用戶提供服務的時候,學件基座系統有可能是反饋最好的某個模型,也可能是多個模型的結合,例如簡單的集成,或者加權結合,其實最近大模型經常用的MoE就是加權結合的特例,學件還可以做鏈式結合、樹形結合等等很多種模型的結合方式。這里面還有很多探索空間。

進一步來說,隨著學件基座系統中容納的學件不斷增長,學件規約能否成長,使其能容納越來越多的模型,且對模型的刻畫能力有所增強?

另外,我們還研究了如何使得規約能夠成長,以及學件基座系統如何隨著收到更多的模型而成長,這里用到了規約索引樹、稀疏哈希等技術,有很多模型不斷接收進來,多到一定程度之后,內部會重新組織,這樣得到一個可成長、可演化的基座系統。

從這個角度可以看到,如果把整個學件基座系統看做一個異構大模型,它和現在各種大模型不太一樣,是一個可成長可演化的大模型,宏觀上可以理解為人民群眾組成集體是超級大模型。

我們最近開源了北冥塢學件基座系統,歡迎大家來使用,這是一個科研原型系統。現在許多老師同學感覺,大模型時代,在高校院所里面因為算力不夠,難以開展科研工作了。大家可以跟企業合作開展大模型方面的研究,另一方面,學件這條路線的研究目前還不需要多大算力,并且我們目前做的都是非常粗淺的解決方案,對學件這條路線感興趣的老師同學,如果要做研究,要做實驗,那么就可以在這個基座系統中做實驗,大家應該能做出更聰明的解決方案。

另一方面,這個基座系統里面現在容納模型還不多,還不能提供服務,歡迎大家有模型提交上來,未來模型很多之后可望能提供服務。現在國際上也出現機器學習模型平臺,相比而言,學件2016年就提出了,里面的構想要精巧得多,能力會強得多,并且未來還有很大潛力發展空間。但我們作為高校師生開發的系統,工程化能力肯定是短板,如果有企業希望基于這個開發自己學件基座系統,我們也歡迎大家來合作。謝謝!

謝謝!

責任編輯:張燕妮 來源: 量子位
相關推薦

2024-11-13 14:25:00

模型架構

2024-01-31 09:34:07

AI機器學習

2023-07-09 14:59:28

模型AI

2021-08-02 15:25:11

AI 計算機人工智能

2012-03-14 21:15:16

Siri

2025-03-04 09:10:44

2018-10-30 14:18:17

cioIBM紅帽

2023-10-06 13:52:40

數據庫模型

2024-01-11 11:28:54

2018-05-13 22:56:20

Go語言語法

2010-05-19 09:01:00

2011-11-30 13:34:13

2014-11-21 10:25:18

Java

2021-03-15 10:43:36

人工智能AI深度學習

2019-05-24 15:10:50

2017-10-08 16:49:41

Linux 實用工

2015-02-02 14:12:03

云桌面

2020-03-18 10:57:16

CIO 肺炎技術

2014-05-13 13:54:35

Esri

2024-03-11 00:09:00

模型融合場景
點贊
收藏

51CTO技術棧公眾號

国产精品久久久久久久乖乖| 久久免费视频在线观看| 国产成人在线综合| 综合图区亚洲| 9久草视频在线视频精品| 国外成人免费在线播放| 国产一区二区三区四区五区六区| 欧美日韩免费电影| 亚洲成人7777| 亚洲一区在线直播| 手机看片福利在线| 久久精品盗摄| 欧美另类第一页| 亚洲精品视频久久久| 日韩欧美专区| 污片在线观看一区二区| 欧美日韩国产精品一卡| 一级爱爱免费视频| 亚洲国产影院| 最近2019年手机中文字幕| 99riav国产精品视频| 电影一区二区三| 亚洲精品少妇30p| 久久er99热精品一区二区三区| 香蕉污视频在线观看| 亚洲一本二本| 国产亚洲精品一区二555| 最新中文字幕日本| 成人av集中营| 岛国av在线不卡| 自拍另类欧美| 国产永久av在线| 国产.欧美.日韩| 国产精品一区二区三区成人| 日韩精品久久久久久久酒店| 中文视频一区| www.99久久热国产日韩欧美.com| 亚洲天堂美女视频| 香蕉成人在线| 91久久精品一区二区| av网站手机在线观看| 老司机精品影院| 久久久久国产精品免费免费搜索| 亚洲xxx自由成熟| 瑟瑟视频在线免费观看| 亚洲茄子视频| 欧美美最猛性xxxxxx| 成人性生交大片免费看无遮挡aⅴ| 成人高潮视频| 欧美一区二区三区白人| 国产三级三级三级看三级| 成人福利电影| 亚洲免费观看视频| 中文字幕中文字幕一区三区| 岛国在线大片| 97se亚洲国产综合自在线观| 3d动漫精品啪啪一区二区三区免费 | 亚洲欧洲国产精品| a级一a一级在线观看| 亚洲精品aⅴ| 欧美一区二区精品| 五月天av在线播放| 成人精品国产亚洲| 欧美色窝79yyyycom| 欧美国产日韩在线播放| 色8久久影院午夜场| 欧美视频中文字幕在线| 九色自拍视频在线观看| 国产美女福利在线观看| 亚洲一区影音先锋| av在线播放天堂| 97天天综合网| 欧美日韩国产专区| 亚洲人成无码www久久久| 中文字幕乱码中文乱码51精品| 午夜精品123| 国产日韩一区二区在线| 欧美日韩美女| 欧美撒尿777hd撒尿| 久久久精品麻豆| 欧美日韩卡一| 日韩一级二级三级| 日本在线不卡一区二区| 欧美成人一区在线观看| 亚洲精品一区中文字幕乱码| 9.1在线观看免费| 成人春色在线观看免费网站| 亚洲福利视频免费观看| 玖玖爱在线精品视频| 日韩免费大片| 欧美一区二区观看视频| 欧美第一页浮力影院| 日韩av黄色| 欧美日韩在线不卡| av免费在线播放网站| 欧美成人精品三级网站| 欧美色国产精品| 五月婷婷丁香综合网| gogo亚洲高清大胆美女人体| 欧美色网一区二区| 国产成人强伦免费视频网站| jizz18欧美18| 亚洲人a成www在线影院| 人人澡人人澡人人看| 午夜精品视频一区二区三区在线看| 欧美成人精品在线| www.久久精品视频| 精品一区二区三区免费观看| 国产乱码精品一区二区三区卡| 久久精品蜜桃| 一区二区在线观看av| 欧美又粗又长又爽做受| 天堂久久午夜av| 欧美一级视频精品观看| 中文字幕在线观看的网站| 欧美日韩精品一区二区视频| 伦伦影院午夜日韩欧美限制| yjizz国产| 国产乱码精品一区二区三| 久久艹中文字幕| 日本www在线| 亚洲综合一区二区| 精品视频在线观看一区| 欧美黄页在线免费观看| 亚洲区一区二区| 国产午夜精品无码| 久久精品久久综合| 蜜桃传媒一区二区| 国产网红女主播精品视频| 欧美日韩小视频| 成人三级做爰av| 欧美第十八页| 日本一欧美一欧美一亚洲视频| 精品国产九九九| 日本一二三不卡| 91免费黄视频| 国产不卡网站| 欧美亚洲日本一区| 少妇极品熟妇人妻无码| 国产成人1区| …久久精品99久久香蕉国产| 国产www视频| 国产精品久久看| 欧美午夜性生活| 亚洲人成网亚洲欧洲无码| 欧美乱大交做爰xxxⅹ性3| 日韩精选在线观看| 国产午夜一区二区三区| 亚洲人精品午夜射精日韩| 久久久91麻豆精品国产一区| 自拍亚洲一区欧美另类| 国产91精品看黄网站在线观看| 成人国产精品免费网站| 超薄肉色丝袜足j调教99| 成人国产精品久久| 精品国产一区二区三区久久狼黑人 | 中文字幕av日韩| wwwwww国产| 久久这里只有精品视频网| 久久久亚洲国产精品| 99精品在免费线中文字幕网站一区| 色婷婷综合久久久久| 中文字幕无线码一区| 国产女人18水真多18精品一级做| 日本三级免费网站| 精品国产乱子伦一区二区| 国内精品模特av私拍在线观看| 黄色一级大片在线免费看国产| 亚洲一区免费观看| 性活交片大全免费看| 亚洲精品色图| 久久人人九九| 色综合天天色| 国产一区二区三区视频免费| 亚洲午夜18毛片在线看| 久久一区二区三区国产精品| 成人免费aaa| 香蕉久久夜色精品国产更新时间| 欧美一区二三区| 国产福利第一视频在线播放| 欧美亚洲精品一区| 99国产精品无码| 国产一区视频网站| 99久热在线精品视频| 国产suv精品一区| 45www国产精品网站| 国产精品四虎| 51久久夜色精品国产麻豆| 日韩精品电影一区二区三区| 激情丁香综合五月| 激情小视频网站| 国产欧美一区| 成人免费激情视频| 精品丝袜在线| 在线不卡国产精品| 国产免费不卡视频| 午夜久久久久久| 欧美 日韩 国产 成人 在线观看 | 免费在线观看一区二区| 密臀av在线播放| 中文字幕亚洲国产| 亚洲毛片欧洲毛片国产一品色| 欧美视频国产精品| 四虎影院中文字幕| 成人午夜免费av| 日本中文字幕片| 91久久国产| 91久久久久久| 日韩精品美女| 中文一区二区视频| 天天色综合av| 欧美疯狂做受xxxx富婆| 影音先锋亚洲天堂| 最近日韩中文字幕| 亚洲午夜久久久久久久久红桃 | 蜜桃精品久久久久久久免费影院| 成人亚洲精品| 国产精品久久久久久久久影视| 香蕉久久aⅴ一区二区三区| 日韩电影中文字幕在线观看| ,亚洲人成毛片在线播放| 偷拍与自拍一区| 老司机成人免费视频| 91性感美女视频| 久久久久久久高清| 久久亚洲国产精品一区二区| 激情六月天婷婷| 爽成人777777婷婷| 久久亚洲高清| 国产精品香蕉| 91久久精品国产91性色| 视频在线日韩| 91爱爱小视频k| 波多野在线观看| 欧美久久精品午夜青青大伊人| 看电影就来5566av视频在线播放| 精品国产91乱码一区二区三区 | 日韩美女在线观看一区| 久草在线视频网站| 久久视频免费在线播放| 日本黄色一区二区三区| 日韩欧美一区二区视频| 91亚洲国产成人久久精品麻豆| 精品日韩美女的视频高清| 九九热国产精品视频| 亚洲欧洲一区二区三区| 国产精品jizz| 91丨porny丨户外露出| 国产精品91av| 国产成人免费视频一区| 亚洲欧美激情网| 日本成人超碰在线观看| 国产免费成人在线| 亚洲婷婷在线| 国产911在线观看| 中文不卡在线| 大荫蒂性生交片| 色乱码一区二区三区网站| 日韩理论片在线观看| 国产真实有声精品录音| 国产一区二区高清不卡| 中文字幕视频精品一区二区三区| 成人妇女免费播放久久久| 高清电影一区| 欧美黄色成人网| 玖玖在线播放| 欧美极品xxxx| 国产高清中文字幕在线| 91av视频导航| 成人福利av| 97av在线播放| 成人开心激情| 91精品国产综合久久香蕉的用户体验| 国产黄色一区| 亚洲一区二区三区视频| 亚洲国产视频二区| 99re在线| 四虎5151久久欧美毛片| 欧美视频小说| 久久国产电影| 免费看日本黄色| 亚洲欧洲一区| 亚洲狼人综合干| 精品一区二区三区久久| 好吊操视频这里只有精品| 97精品国产露脸对白| 波多野在线播放| 中文字幕乱码久久午夜不卡| 一区二区三区影视| 亚洲成人手机在线| 中文字幕av第一页| 欧美一区二区三区四区在线观看| 亚洲av色香蕉一区二区三区| 日韩免费观看高清完整版在线观看| 国产视频一二三四区| 欧美精品一区二区三区蜜臀| 男女视频在线观看免费| 日韩在线播放av| aa级大片免费在线观看| 日本久久精品视频| 精品国产乱码一区二区三区| 国产精品日本一区二区| 亚洲综合小说图片| 熟女视频一区二区三区| 亚洲激情网站| 奇米视频7777| 91小视频在线观看| 69xx绿帽三人行| 欧美性猛交xxxx免费看久久久| 91丨porny丨在线中文 | 91片黄在线观看| 国产性生活大片| 午夜视频在线观看一区二区| 精品成人av一区二区在线播放| 欧美性猛交xxxx偷拍洗澡| 国产日韩欧美一区二区东京热| 日韩av影视在线| 国产理论在线观看| 欧洲精品毛片网站| 久久伊人久久| 日韩精品久久一区二区三区| 亚洲理论电影网| 免费看a级黄色片| 成人h精品动漫一区二区三区| 男人天堂资源网| 激情成人在线视频| 亚洲av无码国产精品永久一区 | 色哟哟在线观看| 萌白酱国产一区二区| 三妻四妾完整版在线观看电视剧| 亚洲一区二区三区香蕉| 欧美精选视频在线观看| 国产成人精品视频免费看| 国产成人精品综合在线观看| 1024在线看片| 狠狠躁天天躁日日躁欧美| 精品国产999久久久免费| 亚洲欧美日韩在线高清直播| 尤物yw193can在线观看| 国产欧美日韩中文字幕| 台湾亚洲精品一区二区tv| 91免费版看片| 九九在线精品视频| 男人天堂资源网| 欧美三级电影在线看| 国产视频网址在线| 青青草一区二区| 蜜桃精品wwwmitaows| 国产91xxx| 成人精品视频网站| 久久久.www| 日韩精品一区国产麻豆| 在线中文字幕第一页| 成人女保姆的销魂服务| 成人免费在线播放| 国产精品第12页| 97久久精品人人做人人爽50路| 久久久久成人片免费观看蜜芽| 欧美色成人综合| 成人在线免费看| 国产综合视频在线观看| 91精品高清| 在线不卡一区二区三区| 国产日韩欧美精品一区| 波多野结衣在线观看视频| 亚洲午夜色婷婷在线| 一区二区三区电影大全| 日本三级中国三级99人妇网站| 日韩激情一二三区| 国产一二三av| 欧美一区二区三区在线| 尤物视频在线免费观看| 91在线高清免费观看| 亚洲欧美在线专区| 人妻精品久久久久中文字幕69| 国产精品第五页| 精品国产999久久久免费| 久久久久久久久久久久av| 黄色欧美网站| 日本999视频| 国产精品久久久久桃色tv| 国产精品玖玖玖| 欧美高跟鞋交xxxxxhd| 秋霞蜜臀av久久电影网免费| av片中文字幕| 日韩理论在线观看| 99久久免费国产精精品| 久久国产精品久久久| jazzjazz国产精品久久| 狠狠干 狠狠操| 国产欧美精品一区二区色综合| 日韩综合在线观看| 亚洲女人天堂视频| 在线成人免费| 91香蕉视频网址| 99久久精品免费| 五月激情丁香网| 欧美激情精品久久久久久| 亚洲系列另类av| 亚洲911精品成人18网站|