中國工程院院士倪光南在第二屆北京人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展大會上，分享了他對人工智能發(fā)展的看法和體會。

倪光南表示：由人工智能引領(lǐng)的新一輪科技革命和產(chǎn)業(yè)變革正在全球范圍內(nèi)蓬勃興起。當(dāng)前世界各國都在作出重大部署，將人工智能領(lǐng)域作為提升國家競爭的科創(chuàng)高地。不久前，以ChatGPT為代表的大模型揭開了生成式AI發(fā)展的新篇章，必將對人類社會產(chǎn)生巨大影響，必須直面應(yīng)對，迎接相應(yīng)的機遇和挑戰(zhàn)。目前生成式AI的應(yīng)用剛剛起步，中國在市場和應(yīng)用前景上具有很大潛力。

RAG等生成式AI技術(shù)發(fā)展前景廣闊

倪光南認為，當(dāng)下應(yīng)狠抓應(yīng)用意識，促進基礎(chǔ)大模型和AI算力的發(fā)展。目前許多機構(gòu)和企業(yè)正在從事垂直領(lǐng)域和應(yīng)用場景的中小模型方面的法律，值得鼓勵和支持。生成式AI目前正處于發(fā)展初期，大模型增強技術(shù)具有巨大發(fā)展空間。

例如，RAG技術(shù)，正是運用檢索獲得的精準結(jié)果提升大模型響應(yīng)的專業(yè)性和正確性，這一技術(shù)已經(jīng)得到業(yè)界普遍認可。其次，精準算法的增強具有很好的前景，例如Sora可以通過輸入提示輸出對應(yīng)的視頻。

雖然Sora目前無法準確模擬所在場景的物理特性，也無法理解實際時間的因果關(guān)系，例如Sora生成的水果汁潑到桌面上的視頻，涉及了兩個穩(wěn)定狀態(tài)，一個是杯子的實際狀態(tài)，另一個是果汁已經(jīng)潑出來的狀態(tài)。其中最復(fù)雜的物理狀態(tài)是果汁如何從杯子中灑到桌面，Sora無法生成。顯然要達到這樣的程度，需要將諸多數(shù)學(xué)定律、物理定律、工業(yè)軟件與強大算力相互融合。這是一項頗具挑戰(zhàn)性的工作，需要圍繞大模型發(fā)展各種增強技術(shù)，例如檢索增強生成技術(shù)、精準算法的增強，發(fā)展前景廣闊。

AI代理助力AI應(yīng)用安全有效推進

倪光南指出：生成式AI存在諸多問題值得業(yè)界思考。例如可解釋、透明、公平、合法、安全等均需要深入研究，非短期內(nèi)可以解決。為了安全有效的應(yīng)用生成式AI，倪光南建議終端廠商在各類終端(如電腦/手機)上加入AI代理軟件，相當(dāng)于常用的工具管家，且需擴展監(jiān)控生成式AI應(yīng)用的功能。例如是否調(diào)用某種大模型?是否可以采用某種大模型給出的結(jié)果?是否能夠融合大模型和本地的AI?這些功能將遠超常規(guī)小工具，因此可以實現(xiàn)終端運維升級和安全防護等功能。

他呼吁終端廠商要擔(dān)起責(zé)任，并將AI代理軟件置于系統(tǒng)軟件的底層，以便獲得最高權(quán)限，可以將原本的OS轉(zhuǎn)換為數(shù)字OS。AI代理意味著可以代理終端所有者，對終端實行身份信息、價值觀、愛好和習(xí)慣等方面的管控。當(dāng)前，國內(nèi)部分終端設(shè)備已經(jīng)裝備AI助手，例如榮耀MagicOS 8.0,它使終端設(shè)備更智能、更有效率、更人性化和個性化。如果將AI助手進一步擴展，達到AI代理的高度，將助力AI應(yīng)用安全有效地推進。

生成式AI的價值觀問題值得關(guān)注

倪光南強調(diào)：生成式AI系統(tǒng)所提供的結(jié)論，可能帶有價值觀的傾向，因為有多種途徑可以使生成式AI帶有新傾向。例如：訓(xùn)練時使用的大數(shù)據(jù)結(jié)構(gòu)，依靠人類反饋進行增強訓(xùn)練時采用的獎懲規(guī)則，生活中的某些環(huán)節(jié)或者處理中進行了某種干預(yù)，以及使用AI中的交互可能進行某種誘導(dǎo)等。

為了保證信息安全，讓AI能力被安全地使用，倪光南建議引入權(quán)威測評機構(gòu)，基于主流價值觀進行安全測評，為用戶提供更合適的產(chǎn)品。

最后，倪光南表示：“生成式AI是當(dāng)代的重大科技創(chuàng)新，它將催生新產(chǎn)業(yè)、新模式和新動能，是發(fā)展新質(zhì)生產(chǎn)力的核心要素。我們要以全球視野進行謀劃和發(fā)展，爭取在人工智能時代躋身于世界前列，為實現(xiàn)科技強國夢想和民族偉大復(fù)興作出更大貢獻?！?/p>