“ 大模型在某種程度上可以理解為是一個人 ”

最近一直在做大模型應用落地，隨著對大模型應用的開發，對大模型的理解也更加的深刻；因此對大模型的認知也從剛開始的奉若神明，慢慢變成了一個能用的工具。

在基于大模型做應用落地的過程中，目前來說發現幾個比較重要的問題，因此在這里記錄一下。

大模型應用落地的問題

大模型的能力問題

大模型工程化落地過程中，首先要解決的一個問題就是大模型的能力問題，大模型發展到今天這個地步，說句實話各大廠商的模型從根本上來說已經沒有太大的差別。

雖然還有人說某某大模型功能強大，但現實情況是各大模型各有優劣，誰也不能說誰能完全壓倒誰。

而且在具體化的落地應用中，單一模型已經很難完成所有任務，因此多個模型能力整合才是應用落地過程中需要解決的問題。簡單來說就是，能夠給合適的應用場景找到合適的大模型。

因為不同的模型擅長不同的領域，比如有些模型擅長文字處理，有些模型擅長視頻處理，每個模型擅長的點都不一樣；而且，在同樣的領域，不同的模型也有自己獨特的風格，原因就是其訓練的數據不一樣。

比如，都是做文字處理的模型，也都能回答一些問題，可能有些模型擅長歷史，有些模型擅長講笑話；有些模型擅長國風的視頻，有些模型擅長二次元視頻。

因此，對待大模型不能一概而論誰強誰弱，因為在不同的尺度下根本沒有可比性。

而現在很多做大模型服務的公司，依然在不斷提升大模型的能力，比如生成能力，邏輯推理能力等。

但是在一些定制化場景中，還是需要進行針對性的設計和訓練。

為什么要在這里強調模型能力問題？

首先你要明白，你需要的業務場景大模型的能力是否能滿足；如果不能滿足是因為大模型天生在這方面能力不足，還是說現有的模型無法滿足，但經過定制化的模型就可以。

簡單來說就是，你非要讓一條狗去說人話，做人事，這明顯是不可能的事；或者是你公司新招了一個大學生，可能他在某些方面的能力不足，但只需要經過培訓和一段時間的工作就可以勝任。

因此，你首先要考慮市面上現有的模型是否能滿足你的需求；還是要自己定制化模型，這個定制化包括簡單的對模型進行訓練和微調，還有就是從零重新設計和訓練一個全新的模型。

這兩種方式所面臨的成本和技術要求，完全不可同日而語。

大模型的運維問題

在之前的一篇文章中也有提到過大模型在企業應用中所面臨的運維壓力，??關于大模型在企業生產環境中的獨立部署問題??；我們都知道大模型首先具有龐大體量，其次具有龐大的算力和能源需求。

而從這幾個方面來說，大模型運維就面臨著巨大的挑戰；在傳統的應用開發部署過程中，由于很多企業業務體量小，隨便找一臺機器就可以跑起來。

但大模型由于其天生體量巨大，因此其剛開始就是傳統系統運維所不能解決的，必須要采用分布式或集群部署，而且出于系統性能方面的考慮，大模型的高并發是必須要解決的一個問題。

而對于大規模分布式或集群部署，需要有一套完善的自動化運維工具，依靠人力是根本無法完成的。

因此，這也是很多企業落地過程中需要考慮的問題，是自己部署大模型還是直接使用第三方模型。

大模型的運維并不是簡單的把模型跑起來即可，在解決分布式并行計算的基礎之上，還需要同時保證大模型的性能和穩定性，以及擴展性。

這對絕大部分企業來說都是一種負擔。

與傳統開發的結合

大模型雖然被一些人給神話了，而且更多的人對大模型的認識還處于云山霧繞的階段；但從功能的角度來說，大模型只是系統的一個模塊；從技術的角度來說，大模型只是一個功能接口。

從大模型的能力角度來說，很多時候可以直接把大模型當作一個人，這個“人”會寫作，會繪畫，會做視頻，會寫歌，還會做PPT，還會邏輯推理和判斷；你只需要告訴它你想要什么，然后它就可以幫你做出來。

只不過，不同的情況需要不同的能力進行配合，比如繪畫，視頻就需要它的生成能力和CV(計算機視覺)能力，文字處理就需要它的自然語言處理能力；而做旅行規劃，工業生產就需要它具有邏輯判斷和使用“工具(API接口)”的能力。

因此，大模型在落地過程中同樣需要大量的傳統開發能力，比如使用Python或JAVA做應用開發，使用數據庫，MQ等做數據存儲與通訊等。

大模型能夠讓你的業務做的更好，但你同樣需要傳統的開發能力來保證你業務的合理性與穩定性。

產品力

最后，說到底大模型只是一個工具，可能它能力比較強大，就類似于一個無所不能的“人”；但怎么利用好這個人，讓你的產品變得更有特色，能夠吸引更多的人來使用你的產品，讓你的產品能夠解決更多人的問題才是你需要考慮的，而這就是你產品的核心競爭力。

而這就是一個把大模型能力產品化的一個過程，所以你需要對大模型的能力有一個清晰的認知，并且還需要有把概念化產品落地的能力。這就是產品與大模型技術的結合。

當今市面上，任何產品的出現都會引來無數跟風的產品，不論從功能還是外貌都大差不差；因此，怎么在日益激烈的市場競爭中殺出一條血路，需要的不僅僅是技術能力，同時還需要營銷能力，市場把控能力和產品設計的能力。

總之，大模型工程化落地過程中面臨著各種各樣的問題，這些還是自己能夠想到的問題，可能還有很多想不到的問題存在。

最重要的是，這些問題都比較宏觀，在具體的實踐過程中還會需要更加細節的問題；比如說大模型的能力問題，怎么才能打造一個能用的，好用的強大模型，這是很多模型公司都在思考的問題。

本文轉載自公眾號AI探索時代 作者：DFires

原文鏈接：??https://mp.weixin.qq.com/s/tScaTFfrrOspSNdsMChHTQ???