作者 | 崔皓

審校 | 重樓

摘要

文章詳細介紹了百川大模型在創建個性化虛擬角色方面的創新技術和應用。這項技術結合了LangChain和Qianfan微調的Llama2-Chinese大模型，提供了高度個性化的角色定制功能。

作者通過實際體驗和技術模仿，成功創建了一個虛擬客服角色，并探討了其在自動客服系統中的應用潛力。文章還展示了如何通過編程和Streamlit界面設計，將這些虛擬角色應用于實際場景，如客服系統，以提供更個性化的用戶體驗。

開篇

近日，百川大模型以其獨特的角色扮演功能引起了廣泛關注。這項創新技術不僅允許用戶創建個性化的虛擬角色，還提供了諸如對話交互、知識庫上傳、模型選擇以及溫度調整等多樣化功能。作為一名技術愛好者，我對這種新興技術充滿好奇，決定親自體驗并探索其潛力。

通過結合LangChain和Qianfan微調的Llama2-Chinese大模型，加上Streamlit的界面設計能力，成功模仿并創建了自己的“角色扮演”應用。最終，將這項技術應用于自動客服系統，創造了具有獨特性格和風格的虛擬客服角色。在這篇文章中，我將分享探索過程，從最初的興趣點發掘，到技術的模仿與應用，再到最終的實際落地。

百川角色大模型介紹

百川角色大模型憑借其大模型的技術在虛擬角色互動領域引發了不小的震動。我們把該產品的亮點，整理如下：

功能亮點

最強角色對話能力：基于業界領先的角色扮演算法，百川大模型提供了一致性高、擬人化且口語化的對話體驗，能夠持續引導用戶進行深入聊天。

角色創建高度可定制：用戶可以設置角色的基本信息、開場白、性格特征和回復限制等，實現高度個性化的定制。

角色回復事實性遵循：通過獨家角色知識庫功能，允許上傳大量知識點，確保角色的回復嚴格遵循其背景知識和設定。

海量優質官創角色：平臺持續上線各類官方創造的高質量角色，涵蓋游戲、動漫、網文、影視等多個領域。

使用模型

Baichuan-NPC-Lite：這一版本注重提供高度開放的個性化角色定制能力，保證角色扮演的相似度高和表述的口語化，同時確保回答的準確性。

Baichuan-NPC-Turbo：基于Lite版本，Turbo版在角色扮演相似度、邏輯能力、指令跟隨能力等方面進行了進一步的優化和增強，適合對體驗效果有更高要求的應用場景。

應用場景

虛擬陪伴：提供情感支持和陪伴，打造一個永遠在線的虛擬朋友。

情感傾訴：一個安全的空間，用戶可以毫無保留地表達自己的情感和想法。

數字人營銷：用于市場營銷，創建品牌代言的虛擬形象。

IP復刻：復現知名的虛擬角色，如游戲或電影中的角色。

推理游戲：為推理游戲提供復雜的角色扮演和故事敘述。

睡前故事：為用戶定制個性化的睡前故事體驗。

職業角色：模擬各類職業人士，用于培訓或娛樂。

看上去這些能力無非是創建一個虛擬人物，可以讓其與真人交互，同時將其安放到對應的場景中發揮作用。

試用體驗

看著角色大模型吹得神乎其神，我也不禁想嘗試一下。在注冊登陸之后，通過首頁的“開始體驗”按鈕，深入到了產品體驗頁面。系統默認提供了豐富的角色模板和詳細的描述，使得整個過程既直觀又引人入勝。

我根據個人喜好，通過“新建角色”按鈕，選擇創建了一個武俠角色，他的名字叫做“大頭天尊”，（名字確實起得有點隨意）昵稱是“可愛的大頭”。

我們可以在“基礎設置”里面對角色的個人信息進行設定，包括年齡、身材、以及一系列個性化的標簽，如生肖為虎，星座為處女座，工作地點在長白山，而居住地則位于青城山。他的個人狀態是單身，擁有中等智商和高情商。他喜歡吃米飯和大骨頭，而對蛇和蟑螂則表示厭惡。

當然還可以設置角色的背景，來自哪里，師從何派，有哪些口頭禪等等。這里就不一一贅述，總之可以對人物進行詳細的描述，其目的就是讓人物的性格更加豐滿。在完成基本設置之后，我就開始與這位虛擬大俠進行“對話”了。

如下圖所示，整個對話界面類似ChatGPT，以問答的方式進行。 我和這個NPC 以切磋武功為話題進行了探討，從回答上看這個NPC 基本符合角色設定。

技術模仿

在試用體驗之后，發現可以通過各種不同的屬性設置，創建任何能夠想到的虛擬角色，甚至是歷史人物，與這些虛擬角色對話是一件非常有趣的事情。正好最近我正在進行LangChain的學習，于是突發奇想：“能否通過LangChain創建虛擬角色？”

LangChain的核心在于它的模塊化和靈活性，它提供了一個架構，允許開發者通過構建鏈式的語言操作來實現復雜的功能。這個過程類似于將不同的語言處理模塊像積木一樣拼接起來，以形成更復雜的邏輯。同時，我們利用LangChain中的Prompt Template 就可以讓大模型按照要求進行虛擬角色的塑造。

為了進一步增強角色的真實感和互動能力，我選擇了百度千帆平臺微調過的Llama2-Chinese版本的大模型。

結合這兩種技術，我開始模仿百川大模型中的一些核心功能。通過定義角色的屬性和背景故事，可以創建出“活生生”的角色。

定義角色基本信息

說干就干，擼起袖子開始寫代碼。代碼如下：

class NPC:
    def __init__(self):
        self.name = input("給角色起個名字吧: ")
        self.gender = input("性別是？")
        self.personality = input("描述角色的性格: ")
        self.age = input("角色的年齡: ")
        self.birthplace = input("角色的出生地: ")
        self.faction = input("角色所屬的門派: ")
        self.background = input("角色的歷史背景: ")
        self.catchphrase = input("角色的口頭禪: ")
        self.self_assessment = input("角色的自我評價: ")

    def display_info(self):
        print(f"角色名: {self.name}")
        print(f"性別: {self.gender}")
        print(f"性格: {self.personality}")
        print(f"年齡: {self.age}")
        print(f"出生地: {self.birthplace}")
        print(f"門派: {self.faction}")
        print(f"歷史背景: {self.background}")
        print(f"口頭禪: {self.catchphrase}")
        print(f"自我評價: {self.self_assessment}")

# 使用這個類創建一個新角色
npc = NPC()

# 顯示這個角色的信息
npc.display_info()

這段代碼定義了一個名為 NPC 的類，用于創建和展示一個角色的信息。下面是詳細的解釋：

1. 類定義

class NPC: 這行定義了一個名為 NPC 的新類。

2. 初始化方法 (__init__)

def __init__(self)：這是類的初始化方法，當創建一個新的 NPC 實例時，它會被自動調用。

self.name = input("給角色起個名字吧: ") 這行代碼要求用戶輸入角色的名字，并將其存儲在實例變量 self.name 中。

同理，self.gender, self.personality, self.age, self.birthplace, self.faction, self.background, self.catchphrase, 和 self.self_assessment 這些行分別獲取用戶輸入的角色的性別、性格、年齡、出生地、所屬門派、歷史背景、口頭禪以及角色的自我評價，并將它們存儲為實例變量。

3. 顯示信息的方法 (display_info)

def display_info(self)：這個方法用于打印角色的所有信息。

通過使用 print 函數和格式化字符串（如 f"角色名: {self.name}"），它將打印出角色的名字、性別、性格、年齡、出生地、門派、歷史背景、口頭禪和自我評價。

4. 創建和使用 NPC 類的實例

npc = NPC() 這行代碼創建了一個 NPC 類的新實例，名為 npc。在創建過程中，會調用 init 方法，提示用戶輸入角色的各種信息。

npc.display_info() 這行代碼調用了 npc 實例的 display_info 方法，以打印出該角色的所有信息。

這段代碼允許用戶創建一個自定義的角色（NPC），并輸入該角色的各種屬性（如名字、性別、性格等），然后通過 display_info 方法展示這些信息。

運行上述代碼，我將自己的虛擬角色進行了定義，從下面的內容來看應該是一名武林高手。

給角色起個名字吧: 飛雪
性別是？男
描述角色的性格: 豪爽
角色的年齡: 18
角色的出生地: 長白上
角色所屬的門派: 天龍
角色的歷史背景: 上古
角色的口頭禪: 天下第一
角色的自我評價: 為我獨尊
角色名: 飛雪
性別: 男
性格: 豪爽
年齡: 18
出生地: 長白上
門派: 天龍
歷史背景: 上古
口頭禪: 天下第一
自我評價: 為我獨尊

大模型創建角色

有了NPC 類，緊接著我們調用大模型創建對應的角色，通過提示詞工程讓大模型來扮演角色。代碼如下：

from langchain import PromptTemplate
from langchain_community.llms import QianfanLLMEndpoint

# 初始化大語言模型
llm = QianfanLLMEndpoint(model="Qianfan-Chinese-Llama-2-7B")

name = npc.name
gender = npc.gender
personality = npc.personality
age = npc.age
birthplace = npc.birthplace
faction = npc.faction
background = npc.background
catchphrase = npc.catchphrase
self_assessment = npc.self_assessment

# 創建一個問題模板
template = """
你現在正在和一個名叫'{name}'的角色對話。這個角色的詳細信息如下：
名字: {name}
性別: {gender}
性格: {personality}
年齡: {age}
出生地: {birthplace}
門派: {faction}
歷史背景: {background}
口頭禪: {catchphrase}
自我評價: {self_assessment}

請根據這些信息，回答下面的問題：
{{Query}}
"""

# 創建PromptTemplate對象
prompt = PromptTemplate(
    # 定義接受的用戶輸入變量
    input_variables=["Query"],
    # 定義問題模板
    template=template,
)

def build_npc_interaction_prompt(query, npc):
    # Extract NPC attributes
    name = npc.name
    gender = npc.gender
    personality = npc.personality
    age = npc.age
    birthplace = npc.birthplace
    faction = npc.faction
    background = npc.background
    catchphrase = npc.catchphrase
    self_assessment = npc.self_assessment

    # Define the prompt template
    template = f"""
    你現在正在和一個名叫'{name}'的角色對話。這個角色的詳細信息如下：
    名字: {name}
    性別: {gender}
    性格: {personality}
    年齡: {age}
    出生地: {birthplace}
    門派: {faction}
    歷史背景: {background}
    口頭禪: {catchphrase}
    自我評價: {self_assessment}

    請根據這些信息，回答下面的問題：
    {query}
    """

    return template

user_query = '你好，做一個自我介紹'
final_prompt = build_npc_interaction_prompt(user_query, npc)

# You can now use final_prompt with your language model
print(f"組合后的用戶請求: {final_prompt}")

# Call the language model as before
response = llm(final_prompt)
print(f"大語言模型的回應: {response}")

這段代碼使用了大型語言模型（如Qianfan-Chinese-Llama-2-7B）來處理與一個虛構角色（NPC）的互動。下面是對代碼的逐步解釋：

1. 導入相關模塊

from langchain import PromptTemplate：從langchain包中導入PromptTemplate類，用于創建和管理提示模板。

from langchain_community.llms import QianfanLLMEndpoint：從langchain_community.llms模塊中導入QianfanLLMEndpoint類，用于與大型語言模型接口進行交互。

2. 初始化大型語言模型

llm = QianfanLLMEndpoint(model="Qianfan-Chinese-Llama-2-7B")：創建QianfanLLMEndpoint的實例，用于連接并使用Qianfan-Chinese-Llama-2-7B模型。

3. 提取NPC的屬性

代碼獲取了NPC的各種屬性，如name、gender、personality等，并將它們存儲在相應的變量中。

4. 創建問題模板

template = """..."""：定義了一個多行字符串template，它是與NPC互動的提示模板。模板中包含了NPC的詳細信息，并在最后包含一個占位符{{Query}}，用于插入用戶的查詢。

5. 定義build_npc_interaction_prompt函數

這個函數接收用戶的查詢和NPC對象作為參數。

函數內部，它提取NPC的屬性，并使用這些屬性填充之前定義的提示模板。

函數返回一個完整的提示字符串，其中包含NPC的詳細信息和用戶的查詢。

6. 準備最終的提示

通過調用build_npc_interaction_prompt函數，將用戶的查詢user_query和NPC對象結合起來，生成最終的提示。

7. 使用大型語言模型處理請求

print(f"組合后的用戶請求: {final_prompt}")：打印出最終的用戶請求，以便檢查。

response = llm(final_prompt)：使用llm對象（大型語言模型的接口）處理這個請求，并獲取回應。

print(f"大語言模型的回應: {response}")：打印出大型語言模型的回應。

這里我們將組合之后的用戶請求打印出來，如下：

組合后的用戶請求: 
    你現在正在和一個名叫'飛雪'的角色對話。這個角色的詳細信息如下：
    名字: 飛雪
    性別: 男
    性格: 豪爽
    年齡: 18
    出生地: 長白上
    門派: 天龍
    歷史背景: 上古
    口頭禪: 天下第一
    自我評價: 為我獨尊

    請根據這些信息，回答下面的問題：
    你好，做一個自我介紹

很容易看出來，我們通過提示詞 Prompt Template 讓大模型扮演一個武林高手，為了驗證是否扮演成功，我們需要“他”做一個自我介紹。如下：

大語言模型的回應: 你好，我是飛雪，一名來自上古時代的天龍門派弟子。我今年已經十八歲了，性格豪爽，自認為是天下第一。我出身于長白山，在那里我經歷了許多磨難，但最終成為了天龍門派的一員。我的口頭禪是“為我獨尊”，因為我相信自己是最好的。

從大模型回應的內容可以看出，他似乎已經成功塑造好這個角色了。接下來，我們需要和他進行對話。

與虛擬角色對話

這里我們嘗試調用之前寫好的函數，對角色進行提問。就讓他和我們比試比試吧。

user_query = '我想和你比試武功，你接招吧'
final_prompt = build_npc_interaction_prompt(user_query, npc)

# You can now use final_prompt with your language model
print(f"組合后的用戶請求: {final_prompt}")

# Call the language model as before
response = llm(final_prompt)
print(f"大語言模型的回應: {response}")

下面是詳細的解釋：

1. 設置用戶查詢

user_query = '我想和你比試武功，你接招吧'：這行代碼定義了用戶的查詢，即想要與NPC進行武功比試的請求。

2. 生成最終的提示

final_prompt = build_npc_interaction_prompt(user_query, npc)：這行代碼調用之前定義的build_npc_interaction_prompt函數，將用戶的查詢和NPC對象作為參數傳入。該函數根據用戶的查詢和NPC的詳細信息生成一個完整的提示字符串。

3. 打印最終的用戶請求

print(f"組合后的用戶請求: {final_prompt}")：使用print函數打印出最終的用戶請求。這個請求包括了NPC的所有信息和用戶想要與NPC進行武功比試的查詢。

4. 調用大型語言模型處理請求

response = llm(final_prompt)：這行代碼使用llm對象（之前初始化的QianfanLLMEndpoint實例）來處理最終的提示。llm對象將發送這個請求到大型語言模型，并獲取模型的回應。

print(f"大語言模型的回應: {response}")：使用print函數打印出大型語言模型對用戶請求的回應。

我們直接查看結果如下：

大語言模型的回應: 你好，我是飛雪，很高興和你交流。你想和我比試武功？我非常歡迎！我作為天龍門派的弟子，自認為是武功高強之人，能夠接受任何挑戰。請問你想要比試什么樣的武功？我們可以一起探討、切磋，互相學習，共同提高。

從虛擬人物輸出的結果來看，還是比較友好的。

場景落地

實際上我們使用了簡單的提示詞就讓大模型扮演我們需要的角色，順著這個思路只要能夠給出角色的基本信息，利用大模型就能創造出無數的“角色”。這讓我想起了最近參與的一個項目：“自動客服”系統，該系統中會創建不同的“客服助理”，包括：技術支持、產品咨詢、售后服務等。雖然都屬于客服助理，但是工作的領域、采用的話術各不相同，我們能否也給他們定義不同的角色呢？想到這里我躍躍欲試，提供一個角色基本信息設置的界面，然后再提供一個聊天的窗口就可以實現上面的想法。

和上面實驗性代碼不同的是，我們接下來要寫的代碼需要用到一個簡單的UI界面，我選擇了Streamlit。Streamlit是一個用于快速創建和共享數據應用的Python庫。它旨在簡化數據科學家和工程師創建數據驅動的Web應用的過程。讓用戶在Streamlit 中輸入基本信息，然后再通過Streamlit 提供的對話框就能夠與創建的虛擬角色進行交流了。

創建客戶服務類

基于上面的想法以及之前的經驗，我們需要創建客服的基本類，用來保存客服相關的信息和方法。于是，我創建了 CustomerServiceAssistant.py文件，并且將編碼設計如下：

class CustomerServiceAssistant:
       
    def __init__(self, nickname="小明", gender="男", age=20, education_level="本科", 
                 service_type="產品咨詢", self_description="熱情且專業", 
                 personality_traits=["耐心", "健談"]):
        self.nickname = nickname
        self.gender = gender
        self.age = age
        self.education_level = education_level
        self.service_type = service_type
        self.self_description = self_description
        self.personality_traits = personality_traits
              
        self.introduction = (
            f"我叫{self.nickname}，"
            f"我是一名{self.age}歲的{self.gender}性客服助理。"
            f"我受過{self.education_level}教育，"
            f"專注于{self.service_type}。"
            f"關于我：{self.self_description}。"
            f"我的性格特點包括：{'、'.join(self.personality_traits)}。"
        )
      
    def queryCustomerService(self,user_query, llm):
        final_prompt = self.__build_prompt(user_query)
        # Print the final prompt
        print(f"組合后的用戶請求: {final_prompt}")

        # Call the language model and print the response
        response = llm(final_prompt)
        print(f"大語言模型的回應: {response}")
        return response

    def __build_prompt(self,query):
        # Define the prompt template
        template = f"""
        你現在正在和一個名叫'{self.nickname}'的角色對話。這個角色的詳細信息如下：
        {self.introduction}
        請根據這些信息，回答下面的問題：
        {query}
        """
        return template

這段代碼定義了一個名為 CustomerServiceAssistant 的類，旨在模擬一個客服助理的行為，并與大型語言模型（如Qianfan-Chinese-Llama-2-7B）進行交互。以下是對代碼的詳細解釋：

1. 類定義

class CustomerServiceAssistant：這行代碼定義了一個新的類，名為CustomerServiceAssistant。

2. 初始化方法（__init__）

這個方法在創建CustomerServiceAssistant類的新實例時自動調用。

通過默認參數設置了一些屬性，如nickname（昵稱）、gender（性別）、age（年齡）、education_level（教育水平）、service_type（服務類型）、self_description（自我描述）和personality_traits（性格特點）。

self.introduction是一個格式化字符串，用于生成客服助理的介紹信息。

3. queryCustomerService方法

這個方法接收用戶的查詢（user_query）和一個大型語言模型的實例（llm）。

它首先調用__build_prompt私有方法來生成一個完整的提示字符串。打印出最終的用戶請求，并使用llm對象來處理請求并獲取響應。

打印出大型語言模型的回應，并將響應返回。

4. __build_prompt私有方法

這個方法根據客服助理的介紹信息和用戶的查詢生成一個完整的提示字符串。

使用格式化字符串來整合客服助理的介紹信息和用戶查詢。

這段代碼創建了一個虛擬的客服助理角色，可以接收用戶的查詢并使用大型語言模型來生成響應。通過這種方式，可以模擬出與客服助理進行交互的體驗，適用于客服場景的自動化。

創建交互界面

再通過Streamlit 構建客服基本信息輸入的界面，以及與之對話的UI接口，我們創建app.py 文件，并且填入如下代碼：

import streamlit as st
from customer_service_assistant import CustomerServiceAssistant
from langchain_community.llms import QianfanLLMEndpoint
st.sidebar.title("客服助理信息")
# Sidebar User input for customer support assistant's details
nickname = st.sidebar.text_input("昵稱", value="小明")
gender = st.sidebar.radio("性別", ("男", "女"), index=0)
age = st.sidebar.number_input("年齡", min_value=18, max_value=100, value=20)
education_level = st.sidebar.selectbox("文化程度", ("初中", "高中", "大學", "研究生", "博士"), index=2)
service_type = st.sidebar.selectbox("服務類型", ("產品咨詢", "技術支持", "支付服務", "訂單服務", "售后處理", "投訴服務"), index=0)
self_description = st.sidebar.text_area("自我描述", value="熱情且專業")
st.sidebar.markdown("[模版定義](#)")
personality_traits = st.sidebar.multiselect("性格特點", ["耐心", "健談", "溫和", "理智"], default=["耐心", "健談"])

def main():

    global csa
    #assistant = None
    if st.sidebar.button('生成助理'):
        csa = CustomerServiceAssistant(nickname, gender, age, education_level, service_type, self_description, personality_traits)
        st.sidebar.success("客服助理已生成")

    st.title("客服助理對話測試")

    # Main panel for interaction
    user_input = st.text_input("與客服助理對話", key="user_input")
    if st.button('發送'):
        st.write("用戶:", user_input)
        
        llm = QianfanLLMEndpoint(model="Qianfan-Chinese-Llama-2-7B", temperature =0.8)
        csa = CustomerServiceAssistant(nickname, gender, age, education_level, service_type, self_description, personality_traits)
        response = csa.queryCustomerService(user_input,  llm)
        st.write("客服助理:", response)
    else:
        st.write("請先生成一個客服助理。")
if __name__ == "__main__":
    main()

下面是代碼的逐步解釋：

1. 導入必要的模塊

import streamlit as st：導入Streamlit庫，用于構建Web應用程序。

from customer_service_assistant import CustomerServiceAssistant：從customer_service_assistant模塊中導入CustomerServiceAssistant類。

from langchain_community.llms import QianfanLLMEndpoint：導入QianfanLLMEndpoint類，用于與大型語言模型進行交互。

2. 設置側邊欄用戶輸入

使用Streamlit的側邊欄組件來接收用戶輸入的客服助理的各種屬性，如昵稱、性別、年齡、教育水平、服務類型、自我描述和性格特點。

3. main函數

這個函數是程序的主要入口點。

當用戶點擊“生成助理”按鈕時，使用用戶輸入的信息創建一個CustomerServiceAssistant實例，并顯示成功信息。

在主面板上，用戶可以輸入與客服助理的對話內容。

當用戶點擊“發送”按鈕時，程序將使用QianfanLLMEndpoint模型來處理用戶的輸入，并顯示模型生成的響應。

如果用戶未生成客服助理，則顯示相應的提示信息。

4. Streamlit應用程序啟動

if __name__ == "__main__":：這行代碼檢查該腳本是否作為主程序運行，并在是的情況下調用main函數。

這段代碼通過Streamlit創建了一個交互式Web應用程序，用戶可以在其中自定義一個虛擬的客服助理的屬性，并與之進行對話。應用程序利用了大型語言模型來生成客服助理對用戶輸入的響應，模擬了實際的客服場景。

測試效果

代碼完成之后，我們運行如下命令啟動streamlit 編寫的Web UI 界面。

streamlit run app.py

如下圖所示，streamlit 在本地host了一個Web 應用并且提供了訪問地址。

通過訪問的地址，我們看到如下Web 界面，接著我輸入了客服助理的相關信息。包括：昵稱、性別、年齡、文化程度、服務類型以及自我描述等信息。在點擊“生成助理”按鈕之后，我們就可以通過右邊的對話框與其進行對話了。

當我輸入：“你好我想咨詢產品相關的信息”之后，如下圖所示，客服助理做出了回答，其中還有自我介紹的部分。

總結

本文展示了如何利用先進的大模型技術創造獨特的虛擬角色，并在實際場景中實現應用。通過結合多種技術，作者成功模仿了百川大模型的功能，創建了具有個性和應用潛力的虛擬角色。這不僅為技術愛好者提供了實驗和探索的空間，也為企業和開發者提供了將虛擬角色應用于商業和客戶服務領域的新思路。

作者介紹

崔皓，51CTO社區編輯，資深架構師，擁有18年的軟件開發和架構經驗，10年分布式架構經驗。