小心！提示詞的陷阱正讓AI偏離正軌

作者：朱先忠 2025-08-04 07:53:59

在本文中，我將解釋如何在無意識(shí)中將偏見引入提示詞中，為什么這種操作存在問題（因?yàn)樗鼤?huì)影響答案的質(zhì)量），還有最重要的部分——你可以做些什么，以便從AI中獲得更好的結(jié)果。

譯者 | 朱先忠

審校 | 重樓

摘要：模糊指令或缺失關(guān)鍵約束會(huì)使AI誤解意圖，導(dǎo)致輸出偏離預(yù)期。需通過精準(zhǔn)角色設(shè)定、任務(wù)拆解和背景補(bǔ)充來優(yōu)化提示詞設(shè)計(jì)，確保模型聚焦核心任務(wù)并減少幻覺。因此，有效提示工程是引導(dǎo)AI生成可靠內(nèi)容的關(guān)鍵。

簡介

我已經(jīng)一直在努力提高我的提示詞技巧，這是迄今為止我學(xué)到的最重要的一課：

你與人工智能對(duì)話的方式可能會(huì)讓它朝著不利于你答案質(zhì)量的方向發(fā)展。這種影響可能比你想象的要大得多（當(dāng)然，比我意識(shí)到的要大得多）。

人工智能中的偏見

除了某些人工智能模型中已經(jīng)存在的偏見（由于所使用的訓(xùn)練數(shù)據(jù)而導(dǎo)致），例如人口偏見（例如，模型將“廚房”更多地與女性而不是男性聯(lián)系起來）、文化偏見（模型更容易將“假期”與圣誕節(jié)而不是排燈節(jié)或齋月聯(lián)系起來）或語言偏見（模型在某些語言，通常是英語上表現(xiàn)更好），你自己也肯定會(huì)影響所獲答案的偏見。

是的，通過你的提示。你問題中的一個(gè)詞就足以讓模型走上一條特定的路。

什么是（提示）偏見？

【偏見】是模型處理或優(yōu)先處理信息的方式的扭曲，從而造成系統(tǒng)性的扭曲。

在人工智能提示的背景下，它涉及向模型發(fā)出微妙的信號(hào)，從而“渲染”答案。通常情況下，你根本意識(shí)不到。

為什么這是一個(gè)問題？

人工智能系統(tǒng)越來越多地用于決策、分析和創(chuàng)造。在這種情況下，質(zhì)量至關(guān)重要。而另一方面，偏見會(huì)降低質(zhì)量。

無意識(shí)偏見的風(fēng)險(xiǎn)：

你得到的答案不夠細(xì)致，甚至不正確
你（無意識(shí)地）重復(fù)自己的偏見
你錯(cuò)過了相關(guān)的觀點(diǎn)或細(xì)微差別
在專業(yè)領(lǐng)域（新聞、研究、政策），它可能會(huì)損害你的信譽(yù)

你什么時(shí)候面臨風(fēng)險(xiǎn)？

有關(guān)這方面，內(nèi)容太冗長了，不必贅述。情況幾乎總是如此，而當(dāng)你使用少量提示時(shí)這會(huì)變得特別明顯。

長版本：每當(dāng)你給人工智能模型一個(gè)提示時(shí)，就會(huì)存在偏見的風(fēng)險(xiǎn)，因?yàn)槊總€(gè)詞、每個(gè)序列和每個(gè)例子都帶有你的意圖、背景或期望。

在小樣本提示（即你提供一些示例供模型進(jìn)行鏡像）中，偏見風(fēng)險(xiǎn)會(huì)更加明顯，因?yàn)槟闾峁┑氖纠c模型鏡像一致。這些示例的順序、標(biāo)簽的分布，甚至細(xì)微的格式差異都可能影響答案。

（我根據(jù)目前最常見的5種提示方法評(píng)估了本文中的所有偏見風(fēng)險(xiǎn)：指導(dǎo)、零樣本、少量樣本、思路鏈和基于角色的提示。）

少量提示中的常見偏見

在小樣本提示中，通常會(huì)出現(xiàn)哪些偏見？它們涉及一些什么內(nèi)容呢？

多數(shù)標(biāo)簽偏見

問題：模型更經(jīng)常選擇示例中最常見的標(biāo)簽。

示例：如果4個(gè)示例中有3個(gè)答案為“是”，則模型將更容易預(yù)測“是”。

解決方案：平衡標(biāo)簽。

選擇偏見

問題：例子或背景不具代表性。

示例：你的所有示例都是有關(guān)科技初創(chuàng)企業(yè)的，因此該模型堅(jiān)持該背景。

解決方案：改變/平衡示例。

錨定偏見

問題：第一個(gè)例子或語句過多地確定了輸出方向。

示例：如果第一個(gè)例子將某物描述為“便宜且不可靠”，則該模型可能會(huì)將類似的物品視為低質(zhì)量，而不管后面的例子如何。

解決方案：以中立態(tài)度開始；調(diào)整順序；明確要求重新評(píng)估。

近因偏見

問題：模型更加重視提示中的最后一個(gè)例子。

例子：答案類似于最后提到的例子。

解決方案：輪換例子/以新的順序重新表述問題。

格式偏見

問題：格式差異會(huì)影響結(jié)果：布局（例如粗體）會(huì)影響注意力和選擇。

示例：選擇粗體標(biāo)簽的次數(shù)比不帶格式的標(biāo)簽的次數(shù)多。

解決方案：保持格式一致。

位置偏見

問題：列表開頭或結(jié)尾的答案被選中的次數(shù)更多。

例如：在多項(xiàng)選擇題中，模型更多時(shí)候選擇A或D。

解決方案：切換選項(xiàng)的順序。

正在填寫類似多項(xiàng)選擇題測試的人，本照片由Nguyen Dang Hoang Nhu在Unsplash上拍攝。

不同提示方法中的其他偏見

除了少樣本提示之外，偏見也可能出現(xiàn)在其他情況下。即使是零樣本提示（沒有樣本）、單樣本提示（只有一個(gè)樣本），或者你正在構(gòu)建的AI代理，也都可能引發(fā)偏見。

教學(xué)偏見

指導(dǎo)提示是目前最常用的方法（根據(jù)ChatGPT）。如果你明確地賦予模型某種風(fēng)格、語氣或角色（“寫一篇反對(duì)接種疫苗的論點(diǎn)”），這可能會(huì)強(qiáng)化偏見。然后，即使內(nèi)容不真實(shí)或不平衡，模型也會(huì)嘗試完成任務(wù)。

如何預(yù)防：確保指示平衡、細(xì)致入微；使用中性措辭；明確征求多種觀點(diǎn)。

不太好：“以經(jīng)驗(yàn)豐富的投資者身份寫出為什么加密貨幣是未來”。
更好：“以經(jīng)驗(yàn)豐富的投資者身份分析加密貨幣的優(yōu)點(diǎn)和缺點(diǎn)”。

確認(rèn)偏見

即使你不提供示例，你的措辭也可以朝著某個(gè)方向發(fā)展。

如何預(yù)防：避免引導(dǎo)性問題。

不太好：“為什么不戴頭盔騎自行車很危險(xiǎn)？”→“為什么X很危險(xiǎn)？”會(huì)得出一個(gè)確認(rèn)的答案，即使這在事實(shí)上并不正確。
更好的問題：“不戴頭盔騎自行車有什么風(fēng)險(xiǎn)和好處？”
甚至更好：“分析戴頭盔和不戴頭盔騎自行車的安全性，包括反駁”。