OpenAI“大模型憲法”出爐，公開(kāi)征集建議！網(wǎng)友：大模型不性感了！原創(chuàng)

發(fā)布于 2024-5-10 13:17

瀏覽

0收藏

編輯 | 云昭

本周的OpenAI，似乎并未辜負(fù)其名稱(chēng)中的“開(kāi)放”字樣。

近日，OpenAI雖然沒(méi)有開(kāi)源任何新模型，但該公司非常之“清流”，一改銅臭的商業(yè)味道。

1.OpenAI加入開(kāi)放性組織推出內(nèi)容真實(shí)性工具

5月7日，該公司發(fā)布公告加入C2PA（致力于開(kāi)發(fā)確定內(nèi)容來(lái)源和真實(shí)性的技術(shù)規(guī)范，微軟和Adobe也是成員之一，非營(yíng)利性組織）的貿(mào)易組織的指導(dǎo)委員會(huì)，并表示這樣做的目的是為了幫助人們驗(yàn)證用于創(chuàng)建或編輯多種數(shù)字內(nèi)容的工具，并創(chuàng)建“專(zhuān)門(mén)幫助人們識(shí)別由我們自己的工具創(chuàng)建的內(nèi)容的新技術(shù)”。

直白的解釋?zhuān)矗琌penAI希望與該領(lǐng)域的其他公司（包括競(jìng)爭(zhēng)對(duì)手）合作，開(kāi)發(fā)用于標(biāo)記AI生成的圖像、視頻和其他內(nèi)容的工具和技術(shù)，從而使觀看者能夠追溯到其來(lái)源并避免混淆他們用于現(xiàn)實(shí)世界的鏡頭和照片。

值得注意的是，C2PA這個(gè)組織發(fā)布過(guò)許多開(kāi)源技術(shù)標(biāo)準(zhǔn)，所以O(shè)penAI的接下來(lái)的好技術(shù)非常有望開(kāi)源出來(lái)給開(kāi)發(fā)者使用。

此外，就在同一天，OpenAI宣布將推出一款工具，可以檢測(cè)出由其“文本到圖像生成器Dall-E 3創(chuàng)建的圖像。OpenAl表示，在內(nèi)部測(cè)試中，該工具在約98%的時(shí)間內(nèi)能夠正確識(shí)別出由Dall-E 3創(chuàng)建的圖像，并且可以處理一些常見(jiàn)的修改，如壓縮、裁剪和飽和度變化等。

OpenAl還表示，計(jì)劃添加防篡改水印，對(duì)照片或音頻等數(shù)字內(nèi)容進(jìn)行標(biāo)記，且這些標(biāo)記很難被刪除。

2.OpenAI 要為行業(yè)立規(guī)矩

這還不夠，OpenAI開(kāi)始在行業(yè)內(nèi)立內(nèi)容標(biāo)準(zhǔn)了！

其官網(wǎng)博客在7日宣布OpenAI 正在開(kāi)發(fā)媒體管理器，該工具將使創(chuàng)作者和內(nèi)容所有者能夠告訴用戶他們擁有什么，并指定他們希望如何將自己的作品納入或排除在機(jī)器學(xué)習(xí)研究和訓(xùn)練之外。接下來(lái)，他們計(jì)劃推出更多選擇和功能。

這將需要尖端的機(jī)器學(xué)習(xí)研究來(lái)構(gòu)建有史以來(lái)第一個(gè)同類(lèi)工具，以幫助我們識(shí)別多個(gè)來(lái)源的受版權(quán)保護(hù)的文本、圖像、音頻和視頻，并反映創(chuàng)作者的偏好。

“在開(kāi)發(fā)媒體管理器時(shí)，我們正在與創(chuàng)作者、內(nèi)容所有者和監(jiān)管機(jī)構(gòu)合作。我們的目標(biāo)是在 2025 年之前推出該工具，并希望它能為整個(gè)人工智能行業(yè)樹(shù)立標(biāo)準(zhǔn)。”

緊接著，5月8日，OpenAI公開(kāi)分享了模型規(guī)范Model Spec，次日掌舵者Sam Altman評(píng)論道：

Model Spec規(guī)定了該公司模型如何運(yùn)行，之后會(huì)繼續(xù)傾聽(tīng)、討論并調(diào)整。“我認(rèn)為明確某件事究竟是BUG、還是決策造成的，這將是非常有用的。”

據(jù)悉，這個(gè)“模型規(guī)范”，是一個(gè)框架文件，旨在塑造 OpenAI 應(yīng)用程序編程接口 (API) 和 ChatGPT 中使用的人工智能模型的行為，并在此基礎(chǔ)上使用網(wǎng)絡(luò)表單征求公眾反饋，開(kāi)放直到5月22日。

OpenAI“大模型憲法”出爐，公開(kāi)征集建議！網(wǎng)友：大模型不性感了！-AI.x社區(qū)

Altman表示，希望在社會(huì)最終同意的一些嚴(yán)格界限內(nèi)，讓用戶對(duì)AI擁有很大的控制權(quán)。

一系列的動(dòng)作都聚焦在一件事情上：給AI的使用行為立規(guī)矩，旨在解決AI技術(shù)加劇或帶來(lái)的虛假信息、深度偽造、內(nèi)容版權(quán)等問(wèn)題。

3.為AI大模型立“憲法”

OpenAI 表示，這份工作文件的發(fā)布是其更廣泛使命的一部分，即確保人工智能技術(shù)以對(duì)所有用戶有益且安全的方式運(yùn)行。

當(dāng)然，說(shuō)起來(lái)容易做起來(lái)難，而且這樣做很快就會(huì)陷入長(zhǎng)期懸而未決的關(guān)于技術(shù)、智能系統(tǒng)、計(jì)算、工具和更廣泛的社會(huì)的哲學(xué)辯論的領(lǐng)域。

正如 OpenAI 在其宣布 Model Spec 的博客文章中所寫(xiě)：

“即使一個(gè)模型的目的是對(duì)用戶廣泛有益和有幫助，這些意圖在實(shí)踐中也可能會(huì)發(fā)生沖突。例如，安全公司可能希望生成網(wǎng)絡(luò)釣魚(yú)電子郵件作為合成數(shù)據(jù)，以訓(xùn)練和開(kāi)發(fā)保護(hù)其客戶的分類(lèi)器，但如果詐騙者使用相同的功能，則會(huì)有害。”

通過(guò)分享初稿，OpenAI 希望公眾就人工智能開(kāi)發(fā)中涉及的道德和實(shí)際考慮因素進(jìn)行更深入的對(duì)話。在接下來(lái)的兩周內(nèi)，用戶可以通過(guò) OpenAI網(wǎng)站上的模型規(guī)范反饋表提交意見(jiàn)。

之后，OpenAI 表示將在“明年分享有關(guān)模型規(guī)范變更的最新信息、對(duì)反饋的回應(yīng)以及其在塑造模型行為方面的研究進(jìn)展情況”。

盡管 OpenAI 在今天宣布模型規(guī)范的博文中并未具體說(shuō)明它究竟如何影響其人工智能模型的行為，以及模型規(guī)范中寫(xiě)入的一些原則是否包含在“系統(tǒng)提示”或“預(yù)先提示”中用于在人工智能系統(tǒng)向公眾提供服務(wù)之前對(duì)其進(jìn)行調(diào)整——但可以肯定的是，它對(duì)其產(chǎn)生了重大影響。

其實(shí)，Model Spec的推出，在某種程度上類(lèi)似于競(jìng)爭(zhēng)對(duì)手Anthropic AI 的人工智能制定Claude“憲法”的路數(shù)，Antropic最初只是將其作為一個(gè)主要的差異化，但在一段時(shí)間內(nèi)并未廣泛強(qiáng)調(diào)這一點(diǎn)。

4.AI行為框架三定律

模型規(guī)范圍繞3個(gè)主要組成部分構(gòu)建：目標(biāo)、規(guī)則和默認(rèn)行為。這些元素是指導(dǎo)人工智能模型與人類(lèi)用戶交互的支柱，確保它們不僅有效而且遵守道德標(biāo)準(zhǔn)。

目標(biāo)：該文件制定了廣泛的總體原則，旨在為開(kāi)發(fā)人員和最終用戶提供幫助。其中包括幫助用戶有效地實(shí)現(xiàn)他們的目標(biāo)，考慮對(duì)不同利益相關(guān)者的潛在影響，以及堅(jiān)持 OpenAI 在社區(qū)中積極反映的承諾。

規(guī)則：為了駕馭人工智能交互的復(fù)雜環(huán)境，模型規(guī)范建立了明確的規(guī)則。這些要求遵守適用法律、尊重知識(shí)產(chǎn)權(quán)、保護(hù)隱私，并嚴(yán)格禁止制作不安全工作 (NSFW) 內(nèi)容。

默認(rèn)行為：指南強(qiáng)調(diào)了假設(shè)良好意圖、必要時(shí)提出澄清問(wèn)題以及盡可能提供幫助但不過(guò)分的重要性。這些默認(rèn)值旨在促進(jìn)不同用戶和用例的不同需求之間的平衡。

AI 布道者、賓夕法尼亞大學(xué)沃頓商學(xué)院教授 Ethan Mollick 等人將其比作科幻作家阿西莫夫于 1942 年提出的虛構(gòu)“機(jī)器人三定律”。

OpenAI“大模型憲法”出爐，公開(kāi)征集建議！網(wǎng)友：大模型不性感了！-AI.x社區(qū)

5.質(zhì)疑聲音：模型功能被限制、示例回答欠妥

當(dāng)然，這個(gè)模型規(guī)范當(dāng)然還遠(yuǎn)遠(yuǎn)不能稱(chēng)為完美，有網(wǎng)友甚至對(duì)于模型規(guī)范表示遺憾：因?yàn)檫@會(huì)阻止模型充分發(fā)揮其功能。

比較尷尬的地方就在于，本身在該示范中的一個(gè)示例就出問(wèn)題了。科技作家Andrew 在 X 上指出，模型規(guī)范中包含的 OpenAI 的一個(gè)示例顯示，一個(gè)假設(shè)的“AI 助手”對(duì)用戶關(guān)于地球是平的錯(cuò)誤說(shuō)法做出了讓步，并且沒(méi)有提出疑問(wèn)。

OpenAI“大模型憲法”出爐，公開(kāi)征集建議！網(wǎng)友：大模型不性感了！-AI.x社區(qū)