10 月 16 日消息，當?shù)貢r間周三，OpenAI 首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）在面對外界對其放寬內(nèi)容限制政策的批評時回應(yīng)稱，該公司“并非世界選出的道德警察”。

圖源：OpenAI 官網(wǎng)

此前，奧爾特曼宣布將放松對旗下聊天機器人 ChatGPT 的內(nèi)容管制，允許包括情色內(nèi)容在內(nèi)的成人主題內(nèi)容上線，此舉引發(fā)了廣泛爭議。作為回應(yīng)，奧爾特曼于周三表示，OpenAI 并不打算充當全球用戶行為的道德裁決者。

IT之家注意到，這家人工智能初創(chuàng)公司在過去數(shù)月已逐步加強安全管控措施，以應(yīng)對外界日益增長的質(zhì)疑 —— 即其如何保護用戶，尤其是未成年人的安全。

然而，奧爾特曼周二在社交媒體 X 平臺發(fā)帖稱，隨著公司開發(fā)出新的技術(shù)工具，并成功緩解了“嚴重的心理健康問題”，現(xiàn)在已能夠“安全地放寬”大部分內(nèi)容限制。

去年 12 月，奧爾特曼稱 OpenAI 已決定向“經(jīng)驗證的成年人”開放更多內(nèi)容，包括情色題材。

周三，奧爾特曼再次發(fā)文試圖澄清這一政策調(diào)整。他表示，OpenAI“非常重視將成年用戶視為成年人來對待”的原則，但同時強調(diào)，平臺仍不會允許任何可能對他人造成傷害的內(nèi)容存在。

他寫道：“正如社會在其他領(lǐng)域設(shè)定適當界限（例如 R 級電影）一樣，我們也希望在此采取類似的區(qū)分方式。”

這一立場與奧爾特曼今年 8 月在一檔播客節(jié)目中的表態(tài)形成鮮明對比。當時他表示，自己為 OpenAI 拒絕推出某些可能提升用戶活躍度的功能（如“性愛機器人頭像”）感到“自豪”。“有很多短期手段可以顯著推動增長或增加收入，但這些做法與我們的長期目標嚴重背道而馳。”奧爾特曼當時說道。

今年 9 月，美國聯(lián)邦貿(mào)易委員會（FTC）啟動對 OpenAI 及其他科技公司的調(diào)查，關(guān)注諸如 ChatGPT 之類的聊天機器人是否會對兒童和青少年產(chǎn)生負面影響。此外，OpenAI 還卷入一起過失致死訴訟案，一個家庭指控 ChatGPT 導致其青少年兒子自殺身亡。

自上述調(diào)查和訴訟發(fā)生以來，OpenAI 已采取多項公開舉措以提升 ChatGPT 的安全性。上個月底，公司推出了一系列家長控制功能，并正在開發(fā)一套年齡預測系統(tǒng)，可自動為 18 歲以下用戶啟用適合青少年的設(shè)置。

就在周二，OpenAI 宣布成立一個由八位專家組成的顧問委員會，旨在深入研究人工智能對用戶心理健康、情緒狀態(tài)及內(nèi)在動機的影響。同一天，奧爾特曼發(fā)布了關(guān)于放寬內(nèi)容限制的聲明，隨即引發(fā)公眾困惑和社會媒體上的迅速反彈。

奧爾特曼坦言，輿論反應(yīng)“遠超預期”。

他的言論也引起了多個倡導組織的關(guān)注。其中，美國全國反性剝削中心（National Center on Sexual Exploitation, NCOSE）呼吁 OpenAI 撤銷允許情色內(nèi)容上線的決定。該組織執(zhí)行主任海莉?麥克納馬拉（Haley McNamara）周三發(fā)表聲明指出：“性化的 AI 聊天機器人本質(zhì)上具有高風險，會在缺乏明確行業(yè)安全標準的情況下，因‘合成親密關(guān)系’而引發(fā)真實的心理健康危害。”