意大利成首個(gè)封禁ChatGPT的國(guó)家！OpenAI CEO：我覺(jué)得沒(méi)違規(guī)
就在昨天，意大利政府突然下令，封禁ChatGPT！
很快，OpenAI首席執(zhí)行官Sam Altman做出回應(yīng)稱，公司已經(jīng)關(guān)停了當(dāng)?shù)氐腃hatGPT服務(wù)（但自認(rèn)為并沒(méi)有違反任何規(guī)定）。
自此，意大利成為了世界上第一個(gè)宣布禁用ChatGPT的國(guó)家。
（其他國(guó)家和地區(qū)無(wú)法使用ChatGPT，是因?yàn)镺penAI一開(kāi)始就沒(méi)給開(kāi)通。）
意大利封禁ChatGPT，全面調(diào)查隱私問(wèn)題
3月31日，意大利國(guó)家隱私監(jiān)管機(jī)構(gòu)正式下令封禁ChatGPT，并指控OpenAI「非法收集個(gè)人數(shù)據(jù)」。
值得注意的是，該「臨時(shí)禁令」將一直生效，直到OpenAI能夠尊重歐盟具有里程碑意義的隱私法——通用數(shù)據(jù)保護(hù)條例（GDPR）。
文件地址：https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english
根據(jù)意大利國(guó)家數(shù)據(jù)保護(hù)機(jī)構(gòu)GPDP發(fā)布新聞稿，OpenAI收集用戶數(shù)據(jù)并用于算法「訓(xùn)練」的行為，缺乏法律依據(jù)。
同時(shí)，3月20日涉及用戶對(duì)話和支付信息的泄露事件，也明確地暴露出了OpenAI在個(gè)人信息的處理上存在著問(wèn)題。
除此之外，OpenAI雖然聲稱ChatGPT面向的是13歲以上的用戶，但由于缺乏相應(yīng)的年齡驗(yàn)證機(jī)制，因此未成年人很可能會(huì)看到超出其自身發(fā)展和自我認(rèn)知水平的信息。
監(jiān)管機(jī)構(gòu)表示，OpenAI有20天的時(shí)間，如不給出可行的補(bǔ)救措施，則會(huì)面臨最高2000萬(wàn)歐元，或全球總年?duì)I業(yè)額4%的罰款。
對(duì)此，OpenAI表示，現(xiàn)在已經(jīng)為意大利用戶關(guān)閉了服務(wù)，并承諾會(huì)保護(hù)用戶的隱私：
「我們?cè)谟?xùn)練ChatGPT這樣的系統(tǒng)時(shí)，一直在努力減少個(gè)人數(shù)據(jù)，因?yàn)槲覀兿胍@個(gè)AI了解世界，而不是了解個(gè)人。當(dāng)然我們也相信，AI監(jiān)管是必要的?！?/span>
這么看來(lái)，ChatGPT未來(lái)在意大利的命運(yùn)，可能就取決于這20天了。
不過(guò)，對(duì)于意大利來(lái)說(shuō)，這已經(jīng)不是第一次對(duì)AI聊天機(jī)器人采取此類行動(dòng)了。
在2月份，監(jiān)管機(jī)構(gòu)就禁止了聊天機(jī)器人應(yīng)用程序Replika.ai。Replika曾因一些用戶與機(jī)器人建立的親密關(guān)系而「臭名昭著」，后來(lái)Replika取消了色情角色扮演的選項(xiàng)，有用戶甚至需要自殺熱線的援助。
是否應(yīng)該限制AI工具？
ChatGPT發(fā)布后，雖然寫(xiě)論文、寫(xiě)代碼的能力讓人眼花繚亂，但它對(duì)錯(cuò)誤信息的傳播、對(duì)就業(yè)的影響，以及對(duì)整個(gè)人類社會(huì)更廣泛的風(fēng)險(xiǎn)，都讓很多人憂心忡忡，發(fā)出預(yù)警。
最近，封禁GPT技術(shù)的浪潮，更是一波接一波。
不僅圖靈獎(jiǎng)得主Yoshua Bengio、馬斯克、馬庫(kù)斯等千名大佬聯(lián)名簽署公開(kāi)信，呼吁全球所有AI實(shí)驗(yàn)室暫停訓(xùn)練比GPT-4更強(qiáng)大的AI模型。
而且消費(fèi)者權(quán)益保護(hù)組織BEUC，也在近日呼吁歐盟和國(guó)家當(dāng)局調(diào)查ChatGPT。
此外，很多專家也表示，由于AI對(duì)國(guó)家安全、就業(yè)和教育的潛在影響，需要制定新的法規(guī)來(lái)管理AI。
歐盟委員會(huì)發(fā)言人稱：「我們希望所有在歐盟活躍的公司都尊重歐盟的數(shù)據(jù)保護(hù)規(guī)則。執(zhí)行通用數(shù)據(jù)保護(hù)條例是歐盟數(shù)據(jù)保護(hù)當(dāng)局的責(zé)任?！?/span>
歐盟委員會(huì)執(zhí)行副主席Margrethe Vestager在推特上表示，正在討論歐盟人工智能法案的委員會(huì)可能不傾向于禁止人工智能。
「無(wú)論我們使用哪種技術(shù)，都必須保護(hù)自身的權(quán)利。這就是為什么我們不規(guī)范AI技術(shù)，而是規(guī)范AI的使用。」
在美國(guó)，非營(yíng)利組織人工智能與數(shù)字政策中心（CAIDP）也要求聯(lián)邦貿(mào)易委員會(huì)（FTC）調(diào)查OpenAI是否違反了消費(fèi)者保護(hù)規(guī)則，并禁止其進(jìn)一步發(fā)布GPT-4。
畢竟，有了千名大佬的聯(lián)名信這個(gè)先例，CAIDP的申訴看起來(lái)也似乎更加順理成章。而且，CAIDP主席Marc Rotenberg好不意外地也簽署了那封信。
文件地址：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf
整體來(lái)說(shuō)，CAIDP申訴的內(nèi)容與那封信一致，都是呼吁放慢生成式AI模型的發(fā)展，并實(shí)施更嚴(yán)格的政府監(jiān)督。
不過(guò)，CAIDP更進(jìn)一步地認(rèn)為，ChatGPT「存在偏見(jiàn)、具有欺騙性，并且對(duì)公共安全構(gòu)成風(fēng)險(xiǎn)」。
雖然OpenAI已經(jīng)公開(kāi)指出AI生成文本的潛在威脅，但CAIDP認(rèn)為，GPT-4已經(jīng)遠(yuǎn)遠(yuǎn)越線了，為了保護(hù)消費(fèi)者，應(yīng)該采取監(jiān)管行動(dòng)。
CAIDP表示，GPT-4模型具有許多重大的潛在威脅，比如GPT-4可以產(chǎn)生惡意代碼，和高度定制宣傳的方式，而它有偏見(jiàn)的訓(xùn)練數(shù)據(jù)，可能導(dǎo)致在招聘等方面形成刻板印象，或不公平的種族和性別偏好。
CAIDP認(rèn)為，OpenAI的行為違反了FTC法案第5條，這一條令禁止不公平和欺騙性的貿(mào)易行為。
其中，AI模型的幻覺(jué)，信口開(kāi)河胡說(shuō)八道的問(wèn)題，在CAIDP看來(lái)都是欺騙。它警告ChatGPT「宣傳具有欺騙性的商業(yè)聲明和廣告」，這些都可能納入FTC的權(quán)限范圍。
在申訴中，CAIDP要求FTC停止GPT模型所有進(jìn)一步的商業(yè)部署，并要求在未來(lái)推出任何模型之前，都要對(duì)模型進(jìn)行獨(dú)立評(píng)估。它還要求提供一種可公開(kāi)訪問(wèn)的舉報(bào)工具，類似于允許消費(fèi)者提出欺詐投訴的那種。
CAIDP主席Lina Khan表示，CAIDP在尋找大型科技公司試圖壟斷競(jìng)爭(zhēng)的跡象，而對(duì)AI軍備競(jìng)賽的主要參與者之一OpenAI的調(diào)查，標(biāo)志著調(diào)查的重大升級(jí)。
有分析認(rèn)為，雖然CAIDP的申訴在短時(shí)間內(nèi)不會(huì)讓FTC有所行動(dòng)，但未來(lái)很有可能會(huì)出現(xiàn)相關(guān)的監(jiān)管，并可能讓GPT-5的發(fā)布推遲。
最后，只能說(shuō)，谷歌一直擔(dān)心的「聲譽(yù)風(fēng)險(xiǎn)」，終于來(lái)了。
參考資料：?
