近年來，人工智能(AI)系統的受歡迎程度顯著提高，尤其是在2023年，隨著一種被稱為“大型語言模型”(LLM)的特定類型系統的引入，人工智能(AI)系統將成為人們關注的焦點。這類系統的例子包括ChatGPT和Bard。

盡管人工智能技仍在發展中，但很明顯，人工智能系統的使用將深刻改變我們的工作生活、私人生活，以及如何組織和管理我們的社會。這并不是因為算法確實比人類更聰明，而是因為它們在執行大量基本和高級任務時提供了經濟穩定性和效率，這是大多數人類智能無法比擬的。

對人工智能使用的擔憂

盡管公眾辯論總體上傾向于關注使用人工智能技術的經濟效益和缺點、在公共行政和司法系統中引入人工智能系統，以及也在私人行為者提供某些基本服務方面的使用——如果人工智能系統輔助甚至取代人類決策，如何確保人權和民主的持續保護以及對法治的尊重，這引發了人們的嚴重擔憂。它們的使用還可能對民主進程產生重大影響，包括選舉、集會和結社的權利以及持有意見和接受或傳遞信息的權利——總之，這是自由民主的根本。

因此，世界各國和政府間組織現在應該應對人工智能技術帶來的挑戰，并建立必要的法律框架，以促進急需的創新，但不能以犧牲人權和基本自由為代價。我們需要仔細考慮如何使用人工智能系統來改善社會運作方式、環境保護以及促進經濟發展，而不是無意中創造一個由算法規則而不是法治統治的反烏托邦和不民主的世界。

監管人工智能技術的使用

歐洲委員會是歐洲大陸歷史最悠久的政府間區域組織，擁有46個成員國，其歐洲人權法院或許是世界上最廣為人知的機構。2019年，歐洲委員會開始了開創性的工作，探討基于其自身以及在人權、民主和法治領域的其他相關國際法律標準，研究制定一項人工智能國際條約的可行性和必要性。這項重要的開創性工作在國際層面上的成果導致了2022年人工智能委員會(CAI)的成立。CAI的任務是制定一項關于人工智能技術的框架公約，該公約將從人權、民主和法治的角度出發，規定與人工智能系統的設計、開發、使用和退役有關的具有法律約束力的要求、原則、權利和義務。

全球方法

俗話說，“沒有人是一座孤島”，世界上沒有一個地區能夠完全獨立。我們都是全球化經濟的一部分，最終面臨著同樣的挑戰和政策選擇。人工智能技術無國界，與人工智能系統相關的人權和民主方面的有意義的國際標準制定顯然不能僅限于世界的特定地區。因此，歐洲委員會部長委員會決定允許具有歐洲委員會價值觀和目標的感興趣的非歐洲國家參與談判，并且全球越來越多的國家已經已加入或正在加入我們的努力。

同樣，歐洲委員會讓相關非國家行為體密切參與這些談判也很重要。目前，CAI有61名民間社會和行業代表作為觀察員，與各國以及其他國際組織和歐洲委員會相關機構和委員會的代表一起參與談判。

保護人權和民主

在歐洲地區，歐盟(EU)在其27個成員國的人工智能系統監管中發揮著關鍵作用，因此，歐盟也代表這些成員國直接參與了歐洲委員會的談判。歐盟的人工智能法案和歐洲委員會的框架公約生效后，將相互促進，為如何最好地利用兩個歐洲組織的綜合優勢和能力提供了一個例子。

框架公約草案的重點是確保人工智能技術的使用，不會導致在保護人權、民主和民主進程的運作或尊重法治原則方面存在法律真空。根據前人工智能特設委員會(CAHAI)編制的可行性研究結果，其目的不是針對人工智能環境創造新的實質性人權，而是保證現有的人權尤其受國際法保護的人權和基本自由不容侵犯。這將通過要求各方迫使監管機構、開發商、提供商和其他人工智能參與者，從構想的那一刻起以及這些系統的整個生命周期考慮對人權、民主和法治的風險來實現。此外，鑒于人工智能技術的透明度和可解釋性等具體挑戰，應更新侵犯人權行為受害者可用的法律補救制度。

對民主的威脅

當涉及到人工智能技術對民主和民主進程的潛在威脅時，特別是這些系統被用來操縱或欺騙個人的能力，這將由條約解決。這包括使用所謂的“深度造假”、微觀目標或更直接地干預言論自由、形成和持有意見、集會和結社自由以及接收或傳遞信息的權利。《框架公約》將載有具有法律約束力的義務，要求締約國提供有效保護，防止這種做法。

“法治”是一個長期存在的法律哲學概念，其中包括政府和私人行為者在法律下承擔責任的想法;法律應該明確和公開;法律的制定、管理和執行以一種方便、公平和有效的方式進行;保證每個人都能獲得公正的爭端解決。很明顯，在設計和使用可能在敏感環境中使用的人工智能系統時，必須尊重構成公平、自由、守法社會的基本概念，例如(但不限于)起草法律、公共行政，尤其是通過法院進行司法行政。《框架公約》還將規定締約方在這方面的具體義務。

平衡之舉：基于風險的人工智能方法

框架公約草案，以及CAI的所有工作，對人工智能系統的設計、開發、使用和退役采取了一種基于風險的方法，在這樣做的過程中，人的尊嚴和能動性得到了重視。重要的是，我們不能被人工智能技術提供的明顯可能性沖昏頭腦，而沒有仔細考慮在各種環境中使用人工智能系統的潛在負面后果。因此，框架公約草案還要求各締約方就如何使用人工智能技術提高認識并激發知情的公眾辯論。

如上所述，人工智能和其他新興數字技術給民主社會帶來了許多根本性的問題和挑戰。與此同時，這些技術也為我們提供了在科學、醫學、保護和改善環境方面取得寶貴進步的機會，本文僅舉幾個關鍵領域。其還承諾促進全球經濟，并最終為全人類創造更好的生活條件。但也一些有影響力的聲音最近一直在呼吁暫停甚至禁止人工智能技術，因為其認為人工智能帶來的危險超過了所帶來的好處。盡管對人工智能提出的合理擔憂需要認真對待，但我們必須承認，問題已經出現，我們無法有效地逆轉科學和技術的發展，而這些發展使得先進而強大的人工智能系統得以創造。

因此，現實的方法必須是找到負責任地使用人工智能和其他數字技術的方法，并確保世界各地盡可能多的人能夠從中受益，并受到保護，免受濫用此類技術的影響。

這是一項艱巨的任務，需要志同道合的國家共同努力，并需要民間社會、科技行業和學術界的支持才能取得成功。我們希望并雄心勃勃地希望，歐洲委員會正在與世界各國共同制定的《框架公約》，將為保護基本權利提供一些迫切需要的法律明確性和保障，并將成為當前和未來討論如何制定平衡和持久的政策解決辦法，以應對引入新的強大數字技術對人權和民主構成的挑戰的焦點。