在人工智能開發領域，最重要的目標莫過于創建真正掌握自然語言處理(natural language processing，NLP)的系統。這是使AI得以廣泛應用的關鍵，因為它需要與(不懂機器語言，不會編程技能的)人類互動。在通往NLP的道路上，可以說，只有先讓AI學會說人類語言，才能使它們理解人們到底在說什么。

[[275189]]

問題是，為了能讓AI用人類語言寫作，技術人員已經做出很多努力，卻導致了一些比較滑稽的結果。然而，現在一些新的AI文本生成器正在逐步發展地更為成熟，生成的文本幾乎與人類書寫的文本無甚差別。最新版本的AI文本生成器更為智能，以至于開發人員開始限制對其進行訪問，以防它們被濫用。

AI NLP已經發展到新的階段，即整個行業將不得不開始著手處理隨之而來的倫理問題——以免重蹈DeepFake的覆轍，近年來Deepfake的“換臉”黑科技引起的道德問題備受關注。

下面是三個必須解決的潛在問題。

1. 虛假新聞的泛濫

在所有將AI文本生成用于邪惡目的的方式中，有一種對整個世界構成了很大的威脅，即AI可能會被用來大規模制造虛假信息，并以難以想象的方式大肆宣傳。這確實會帶來巨大風險。有一款叫作Grover的AI工具，其設計者試圖用它來檢測AI撰寫的虛假新聞。然而事實上，Grover也擅長制造虛假新聞。我們無法用完美的假設來說明新的AI文本生成工具將會帶來什么挑戰——它們既是問題，又是解決方案。

2. 對教育事業的挑戰

自互聯網出現以來，教育機構就鼓勵學生使用網絡來獲取來自世界各地的知識。問題是，這也導致剽竊事件數量急劇上升，因為許多學生發現剪切和粘貼網上的文本要比形成自己的原創想法容易的多。

互聯網也催生了大量的寫作服務，學生利用這些服務來減少他們的工作量——而老師們卻無法察覺。這就很容易看出較新的AI文本生成可能對教育事業產生的影響，它以一種全新的方式來幫助學生逃避寫作和論文。如果AI在這方面得到廣泛應用，將會嚴重危害世界各地的教育成果。

3. 對搜索引擎的危害

由于如今的互聯網充斥著各種各樣無意義的內容，因此在需要信息時，我們要借助搜索引擎的幫助來判斷什么是相關的和有用的。搜索引擎的判斷是基于對網站的評估，并根據網站滿足用戶查詢的程度和提供的內容質量來為其打分。然而，在搜索行業，有人擔心AI創造的數百萬博客帖子、新聞文章和其他內容會影響當前搜索引擎的判斷。

有人預計，這種影響就像是更具破壞性的名為article spinning的文章生成系統，該系統迫使谷歌徹底改革其算法以進行反擊。專家認為，掌控AI內容浪潮遠沒有這么快、那么容易完成。

未雨綢繆

迄今為止，對于如何預防上述AI問題，還沒有太多討論——至少在公共領域還沒有。毫無疑問，AI技術的主要開發人員正在試圖解決他們的新研究可能導致的問題，但是整個科技界也應該開始運用其先進的技能來解決這些問題。否則，一旦將“妖怪”放出來，就很難把它們收回去。鑒于結果會有巨大的破壞性，我們必須盡快找到一些解決辦法來避免進入問題雷區。