譯者 | 晶顏

審校 | 重樓

ChatGPT的問世打開了“潘多拉魔盒”，人工智能內容檢測器也由此流行起來。

隨著ChatGPT的問世，基于人工智能(AI)的寫作工具永久地改變了內容創作的格局，在實現效率和創新的同時，也打開了“潘多拉魔盒”。在此背景下，人工智能內容檢測器日漸興起。

人工智能內容檢測器是用于處理和檢查文本以確定其是否為人工智能生成的工具。該軟件將文本與現有的人工智能和人類編寫的內容數據集進行比較，通過分析文本的結構和語言特征來區分它們。

事實上，這項技術已有多年歷史，但自本世紀20年代初以來，才真正迎來人工智能內容檢測器的興起。

下文揭示了人工智能檢測器受歡迎背后的原因，以及人工智能內容檢測器為各領域文本使用者帶來的好處。

人工智能內容存在的問題

讓我們面對現實吧：像ChatGPT這樣的人工智能內容創建工具是非常棒的。引用Marc Andreessen和Bill Gates的話說，它們是“計算機領域有史以來最偉大的東西”。它們是“純粹的魔法”。

這種“特殊的魔法”只有一些小問題：

• 它可以把來自網絡的虛假信息當作真實的信息來呈現。人工智能內容生成器根據提示構建答案，“預測”統計上可能的單詞序列。他們不能區分正確和錯誤的陳述。
• 它有時會對有爭議的問題(性別、政治、少數群體、宗教等)提供有偏見、不準確甚至歧視性的答案。
• 雖然人工智能作家足夠聰明，可以生成可以“欺騙”抄襲檢查工具的原創內容，但這些內容太過籠統，沒有深度或獨特的見解。

簡而言之，人工智能內容缺乏個性或真實性，為讀者區分真偽帶來了極大的考驗。而這正是人工智能內容檢測器可以發揮作用的地方。

如今，這項技術的可靠性為70-80%，可以幫助用戶揭示內容創作中是否有人工智能參與。誤報或漏報的情況時有發生，因此不能100%依賴該工具反饋的結果。為了獲得更高的準確性，仍然需要人工審查。

但是，與人工智能寫作軟件一樣，人工智能內容檢測器也在不斷發展。以下是它們在與文本內容的創作和傳播直接相關的三個領域受歡迎的原因和影響。

教育領域

教育領域是最早對人工智能作家發出警告的領域之一。

這一點是可以理解的：ChatGPT問世后，“人工智能論文寫作”的搜索量激增了2041%，提交的大學論文中有五分之一是人工智能生成的。雖然違反學術誠信在教育領域并不新鮮，但它已經達到了一個新的水平。

在人工智能出現之前的時代，為了獲得高分，學生們會積極使用寫作服務來幫助他們撰寫一流的學術論文。而在人工智能時代，他們開始使用人工智能技術。許多人認為這是對教育系統的威脅。

問題不僅在于學術上的不誠實，過度使用人工智能工具還會損害學生的寫作和溝通能力。學生在寫論文時能夠獲得批判性思維、創造力、論證能力和分析能力。他們能學會有邏輯、連貫地表達思想和觀點。而過度依賴人工智能工具，他們會失去這些技能，包括獨立思考和解決問題的能力。

此外，人工智能文本生成器會破壞學生的寫作心聲。他們不再使用自己的風格，而是更多地依賴于工具的建議(即預測性文本)，而不是創造力或獨特的聲音。這就是哲學家埃文·塞林格(Evan Selinger)九年前所討論的：“預測性文本影響著人們的互動方式。”

她說，這項技術可能會“阻止我們思考”，因為它“削弱了寫作作為一種精神活動的力量”。對話已經變得“比我們自己更像算法”，缺乏個人表達。這就是學生在寫作任務中濫用人工智能的情況：他們專注于任務的技術要求，放棄了深度，從而削弱了寫作作為一種心理過程的力量。這讓一些教育工作者擔心，學員們可能會犧牲自己的學術成長，把舒適置于學習之上。

人工智能內容檢測器在遏制這一趨勢方面起到了重要作用。

如今，教育機構會使用帶有抄襲檢查器的檢測器來確保學生作品的原創性。這為學生帶來的好處也很明顯：

• 維護學術誠信，防止濫用人工智能：人工智能內容檢測器阻止學生依賴文本生成器來撰寫論文，從而培養一種動腦實踐的文化。
• 提高寫作技能：人工智能探測器通過突出問題區域并鼓勵學生對其進行潤色以提高真實性和可讀性來幫助校對和編輯論文。

搜索引擎優化和營銷領域

人工智能寫作工具是大型語言模型(LLM)，可以生成連貫的文本，看起來像是對人類寫作的令人信服的模仿。

一開始，它便在營銷人員和搜索引擎優化專家間引起了轟動。他們將人工智能作家視為節省內容創作時間和預算的機會，十分積極地為他們的博客、社交媒體賬戶、新聞稿、產品描述、廣告等生成文本。

但問題很快就出現了：

• 人工智能文本是通用的，沒有獨特的見解、人類視角和情感。
• 文本內容讀起來就像出自五年級學生之手。
• 人工智能欺騙了抄襲檢查器，但無法滿足谷歌的E-E-A-T。

結果，大量千篇一律的文本出現了：這些文本不僅無法吸引用戶、帶來品牌效益，也不能讓品牌脫穎而出。誰愿意只有在谷歌上搜索深度信息時才能看到它呢?

說到谷歌，順便說一下：他們的政策認為人工智能生成的內容是垃圾郵件，后來轉變為“只要保持質量和原創性就可以”，與目標受眾相關，并且不用于操縱搜索排名。

這些政策也是人工智能內容檢測器受歡迎的原因之一：谷歌會對違反其人工智能生成內容規則的人進行處罰，這讓網絡管理員對其在網站上放置的內容感到煩惱。現在，他們會積極使用人工智能檢測器來防止低質量的人工智能文本入侵他們的在線平臺。

內容寫作

人工智能文本生成器還改變了專業人類作家在內容創作領域的角色。

創造力、獨特的見解、個人觀點、講故事和情感——人工智能缺失的一切現在都是吸引觀眾并讓他們記住其在線閱讀的文本的基礎。換句話說，人工智能作家賦予了人類作家更多的工作，而不是把他們踢出利基市場。

人工智能文本是無聲且單調的：

• 冗長的短語
• 太過復雜的句子
• 用詞不當
• 陳詞濫調
• 多余的-ly副詞
• 原始文本結構
• 每個高中生都能掌握的常識

人工智能內容檢測器可以幫助作者提高他們的技能，而不會讓他們的文章聽起來像機器人或業余愛好者。

這些工具鼓勵內容創作者更多地關注獨特的見解，引人入勝的敘述和附加價值，而不是字數統計和文本中的語法錯誤。高質量的寫作可以通過情感寫作策略和個性化與觀眾交流愿景和建立聯系。

結語

“適度是寶”(Measure is a treasure)。人工智能內容檢測器幫助用戶在與人工智能作家和人工智能生成的內容合作時保持這種適度和平衡。

原文標題：Why Are AI Content Detectors So Popular in 2024?，作者：Zohaib