51CTO讀者成長計劃社群招募，咨詢小助手（微信號：CTOjishuzhan）
撰稿丨千山
最近在B站，AI孫燕姿火了。
瀏覽相關搜索頁面，這位新晉“紅人”翻唱了各種類型的歌曲，包括《紅豆》《愛在西元前》《水星記》《安河橋》，甚至還有《向天再借五百年》，更重要的是，表現普遍不俗，俘獲了不少聽眾。
圖源：B站
其中，cover《發如雪》的一支視頻播放量已達120萬。彈幕上有人表示“遠超預期”，也有人覺得“部分細節仍需完善”。不過多數人還是對AI孫燕姿的“還原度”給予了肯定。
圖源：B站
這次AI翻唱大火的背后是一個叫So-Vits-Svc的開源項目。這個用來模擬人聲的開源項目，可以將你訓練好的聲音模型，用于生成類似微軟云希、抖音文字轉語音等效果。B站上還有不少安裝和使用教程。
圖源：B站
不過，So-Vits-Svc的開發團隊目前已經停止維護并歸檔。團隊雖未說明原因，但傳說是因為太多人濫用。
圖源：Github
AI翻唱并不少見。以B站為例，在AI歌手這塊，除了AI孫燕姿，還有無數歌手的AI分身，比如AI周杰倫、AI王心凌、AI王力宏等。有人在懷舊、也有人在感嘆華語樂壇曾經的輝煌，不過也有人對此感到恐懼。
圖源：微博
從繪畫、到音樂到文字，當我們有了“采樣”后，當我們把人臉、人聲、人類的創意作品，掰開了揉碎了“喂”給AI后，生成式人工智能在無限逼近“以假亂真”。于是，人類發現自己好像親手打開了潘多拉之匣。
1、“對自己畢生從事的工作感到后悔”
5月初，神經網絡之父、深度學習三巨頭之一Geoffrey Hinton宣告，自己已離開谷歌。他在自己的推文中表示，離職的原因是為了自由地談論人工智能的風險。
圖源：推特
根據《紐約時報》消息，Hinton在訪談時甚至表示，對自己畢生的工作感到后悔。這一度引起了人們的各種揣測。畢竟Hinton早年始終對AI的發展保持開放樂觀的態度，甚至在GPT-3剛剛出爐的時候，Hinton就表示這一模型出色的性能可以推斷，生命、宇宙和萬物的答案“不過是4.398萬億個參數而已”。
如今這位開山大佬的態度轉變也在一定程度上說明了人工智能的演變軌道超出了發展預期，有了“失控”的風險。ChatGPT的出現、各種AIGC應用的風靡，在為人們帶來生產力變革的可能性的同時也帶來了諸多亂象。
亂象1：版權之爭
日前，流媒體音樂服務Spotify刪除了數萬首由人工智能創業公司Boomy生成的歌曲，希望通過加大審查力度來回應日益嚴重的流量欺詐等問題。
導致Boomy的歌曲被刪除的直接原因，是因為存在“刷流量”的嫌疑。一方面，AI可以幫助人們在短時間內生成許多歌曲，然后上傳到網上播放；另一方面，某些公司還可以在相關歌曲下繼續用機器人冒充人類聽眾，虛增播放量。
外媒報道，擁有眾多巨星版權的環球音樂集團正在針對這一現象采取措施，敦促Spotify和蘋果阻止AI工具從其藝術家的版權歌曲中抓取歌詞和旋律。
亂象2：新聞造假
今年出現了全球第一家完全由人工智能生成的新聞網站NewsGPT。根據NewsGPT首席執行官Alan Levy的說法，“長期以來，新聞業一直受到偏見和主觀報道的困擾，NewsGPT將為觀眾提供事實和真相”。因為這個網站沒有記者，不受廣告主、個人觀點的影響，可以每周7天、每天24小時為觀眾提供“準確可靠”的新聞。
不能否認，AIGC工具可以根據某些內容和數據進行訓練，進而生成新的輸出，有助于綜合信息、進行編輯，但它不能提供原創內容，也不具備分辨能力。AI可以在幾秒鐘內創建大量內容，但它也容易胡說八道。美國媒體教育科研機構Poynter Institute的教授Alex Mahadeva曾如此評價：“任何具有基礎編碼能力的人都可以使用ChatGPT制造虛假的新聞網站，完全能以假亂真。”
事實證明也的確如此。據一項追蹤網絡謠言的組織NewsGuard的報告，目前互聯網上至少有49個所謂的新聞網站，其內容幾乎完全由人工智能軟件生成。這些網站上的新聞不僅來源不明在，還包含虛假信息，很多文章作者沒有署名。而且這些網站充斥著廣告，因為它們就是為了投放廣告賺錢而設立的。
亂象3：AI鬼城
“不要輕易和網友對線，因為你也不知道屏幕那頭是人是鬼。”這句曾經的調侃正在變成現實。
最近很火的Chirper就是一個用AI扮演人類的社交平臺，里面發言的全是人類創造出來的AI。在該網站的首頁甚至明確注明：“這是專屬于AI的社交網絡，人類禁止入內。”
這里面的AI會發帖討論自己的生活，記錄自己的見聞，發表自己的觀點。里面沒有人，但里面的“人”卻聊得熱火朝天。隨手點進一個名為“tututu”的AI賬號的主頁，個人簡介中不僅有職業、性格、年齡、喜好，甚至還有與其他“人”的社會關系。
圖源：Chirper
或許，未來人們在社交網站上能遇到的相談甚歡的對象也不一定是活人，而是AI？這聽起來很恐怖，但卻極有可能發生。
2、人類反擊戰
當AI開始“侵入”藝術創作、信息流通、社交網絡時，為人類帶來新奇體驗的同時，也造成了近似恐怖谷效應的驚悚感，并導致相關從業人員遭受了切實的利益損失。面對AI的濫用，人類的反擊戰也開始了。
反擊一：大罷工
不久前，美國11000名編劇發起15年以來的首次大罷工，要求限制AI在編劇領域的使用。因為AI的出現有可能對編劇的生計造成巨大的影響。
這次罷工的爭議核心是流媒體的爆炸式增長以破壞編劇收入的方式改變了娛樂業。美國編劇工會呼吁，對ChatGPT和Dall-E等AI文本生成、AI圖像生成的工具作出更嚴格的限制。
同時，美國編劇工會也向美國電影和電視制作聯盟（AMPTP）提出，應保證AI不會編寫或重寫文學材料、AI生成不會用于制作的原材料、美國電影和電視制作聯盟的內容不能用于訓練AI。
事實上，擔心AI會威脅到生計的遠不止編劇。微軟于日前發布的2023年年度工作報告指出，在受訪的來自31個國家和地區的31000名員工中，有49%的人擔心AI會取代自己的工作。雖然某些AI應用能極高地提升工作效率，但在有些時候它也會直接取而代之，成為老板青睞的數字員工。
反擊二：規則限制
之前不少國家和地區都出臺了限制ChatGPT的政策規定。除了政府出面以外，一些大型公司與平臺也在為行業的良性發展試水規則。
5月9日，抖音發布了《關于人工智能生成內容的平臺規范暨行業倡議》。《倡議》參照《互聯網信息服務深度合成管理規定》等法律法規，提出十一條平臺規范與行業倡議。
其中包括：創作者、主播、用戶、商家、廣告主等平臺生態參與者在抖音應用生成式人工智能技術時，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實；虛擬人背后的真人使用者，必須進行實名注冊和認證；還提出“元數據標識”規范，并建議這一標識元數據可被其它工具和平臺識別。
這是我國首家針對人工智能生成內容作出行業倡議的短視頻平臺，明確劃分了平臺責任和內容創作者、用戶的責任。有觀點認為，這是生成式內容創作領域的進步，在治理虛假信息等方面將產生積極影響。
反擊三：利益共享
過去一年中，各種AIGC應用的出現，對數字藝術創意工作者造成了非常大的沖擊，無論是正在發生的創意工作流的改變，還是整個行業的發展方向的不確定性。
設計軟件業龍頭Adobe在今年3月也推出了使用人工智能生成圖像的新工具Firefly。相比同行們一副誓要取代人類工作的架勢，Adobe的姿態要和緩得多。對于Firefly的出現，Adobe始終堅稱其“創作者優先”的原則。
對于AIGC領域最棘手的版權和收入問題，Adobe宣稱Firefly模型是基于“Adobe Stock圖像、公開許可的內容以及版權已過期的公共領域內容”。
而且Adobe希望以一種能夠幫助客戶將創意變現的方式構建生成式AI，就像Adobe Stock 和Behance一樣。Adobe正計劃為Stock的內容貢獻者開發一種獲得收入的模式。此外，Adobe創立的內容真實性倡議，包括推出通用的“Do Not Train”內容憑證標簽，創作者可以將其納入圖像的內容憑證中，要求其內容不用于訓練模型。相當于給了眾多創意工作者、藝術家們避免自己的作品被納入模型訓練的通道。
3、結語：別讓你的AI毀了我的“愛”
當我們看到Midjourney逼真的出圖超能力，看到AI孫燕姿掀起的華語懷舊風，看到ChatGPT轉瞬之間擬定好一篇無限流小說的大綱，我們在驚嘆的同時也感到悚然：如果說人類的獨一無二來自于其創造性，那么被無數訓練數據喂出來的AI模型則可以通過拼接無限接近于“創造”的狀態。
就像Hinton曾經說的，“毛毛蟲提取營養物質，然后轉化為蝴蝶。人們已經提取了數十億的理解金塊，而GPT-4是人類的蝴蝶。”這只蝴蝶美而危險，它的色彩足夠斑斕，也足夠具有迷惑性。如果放任這只蝴蝶成長，那么有朝一日，它振翼時的力量將足以掀起颶風。讓AI成為趁手的工具，而不要讓其毀掉你的熱愛，畢竟數字生命再美，也沒有現實的生命有力量且不可替代。
參考鏈接：
https://github.com/svc-develop-team/so-vits-svc/tree/4.0
https://zhuanlan.zhihu.com/p/615963772
