編輯 | 伊風(fēng)
出品 | 51CTO技術(shù)棧（微信號(hào)：blog51cto）
上周，馬斯克的 X 網(wǎng)站 “頭版 ”出現(xiàn)了一則令人震驚的國(guó)際新聞：
標(biāo)題為 “伊朗用重型導(dǎo)彈襲擊特拉維夫”。
圖片
考慮到此前以色列的空襲，這條新聞一經(jīng)發(fā)出便引起人們對(duì)戰(zhàn)爭(zhēng)升級(jí)的普遍擔(dān)憂。然而，轟炸并未真實(shí)發(fā)生過(guò)——這條新聞是X平臺(tái)自家的機(jī)器人Grok AI生成的！
X 剛剛宣布在趨勢(shì)（相當(dāng)于微博發(fā)現(xiàn)和熱搜功能）引入Grok。沒(méi)想到，第一天來(lái)上班的 AI 就造了一個(gè)大亂子！
究竟為什么會(huì)發(fā)生這種事？
上圖：請(qǐng)點(diǎn)擊“探索”按鈕查看Grok AI為你創(chuàng)造的實(shí)時(shí)個(gè)性化新聞
1.從馬斯克的“大裁員”開(kāi)始說(shuō)起
和微博等平臺(tái)的熱搜榜一樣，X 平臺(tái)的趨勢(shì)可以幫助用戶了解目前的熱門話題。在 X 上，話題的趨勢(shì)是實(shí)時(shí)的，可能有幾個(gè)小時(shí)的短期運(yùn)行期，也可能有 24 到 48 小時(shí)的長(zhǎng)期運(yùn)行期。
趨勢(shì)大多針對(duì)每個(gè)用戶的賬戶和時(shí)間線，結(jié)合用戶關(guān)注的對(duì)象、興趣和位置等因素由算法進(jìn)行內(nèi)容推薦。
當(dāng)一條新聞被廣泛討論時(shí)，Twitter （那時(shí)還沒(méi)有改名）的算法會(huì)捕捉到發(fā)布的相關(guān)關(guān)鍵詞并分享趨勢(shì)，但有時(shí)并不清楚一組特定的詞語(yǔ)為何會(huì)成為趨勢(shì)。
2020年起，Twitter 開(kāi)始重視在事實(shí)核查上的投入，旨在阻止謠言和假新聞的病毒式傳播。
圖片
當(dāng)年9月，Twitter 組建了一支人工編輯團(tuán)隊(duì)，負(fù)責(zé)策劃新聞，并將趨勢(shì)與上下文聯(lián)系起來(lái)。此外，熱門話題下顯示的熱門推文將不再只是算法排名，還包括人工策劃。
一年后，Twitter 與美聯(lián)社和路透社合作，進(jìn)一步加強(qiáng)了為熱門話題提供人工背景信息的工作，以“為每天在 Twitter 上發(fā)生的廣泛的全球話題和對(duì)話提供及時(shí)、權(quán)威的背景信息”。
然而，馬斯克的上任改變了這一切。2022 年 10 月，馬斯克宣布裁員超過(guò) 80%，員工人數(shù)從約 8,000 驟降到 1,500 人，被裁掉的當(dāng)然也包括人工編輯團(tuán)隊(duì)。不久后，平臺(tái)的趨勢(shì)話題就不再提供文字說(shuō)明。
據(jù)路透社2022年11月報(bào)道，"Twitter的策劃團(tuán)隊(duì)已被裁撤，該團(tuán)隊(duì)負(fù)責(zé)'突出Twitter上發(fā)生的最佳事件和故事，并增添背景信息使其連貫'"。
馬斯克曾在推特上表示：Twitter 對(duì)內(nèi)容審核的堅(jiān)定承諾絕對(duì)不會(huì)改變。但激烈的裁員舉措讓他難以允諾——失去了監(jiān)控推文中的暴力、仇恨和其他違禁內(nèi)容的團(tuán)隊(duì)，推特上的新聞內(nèi)容有時(shí)無(wú)可避免地走向混亂。這件事也間接導(dǎo)致蘋果和通用汽車在內(nèi)的大批廣告主選擇撤離了 X 平臺(tái)。
2.失去了人類“把關(guān)者”，AI難扛新聞大旗
在上周的假新聞事件之前，@XDaily 等一些 X 粉絲賬戶分享了 X 即將推出的更新后的 "探索 "頁(yè)面截圖。
圖片
根據(jù)演示的demo內(nèi)容，馬斯克更新后的 "探索 "頁(yè)面將重新為熱門話題和故事提供文字背景。
圖片
4 月 4 日，更新的 "探索 "頁(yè)面正式在X上推出。這次更新提供了每個(gè)熱門話題的熱門用戶帖子，并在頁(yè)面左上角補(bǔ)充了用戶易于消化的主題摘要。在頁(yè)面的最上方，X 創(chuàng)建的標(biāo)題將信息呈現(xiàn)給讀者，就像他們即將閱讀一篇真正的新聞一樣。
圖片
從上圖（熱門 X 用戶 Hasan Piker 提供的截圖）中可以看到，人工智能生成的有關(guān)轟炸一事的虛假新聞標(biāo)題正在該平臺(tái)的主頁(yè)側(cè)邊欄上流行。
對(duì)于Grok來(lái)說(shuō)，錯(cuò)誤地生成了 "伊朗用重型導(dǎo)彈襲擊特拉維夫 "這一標(biāo)題，是它在X的 "探索 "功能上生成上下文摘要的功能，這可能是大模型根據(jù)平臺(tái)中的關(guān)鍵詞進(jìn)行的聯(lián)想，或者根據(jù)一些用戶的謠傳進(jìn)行撰寫的。總之，這條新聞被作為熱門新聞推廣了。
看來(lái)，馬斯克并沒(méi)有讓 Twitter 的策劃團(tuán)隊(duì)回歸，也沒(méi)有聘請(qǐng)新的人工編輯來(lái)撰寫 X 現(xiàn)在提供經(jīng)過(guò)事實(shí)核查的上下文。
這些工作被“放心”地交付給 X 的人工智能聊天機(jī)器人 Grok 撰寫。
1996 年,美國(guó)通過(guò)《電信法案》第五編，其中有條款（230節(jié)）規(guī)定在線計(jì)算機(jī)服務(wù)對(duì)其用戶生成的第三方內(nèi)容享有豁免權(quán)，無(wú)需為內(nèi)容承擔(dān)民事責(zé)任。該條款的兩位作者提出，為了保護(hù)保護(hù)當(dāng)時(shí)不斷發(fā)展的互聯(lián)網(wǎng)，交互式計(jì)算機(jī)服務(wù)應(yīng)被視為傳播者，不應(yīng)對(duì)其傳播的內(nèi)容負(fù)責(zé)。
現(xiàn)在，AI也許正面臨著同樣的境地：潛力無(wú)限，但尚未成熟。不過(guò)，鑒于社交媒體在今日生活中無(wú)可取代的影響力，很多網(wǎng)友呼吁著手改變條款中的規(guī)定，讓AI承擔(dān)起責(zé)任，就像報(bào)紙所做的那樣。
3.盲目的裁員潮或許是時(shí)候叫停了
瘋狂的裁員策略將那些本應(yīng)由人類去做的工作，交給了AI。但問(wèn)題是AI無(wú)法勝任——起碼現(xiàn)在還做不到。
就像我們?cè)谏钪薪拥接葾I撥出的客服或推銷電話，那些不能理解人類意圖的機(jī)械聲音，或許只能徒增我們的煩惱。
無(wú)論我們是否喜歡，這些變化好像仍將繼續(xù)。有媒體認(rèn)為，馬斯克的裁員策略幾乎影響到整個(gè)硅谷，X通過(guò)大幅度裁員節(jié)約成本的做法，正在被其他巨頭公司參考和跟進(jìn)。
硅谷的互聯(lián)網(wǎng)行業(yè)已經(jīng)經(jīng)歷了兩年的大規(guī)模裁員。根據(jù)預(yù)測(cè)，2024 年有望成為 IT 行業(yè)復(fù)蘇的一年。Gartner 預(yù)測(cè)，2024 年全球 IT 支出將增長(zhǎng) 8%，超過(guò) 5.1 萬(wàn)億美元，但該行業(yè)的就業(yè)難似乎仍在繼續(xù)（另一方面AI人才卻被多家巨頭公司爭(zhēng)搶）。
去年，亞馬遜、思科、Facebook 母公司 Meta、微軟、谷歌、IBM、SAP 和 Salesforce 等科技巨頭以及許多小公司都宣布了大規(guī)模裁員。
在增速放緩的大背景下，國(guó)內(nèi)互聯(lián)網(wǎng)巨頭也并不好過(guò)。阿里和字節(jié)跳動(dòng)在內(nèi)的多家大廠，也宣布了不同規(guī)模的裁員和縮編。去年11月，阿里云曾經(jīng)“崩”上了微博熱搜，包括淘寶、閑魚、滴滴在內(nèi)的多款國(guó)民級(jí)應(yīng)用都經(jīng)歷了不同程度的癱瘓。而裁員，尤其是高級(jí)技術(shù)人員的流失，及隨之而來(lái)的管理問(wèn)題，被外界推測(cè)是當(dāng)時(shí)阿里云發(fā)生大規(guī)模故障的主要原因。
盲目裁員并不能通向企業(yè)管理所向往的組織精簡(jiǎn)和效率提高，反而帶來(lái)諸多問(wèn)題。bug也許是最快能修繕的，但用戶對(duì)平臺(tái)信任的喪失卻很難彌補(bǔ)。在看到AI提高生產(chǎn)力的巨大潛力的同時(shí)，企業(yè)管理者也必須保持清醒的頭腦，在平衡組織規(guī)模上做出更理性的判斷。
別讓AI的“降本增效”變成了“降本增笑”。
參考鏈接：
1.https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore
2.https://www.computerworld.com/article/1617283/tech-layoffs-in-2023-a-timeline.html
