【51CTO.com快譯】盡管今天提到的大多數事故與AI本身并無直接聯系，但卻或多或少有AI因素涉及其中。隨著AI技術的不斷改進，我們必須對代表著我們判斷方式的算法擁有充分的信心，因為在未來的實際應用中，算法有可能需要對復雜變量進行決策，甚至決定著人類生命財產能否安全無憂。

下面，我們共同關注史上曾經出現的幾個AI失敗案例。

[[198368]]

Tay——微軟的聊天機器人

過去一年中，公認的一大AI失敗案例正是微軟Tay：

“微軟技術研究部與必應團隊共同開發的聊天機器人，旨在實驗對話交流內容的理解能力。Tay通過輕松愉快的對話與人類用戶進行接觸。Tay進行過的聊天越多，其智能程度就越高，并可為您帶來更具個性化的使用體驗。”

Tay屬于我們在自然語言理解(簡稱NLU)領域的一次嘗試。其學習算法負責閱讀、解釋并適應用戶提供的書面內容。其目標在于以個性化方式實現人機交互，這也正是眾多技術巨頭希望實現的關鍵性戰略提升。與電影《她》中的假想類似，微軟希望讓Tay擁有與人相近的交流能力。在技術領域，商業成功通常經由三種方式實現：收購、參與與轉換。可以看到，微軟的思路是提供完整的個性化體驗，確保其能夠通過嚴格的圖靈測試，并重新定義我們的參與途徑。

但是，當Tay開始和人類聊天后，不到24小時，她就被“教壞”了，成為一個集反猶太人、性別歧視、種族歧視于一身的“不良少女”。

Alexa錯將色情內容提供給兒童

通過相關視頻可以看到，兒童用戶要求Alexa“玩‘挖金子’”，但Alexa的回應卻是“您希望收聽色情內容……熱辣的小妞與素人美女……”(注：挖金子游戲一詞與女性賣春者相同。)雖然有人認為問題不在AI身上，而是語音命令出了問題。這種說法有一定道理，但可以肯定的是，Alexa本身應當擁有通過機器學習區分語境的能力。

Inspirobot提供荒謬的建議

InspiroBot的設計初衷在于提供用戶感興趣的每日格言。然而頗為諷刺的是，其往往無法帶來能夠讓我們的一天充滿活力的正能量言論——甚至有可能以黑色幽默的方式令人陷入低落。

為何失敗?

答案可以歸納為三個方面——準確度、情景與訓練。

準確度

AI技術幾乎能夠在一切行業當中帶來實效。然而與反欺詐或者其它一些目標更為明確的場景相比，Tay的失敗主要源自其準確度的缺失。除了語法正確的交互能力之外，聊天機器人需要提供明確定義參數之外的其它回應。由于實際用戶所提供的回應同Tay在實驗中所接觸過的詞匯及語法有所區別，因此很難提供一致且準確的交互結果。

情景

對于這里提到的三個AI案例乃至其它各類AI方案，情景認知仍是一大嚴峻挑戰。具體來說，如果大家與Tay聊天、向Alexa咨詢意見或者從InspiroBot處尋求激勵，那么用戶的時間、地點、情感、天氣、身份、職位等因素都會影響到您對于所提供結果的解讀與評價。

Tay顯然未能充分理解會話中的情景，因為它的訓練與交互未能考慮到多種多樣的情景因素。雖然能夠識別詞匯并在一定程度上建立一致性響應，但卻無法理解在特定背景下的含義與重要度。

同樣的，InspiroBot同樣遭遇失敗。盡管其努力提供豐富且具有通用性的建議，但卻缺乏對相關內容的理解、意義的把握以及潛在解釋的認知。

訓練

大家可能都聽說過，“進來的是垃圾，出去的也只能是垃圾”。Tay并非在內部受控環境下進行訓練，而是被發布至世界范圍，通過與公眾交互進行學習。然而在24小時之內，技術精湛的社區(特別是4chan與8chan)明顯認為向學習算法提供有問題的內容更加有趣。不用說，他們成功毀掉了Tay這位AI領域的未成年人。

在Alexa方面，情況則有所不同。通過語音命令觸發適當響應，并通過訓練以了解詞匯、語法、音調、語調、節奏、重音以及發音方式的意義。然而，這種將過多因素考慮進來的作法本身令錯誤邊界快速擴大，并最終導致失敗。通過進一步訓練，Alexa應該能夠學會如何識別兒童的聲音，并在必要時提示進行家長控制。

另外，InspiroBot則可嘗試使用較少的單詞、句型模板以及經過驗證的積極詞匯，從而更輕松地提供真正具有激勵效果的表達。然而，這種作法本身與AI設計目標有所沖突——大量參數過濾機制的存在并不利于機器學習的發展。

擁抱失敗

失敗是成功之母，而我們也應當以寬容的心態接受上述AI失敗案例。事實上，對于真正相信并期待著AI技術獲得成功的朋友，大家應當分享、討論、分析并嘗試解決這些失敗難題。您對于哪些現有AI方案感到失望?不妨在評論中聊上一聊。

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】