人工智能會意識到自己犯錯嗎？
1956年8月，10位科學家齊聚美國的達特茅斯學院，探討如何用機器去模擬感知、推理、決策等人類智能，這被認為是人工智能的誕生標志性事件。
六十年過去了，人工智能飛速發展，已深入我們的日常生活。
某些外賣平臺的智能算法不斷優化，能從11萬條路線中找出最優的配送方案，將過去1小時的配送時間變成45分鐘，又壓縮成38分鐘，充分挖掘外賣小哥的潛力，才有了我們越來越快的外賣。
某些公司有了OA算法管理系統的加持，才能實時監控員工的工作狀態，員工的心率、呼吸、坐姿、疲勞度等數據實時上傳，連上廁所的時間都可以精確到秒，充分挖掘打工人的潛力，才有了公司的完美財報。
某些辦公APP，在員工眼中，操作方便，各種需要的功能齊全，卻為老板開了“上帝之眼”，各種報表分析、排行榜、工時計算、行進路線一覽無余，才有了我們保質保量完成的“本分”和“福報”。
……
為什么技術越先進，我們的生活反而越不自由?
人工智能究竟是要將我們從繁瑣的工作中解放出來，還是要站在我們的對立面壓迫我們?
在《AI會取代我們嗎?》一書中，科學記者、神經科學家范雪莉梳理了過去60年人工智能的爆炸式發展和未來的發展前景，描繪了人工智能目前的局限和存在的道德倫理問題，使我們對人類與人工智能的關系有了更清醒的認知。
范雪莉接受了中信大方及造就聯合發起的提問，回答了一些讀者提出的問題：
- 過去20中，AI領域發生的哪件事使你印象最深刻或最驚訝?
- AI對我們的日常生活有哪些影響?
- 你對AI的未來有什么擔憂或期待嗎?
- AI和人類智能最根本的區別是什么?
- 你認為發展AI是一場技術政治競賽嗎?
以下內容節選自《AI會取代我們嗎?》，由出版社授權發布。
不完善的算法會帶來可怕的結果，在2016年，一輛半自動特斯拉汽車引發了一起致命的交通事故，這就是一個實例。
事發時，處在自領航(Auto-pilot)模式中的汽車錯誤地將一輛白色牽引掛車判斷為從背光角度看到的明亮天空的一部分，從而導致與拖車底部相撞。
2018年3月，一輛優步機器人汽車在亞利桑那州的坦佩市撞死了一名行人。事后調查發現，人工智能其實已經探測到了這名女子，但算法錯誤地判斷她不在車輛的前進路線上。
不久之后，一輛處于自動駕駛模式中的慧摩汽車受到了一輛人類駕駛的汽車的撞擊，該事件也給研究者們出了一個難題：如何改良人工智能駕駛員的程序，才能讓它們更好地同人類駕駛員平安無事地共享道路。
幾個月后，一輛特斯拉S型(Model S)箱式轎車撞上了一堵混凝土墻，導致兩名乘客死亡。
不過，盡管發生了這些悲慘的事故，但自動駕駛汽車安全性的整體統計數據還是讓人眼前一亮。
例如，慧摩的汽車雖然卷入了大約30起輕微撞車事故中，但只有一起事件是由慧摩車一方引起的。
2016年，一輛慧摩車在自動駕駛模式下變道進入了一輛公共汽車的車道，使汽車遭到了輕微的損傷。但在該事件中并沒有任何人受傷。
英特爾在2017年發布的一項研究預測稱，自動駕駛汽車的投放可以在短短十年內挽救超過50萬人的生命。
盡管如此，公眾對人工智能汽車的信任度仍然處在歷史最低水平。
皮尤研究中心(Pew Research Center)在2017年展開的一項調查顯示，超過一半的受訪公眾對乘坐自動駕駛汽車不放心，而他們反對的理由正是對安全性的擔憂和掌控感的缺失。
美國汽車協會在2018年3月優步車致死事故發生后進行的一項調查顯示，有73%的美國人表示自己害怕乘坐自動駕駛汽車，這一數字比2017年底增加10%。
這些擔憂有一部分來自人們對機器學習和人工智能背后的機制缺乏了解。
對于公眾而言，人工智能就像是一種神秘的煉金術：某些算法在某些時候會產生正確的答案，但是當它們失敗時——比如，當Siri對一個提問給出了荒唐的答案時——消費者無法理解其成因是什么。
同樣，當網飛給用戶興趣建立的檔案錯得離譜時，或者當自動駕駛汽車停靠在了自行車道上時，用戶無法追問這類技術到底是在哪里出了問題。
更為嚴肅的是那些生死攸關的事項，例如對人工智能武器的使用。美國軍方正在考慮在軍事任務中應用機器學習技術，以幫助情報分析人員對大量監視數據進行模式識別，或者操控自主無人機。
在這些應用中，出錯卻無法解釋自身錯誤的算法會帶來災難性的后果。
這種缺乏信任的情況也延伸到了醫學界。盡管有放射醫學人工智能研發者的鄭重承諾，但醫療護理從業人員對完全接受人工智能診斷技術仍然持保留態度。
有一種反對意見是，雖然人工智能技術確實振奮人心，但是大多數人工智能工具并沒有經過受到足夠數量的獨立研究組的測試。
因此它們的一些關鍵細節并沒有得到驗證，也就是說，它們無法被證明可以應用于所有、任何患者樣本。
不過，同Siri、自動駕駛汽車和自主武器面臨的問題一樣，一個更強有力的反駁意見是：
在今天，無論是對還是錯，人工智能系統都無法解釋它們的決定，甚至它們的開發者也對促成系統決定的緣由一頭霧水。
這一問題十分嚴重，以至于人工智能算法常常被人們描述為“黑箱系統”。
因此，不可理解性是人工智能算法的一個主要局限，也是阻礙人工智能系統得到公眾信任一個重要因素。
機器學習的不透明性在一定程度上是由算法的訓練方式造成的。今天我們所使用的大多數人工智能應用都依賴于深度學習，這種人工神經網絡的結構與人腦大致相似。
每個這樣的神經網絡的出發點都是大量的數據，比如數百萬張狗的照片。
當數據通過神經網絡的復數計算層時，各層會逐步提取出越來越多的抽象特征，使正確的結果能在最終輸出層產生出來，如對吉娃娃和迷你杜賓犬做出區別。
但是，由于此過程是在神經網絡內部進行的，因此研究人員并不一定能對每個抽象特征做出解釋，也不一定能理解網絡是如何決定提取特定特征的集合的。
毫無疑問，機器學習具有在各行各業改天換日的巨大能量，它既可以拓展人類的能力，也可以在一些任務中取代人類。
但是，在研究人員找到讓算法變得更易理解，繼而變得更加有能力為自己負責的方法之前，我們不應該讓這種情況發生。
令人欣慰的是，最近的研究表明，我們并非對機器學習的黑箱特征束手無策。實際上，已經有研究人員在著手研發能夠探查機器學習大腦內部情況的新工具了，這是一個名為人工智能神經科學的研究分支。
其中一種構思是：微妙地改變算法的輸入，并觀察是否有影響，以及哪些變化會影響輸出，我們就能獲得解釋。
例如，一種被稱為“局部可解釋模型–不可知論解釋”(Local Interpretable Model–Agnostic Explanation = LIME萊姆)的工具就能通過巧妙改變原始輸入來尋找影響人工智能判斷的關鍵因素。
為了了解影響負責電影評分的人工智能的因素，萊姆會細致地刪除或更換在一篇影評的原始文本中導致正面評價的單詞。然后，系統會觀察電影評分可能出現的變化。
反復進行這個過程，萊姆就能梳理出一些結論，比如，“漫威”這個詞幾乎總是與高評分正相關的。
上述路徑的另一個分支是由谷歌開發的，它以一個空白的參照項(比如純黑的圖片)作為開始，然后逐步將其轉換為輸入圖像。
在每一步轉化的過程中，研究人員可以觀察人工智能生成的圖像結果，并推斷哪些特征對它的決定很重要。
另一種構思依賴于一種本質上扮演了機器—人類翻譯器角色的算法。具體來說，該算法可以向人類觀測者解釋特定的人工智能正在嘗試進行怎樣的活動。
OpenAI公司使用該策略來檢查用于防御黑客的人工智能算法。這種方法在基礎算法之外引入了一個處理自然語言算法，它就是翻譯器。
翻譯器被用于對防黑客算法提問，考察后者的智慧。研究人員可以觀察問答部分，并且在翻譯器的幫助下了解在防黑客算法的決策背后所隱藏的邏輯。
當然，有一些人工智能的決策根本無法得到完整的解釋，這也是完全有可能的。畢竟，人類的種種決定通常都包含有直覺因素，受到本能和經驗的指引。
而對于研究者們來說，他們所面臨的問題是在何種程度上，能夠讓他們的發明去合理地解釋自身。
還有一個更為隱蔽的后果，需要我們萬分警惕：人工智能算法可能會根據種族、性別或意識形態隱約但系統性地對某些人群給予區別對待。
谷歌的第一代自動相片標簽系統曾將非裔人誤認為大猩猩，激起了人們的憤怒，就是一個廣為人知的負面案例。
普洛帕布利卡(ProPublica)在2016年對一款用于預測罪犯重新犯罪概率的風險評估軟件——孔帕斯(COMPAS)進行了調查，結果顯示，雖然該軟件并沒有專門針對種族做出明確設計，但是它依然對黑人抱有偏見。
2017年的一項研究表明，算法在單詞聯想中也會表現出偏見：男性更可能與工作、數學和科學聯想到一起，而女性則會同家庭和藝術聯想在一起。這些偏見會對就業招聘產生直接影響。
例如，如果一款人工智能程序認為“男性”與“程序員”兩個詞有固有的聯系，那么，當它在為一個計算機編程職位檢索簡歷的時候，就很可能會將有著一個聽起來像男性的名字的簡歷排到面試表的頂部。
算法在單詞聯想中也會表現出偏見圖源：繪本I'm glad I'm a boy! I'm glad I'm a girl!
偏見也同樣為翻譯軟件帶來了麻煩。例如，在谷歌翻譯將其他語言中的一個中性代詞翻譯為英語的時候，如果這個代詞在語境中指的是一位醫生，它就會將這個詞翻譯為男性的“他”(he);
而如果這個代詞在語境中指的是一位護士，它就會將其翻譯為女性的“她”(she)。
另外，語音識別軟件在處理女性聲音和方言時效果要差得多，這就使得那些使用非標準發音方式的社會重要成員受到了排斥。
另外一些算法可能已經以一種不易察覺的方式扭曲了人們接受醫療或保險的類型，改變了他們在刑事司法系統中的待遇，或者對哪些家庭更有可能虐待兒童做出不恰當的預測。
偏見和不公正侵蝕了人類與人工智能系統之間的信任，它并不能像人們一開始預測的那樣成為一個對社會貢獻巨大的均衡器——在從中立的角度做出影響生活的決定這件事上，人工智能可能并不比人類做得更好。
果真如此，那么社會為什么認為機器可以成為銀行從業者、招聘人員、警察或法官“更公正”的替代品呢?
……
2017年，由來自學界、民間組織和產業界的二十多位作者共同發表了一份報告，論述了隨著人工智能技術愈發強大和普及，它可能會以哪些方式變成邪惡的幫兇。該報告列舉了一系列可怕的例子：
一輛被盜用的自動駕駛汽車可能會被操縱，撞到人群之中，或者被劫持用來運送爆炸物。感染了惡意軟件的大腦芯片或心臟起搏器可能被用于遠程暗殺，犯罪分子也可以用面部或語音模擬技術進行精準定位網絡詐騙。
該報告呼吁，人工智能研究人員應在其科技產品中設置安全保障，并更為公開地討論潛在的安全、安保問題。
令人驚訝的是，該報告甚至建議研究人員應該在他們為產品公開發布的內容中隱瞞某些想法或應用方式。
如今，大多數研究人員抱有一種公開透明的態度，他們會在博客文章中發布他們的作品，并將代碼開源。
該領域的許多人認為，對于可能出現的有問題的人工智能應用，更好的策略是揭示它們，并在它們發生前就給出警告，防患于未然，而不是讓它們不為人知地被開發出來。
事實上，在谷歌為其語音模仿程序杜普雷克斯辯護時，也用了同樣的論據：通過發布具有潛在破壞性的人工智能程序，公司就能收到公眾關于如何最好地對這種技術加以規范的反饋。
在某些人看來，人工智能從業者中的這種開放氛圍似乎有些天真，但它其實在一定程度上是由該領域的歷史造成的。
在過去，人工智能所經歷的幾度沉浮讓人們覺得人工智能的應用和改變社會的能力被高估了。
對人工智能發展水平持懷疑態度的人相信，有關人工智能道德或倫理的擔憂根本沒有意義，因為這種技術可能永遠不會完全成熟。
這些反對者的意見并非空穴來風：盡管最近在自動化領域發生了一次革新，但作為當前人工智能熱的主要推手，機器學習算法嚴重的局限性也已經逐漸顯露了出來。
如果這些問題沒有得到及時解決，導致投資者的期待無法得到滿足，那么人工智能的另一個冬天可能就離我們不遠了。
