[[267669]]

【51CTO.com快譯】人工智能(AI)和機(jī)器學(xué)習(xí)(ML)是這個(gè)時(shí)代最熱門的話題，科學(xué)家對(duì)此也有很大爭(zhēng)議，或許它們所帶來(lái)的好處怎么強(qiáng)調(diào)都不為過(guò)，我們也需要關(guān)注和理解AI和ML潛在的致命威脅。

誰(shuí)敢想象，有一天機(jī)器的智能會(huì)超過(guò)人類?——未來(lái)學(xué)家稱之為奇點(diǎn)。著名科學(xué)家——人工智能的先驅(qū)——艾倫·圖靈(Alan Turing)在1950年提出，機(jī)器可以像孩子那樣訓(xùn)練。

圖靈提出:“機(jī)器會(huì)思考嗎?”他在著名的論文《計(jì)算機(jī)器與智能》中探討了這個(gè)問(wèn)題和相關(guān)問(wèn)題的答案。

1955年，約翰·麥卡錫發(fā)明了一種叫做“人工智能”的編程語(yǔ)言LISP。幾年后，研究人員和科學(xué)家開始使用計(jì)算機(jī)編碼、識(shí)別圖像和翻譯語(yǔ)言等。早在1955年，人們就希望有一天能讓電腦說(shuō)話和思考。

偉大的研究人員，如機(jī)器人學(xué)家漢斯·莫拉維克(Hans Moravec )、科幻作家弗諾·文奇(Vernor Vinge)和雷·庫(kù)茲韋爾(Ray Kurzweil)，從更廣泛的意義上思考這個(gè)問(wèn)題，機(jī)器什么時(shí)候能夠獨(dú)自設(shè)計(jì)實(shí)現(xiàn)目標(biāo)的方法。

曾經(jīng)像史蒂芬·霍金這樣的偉人警告過(guò)，當(dāng)人們無(wú)法與先進(jìn)的人工智能競(jìng)爭(zhēng)時(shí)，這可能意味著人類的終結(jié)。“我想說(shuō)我們不應(yīng)該做的是，在不考慮潛在風(fēng)險(xiǎn)的情況下，就全力建設(shè)超級(jí)智能。”加州大學(xué)伯克利分校(University of California, Berkeley)計(jì)算機(jī)科學(xué)教授斯圖爾特·拉塞爾(Stuart J. Russell)說(shuō)。

以下是ML和AI的五個(gè)可能的危險(xiǎn)以及解決辦法：

1. 機(jī)器學(xué)習(xí)(ML)模型可能是有偏見的——本質(zhì)上受人類的影響。

盡管機(jī)器學(xué)習(xí)和人工智能很有前途，但它的模型也容易受到無(wú)意的偏見的影響。有些人認(rèn)為ML模型在決策時(shí)是公正的，但他們卻忘記了，是人類在訓(xùn)練這些機(jī)器——從本質(zhì)上講——我們并不***。

此外，在決策過(guò)程中，ML模型在處理數(shù)據(jù)時(shí)也可能存在偏差。你提供的本身不完整的數(shù)據(jù)(片面的數(shù)據(jù))，機(jī)器還會(huì)給出正確的結(jié)果嗎?

舉個(gè)例子，你經(jīng)營(yíng)一家批發(fā)商店，想建立一個(gè)模型來(lái)了解顧客。所以你建立了一個(gè)模型，希望評(píng)估顧客對(duì)商品的購(gòu)買力;您還希望在年底使用模型的結(jié)果來(lái)獎(jiǎng)勵(lì)客戶。

所以，你收集客戶購(gòu)買記錄——那些有著長(zhǎng)期良好信用記錄的客戶。

如果你最信任的一群買家碰巧在銀行負(fù)債，卻無(wú)法及時(shí)站穩(wěn)腳跟，他們的購(gòu)買力將大幅下降。但是，模型無(wú)法預(yù)測(cè)客戶的不可預(yù)見程度。從技術(shù)上講，如果您決定在年底輸出結(jié)果，那么得到的是有偏差的數(shù)據(jù)。

Note:當(dāng)涉及到機(jī)器學(xué)習(xí)時(shí)，數(shù)據(jù)是一個(gè)易受影響的因素，為了克服數(shù)據(jù)偏見，請(qǐng)雇傭?qū)＜襾?lái)處理這些數(shù)據(jù)。

還請(qǐng)注意，除了您之外，沒(méi)有人記錄客戶的這些數(shù)據(jù)——可以說(shuō)，您掌握著一定的話語(yǔ)權(quán)。

數(shù)據(jù)專家應(yīng)該質(zhì)疑數(shù)據(jù)積累過(guò)程中存在的任何問(wèn)題;他們也應(yīng)該積極尋找這些偏見如何在數(shù)據(jù)中表現(xiàn)出來(lái)的方法。這與您創(chuàng)建了什么類型的數(shù)據(jù)和記錄也有關(guān)系。

2. 固定模式。

在認(rèn)知技術(shù)中，這是開發(fā)模型時(shí)不可忽視的風(fēng)險(xiǎn)之一。不幸的是，大多數(shù)已開發(fā)的模型，特別是為投資策略設(shè)計(jì)的模型，都存在這種風(fēng)險(xiǎn)。

想象一下，你花幾個(gè)月的時(shí)間為投資開發(fā)出一個(gè)模型。經(jīng)過(guò)多次試驗(yàn)，仍然得到了一個(gè)“準(zhǔn)確的輸出”。但用“真實(shí)世界的輸入”來(lái)嘗試該模型時(shí)，它可能給你一個(gè)毫無(wú)價(jià)值的結(jié)果。

為什么會(huì)這樣?這是因?yàn)槟Ｐ腿狈勺冃浴＿@個(gè)模型是使用一組特定的數(shù)據(jù)構(gòu)建的。它只對(duì)設(shè)計(jì)時(shí)使用的數(shù)據(jù)有效。

因此，具有安全意識(shí)的AI和ML開發(fā)人員應(yīng)該在將來(lái)開發(fā)任何算法模型時(shí)學(xué)會(huì)管理這種風(fēng)險(xiǎn)。通過(guò)輸入他們能找到的所有形式的數(shù)據(jù)可變性，例如，演示數(shù)據(jù)集(當(dāng)然這并不是所有的數(shù)據(jù))。

3.對(duì)輸出錯(cuò)誤數(shù)據(jù)的解釋可能比較困難。

對(duì)輸出錯(cuò)誤數(shù)據(jù)的解釋是機(jī)器學(xué)習(xí)未來(lái)可能面臨的另一個(gè)風(fēng)險(xiǎn)。想象一下，在如此努力地工作以獲得良好的數(shù)據(jù)之后，你決定和另一個(gè)人分享成果——也許是你的老板。

同樣的數(shù)據(jù)結(jié)果，你老板的解釋或許與你自己的觀點(diǎn)都不一致。畢竟他的思維過(guò)程與你不同，因此他的見解也與你不同。

這種情況經(jīng)常發(fā)生。這就是為什么數(shù)據(jù)科學(xué)家不僅應(yīng)該在構(gòu)建模型時(shí)注意，而且還應(yīng)該在理解和正確解釋來(lái)自任何設(shè)計(jì)模型的輸出結(jié)果的“每一點(diǎn)”時(shí)注意。

在機(jī)器學(xué)習(xí)中，沒(méi)有錯(cuò)誤和假設(shè)的空間——它必須盡可能***。如果我們不考慮每一個(gè)角度和可能性，就有可能讓這項(xiàng)技術(shù)危害人類。

Note:對(duì)機(jī)器發(fā)布的任何信息的誤讀都可能給公司帶來(lái)厄運(yùn)。因此，數(shù)據(jù)科學(xué)家、研究人員以及任何相關(guān)人員都不應(yīng)該忽視這方面。他們開發(fā)機(jī)器學(xué)習(xí)模型的意圖應(yīng)該是積極的而不是相反。

4. AI和ML還沒(méi)有被科學(xué)的解釋。

從真正意義上說(shuō)，許多科學(xué)家仍在努力全面理解AI和ML到底是什么。盡管它們還沒(méi)在新興市場(chǎng)站穩(wěn)腳跟，但許多研究人員和數(shù)據(jù)科學(xué)家仍在努力了解更多信息。

許多人仍然感到害怕，因?yàn)樗麄兿嘈湃匀挥幸恍┪粗娘L(fēng)險(xiǎn)尚待了解。

即使是像谷歌、微軟這樣的大型科技公司仍然不***。

人工智能聊天機(jī)器人Tay Ai由微軟公司于2016年3月23日發(fā)布。它是通過(guò)twitter發(fā)布的，目的是與twitter用戶互動(dòng)——但不幸的是，它被認(rèn)為是種族主義者。它在24小時(shí)內(nèi)被關(guān)閉。

Facebook還發(fā)現(xiàn)，他們的聊天機(jī)器人偏離了最初的腳本，開始用自己創(chuàng)造的一種新語(yǔ)言交流。有趣的是，人類無(wú)法理解這種新創(chuàng)造的語(yǔ)言。很奇怪，對(duì)吧?

Note:為了解決“存在的威脅”，科學(xué)家和研究人員需要了解什么是AI和ML。此外，在正式向公眾發(fā)布之前，他們還必須測(cè)試、測(cè)試、再測(cè)試機(jī)器運(yùn)行模式的有效性。

5. 這就像一個(gè)控制欲極強(qiáng)的不朽獨(dú)裁者。

機(jī)器永遠(yuǎn)在運(yùn)行——這是另一個(gè)不可忽視的潛在危險(xiǎn)。AI和ML機(jī)器人不能像人類一樣死去，他們是不朽的。一旦他們被訓(xùn)練去做一些任務(wù)，他們就會(huì)夜以繼日，而且常常沒(méi)有監(jiān)督。

如果人工智能和機(jī)器學(xué)習(xí)特性沒(méi)有得到充分的管理或監(jiān)控，它們可能會(huì)發(fā)展成為一個(gè)獨(dú)立的殺手機(jī)器。當(dāng)然，這項(xiàng)技術(shù)可能對(duì)軍方有利——但如果機(jī)器人不能區(qū)分?jǐn)橙撕蜔o(wú)辜公民，無(wú)辜公民將會(huì)遭遇什么?

這種機(jī)器模型很容易操作。它們了解我們的恐懼、不喜歡和喜歡，并能利用這些數(shù)據(jù)來(lái)對(duì)付我們。注意：人工智能創(chuàng)造者必須準(zhǔn)備好承擔(dān)全部責(zé)任，確保在設(shè)計(jì)任何算法模型時(shí)考慮到這一風(fēng)險(xiǎn)。

結(jié)論

機(jī)器學(xué)習(xí)無(wú)疑是世界上***技術(shù)價(jià)值的能力之一，具有現(xiàn)實(shí)世界的商業(yè)價(jià)值——尤其是與大數(shù)據(jù)技術(shù)合并時(shí)。

正因?yàn)槿绱耍覀儾粦?yīng)該忽視這樣事實(shí):它需要仔細(xì)的計(jì)劃來(lái)適當(dāng)?shù)乇苊馍鲜鰸撛诘耐{：數(shù)據(jù)偏差、固定的模型、錯(cuò)誤輸出的解釋、不確定性和極強(qiáng)的控制欲。

原文標(biāo)題：The Potential “Holy Shit” Threats Surrounding AI and ML，作者：Ejiofor Francis

【51CTO譯稿，合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文譯者和出處為51CTO.com】