防止機(jī)器人威脅人類的6大策略

由威爾·史密斯主演的美國(guó)影片《機(jī)械公敵》，其中描述了芝加哥警察對(duì)付學(xué)會(huì)了獨(dú)立思考并且脫離了人類控制的機(jī)器人的故事。當(dāng)然，影片中人類最終戰(zhàn)勝了機(jī)器人，但科學(xué)家們警告說(shuō)，這樣的威脅目前正在不斷迫近，人類應(yīng)該提早考慮應(yīng)對(duì)之策。

[[230813]]

科學(xué)家們描述了這樣一個(gè)“人工智能的世界”：可能在20年或30年后，人工智能機(jī)器人就可以和人類做朋友了，但50年后，人工智能將成為人類最大的威脅。

[[230814]]

世界最終會(huì)因人工智能超過(guò)人類而爆發(fā)一場(chǎng)戰(zhàn)爭(zhēng)，這場(chǎng)智能戰(zhàn)爭(zhēng)也許會(huì)奪去數(shù)十億人的生命。科學(xué)家們認(rèn)為，人工智能遲早會(huì)超過(guò)人類。人腦的運(yùn)算能力是10的16次方／秒，而人工智能機(jī)器的運(yùn)算速度高達(dá)10的40次方／秒，是人腦水平的10的24次方倍，那時(shí)候他們對(duì)待人類可能就像拍死一個(gè)蚊子這么簡(jiǎn)單。但人工大腦并不會(huì)立即控制人類，此前還會(huì)有一段與人類“和平相處”的時(shí)期。這一時(shí)期它不斷接近但尚未超越人的智力水平，因此“聊天機(jī)器人”、“家務(wù)機(jī)器人”、“伴侶機(jī)器人”將使人類的生活充滿樂(lè)趣。但這樣的美景并不會(huì)長(zhǎng)久，人工智能的繼續(xù)發(fā)展將使人類面臨災(zāi)難。

科學(xué)家們表示，在災(zāi)難來(lái)臨前，人類將會(huì)分為三派：宇宙主義者(主張發(fā)展人工智能的人)、地球主義者(反對(duì)發(fā)展人工智能的人)和人工智能控制論者(將自己改造成機(jī)器人的人)。

[[230815]]

也許在人工智能對(duì)付人類之前，這三類人會(huì)先展開(kāi)人類內(nèi)部的斗爭(zhēng)。 考慮到上述這些可能發(fā)生的威脅，科學(xué)家提出了6種有望避免悲劇發(fā)生的應(yīng)對(duì)之策。

1、將它們存放在低危環(huán)境中

[[230816]]

要確保所有的計(jì)算機(jī)和機(jī)器人永遠(yuǎn)不會(huì)做出可能導(dǎo)致事先無(wú)法預(yù)測(cè)的后果的決定。

成功的可能性：極低。工程師們現(xiàn)在已經(jīng)建成了計(jì)算機(jī)和機(jī)器人系統(tǒng)，但它們的行為好象并不總是可以預(yù)測(cè)。消費(fèi)者、工業(yè)界以及政府部門(mén)需要那種能夠執(zhí)行各種任務(wù)的技術(shù)，而為了滿足這種需求，企業(yè)也將會(huì)不斷提高產(chǎn)品的數(shù)量和性能。為了實(shí)現(xiàn)這一戰(zhàn)略，就必須立即深入發(fā)展計(jì)算機(jī)和機(jī)器人技術(shù)。

2、不要給它們武器

[[230817]]

成功的可能性：為時(shí)已晚。現(xiàn)在已經(jīng)出現(xiàn)了半自動(dòng)機(jī)器人武器系統(tǒng)，如巡航導(dǎo)彈、無(wú)人駕駛飛機(jī)等。一些持槍機(jī)器人也已經(jīng)被派往伊拉克境內(nèi)負(fù)責(zé)戰(zhàn)場(chǎng)攝影，但很明顯它們實(shí)際上并未真正部署。

但是，軍事決策者們卻好象對(duì)機(jī)器人士兵的研發(fā)非常感興趣，并將其看作是未來(lái)戰(zhàn)爭(zhēng)中降低人員傷亡的一種重要手段。如果想要停止自動(dòng)化武器的建設(shè)，現(xiàn)在好象為時(shí)已晚，但是如果想要對(duì)機(jī)器人所攜帶的武器或是對(duì)它們可以使用武器的前提條件進(jìn)行限制，好象還并不太晚。

3、為他們制定行為準(zhǔn)則

[[230818]]

成功的可能性；中等。科幻小說(shuō)家艾薩克·阿西莫夫的著名規(guī)則就是分等級(jí)排序的：最重要的是，機(jī)器不應(yīng)該傷害人類或?qū)λ鼈兊膫o(wú)動(dòng)于衷；其次，就是機(jī)器人應(yīng)該服從于人類；而機(jī)器人的自我保護(hù)則屬于最低等次的優(yōu)先級(jí)。

然而，阿西莫夫只是小說(shuō)家，并不會(huì)真去研制機(jī)器人。在他的小說(shuō)故事里，他列舉了可能會(huì)僅僅因?yàn)檫@些簡(jiǎn)單的規(guī)則而產(chǎn)生的一系列問(wèn)題，比如，當(dāng)同時(shí)收到由兩個(gè)人發(fā)出的相互沖突的兩道命令時(shí)，機(jī)器人該如何執(zhí)行?

阿西莫夫的規(guī)則使得機(jī)器人難以判斷。例如，機(jī)器人如何理解一名正在對(duì)患者進(jìn)行切割手術(shù)的外科醫(yī)生其實(shí)是在幫助患者呢?實(shí)際上，阿西莫夫的機(jī)器人故事已經(jīng)非常清楚地說(shuō)明了基于規(guī)則上的道德限制。然而，規(guī)則可以成功地對(duì)機(jī)器人的行為進(jìn)行限制，但同時(shí)也將其功能局限于一個(gè)有限的空間內(nèi)。

4、為機(jī)器人編制特定程序

[[230819]]

研制機(jī)器人的目的應(yīng)該是“為最廣泛的人群創(chuàng)造最大的利益”，或是“對(duì)待他人就像你希望被對(duì)方對(duì)待的程度一樣”。因此，機(jī)器人的研制應(yīng)該從更為安全的角度考慮，而不是放棄一些簡(jiǎn)單化的規(guī)則。

成功的可能性：中等。由于這些規(guī)則的局限性，一些倫理學(xué)家在試圖尋找一條可以壓倒一切的原則，用于評(píng)估機(jī)器人的所有行為。

但是，對(duì)于一些剛剛提出的簡(jiǎn)單原則，其道德價(jià)值和局限性就會(huì)成為人們長(zhǎng)期爭(zhēng)論的話題。例如，犧牲一個(gè)人的生命來(lái)挽救五個(gè)人的生命，這看起來(lái)好象是合乎邏輯的。但是醫(yī)生卻不會(huì)因?yàn)檫@個(gè)邏輯，而去犧牲一個(gè)健康人，僅僅是為了為五個(gè)病人提供他們所需要的器官。那名機(jī)器人又如何看待這條邏輯呢?有時(shí)，在給定的規(guī)則下確定最佳選擇是極其困難的。例如，判斷到底哪一種行為可能會(huì)產(chǎn)生最大的利益，這可能需要大量的知識(shí)以及對(duì)世界上各種行為的影響的理解。當(dāng)然，做出這種思考也需要大量的時(shí)間和計(jì)算能力。

5、像教育孩子一樣教育它們

[[230820]]

在“成長(zhǎng)”過(guò)程中，機(jī)器人也應(yīng)該不斷學(xué)習(xí)人類對(duì)各種行為的是非判斷，以提高它們對(duì)各種行為的敏感性。

成功的可能性：有希望。雖然這一戰(zhàn)略的實(shí)施還需要一些技術(shù)方面的重大突破，但科學(xué)家們已經(jīng)研制出能夠像人類一樣學(xué)習(xí)的機(jī)器人。當(dāng)然，目前的工具還非常有限。

6、讓機(jī)器人擁有感情

[[230821]]

像人類的一些功能，如同情、感情以及對(duì)非語(yǔ)言社會(huì)暗示的理解能力，都可以讓機(jī)器人擁有更強(qiáng)的與人類互動(dòng)能力。科學(xué)家們已開(kāi)始著手為家用機(jī)器人添加這些類人類功能。

成功的可能性；研發(fā)感情豐富的機(jī)器人必將是有助于實(shí)現(xiàn)上面三條剛剛討論過(guò)的問(wèn)題的解決方案。人類在做出決策時(shí)以及在與他人合作的過(guò)程中對(duì)對(duì)方觀點(diǎn)、手勢(shì)或意圖的理解能力，依賴的主要信息來(lái)源于我們的情感。