首席信息官應(yīng)了解一些個(gè)不道德人工智能的例子，并了解其在確保企業(yè)人工智能保持中立方面的作用。

[[275528]]

如今，人工智能技術(shù)的采用正在迅速加快。調(diào)研機(jī)構(gòu)Gartner公司預(yù)測，到2020年，人工智能將成為30%以上的首席信息官的五大投資重點(diǎn)。麥肯錫公司的一項(xiàng)研究估計(jì)，全球科技公司在人工智能技術(shù)方面花費(fèi)了200億至300億美元，主要用于研發(fā)。

雖然人工智能技術(shù)的社會(huì)效用令人信服，但正如英國衛(wèi)報(bào)對(duì)“不平等項(xiàng)目”所提出的那樣，也存在著一些合理的擔(dān)憂，“當(dāng)我們提供給機(jī)器的數(shù)據(jù)反映出我們自己不平等社會(huì)的歷史時(shí)，我們實(shí)際上是在要求程序?qū)W習(xí)我們自己的偏見。”

不幸的是，人工智能的不良、偏見或不道德使用的例子很常見。以及關(guān)于企業(yè)如何保持中立的建議。

1.抵押貸款

貸款歧視的模式已從人類偏見轉(zhuǎn)向算法偏見。哈斯商學(xué)院金融學(xué)教授Adair Morse共同撰寫的一項(xiàng)研究得出結(jié)論：“即使編寫算法的人打算創(chuàng)建一個(gè)公平的系統(tǒng)，他們的程序?qū)ι贁?shù)借款人也有不同的影響——換句話說，在法律下是歧視性的。”

人們可能會(huì)認(rèn)為，銀行和房地產(chǎn)經(jīng)紀(jì)人將非白人借款人系統(tǒng)地隔離到不太有利的社區(qū)，這已成為過去。但令人驚訝的是，抵押貸款行業(yè)的自動(dòng)化只使得在用戶界面后面隱藏紅線變得更加容易。計(jì)算機(jī)安全專家BruceSchneier在其最近出版的“DataandGoliath”一書中敘述了2000年富國銀行如何利用“社區(qū)計(jì)算器”創(chuàng)建了一個(gè)促進(jìn)抵押貸款的網(wǎng)站，幫助買家找到合適的社區(qū)。計(jì)算器收集用戶當(dāng)前的郵政編碼，根據(jù)當(dāng)前社區(qū)的人口統(tǒng)計(jì)數(shù)據(jù)了解他們的種族，并且只推薦具有相似人口統(tǒng)計(jì)數(shù)據(jù)的社區(qū)。今年早些時(shí)候，美國住房和城市發(fā)展部就住房和抵押貸款廣告中的種族偏見起訴了Facebook公司。

2.人力資源

到目前為止，當(dāng)路透社報(bào)道亞馬遜公司的新招聘引擎排除女性時(shí)，臭名昭著的招聘偏見問題引起了公眾的注意。

據(jù)路透社報(bào)道，亞馬遜公司在2014年組建了一個(gè)團(tuán)隊(duì)，該團(tuán)隊(duì)使用500多種算法自動(dòng)化工程師和編碼人員的簡歷審核流程。該團(tuán)隊(duì)使用亞馬遜公司軟件團(tuán)隊(duì)成員的簡歷對(duì)系統(tǒng)進(jìn)行了培訓(xùn)，而這些團(tuán)隊(duì)成員絕大多數(shù)是男性。因此，該系統(tǒng)學(xué)會(huì)了取消任何上過女子學(xué)院或在簡歷中列出女子組織人員的資格。

越來越多的企業(yè)正在人力資源流程的各個(gè)層面采用算法決策系統(tǒng)。截至2016年，72%的求職者簡歷不是由工作人員篩查的，而是完全由計(jì)算機(jī)篩選。這意味著求職者和員工與人打交道的頻率會(huì)降低——像亞馬遜公司這樣的故事可能會(huì)變得更加普遍。

然而，一好消息是一些公司正在努力消除潛在的偏見。ABBYY公司創(chuàng)始人David Yang共同創(chuàng)立了Yva.ai，這是一個(gè)專門設(shè)計(jì)的分析平臺(tái)，通過避免使用任何可能導(dǎo)致偏見的指標(biāo)(例如性別、年齡、種族)來避免算法偏差，即使這些指標(biāo)是次要的(如參與婦女的活動(dòng)或體育活動(dòng))，中學(xué)(如姓名或畢業(yè)日期)，甚至是大學(xué)(如參加精英學(xué)院，這已被越來越多地稱為對(duì)少數(shù)群體的偏見的指示)。

在另一個(gè)例子中，現(xiàn)在由微軟公司所有的LinkedIn已經(jīng)部署了系統(tǒng)來收集和利用LinkedIn檔案中的性別信息，而不是忽略這些信息。LinkedIn然后使用這些信息對(duì)任何潛在的偏差進(jìn)行分類和糾正。

3.搜索領(lǐng)域

即使是基本的互聯(lián)網(wǎng)搜索也會(huì)受到偏見的影響。例如，加州大學(xué)洛杉磯分校教授薩Safiya Umoja Noble在谷歌搜索“黑人女性”后，受到啟發(fā)寫了一本名為《壓抑的算法》的菱，尋找與侄女分享的有趣網(wǎng)站，結(jié)果發(fā)現(xiàn)網(wǎng)站頁面上充斥著不良內(nèi)容。同時(shí)，搜索“首席執(zhí)行官”時(shí)卻顯示了大量的白人形象。(幸運(yùn)的是，首席執(zhí)行官的問題在搜索引擎上正在得到解決。)

谷歌搜索的其他功能(例如AdWords)也存在偏見。來自卡內(nèi)基梅隆大學(xué)和國際計(jì)算機(jī)科學(xué)研究所的研究人員發(fā)現(xiàn)，男性求職者比女性更容易看到高薪高管職位的廣告。在翻譯某些語言時(shí)，谷歌翻譯也被稱為性別歧視，例如假定護(hù)士是女人，醫(yī)生是男人。

4.引導(dǎo)行業(yè)

倫敦圣喬治醫(yī)院醫(yī)學(xué)院的招生主任創(chuàng)建了一個(gè)1979年的項(xiàng)目，該項(xiàng)目很可能是最早報(bào)告的受污染系統(tǒng)的案例，但最終意外地排除了幾乎所有少數(shù)族裔和女性申請(qǐng)人。到1986年，學(xué)校的工作人員開始關(guān)注潛在的歧視，最終發(fā)現(xiàn)每年至少有60名少數(shù)民族和女性申請(qǐng)人被不公平地排除在外。

人們可能想知道為什么花了這么長時(shí)間才發(fā)出警報(bào)，考慮到根據(jù)報(bào)道，只要一個(gè)非歐洲名字可以自動(dòng)降低申請(qǐng)人的分?jǐn)?shù)15分。著名的英國醫(yī)學(xué)雜志直截了當(dāng)?shù)貙⑦@種偏見稱為“職業(yè)上的污點(diǎn)”，最終，該校受到了輕微的處罰，并提供了賠償，包括錄取一些被排除在外的申請(qǐng)人。

首席信息官的角色

行業(yè)領(lǐng)先的科技公司正在努力解決數(shù)據(jù)的道德使用問題。例如，微軟公司已經(jīng)制定了一套六項(xiàng)道德原則，涵蓋公平、可靠、安全、隱私和安全、包容性、透明度、責(zé)任。與此同時(shí)，F(xiàn)acebook公司最近向慕尼黑技術(shù)大學(xué)撥款750萬美元，建立一個(gè)人工智能道德研究所。其他科技公司已經(jīng)認(rèn)同了人工智能聯(lián)盟的伙伴關(guān)系及其“匯集全球各種聲音以實(shí)現(xiàn)人工智能的承諾”的原則。

如果人工智能應(yīng)用程序沒有偏見，企業(yè)必須支持人工智能技術(shù)的整體方法。人工智能只和它背后的數(shù)據(jù)一樣好，所以這些數(shù)據(jù)必須是公平的，并且代表所有人和文化。

此外，必須根據(jù)國際法制定技術(shù)原則。今年的G20峰會(huì)財(cái)長首次認(rèn)同負(fù)責(zé)人工智能使用的原則。這包括以人為本的人工智能方法，該方法呼吁各國以尊重人權(quán)并分享其所提供的利益的方式使用人工智能。

在最簡單的層面上，首席信息官需要質(zhì)疑他們正在構(gòu)建的人工智能應(yīng)用是否道德、安全和正確。問題可能包括：

1.人工智能技術(shù)背后的數(shù)據(jù)是否良好，或者是否存在算法偏差?

2.是否積極審查人工智能算法，以確保它們經(jīng)過適當(dāng)調(diào)整和培訓(xùn)，能夠根據(jù)預(yù)先定義的測試集生成預(yù)期結(jié)果?

3.在人工智能技術(shù)如何影響組織內(nèi)部以及客戶和合作伙伴利益相關(guān)者外部方面，是否堅(jiān)持透明原則(如GDPR)?

4.是否設(shè)立了專門的人工智能治理和咨詢委員會(huì)，包括跨職能領(lǐng)導(dǎo)和外部顧問，以建立和監(jiān)督人工智能解決方案的治理?

歸根結(jié)底，人工智能的倫理應(yīng)用應(yīng)被視為一項(xiàng)法律和道德義務(wù)，同時(shí)也是一項(xiàng)商業(yè)命令。不要成為不良和有偏見的人工智能的另一個(gè)例子。企業(yè)需要從這些不道德的用例中學(xué)習(xí)教訓(xùn)，以確定其人工智能工作是否保持中立。