目前，只有25%的企業(yè)擁有完全由人工智能實(shí)現(xiàn)的流程，而其中只有20%的企業(yè)的人工智能框架擁有道德規(guī)范。這會(huì)造成嚴(yán)重的商業(yè)后果。

[[439410]]

在今天的商業(yè)環(huán)境中，人工智能至關(guān)重要。例如，零售商正面臨一個(gè)繁忙的假日季，而人工智能可以迅速創(chuàng)造更好的在線體驗(yàn)。人工智能提高了生產(chǎn)率、產(chǎn)品質(zhì)量和消費(fèi)。通過(guò)將繁瑣的任務(wù)自動(dòng)化，人工智能幫助企業(yè)減輕IT團(tuán)隊(duì)面臨的負(fù)擔(dān)。

盡管創(chuàng)新帶來(lái)了諸多好處，但團(tuán)隊(duì)在開(kāi)始使用AI之前，仍需要一個(gè)負(fù)責(zé)任的AI框架和工具包。人工智能作為一項(xiàng)技術(shù)是中立的——它本身不具備道德或不道德。相反，人工智能可以是一種符合社會(huì)規(guī)范和標(biāo)準(zhǔn)的系統(tǒng)。評(píng)估是什么控制、需求或標(biāo)準(zhǔn)，或者應(yīng)該采取什么措施來(lái)實(shí)現(xiàn)這一點(diǎn)是至關(guān)重要的。

評(píng)估AI對(duì)企業(yè)的影響

創(chuàng)建負(fù)責(zé)任的AI框架的一個(gè)重要部分是對(duì)其在公司內(nèi)的使用進(jìn)行分類(lèi)。人工智能，尤其是以推薦引擎、對(duì)話機(jī)器人、客戶細(xì)分模型、定價(jià)引擎和異常檢測(cè)的形式在企業(yè)中變得無(wú)處不在。跟蹤這些AI模型以及嵌入它們的系統(tǒng)或應(yīng)用程序，對(duì)于確保企業(yè)不暴露于操作、聲譽(yù)和財(cái)務(wù)風(fēng)險(xiǎn)中至關(guān)重要。

還需要知道模型將如何使用，以及它們可能會(huì)造成哪些潛在的傷害——身體、情感或經(jīng)濟(jì)上的傷害。了解這些危害和風(fēng)險(xiǎn)將有助于在構(gòu)建或部署模型之前嵌入AI倫理。

理想情況下，在開(kāi)始開(kāi)發(fā)或部署之前，你應(yīng)該了解AI將影響哪些系統(tǒng)。然而，如果你已經(jīng)有了AI，你就需要對(duì)這個(gè)知識(shí)缺口進(jìn)行分類(lèi)。

為了向人工智能系統(tǒng)灌輸信任，人們需要能夠深入了解底層模型，分析人工智能是如何構(gòu)建的，探索用于訓(xùn)練它的數(shù)據(jù)，揭示每個(gè)決策背后的原因，并及時(shí)向所有利益相關(guān)者提供一致的解釋。每個(gè)AI系統(tǒng)都需要在準(zhǔn)確性、可解釋性、公平性和安全性之間進(jìn)行權(quán)衡。能夠在內(nèi)部向不同的利益相關(guān)者、客戶和監(jiān)管機(jī)構(gòu)證明這些權(quán)衡是獲得信任的關(guān)鍵。

對(duì)你擁有的內(nèi)容進(jìn)行編目，可以調(diào)整AI系統(tǒng)以減少偏見(jiàn)，這是通過(guò)治理過(guò)程支持的。重要的是，你的AI——像每一個(gè)員工一樣——遵守你所在組織的企業(yè)道德準(zhǔn)則。

標(biāo)準(zhǔn)化AI開(kāi)發(fā)生命周期

要有一個(gè)標(biāo)準(zhǔn)化的過(guò)程來(lái)管理你的數(shù)據(jù)，建立一個(gè)人工智能模型，并將其嵌入應(yīng)用系統(tǒng)。一旦AI模型被部署到生產(chǎn)系統(tǒng)中，你還需要一個(gè)標(biāo)準(zhǔn)流程來(lái)監(jiān)控它的性能，并根據(jù)需要繼續(xù)改進(jìn)和再培訓(xùn)它。

這一標(biāo)準(zhǔn)化過(guò)程通常涉及到根據(jù)業(yè)務(wù)需求和可用數(shù)據(jù)確定AI模型的范圍。這將導(dǎo)致模型的設(shè)計(jì)以及如何在更大的應(yīng)用程序系統(tǒng)中使用它。這個(gè)設(shè)計(jì)階段之后是數(shù)據(jù)探索和模型構(gòu)建。一旦模型經(jīng)過(guò)訓(xùn)練、測(cè)試并滿足接受標(biāo)準(zhǔn)，它就可以部署了。一個(gè)人需要在一個(gè)持續(xù)的基礎(chǔ)上監(jiān)視模型的性能，并確保模型在必要時(shí)被重新培訓(xùn)、改進(jìn)或棄用。

作為AI開(kāi)發(fā)生命周期的一部分，必須維護(hù)數(shù)據(jù)集和模型卡的數(shù)據(jù)表。數(shù)據(jù)表將捕獲重要的數(shù)據(jù)項(xiàng)和概述收集數(shù)據(jù)的動(dòng)機(jī)，收集過(guò)程，推薦使用和更多內(nèi)容。擁有模型卡片也是一種很好的做法。這些卡片包括AI模型的細(xì)節(jié)，所選擇的算法，模型的預(yù)期用途，倫理考慮等。社會(huì)影響和風(fēng)險(xiǎn)評(píng)估也必須經(jīng)過(guò)審查。這些工具有助于形成關(guān)于是否應(yīng)該采用算法的更明智的決定。

為了評(píng)估模型的部署，您需要從一致同意的成功和可接受標(biāo)準(zhǔn)開(kāi)始。這些應(yīng)該關(guān)注模型的性能，以及模型的可解釋性、可解釋性、公平性、安全性、控制、安全性、隱私性、健壯性和再現(xiàn)性。如果在部署過(guò)程中沒(méi)有滿足這些成功和可接受的標(biāo)準(zhǔn)，就不應(yīng)該以當(dāng)前狀態(tài)部署AI。一些企業(yè)仍將繼續(xù)前進(jìn)，放寬門(mén)檻。然而，這只適用于特殊情況。數(shù)據(jù)科學(xué)家不應(yīng)該做這個(gè)決定——它應(yīng)該由企業(yè)或產(chǎn)品所有者決定。

由于人工智能系統(tǒng)學(xué)會(huì)根據(jù)培訓(xùn)數(shù)據(jù)做出結(jié)論，因此在開(kāi)發(fā)過(guò)程中評(píng)估應(yīng)用程序的影響，有助于確定可以預(yù)防風(fēng)險(xiǎn)的改進(jìn)領(lǐng)域。

創(chuàng)建治理流程

創(chuàng)建治理流程有助于確保團(tuán)隊(duì)在部署AI系統(tǒng)之前解決與偏見(jiàn)和公平相關(guān)的具體問(wèn)題。它使團(tuán)隊(duì)能夠批判性地思考，并能夠回答有關(guān)人工智能應(yīng)用程序決策的問(wèn)題。

如果操作正確，成功的治理過(guò)程將提供指導(dǎo)和保證。它將使團(tuán)隊(duì)能夠評(píng)估現(xiàn)有的系統(tǒng)是否符合他們的業(yè)務(wù)戰(zhàn)略，并鼓勵(lì)問(wèn)責(zé)制和遵從性。

對(duì)于任何團(tuán)隊(duì)來(lái)說(shuō)，要發(fā)現(xiàn)人工智能的全部潛力，他們必須分析人工智能正在使用的系統(tǒng)，評(píng)估其影響，并創(chuàng)建治理流程。在當(dāng)今日益透明、快速變化和競(jìng)爭(zhēng)激烈的市場(chǎng)中，實(shí)施道德和負(fù)責(zé)任的人工智能不僅是好事，而且是成功的先決條件。