我們對人工智能的期望是否過高?公司及其高管也應該在多大程度上依賴人工智能提供的產出?

這是12月初在紐約舉行的人工智能峰會上舉辦的一個小組討論的主題，該小組重點關注人工智能在金融服務領域新興角色的風險，但討論對所有行業都有廣泛的影響。(我有機會共同主持會議，并主持小組討論。

"我們認為人工智能正在告訴我們一些東西，但事實并非如此，"Aible首席技術官Rod Butters警告說。"這只是一堆代碼。它不知道。這是我們所有人都陷入的幻想。不知何故，我們認為該模型已經體現了某些東西。現實情況是，人工智能只是一個統計引擎，在很多情況下，它是一個糟糕的統計引擎。

如今，有了人工智能，"人工智能是人造概念中最大的系統性風險，"Agentic Group的創始人兼董事總經理、世界倫理數據基金會(World Ethical Data Foundation)顧問委員會成員Rik Willard說。"這一切都是人類完成的。這一切都由人類表現出來。當我們研究風險與回報時，它只與金融機構以及這些機構周圍的監管框架一樣好。我們是支持我們在技術之前建立的相同的人類和經濟算法，還是我們正在努力使這些算法更好，更具包容性?"

此外，人工智能仍然是一項相對不成熟的技術，AntWorks全球金融服務副總裁Drew Scarano說。"十年前，我們甚至沒有談論人工智能，但今天，這是一個價值數十億美元的行業，"他說。斯卡拉諾說。"我們可能過于依賴這項技術，忘記了循環中的人類，以及他們如何在補充人工智能方面發揮不可或缺的作用，以獲得預期的結果。

另一個挑戰是人工智能系統傾向于在相對孤立的情況下構建。巴特斯警告說，人工智能只是代碼，構建這些系統的人對其對業務的價值的看法可能有限。"當我們告訴數據科學家出去創建一個模型時，我們要求他們成為一個讀心者和算命先生，"他說。"這是兩個糟糕的工作集，它不起作用。數據科學家試圖做正確的事情，創建一個負責任和可靠的模型，但基于什么?最終，當他們建立一個模型時，除非他們有這種組合來創造透明度，創造可擴展性，實際上在戰略和戰術上將其傳達給業務群體，誰負責?僅僅創建一個偉大的模型并不一定能解決所有問題。

Scarano說，在構建數據模型的過程中，數據科學家需要了解企業的目標，同時考慮到對人類的影響。"你可以讓工程師建造一座偉大的橋梁。因此，如果它沒有超越它的意圖，它只是一座偉大的橋梁，對吧?我擔心商界人士，尤其是金融服務業人士。只會繼續過分依賴技術。我們需要一種與人類共存的整體方法。

Scarano敦促，超越人工智能的技術和統計數據，專注于最終為客戶提供服務的產品。"這是關于我們如何用人工智能來補充人類來推動業務，并在一天結束時推動客戶現實，客戶成功和客戶滿意度。

小組成員一致認為，人工智能為業務目標服務的道路依賴于建立指導其發展的一致框架。"我在一個快速失敗的環境中長大，"威拉德說。"你構建代碼，測試，并修復損壞的東西。你在旅途中修復它。你構建它，它有點工作，你讓它松動，然后你根據反饋循環的輸入隨著時間的推移對其進行改進。然而，對于人工智能，問題在于我們把它放在一個判斷的位置。就像在刑事司法系統中一樣，在你做對之前，它會造成很多傷害。在銀行系統中，它是貸款，沒有貸款;分數，沒有分數;或信用，沒有信用。我們如何構建測試框架和沙盒，使其具有大規模啟動所需的準確性，同時在此過程中造成更少的傷害?"

人工智能在整個金融服務行業被用于許多目的，但風險在于幫助建立該行業的人際品質的非人性化。"今天，我們可以將人工智能用于任何事情，從批準信用卡到批準抵押貸款，再到批準任何類型的貸款工具，"Scarano說。"但是，如果沒有人為干預，就無法理解一個人比信用評分更重要，一個人比獲得抵押貸款的批準或拒絕更多。

客戶體驗是金融服務的基礎，這需要成為所有人工智能計劃的前沿和中心。在人工智能驅動的系統中，需要有反饋循環，這些系統結合了人類的輸入。"當我們實施基于AI的解決方案時，我們需要確保使用產品的最終用戶，客戶也對這種投資和解決方案感到滿意，"Run：AI的解決方案架構師Robert Magno說。"讓機器人在倉庫中自動移動包裹是非常有意義的。但從客戶服務的角度來看，如果一個與聊天機器人互動的人感到沮喪，就需要有一個反饋循環，以確保你正在實施的解決方案能與你的客戶產生共鳴，他們享受這種體驗，就像你喜歡創造體驗一樣。