[[429741]]

根據(jù)《福布斯》獲得的一份法庭文件披露的信息，一個(gè)欺詐團(tuán)伙利用音頻深度偽造技術(shù)克隆了一家企業(yè)董事的聲音，將3500萬美元的資金轉(zhuǎn)移到幾個(gè)海外賬戶。這是迄今為止最成功的“deep voice” 欺詐案，盡管這可能只是這樣的案例日益增長(zhǎng)趨勢(shì)的一部分。

深度偽造(Deepfake)技術(shù)可以訓(xùn)練人工智能系統(tǒng)來模仿某人的面孔，通常是演員或其他知名人士的面孔。然后，人工智能技術(shù)可以制作動(dòng)畫并將其面孔粘貼到視頻中，從而將克隆的對(duì)象插入到場(chǎng)景中。

但是不能只是他們的影像放在視頻中，還要偽造他們的聲音。這就是音頻深度偽造發(fā)揮作用的地方，可以訓(xùn)練人工智能技術(shù)來模仿某人的聲音，然后以其聲音說出內(nèi)容。

專家認(rèn)為，一旦深度造假技術(shù)達(dá)到一定的水平，將推動(dòng)一個(gè)充滿錯(cuò)誤信息、騷擾和蹩腳電影的新時(shí)代。

在2020年，阿聯(lián)酋的一名銀行經(jīng)理接到了一家大公司董事的電話。該董事聲稱其所在的公司正在進(jìn)行一項(xiàng)大型收購(gòu)，所以要求這家銀行授權(quán)向美國(guó)的幾個(gè)賬戶轉(zhuǎn)賬3500萬美元。他表示已經(jīng)發(fā)送一封來自律師的電子郵件來確認(rèn)這筆轉(zhuǎn)賬，由于一切看起來都是合法的，銀行經(jīng)理確認(rèn)了這筆轉(zhuǎn)賬。

但這家公司的“董事”實(shí)際上是一個(gè)經(jīng)過訓(xùn)練的“deep voice”算法，聽起來就像他的聲音。阿聯(lián)酋有關(guān)部門目前正在尋求美國(guó)警方的幫助，以追回丟失的這些資金。據(jù)悉，這些資金被17名或更多的欺詐者轉(zhuǎn)移到他們?cè)谌蚋鞯氐馁~戶上。

這并不是Deepfake實(shí)施的第一次欺詐和搶劫，但卻是迄今為止最成功的一次。類似的事件顯然將來還會(huì)發(fā)生，而且規(guī)模可能會(huì)大得多。那么企業(yè)和政府能做些什么來減輕威脅呢?很難說。

因?yàn)镈eepfakes技術(shù)仍在不斷改進(jìn)，最終會(huì)變得更強(qiáng)大，以至于人類無法正確識(shí)別。但經(jīng)過訓(xùn)練的人工智能可能識(shí)別出深度偽造的行為，因?yàn)榭寺∈芎φ叩拿婵缀吐曇敉恍╁e(cuò)誤，例如數(shù)字噪音或人類不可能發(fā)出的一些聲音。