IT之家 2 月 19 日消息，據(jù)路透社今日?qǐng)?bào)道，美國(guó)知名個(gè)人傷害律師事務(wù)所 Morgan & Morgan 向其 1000 多名律師發(fā)送了一封緊急郵件，警告他們：AI 能夠編造虛假的判例信息，若在法庭文件中使用虛構(gòu)的內(nèi)容，可能會(huì)被解雇。

此前，懷俄明州的一名聯(lián)邦法官威脅要對(duì)該事務(wù)所的兩名律師進(jìn)行制裁，因?yàn)樗麄冊(cè)谝黄疳槍?duì)沃爾瑪?shù)脑V訟中引用了虛假的判例。

其中一名律師在法庭文件中承認(rèn)，他使用了一個(gè)“創(chuàng)造”案件的 AI 程序，并為此無(wú)意中犯下的錯(cuò)誤道歉。AI 在法律文件中生成虛假信息的趨勢(shì)，已使全美多個(gè)法院在過去兩年內(nèi)對(duì)至少七起案件中的律師進(jìn)行過質(zhì)疑或紀(jì)律處分，給訴訟雙方和法官帶來(lái)了新技術(shù)帶來(lái)的困擾，路透社的調(diào)查發(fā)現(xiàn)。

生成式 AI 技術(shù)的進(jìn)步有助于減少律師的研究和撰寫時(shí)間，因此許多律師事務(wù)所選擇與 AI 供應(yīng)商合作，或開發(fā)自己的 AI 工具。湯森路透的調(diào)查顯示，去年 63% 的律師表示曾在工作中使用 AI，其中 12% 的律師表示會(huì)定期使用。

然而，生成式 AI 以“自信地編造事實(shí)”而著稱，法律專家提醒，律師在使用 AI 時(shí)必須格外小心。據(jù)IT之家了解，AI 有時(shí)會(huì)“幻覺”般地生成虛假信息，這是因?yàn)樗鼈兓趶拇罅繑?shù)據(jù)中學(xué)到的統(tǒng)計(jì)模式進(jìn)行生成，而非驗(yàn)證事實(shí)的準(zhǔn)確性。

律師道德規(guī)范要求律師對(duì)其提交的法庭文件負(fù)責(zé)，并予以核實(shí)，否則將面臨紀(jì)律處分。美國(guó)律師協(xié)會(huì)去年告知全體會(huì)員，甚至是通過 AI 生成的“無(wú)意錯(cuò)誤”也必須遵守這一義務(wù)。

“即便法律研究工具發(fā)生了變化，后果也沒有改變，”薩福克大學(xué)法學(xué)院院長(zhǎng) Andrew Perlman 說(shuō)道。同時(shí)，他也是倡導(dǎo)利用 AI 提升法律工作效率的專家。

“當(dāng)律師在沒有核實(shí)的情況下使用 ChatGPT 或任何生成式 AI 工具來(lái)編造引用時(shí)，這就是不稱職，簡(jiǎn)單來(lái)說(shuō)就是這樣。”