AI有風險 使用需謹慎！美國律師因引用ChatGPT虛假案例受到處罰_全球熱消息

(相關資料圖)

像ChatGPT這樣的生成式人工智能可以極大地提升人類的辦公效率，但其“胡編亂造”的能力也不容忽視。若平常使用時出現錯誤，可能僅僅只是一個笑話，如“林黛玉倒拔垂楊柳、劉姥姥醉打蔣門神”，但若在關鍵領域或時刻出錯，那結果可能就是災難性的。當地時間周四，美國紐約聯邦法官做出判決，Levidow,Levidow&Oberman律師事務所引用了ChatGPT撰寫的一份由虛假案例引證的法庭簡報，行為惡劣，對其處以罰款5000美元。（注：判決文書）法官卡斯特(P.KevinCastel)指出，該律師事務所的兩名律師有意識地避免表明這些引文是虛假的，并“向法庭做出誤導性陳述”。Levidow,Levidow&Oberman隨后回應稱，其律師“謙恭的”不同意惡意誤導方面的判決。“我們犯了一個善意的錯誤，沒想到ChatGPT居然可以憑空捏造。”憑空捏造在3月份，律師彼得·洛杜卡(PeterLoDuca)和史蒂文·施瓦茨(StevenSchwartz)代表其客戶羅伯托·馬塔(RobertoMata)起訴阿維安卡航空公司，提交了一份人工智能撰寫的法律文書。據悉，引用的虛假案例包括"Varghese訴中國南方航空公司"、"馬丁內斯訴達美航空公司"和"米勒訴聯合航空公司"等。但經過仔細查證之后，卻根本找不到這些判決案例。在事實面前，到了5月底，律師施瓦茨不得不承認，他使用了ChatGPT來"補充"他對該案件的研究。施瓦茨表示，他沒有意識到ChatGPT的內容有可能是虛假的。卡斯特指出，兩位律師“放棄了自己應盡的責任”，且在提出對文書的質疑之后，兩人“繼續堅持虛假意見”。卡斯特責令洛杜卡和施瓦茨以及他們的律師事務所Levidow,Levidow&Oberman分別支付5000美元的罰款，并且他們必須自己將判決結果通知那些認為偽造了案例的法官。法官卡斯特在曼哈頓聯邦地方法院的判決書中寫道：“法院不會要求他們道歉，因為強迫的道歉不是真誠的道歉。任何道歉的決定都由當事人決定。”使用人工智能沒有不妥周四當天，法官在另一項命令中批準了阿維安卡航空公司駁回訴訟的動議。原告馬塔聲稱，在2019年8月，從薩爾瓦多飛往紐約的航班上他的膝蓋被一個金屬托盤撞到，因而嚴重受傷。卡斯特認為，馬塔的訴訟是在《蒙特利爾公約》規定的兩年訴訟窗口期滿后提起的，該窗口允許與國際航空旅行相關的法律索賠。卡斯特表示，如果律師們“坦白”使用了人工智能撰寫法律文書，可能就不會受到懲罰。但在對文書提出質疑后，兩位律師仍然極力辯護，對文書及其內容做出了虛假和誤導性的陳述，表現出了“惡意”。判決書中提到：“在研究和起草法庭文書時，優秀的律師會適當地從初級律師、法學院學生、合同律師、法律百科全書、Westlaw和LexisNexis等數據庫中獲得幫助。”卡斯特還寫道：“技術進步是司空見慣的，使用可靠的人工智能工具提供幫助并沒有本質上的不妥。但現有規則對律師施加了把關作用，以確保他們提交的文書的準確性。”