ChatGPT在個人傷害訴訟中製造虛假法律案例，引發聽證會 - 彭博社
Justin Wise
攝影師：尼古拉斯·馬特林克/法新社/蓋蒂圖片社一位紐約律師告訴法官，他在提交一份充滿ChatGPT虛假法律先例的法庭文件時，並沒有打算欺騙任何人。
史蒂文·施瓦茨面臨對該文件的處罰，週四請求美國地方法官P.凱文·卡斯特爾寬大處理。這位律師聲稱，他不知道這款免費的人工智能工具能夠創造虛假的案例引用和法院意見。
“有很多事情我本應該做來確保這些案例的真實性，”施瓦茨告訴法官。“我在這方面失敗得很慘。”
像ChatGPT這樣的生成式人工智能工具承諾顛覆白領職業，改變律師事務所、金融機構等的業務進行方式。但這項技術也存在風險，包括對它過度依賴。
由非營利組織OpenAI推出的聊天機器人ChatGPT可以進行類似人類的對話，並從互聯網中提取大量數據，儘管它承認容易產生幻覺並提供不準確的信息。
施瓦茨本週承認，ChatGPT虛構了他在一起針對哥倫比亞航空公司的案件中引用的六個案例。
“我從未想象過ChatGPT會製造虛構的案例，”施瓦茨在曼哈頓聯邦法院對法官説。
案件要點
施瓦茨的客户聲稱一名哥倫比亞航空公司員工在2019年從薩爾瓦多飛往紐約的航班上用金屬服務車撞擊了他的左膝，導致他“嚴重人身傷害”。
航空公司試圖駁回訴訟，稱其提交太晚。在研究訴訟時效問題時，施瓦茨承認他使用了ChatGPT。
在哥倫比亞航空公司的律師提交文件表示他們找不到相關案例後，施瓦茨繼續依賴這個人工智能工具。
卡斯特爾告訴律師，案件的關鍵在於施瓦茨及其所在公司的同事彼得·洛杜卡在得知有欺詐性引用後的行動。
“如果敍述就此結束，我懷疑我們今天是否會在這裏。”他説。
‘法律胡言亂語’
卡斯特爾指出施瓦茨的錯誤簡報，詢問他是否考慮過在法律研究數據庫、法律圖書館的書籍，甚至在谷歌上查找相關案例。施瓦茨每次的回答都是“沒有”。
法官問施瓦茨是否對簡報中引用的主要虛假案例之一“Varghese v. China South Airlines Co.”持懷疑態度，法官表示其中包含的信息毫無意義。
“我們可以認同這是法律胡言亂語嗎？”卡斯特爾問道。
施瓦茨表示他無法想象ChatGPT會憑空捏造一個案例，直到卡斯特爾5月4日的責令出庭令他才考慮到這種可能性。
“我繼續被ChatGPT愚弄，”施瓦茨説。“這很尷尬。”
‘無比強大’
在發現施瓦茨簡報問題後，伊利諾伊州和德克薩斯州的聯邦法官發佈了常規命令，要求律師證明他們的提交文件是沒有使用生成式人工智能創建的，或者有人審查了任何語言人工智能創作的準確性。
“這些平台非常強大，在法律領域有許多用途，”德克薩斯北區法官布蘭特利·斯塔爾在他的命令中寫道。“但法律摘要不是它們的用途之一。”
在哥倫比亞航空公司案中，卡斯特爾為施瓦茨、他的同事洛杜卡以及與法庭提交該摘要並簽署該摘要的他們所在的四人曼哈頓人身傷害律師事務所Levidow, Levidow & Oberman召開了制裁聽證會。
卡斯特爾在他的責令理由書中還提出了將施瓦茨轉交給州律師道德委員會的可能性，該委員會可以調查專業行為。
施瓦茨的法律團隊要求卡斯特爾不要對他進行制裁，指出他和他所在公司的聲譽已經因這一事件而受損。
施瓦茨的辯護律師羅納德·明科夫表示，他們所遭受的公開羞辱已經足夠作為威懾。
明科夫説，這個案件對於任何律師來説都是“幸災樂禍”，“因為律師們歷來在新技術方面存在困難。”
卡斯特爾在沒有説明何時決定可能的制裁的情況下推遲了聽證會。
該案件是 Mata v. Avianca, Inc., S.D.N.Y., 22-01461, 6/8/23
要聯繫本文記者：Justin Wise，郵箱：[email protected]；Bob Van Voris，郵箱：[email protected]
要聯繫負責本文的編輯：Chris Opfer，郵箱：[email protected]；John Hughes，郵箱：[email protected]