生成式AI司法應用引爭議

◎本報記者 劉 霞

今年5月11日，美國亞利桑那州高級法院的刑事量刑聽證會上，出現了震撼人心的一幕：2021年一起案件中的遇害者克里斯·佩爾基，竟通過視頻向法官作出了感人至深的陳述。這段視頻並非佩爾基本人生前錄製，而是其家人運用生成式人工智能（GenAI）技術，根據他生前的語音記錄、影像資料“重塑”出的數字影像，讓他得以“親口”道出心聲。最終，法官採納了這段特殊證詞，開創了AI生成內容作為法庭證據的司法先例。

事實上，這不是生成式AI技術首次涉足司法領域。據物理學家組織網6月19日報道，這項能夠創造文本、圖像、音頻、視頻等內容的AI技術，正悄然改變着法庭的運作方式：法官藉助它釐清複雜案情，律師用它高效撰寫法律文書，普通訴訟當事人也能通過它獲得辯護支持。然而，這項技術猶如一柄雙刃劍，在提升司法效率的同時，其準確性與公平性也受到質疑，它能否成為司法公正的助推器仍需觀察。

GenAI或影響司法格局

美國西北大學普利茲克法學院丹尼爾·林納教授指出，GenAI在美國司法體系中的應用廣度已遠超公眾認知，佩爾基案就是最佳例證。

在這起標誌性案件中，佩爾基的妹妹斯泰西·威爾斯藉助GenAI技術，創造出了其數字代理人。當這個虛擬形象在法庭上動情地説出“我相信寬恕”時，主審法官不僅採納了這份特殊的數字證言，更對其展現的人性光輝表示讚賞。

威爾斯坦言，GenAI強大的情感表現力，能讓法官更真切地感受到當事人的情感世界。

自佩爾基案以來，GenAI在美國司法實踐中的應用呈現指數級增長。美國緬因州執業律師斯蒂芬·施瓦茨評價道，在確保準確性的前提下，GenAI不僅是提升效率的利器，更是推動司法進步的重要力量。

林納進一步闡釋，GenAI有望讓司法正義更觸手可及。當下法律服務資源分配不均，GenAI有望讓更多人更有效地在法庭上尋求正義。據悉，已有聯邦法官在判決書中明確標註使用了ChatGPT輔助辦案。

可靠性問題頻亮紅燈

儘管GenAI為法律界帶來革新，但其可靠性問題也頻頻亮起紅燈。這項技術正成為虛假判例、牽強論證甚至完全虛構法律依據的“始作俑者”。人們既見證着效率革命，也面臨着如何平衡技術創新與司法倫理的新課題。

今年5月初，美國洛杉磯聯邦法院對兩家律所開出31100美元的罰單，原因令人啼笑皆非——他們提交的AI輔助起草的請願書漏洞百出，被法官痛批為“集體性專業失守”。這並非孤例，2023年6月22日，紐約聯邦法院同樣對依賴ChatGPT編造虛假判例的律所處以5000美元罰款。

更令人擔憂的是，普通民眾也開始跳過專業律師，直接使用AI進行自我辯護，導致法庭上的法律錯誤層出不窮。

佩爾基案的數字代理人更是在Reddit、X等社交平台引發輿論海嘯。卡內基梅隆大學商業倫理學教授德里克·萊本指出，這些GenAI生成的“遺言”，真能代表逝者的真實意願嗎？這究竟是司法創新，還是對亡者的二次傷害？

據美國全國公共廣播電台報道，以加拿大滑鐵盧大學毛拉·格羅斯曼教授為代表的法律專家們認為，雖然GenAI在法律系統的滲透勢不可擋，但必須建立嚴格標準來確保其輸出的準確性。當GenAI大幅降低訴訟門檻，本就超負荷運轉的法院可能面臨案件激增的窘境，司法系統需要未雨綢繆。

專業人士仍是“定海神針”

儘管GenAI帶來效率革命與司法普惠的美好圖景，但經驗豐富的法律人才依然是不可替代的“司法守門人”。從文件起草到判例解讀，法律實踐的複雜性遠超想象。事實核查、情理論證、價值權衡這些人類獨有的專業智慧，始終是司法公正的核心支柱。

林納認為法官羣體必須與技術共進，但絕不能淪為AI的提線木偶。確實，當GenAI能夠提供更全面的法律分析時，司法判決的穩定性和準確性將獲得提升，但這永遠離不開人類法官的最終裁量。

施瓦茨也警告，AI會“無中生有”的故事在業界廣為流傳。他建議同行必須對AI提供的每個案例進行“三重驗證”：查來源、核內容、辨邏輯，只有經過嚴格的檢查，才能確保GenAI輔助的可靠性。

這場人機協作的司法變革必須守住一個鐵律：GenAI的分析建議可作為“導航儀”，但法律人士才是“掌舵者”。唯有如此，才能在提升司法效率的同時，讓公平正義的天平始終不偏不倚。