AI造假|美國律師用ChatGPT寫訟書 被踢爆AI造假案例 辨稱:無意欺騙法庭

AI造假|美國律師用ChatGPT寫訟書 被踢爆AI造假案例 辨稱:無意欺騙法庭

Feature

492

AI今年發展迅速,更幫助不少人提升工作效率,同時有不少人擔心AI將會取代人類的工作,令更多人失業。美國就有一單官司,原告人的律師引用ChatGPT提供的案例去舉證,但被法庭發現未能從資料庫中找到相關案例,始發現ChatGPT造假。

【閱讀更多】內地男用ChatGPT整「火車撞死人」假新聞 涉嫌尋釁滋事罪被捕

綜合美媒報導,一名名叫Roberto Mata的男子於2019年8月27日乘坐由薩爾瓦多飛往紐約的哥倫比亞航空(Avianca airlines)670航班中,當時他被一名空中服務員的餐車弄傷。直到2022年2月,他才入稟法院,控告哥倫比亞航空疏忽。Levidow, Levidow & Oberman律師樓的Steven Schwartz出任Roberto Mata的控方律師,他在紐約執業超過三十年,是一名資深律師。

哥倫比亞航空要求駁回此案,因為訴訟時效已過。Schwartz對此反對,並引用多個案例來支持他們的論點。但不尋常的是,今年4月下旬,代表哥倫比亞航空的Condon & Forsyth律師樓致函法院,質疑Schwartz在文件中援引的案例的真實性,指無法找到相關的資料,更稱「無法通過標題或引文找到此案,也沒有任何與之相似的案例」。

紐約南區法官Kevin Castel發現,Steven Schwartz引用的案例中,至少有6宗「似乎是帶有虛假引述和虛假內部引文的虛假司法判決」。Steven Schwartz才承認他是從ChatGPT找到相關資料。

OpenAI的ChatGPT為現時發展最快的AI聊天機器人。

該6宗被援引但不存在的案例分別是Varghese v. 中國南方航空、Martinez v. 達美航空、Shaboon v. 埃及航空、Petersen v. 伊朗航空、Miller v. 聯合航空及Estate of Durden v. 荷蘭皇家航空。

Schwartz在宣誓書中表示,他無意欺騙法庭或航空公司,在此案之前,他從未將ChatGPT用作法律研究來源,因此,他「不知道內容可能是假的」。他承認自己沒有進一步去核實資料來源的真確性。他又稱,「非常後悔使用生成式AI去補充資料,將來在沒有絕對驗證真實性的情況下,永遠不會這樣做」。

法官Kevin Castel指,「法庭面臨前所未有的情況」。而Schwartz亦要出席6月8日舉行的刑罰聽證會。

有趣的是,Schwart在宣誓書中有附上他與ChatGPT對話的截圖,當中,他有詢問ChatGPT「Varghese v. 中國南方航空」是否真實案例, 而ChatGPT斬釘截鐵地回答「這是一個真實的案例」。他再問ChatGPT該案例的來源,ChatGPT再次強調該案例是確實存在,「並且可以在Westlaw和LexisNexis等法律研究數據庫中找到」。

來源:紐約南區法院
來源:紐約南區法院

投行高盛在3月底的一份關於AI對勞動市場的影響的報告中指出,生成式AI將造成「重大破壞」。該行指,法律工作是較容易被AI取締之一,機率達到44%。但從Roberto Mata的案件中可見,白領職業被取代可能還有一段很長的時間。

【延伸閱讀】白領聽揸兜!?高盛:AI打爛飯碗或令全球3億人失業!

Subscribe FORTUNE INSIGHT Telegram: 
http://bit.ly/2M63TRO

Subscribe FORTUNE INSIGHT YouTube channel:
http://bit.ly/2FgJTen

FOLLOW US