AI今年發展迅速，更幫助不少人提升工作效率，同時有不少人擔心AI將會取代人類的工作，令更多人失業。美國就有一單官司，原告人的律師引用ChatGPT提供的案例去舉證，但被法庭發現未能從資料庫中找到相關案例，始發現ChatGPT造假。
【閱讀更多】內地男用ChatGPT整「火車撞死人」假新聞 涉嫌尋釁滋事罪被捕
綜合美媒報導，一名名叫Roberto Mata的男子於2019年8月27日乘坐由薩爾瓦多飛往紐約的哥倫比亞航空（Avianca airlines）670航班中，當時他被一名空中服務員的餐車弄傷。直到2022年2月，他才入稟法院，控告哥倫比亞航空疏忽。Levidow, Levidow & Oberman律師樓的Steven Schwartz出任Roberto Mata的控方律師，他在紐約執業超過三十年，是一名資深律師。
哥倫比亞航空要求駁回此案，因為訴訟時效已過。Schwartz對此反對，並引用多個案例來支持他們的論點。但不尋常的是，今年4月下旬，代表哥倫比亞航空的Condon & Forsyth律師樓致函法院，質疑Schwartz在文件中援引的案例的真實性，指無法找到相關的資料，更稱「無法通過標題或引文找到此案，也沒有任何與之相似的案例」。
紐約南區法官Kevin Castel發現，Steven Schwartz引用的案例中，至少有6宗「似乎是帶有虛假引述和虛假內部引文的虛假司法判決」。Steven Schwartz才承認他是從ChatGPT找到相關資料。
該6宗被援引但不存在的案例分別是Varghese v. 中國南方航空、Martinez v. 達美航空、Shaboon v. 埃及航空、Petersen v. 伊朗航空、Miller v. 聯合航空及Estate of Durden v. 荷蘭皇家航空。
Schwartz在宣誓書中表示，他無意欺騙法庭或航空公司，在此案之前，他從未將ChatGPT用作法律研究來源，因此，他「不知道內容可能是假的」。他承認自己沒有進一步去核實資料來源的真確性。他又稱，「非常後悔使用生成式AI去補充資料，將來在沒有絕對驗證真實性的情況下，永遠不會這樣做」。
法官Kevin Castel指，「法庭面臨前所未有的情況」。而Schwartz亦要出席6月8日舉行的刑罰聽證會。
有趣的是，Schwart在宣誓書中有附上他與ChatGPT對話的截圖，當中，他有詢問ChatGPT「Varghese v. 中國南方航空」是否真實案例， 而ChatGPT斬釘截鐵地回答「這是一個真實的案例」。他再問ChatGPT該案例的來源，ChatGPT再次強調該案例是確實存在，「並且可以在Westlaw和LexisNexis等法律研究數據庫中找到」。
投行高盛在3月底的一份關於AI對勞動市場的影響的報告中指出，生成式AI將造成「重大破壞」。該行指，法律工作是較容易被AI取締之一，機率達到44%。但從Roberto Mata的案件中可見，白領職業被取代可能還有一段很長的時間。
【延伸閱讀】白領聽揸兜！？高盛：AI打爛飯碗或令全球3億人失業！
