英國一家小型企業近日因 AI 聊天機器人「自作主張」而陷入法律危機。一名顧客日前透過引導性對話，與該公司的 AI 助手交談長達一小時，成功誘導 AI 生成一個系統不存在的「2折（80% Off）」超低折扣碼。該顧客隨即利用代碼掃貨逾 8,000 英鎊（約 8.2 萬港元），業者發現後以 AI 無權限決定財務折扣為由，緊急取消訂單並全額退款。
然而，該顧客拒絕接受取消交易，主張 AI 客服代表公司立場，其作出的承諾具備法律效力，並威脅將向小額錢債法庭提告，要求業者履行合約。業者則反駁該代碼屬 AI 產生的「虛假資訊」，若強制履約將導致公司承受巨大經濟損失。此事件再度引發法律界對於 AI 客服法律責任歸屬的熱議，成為企業自動化應用中，風險管理失控的典型案例。
法律專家指出，若企業未能在服務條款中明確界定 AI 的權限限制，法庭有可能視 AI 的承諾為企業的「表見代理」行為。早前加拿大航空（Air Canada）亦曾發生類似案例，當時其 AI 客服承諾了錯誤的退款政策，法院最終裁定航空公司必須遵守 AI 給出的承諾。