ChatGPT在公眾中流行的時間並不長，但它在法律領域的應用卻並不順利。雖然最近發生的事件並不涉及人工智能生成器引用編造的案例，但有一傢律師事務所因為使用該工具計算律師費，每小時"超標"600美元而遭到法官的斥責，並將其賬單數額砍半。
總部位於紐約的 Cuddy 律師事務所利用 ChatGPT 支持其申請，為該公司最近勝訴的一項審判收取巨額費用。
卡迪代表一位母親及其有特殊需要的孩子起訴紐約市教育局。根據《殘疾人教育法》，地方法院可酌情將合理的律師費作為費用的一部分判給勝訴方的殘疾兒童父母。
OpenAI 的工具被問及，對於一名在殘疾教育聽證方面擁有最多三年經驗的律師來說，合理的小時費率是多少。該工具指出，時薪可能在 200 美元到 500 美元之間，在某些法律領域具有專長的律師時薪可能更高，可達每小時 1200 美元或更多。
根據 ChatGPT 的建議，Cuddy Law 提交一份 113484 美元的最終服務賬單，相當於每小時約 550 美元至 600 美元。但聯邦地區法官保羅-恩格爾邁耶（Paul Engelmayer）對該公司使用該技術計算賬單的做法並不以為然。
恩格爾邁耶在其意見書中寫道："卡迪律師事務所援引 ChatGPT 作為其咄咄逼人的收費要求的依據，完全沒有說服力，這一點就足夠。"
法官指出，由於 ChatGPT 沒有指明它得出結論所使用的數據，因此無法知道這些信息是"非常真實和相關的"，還是隻是它編造出來的，這仍然是生成式人工智能面臨的一個問題。還有人提到，該公司未能確定用於接收 ChatGPT 結論的精確輸入。
恩格爾邁耶法官指出 ChatGPT 產生幻覺信息的眾多法律案件中的兩個。一個是馬塔訴阿維安卡航空公司案，這是一起針對阿維安卡航空公司的人身傷害訴訟案。史蒂文-A-施瓦茨（Steven A. Schwartz）律師在該案中提交一份長達 10 頁的辯護狀，其中援引多個類似案件的相關法院判決，而所有這些判決都是 ChatGPT 捏造的。
另一起名為"Park 訴 Kim"的案件涉及律師 Jae Lee，她在一起醫療事故訴訟案中使用 ChatGPT 進行研究，但沒有確認她引用的案例是否有效，因此被提交給律師申訴小組。
在 Cuddy 案中，恩格爾邁耶法官最終決定將該公司申請的律師費減半，減至 53050 美元，原因包括使用 ChatGPT。他補充說："除非這一工具的可靠性發生范式轉變，否則建議卡迪律師事務所在今後的收費申請中不再提及 ChatGPT"。