5月28日消息，据《纽约时报》报道，近日，一名律师在一桩法庭案件中依靠聊天机器人ChatGPT进行法律研究，导致提交了不正确的信息。该事件揭示了人工智能在法律领域的潜在风险，包括错误信息。
该案涉及一名男子因人身伤害起诉一家航空公司。原告的法律团队提交了一份简短的文件，援引了之前的几起法庭案例来支持他们的论点，试图为他们的主张建立法律依据。先例。然而，该航空公司的律师发现所引用的一些案例并不存在，并立即通知了主审法官。
法官凯文·卡斯特尔对这种情况表示惊讶，称其为“史无前例”，并命令原告法律团队做出解释。
原告律师之一史蒂文·施瓦茨(Steven Schwartz) 承认，他曾使用ChatGPT 来搜索类似的法律先例。施瓦茨在一份书面声明中表达了深深的遗憾，他说：“我以前从未使用过人工智能。搜索了法律文献，但不知道其内容可能是错误的。”
提交给法院的文件附有Schwartz 和ChatGPT 之间的对话截图，其中Schwartz 询问Varghese 诉中国南方航空有限公司这一具体案件是否属实。 ChatGPT 回复称属实，并表示该案件可以在LexisNexis 和Westlaw 等法律参考数据库中找到。然而，后续调查发现该案件并不存在，进一步调查发现ChatGPT捏造了6个不存在的案件。
鉴于这一事件，涉案的两名律师，Levidow 的Peter Loduca 和Steven Schwartz，Levidow Oberman，将于6 月8 日出席纪律听证会，解释他们的行为。该事件引发了法律界内部关于在法律研究中适当使用人工智能工具以及需要制定全面指南来防止类似情况发生的讨论。
