AI生成虚假案例引用遭处罚：美国律师引用ChatGPT案例遭罚款

像ChatGPT这样的生成式人工智能可以显著提升人类的办公效率，但其可能带来的"胡编乱造"能力也不容忽视。当在关键领域或关键时刻出现错误时，可能会导致灾难性后果。

根据最新报道，美国纽约一位联邦法官对Levidow, Levidow & Oberman律师事务所做出了一项判决，因该律师事务所引用了ChatGPT生成的虚假案例来支持其法庭简报，被罚款5000美元。

法官卡斯特（P. Kevin Castel）指出，这两名律师故意避免说明这些引文是虚假的，并向法庭提供了误导性陈述。律师事务所回应称，这是他们的善意错误，他们没有意识到ChatGPT居然能够凭空捏造虚假信息。

此案的背景是，律师彼得·洛杜卡（Peter LoDuca）和史蒂文·施瓦茨（Steven Schwartz）在一起诉讼中使用了ChatGPT生成的法律文书。然而，这些文书引用的虚假案例经过仔细查证后并不存在。

在质疑出现后，施瓦茨承认他使用ChatGPT来"补充"他对案件的研究，并表示他没有意识到ChatGPT的内容可能是虚假的。法官卡斯特指出，这两名律师"丧失了他们应尽的责任"，并且在对文书的质疑后仍然坚持虚假的观点。

法官卡斯特下令洛杜卡、施瓦茨和他们所在的律师事务所分别支付5000美元的罚款，并要求他们向那些认为案例被伪造的法官通报判决结果。

卡斯特在判决书中写道："法院不会要求他们道歉，因为强迫的道歉并不是真诚的道歉。任何道歉的决定应由当事人自行决定。"

在同一天的另一项判决中，卡斯特批准了阿维安卡航空公司的驳回诉讼动议。原告马塔声称他在2019年8月乘坐一架从萨尔瓦多飞往纽约的航班时，膝盖被一个金属托盘撞伤，造成严重伤害。

卡斯特认为马塔的诉讼是在《蒙特利尔公约》规定的两年诉讼时限过后提起的，而该公约允许在与国际航空旅行有关的法律索赔中提起诉讼。

卡斯特表示，如果律师们坦率地使用了人工智能来撰写法律文书，可能就不会受到惩罚。然而，在质疑出现后，这两名律师仍然坚持虚假和误导性陈述，显示出恶意行为。

判决书中提到："在研究和起草法庭文书时，优秀的律师会适当地从初级律师、法学院学生、合同律师、法律百科全书、Westlaw和LexisNexis等数据库中获得帮助。"卡斯特还写道："技术进步是司空见惯的，使用可靠的人工智能工具提供帮助并没有本质上的不妥。但现有规则对律师施加了把关作用，以确保他们提交的文书的准确性。"