美国律师因使用ChatGPT生成虚假判例被法院开出10000美元的罚单

事件经过其实非常简单，穆斯塔法维自称自己撰写上述书然后交给 ChatGPT 进行改进，但改进后的版本生成长达 23 条判决案例引用，只是其中的 21 条判例都是 AI 自己编造的。

穆斯塔法维表示自己并不清楚 ChatGPT 会增加案例引用或编造内容，不过这种说法估计他自己都不信，毕竟 AI 生成的版本律师应当仔细查看而不是没有发现新增的内容。

原本这件事也不至于要罚款 10000 美元，但加州法院认为要杀鸡儆猴，必须通过这次罚款案例警告律师不要提交包含不实内容的材料，律师应当对自己提交的内容负责。

法院给穆斯塔法维的处罚还包括措辞严厉的意见书：

意见书指出律师开庭诉状中引用的 23 条案例中有 21 条是编造的，意见书称在美国其他州和联邦法院也都曾发生过因为律师引用虚假法律依据而对律师进行质询。

法院称希望通过发布这份意见书以示警告：简而言之，任何提交给法院的辩护状、诉状、动议或其他任何文件都不应包含任何未经负责提交诉状的律师亲自阅读或核实的引文，无论是由生成式人工智能还是其他来源提供的。

从意见书里也可以看出来法院并没有说不允许律师使用人工智能，或者不建议律师使用人工智能，事实上已经有相当多的律师离不开人工智能，相较于律师自行查询各种材料，人工智能的分析报告速度更快且更加简单。

只不过律师应当仔细阅读自己提交的文书尤其是其中包含判例引用的部分，因为没人知道 AI 是否自己编造了内容，如果不加以事实核查就直接添加到诉状中，那就可能出现引用虚假判例的问题。