共计 1198 个字符，预计需要花费 3 分钟才能阅读完成。
IT 之家在 9 月 23 日报道，依据 Ssbcrack 的信息，一位来自美国加州的律师因在向法院提出上诉时使用人工智能工具 ChatGPT 生成的虚假引文，被判处 1 万美元的罚款（IT 之家注：当前汇率大约为 71149 元人民币）。
据了解，这是加州法院针对 AI 伪造内容问题做出的最严厉的惩罚决定。法庭文件显示，该律师所引用的 23 条判例中，有 21 条完全是虚构的。法院重申了对引用内容进行核实的重要性，并明确要求：所有法律文件中的引用都必须由律师亲自审查并确认其真实性，绝不可使用未经验证的来源。
此项裁决由加州第二区上诉法院作出，目的是给法律界发出强烈警示。该法院指出，虚假法律先例的引用问题在全美范围内日益严重。此次判决正值加州加强监管的时刻，加州司法委员会已要求各法院在 12 月中旬之前，要么禁止使用生成型人工智能，要么制定明确的使用政策。同时，加州律师协会也在重新审视其职业行为规范，以应对快速发展的人工智能技术所带来的挑战。
遭受处罚的律师阿米尔·穆斯塔法维（Amir Mostafavi）承认，他在 2023 年 7 月递交上诉文件之前，并未仔细审查 AI 生成的内容。他表示，自己只是利用 ChatGPT 优化了文书的表述，并未意识到该工具会制造虚假的案件引文。穆斯塔法维辩解说，完全不使用人工智能对律师来说并不切实际，AI 已成为不可或缺的工具，其作用如同法律从实体图书馆转向在线数据库的变革。然而，他警告说：“只要人工智能系统仍然会生成错误信息，法律从业者就必须十分小心。我们将不可避免地看到一些人受到影响，遭受损失或经历破坏。”
此次对穆斯塔法维的罚款被视为针对律师滥用人工智能行为的高额罚单之一。今年早些时候，加州的一家联邦地区法院法官曾裁定两家律师事务所需赔偿超过 3.1 万美元（当前汇率约为 22.1 万元人民币），因为它们提交的研究材料依赖于 AI 生成的错误信息。法官表示感到受到了误导，并强调必须建立强有力的惩戒机制，以防止类似事件再次发生。
专家们预测，随着生成型人工智能在法律行业中的广泛应用，律师引用虚构判例的情况将会持续增加。一项统计数据显示，美国已经记录了超过 600 起此类事件，其中约 52 起发生在加州。这一上升趋势凸显出法律从业者急需提高教育水平，并保持警惕，尤其是在识别和验证 AI 生成信息方面的能力提升。
法律观察人士强调，提升对人工智能技术的认知至关重要，许多律师尚未充分意识到 AI“幻觉”（即编造虚假信息）的风险。有观点建议，针对误用人工智能的律师应当实施强制培训，以避免未来的错误。此外，已有担忧指出，虚假判例不仅可能出现在律师的文件中，甚至可能被法官在其裁决中引用，这表明问题的影响范围可能远超出执业律师的群体。
