人为干预无法解决人工智能幻觉问题。原因如下：

人工智能幻觉，即大语言模型容易生成看似可信且逻辑严密但实质上虚假的信息。人工智能幻觉并不是最终会被修复的漏洞，而是这类工具底层运行机制与生俱来的固有特性。几乎每周都有相关新闻报道：律师或法律顾问因提交给法庭虚假援引案例或提交给客户的报告中存在虚构注释而栽跟头。由此可见，大多数人尚未找到有效的方法来控制这种现象或阻止幻觉最终出现在产品中。要理解其中原因，就必须放弃幻想，不要以为更好的训练或‘人机交互’终有一天能彻底解决问题。

在展开进一步论述前，先说明一点：一些人工智能评论人士对“幻觉”这一表述颇有微词。他们认为这个词将模型拟人化，暗示了模型具有某种意识；或是认为这一表述带有宣传色彩，刻意为大模型赋予神秘色彩，把纯粹的内容错误包装成颇具文学感的现象，掩盖其失真本质。但本文仍会沿用 “幻觉”这一表述，因为它已经是人们普遍理解的术语，同时笔者也承认业界对这一表述存在异议，也希望有一天我们能找到一个更贴切的术语来代替它。

语言模型并非从可靠的知识库中调取事实。它们生成文本时，会根据从海量人类文本中学习到的模式，预测哪些词可能续接在其它词之后。这意味着它们可以生成流畅、权威的文字来描述一些其实完全虚假的事情，而它们本身并没有机制来区分真假。它们的优化目标是使内容听起来合情合理，而非确保其属实。编造法庭案例的模型不会感知自身的不确定性。我们的确能够更好地修正这种不确定性——相关研究也在进行中——但要彻底消除这种不确定性，则需要一套完全不同的系统。就目前以及在可预见的未来而言，幻觉是换取流畅度所须付出的代价，而这份流畅度正是这类工具具备实用价值的根源。

人为干预的迷思

解决这个问题的标准做法是“让人类参与其中”，即人为干预。按照这种逻辑，如果人工智能模型产生幻觉，那么应该由专业人员在每次执行人工智能模型的输出结果之前对其进行审查。这在理论上是合理的，但在实践中往往无法充分实现。

“人为干预”特指在每个决策点，在任何重要事件发生之前，由专人审查、批准或纠正人工智能模型的输出结果。这与其他形式的人工监督——例如，事后审计输出结果、预先设定政策限制或长期监控总体绩效——不同。事后审计可以发现系统性问题，但在某些情况下可能无法弥补具体损害。政策层面的监督可以降低风险，但无法验证单个输出结果。人为干预审查是唯一一种在人工智能模型生成的信息造成损害之前直接验证其准确性的控制方式。但它也是成本最高、速度最慢、规模性最差的控制方式。

在大量实际落地应用场景中，人为干预并不具备可行性：模型输出数据体量过大、专业审核人员人力成本高昂，或是业务场景对处理时效要求极高，均导致无法同步开展人工审核。例如，法律人工智能模型处理数千页文件所需的时间，可能仅相当于律师阅读一页的时间。这项技术的商业价值往往取决于其速度，这意味着为了追求速度，人们可能会放弃人工审核——能彻底规避风险的人工审核环节，往往会成为被舍弃的权衡项。

确认偏见

即使有人工审核，也存在一个更深层次的问题——审核人员无法保持绝对中立。人倾向于接受与自身已有知识体系或预期相符的信息，以及仔细审查与其知识相悖的信息。当律师让人工智能系统检索支持性判例时，系统会返回一份看似合理的引例列表，对于可能工作繁忙、压力巨大的律师来说，逐一核查每个案例和引证，不仅违背本能，而且极耗心力。这就是确认偏见在起作用——一种潜藏于潜意识层面的人类认知特质。如果人工智能生成的错误内容刚好契合审核人员的预期，那么人工审核的准确性就会降低。

专业过失

根据专业过失相关法律，专业人士在其特定职业领域内须遵守“合理注意义务”的标准。法院需要厘清的问题是，当人工智能成为常规工具时，“合理”应该如何界定。已有多名律师因向法院提交包含人工智能幻觉虚构内容的法律文书而遭到法院惩戒。法院认定该行为违反律师执业规范，同时可能构成专业过失。文书内容准确与否，责任归于律师本人，而非其所使用的人工智能工具。在笔者看来，这虽是正确的法律立场，但却催生了实操层面的困境。当市场迫使律师在采用人工智能的基础上降低收费时，每位律师的工作量会增加，审核这些输出在操作和认知上都变得极具挑战性。

关键的一点是：我们至今仍缺少对照基准，无法获知人工智能辅助带来的差错率变化。在人工智能出现之前，律师引用案例时，有多少次没有完整阅读、错误解读或遗漏了相关的先例？医生误诊或误读检验结果的频率又有多高？由于基准数据记录不完善，且各行业都在努力维护自身职业完美无瑕的形象，人工智能究竟会对专业工作产出质量造成何种实际影响，目前尚无清晰定论。甚至，会不会存在一种可能性：引入 人工智能后，专业人士整体作业准确率反而有所提升？

另一个问题是，普通民众无需聘请律师也可自行出庭诉讼——如果他们的“人工智能律师”错误地引用了案例，又该如何处理？自行出庭的当事人自然不会被认定为专业过失，但法院是否会认定大语言模型的行为如同无牌律师（无论其用户协议条款是否列明许可使用范围），并找到某种方式，比如通过过失、合同或其他责任来源（例如产品责任法）追究其责任，以弥补因此浪费的法庭时间和额外诉讼成本？

与错误共存

以上种种问题，并非意味着专业工作场景应当弃用人工智能。未来的发展之路需要我们坦诚面对人工复核本身存在的局限性。建议考虑以下几点：

• 使用不同的人工智能模型来交叉验证人工智能的输出结果，即“人工智能干干预”；
• 使用权威来源作为事实核查的数据来源，例如，将大语言模型文稿与 Lexis-Nexis 数据库进行比对；
• 对团队进行认知偏见方面的培训，并通过测试以评估每个人的偏见程度；
• 向律师传授高阶事实核查的新技能；
• 挑选风险最高的输出内容，并将人力集中用于更深入地审查这些内容；
• 在内容发布前，规划参与审查的人员和人数；以及
• 厘清有效审查对成本的影响，并预留足够的专家进行审查。切勿在未核算人工及其他监督成本的前提下，贸然承诺大幅降价；在业务模式中预留充足时间，用以开展具备实质效用的复核工作。

Subscribe to receive more articles like this here.