人為干預無法解決人工智能幻覺問題。原因如下：

人工智能幻覺，即大語言模型容易生成看似可信且邏輯嚴密但實質上虛假的資訊。人工智能幻覺並不是最終會被修復的漏洞，而是這類工具底層運行機制與生俱來的固有特性。幾乎每週都有相關新聞報導：律師或法律顧問因提交給法庭虛假援引案例或提交給客戶的報告中存在虛構注釋而栽跟頭。由此可見，大多數人尚未找到有效的方法來控制這種現象或阻止幻覺最終出現在產品中。要理解其中原因，就必須放棄幻想，不要以為更好的訓練或「人機交互」終有一天能徹底解決問題。

在展開進一步論述前，先說明一點：一些人工智能評論人士對「幻覺」這一表述頗有微詞。他們認為這個詞將模型擬人化，暗示了模型具有某種意識；或是認為這一表述帶有宣傳色彩，刻意為大模型賦予神秘色彩，把純粹的內容錯誤包裝成頗具文學感的現象，掩蓋其失真本質。但本文仍會沿用「幻覺」這一表述，因為它已經是人們普遍理解的術語，同時筆者也承認業界對這一表述存在異議，也希望有一天我們能找到一個更貼切的術語來代替它。

語言模型並非從可靠的知識庫中調取事實。它們生成文本時，會根據從海量人類文本中學習到的模式，預測哪些詞可能續接在其它詞之後。這意味著它們可以生成流暢、權威的文字來描述一些其實完全虛假的事情，而它們本身並沒有機制來區分真假。它們的優化目標是使內容聽起來合情合理，而非確保其屬實。編造法庭案例的模型不會感知自身的不確定性。我們的確能夠更好地修正這種不確定性——相關研究也在進行中——但要徹底消除這種不確定性，則需要一套完全不同的系統。就目前以及在可預見的未來而言，幻覺是換取流暢度所須付出的代價，而這份流暢度正是這類工具具備實用價值的根源。

人為干預的迷思

解決這個問題的標準做法是「讓人類參與其中」，即人為干預。按照邏輯，如果人工智能模型產生幻覺，那麼應該由專業人員在每次執行人工智能模型的輸出結果之前對其進行審查。這在理論上是合理的，但在實踐中往往無法充分實現。

「人為干預」特指在每個決策點，在任何重要事件發生之前，由專人審查、批准或糾正人工智能模型的輸出結果。這與其他形式的人工監督——例如，事後審計輸出結果、預先設定政策限制或長期監控總體績效——不同。事後審計可以發現系統性問題，但在某些情況下可能無法彌補具體損害。政策層面的監督可以降低風險，但無法驗證單個輸出結果。人為干預審查是唯一一種在人工智能模型生成的資訊造成損害之前直接驗證其準確性的控制方式。但它也是成本最高、速度最慢、規模性最差的控制方式。

在大量實際落地應用場景中，人為干預並不具備可行性：模型輸出資料體量過大、專業審核人員人力成本高昂，或是業務場景對處理時效要求極高，均導致無法同步開展人工審核。例如，法律人工智能模型處理數千頁文檔所需的時間，可能僅相當於律師閱讀一頁的時間。這項技術的商業價值往往取決於其速度，這意味著為了追求速度，人們可能會放棄人工審核——能徹底規避風險的人工審核環節，往往會成為被捨棄的權衡項。

確認偏見

即使有人工審核，也存在一個更深層次的問題——審核人員無法保持絕對中立。人傾向於接受與自身已有知識體系或預期相符的資訊，以及仔細審查與其知識相悖的資訊。當律師讓人工智能系統檢索支援性判例時，系統會返回一份看似合理的引例列表，對於可能工作繁忙、壓力巨大的律師來說，逐一核查每個案例和引證，不僅違背本能，而且極耗心力。這就是確認偏見在起作用——一種潛藏於潛意識層面的人類認知特質。如果人工智能生成的錯誤內容剛好契合審核人員的預期，那麼人工審核的準確性就會降低。

專業過失

根據專業過失相關法律，專業人士在其特定職業領域內須遵守「合理注意義務」的標準。法院需要厘清的問題是，當人工智能成為常規工具時，「合理」應該如何界定。已有多名律師因向法院提交包含人工智能幻覺虛構內容的法律文書而遭到法院懲戒。法院認定該行為違反律師執業規範，同時可能構成專業過失。文書內容準確與否，責任歸於律師本人，而非其所使用的人工智能工具。在筆者看來，這雖是正確的法律立場，但卻催生了實操層面的困境。當市場迫使律師在採用人工智能的基礎上降低收費時，每位律師的工作量會增加，審核這些輸出在操作和認知上都變得極具挑戰性。

關鍵的一點是：我們至今仍缺少對照基準，無法獲知人工智能輔助帶來的差錯率變化。在人工智能出現之前，律師引用案例時，有多少次沒有完整閱讀、錯誤解讀或遺漏了相關的先例？醫生誤診或誤讀檢驗結果的頻率又有多高？由於基準資料記錄不完善，且各行業都在努力維護自身職業完美無瑕的形象，人工智能究竟會對專業工作產出品質造成何種實際影響，目前尚無清晰定論。甚至，會不會存在一種可能性：引入 人工智能後，專業人士整體作業準確率反而有所提升？

另一個問題是，普通民眾無需聘請律師也可自行出庭訴訟——如果他們的「人工智能律師」錯誤地引用了案例，又該如何處理？自行出庭的當事人自然不會被認定為專業過失，但法院是否會認定大語言模型的行為如同無牌律師（無論其使用者協議條款是否列明許可使用範圍），並找到某種方式，比如通過過失、合同或其他責任來源（例如產品責任法）追究其責任，以彌補因此浪費的法庭時間和額外訴訟成本？

與錯誤共存

以上種種問題，並非意味著專業工作場景應當棄用人工智能。未來的發展之路需要我們坦誠面對人工覆核本身存在的局限性。建議考慮以下幾點：

• 使用不同的人工智能模型來交叉驗證人工智能的輸出結果，即「人工智能干預」；
• 使用權威來源作為事實核查的資料來源，例如，將大語言模型文稿與 Lexis-Nexis 資料庫進行比對；
• 對團隊進行認知偏見方面的培訓，並通過測試以評估每個人的偏見程度；
• 向律師傳授高階事實核查的新技能；
• 挑選風險最高的輸出內容，並將人力集中用於更深入地審查這些內容；
• 在內容發佈前，規劃參與審查的人員和人數；以及
• 厘清有效審查對成本的影響，並預留足夠的專家進行審查。切勿在未核算人工及其他監督成本的前提下，貿然承諾大幅降價；在業務模式中預留充足時間，用以開展具備實質效用的覆核工作。

Subscribe to receive more articles like this here.