2026年11月21日 星期六

[AI 回顧] Claude 的記憶架構:為什麼記得多,不一定做得好?

[AI 回顧] Claude 的記憶架構:為什麼記得多,不一定做得好?

摘要:Claude 一邊工作一邊記錄,事後再核對與整理;好的記憶重在可靠、精簡,而且找得到。



內容:


一件事值不值得記,往往要等到未來才知道;但 AI 在工作當下,就得決定要不要把它寫下來。這是文章《智慧體記憶的組成》討論的核心難題。它提出一種分工:工作時先記下可能有用的內容,工作之後再回頭核對、修正與整理。文章把後一個過程形容為「做夢」——這是對事後整理的比喻,不是說 AI 真的會睡覺。


這裡的「記憶」,也有特定意思。Claude 在訓練時學到「北京是中國的首都」,屬於原本具備的知識;它在同一段對話中記得你剛說的名字,屬於當前對話的上下文。即使對話太長、系統把前文壓縮成摘要,只要摘要仍留在這次對話裡,也不是本文要談的長期記憶。只有把資訊存成檔案,讓下一次新對話仍能取用,才是這裡所說的記憶。


文章把這套記憶分成四層:


原始紀錄:完整的對話與工作過程,是日後核對事實的依據。

工作筆記:Claude 執行任務時寫下的發現、經驗或待確認事項。

知識庫:把零散筆記整理成一頁頁主題詞條,並用連結建立關係,類似內部百科。

自動載入的目錄:每次開始新對話時先讀取的簡短內容,例如 memory.md,主要告訴 Claude「有哪些資料、該去哪裡找」。


這四層不是把同一份資料抄四遍。原始紀錄負責保留依據;筆記方便工作時快速留下線索;知識庫協助理解跨資料的關係;最上層則只放必要的導覽資訊。事後整理時,Claude 可以拿筆記回頭對照原始紀錄,改正錯誤、整合重複內容,並調整下次要先看到的目錄。


第一個關鍵:記筆記不能只停在「我可能錯了」。


文章描述一項資料庫問答測試:模型每答完一題,會得到正確答案,也可以寫筆記;下一題則在全新對話中開始,只保留筆記資料夾。理想的改進過程,不只是抄下錯題,而是先提出可能的錯誤原因,再回去驗證,最後歸納成下次能用的規則。


依分享內容,較早的模型往往只寫下猜測,沒有完成驗證與歸納,因此有筆記也未必明顯進步。較後面的測試則顯示,當筆記包含規則、支持規則的證據、已確認的答案,以及曾踩過的坑,成績改善更明顯。這說明記憶的價值不在「寫了多少」,而在於未來能不能放心使用。


第二個關鍵:記太多,可能比記太少更糟。


在文章提到的寶可夢遊戲測試裡,一個模型把戰鬥、道具、路人等經過大量寫成檔案;另一個模型只保留少數檔案,重點記錄自己試出來的經驗,以及目前目標和計畫。依分享內容,前者約一萬步寫出四百多個檔案,取得一個徽章;後者只寫十個檔案,取得四個徽章。


原因不難理解:遊戲狀態一直在變。道具在哪裡、角色走到哪裡,可能很快過期;檔案越多,越難找,也越需要花時間檢查。分享中甚至有模型連續多步都在新增、刪除和整理檔案,卻沒有推進遊戲。相較之下,像「連續嘗試某種操作無效時,應改變節奏」這類經過試錯得到的經驗,未來比較可能再次派上用場。當然,並非只有試錯經驗才值得記;明確的使用者偏好、長期目標與已核實的事實,也可能值得保存。重點是避免把所有經過都當成永久知識。


文章還指出,對能力較強的模型,過度細緻的記憶規則可能造成反效果。例如硬性要求「只記失敗經歷」,可能讓它漏掉成功且值得重複的方法。因此,比起規定每一筆該怎麼寫,更有用的做法往往是先說清楚:這份記憶將來要用來完成什麼任務。


第三個關鍵:已經寫下的記憶,也可能是錯的。


寶可夢測試中,Claude 曾把一座山附近的寶可夢中心位置記反。之後它相信筆記,多次依錯誤方向判斷路線,卻一直沒有發現問題。研究人員讓它回頭對照原始遊戲紀錄後,它才修正位置,重新找到入口並繼續前進。


這正是事後「做夢」最直接的用途:**筆記不是證據本身,必要時要回到原始紀錄核對。**日常使用 AI 也會遇到類似情況:你曾請它提醒某件事,後來計畫取消了,但舊檔案沒更新,它仍會反覆提醒。記憶若不維護,就可能把過去有效的資訊變成現在的錯誤指令。


第四個關鍵:知識庫擅長串連資訊,但不能取代搜尋原文。


文章中的「wiki」是一頁一個主題、頁面之間互相連結的知識庫。它適合回答需要綜合多份文件、整理關係或計算的問題;如果答案清楚寫在單一文件裡,直接搜尋原文通常更省事,也更容易核對。


依分享內容,在一項企業文件測試中,只靠知識庫答題得到 48%,只搜尋原始文件得到 53%,兩者搭配則得到 61%。另一組較需要跨文件整合的題目,使用知識庫的表現也優於只靠搜尋。不過,知識庫本身有維護成本:整理不當會漏資料、寫出錯誤連結,甚至越寫越長,變成一張和原始資料一樣難用的「地圖」。因此,知識庫應幫助人和模型更快掌握結構,而不是機械地複製所有原文。


第五個關鍵:每次自動讀取的檔案,越精簡越好。


最上層的記憶會進入每一次新對話,看似方便,卻有三個代價:它每次都占用 token;其中若有錯誤,錯誤也會反覆出現;內容太長時,重要指示反而可能被淹沒。文章所述的做法,是讓 memory.md 主要充當目錄:保留少量必要資訊與連結,把細節移到其他檔案,需要時再查。分享內容提到的載入上限為前 200 行或前 25 KB,這也凸顯目錄不宜塞滿細節。


事後整理還需要知道未來的用途與精確度要求。例如,要根據收購合約撰寫法律文書時,合同條款、數字和例外情況都可能是評分重點。若只籠統要求「整理成知識庫」,模型可能把關鍵條款概括掉;多人同時寫同一張表,也可能互相覆蓋。分享中的改善方式,是讓每份合同各有一頁、明確分工,並對必須精確的條款保留原文。多次整理完成後,也要從全局檢查頁面與連結,修補單次工作時看不到的缺漏。


這套設計仍有難題:工作當下記錄,能立刻派上用場,卻可能讓模型分心;事後再整理比較專注,卻來不及幫上眼前的任務。舊記憶也需要更新,但若每次都全面檢查,成本太高。因此,文章的重點不是找到一條「什麼都該記」的萬用規則,而是讓記錄、核對、搜尋與整理各司其職。


對一般使用者來說,可以直接採取幾個做法:告訴 AI 記憶將來的用途;讓自動載入的檔案維持為簡短目錄;定期拿筆記對照原始對話或文件,刪除過期資訊;跨多份資料的任務再建立知識庫;遇到合同條款、金額、日期等不能寫錯的內容,要求附上原文或出處,不要只信整理後的概述。


一句話說,好的 AI 記憶不是把一切都留下,而是知道該保留什麼、去哪裡核對,以及何時承認自己記錯了。

沒有留言:

張貼留言