它不是查資料查錯了，它根本沒有在查，只是把句子接完。 先去公司自己的資料裡查一遍，它才只講查得到的東西。
#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI AI 為什麼會胡說，RAG 能救到哪裡。 阿哲，我上次問你，它會不會講得很順但其實是錯的。你那時候說順不等於對，說這件事會專門講一集。就是這一集。而且我要先講一句你可能不愛聽的：它講錯的時候，不是查資料查錯了。咦？那是什麼？它根本沒有在查。這一集講完你就會知道，公司要做的只有一件事：讓它回答之前，先去自己的資料裡查一遍。 那我們從最讓人生氣的那件事開始。它很認真地講出一個根本不存在的東西，這個叫什麼？這個叫幻覺。名字聽起來像它精神錯亂，其實它是在做它本來就被設計要做的事：把句子接完。 所以它不是故意騙我？不是。它沒有地方可以對答案，它只有一個習慣：後面一定要接得出東西。查不到的時候它不會空著，會接一個看起來很合理的。喔，就像有人被問到不知道的事，又不好意思承認，就一路講得很順把話圓完？就是這個樣子。而且最麻煩的是，它講對跟講錯的語氣完全一樣，順不等於對，你從口氣上分不出來。那我問它是不是真的，它會承認嗎？它會很有禮貌地道歉，然後再編一個給你。有用的不是問它對不對，是問它從哪裡看來的。 那要怎麼讓它查得到？得先把查這件事做好。你在公司系統裡打字去找，多半是在比對那幾個字有沒有出現；語意搜尋比的是意思像不像。 這有差嗎？我打的字，系統找得到不就好了。差在你常常不知道那份文件是用哪個字寫的。你打請假規定，公司文件上寫的是差勤辦法，比對字就一份都找不到。喔，就像我去五金行說我要那個把螺絲轉緊的東西，店員就知道我要螺絲起子？我根本沒講出那個名字。對，它聽的是你想幹嘛。但反過來要小心：它找得到的是意思像的，如果你要的是一個一字不差的編號，意思像就沒用了。那我打錯字，也找得到嗎？多半找得到，這就是它好用的地方。你換一種說法、少打一個字，它沒那麼容易被影響。 那我常聽到的 RAG，是不是就在講這件事？對。RAG 是把查這一步，塞在它開口之前。你問完，它先去公司的資料裡查一遍，再把查到的那幾段貼回桌上，然後才回答你。 桌上？就是你上次講的那張桌子？同一張。它沒有記性，只看得到攤在桌上的東西。查到的那幾段被貼上去，它才看得到；沒貼的，對它等於不存在。喔，就像請人回答之前，先把相關的那幾頁印出來擺到他面前？就是這個動作。但這裡有一個最大的誤會：它不是把幻覺治好了，是把它關在查得到的範圍裡。資料裡沒有的，它照樣會掰。那我怎麼分得出來，哪一句是查到的？叫它把出處附上來，然後真的去點開看一眼。附得出來也點得到的，才算數。 那它是去哪裡查？網路上嗎？不是，是去公司自己整理好的那一疊裡查，那一疊就叫知識庫。合約、報價單、規章、以前的客服對話，都在裡面。 那是不是把公司的檔案全部丟進去就好了？這是最多人踩的坑。裡面躺著三份版本不一樣的請假規定，它會挑一份講給你聽，不會告訴你還有另外兩份。喔，就像家裡的藥箱？過期的沒丟掉，急著要用的時候就會拿到過期那一盒。非常準。所以這一疊真正的工作不是收集，是整理跟汰舊。還有一件很多人沒想到：誰能看哪一份也要先分好，不然它會講給不該聽的人。那要整理到什麼程度才夠？你自己找得到，也講得出哪一份是現在有效的，就夠了。你自己都分不出來的，它更分不出來。 查得到，不代表查得準吧？你問到下一個名詞了。實務上會兩種找法一起用，一種比對字，一種比對意思，兩邊撈到的合起來，這叫混合檢索。 那重排序又是什麼？先撈一大把回來，再請一個比較挑剔的角色把這一大把重看一遍，挑出最該放上桌的那幾份，重新排前後。 那為什麼不乾脆全部都用意思去找？聽起來比較聰明啊。因為有些東西你要的是一字不差。料號、合約編號、發票號碼，這種東西沒有意思可言，少一碼就是完全另一個，只能一個字一個字對。喔，就像我去領包裹，光講那個藍色的箱子沒有用，得把那一串單號一個字不差地念出來？就是這樣，所以兩種一起用最穩。至於重排序，要記住它只是改順序，本來就沒撈回來的東西，它不會憑空生出來。那撈回來的是不是越多越好？不是。桌子就那麼大，貼太多它反而被不相關的內容帶走。撈的時候廣一點沒關係，真正放上桌的只留最前面那幾份。 那我把這一集重新排一次好不好？好，你來。幻覺不是它在說謊，是它一定要把句子接完，沒有的東西也接得出來。語意搜尋找的是意思像不像，不是那個字有沒有出現。RAG 是回答之前先查一遍，再把查到的貼回桌上。知識庫是公司自己那一疊整理過的資料，不是網路上的。混合檢索是兩種找法一起用，因為料號要一字不差。重排序是把撈回來的重排一次，只改順序。完全正確。以後有人跟你說他們的 AI 不會胡說了，你只要問一句：它這句話，是從哪一份文件查到的？ 企業級智庫引擎。讓公司的知識，答得出來、查得到、帶不走。
