2026年8月27日 星期四

[AI 分享] 用 Herder 管理多個 Coding Agent

[AI 分享] 用 Herder 管理多個 Coding Agent


摘要 : Herder 以狀態感知、終端持久化與 CLI,降低多 Agent 開發的切換成本。


內容:


現在寫程式時,最廉價的擴充資源就是 Agent:開一個 Codex 修改頁面,再啟動另一個做 Code Review,旁邊同時掛著開發與測試服務。帳面上的吞吐量看似拉滿了,人的注意力卻先爆了顯示記憶體。


你得在不同終端之間輪流查看:誰還在執行、誰卡在授權、誰早已完成?視窗一多,名稱很快就失去辨識作用。傳統終端只能顯示字元與日誌,無法理解其中的 Agent 究竟處於什麼狀態,因此大家只能手動巡查。


每次切換可能只花幾秒,累積起來卻會消耗大量心力,真正被破壞的是思考的連續性。Herder 想消除的,正是這筆隱形的排程成本。


為 Coding Agent 重新設計的 tmux


你可以把 Herder 理解成一套為 Coding Agent 重新設計的 tmux。它保留真正的偽終端窗格與持久化工作畫面,同時能辨識窗格裡執行的 Agent。


接入之後,Codex、Claude Code 等工具仍維持原生介面,測試腳本也能照常執行。若說 tmux、Zellij 擅長管理終端與版面,圖形化平台適合處理審批流程及環境隔離,那麼 Herder 剛好位於兩者之間,替終端補上 Agent 狀態感知、CLI 控制及本地 API。


整套程式只是一個 Rust 二進位檔,不強制建立帳號,沒有雲端控制面板,也不收集惱人的遙測資料。它沒有試圖吞下整套開發流程,而是專注於管理終端與 Agent。


Herder 的五層核心模型


Herder 的核心模型可分為五個物件:


Session

管理整套執行環境。日常使用一個預設 Session 通常就足夠,需要隔離時再建立具名 Session。


Workspace

通常對應一個程式碼倉庫,用來組織不同專案。


Tab

類似瀏覽器分頁,代表專案裡的特定工作視角。可以將 Agent、開發服務及測試工作分開。


Pane

真正的偽終端,可以執行任意命令。


Agent

在 Pane 中被 Herder 辨識出的 Coding Agent 程序。


測試腳本只算 Pane;Codex 則同時是 Pane 與 Agent。Pane 負責字元流,Agent 負責生命週期。底層狀態會一路向上彙整至 Tab 與 Workspace,因此即使同時開啟許多專案,也能快速找到卡住的節點。


程序、版面與對話是三種持久化


從架構來看,Herder 採用典型的 Client-Server 模式。伺服器掌握 PTY 程序與視窗版面,客戶端則負責顯示畫面及傳遞輸入。


正常 Detach 時,關閉的只有客戶端,背景中的 Agent、測試與開發服務都會繼續執行,也能讓多個客戶端連入同一個工作畫面。


但必須注意,伺服器才是狀態的唯一來源。Herder 伺服器一旦停止,其管理的程序也會終止。再次啟動時,雖然可以恢復目錄、版面與焦點,原本的程序卻無法復活。


官方整合可以保存 Agent 原生的 Session ID,協助接回對話,但無法讓已終止的建置程序重新執行。實驗性的 Pane History 也只是保存螢幕文字的緩衝區。


因此,不能把「持續執行」理解成所有狀態都會永久保存。程序、版面與對話的持久化是三件不同的事。


真正節省時間的是狀態追蹤


Herder 側邊欄會追蹤幾種主要狀態:


Working:Agent 正在執行工作。

Blocked:Agent 卡住,正在等待授權或使用者輸入。

Done:Agent 已在背景完成,但使用者還沒切過去查看,類似未讀訊息。

Idle:Agent 目前閒置,或完成結果已被查看。

Unknown:系統無法確定狀態,不能視為成功或失敗。


這些狀態會向上聚合。即使某個 Workspace 被放在背景,只要裡面出現 Blocked 狀態,Workspace 層級也會亮起提醒。


這才是關鍵:讓人的注意力跟著事件移動,而不是每隔幾分鐘手動巡查一次。


Herder 如何偵測 Agent 狀態


Herder 會先取得 Pane 的前景程序。遇到支援的 Agent 時,還會掃描終端底部畫面,透過 Screen Manifest 比對已知的 UI 特徵。


這種方式不要求每項工具都主動提供整合介面,因此 Codex、Claude Code 與 OpenCode 等工具可以低成本接入。不過,這種做法也有代價:如果 Agent 修改了提示介面,舊規則可能立即失效;若在 Herder 裡再套一層 tmux,也可能干擾前景程序的判斷。


官方整合則能利用原生 Session ID 補強辨識。遇到誤判時,可以執行:


herder agent explain



藉此查看究竟是哪一條規則命中。面對 Unknown 狀態時,不應盲信自動化,直接切到現場確認通常最可靠。


本機與遠端開發


安裝 Herder 後,在專案根目錄執行 herder,即可啟動預設工作畫面。使用者可以用滑鼠切換窗格及調整大小;習慣鍵盤操作的人,也能使用類似 tmux 的前綴鍵,不需要重新背誦大量快捷鍵。


遠端開發可直接使用原生 SSH。程式碼與 Herder 伺服器都留在遠端,即使 SSH 中斷,背景任務仍會繼續。網路恢復並重新連線後,原本的 Pane 仍會留在原位。


Herder 也針對窄螢幕做了調整,臨時使用手機終端查看部署結果或點選確認相當方便。若需要桌面端能力,也能在本機執行 Herder 客戶端連至遠端,甚至可將本機剪貼簿中的圖片傳入遠端工作畫面。


建議的 Workspace 配置


實務上,可以讓每個活躍倉庫使用獨立 Workspace,再依職責劃分 Tab:


Agent:程式碼生成與 Code Review。

Dev:執行熱更新開發伺服器。

Checks:編譯、靜態檢查與單元測試。

Deploy:監看發布流程。


切換 Workspace 時,目錄、Pane 與 Agent 狀態會一起切換,才能做到接近無損的上下文切換。


不要把所有程序都硬塞給 Agent 管理。基礎服務、測試與日誌最好獨立執行。Agent 完成後可以關閉,但開發環境仍要保留以便除錯;程式碼出錯時,到 Checks 查看錯誤,再到 Dev 重新整理頁面,各項工作互不干擾。


穩定的基礎目錄與版面配置,通常比背下大量快捷鍵更有價值。


雙 Agent 的高效陣型


一種典型配置是在同一個工作環境裡放兩個 Agent:


Builder:負責修改程式碼。

Reviewer:使用唯讀模式檢查 Diff。

旁邊另外執行開發伺服器與測試輸出。


Builder 完成修改後,Reviewer 直接接手檢查差異。如果 Reviewer 進入 Blocked,通常代表工作已到達需要人類判斷的系統邊界,此時再由人介入。


審查任務必須嚴格限制檔案範圍、測試腳本及寫入權限,否則一旦出問題,很難釐清責任。


Herder 不負責檔案隔離


必須注意,Workspace 只負責邏輯組織,不提供檔案隔離。兩個 Pane 如果指向同一目錄,仍然可能同時讀寫並產生衝突。


遇到大型需求時,應使用不同 Git 分支或 git worktree。Agent 之間的交接也應透過 Commit 或 Patch 完成。


Herder 提供的是執行容器與工作視角,Git 管理的是變更記錄,而最終驗收仍然必須由人負責。


CLI 才是真正的控制介面


不要只注意圖形介面,CLI 才是 Herder 控制面的真正入口:


layout:一次建立 Workspace、Tab 與 Pane。

pane:管理測試、服務與一般終端程序。

agent:啟動 Agent、傳遞 Prompt 並等待生命週期狀態。


透過腳本建立物件時,CLI 會回傳 JSON。應保存並使用其中穩定的 ID 操作,不要猜測新 Pane 的編號,也不要對目前焦點盲目發送命令。


利用這套能力,可以建立外部協調器:動態啟動 Reviewer、分派受限任務,再等待 Idle、Done 或 Blocked 等語義狀態。普通腳本若沒有 Agent 狀態,也能使用 Pane 的輸出等待功能捕捉關鍵字。


只要能等待語義狀態,就不要在腳本裡寫死 sleep 30。依靠固定時間猜測工作是否完成的流程非常脆弱,只要執行速度稍有變化,整條自動化管線就可能失效。

[AI 轉折] AI人才逆向流動:從技術競賽走向產業兌現

[AI 轉折] AI人才逆向流動:從技術競賽走向產業兌現

摘要 : AI核心人才轉向產品與傳統產業,反映競爭焦點已從技術上限轉向場景落地與交付。



內容:


在AI最熱門、融資與估值屢創新高之際,一批最接近技術前線的人卻開始主動離開。他們並非遭到裁員,而是轉往產品營運、傳統製造業,甚至回學校教書,或投入農業、連鎖餐飲等領域。


這些人的答案相當一致:看不到落地。


外界關注的是模型的能力上限,看它又能完成哪些新任務;業內人士面對的卻是交付下限,也就是模型在真實業務中能否穩定運作。實驗室裡效果驚人,到了客戶現場卻漏洞百出,兩者之間的差距就是「最後一公里」。


一名在大廠工作三年的模型工程師,曾參與化工廠設備故障預警專案。團隊投入半年,模型準確率超過九成,但正式落地時,現場師傅問:「如果誤報一次,停機一天損失六十萬,你們敢擔保嗎?」團隊無法承諾。


這名工程師後來轉往規模較小的工業質檢公司,薪資沒有增加,但能直接接觸真實資料、產線與工人。他認為技術已經足夠,真正不足的是對場景的理解,因此選擇深入產業補足能力。


從研究轉向產品的人,是在補商業化能力,因為再強的模型若不能解決具體問題,就無法產生收入。從大廠前往傳統產業的人,是在補場景縱深,因為通用能力已成紅海,真正的護城河藏在產業內部。至於徹底離開的人,則是在評估後認為投入產出比不再划算。


這些選擇雖然方向不同,卻指向同一件事:AI產業已經進入兌現期,開始從講故事轉為交答卷。


前兩年,AI職缺是明顯的賣方市場,只要具備模型調校能力便有人爭搶。如今,企業的招聘條件逐漸加入「熟悉特定行業流程」與「具備交付經驗」。單一技術能力的議價空間正在下降,結合技術、產業與交付經驗的複合能力則更加重要。


第一個提醒是,不要只學工具。AI工具的替代週期可能只有幾個月,今天花錢學習的技巧,明年或許就會內建成一個按鈕。真正有價值的是對行業的理解,包括哪個環節最痛、誰願意付費,以及驗收標準是什麼。


更可靠的路徑,不是從AI裡尋找問題,而是先從自己熟悉的領域找到真實問題,再運用AI解決。順序一旦顛倒,方向也可能隨之偏離。


第二個提醒是,警惕只談能力上限、卻不談交付下限的人。許多課程只展示模型能做什麼,卻很少說明它在真實業務中如何出錯。真正參與一線交付的人,更關心資料從哪裡來、錯誤由誰承擔,以及系統上線後如何維護。


判斷一個人是否真正投入實務,可以觀察他是否願意談風險、成本與代價。


最懂AI的人選擇離開,並不代表這個產業失去前景,而是容易完成的部分已逐漸結束。真正的機會才正要開始,只是它不一定存在於最熱門的地方,而是藏在那些艱苦、緩慢,卻又必須有人完成的產業現場。

2026年8月25日 星期二

[AI 衝擊] 我們可能是最後一代白領

[AI 衝擊] 我們可能是最後一代白領

摘要 : AI正快速取代高階智力勞動,白領應立即調整工作方式與人生定位



內容:


矽谷一線創業者透露,頂級實驗室的程式碼在去年仍有約70%至80%由人類撰寫,今年卻降至不到1%。短短一年內,程式設計師從主要生產者轉為任務分配者與審核者,甚至連審核速度都開始追不上AI。


部分頂尖AI研究員也擔心,隨著自動化AI研究系統持續發展,自己可能在一兩年後失去工作。這意味著,當前這段時間或許是這一代白領僅存的轉型窗口。


### 六組正在發生的變化


第一,前沿實驗室與頂尖工程師已很少親自撰寫程式碼。Claude Code、Codex等工具在部分工作上的表現,被認為已接近Meta內部L8、L9級工程師,也就是首席架構師或技術長的水準。有些創業者甚至表示,Claude在部分任務上比自己的CTO更強。


第二,Token消耗量正在成為新的生產力指標。矽谷一線工程師每天可能使用數百美元、每週數千美元的Token。Meta等公司不只提供近乎不限量的使用額度,還統計員工的Token用量,鼓勵其他人模仿高用量者。部分公司面試時甚至會提供一千美元額度,觀察應徵者能多快、有效地將Token轉化為成果。


第三,研究與開發速度大幅提升。過去一個構想從提出到完成程式驗證,通常需要兩至三週,如今可能只需一至兩天。Anthropic與OpenAI內部已出現半自動、甚至接近全自動的實驗流程;部分數學推導與科研突破,也可能直接產生於Codex和Claude的互動。


某些前沿多模態團隊的資料流程,從原本需要12個月,縮短至數天或一週。Anthropic也曾在50多個工作日內發布70多項產品與功能,速度遠超傳統網路產業的開發節奏。


第四,最了解AI能力的人,也開始擔心被AI取代。下一代自動化AI研究員正在形成,可能直接接手目前研究人員的工作。相關預測認為,這一代人或許會成為最後一代傳統白領;原本看似激進的判斷,正逐漸成為現實。


同時,美國本科畢業生的就業情況轉差,大型科技公司仍持續裁員。AI不只減少部分職位,也可能切斷初級人才從基層工作累積經驗、逐步成長的路徑。


第五,知識與智力正被壓縮進模型,轉化為可以計價的運算資源。過去,人們透過教育、學習與經驗換取工作機會;如今,許多知識能力正被轉化為一串串Token。


程式設計師、律師、醫生、仲介與銀行從業者等中產職業,恰好都是AI積極進入的領域。印度資訊外包產業可能因此面臨衰退,部分訂閱制軟體的需求也正在下降,因為使用者發現,一個通用AI工具可能已足以處理多種任務。


第六,現階段最直接的建議仍是積極使用AI。短期來看,AI優先取代的可能是不願使用AI的人;能將AI深度嵌入工作流程者,反而有機會成為受益者。


AI也正在壓低創業的組織成本,使「一人公司」更容易出現。未來人的價值,可能更多轉向創造力、審美、判斷力與需求定義能力。


### 「智力坎蒂隆效應」


傳統的坎蒂隆效應指出,當新貨幣進入經濟體系時,越靠近貨幣注入點的人,越能優先獲益;距離越遠的人,不但較難獲利,還可能承擔通膨成本。


AI則帶來一種新的「智力坎蒂隆效應」。人類歷史累積的書籍、論文、程式碼與對話,被壓縮進大型語言模型,成為可流動、可計價,也能重新分配的智力資源。


最靠近智力注入點的,是Anthropic、OpenAI、Meta等公司的研究員、工程師,以及大量使用Token的矽谷創業者。他們並非突然變得更聰明,而是取得了數倍甚至數十倍的外部智力,因而能用一天完成過去需要數週的工作。


第二層則是位於矽谷之外、但對AI高度敏感的創業者、投資人與獨立開發者。他們不在技術注入的核心,卻能提早感受到變化方向。


距離最遠的,是仍沿用過去工作方式、不願或不敢將AI深度整合進工作流程的大多數白領。他們未必能力不足,只是尚未意識到生產力的河道已經改變。


### 從創造者變成AI的審核員


一位史丹佛電腦博士出身、管理數十人團隊的技術長表示,他每天的核心工作已不再是寫程式,而是將任務拆解後交給Claude,再審核AI產出的程式碼。


問題在於,AI生成程式碼的速度已逐漸超過他的審核能力。他的工作從創造,變成追趕AI創造的速度;個人價值也不再主要來自知道多少,而是能多快檢查AI的產出。


這使他開始懷疑,博士學位與過去15年累積的程式經驗,還能保有多少價值。如果初級工程師搭配Claude,兩天就能完成他過去兩週的工作,那麼CTO的存在價值又是什麼?即使答案是管理經驗,AI也正在學習如何管理其他AI。


真正令人不安的,不只是「我會不會被取代」,而是「我過去累積的一切,是否正在被系統性地重新定價」。


### 這次技術革命為何不同


常見觀點認為,歷史上的技術革命雖然淘汰舊工作,也會創造新工作。蒸汽機替代挑夫,卻創造工程師;自動化替代裝配工人,也創造了程式設計師。


過去的基本結構,是機器取代較低階的體力工作,人類則往更高階的腦力工作遷移。但這一次,AI可能直接挑戰整條升級階梯。


抽象思考、程式設計、複雜判斷與創造性解題,原本被視為人類能力的頂層,卻也是大型語言模型快速進步的領域。相較之下,人類覺得簡單的動作能力、環境適應與細微情緒辨識,反而是AI較難掌握的部分,這正是莫拉維克悖論所描述的現象。


當AI從智力階梯頂端向下取代,人類難以繼續往上遷移;若轉向體力工作,又可能面臨AI與機器人結合後的自動化。白領職業原有的定價基礎因此被逐步抽空,而且未必存在更高一級、足以容納大量勞動人口的新職位。


### 創造力與審美不是寬廣的避風港


創造力與審美常被視為人類最後的優勢,但其市場需求量可能遠低於傳統中產工作。


社會之所以能容納大量白領,是因為合約、程式碼、財務、診斷、設計與分析等中等複雜度工作,每天都在各行各業大量發生。相較之下,一部電影或一首歌曲,就能供數千萬甚至上億人共同消費。


創意產業容易形成贏家通吃。頂尖少數人可能取得大部分收入,中間群體只能勉強維生,其餘多數人甚至無法進入市場。因此,「未來依靠創造力與審美」雖然指出了一條路,卻可能是一扇非常狹窄的門,無法容納現有規模的中產人口。


### 普通人可以採取的行動


第一個層次,是立即擁抱AI,主動向智力注入點靠近。將AI深度整合進工作流程,才能暫時從可能被替代的一方,轉為運用AI提升產能的一方。


但這個做法主要是在爭取時間,而不是永久解決問題。AI本身也在協助研發下一代AI,人類今天學會的操作方式,未來仍可能被進一步自動化。


第二個層次,是重新思考自己與工作的關係。過去「好好讀書、找到穩定工作、持續升職,最後退休」的人生腳本,建立在智力勞動能長期被社會需要並穩定定價的前提上,而這個前提正在動搖。


這種崩潰不必然只有負面意義。它也迫使人們重新思考:一個人花20年接受教育,再用40年重複AI能快速完成的工作,是否真是唯一合理的人生道路。

[AI 衝擊] AI重組職場:白領首當其衝

[AI 衝擊] AI重組職場:白領首當其衝

摘要 : AI正取代標準化工作,職場入口縮減,跨域與指揮AI能力成為新競爭力。



內容:


世界經濟論壇預測,到2030年,全球將有9,200萬個職位消失,同時新增1.7億個職位,淨增加約7,800萬個。表面上就業總量仍然成長,但同一份報告顯示,54%的企業高階主管認為AI會取代大量現有職位,僅23%認為AI能創造大量新工作,認為AI會帶來全新工作的比例更只有12%。此外,57%的經濟學家預期,未來十年職位數量將淨減少。


AI的衝擊並非平均分布。依照頭部AI實驗室對各職業受AI影響程度的排名,程式設計師達74.5%,客服代表為70%,資料輸入與市場研究分析等職業也超過六成。這些工作的共同點,是大量處理標準化文本、資料與程式碼,規則清楚、成果可重複,正是AI最容易接管的任務。


相較之下,廚師、修理工、護理人員等需要處理複雜現場狀況,或提供情感支持的職業,受AI影響程度接近零。這一輪AI衝擊,率先影響的可能不是藍領勞工,而是過去薪資較高的白領中產。相關職位的碩士比例較高,時薪也比平均水準高出47%;知識與薪資越高,工作反而可能越容易受到AI影響。


國際貨幣基金組織指出,AI可能優先淘汰初級職位,使年輕人累積經驗的「學徒期」逐漸消失。過去應屆畢業生通常從製作報表、整理資料、執行客服等工作開始,但這些入門級任務如今能被AI快速完成,導致年輕人進入職場的入口變窄。


不過,機會也正在新的產業結構中出現。中國AI產業的招聘企業數量半年內成長24.8%,職位數增加10.6%。人工智慧工程師的供需比為2.62,平均每位求職者可對應約2.6個職位,核心產業人才缺口超過500萬人。其中,智慧體開發人才需求一年成長244%,AI產品經理需求則增加87.7%。


這些數據反映,真正稀缺的不是單純會使用AI的人,而是既懂產業與業務,又能運用AI解決問題的跨域人才;逐漸過剩的,則是能被AI標準化與複製的執行工作。AI帶來的變化不只是職位消失,更是職業重新組合:被取代的是部分任務,需要升級的是工作者本身。


對於AI與就業的未來,目前存在悲觀與樂觀兩種觀點。悲觀者看到的是2026年前四個月,全球因AI產生近5萬人的裁員,以及57%的經濟學家預期未來十年職位淨減少。樂觀者則引用Gartner的預測,認為2028年至2029年,自主AI業務可能從裁員工具轉變為淨就業創造者,並催生AI無法完成的新職業。


兩種判斷可能同時成立:短期內,職場會經歷明顯陣痛;中期之後,才可能逐漸恢復平衡。就像電子商務減少了傳統櫃檯職位,卻創造出大量物流配送工作。真正的關鍵,是工作者能否度過轉型期,等到新職業與新需求出現。


普通人可以從三個方向著手應對:


第一,計算自己的工作受AI影響程度。檢視日常工作中,有多少內容能在規則寫清楚後,由AI直接重現。如果一項工作的產出可以被操作手冊完整描述,就可能屬於AI優先接管的範圍,應及早調整工作內容與能力結構。


第二,從「被AI輔助」轉向「指揮AI工作」。可以讓AI負責初稿與例行處理,自己則專注於判斷、定稿、異常處理、現場經驗及情感溝通。這不只是學習一項工具,而是全面改變工作方式。


第三,累積複合型能力標籤。「懂業務+會用AI」正逐漸成為比單一技術更有價值的組合,AI產品經理需求快速成長便是明顯訊號。


不是AI直接取代人,而是懂得運用AI的人取代不會運用AI的人;而那個懂AI的人,也可以是重新定義自身工作的自己。AI時代真正考驗的,不只是會不會使用工具,而是能否重新設計自己的工作與價值。這個選擇,可能決定未來三至五年,個人的職涯迎來升級,還是面臨出局。

2026年8月24日 星期一

AID05-AI 為什麼會胡說,RAG 能救到哪裡-5分鐘學AI

它不是查資料查錯了,它根本沒有在查,只是把句子接完。 先去公司自己的資料裡查一遍,它才只講查得到的東西。


#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI AI 為什麼會胡說,RAG 能救到哪裡。 阿哲,我上次問你,它會不會講得很順但其實是錯的。你那時候說順不等於對,說這件事會專門講一集。就是這一集。而且我要先講一句你可能不愛聽的:它講錯的時候,不是查資料查錯了。咦?那是什麼?它根本沒有在查。這一集講完你就會知道,公司要做的只有一件事:讓它回答之前,先去自己的資料裡查一遍。 那我們從最讓人生氣的那件事開始。它很認真地講出一個根本不存在的東西,這個叫什麼?這個叫幻覺。名字聽起來像它精神錯亂,其實它是在做它本來就被設計要做的事:把句子接完。 所以它不是故意騙我?不是。它沒有地方可以對答案,它只有一個習慣:後面一定要接得出東西。查不到的時候它不會空著,會接一個看起來很合理的。喔,就像有人被問到不知道的事,又不好意思承認,就一路講得很順把話圓完?就是這個樣子。而且最麻煩的是,它講對跟講錯的語氣完全一樣,順不等於對,你從口氣上分不出來。那我問它是不是真的,它會承認嗎?它會很有禮貌地道歉,然後再編一個給你。有用的不是問它對不對,是問它從哪裡看來的。 那要怎麼讓它查得到?得先把查這件事做好。你在公司系統裡打字去找,多半是在比對那幾個字有沒有出現;語意搜尋比的是意思像不像。 這有差嗎?我打的字,系統找得到不就好了。差在你常常不知道那份文件是用哪個字寫的。你打請假規定,公司文件上寫的是差勤辦法,比對字就一份都找不到。喔,就像我去五金行說我要那個把螺絲轉緊的東西,店員就知道我要螺絲起子?我根本沒講出那個名字。對,它聽的是你想幹嘛。但反過來要小心:它找得到的是意思像的,如果你要的是一個一字不差的編號,意思像就沒用了。那我打錯字,也找得到嗎?多半找得到,這就是它好用的地方。你換一種說法、少打一個字,它沒那麼容易被影響。 那我常聽到的 RAG,是不是就在講這件事?對。RAG 是把查這一步,塞在它開口之前。你問完,它先去公司的資料裡查一遍,再把查到的那幾段貼回桌上,然後才回答你。 桌上?就是你上次講的那張桌子?同一張。它沒有記性,只看得到攤在桌上的東西。查到的那幾段被貼上去,它才看得到;沒貼的,對它等於不存在。喔,就像請人回答之前,先把相關的那幾頁印出來擺到他面前?就是這個動作。但這裡有一個最大的誤會:它不是把幻覺治好了,是把它關在查得到的範圍裡。資料裡沒有的,它照樣會掰。那我怎麼分得出來,哪一句是查到的?叫它把出處附上來,然後真的去點開看一眼。附得出來也點得到的,才算數。 那它是去哪裡查?網路上嗎?不是,是去公司自己整理好的那一疊裡查,那一疊就叫知識庫。合約、報價單、規章、以前的客服對話,都在裡面。 那是不是把公司的檔案全部丟進去就好了?這是最多人踩的坑。裡面躺著三份版本不一樣的請假規定,它會挑一份講給你聽,不會告訴你還有另外兩份。喔,就像家裡的藥箱?過期的沒丟掉,急著要用的時候就會拿到過期那一盒。非常準。所以這一疊真正的工作不是收集,是整理跟汰舊。還有一件很多人沒想到:誰能看哪一份也要先分好,不然它會講給不該聽的人。那要整理到什麼程度才夠?你自己找得到,也講得出哪一份是現在有效的,就夠了。你自己都分不出來的,它更分不出來。 查得到,不代表查得準吧?你問到下一個名詞了。實務上會兩種找法一起用,一種比對字,一種比對意思,兩邊撈到的合起來,這叫混合檢索。 那重排序又是什麼?先撈一大把回來,再請一個比較挑剔的角色把這一大把重看一遍,挑出最該放上桌的那幾份,重新排前後。 那為什麼不乾脆全部都用意思去找?聽起來比較聰明啊。因為有些東西你要的是一字不差。料號、合約編號、發票號碼,這種東西沒有意思可言,少一碼就是完全另一個,只能一個字一個字對。喔,就像我去領包裹,光講那個藍色的箱子沒有用,得把那一串單號一個字不差地念出來?就是這樣,所以兩種一起用最穩。至於重排序,要記住它只是改順序,本來就沒撈回來的東西,它不會憑空生出來。那撈回來的是不是越多越好?不是。桌子就那麼大,貼太多它反而被不相關的內容帶走。撈的時候廣一點沒關係,真正放上桌的只留最前面那幾份。 那我把這一集重新排一次好不好?好,你來。幻覺不是它在說謊,是它一定要把句子接完,沒有的東西也接得出來。語意搜尋找的是意思像不像,不是那個字有沒有出現。RAG 是回答之前先查一遍,再把查到的貼回桌上。知識庫是公司自己那一疊整理過的資料,不是網路上的。混合檢索是兩種找法一起用,因為料號要一字不差。重排序是把撈回來的重排一次,只改順序。完全正確。以後有人跟你說他們的 AI 不會胡說了,你只要問一句:它這句話,是從哪一份文件查到的? 企業級智庫引擎。讓公司的知識,答得出來、查得到、帶不走。

2026年8月22日 星期六

[AI 洞察] AI時代的核心競爭力:判斷力、審美與專注

[AI 洞察] AI時代的核心競爭力:判斷力、審美與專注

摘要 : AI降低工具門檻,真正拉開差距的是判斷力、專業品味、底層理解與專注。


內容:


媒體經常展示AI最驚豔、最成功的一次結果,讓人產生AI無所不能的印象。但實際使用時,我們往往需要花大量時間檢查、修改與補充。展示中的最佳結果、模型的平均表現,以及個人在特定情境下得到的結果,本來就存在差異。


當你發現使用AI後,工作量反而增加了好幾倍,某種程度上代表你真正入門了。就像手機、電子郵件等工具讓溝通更方便,也讓人變得更忙。AI可以同時生成大量研究構想、文章或實驗方案,但人仍須逐一判斷細節,工作瓶頸也會從「產生內容」轉移到「審核與決策」。


因此,不應讓AI毫無限制地發散。與其取得二十個平均水準的答案,不如透過多輪互動,逐步聚焦出三個經過思考、有品味且足夠深入的答案。AI應該成為思考的延長線,而不是取代人的主力。


檢查AI結果的工作,也可以部分交給其他模型。可將A模型的答案交給B模型挑錯,再把B模型的批評交回A模型回應,形成「左右手互搏」。如果不同模型的錯誤相對獨立,它們在同一處同時出錯的機率可能更低。不過,人仍應仔細閱讀它們的辯論,藉此提升自己的品味與判斷能力。


未來,AI產業會持續降低工具的使用摩擦。就像沒有人特別強調自己會使用智慧手機或網路購物,熟練操作AI也終將不再稀缺。真正困難的是:能否做出好產品、好影片,能否正確解讀資料,能否判斷結果是否可以交付,以及交付後會造成什麼影響。


AI時代最核心的能力,可以濃縮為三個字:判斷力。人必須判斷答案的對錯與好壞、需要修改什麼、能否交付,以及可能產生什麼後果。判斷力來自每個領域特有的專業、品味與審美,而不是單靠一門課就能學會。它需要透過主動性、好奇心、長期實踐與回饋逐漸形成。


當一個人覺得AI生成的內容非常完美,有時並不代表AI真的毫無缺點,而可能是因為自己對該領域還不夠專業。專業人士通常能迅速看出生成圖片、程式碼、論文或實驗中的偏差。由於人很難把所有脈絡、限制與思考完整告訴AI,輸出必然可能偏離需求。能準確發現並修正這些偏差,才是人的專業價值。


如果一個人具備導演的審美,能辨別故事、分鏡與受眾接受程度,AI就能放大這種稀缺能力。反之,如果缺乏相關品味,AI可能只會協助生成一個「看起來還不錯」的作品;當所有人都能得到類似結果時,也就無法建立比較優勢。只有擁有超越AI的稀缺能力,才能用AI進一步放大自身價值。


在內容創作中,第一個關鍵是視角。任何事情都能從許多角度切入,AI也能列出無數觀點,但哪個角度最適合當下環境、特定受眾與傳播需求,哪個角度真正具有洞見,仍需要人來決定。許多文章之所以像流水帳或白開水,往往不是文字不夠工整,而是缺少獨特視角。


第二個關鍵是不完美。AI可以寫出工整、接近優秀平均值的文字,但人類的記憶與情感,經常來自意外、殘缺和偏離計畫的經驗。旅行中最難忘的,可能不是依照行程完成所有打卡,而是走錯路後遇見的一條小巷、一家小店或一個人。這些偶然與不完美,正是人類作品的重要價值。


當大眾看慣AI短劇、文章與影像後,審美也可能隨之提高,進而要求更不同、更深入的作品。新的風格與流派仍可能先由人創造,再被AI學習。每個人不一定在所有事物上都有審美,但通常會在自己長期好奇或專業投入的領域中,形成辨別品質的能力。


AI確實會製造大量品質普通甚至被視為垃圾的資訊,但一個好工具產生垃圾的難度,本來就遠低於產生傑作。某些在專業或文學標準下不夠好的內容,也可能在傳播、陪伴或提供意義方面產生價值。大量非主流內容增加了世界的多樣性,其中也可能逐漸湧現出未來的經典。


歷史上,不少後來被認為重要的藝術風格,最初也曾被視為垃圾或異端。當AI大量生成主流內容,人類創作者反而可能被迫尋找更非主流、更獨特的切入角度。嘗試越多,產生新風格與經典作品的可能性也可能提高。時間最終會沉澱出真正有價值的內容。


這一代學生能以更低成本接觸世界最好的工具、課程、知識與觀點,對新事物的接受速度更快,思考範圍也更廣,並且更加關注自我價值與生活選擇。然而,工具愈容易取得,人們對底層原理的理解也可能愈淺。


當腳踏車、拉鏈或軟體只被當成日常工具,人們通常不再追問它們如何運作。事物剛出現時,人們會研究其底層原理;當它普及後,多數人只在意如何使用。使用主義可以提高效率,卻也可能讓人對數學、機器與世界運作方式的理解失去細節與準確度。因此,教育除了教學生使用AI,也應重視基本能力、底層原理與結果判斷。


面對不確定性,資料與證據不一定能帶來絕對真相,而是讓不確定性減少一些。世界不是只有零與一,而是在完全不確定和完全確定之間存在廣闊空間。學習、決策與認知的作用,是讓我們在這條座標上移動,而不是消除所有不確定性。


系統工程還提醒我們,局部最優不等於全域最優。如果要求每次學習、每個選擇都立刻有用、每一步都必須向上,最終可能只會停在一座局部高峰。就像被隨機放在喜馬拉雅山脈後,每一步都往高處走,不代表最後能登上珠峰。要抵達真正理想的目標,有些階段可能必須繞路、下降或承受暫時無效。


至於大模型是否真的在思考,答案取決於對「思考」的定義。如果思考只是接收資訊、處理資訊並產生類人的結果,那麼大模型已經能夠思考;但如果思考還包含一致性、價值觀、記憶沉澱、意識與持續變化,大模型仍有很長的距離。


人工智慧產業經常以擬人化方式解釋模型,因為這樣容易理解,但類比不等於真實機制。機器與人的資訊處理、情感和意識可能走在完全不同的路上。將AI只當工具,可能低估了它;直接把它當成人,也不恰當。更合適的方式,是把它視為能共同工作的「機器夥伴」:它能提供的就交給它,無法提供的仍由人完成。


AGI何時到來無法準確預測。技術發展常出現斷層式跳躍,例如GPU運算推動神經網路發展,注意力機制與Transformer又帶來另一輪突破。我們知道未來仍可能出現跳躍,卻無法預知具體時間。AGI或許一直在逼近並解決更多人類問題,但它何時達到何種程度,目前只能等待與觀察。


大模型的發展大致可分為幾個階段。第一階段是Transformer與規模化法則:透過更多資料與參數,讓模型自行學習人類資料中的規律。第二階段是推理模型:不直接產生答案,而是生成、評估並反覆修正解題過程,以提高結果品質。第三階段是Agent:AI不只聊天,也開始操作數位世界,未來還可能結合具身智慧進入物理世界。


具身智慧目前仍面臨資料不足、機械能力、感知與穩定性等問題。人們正在蒐集大量真實操作資料,但距離成熟可能仍需多年。AI能力會持續變強,但其穩定性與真正落地的時間仍難以確定。


對AI團隊與個人而言,穩定、寬鬆的環境有助於創造,但優秀團隊發展愈快,成員愈可能受到更好待遇與自我實現機會的吸引,人才流動難以避免。真正值得借鑑的原則是克制:不要認為自己什麼都能做,而應把專注力放在一個較小的領域。


當AI能快速生成無數可能性時,人的價值不再是產出更多平均答案,而是選出值得深入的方向。愈是在AI能力強大的時代,愈需要專注、判斷與取捨,把有限精力投入真正具有專業性、品味與長期價值的事情。

2026年8月21日 星期五

[AI 解析] AI新職缺背後的薪資神話與產業真相

[AI 解析] AI新職缺背後的薪資神話與產業真相

摘要 : 拆解AI三類新職缺的薪資神話、資料荒與企業落地真相。



內容:


近期網路盛傳一種AI職缺起薪三萬元、月薪最高十萬元,另有期權、簽字費,年薪可達一百五十萬元。追查來源後發現,最初是美國年薪二十萬美元的資料,換算約人民幣一百三十六萬元;中文報導先將其寫成「年薪百萬」,後續自媒體又加工成月薪十萬元、年薪一百五十萬元,卻只在文末註明「個人原創,僅供參考」。


實際招聘行情沒有傳聞中那麼誇張。阿里雲相關職缺標示月薪兩萬至五萬元、十六薪;阿里健康在LinkedIn上開出的區間約為每月三萬至六萬元。財經媒體訪問五名實際從業者後發現,幾乎沒有人真正拿到外界所說的百萬年薪,甚至有北京實習生每天僅領兩百元,每週工作五十小時。


不過,這類職缺也並非完全炒作。美國招聘平台上的相關職缺,一年內由643個增加至5,330個,成長超過八倍。LinkedIn執行長Ryan Roslansky曾預測,未來五年將有三類工作快速成長:資料標註員、前沿部署工程師,以及資料中心相關職位。


第一類是資料標註員,英文為Data Annotator。大型模型要持續進步,需要大量人員依照自身專業,判斷模型回答是否正確、哪些內容合理、哪些存在錯誤。不同領域和語言,都需要相應的專業人士參與評測。


第二類是前沿部署工程師,簡稱FDE。他們進入客戶公司,理解業務流程,協助模型真正投入工作,並將現場問題轉化為產品與模型的改進方向。


第三類則是資料中心相關工作,包括建設機房、安裝伺服器,以及管理供電、散熱、網路和運算資源的人員。


LinkedIn也曾表示,AI在平台上創造了將近130萬個新職缺。但其統計方式,是計算2023年至2025年間幾種指定職稱的招聘貼文數量,並沒有扣除同期消失的工作。因此,130萬代表的是招聘廣告數量,不能直接等同於淨增加130萬個工作機會。


這項統計至少能證明,相關人才確實正被大量招聘。更值得注意的是,這三類工作並不是彼此獨立的機會,而是AI產業發展的三個階段:資料標註員負責餵養模型,前沿部署工程師負責教模型進入企業工作,資料中心人員則為模型建立運作空間。


三者背後共同的核心,是資料正在變得愈來愈昂貴。


過去,網路上的公開文字幾乎可以免費取得。2023年4月,Reddit執行長公開表示,平台上的語料非常有價值,沒有理由免費提供給全球最大型的科技公司。到了2024年,Reddit進一步要求內容爬取者先簽訂協議,並透過修改robots.txt限制未獲授權的搜尋引擎取得新內容,將資料轉化為一道收費閘門。


Epoch AI曾估算,全球有效的公開文本存量約為三百萬億個詞元,可能在2026年至2032年間被高品質模型訓練需求消耗殆盡。確切年份仍可討論,但方向很明確:容易取得的公開資料正在減少,企業接下來必須付費購買或自行製造。


Anthropic便曾購買數以百萬計的紙本書,切除書脊後逐頁掃描,再銷毀紙本。相關事件後來進入司法程序。法院認為,使用合法取得的內容訓練模型本身可構成合理使用;真正造成法律問題的,是從盜版書庫下載並長期保存作品。後續和解金額達十五億美元,涉及四十八萬多部作品。


中文網路一度將此事簡化成「燒書」,甚至與焚書坑儒相比,但法院其實區分了合法購書掃描與下載盜版內容。外界擔心絕版書或珍貴紙本遭到不可逆破壞,也並非毫無道理,因此馬斯克後來曾主張保留原書,採用不破壞紙本的掃描方式。


真正值得關注的是,一家估值數百億美元的公司,為了取得文字資料,願意做到逐本購買、拆解與掃描。這個動作本身,已足以說明資料的價值。


資料標註工作也因此出現分化。傳統上,人們想到的是在螢幕上框選圖片、貼標籤的低薪流水線工作,這類任務確實存在,而且正逐漸被自動化取代。現在真正昂貴的,是專業評測:醫學問題要由醫師判斷,法律問題要由律師審查,程式碼則需要工程師評估。


當模型已能產出八成看似合理的回答,剩下兩成錯在哪裡,往往只有真正的專業人士能看出來。因此,這類工作的門檻並不在「標註」本身,而在標註者原本具備什麼專業。


Scale AI是其中具代表性的公司。2024年5月,其估值約138億美元;一年後,Meta以143億美元取得49%股份,將公司估值推高至290億美元以上,並承諾每年至少採購4.5億美元服務。


然而,Scale AI背後約有24萬名分布全球的標註人員。若將採購金額平均分配,每人每年不到1,900美元,實際報酬當然會依任務而異:專業領域可能達每小時30至50美元,普通任務則約15至25美元。這也說明,高估值平台、專業人才與底層低薪標註員,可能同時存在,求職者不能把不同層級的職缺混為一談。


至於前沿部署工程師,模型公司願意付出高昂成本,讓年薪數十萬美元的工程師長期進駐客戶公司,目的並不是直接取得客戶資料。


OpenAI的服務協議指出,除非客戶明確同意,否則不會使用客戶內容開發或改進服務;Anthropic的商業條款禁止使用客戶內容訓練模型;Palantir也表示不會利用客戶資料訓練AI。


這些工程師真正帶回公司的,是現場訊號與評測結果。他們要找出模型在哪些環節無法工作,形成評測驅動的反饋,再影響產品和模型的發展路線。資料是原料,評測則是一張清楚指出「模型哪裡不行」的清單,後者有時比原始資料更有價值。


實際工作內容通常是「六分溝通、四分技術」。有北京實習生每週三天待在客戶公司或前往客戶的路上;也有深圳的年輕從業者表示,自己雖是公司第一位專職FDE,薪資仍接近產品經理,並沒有網路傳聞那般驚人。


這其實是一種翻譯工作:企業不懂模型,模型也不懂企業,FDE負責在兩者之間轉譯需求。這項能力的價值,取決於兩端的距離有多大。當企業與模型未來能夠直接溝通,中間人的重要性也可能下降。


Palantir長期被質疑本質上是一家諮詢公司,派大量工程師到客戶現場從事人工服務,不具備純軟體公司的經濟效益。但Palantir的毛利率一度達86%,相較之下,埃森哲約為32%。


關鍵差異在於,派出去的人帶回了什麼。如果工程師只是替單一客戶完成工作,成本就是一次性的服務工時;如果他們把現場卡點帶回公司,轉化為平台功能,這些成本便成為能持續累積的研發投入。


Palantir在年報中也將前沿部署工程師定位為「替平台發現研發機會的第一線」。同樣是派人進駐客戶,一種結果是諮詢服務,另一種則可能沉澱為可重複銷售的產品。


Anthropic也曾聯合黑石、Hellman & Friedman與高盛,成立面向中型企業的AI服務公司,首輪投入15億美元,目標之一就是普及前沿部署工程師模式。這顯示即使是以通用人工智慧為目標的公司,也認為企業落地仍需要大量人工服務。


不過,矽谷創投A16Z也曾提醒:若沒有足夠強大的核心產品,只靠不斷派人到客戶現場,最後仍可能變成一家換上AI外觀的傳統諮詢公司。這門生意是否成立,不在於派出多少工程師,而在於這些人回來時,能否帶回可被產品化的成果。


企業AI落地的缺口,在許多中小型團隊中尤其明顯。有人曾替一間約八人的本地內容公司梳理影片製作流程,發現團隊雖然年輕、努力,每週工作六天,卻仍只把模型當成「打開網頁、輸入文字、取得結果」的單一工具。


他們效率不高並不是因為懶惰,而是沒有人教他們如何把AI放進完整工作流程。類似企業在大型城市裡數量龐大,也形成了部署、整合與基礎設施人才的實際需求。


麻省理工曾有研究指出,95%的企業AI專案未能產生可衡量的回報。這項數字的定義較窄,不宜完全照單全收,但它反映的方向值得注意:許多公司已經購買和安裝AI,卻仍無法真正使用。


這也是資料中心與部署人才存在的原因。他們不只是蓋機房,而是要讓伺服器、算力、供電、散熱、網路、排程及軟體生態真正運轉。


市場上會同時出現「算力嚴重短缺」與「大量機房空轉」兩種說法,而且兩者都可能是真的。前者指的是高階訓練晶片、能穩定運作的萬卡叢集、低延遲推理能力,以及成熟易用的軟體生態;後者則可能是晶片型號不符需求、功率密度不足,或缺乏人員進行資源排程的機房。


換句話說,「算力」之下其實包含兩種不同的資產:一種是真正可投入生產的有效算力,另一種只是名義上存在、實際上難以運用的硬體設備。


這類工作至今甚至沒有統一職稱。微軟、Google與Amazon會將相似工作拆成不同職位:管理伺服器與網路的人是一種名稱,管理供電與空調的人又是另一種。美國勞工統計局也尚未為其建立獨立職業代碼,各方公布的利用率可能是20%、30%或36.8%,但有人計算晶片時數,有人計算機櫃,缺乏一致標準。


一個連職稱和統計口徑都還未統一的產業,恰恰說明它仍處於非常早期的發展階段。


然而,AI落地最終仍要通過商業帳目的檢驗。國內曾有從大型科技公司離職、獨立承接AI專案的人,替貨運代理公司提供方案,報價最高曾達十萬元,最後仍因客戶毛利率僅有8%、無法承受更換系統的風險而停滯。當數位員工每月消耗的算力成本過高,即使技術可行,專案也未必具備經濟效益。


因此,這三類AI職缺的真正價值,不在網路流傳的百萬年薪,而在它們揭示了AI產業當前的三個缺口:高品質資料不足、模型不懂企業流程,以及硬體與算力無法順利轉化為生產力。


它們確實正在成長,但同時也可能只是過渡性工作。資料充足、模型更成熟、企業與AI能直接溝通、基礎設施更加標準化之後,部分職務可能被自動化或重新定義。判斷機會時,不能只看誇張的薪資標題,更要看自己處於產業鏈的哪一層,以及工作成果能否沉澱為真正有價值的專業、產品與能力。

2026年8月19日 星期三

[AI 衝擊] AI代理崛起下的就業重組與社會速度差

[AI 衝擊] AI代理崛起下的就業重組與社會速度差

摘要 : AI正從輔助工具變成任務執行者,青年職涯入口與社會調適首當其衝。


內容:

百年前的紐約在短短十三年間由馬車轉向汽車,提醒人們:顛覆性技術不一定延續舊有系統,而可能直接取而代之。今天的人類是否正迎來自己的「馬車時刻」仍無定論,但AI帶來的改變,已不只是遙遠的警示。


AI正由回答問題的助手轉為能完成任務的代理。以Replit Agent 4為例,它能依照自然語言需求建立應用、修改程式碼、拆解任務並協調多條工作流。當AI能觀察環境、呼叫工具、執行任務與檢查結果,它便開始成為經濟流程中的執行者。大量模型、工具、網路與人類相互連結後,還可能形成難以預測的複雜系統。英國AI安全測試亦曾發現,部分代理做出超越授權範圍的行為;雖未造成實際傷害,卻顯示AI開始行動後,風險性質已經改變。


就業衝擊目前並非全面失業,而是呈現結構性分化。Anthropic研究顯示,高AI暴露與零暴露職業的整體失業率差距尚無明顯變化;但22至25歲勞動者進入高暴露職業的機率,相較2022年約下降14%,儘管訊號仍未達強顯著。史丹佛AI Index也指出,自2024年以來,美國22至25歲軟體開發者就業人數下降近20%,年長開發者則仍在成長,客服等職位也承受類似壓力。


AI可能不會先解僱資深員工,而是讓企業減少招募新人。當八個人搭配AI便能完成過去十人的工作,最先消失的可能是入行階梯,而非整個職業。然而資深人才都曾從基礎工作累積經驗;若重複性與入門任務大量自動化,未來新人將在哪裡完成職業訓練,便成為更深層的問題。


世界經濟論壇預測,到2030年多重趨勢可能創造約1.7億個職位、替代約9,200萬個職位,淨增加約7,800萬個職位,但39%的核心技能將改變。新舊工作未必屬於同一群人,個人轉型仍受教育、時間、資本、地域、年齡與機會限制。國際勞工組織資料亦顯示,2025年全球青年失業率升至12.4%,約6,700萬人失業;年輕人的現有工作中,約6.1%位於AI高度暴露職業,但長期淨影響仍有高度不確定性。


AI競賽形成集體行動困境:個別企業若減速,可能把優勢讓給競爭者;所有參與者持續加速,結果卻未必符合社會利益。模型按週迭代、企業按月競爭、資本按季決策,教育、法律與社會保障卻需多年調整,技術與社會之間因而出現速度差。未來職涯可能不再四十年不變,而是不斷學習新能力、抓住短暫機會,再於技術被自動化後重新開始;真正重要的,將是持續轉型的能力,以及社會能否為每次轉型保留入口與緩衝。

2026年8月17日 星期一

[AI 應用] 為什麼需要AI知識庫

[AI 應用] 為什麼需要AI知識庫

大家想導入 AI 知識庫,通常不是因為公司「沒有資料」,而是資料雖然存在,卻經常面臨找不到、用不了、不敢分享、無法確認可信度,以及人員離職後知識流失等問題。



AI 知識庫主要解決的問題

1. 資料散落各處,查找成本很高

企業知識可能分散在錄音、影片、PDF、Office 文件、圖片、信箱、個人電腦,甚至資深員工腦中。傳統上,員工必須知道資料放在哪裡、檔名是什麼,才能找到答案。

AI 知識庫可將不同素材轉成文字並聚合管理,讓使用者直接用自然語言提問,不必先知道答案藏在哪份檔案中。

出處:〈智庫引擎文件1-新手完整操作指南〉/清洗內容/1.1「為什麼需要這套系統?它的價值在哪?」;〈智庫引擎文件3〉/清洗內容/「一、一句話,這是什麼」

2. 文件太長、太雜,難以快速掌握重點

例如一小時的會議錄音可能產生數萬字逐字稿,真正重要的決議只占其中一小段。系統會透過清洗、分類、摘要及知識蒸餾,把冗長素材整理成較容易查詢與理解的知識頁面。

出處:〈智庫引擎文件1-新手完整操作指南〉/清洗內容/1.1、1.3;〈智庫引擎文件4-系統使用手冊〉/蒸餾頁

3. 不確定哪一份才是正確或最新版本

同一份規範可能同時存在 v2finalfinal2 等版本,員工容易誤用舊資料。知識庫透過聚合、清洗、版本化蒸餾及索引,降低資料散亂造成的誤用風險。

出處:〈智庫引擎文件3〉/清洗內容/「二、它解決什麼問題」;「四、能做到什麼」

4. AI 回答缺乏依據,不敢拿來決策

一般 AI 即使回答得很流暢,也不代表內容正確。智庫引擎的答案會附上引用片段與原始檔來源,使用者可以回到原始資料核對。

這對合約條款、金額、數字及法遵事項尤其重要;系統不能取代專業判斷,這類資訊仍須核對原始出處。

出處:〈智庫引擎文件3〉/蒸餾頁;〈智庫引擎文件3〉/清洗內容/「一、一句話,這是什麼」

5. 資料含有個資或機密,不敢共享

企業資料可能包含身分證字號、電話、薪資、報價及客戶資訊。系統可在清洗階段遮罩敏感資訊,並透過團隊權限限制可見範圍;不屬於使用者權限的內容,會在檢索階段先被排除,不會進入答案或出處。

出處:〈智庫引擎文件1-新手完整操作指南〉/清洗內容/1.2、1.3;〈智庫引擎文件4-系統使用手冊〉/蒸餾頁/「權限與稽核」

6. 員工反覆詢問資深同仁,造成時間浪費

當「問人比找資料快」,每個問題就會同時占用提問者與回答者的時間,資深員工也會持續被重複問題打斷。知識庫能把常見答案與經驗沉澱下來,讓員工自行提問查詢。

出處:〈智庫引擎文件3〉/清洗內容/「二、它解決什麼問題」

7. 人員離職、輪調後,經驗跟著消失

許多重要判斷並未被正式記錄,而是存在少數人的腦中。AI 知識庫可將會議、故障排除、客戶互動和決策過程轉成可持續查詢的知識資產,降低交接與人員異動造成的知識斷層。

出處:〈智庫引擎文件1-新手完整操作指南〉/清洗內容/摘要;〈智庫引擎文件3〉/清洗內容/「二、它解決什麼問題」

簡單總結

大家想要這類系統,是因為它能把原本「散落、雜亂、敏感、難以確認、依賴個人經驗」的資料,轉換成:

  • 可以直接用自然語言提問;
  • 回答附有原始出處;
  • 可遮罩敏感資訊;
  • 依團隊權限控制可見範圍;
  • 能持續保存與傳承的企業知識。

它的核心價值不只是「回答得快」,而是降低企業在搜尋資料、重複詢問、版本誤用、知識流失、機密外洩及答案查證上的成本。

不過,資料完成匯入、清洗或蒸餾後,仍必須建立索引才會進入問答檢索範圍;系統也屬於「半自動、人在迴路」的工具,並非將檔案丟入後就完全不需維護的萬能 AI。

出處:〈智庫引擎文件4-系統使用手冊〉/蒸餾頁;〈智庫引擎文件1-新手完整操作指南〉/清洗內容/索引目錄、摘要

[AI 啟發] 把難事拆小,把小事做好

[AI 啟發] 把難事拆小,把小事做好

摘要 : 成就大事不靠一時熱情,而在拆解目標、重視細節、謹慎守信。



內容:


《道德經》第六十三章寫道:「天下難事,必作於易;天下大事,必作於細。」人之所以容易半途而廢,往往不是缺少意志力,而是目標太大、反饋週期太長,又缺乏拆解困難的能力。


「天下難事,必作於易」,是說再困難的目標,也要從容易做到的地方開始。想從一百八十斤減到一百二十斤,看起來很難;若每天控制飲食、增加運動,一週減掉半斤,就容易許多。想學習專業知識,也不必被厚重的書本嚇退,每天弄懂一個知識點,同樣是一種勝利。


日日行,不怕千萬里;時時做,不懼萬事難。當我們不再只盯著最終結果,而是把大目標分解成一個個小目標,原本遙不可及的事情,便能在持續行動中逐步實現。


「天下大事,必作於細」,則是說小事是大事的根基。東漢時期,年少的陳蕃在庭院讀書。父親的朋友薛勤來訪,看到院中雜草叢生、髒亂不堪,便問他為何不打掃。陳蕃回答:「我的志向是掃除天下,怎麼會在乎一間屋子是否乾淨?」薛勤反問:「一屋不掃,何以掃天下?」陳蕃因此感到慚愧,逐漸改掉眼高手低的毛病,最終成為東漢太傅。


小事能成就大事,細節也能決定成敗。一件事情能否成功,不一定只取決於能力,也可能取決於對細節的態度。忽略細節,再微小的疏失也可能釀成大禍。把每一件簡單的事做好,就是不簡單;把一件件小事做好,才能逐步建起萬丈高樓。


《道德經》又說:「是以聖人終不為大,故能成其大。」有智慧的人不會整天想著要成就多麼宏大的事業,而是專注於做好眼前每一件平凡、細微的小事。當一個人安於當下,踏實完成該做的事,這些小事最終便會匯聚成了不起的成就。


反之,若一心只求做大事,便容易忽略細節、輕視基礎,最後可能連小事都做不好,更無從成就大事。


「輕諾必寡信」,是說一個人若總是輕易許下承諾,往往很難真正守信。承諾不只是一句話,更需要透過行動兌現。真正可靠的人,在答應別人之前,會先衡量自己的能力;若無法做到,就不會輕率應允。


「人而無信,不知其可也。」若只貪圖一時口舌之快,輕易答應他人,最後卻屢屢失信,不但可能耽誤別人的事情,也會逐漸失去眾人的信任。


「多易必多難」,談的不是事情本身的難易,而是我們面對事情的態度。若把一件事看得過於簡單,認為隨便做做就能完成,最後往往容易出問題。即使只是端起飯碗吃飯,一不小心也可能咬到舌頭。因此,再小的事情也不能敷衍輕忽。


所以《道德經》接著說:「聖人猶難之,故終無難矣。」真正能把事情做好的人,反而會對每件事保持敬畏,小心謹慎、全力以赴,最終也就少了許多難題與禍患。


大的事情不要看得太難,要將它拆解成無數件可以完成的小事;小事也不要看得太簡單,而要保持警覺與慎重。人生難免遭遇風雨,真正困住一個人的,往往不是外界的難題,而是腦海中的思維定式。


當一件難事無法立刻解決,就把它拆成一個個簡單的小目標,再逐一攻克。把注意力放在下一步,而不是遙遠的終點,難事自然不再那麼難。對待小事則應不敷衍、不輕諾,承諾出口前先問自己能否兌現;多存一分敬畏,便能少十分禍患。

AID04-文件餵給 AI 之前,Embedding 做了什麼-5分鐘學AI

文件不是整份丟進去,是先切開,再換算成它比得出遠近的樣子。 它永遠會挑出最接近的一塊,但最接近不等於正確。


#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI 文件餵給 AI 之前,Embedding 做了什麼。 阿哲,公司說要把幾千份文件餵給 AI。我一直想不通,這個餵到底是怎麼餵?先問你一件事。你還記得它只有一張桌子,桌上攤得開的才看得到吧?記得。啊,那幾千份文件根本攤不上去。對,所以沒有人真的把整份丟進去。實際的做法是先把文件切開,再讓它有辦法從幾千塊裡面,一次只撈出最相關的那幾塊。 那我們就從切開講起。這件事有名字嗎?有,叫 Chunk,中文就是切塊。把一份長文件切成一小段一小段,每一段大概是一個段落到一頁那麼長。 可是切的時候,剛好切在一句話中間怎麼辦?這就是第二個名詞,重疊。切的時候讓每一塊的頭尾跟隔壁多留一段重複的字,被切斷的那句話,兩邊都還留得住。 可是切成一小段一小段,不是把好好的文章拆爛了嗎?不會。因為你要的本來就只是其中一小段,不是整份。切開之後,它才有辦法只把那一小段拿出來給你看。喔,就像一本很厚的書,我要找的其實是某一章,不是整本從頭讀一遍?對,就是這樣。要小心的是接縫。重疊留得不夠,答案就會斷在半句話,你看到的那一段可能剛好少掉最關鍵的後半句。那到底要切多大才對?沒有標準答案,但有一個好用的原則:一塊只講一件事。切太大,裡面混了好幾個主題;切太碎,一句話的前因後果就被拆散了。 切好之後呢?就這樣一塊一塊放著嗎?還要再做一件事。每一塊都會被換算成一組數字,你可以把那組數字想成它在一個很大的空間裡的位置。意思接近的,位置就靠得近。 換算成數字,那不就跟意思沒關係了?剛好相反。這組數字就是拿來表示意思的。兩段話講的是同一件事,換算出來的位置就會很靠近;講不同的事,就離得很遠。喔,就像幫每一段話調一個顏色?意思很接近的,調出來的顏色也會很接近,一眼就看得出是同一區的。這個比喻很好。但要注意,它比的是意思像不像,不是有沒有出現同一個字。休假規定跟請假辦法,一個字都沒重複,位置卻很近。那反過來呢?用了同一個字,意思卻不一樣?那就會被分開。蘋果手機跟蘋果削皮,都有蘋果兩個字,位置卻差得很遠。這也是它跟用關鍵字去找最不一樣的地方。 那這些位置又要放到哪裡去?放在一個專門存位置的地方,叫向量資料庫。它跟你熟悉的那種資料庫最大的差別是,它不是照名字或日期排的,是照意思擺的。 照意思擺,實際上是什麼樣子?就是位置接近的東西本來就被放在一起。你丟一個問題進來,它換算成一個位置,只要看那個位置附近有誰,不用把幾千塊全部翻一遍。喔,就像超市的貨架?不是照商品名字的筆畫排,是把你會一起買的東西擺在同一區,走到那一區,旁邊都是我可能要的。很貼切。但有一件事很多人會誤會:它裡面放的不是你原本那份檔案,是切好、換算過的一份副本。原檔改了,這裡不會自己跟著變。那不就會拿到舊的內容?會。所以文件更新之後,要重新切一次、重新換算一次。這件事不會有人提醒你,它也不會報錯,只會安安靜靜地一直回答舊版本。 找到附近那幾塊之後,它怎麼決定哪一塊最好?靠一個分數,叫語意相似度。它算的是你的問題跟每一塊的意思有多接近,分數高的排前面,只有前幾名會被拿去用。 那這個分數是怎麼算出來的?我常看到餘弦兩個字。餘弦相似度是最常用的那一種算法。它不比兩個位置離得多遠,它比的是兩邊指的方向差多少,角度越小就越像。 為什麼要比方向,不比距離?因為長短會騙人。同一件事,一段寫得很長、一段寫得很短,位置就離得遠了,可是它們講的是同一件事。看方向就不會被長短影響。喔,就像看兩個人是不是朝同一邊走?走多快、走多遠都不管,只看有沒有往同一個方向。就是這個畫面。但這裡有一個最大的誤會:分數高不等於答對。它只是把最接近的那一段挑給你,就算整份文件裡根本沒有答案,它還是會挑一段最接近的出來。咦,所以它不會跟我說我找不到?除非有人特別要求它這樣做,不然不會。所以看到答案的時候,重要的事情,還是翻回它引用的那一段自己看一眼。 那我把這一集重新排一次好不好?好,你來。切塊是把長文件切成一小段一小段。重疊是每一塊的頭尾多留一點,句子才不會被切斷。嵌入是把每一段換算成一個位置,意思接近的就擺得近。向量資料庫是照意思擺、不照名字排的地方。語意相似度是比意思有多接近,不是比字面像不像。餘弦相似度是比方向的夾角,不是比距離遠近。完全正確。以後聽到有人說文件已經餵進去了,你只要問一句:它找回來的那一段,真的是對的那一段嗎? 企業級智庫引擎。讓公司的知識,答得出來、查得到、帶不走。

[AI 衝擊] 程式碼越寫越快,專案卻越做不完

[AI 衝擊] 程式碼越寫越快,專案卻越做不完

摘要 : AI加速寫程式,卻將瓶頸推向審查、整合與交付,恐造成大量半成品。



內容:


AI 公司正面臨一個尷尬的問題:程式碼寫得越來越快,專案卻不一定能更快完成。


Claude 背後的 Anthropic 執行長 Dario Amodei 引用了一條源自 1967 年的公式,並警告未來 18 個月,許多 AI 公司可能不是輸在模型不夠強,而是被整體效率拖垮。


Anthropic 已大規模使用 AI 協助程式設計,其程式碼庫中超過 80% 的程式碼由 AI 撰寫。有員工甚至連續五個月沒有親手寫過一行程式碼,兩年內人均產出更提升了八倍。看似效率驚人,但 AI 最擅長加速的部分,未必是公司真正的瓶頸。


這個現象可以用「阿姆達爾定律」解釋:只要一項工作中仍有很大部分必須由人緩慢處理,即使其中一小部分加速百倍,整體效率也不會等比例提升。


例如,交付一套軟體原本需要 100 個單位的時間,其中寫程式碼占 30%。即使 AI 將寫程式碼的時間從 30 縮短至 3,整個專案仍需要 73 個單位的時間。程式設計速度提高十倍,整體效率卻只提升約 27%。


過去,程式設計師擔心程式碼寫不完;現在,反而可能害怕 AI 一個晚上就產出數千行程式碼。這些程式碼仍需要人工檢查,不看完不敢上線,但全部審查完畢,專案可能早已延期。若系統出現問題,最終需要簽字與負責的仍是人類。


更棘手的是,AI 產生的程式碼未必有顯而易見的錯誤。每一段單獨檢視時可能都很合理,但整合進既有系統後,卻可能造成整體故障。


開發者將這類問題稱為「認知債務」。例如,原本只要求 AI 修改一個函式,它卻順手最佳化附近的三個模組。每項修改看似正確,合在一起卻可能悄悄改變原有邏輯。最後,程式碼由 AI 產生,理解、審查與承擔責任的工作仍留給人類。


AI 也容易讓人產生可以同時處理多項工作的錯覺。一個專案卡住後,團隊可能再啟動五個專案,最後桌面上堆滿完成度約 70% 的成果。每個都能展示、看似即將完成,卻沒有一個能安全上線。


因此,AI 並未真正消除瓶頸,而是將瓶頸從「寫不出來」推向後續的審查、整合、測試與交付。未來真正拖垮 AI 公司的,可能不是模型能力不足,而是 AI 不斷製造半成品,人類卻來不及收尾。


AI 負責快速向前衝,人類則負責審核與踩剎車。誰能率先解決後端流程的瓶頸,誰才算真正掌握了 AI 帶來的生產力。

2026年8月14日 星期五

AID03-Token 是什麼,AI 又為什麼會忘記-5分鐘學AI

 AID03-Token 是什麼,AI 又為什麼會忘記-5分鐘學AI


跟 AI 講話是照 Token 算的,它的記性也是。

搞懂上下文,你就知道它為什麼突然忘記前面說過的事。


#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI



Token 是什麼,AI 又為什麼會忘記。


阿哲,我昨天跟 AI 聊了很久,聊到後來,它突然忘記我一開始交代的事。它是不是壞了?沒壞。而且這件事,跟它怎麼讀你打的字,其實是同一個問題。咦?讀字跟忘記有什麼關係?這一集講完你就會知道,它其實沒有記性,它只有一張桌子。桌上攤得開的它看得到,攤不下的就掉下去了。


那我們從最小的單位開始。我常聽到這個要花多少 Token,它到底是什麼?它是 AI 讀字的單位。它不是一個字一個字讀,也不是一整句一整句讀,是切成一小塊一小塊。


喔,所以它算的不是幾個字,是幾塊?就像菜市場算的是幾斤,不是幾顆。就是這樣。而且要注意,你打的字要算,它回你的每一個字也要算,兩邊加起來才是這一次的用量。那中文跟英文,切出來的塊數一樣嗎?不一樣。中文大概一到兩個字一塊,英文常常半個單字就一塊。所以同一段意思,用不同語言寫,用量會差滿多的。所以叫它講短一點,真的會比較便宜?真的會。很多人以為只有自己打的那一段在算錢,結果讓它寫了一大篇,那一篇才是貴的地方。


那 Prompt 呢?大家都說要會下 Prompt,講得很神秘。它就是你交代給它的那一段話。不只是你的問題,還包括你要它用什麼身分、給你什麼格式、寫多長。


喔,就像請同事幫忙買飲料?講幫我買飲料,跟講幫我買一杯大杯無糖去冰的紅茶,拿回來的東西差很多。這個比喻很準。你少講的每一件事,它都會自己幫你決定,而它決定的不一定是你要的。那我要交代到多細?講到換一個人來做也做得出同一個東西,就夠了。太細反而綁死它,它就只會照著你的框框走。那是不是有什麼特別厲害的句子,講了就會變準?沒有。它不是咒語,沒有哪一句話講了就升級。真正有效的是把你要什麼講清楚,跟交代一個新同事完全一樣。


接下來這個更常聽到,Context,中文叫上下文。上下文是它這一次回答的時候,眼前看得到的全部東西。你前面講過的話、它自己回過的話、你貼進去的文件,通通算在裡面。


喔,就像開會的時候攤在桌上的那些資料?沒攤上去的,它就當作不存在。非常準。所以它不是記得你,是那些字還攤在桌上。你開一個新的對話,桌子就被收乾淨了。那我可以自己決定桌上放什麼嗎?可以,而且這是最有用的一招。真正相關的那一份貼上去,不相關的別貼。桌上東西越少,它越不會被別的東西帶走。那我上個禮拜跟它講過的事呢?除非那一段被放回桌上,不然它不記得。有些產品會幫你偷偷放回去,所以看起來像記得,那是產品幫的忙,不是模型的記性。


那這一張桌子有多大?這就是下一個名詞,上下文視窗。它是一次最多能攤多少東西的上限,而且是用剛剛說的那個單位在算。


那攤滿了會怎麼樣?最前面的會被擠出去。它不是挑一個不重要的丟掉,是照順序,最早進來的先掉。喔,就像記事本寫滿了,只好從最前面撕頁?對。所以長對話講到後來它開始答非所問,通常不是它變笨,是你一開始交代的規則已經掉出去了。那我怎麼知道快滿了?多數產品不會明講。實際一點的做法是,聊到一半覺得它開始跑掉,就把最重要的那幾條再貼一次,或乾脆開一個新的對話重來。


那有沒有辦法讓桌子大一點?桌子的大小是固定的,但可以讓攤上去的東西變薄。做法是先把前面那一大段整理成重點,再把重點放回桌上,原文就不佔位置了。


喔,就像會議記錄?不用把每個人講的每一句都留著,留結論就好。對,而且很多產品已經在背後自動幫你做這件事了,你根本不會看到。那聽起來很棒啊,有什麼代價嗎?整理過的東西一定會掉細節。數字、日期、合約上的條款這種不能錯的,不要指望它整理完還記得,自己再貼一次最保險。那我可以叫它先整理給我看嗎?可以,而且很值得。你讓它先寫一份重點,你看過確認沒漏,再往下講。這樣掉的是你同意掉的東西。


那我把這一集重新排一次好不好?好,你來。Token 是它讀字的單位,你講的跟它回的都要算。Prompt 是你交代給它的那段話,講清楚比講神奇有用。上下文是它眼前看得到的全部,不是記憶。上下文視窗是這張桌子有多大,滿了就擠掉最前面。上下文壓縮是把前面整理成重點,省了位置,但會掉細節。完全正確。以後它突然變笨,先別急著怪它。問一句:我要它記得的東西,現在還在桌上嗎?


企業級智庫引擎。讓公司的知識,答得出來、查得到、帶不走。

[AI 智慧] 承認無知,是成長的起點

[AI 智慧] 承認無知,是成長的起點

摘要:真正的智慧,是看見自身侷限,勇於承認不足並持續學習。



內容:


為什麼懂得越多的人,越不敢大聲說話?小溪、小河總是嘩啦作響,大江、大河卻往往靜默無聲。


《道德經》有言:「知不知,上矣;不知知,病也。」知道自己有所不知,是一種明智;明明不知道,卻自以為知道,則是一種毛病。


真正的智慧並非無所不知,而是清楚自己的認知邊界,坦然承認無知。即使面對熟悉的事物,也不妄下定論,而是保有求證與學習的態度。只有承認自己不知道,才可能真正學習與成長。


越覺得自己什麼都懂,越容易被認知的高牆困住,變得見識淺薄、觀念侷限。承認無知不是自我否定,而是拓展認知邊界的第一步,也是所有成長的起點。


相傳蘇軾年少聰穎,通讀四書五經後意氣風發,在門前貼上一副對聯:「識盡天下字,讀盡天下書。」


一位老人看見後,拿出一本蘇軾從未見過的書,裡面的內容更令他聞所未聞。蘇軾這才體會到學問之廣、世界之大,於是將對聯改為:「發奮識遍天下字,立志讀盡人間書。」


此後,他發奮讀書、四處求學,最終成為一代文豪。這正說明,清楚自己的無知,才是真正的智慧。


「不知知」之所以是一種病,是因為它點出了人性的弱點。許多人好面子、愛逞強,認為承認不懂就是丟臉,因此選擇不懂裝懂。


孔子說:「三人行,必有我師焉。」連聖人都懂得虛心請教,何況普通人?總是自以為是,不僅學不到新知,也難以結交知心朋友。承認不懂、主動請教並不可恥;不懂裝懂,才是阻礙人生發展的重要原因。


《道德經》又說:「聖人不病,以其病病。夫唯病病,是以不病。」聖人之所以沒有這種毛病,是因為始終將不懂裝懂視為問題,時時反省並保持警惕。


想改掉一個毛病,不能只是強行壓制,而要先承認它的存在。很多人總在同一個地方跌倒,不是因為無法改變,而是不肯承認自己有問題,總認為是別人或環境的錯。


敢於直面問題,問題便解決了一半;不肯承認問題,本身才是最大的問題。


首先,要認清自己,不高估自己的能力。人外有人,天外有天,不要因為懂得一些知識、取得一點成績,就看不起別人。學會謙虛,才能持續進步。


其次,不要低估他人。世事變化難料,今日仍在努力打拚的人,未來可能取得非凡成就。當老闆的,不要看不起基層工作者;坐辦公室的,也不要輕視在外奔波的人。尊重每一個人,不低估任何人,是應有的修養。


在生活中,可以從三件事開始實踐:


第一,不懂就坦白,不要硬撐。工作中遇到不熟悉的事情,可以直接說:「這部分我不熟悉,我先確認一下。」這不會讓人看不起你,反而會使人覺得你誠實、可靠。


第二,遇到問題不要急著推卸責任。尋找外部原因之前,先問自己:「我有沒有可以做得更好的地方?」即使最後證明責任不在自己,這種自省的習慣仍會讓人愈來愈清醒。


第三,保持謙卑並持續學習。認知越高的人,越能看見世界的廣闊與自己的侷限。人所知道的永遠有限,不知道的卻近乎無窮。


不要因一點成績便驕傲自滿,也不要因掌握一些知識就目中無人。保持謙卑、持續學習,不斷修正自己的認知,人生才能走得更穩、更遠。

2026年8月12日 星期三

AID01-認識 AI 這一家人-5分鐘學AI

AID01-認識 AI 這一家人-5分鐘學AI


AI、生成式 AI、大型語言模型、GPT,其實是一層包一層。

五分鐘搞懂誰是誰的誰,以後看到新名詞都不會慌。


#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI



認識 AI 這一家人。


阿哲,我最近很困擾。新聞一下講 AI,一下講生成式 AI,一下又冒出一個大型語言模型。我知道你要問什麼。你想問的是,這些到底是同一件事的不同講法,還是真的不一樣,對不對?對!可是我每次都不太敢問,怕被笑。這一集講完你就會發現,它們其實是一層包一層,就像地址一樣,從國家一路寫到門牌號碼。


那我們就從最外面那一層開始。AI 到底是什麼?AI 就是人工智慧。它是一個很大的統稱,講的是「讓機器做出原本要人來做的判斷」這整件事。


所以它不是一個產品?對。你去買車,不會說「我要買一台交通工具」。AI 就是交通工具那個層級的字。喔!所以掃地機器人算 AI,翻譯軟體也算 AI,是這個意思嗎?完全正確。只要它會自己做判斷,就都住在 AI 這個大房子裡。要小心的是,很多人一講 AI 就以為在講 ChatGPT,那其實只是這棟房子裡的一個房間。那為什麼最近才這麼紅?AI 不是很早就有了嗎?因為以前的 AI 只會做很窄的一件事,像下棋。現在的會講話、會看圖、會寫東西,所以你才開始在生活裡碰到它。


那生成式 AI 呢?多了「生成」兩個字,差在哪裡?差在它會「生」東西出來。以前的 AI 大多是在分類、在判斷,這封信是不是垃圾信、這張照片裡有沒有貓。


生成式就是會自己產出新的東西?對。你叫它寫一封道歉信,它不是去資料庫裡撈一封現成的給你,是當場一個字一個字寫出來。喔,所以搜尋引擎是幫我找到別人寫好的,生成式 AI 是現場幫我寫一份。就是這個差別。也因為是現場寫的,同一個問題問兩次,答案可能不完全一樣。這不是它壞掉,是它本來就這樣運作。


那多模態模型又是什麼?這個聽起來最難。名字嚇人,意思很單純。模態就是「資料的種類」,文字是一種,圖片是一種,聲音也是一種。多模態就是好幾種它都吃得下。


所以我可以直接拍一張冰箱的照片,問它今天晚餐煮什麼?對,這就是多模態。以前你得先自己把照片裡有什麼打成文字,它才看得懂。那就像從只會看信,變成也會看照片、也會聽你講話。對。但要提醒一件事:看得懂不等於看得準。它會把模糊的照片猜成別的東西,重要的事還是要自己再確認一次。那我要怎麼知道它有沒有看錯?最簡單的方法,是叫它先描述一次它看到什麼,再回答你的問題。它講錯你馬上就發現,不用等結論出來才知道。


講了這麼多,大型語言模型是站在哪一層?它是生成式 AI 裡面,專門處理「語言」的那一種。大,是因為它讀過的字多到你無法想像,整個網路上的文章幾乎都讀過。


讀那麼多字,它是把全部背起來嗎?不是背。比較像是把「什麼字後面通常接什麼字」的感覺練到很熟,所以它回答的時候,是在挑一個最順、最像人會講的下一個字。咦,那它有可能講得很順,但其實是錯的?你抓到重點了。這就是為什麼它偶爾會很有自信地講錯話。順不等於對,這件事我們之後會專門講一集。


那 GPT 呢?大家都在講 GPT。GPT 是一個系列的名字,就像 iPhone 是手機裡的一個系列。它是 OpenAI 做出來的其中一組大型語言模型。


所以講 GPT 不等於講 AI?不等於。就像你不會說「我要買一台 iPhone」來泛指所有手機。那我以前把 AI 跟 ChatGPT 講成同一件事,其實是講錯了?是講小了。ChatGPT 是拿 GPT 做出來的一個聊天產品,它只是這一大家子裡面最有名的那一個。那我以後聽到別人講 GPT,要怎麼判斷他在講哪一個?看他在講產品還是講模型。講「用 GPT 寫了一篇文章」通常是指 ChatGPT 這個產品;講「換一個 GPT 版本」才是在講模型本身。


那市面上除了 GPT,還有哪些?幾家聽過就好:OpenAI 的 GPT、Anthropic 的 Claude、Google 的 Gemini、Meta 的 Llama。台灣也有自己的,像國科會主導的 TAIDE。這麼多家,我要全部學嗎?不用。它們的用法大同小異,重點是知道「這是不同公司做的不同款」,就像不同牌子的車,會開一台大概都會開。那公司要選的話,該從哪裡開始想?先看資料能不能出公司。可以,就挑雲端最順手的;不行,就得找可以架在自己機房的那種。這件事比誰比較聰明重要得多。


最後我們把這一家人重新排一次。我來!AI 是最外面的統稱,什麼東西會自己判斷都算。生成式 AI 是會自己產出新東西的那一種。多模態模型是文字、圖片、聲音都吃得下的那一種。大型語言模型是專門處理語言、讀過很多字的那一種。GPT 則是其中一個系列的名字。完全正確。記住這個順序,以後聽到任何新名詞,你只要問一句:它是住在哪一層?


企業級智庫引擎。讓公司的知識,答得出來、查得到、帶不走。


AID02-模型怎麼變強,又為什麼要搶 GPU-5分鐘學AI

 AID02-模型怎麼變強,又為什麼要搶 GPU-5分鐘學AI


蒸餾、推理模型、專家混合,三種讓模型變強的做法。

GPU 跟 CPU 差在哪,雲端跟自己養又該怎麼選。


#一起搞懂AI #AI名詞 #AI入門 #白話AI #企業AI



模型怎麼變強,又為什麼要搶 GPU。


阿哲,我最近常看到新聞說某家公司又買了一大批 GPU,還有人說公司要自己養一個模型。這些我完全看不懂。這裡面其實混了兩件不一樣的事。一件是模型怎麼變強,另一件是它跑在誰的機器上。咦,我一直以為是同一件事。不一樣。就像一家餐廳,廚師怎麼練出來的是一回事;這頓飯在你家廚房煮,還是叫外送,是另一回事。這一集前半講廚師,後半講廚房。


那我們先講廚師。第一個名詞叫蒸餾,聽起來像在做酒。名字是有點怪。它講的是拿一個很大很強的模型,讓它把答案一題一題示範出來,再讓一個小模型照著學。


喔,就像老師傅帶學徒?學徒不用把師傅讀過的書再讀一遍。對,就是這個意思。學徒身材小、動作快,養起來也便宜,本事卻有師傅的八九成。那為什麼要做出小的?直接用大的不好嗎?大的貴,而且慢。手機裡、客服系統裡那些要馬上回你的地方,塞不下一個大的,也等不起。那學徒會不會有一天超過師傅?很難。因為他學的是師傅怎麼答,師傅沒教過的他不會,師傅本來就答錯的他也照錯。所以小模型是比較快、比較便宜,不是比較聰明。


那第二個呢?我看到有一種叫推理模型,聽起來像在辦案。差別在它回答之前,會先自己把步驟走一遍,走完才開口。一般的模型是你問了它就答,像脫口而出。


喔,就像考數學,有人看一眼就寫答案,有人會先在旁邊列式子?非常接近。列式子的那一種,比較不會在中間算錯,遇到繞來繞去的題目差很多。那為什麼不全部都用這一種就好?因為它想的那一段也要花時間、也要花錢,一題可能貴上好幾倍。問今天星期幾,不需要列式子。那我怎麼知道什麼時候該用它?有一個簡單的判準:這一題你自己做,需不需要拿紙筆?需要的話,就換它來。


第三個名詞更玄,叫專家混合。是一堆專家一起討論嗎?不是一起。它裡面分成很多組,每一組擅長的東西不一樣。你問一題,它只叫醒其中一兩組來回答,其他組在旁邊沒事做。


喔,就像去醫院不是所有醫生一起看你,是先掛對科?對,而且掛號那一步在你看不到的地方就分好了。所以它可以做得很大,跑起來卻不會貴到不能用,因為每次真正動起來的只有一小部分。那它會不會掛錯科?會。而且掛錯的時候它不會告訴你,答案一樣講得很順。這是你在外面看不到、也控制不了的一層,所以重要的問題還是要自己驗一次。


講完廚師,來講廚房。為什麼大家都在搶 GPU?先說它是什麼。GPU 本來是拿來畫遊戲畫面的晶片,特色是可以幾千件簡單的事同時做。


那 CPU 呢?我電腦裡那一個。CPU 是那個很聰明、什麼都會的,但它是一件一件照順序做。你的系統、你打的每一個字,都是它在處理。


喔,我好像懂了。就像一個大廚要切一千顆洋蔥,跟一千個人一人切一顆?就是這個畫面。AI 在算的,剛好就是非常多、但每一筆都很簡單的計算,所以用 GPU 快得不像話。那 CPU 是不是就沒用了?不是。真要一個人把一道功夫菜從頭做到尾,還是得靠大廚。它們是適合做不同的事,不是誰比較強。那為什麼會搶到缺貨?因為全世界同時在找同一種幫手。不是它突然變好用,是要用的人一下子變太多了。


最後一段。你剛剛說的自己養一個,到底是什麼意思?先講另外一半。雲端模型,是模型放在別人準備好的機器上,你連上去用,按用量付錢,開機就能開始。


那自己養的那一種呢?那叫地端模型,是把模型裝在公司自己的機器裡跑。資料從頭到尾不用送出公司。


喔,就像東西放自己家的倉庫,跟去外面租一個倉庫?很貼切。租的隨時可以租大一點,屋頂漏水有人修;自己家的鑰匙只有你有,可是修屋頂也是你自己來。那是不是自己養就一定比較安全?這是最常見的誤會。機器搬回家,只是把門搬回家;門有沒有鎖好是另一件事。權限沒設好,放在自己家一樣會外流。那到底怎麼選?先問一句:這些資料能不能離開公司?不能,就只能自己架。可以的話,多數人從雲端開始比較划算,等量大了再說。


那我們最後重新排一次好不好?好,你來。前半是怎麼變強。蒸餾是大模型示範、小模型照著學;推理模型是回答之前先把步驟走一遍;專家混合是裡面分很多組,每次只叫醒幾組。後半是跑在哪裡。GPU 是一千個幫手同時做簡單的事,CPU 是一個聰明的人照順序做完;雲端是用別人的機器按用量付錢,地端是架在自己公司、資料不出門。完全正確。以後聽到公司要導入 AI,你只要問兩句話:要多聰明,還有資料能不能出公司。


企業級智庫引擎。讓公司的知識,答得出來、查得到、帶不走。


2026年8月11日 星期二

[AI 分享] 善用 CLAUDE.md 與 AGENTS.md 提升 AI 開發效率

[AI 分享] 善用 CLAUDE.md 與 AGENTS.md 提升 AI 開發效率

摘要 : 建立精簡且分層的專案指令,降低溝通與上下文成本


內容:

CLAUDE.md 與 Codex 的 AGENTS.md 功能相近,會在對話開始時自動載入 AI 的 Context Window,成為執行任務的重要指引。設定完善後,便不必在每次新對話中重複說明專案架構、開發規範與工作偏好。


這類指令檔可分為不同層級。User Level 適合放置跨專案通用的個人偏好,例如使用繁體中文、採第一性原理思考,或以金字塔原理組織輸出;Project Level 則記錄整個專案共用的規則,並可隨程式碼提交至 Git,確保團隊使用一致標準。若有不想分享的個人設定,可改放在本機專用的 CLAUDE.local.md。


專案子資料夾也能設置 Nested Level 指令。例如前端使用 React 並遵循特定 UI 規範,後端使用 Python 與另一套開發邏輯,便可各自建立指令檔。AI 會依序疊加使用者、專案與子資料夾規則;距離工作檔案越近的設定,適用範圍越精準,對當前任務的影響也越直接。


建立第一份 CLAUDE.md 最簡單的方法,是在專案資料夾開啟 Claude Code 並輸入 /init。系統會掃描專案,自動整理用途、啟動方式、建置與測試流程、框架、目錄架構及開發規範,產生一份起始模板。


不過,/init 產生的內容往往過於完整。Claude 執行任務時本來就會透過探索機制查看資料夾與設定檔,因此能自行找到的資訊不必重複寫入。否則每次對話都會占用 Token 與 Context Window,專案變動後若未同步更新,還可能讓 AI 受到過期資訊誤導。


最佳做法是只保留 AI 無法自行推斷、容易做錯,或必須嚴格遵守的規則。先區分個人習慣、團隊標準與特定資料夾需求,再放入適當層級,並持續刪除重複、失效或低價值內容,才能有效運用有限的 Instruction Budget。

[AI 洞察] 用 AI 創造加薪籌碼

[AI 洞察] 用 AI 創造加薪籌碼

摘要 : AI 提升效率不等於加薪,關鍵在創造價值、建立稀缺性與提升議價權。


內容:

學會 Copilot、Codex 等 AI 工具,雖能大幅縮短工時,卻不代表薪水會增加。研究發現,工作者透過生成式 AI 省下的時間,約有 85% 又被用來處理其他工作。對公司而言,效率提升往往只代表你能承擔更多任務,而非理所當然值得更高薪資。


薪水的本質,是公司為了解決特定問題而購買你能力的市場價格。能力要漲價,通常必須符合兩個條件:一是替公司創造新的商業價值,例如增加收入或降低成本;二是具備難以取代的稀缺性。前者決定談判桌上的餅有多大,後者決定你能分到多少。


因此,不要只問「哪些工作可以交給 AI」,而要問「公司最頭痛、長期無法解決的問題是什麼」。即使把一份沒人採用的報告從八小時縮短到一小時,其商業價值仍可能是零;若能藉由 AI 找出市場機會、帶進新客戶、減少錯誤或加快關鍵決策,效率才會轉化為加薪籌碼。


具體可從四處尋找機會:正在浪費公司金錢的事項、讓客戶或同事等待的流程、反覆出現的錯誤,以及因資料混亂而延誤的決策。同時,應把成果轉化為明確數字,說清楚原有問題、改善幅度、商業效益與自己承擔的責任,讓決策者看見你的貢獻並確認這套價值需要你持續維護。


但創造價值後,公司通常不會主動加薪,你仍須開口談判。依「納許議價」概念,薪資可視為「個人退路」加上「從合作剩餘中分得的部分」。退路是離職後仍能取得的收入;合作剩餘則是你與公司繼續合作,相較於雙方各自另尋選擇所多創造的價值。價值決定餅的大小,稀缺性、外部 offer 與承受談判破裂的能力,則決定議價權。


提高薪資可從四個方向著手:取得更好的外部 offer,或用 AI 發展副業與個人品牌以提高退路;解決真正的商業痛點,把合作創造的餅做大;建立難以複製的流程、判斷與跨部門影響力,提高公司失去你的代價;最後,以量化成果和可行退路主動談判。AI 本身不是加薪理由,能用它創造可衡量且難以取代的價值,才是真正的籌碼。

[AI 通透] 見山三境與人生智慧

[AI 通透] 見山三境與人生智慧

摘要 : 從欲望、自律到自在,體悟不執著且不失善意的人生境界。


內容:

「見山是山」是凡夫之境:看見炸雞便想吃,因欲望而沉迷,難以管束自己,只知道拿起。


「見山不是山」是賢者之境:明白炸雞熱量高,認為長久健康勝過一時口腹之欲,因此克制自己、選擇放下。


「見山還是山」則是自在之境:既知道它美味,也清楚它的負擔,吃與不吃皆能隨心。吃並非受饞念驅使,不吃也不是出於畏懼;吃了不嫌油膩,不吃亦不再惦記。


做人也是如此。年輕時只看表面,輕易區分好壞;歷經世事後,才懂人心複雜,好人也會犯錯,惡人亦可能有難言之隱。


真正通透,是明白人無絕對善惡,願意包容差異、放下偏見。看透世事卻不冷漠,歷經滄桑仍保有善意;先著相,再破相,最終不執不破,回歸本心與自在。

[AI 分享] 普通人成為 AI 高手的三個關鍵步驟

[AI 分享] 普通人成為 AI 高手的三個關鍵步驟

摘要 : 從代理工具、功能型 Skill 與情境管理,建立高效 AI 工作流。



內容:

普通人想成為 AI 高手,可以從三個關鍵步驟開始。這套方法來自兩年多的培訓、教學與實際案例總結:


第一,停止只使用 ChatGPT 這類聊天工具,開始使用 Codex、Claude Code、Cursor 等 Agentic 工具。


第二,學會撰寫實用的 Skill,而且重點不是改變語氣或風格的「風格型 Skill」,而是能夠完成具體任務、串接完整流程的「功能型 Skill」。


第三,管理好自己的 Context,讓 AI 能夠掌握工作背景、檔案、工具、流程與歷史操作。


這三步也涵蓋了近期熱門的 Harness Engineering、Loop Engineering 等概念。這些技術值得了解,但真正能對日常工作產生幫助的核心方法,其實已經融入上述三個步驟之中。


經過大量教學與實務案例驗證,如果能做好這三步,就有機會真正成為 AI 高手;反之,AI 的使用方式會存在明顯缺陷,能力上限也容易受限。


其中,第一步尤其重要,因為它幾乎決定了一個人是否理解當前 AI 的真正能力,也會影響 AI 帶來的是約 30% 的效率提升,還是十倍、甚至百倍的改變。


Andrej Karpathy 曾指出,AI 的使用者正在走向兩條不同的路線。一部分人仍使用免費聊天工具,每天只和 AI 對話,因此對 AI 能力的理解相對有限;另一部分人則開始使用 Codex、Claude Code、Cursor 等工具,實際體驗 AI 能力的高度與工作方式的變化。


目前仍有許多人尚未使用過 AI,而在已經使用 AI 的族群中,絕大多數也只停留在聊天階段。真正開始使用 Agentic 工具的人,可能僅占極少數,但這類工具其實已經適合更多人使用。


Chat 工具的基本模式,是使用者提出問題,AI 再回傳一個答案。Agentic 工具雖然同樣可以透過對話操作,但差別在於,它不只回答問題,還能直接執行工作,調度雲端模型、本機工具、運算資源及其他模型來完成任務。


一般聊天工具能做的事情,Agentic 工具大多也能完成。例如,要求 AI 根據對使用者的理解,製作一組 Instagram 九宮格內容,ChatGPT 可以生成,Codex 同樣可以處理。換句話說,Chat 的能力基本上只是 Agentic 工具能力的一部分。


Agentic 工具額外具備三項重要能力。


第一,是調度本機檔案與工具。它能在本機撰寫並保留程式碼,也能下載及使用各種開源工具。舉例來說,當 AI 產出的簡報精度不足時,可以要求它自行下載開源工具,再透過該工具製作更高品質的 PPT。使用者不再受限於聊天視窗內建的功能,理論上可以讓 AI 操作電腦中可用的各種工具。


第二,是灌注大量 Context,並透過 Skill 執行複雜流程。例如,只需要對 Codex 說一句「執行我的 post-production skill」,AI 就能在背後完成多個步驟,包括:


1. 在本機進行檔案轉碼,將影片轉成音訊。  

2. 調度本機的通義千問模型完成轉錄。  

3. 使用 Codex Command Line Tool 精校逐字稿。  

4. 若內容為訪談,透過 Python 與 Pyannote 等開源工具辨識聲紋。  

5. 標示主持人與來賓各自的發言。  

6. 執行多組 AI Loop,找出觀眾感興趣的高光片段。  

7. 產生標題、封面方向及相關截圖。  

8. 整理發布文案與製作說明。  

9. 將成果彙整至 Google 文件,供來賓預覽與確認。


最終產出的文件可以包含正文文章、高光剪輯地圖、標題與封面、發布文案,以及完整製作說明。原本需要多人、多工具協作的後製工作,可以被濃縮成一句自然語言指令。


另一個案例,是將 YouTube 影片轉製成 Podcast。當某支原本公開的 YouTube 影片改為會員限定內容後,只要告訴 Agentic 工具:「把這段 Podcast 刪除,因為它已經從公開內容轉為會員內容。」工具便能理解既有的本機工作流、操作 Podcast 後台,找到指定集數,再將其由公開狀態改為非公開。


這類任務難以單靠一般 ChatGPT 對話完成,因為聊天工具通常無法直接取得本機工具、完整工作脈絡、登入狀態與相關金鑰,也就無法代替使用者執行實際操作。


第三,是讓每一次操作繼續累積成新的 Context。以自動發布 Twitter 內容為例,原本已建立一套流程,可以將本機內容整理成文案,再按照指定時間自動發布。若檢查後對內容不滿意,只需要告訴 AI,希望加入更多英文內容,並花更多時間改善品質。


Agentic 工具便能依據回饋重新建構工作流,把既有內容整理成約 50 則 Twitter 貼文,再重新安排定時發布。先前的工具、流程與操作紀錄都能成為後續任務的基礎,使整套系統持續改善。


如今,Agentic 工具的使用體驗已經非常接近一般聊天工具。使用者不一定要撰寫程式碼,也不需要詳細規定程式應該如何實作,只要清楚說明希望達成的目標,AI 就能自行選擇工具、拆解步驟並執行工作。