顯示具有 AI 標籤的文章。 顯示所有文章
顯示具有 AI 標籤的文章。 顯示所有文章

2026年7月16日 星期四

[AI 系統化] Loop邊界設計

 [AI 系統化] Loop邊界設計

摘要 : Prompt沒有過時,重點是替AI定義觸發、驗證與停止條件,避免失控循環。




內容:

Anthropic 官方談的不是「提示詞工程已經沒用」,而是不要再讓人類一直扮演 AI 的排程器。真正的重點已從「怎麼問」延伸到「誰來觸發、誰來驗證、什麼時候停止」。也就是說,Loop 並不是讓 AI 無限自動運轉,而是一個有明確邊界的工作系統。


許多人在使用 Claude Code 寫程式時,常遇到兩種問題:一種是 AI 陷入死循環,不斷修改卻無法完成;另一種是過早停止,明明還可以做得更好。根本原因通常是沒有清楚定義成功條件、驗證方式與停止規則。因此,Loop 的關鍵不只是執行,而是邊界設計。


官方將 Loop 分成四種類型,而且這不是能力成熟度階梯,而是依需求選擇的模式。


第一類是 Turn-based Loop。這是最基本的模式,由使用者送出 Prompt,Claude 取得上下文後修改程式碼、執行測試、自我檢查,最後回傳結果。人工仍負責最終驗收。它的優點是可控,人始終在流程中;缺點是速度較慢,因為每一輪都需要人工決策。


第二類是 Goal-based Loop。這類模式不是告訴 Claude「做什麼」,而是告訴它「要達成什麼目標」,例如測試全部通過,或 Lighthouse 分數達到 90 分。每輪結束後,會由獨立的小模型判斷目標是否達成。不過這個檢查模型不會自己重跑測試,而是依賴主 Agent 提供的結果與證據,因此主 Agent 必須確實執行測試並清楚展示結果。這種模式的優勢是可以自動反覆嘗試,直到達標或達到最大次數;但前提是目標必須可驗證,例如覆蓋率達 80%、效能在 5 秒內,而不是模糊地要求「寫得更好」。


第三類是 Time-based Loop,適合定期檢查的任務,例如每小時查看 CI 狀態、每天檢查依賴是否更新。系統會按指定時間自動重複執行同一個 Prompt。好處是自動化,但也有執行環境限制,例如 Claude Code 必須保持運行且處於可觸發狀態,部分週期任務還會在建立七天後到期,若要長期運作,需改用雲端排程方案。


第四類是 Proactive Loop,通常會結合更多機制,由事件或排程觸發,不需要人即時看守。例如新 Issue 建立後自動分類、標記並分派,或在收到 Bug 報告時自動執行測試確認是否可重現。這類模式可以處理大量重複性工作,但前提是觸發條件、處理邏輯、驗證規則與停止條件都要定義清楚,否則很容易失控。


官方的真正意思不是把自動化開到最大,而是先把規則補齊。表面上看像是自動化,實際上是在做系統化:不是單純把事情丟給機器不管,而是設定明確規則,讓機器在規則內推進任務。這也是 Prompt 沒有消失的原因,因為連最基本的一次提示都可視為最簡單的 Loop。


很多人誤以為 Loop 就是無限循環,但官方反覆強調最重要的設計之一就是停止條件。好的 Loop 必須清楚回答「什麼時候停」。若停止條件、輪次上限或驗證方式不明,系統可能長時間空轉、反覆嘗試錯誤方向,持續消耗 Token,甚至放大錯誤。


最後,從 Prompt 走向 Loop,並不是從一句話跳到無限自動化,而是從人工盯流程,轉向讓系統在明確邊界內推進任務。核心改變不只是提問技巧,而是從「如何問出好答案」,進化成「如何設計一個可控、可驗證、可停止的系統」。

[AI 分享] RAG四代演進史

 [AI 分享] RAG四代演進史

摘要:從向量檢索到Agentic RAG,梳理RAG 1.0到4.0的核心能力、問題與升級方向。




內容:

RAG如果還停留在單純的向量檢索階段,整體架構可能已經落後。目前相關研究已經把RAG的演進大致梳理成幾個階段,包含 Native RAG、Advanced RAG、Modular RAG,以及最新走向 Agent 時代的 Agentic RAG。這些框架不只是技術升級,也代表系統從「能查資料」走向「能規劃、能反思、能自主執行」。


第一代 RAG,可以理解為最典型的三段式架構:先建立索引,把 QA 文件、商品說明、售後政策切塊後向量化存入資料庫;接著在使用者提問時進行檢索,找出最相關的幾段內容;最後把檢索結果與問題一起交給模型生成答案。這種方式容易落地,但問題也很明顯。第一,向量檢索依賴語意相似度,像「換新」可能會誤召回「回收政策」這種看似相關、實際無關的內容。第二,資訊常分散在多份文件中,一次檢索可能只找到部分內容,導致答案不完整。第三,不同時間版本的文件可能互相矛盾,模型在拼接後容易產生前後不一致的回答。


第二代 Advanced RAG,主要是針對「檢索前」與「檢索後」兩端做強化。在檢索前,先透過查詢改寫、問題擴寫、澄清,讓原本隨意的提問變得更清楚,也可以先讓模型生成一段假設性答案,再用這段答案去檢索,因為答案語意往往更接近真正需要的知識。此外,也會搭配更精細的切塊策略與後設資料標籤,提升索引品質。在檢索後,則加入重排序模型,從較大的候選集裡重新評分,選出真正最有用的內容;同時結合向量檢索與關鍵詞檢索,兼顧語意理解與專有名詞精準匹配。這一代能大幅提升準確率,但本質上仍是固定流程,面對多步驟、跨領域問題時仍顯得吃力。


第三代 Modular RAG,則是把整個 RAG 系統拆成多個可自由組合的功能模組,突破固定流程限制。系統可以依據問題型別透過路由模組決定查詢哪個資料來源,用記憶模組保留歷史對話,再透過融合模組整合多來源結果、去重與合併資訊。更重要的是,檢索方式不再只能一次完成,而是能支援迭代檢索、自適應檢索,甚至先查目錄再查內容的階層式檢索。像同時涉及配送、退貨與運費的問題,就能拆成多輪逐步處理。這讓系統真正具備應對複雜諮詢的能力。


在這之間,還有一個值得單獨提出的方向是 Graph RAG。它不是單純哪一代的自然升級,而是補強傳統向量 RAG 不擅長的多跳推理與關係分析場景。這類方法會先從資料中抽取實體與關係,建構知識圖譜,而不是只切塊做向量索引。查詢時也不只是比對相似片段,而是在圖譜上做推理,例如從商品找到品牌,再連到設計師,最後延伸到設計師的其他作品。這種方式適合需要理解複雜關聯的任務,但建圖成本高、查詢速度也較慢,因此目前實際採用的公司還不算多。有些系統會把向量 RAG 與 Graph RAG 混合使用,讓日常查詢走向量檢索,深度關係分析再交給圖譜處理。


第四代 Agentic RAG,則是目前更進一步的演化方向。它不再只是被動地「你問我答」,而是讓系統具備規劃、拆解、工具調用與自我評估能力。當使用者提出一個複雜需求時,系統會先理解任務本身,再制定搜尋與執行計畫,決定先查什麼、後查什麼,以及該用哪些工具。它不只會檢索,也會對自己的結果做檢查,如果發現答案不夠完整或不夠好,會主動補充檢索、重新生成,直到達到要求為止。以推薦手機給不熟悉科技產品的長輩,並順便提供教學方式這類任務為例,Agentic RAG 能先拆成「推薦產品」與「教學方案」兩個子任務,再分別搜尋、整合與輸出。


整體來看,RAG 的演進邏輯非常清楚:第一代解決的是「把知識接進模型」;第二代強化的是「怎麼查得更準」;第三代處理的是「怎麼更靈活地應對複雜問題」;第四代則走向「讓系統具備自主規劃與反思能力」。如果現在對 RAG 的理解還停留在向量資料庫加大模型,那確實已經不足以應對更高階的應用場景了。

2026年7月15日 星期三

[AI 分享] 注意力對齊比長上下文更重要

 [AI 分享] 注意力對齊比長上下文更重要

摘要 : AI不是不夠聰明,而是常因資訊過多抓不到重點;真正關鍵在於幫它對齊人類注意力。




內容:

把一整場會議記錄交給 AI 整理後,AI 往往能輸出一份看似完整、邏輯清楚、結構分明的會議摘要,但讀完之後,人反而更困惑,因為真正的重點、尚未對齊的部分,以及是否需要後續行動,未必有被清楚凸顯出來。


這種問題很多時候不在於模型不夠強,也不一定是因為提供的上下文太少,反而常常是因為給了太多資訊。當所有內容一股腦丟給 AI 時,它很難自然分辨哪些是背景雜訊、哪些才是影響決策的真正關鍵。


接著,AI 與人類在「注意力機制」上的根本差異。對大型語言模型來說,輸入中的每個字、每個標點、每個語序變化都可能影響結果。這讓它看起來非常敏銳,但也代表它容易對所有資訊「一視同仁」。因此,像會議中的寒暄、跑題閒聊、正式決策,在 AI 眼中權重可能差不多,導致不重要的細節被認真整理,真正左右方向的關鍵時刻卻被淡化。


相對地,人類的大腦會主動過濾大量資訊,只抓住少數真正重要的訊號來理解局勢。更重要的是,人類判斷重點時,依賴的不只是文字本身,還包括許多隱性的線索,例如決策者的語氣、沉默、猶豫、態度轉變,或討論氣氛的微妙變化。這些內容往往不會直接出現在逐字稿裡,但對人類而言卻非常關鍵,而目前的 AI 幾乎無法完整掌握。


因此,未來真正優秀的 AI 產品,重點不只是能處理多長的上下文,而是能否用低成本、高效率的方式,讓 AI 的注意力和使用者的真實意圖對齊。也就是說,要讓 AI 明白哪些資訊只是背景,哪些內容必須被特別強調、不能遺漏。


這件事之所以困難,在於它卡在幾個矛盾之間。AI 若想更懂使用者,通常需要多問一些背景;但問太多又容易讓人覺得麻煩,像在填表格。更複雜的是,很多時候連使用者自己都還沒完全想清楚重點是什麼。因此,一個真正好用的 AI 系統,必須在不打斷流程的前提下,幫使用者挖出那些沒被明說、卻實際存在的內隱脈絡。


區分了兩種上下文:一種是外顯上下文,例如輸入文字、上傳文件、截圖、網頁等;另一種則是內隱上下文,例如專案的歷史、參與者之間的關係、過去踩過的雷、此次決策更重速度還是更重準確。後者其實對判斷重點非常重要,但目前多數模型還很難真正理解。雖然像長期記憶、使用者偏好記錄等功能正在進步,但距離完整掌握「這一次決策背後的隱性脈絡」仍有不小距離。


此外,現在大多數人餵給 AI 的資料都過於扁平,常常是把整場會議紀錄、數篇文章、幾份 paper 一次丟進去,但沒有告訴 AI 哪些文件是核心、哪些段落最重要。這種情況下,AI 只能平均看待所有資訊。相反地,只要幫資料加上目錄、層級、大綱,甚至標示出重點,回答品質往往就會明顯提升。因為這其實是在替資訊加權,讓 AI 有結構地理解內容。


最後提出一種更有效的協作方式:例如在會議中,AI 可以完整記錄錄音作為原始材料,而人類則在過程中順手記下自己認為重要的幾條重點。這些人為標註,就等於是在幫 AI 加權。會後 AI 不再平均對待每一分鐘內容,而是會優先圍繞這些高亮重點,回頭重構整場會議脈絡。如此一來,人類寫下的不只是筆記,更是在告訴 AI「這裡才是需要特別理解的地方」。


總結來說,想傳達的核心觀點是:AI 真正需要的,不只是更多資訊,而是更清晰的注意力。與其一味增加上下文,不如先整理出自己的判斷、結構與重點,再交給 AI 處理。只要多做「畫重點」這一步,即使使用的是同一個模型,最終輸出也可能完全不同。

[AI 分享] Agent、Skill 與大模型的關係

 [AI 分享] Agent、Skill 與大模型的關係

摘要 : 用老闆、員工、操作手冊的比喻,快速釐清大模型、Agent、Skill三者分工與差異。




內容:

用一個很直觀的比喻說明:大模型像老闆,負責判斷與決策;Agent像員工,負責實際執行任務。Agent本身可以搜尋、讀寫檔案、呼叫 API 等,等於隨身帶著工具箱,但真正要怎麼做,仍需要由大模型來拍板決定。


當 Agent 回報任務時,通常會把目前情況、可用工具,以及自己擬定的幾種方案交給大模型。大模型看完後負責選擇方向,例如決定採用哪個方案,Agent 再照指示執行。因此,Agent 是執行者,大模型是決策者。


Skill 則像是員工的操作手冊或 SOP。沒有 Skill,Agent 每次遇到任務都得從零開始思考流程、工具、順序與輸出格式,效率低又耗資源;有了 Skill,就能直接依照已驗證過的流程處理類似問題,大幅提升效率。


Skill 和提示詞不同。提示詞比較像一次性的口頭交代,用完即止;Skill 則是一整套可重複使用的能力包,裡面可能包含角色設定、工作步驟、所需工具、輸出規範,甚至參考資料。它不是一句指令,而是一套完整方案。


另外,Skill 必須安裝在 Agent 身上才有意義,單獨存在並不能自己完成工作。當 Agent 與大模型互動時,才會連同 Skill 的資訊一起帶上,讓大模型知道這個 Agent 具備哪些能力,進而在對應任務中觸發使用。通用型 Skill 甚至可以安裝在多個 Agent 身上,但前提是其中使用的工具不是某個 Agent 獨有。


最後總結就是:大模型是負責決策的老闆,Agent 是負責執行的員工,Skill 是裝在員工身上的操作手冊。真正用好 AI 的關鍵,不只是寫出一條好提示詞,而是持續沉澱可複用的 Skill;累積越多,Agent 就越強、越快,也越省成本。

2026年7月14日 星期二

[AI 分享] 從零搭建 AI Agent

 [AI 分享] 從零搭建 AI Agent

摘要 : 用白話拆解 AI Agent 核心原理、搭建步驟、工具設計與測試方法,幫你快速做出可用原型。




內容:

AI Agent 沒有想像中神秘,本質上都在做同一個迴圈:使用者輸入問題後,大模型先推理,再決定是直接回覆,還是呼叫工具執行任務;工具執行完再把結果回傳給模型,持續反覆直到產出最終答案。無論是各種熱門框架,底層核心其實都離不開這個流程。


理解 Agent 可以先抓住三個元素:LLM 是大腦,負責思考;Tools 是雙手,負責做事;Memory 是筆記本,負責記錄上下文。作者並提出一個實用公式:Agent = 角色 + 目標 + 工具 + 規則 + 輸出格式。只要把這五項定義清楚,Agent 的雛形就已經建立起來。


實作上可分五步。第一,先用一句具體的話寫出 Agent 要做什麼。第二,把需求交給 AI,請它生成系統提示詞、工具清單與測試案例。第三,先做最小可用版本,只配一個 Agent 和一兩個工具,不急著上多 Agent、複雜記憶或 RAG。第四,用真實且帶雜訊的使用者語句測試,而不是只用理想化輸入。第五,每次只改一個變數,依序調整提示詞、輸出格式、範例、工具與記憶,避免無法判斷問題來源。


在框架選擇上,重點不是糾結哪個最好,而是先開始做。不同框架只是對同一套 Agent 迴圈做封裝,各有偏好與適用場景,但核心方法一致:給任務、給工具、讓模型持續迴圈直到完成。熟悉哪個就先用哪個,行動比選型更重要。


工具設計是效果好壞的關鍵,原則是少而精,一個工具只做一件事,避免萬能型工具塞入過多參數。每個工具不只要定義功能,還要清楚寫明何時使用,例如計算器應標註「需要數學計算時使用,不要猜答案」。更好的工具會讓 Agent 更聰明,而更少的工具通常也代表更高的可靠性。


記憶與進階架構則不必過度設計。多數場景用對話歷史就足夠,長期記憶可交給外部知識庫,只有在需要查大量文件時才考慮 RAG。常見工作模式包含串聯加工、路由分發、並行處理、中心調度與生成評審,但大多數任務以前兩種就夠。總結來說,先裸寫一個 Agent 理解原理、從最簡單模式起步,並把時間花在工具設計與真實測試上,往往比換模型或換框架更有效。

2026年7月13日 星期一

[AI 分享] Claude 文件技能包:Document Skills

 [AI 分享] Claude 文件技能包:Document Skills

摘要:官方開源文件技能包,一次支援 Word、PDF、PPT、Excel,大幅提升文件處理效率。



內容:
最近很值得推薦的一個 Claude 官方出品技能包,就是 Document Skills。這個專案來自 EnsoPic 官方開源,在 GateHub 上已經獲得將近 15 萬關注,熱度相當高。

這套技能包主要涵蓋四大文件處理能力,分別是 Word、PDF、PPT、Excel。更特別的是,它屬於 Claude AI 文件處理能力的對外開放版本,讓使用者可以直接把 AI 文件理解與處理能力應用在實際工作中。

它最實用的地方,在於能明顯解決日常文件處理的痛點。
例如第一個場景,當你收到一份 30 頁的 PDF 合同,想快速找出所有和付款有關的條款,過去可能要逐頁翻找,至少花上半小時。現在只要安裝 Document Skills 裡的 PDF 技能,直接對 Claude 下指令,像是「提取這份合同裡所有涉及付款的條款」,系統就能自動整理出結果,幾分鐘內完成。

第二個場景是簡報製作。當你想把一份 HTML 報告快速轉成 PPT,以前通常需要手動複製、貼上、調整格式與排版,耗時又繁瑣。現在透過 PPT 技能內建的 HTML2PPTX 轉換引擎,可以搭配相關渲染與生成能力,自動將 HTML 內容轉成完整 PPT。你只需要下達一句「把這個 HTML 轉成 PPT」,剩下流程就能自動完成。

如果你的工作經常需要 審合同、做彙報、整理資料、處理各類文件,那麼 Document Skills 很適合作為你的 AI 文件助理。它不只是提升效率,更能幫你減少大量重複性工作,真正省下不少加班時間。

[AI 衝擊] OpenAI 訂閱邏輯重寫

 [AI 衝擊] OpenAI 訂閱邏輯重寫

摘要 : OpenAI取消5小時配額,並同步優化模型效率與重置額度,顯示AI競爭正從按量計費轉向提高使用黏著度。




內容:

OpenAI近日針對ChatGPT與相關產品做出多項重大調整,其中最受關注的是取消付費方案原有的5小時配額限制,代表使用門檻再度被放寬。


同一時間,OpenAI也推進了GPT與Codex整合,並針對GPT 5.6 SO進行效率最佳化,讓單次使用成本進一步下降;此外,所有使用者額度也一併重置,形成一波明顯的產品策略更新。


這不只是單純的功能提升,而是底層商業邏輯的改變。當模型能力更強、單次成本更低、總量限制也被放開時,整體方向已不再只是提升性能,而是在重塑訂閱制度本身。


對開發者與使用者而言,過去較熟悉的是按token、按次數或按時間額度來理解成本;但若「接近無限量使用」逐漸成為常態,定價模式就可能從「用多少付多少」轉向「只要你持續依賴這個平台就行」。


因此,這波調整的核心不在於OpenAI變得更慷慨,而是在押注一件事:當效率提升到一定程度,只要使用習慣建立起來,平台就不再需要靠明顯的限制來約束使用者。


表面上看是限制鬆綁,實際上反映的是AI工具競爭焦點的轉移。未來比的未必只是誰更強,而是誰能更深地嵌入你的工作流程,讓你越來越離不開。

[AI 衝擊] Prompt Injection與四層護欄


摘要 : 提示詞注入是LLM頭號風險,重點在模型分不清資料與命令,防禦需靠模型外四層護欄。



內容:

先用一個真實感很強的案例說明風險:有人把正常的商業簡報分享給使用Copilot的同事,卻在演講者備註中藏入惡意指令。當同事請Copilot做摘要時,模型讀到這段隱藏內容後,沒有摘要文件,反而洩露了最近郵件。這就是Prompt Injection(提示詞注入),也是OWASP連續三年列為大模型應用頭號風險的LLM01。


先區分兩種注入方式。第一種是直接注入,指使用者在對話中直接輸入惡意指令,例如要求模型忽略規則並洩露密碼。這類相對容易發現。第二種是間接注入,惡意指令藏在郵件、PDF、網頁、表單欄位或演講備註等外部內容裡,模型在讀取時就可能中招。這種情況更危險,因為使用者可能完全沒有做錯任何事。


接著解釋,為什麼單靠在系統 Prompt 裡寫「請勿洩露資訊」並沒有用。根本原因在於模型無法可靠區分上下文中哪些是應遵守的命令、哪些只是待處理的資料。攻擊者只要把惡意語句混進內容,模型就可能被誤導。因此,安全不能建立在「模型會乖乖聽話」這個假設上,必須把防護做在模型之外。


真正可行的做法是建立四層護欄。第一層是輸入層,對外部內容先做檢測、隔離與標記,例如用 spotlighting 把資料和系統指令分開。第二層是模型層,採用最小權限原則,不給模型不需要的能力與資料。第三層是輸出層,在模型產出結果後再做檢查,避免敏感資訊外洩或執行越權動作。第四層是行動層,高風險操作如發信、匯出資料、付款、執行命令,必須加入人工審核或工具白名單限制。


多個 agent 協作時還要注意跨 agent 身分驗證,不能彼此無條件信任,否則可能出現二階注入:低權限 agent 被騙後,誘導高權限 agent 執行危險行為。更進一步的做法是 dual LLM,把處理不可信內容的模型與具備權限的模型分開,並用 runtime guardrail gateway 統一集中管理請求與安全策略。


最後總結一句核心觀點:模型分不清資料和指令,護欄的任務就是替模型做這件事。若在面試中被問到如何保護一個能發郵件的 AI agent,可以用四句話回答:輸入層隔離外部內容、模型層最小權限、輸出層校驗外發內容、行動層高危操作強制人審或白名單。這也是AI治理中非常關鍵的一套實務框架。

2026年7月12日 星期日

[AI 衝擊] OpenAI發表GPT5.6與ChatGPT Work

 [AI 衝擊] OpenAI發表GPT5.6與ChatGPT Work

摘要 : OpenAI推出GPT5.6家族與ChatGPT Work,展示AI可接管檔案、報表、簡報與桌面操作,衝擊傳統白領工作模式。




內容:

OpenAI近期發表新一代推理模型 GPT5.6,並同步推出工作平台 ChatGPT Work。原文將其形容為對傳統辦公場景的重大衝擊,不再只是聊天助手,而是朝向能直接承接複雜辦公流程的數位工作者發展。


這次 GPT5.6 家族分成三個版本:SOL、TERRA、LUNA。SOL主打最複雜、長週期的 Agent 任務;TERRA強調速度與性價比,適合高頻日常辦公;LUNA則聚焦更快、更便宜的大規模企業並發任務。付費用戶可優先體驗 SOL,免費用戶也能使用 TERRA 與 LUNA。


發表會中,OpenAI重點展示了 ChatGPT Work 在財務場景的能力。面對實際業績超出預測 200 萬美元的情況,系統可自行理解財務邏輯,快速完成差異分析、指出超額完成原因與潛在風險,並同步更新底層 Excel 模型與生成完整的 PowerPoint 簡報。


更進一步的是,ChatGPT Work 還能把原本靜態的財務分析內容,一鍵轉成具 3D 動態效果的互動式網站,方便主管直接透過連結查看資金流向與圖表細節。這讓原本可能需要財務、設計、前端等多人協作的工作,被濃縮進單一對話流程中完成。


另一個更具震撼性的重點,是桌面版 ChatGPT 獲得了所謂的「計算機使用能力」。在獲得授權後,AI可讀取本地檔案、瀏覽器分頁與部分第三方軟體內容。展示中,工程師將大型客服投訴 Excel、用戶研究報告、合規 PDF 與多個技術文件交給 AI,系統在不到 90 秒內就能依公司模板生成結構完整的會議簡報。


原文最後強調,這類能力意味著 AI 不只會分析資料,還可能進一步接手知識整理、簡報製作、檔案歸類,甚至直接操作桌面應用程式。整體訊息指向一個核心判斷:OpenAI正把 AI 從「回答問題」推向「直接完成工作」,而最先受到衝擊的,將是大量重複性高、以資訊整理與文件輸出為主的白領職位。

[AI 分享] Vibe coding 為何容易失控


摘要 : AI降低原型開發門檻,但若缺乏系統模型、驗收標準與影響分析,Vibe coding 很容易在快速生成後走向失控。



內容:

為什麼 Vibe coding 容易讓人上癮,也為什麼常常在半小時後開始失控。核心原因在於,AI 大幅降低了原型開發的門檻,頁面、指令碼、介面只要一句描述就能快速生成。


但真正的關鍵,不是 AI 不會寫程式,而是人在使用過程中,沒有同步建立完整的系統模型。於是開發流程常常從一開始的順滑生成,走到後續的區域性修補,最後演變成上下文全面失控。


此時程式碼雖然持續增加,但開發者已經越來越難解釋這些程式為什麼要這樣寫。拿到的只有更多程式碼,卻沒有同等程度的結構說明、驗收標準,以及影響分析。


這也讓真正稀缺的能力,不再只是寫程式的速度,而是能否清楚界定目標邊界、建立驗證機制,以及承擔最終交付責任。


因此,Vibe coding 最適合拿來做原型與實驗,而不是直接把它當成穩定交付的完整方案。


更好的做法,是先寫好驗收條件,再讓 AI 開始生成,並把高頻流程逐步沉澱成可複用的技能。AI 雖然讓寫程式更快,但能否穩定交付,最後仍取決於你有沒有把工程能力接回來。

[AI 分享] Vibe Coding入門

 


摘要 : 解析Vibe Coding、AI大模型、Agent與工程化落地,說明AI如何從輔助寫碼走向自動完成開發流程。



內容:

過去不少程式設計師使用AI寫程式時,仍得自己在聊天框與本地編輯器之間反覆複製貼上、切換視窗、搬運報錯資訊,不但操作繁瑣、效率低,也因上下文割裂,常讓AI生成的程式碼難以直接融入專案。


所謂 Vibe Coding,是一種更自動化的開發方式。使用者只需提出需求,AI便能自行閱讀本地程式碼、修改檔案、編譯執行,遇到報錯再自行根據錯誤資訊修正,直到功能完成並通過測試。開發者從「手動搬運工」轉變為主要負責提需求與驗收結果的人。


這種模式之所以成形,是因為AI程式設計不再只停留在雲端聊天框。聊天介面本身只是外殼,真正具備理解需求、規劃邏輯與生成程式碼能力的是底層的大語言模型。Vibe Coding關注的核心,其實是這個「大腦」如何與本地開發環境深度結合。


目前常見的大模型選擇包含 Claude、GPT、Gemini,以及千問、DeepSeek 等模型。它們各有特色,有的偏向程式碼品質與邏輯細膩,有的強在通用能力或生態整合,也有的在效能與性價比上表現突出。但即使模型再聰明,仍有一個限制:它本身無法直接操作使用者本地電腦。


為了解決雲端模型無法觸碰本地系統的問題,就需要 Agent。Agent 是運行在本地電腦上的執行程式,像是雲端大模型的手腳與眼睛。大模型負責思考與決策,Agent 則負責讀取檔案、修改程式碼、執行命令與回傳結果,兩者配合後,AI才能真正從「會寫」進一步變成「會做」。


實際流程中,使用者只要提出需求,例如新增一個按鈕,Agent 會將需求轉給雲端模型;模型分析後要求讀取本地檔案,Agent 便讀取並回傳內容;接著模型再下達修改與執行測試的指令,由 Agent 在本地完成。再往下一步,若結合規範文件與測試驅動等工程化方法,還能進一步約束AI輸出,降低Bug風險,讓它在面試與實戰中真正產生價值。

[AI 商戰] 2026年AI王座之戰:最聰明模型為何輸給最會落地的產品

 [AI 商戰] 2026年AI王座之戰:最聰明模型為何輸給最會落地的產品

摘要 : Anthropic憑最強模型領先,卻因高價失守;OpenAI靠低成本與自動化執行力,改寫AI商業競爭規則。




內容:

2026年中旬這場AI王座之戰,表面上是在比誰的模型更聰明,實際上早已變成一場商業效率的殘酷對決。Anthropic推出的Fable 5,被視為當時地球上最聰明的大模型之一,在高階架構規劃、複雜系統理解與大型程式碼庫梳理上幾乎無人能敵,像一位能瞬間看穿企業未來的頂級CEO。


但Fable 5的致命問題不是能力,而是價格。它在實際生產環境中的API成本高得驚人,一次高強度開發工作,單個工程師半天就可能燒掉數百美元。這使它更像奢侈品,而非可長期部署的生產力工具。對企業與獨立開發者來說,哪怕再聰明,若無法控制成本,就難以成為主力方案,因此不少公司轉向更便宜的開源模型或降級替代品。


OpenAI在一個月後推出ChatGPT 5.6,並未正面硬拚最高智商,而是用更完整的產品組合與工程化能力切入市場。當中的SOUL模型雖然在最頂層架構理解上略遜Fable 5,但真正拉開差距的,是它更強的Agent能力與外部環境控制能力。它不只是產生程式碼,還能主動操作瀏覽器、完成註冊、抓取API Key、配置環境、執行測試、查文件、修錯再重跑,直到交付完整結果。


這種能力讓AI從「程式碼助手」變成「可直接交辦任務的執行者」。過去需要開發者自己在多個視窗、工具與平台間來回切換的工作,如今可由GPT 5.6在背景自動完成,大幅壓縮人力協調與工程落地成本。市場真正要的,不是最會考高分的模型,而是能在成本紅線內把髒活累活穩定做完的系統。


因此,產業逐漸形成一套新的黃金工作流:先用昂貴但極聰明的Fable 5做一次性的頂層規劃與需求拆解,再把這些高品質文件交給ChatGPT 5.6持續執行開發、測試、修正與部署。Fable 5成了戰略顧問,GPT 5.6則成了真正撐起交付效率的工程主管。這也說明,模型的智力優勢若無法轉化為可負擔、可規模化的產能,就很難守住市場。


更深層的變化在於,OpenAI已把競爭從模型本身延伸到裝置、生態與工作流控制。GPT 5.6透過多裝置節點協同與遠端控制能力,讓桌機、筆電、平板、手機都能變成主控開發環境的入口,形成高度整合的自動化中樞。這意味著2026年的AI競爭,勝負關鍵已不再只是誰更聰明,而是誰更能落地、更能整合工程流程、並真正把技術能力轉化為商業現金流。

2026年7月11日 星期六

[AI 競爭] GPT 5.6與Groq 4.5同日對決

 [AI 競爭] GPT 5.6與Groq 4.5同日對決

摘要 : OpenAI與Groq同日發布新模型,從性能競賽轉向價格與場景應用之爭。




內容:

OpenAI正式推出GPT 5.6,這次並非只發布單一模型,而是一次帶來三種不同定位的版本。


其中,Sol 主打最強能力,瞄準高性能需求;Terra則聚焦日常辦公與高性價比應用;Luna則強調速度快、成本低,適合更廣泛的使用場景。


同一天,馬斯克方面也推出Groq 4.5,直接對標高階程式設計模型,並接入cursor,明顯鎖定程式碼撰寫、AI agent執行長任務等高頻應用場景。


這場雙雄同日出招,成為AI產業的重要觀察點。可以看出,AI公司之間的競爭,正從單純炫技逐步走向實際應用、產品分工與價格戰。


對使用者來說,模型競爭越激烈,選擇越多,成本也可能越低,整體而言反而是最大受益者。

[AI 衝擊] OpenAI 一次釋出 GPT5.6 全系列

 [AI 衝擊] OpenAI 一次釋出 GPT5.6 全系列

摘要:GPT5.6 全家桶登場,模型、價格、應用與研發效率同步升級,AI 自我加速時代再往前一步。




內容:

OpenAI 剛剛一次性釋出 GPT5.6 全系列,包括 SAW、TERRA、LUNA 三個模型,完整覆蓋不同應用場景。其中旗艦模型 SAW 被視為直接對標競品而來,在多項關鍵測試中表現亮眼。


在 AGENTS last exam 測試中,SAW 拿下 53.6 的成績,領先對手超過 13 分;在編碼榜上更創下連續 8 週領先 10 分的紀錄,進一步鞏固其程式能力優勢。除了性能提升,價格也同步下調,入門款 LUNA 每百萬 token 輸入僅需 1 美元,整體性價比大幅提升。


產品層面也出現重大整合,ChatGPT 與 Codex 正式合體,未來將統一為 ChatGPT 一個應用使用。新推出的 ChatGPT Work,則能跨越使用者的 App 與檔案,持續圍繞同一個專案執行多個任務,連續工作數小時,直接把目標推進到成品階段,可視為 OpenAI 版的高階工作型 Agent。


更值得注意的是,OpenAI 表示 GPT5.6 是目前最能幫助內部研究加速的模型。研究人員已用它來診斷故障、優化訓練流程、執行實驗。在內測期間,平均每位研究員每日消耗的 token 翻倍成長,半年內內部程式設計相關算力更提升了 100 倍。


OpenAI 還特別測試了「讓一個模型改進另一個模型」的能力。結果顯示,GPT5.6 在這種遞迴式自我改進指標上,明顯優於前一代。這也意味著,當 AI 開始參與打造下一代 AI,技術演進速度可能不再是線性成長,而是進入更快速的加速循環。


整體來看,GPT5.6 不只是一次模型更新,更像是 OpenAI 在模型能力、成本控制、產品整合與自我研發效率上的一次全面推進,也讓 AI 邁向更高階自主工作的想像再次被拉近。

2026年7月10日 星期五

[AI 分享] 三種AI規劃框架差異解析

 [AI 分享] 三種AI規劃框架差異解析

摘要 : 比較GrillMe、Brainstorming與Explore三種規劃工作流,解析流程、視覺化與追蹤上的核心差異。




內容:

在 AI 時代,程式碼生成工具愈來愈強,但如果需求本身模糊,再厲害的生成能力也無法真正解決問題。因此,規劃與需求分析的重要性被再次放大。這篇內容聚焦三個很具代表性的規劃型技能與工作流:Matt Pocock 的 GrillMe、Superpowers 的 Brainstorming,以及 OpenSpec 的 Explore。


雖然三者都在幫助使用者把模糊想法整理清楚,但方法與設計哲學差異很大。它們分別像是三種不同角色:GrillMe 像咄咄逼人的面試官,Brainstorming 像嚴格的專案經理,Explore 則更像一位陪你一起釐清思路的資深同事。三者共同解決的是同一個核心問題:在真正開始實作之前,如何確認你已經理解自己要做什麼。


第一個差異是流程嚴格性。GrillMe 對應的 Grilling 方法最輕量,核心就是讓 AI 持續追問,一題一題壓力測試你的想法。例如你提出要做即時協作編輯器,AI 就會追問併發人數、同步方式、斷線處理、衝突解法等細節。這種方式快速、有訪談紀律,能逼你正面回答模糊處,但缺點是通常不強制產出正式文件,因此事後不容易追蹤決策脈絡。它特別適合已有初步構想、想快速驗證可行性的場景。


Superpowers 的 Brainstorming 則明顯更制度化。它有一套九步 checklist,從探索專案上下文開始,必要時引入 visual companion,再逐步提出澄清問題、給出多個方案、展示設計、獲得確認、寫入設計文件、進行審查,最後才進入規劃撰寫。它的哲學是:沒有專案小到不需要設計。即使需求看似簡單,也必須經過完整流程,確保邊界、介面與責任分工都被釐清。這套方法雖然較繁瑣,但能有效降低設計模糊與系統耦合帶來的風險。


Brainstorming 還特別強調「設計隔離與清晰性」。也就是每個系統部分都要有清楚目的,並透過良好定義的介面與其他部分互動,讓各部分可以被獨立理解與測試。這個原則雖然聽起來教科書化,但在實際工程中非常關鍵,因為很多系統問題正是源於邊界不清、模組互相牽連。


OpenSpec 的 Explore 則介於兩者之間,但更接近靈活探索型。它沒有固定步驟,也不急著生成正式文件,而是優先協助使用者把問題想清楚。當方向尚未明確時,它會先幫你讀程式碼、比較選項、畫圖澄清範圍;等方向成形後,再交由後續流程產出 Proposal、Spec、Design 或 Tasks。Explore 適合面對大型、混亂、尚未看清全貌的系統時使用,它的重點不是交付文件,而是先建立理解。


第二個差異是視覺化支援。Grilling 基本上完全依靠純文字對話,對簡單決策足夠有效,但當討論複雜系統架構、多 Agent 流程或 UI 配置時,純文字容易讓人混亂。它的優勢是簡單直接,但在高複雜度問題上會顯得吃力。


Brainstorming 內建 Visual Companion,能在需要時透過瀏覽器顯示原型、圖表或設計選項。這不是預設強制啟用,而是根據問題性質與使用者同意後才開啟。例如討論 UI 時,可以展示多種版面配置;討論系統架構時,可以呈現互動式架構圖。這種按需視覺化的方式兼顧效率與清楚度,也避免了過度設計。


Explore 的視覺化方式則相對樸素,偏向使用簡單的文字圖或雙圖示意。雖然看起來原始,但對工程師而言往往非常實用。透過純文字快速畫出系統結構、資料流或狀態轉換,不需要額外工具,也很容易直接整合到文件、註解或討論過程中。這種極簡風格反而非常適合技術探索。


第三個差異是輸出與追蹤機制。Grilling 的成果多半停留在「共同理解」層次,也就是你和 AI 透過問答把事情想清楚了,但不一定留下可回顧、可維護的紀錄。這對短期討論很有幫助,但在長期協作或大型專案裡,容易造成知識流失與決策脈絡中斷。


相對來說,Brainstorming 對輸出與文件化更重視。它會把設計內容逐步寫入文件並交由使用者審查,讓規劃過程不只是一次對話,而是形成可追蹤、可驗證、可維護的設計資產。這讓團隊在數週甚至數月後,仍能理解當初的設計理由與取捨。


Explore 則比較強調先探索、後收斂。它本身不一定立刻建立完整變更資料夾或正式規格,但在需要時可以把探索結果轉換成 OpenSpec 的相關 artifacts,供後續流程使用。也就是說,它把重點放在「理解形成」而不是「文件先行」,適合作為前期思考與釐清的入口。


整體來看,這三種框架沒有誰絕對最好,而是各自適合不同情境。如果你已經有一個想法,只想快速驗證與釐清盲點,GrillMe 會很有效率;如果你在做的是需要嚴謹設計、多人協作、長期維護的專案,Brainstorming 會更穩健;如果你面對的是一個龐大、陌生、混亂的問題域,還不知道正確問題是什麼,那麼 Explore 可能是最自然的起點。


這些差異也提醒我們,規劃工具的本質不只是幫忙問問題,而是決定你如何理解問題、如何記錄決策,以及如何把模糊想法轉化為可執行的設計。在 AI 工具越來越強的今天,真正拉開差距的,往往不是誰寫程式比較快,而是誰能更早把問題想清楚。

2026年7月8日 星期三

[AI 分享] 本地AI硬體轉向容量戰

 [AI 分享] 本地AI硬體轉向容量戰

摘要 : 2026年本地AI硬體競爭重心由算力轉向記憶體容量,AMD憑統一記憶體以低價切入大模型本地部署。




內容:

2026年,本地AI硬體的採購邏輯正在改寫。過去大家比的是晶片算力,如今真正決定能不能跑大型模型的,反而是記憶體容量。因為許多有實際業務價值的大語言模型,單是載入就需要數十GB記憶體,1200億參數模型即使量化後也至少要約70GB,這讓許多高算力但顯存不足的顯卡直接失去資格。


這也讓過去看似便宜的雲端API訂閱,逐漸暴露出高昂成本。當團隊開始部署多個AI Agent並讓工作流長時間運轉,雲端帳單可能快速膨脹,甚至一夜就燒掉數百美元。另一方面,2025年底到2026年間,全球記憶體供應吃緊,DRAM價格大漲,也推高了輝達工作站售價,讓本地硬體的成本結構更加依賴「容量」而非純算力。


在這個背景下,AMD靠統一記憶體架構突圍。搭載Strix Halo的機器最高可配128GB統一記憶體,且可將96GB到112GB直接分配給GPU使用,使得原本只有高價工作站才能觸及的大模型,如今在更便宜的AMD迷你主機上也能載入。這並不代表AMD在GPU算力上全面壓倒輝達,而是它繞過了消費級顯卡常見的32GB顯存上限,先取得了「能把模型裝進去」的入場資格。


實際表現上,AMD在大型模型生成速度上並不差。以1200億參數模型為例,Strix Halo約每秒34個token,對比輝達DGX Spark的38.5個token,差距只有約13%,但價格卻低上許多。只是AMD也有明顯短板,尤其在處理長上下文時很關鍵的預填充速度,輝達可達每秒1723個token,而AMD僅約340個token。此外,AMD官方宣稱的記憶體頻寬在實測中也有落差,實際表現與蘋果M3 Ultra相比更有明顯差距,顯示它強在容量性價比,不是全方位領先。


文章也指出,目前晶片廠商大力宣傳的NPU,對本地大型語言模型推理幫助有限。因為主流工具如Ollama、llama.cpp、LM Studio等,現階段主要仍依賴IGPU與記憶體頻寬,NPU更多還停留在行銷層面。真正讓AMD這類平台顯出價值的,不是單次跑分,而是可支撐多AI Agent並行工作的能力,尤其適合夜間自動化研究、內容生成、資料清洗與程式碼測試等工作流。


整體來看,這篇內容的核心觀點是:2026年的本地AI競爭,已從「誰算得快」轉向「誰裝得下、跑得起、撐得久」。AMD憑藉大容量統一記憶體,在價格與多任務併發上打出明顯優勢;輝達仍在高效能與預填充速度上保有實力;蘋果則守住高頻寬高價格定位。隨著開源社群與企業愈來愈重視本地部署、資料安全與長期成本控制,容量導向的本地AI硬體正成為新主流。

2026年7月7日 星期二

[AI Insights] Why Superpowers 6 Cuts AI Coding Costs

 [AI Insights] Why Superpowers 6 Cuts AI Coding Costs

Summary: Superpowers 6 shows that AI coding costs often come less from inference itself and more from repeatedly re-reading the same context.




Content:


Many people assume AI programming is expensive because the model itself is expensive. Superpowers 6 offers a very different answer. In many cases, the biggest cost does not come from a few inference calls, but from making AI repeatedly read the same context.


For example, the same Git diff may be read once by a Diff Coordinator, again by an Implementer, and then reviewed again by a Reviewer. Likewise, a Plan Controller may break down a task, only for a Subagent to reread everything from scratch during execution. For human developers, this kind of repetition is almost free. For LLMs, every repeated read becomes tokens, and once that context is included, later steps keep paying for it.


That is why this video focuses on a counterintuitive optimization. Superpowers 6 does not mainly save money by downgrading every step to cheaper models. Instead, it reduces waste by making agents read less irrelevant material, avoid repeatedly fetching the same information, and delegate deterministic work to scripts. Expensive context is then reserved for actual judgment.


On June 9, 2026, Anthropic released Fable 5. On June 12, access to Fable 5 and Mythos 5 was suspended due to U.S. export control requirements. Anthropic later explained that the practical effect of those restrictions was that access had to be disabled for all users. On June 30, the export controls were lifted, and on July 1, Fable 5 access began to return.


The optimization work Jesse Vincent did for Superpowers 6 took place during Fable 5’s early availability window. Across 25 experiments over 36 hours, the listed cost was about $165. At unsubsidized token pricing, the cost would have been around $650.


According to the author’s blog, on the Anthropic Evo benchmark, Superpowers Build reduced wall-clock runtime by about 50% and token spend by about 60%. However, an important boundary must be added here: this 60% figure reflects the author’s highest-end Evo result and should not be assumed to reproduce across every project, harness, or workload.


The wording in the Superpowers V6.0 Release Notes is more conservative. It says that in their Evo runs, Cloud Code and Codex had similar quality, but were about twice as fast and used close to 50% fewer tokens. This actually makes the optimization more credible, because it includes failed cases, risk records, and rollback decisions rather than just presenting a large savings number.


If you have never used Superpowers, here is a quick background. Superpowers can be understood as a software development methodology designed for coding agents. It does not just ask AI to write code. It also constrains how AI understands requirements, breaks down work, writes tests, and performs reviews.


A typical flow looks like this:


First comes Brainstorming. The agent does not immediately jump into editing code. Instead, it asks about goals, boundaries, risks, and acceptance criteria, then produces a design document.


Next is the isolated workspace stage. Using Git Worktrees, the system checks whether you are already in an isolated environment. If not, it creates or guides the creation of a Git worktree, runs initialization scripts and baseline tests, and then writes a plan.


This plan is not just a few sentences about implementing a feature. It includes file paths, interfaces, test commands, and expected outcomes. Each task must be independently testable and independently reviewable. Within each task, each step is meant to be only a 2–5 minute action.


Execution then moves into Subagent Driven Development. The Controller assigns each task to a new Subagent. That Subagent receives only the context it needs, follows TDD through Red, Green, and Refactor, commits the code, and then passes it to a Reviewer.


Per-task review became especially important in V6. After each task, a Reviewer returns two verdicts at once: Spec Compliance and Code Quality. In other words, did the implementation satisfy the requirement, and is the code itself well written? Both are judged in the same review round.


After all tasks are completed, there is also a Whole Branch Review, followed by Finishing A Development Branch. At that point, the system runs full tests and decides whether to merge, open a PR, keep the branch, or discard it.


This process is stable, but before V6 it also had clear tradeoffs: high cost and slow execution. Jesse wrote that the most common user complaint was token expense. Superpowers also felt slow at scale. While slowness can be tolerated if things run automatically in the background, both slowness and cost hurt the user experience.


The first major optimization targeted the handoff from Coordinator to Reviewer. Fable analyzed a large number of Subagent Driven Development sessions and found that Code Reviewers and Spec Compliance Reviewers often ran many Git commands during review. That sounds normal, because a Reviewer wants to inspect what changed and may call commands like git log, git diff, and git stat.


The problem is that command output in an LLM workflow is not free. Once a diff is expanded, the output enters the observation stream and can be repeatedly carried through later turns. A medium-sized refactor diff can easily consume tens of thousands of tokens. Worse, that information has often already been processed by other roles. The Coordinator saw the context while planning, the Implementer saw the relevant files while coding, and the Reviewer then fetches it all again.


V6 solved this in a simple but effective way. Before the Reviewer starts, a script generates a Review Package. This package includes the commit list, file change statistics, and the full diff with context. The Reviewer receives a file path instead of needing to run Git commands manually.


This Reviewer handoff redesign delivered about a 10% improvement in both token usage and wall-clock time. A similar idea appears in the Task Brief. Instead of repeatedly giving the full plan to every Subagent, the Controller extracts the current task into a brief file. The Subagent reads its own brief rather than searching through a long plan.


A useful comparison is this: the old flow was like sending the Reviewer into the warehouse to gather evidence alone. The new flow is like preparing an evidence bag before work begins. The Reviewer only needs to read the bag. The change is not flashy, but it is deeply practical. If information can be computed reliably by scripts, it should not be fetched live through an LLM context window.


The second major optimization was reviewer consolidation. In V5, each task had two separate reviewers: one for Spec Compliance and one for Code Quality. That sounds safer on paper, but experiments showed the design was expensive and overly sensitive to how the Controller prompted the system.


V6 merged the two roles into a single Task Reviewer prompt. That Reviewer reads the diff once and returns both verdicts together: whether the requirement was implemented correctly and whether the code can be trusted.


An interesting new status was also introduced: Cannot Verify From Diff. Some requirements are not visible in the current diff or span multiple tasks. In the past, a Reviewer might try to reconstruct the full situation by aggressively exploring files and history, which consumed tokens and weakened task boundaries.


In V6, the Reviewer is allowed to explicitly admit that it cannot verify something. If a requirement cannot be validated from the current diff, it is marked as a warning and escalated to the Controller. Since the Controller already has the full plan and cross-task context, it is better suited to make that judgment.


This should not be misunderstood as “less context is always better.” In one of the Superpowers Evo experiment sets, this exact mistake appeared. If the Reviewer received only the Diff Package but not the Task Brief, it tended to confidently reduce the spec into vague global constraints. In five recorded runs, it never once identified the missing brief. This is a valuable finding: saving tokens is not about blindly deleting context. It is about removing duplicated information while preserving task definitions, interfaces, tests, and constraints.


The third optimization was model layering. Many teams instinctively send every AI coding task to the strongest model available. The reasoning is simple: if quality matters, then use the most powerful model everywhere.


Superpowers 6 suggests a more nuanced strategy. Mechanical tasks can often use cheaper models. For example, if the plan already provides complete code guidance and the Implementer mainly needs to transcribe, run tests, and fix small issues, a lower-cost model may be enough. But tasks that require reading prose plans, doing multi-step reasoning, or judging architectural boundaries should not be downgraded casually.


The same applies to reviewing. Small diffs and mechanical edits may be handled by cheaper models. But anything involving concurrency, shared state, cross-file contracts, or model-level architectural judgment requires a stronger model.


V6 also enforced an explicit model declaration on every dispatch. Without that, many harnesses would inherit the most expensive model from the current session by default. The release notes mention one case where 26 reviewers all ran on the top-tier model. That is how money quietly disappears.


The experiments also tested several ideas that sounded reasonable but performed poorly.


The first was limiting Controller thinking. The logic seemed straightforward: if reasoning is expensive, cap the Controller’s thinking budget. But the result backfired. The average number of turns rose from 92 to 138, and output volume increased as well. Thinking less early on caused more wandering and more repair cycles later. Any tokens saved upfront were quickly lost in follow-up corrections.


The second was shrinking plan length. Many people assume long plans must be wasting tokens. In the experiments, a plan word budget was added, and even code sections were exempted, yet test signals still dropped by 62%. What got removed were the very anchors needed later: test definitions, interfaces, and task structure. This result is highly relevant for engineering teams. The value of a plan lies in the guidance it provides for execution and review. If those anchors are removed, each agent has to guess for itself.


The third was using Sonnet to generate the plan. Sonnet is cheaper and often performs well, so why not let it write the plan? The E11 result was subtle. Sonnet did not obviously lose requirements, global constraints, or interface fidelity. The problem was task structure. Four out of five plans collapsed into too few tasks. The average task count dropped from 5.8 under Opus to 3.6.


The visible part of the plan may have looked acceptable, but the execution structure underneath became less effective. That kind of degradation is easy to miss if you only compare final summaries rather than how work is decomposed.


Overall, the most important lesson from Superpowers 6 is that AI coding optimization is not mainly about making every step cheaper. It is about reducing repeated context loading, preserving the right task anchors, and assigning deterministic work to scripts instead of language models.


In short, the expensive part is often not the model call itself. The expensive part is making the model repeatedly reread the same information. Superpowers 6 reduced cost by changing workflow design, not just by swapping models. That is what makes this case especially worth studying.

[AI 反思] AI降本神話破滅:企業開始重新計算人與機器的成本


摘要:AI使用成本暴增、管理失控,企業開始懷疑當初以AI取代人力的決策是否失算。



內容:


過去幾年,許多企業把AI視為降低人力成本、提升效率的終極工具,甚至因此大規模裁員。然而到了2026年,這套邏輯正遭遇強烈反噬。原本被認為能取代員工、替公司省錢的AI,實際運行起來卻開始比真人勞動更昂貴。


這個問題並不是個別現象。像Uber原本為2026年整年編列的AI程式碼生成預算,才到4月就已經用罄;微軟內部也直接限制多部門員工繼續使用Anthropic的程式碼工具,原因同樣很直接:成本太高。許多企業這才發現,維持AI運作的費用,可能早已超過過去支付給員工的薪資。


造成這場成本危機的根源之一,是企業過去被早期AI公司的低價策略誤導。2022年到2025年間,OpenAI、Anthropic等公司為了搶市場,大量用資本補貼價格,讓企業誤以為AI是一種便宜、可無限使用的生產力工具。但AI與傳統軟體不同,它不是固定成本,而是每一次生成、對話、分析都在消耗真實算力,而算力本身是按Token計價的。


到了2026年,AI供應商為了上市與獲利,開始把原本隱藏的成本轉嫁給企業。市場上大約85%的SaaS供應商,陸續從按人頭收費改成按用量收費。這讓企業第一次真正感受到,AI成本並不是平均的,而是可能極度失控。


例如,一般行政人員一天可能只消耗一萬個Token,但工程師若拿高階模型分析大型程式碼庫,一天就可能燒掉一千萬個Token。同樣是一名員工,因工作內容不同,成本差距可能達到上千倍。更誇張的是模型之間的價差,有些便宜模型每百萬Token只要幾美分,但最頂級的推理模型每百萬Token可能高達180美元,價差達數千倍。


當企業缺乏權限管控時,問題就更嚴重。很多員工即使只是處理簡單問題,也直接呼叫最昂貴的模型,導致帳單迅速失控。Meta就是典型案例,內部每月Token消耗量驚人,支付給外部AI供應商的年費高達數十億美元。甚至連AI公司自己內部,也出現員工單月就燒掉十幾萬美元API額度的情況。


除了價格結構本身,另一個讓成本惡化的因素,是一種荒謬的管理文化:把Token消耗量當成績效指標。部分管理層認為,員工用越多AI,就代表越積極、產出越高。結果在錯誤KPI引導下,員工開始刻意拉長提示詞、同時開多個AI代理,甚至讓AI空轉處理無意義任務,只為了交出漂亮的使用報表。


這種現象被稱為「Token Maximization」或「Token Maxxing」。表面上看起來是企業AI使用量高速成長,實際上卻可能只是員工為了迎合制度,在後台大量浪費算力。最終結果不是效率提升,而是公司被巨額AI帳單反噬。


表面上這是一場技術成本問題,但實質上,它是由錯誤定價模式、短視管理決策與畸形職場文化共同造成的後果。


在這種情況下,很多企業與外包團隊其實已經開始調整策略。對於不需要高階推理能力的任務,例如資料清洗、初步翻譯、客服自動回覆等,企業往往不再使用最昂貴的西方大模型,而是悄悄切換到中國大模型或低成本開源模型,以壓低支出。


這背後反映的是不同商業模式的競爭。部分西方AI公司希望靠單次呼叫直接獲利,把模型當高價產品販售;而一些中國廠商則更像在經營基礎設施,先用低價甚至近乎白送的方式綁定企業,再透過雲服務與客製化方案賺錢。這種策略對高成本AI市場形成了直接衝擊。


但即使有了更便宜的替代方案,很多大型金融、醫療、法律等高度敏感產業,仍不敢輕易切換。因為更深層的問題已經浮現:資料安全與供應商綁定。企業過去幾年為了接入AI,把大量財務資料、客戶資訊、內部流程與商業知識輸入外部模型。如今他們開始擔心,自己不只是在付費使用工具,還可能在無形中把核心資產交給供應商。


企業擔憂的是,當AI公司吸收了足夠多的行業知識後,未來完全可能直接推出垂直產品,反過來與原客戶競爭。再加上一旦企業的工作流程、系統架構與員工習慣都被某個模型綁住,未來供應商漲價、改規則或技術升級,企業幾乎沒有議價能力。


也因此,2026年開始出現另一股明顯趨勢:企業轉向開源模型與小參數模型。經歷高昂帳單之後,許多公司終於意識到,不是所有任務都需要最強、最貴的大模型。對很多日常場景而言,本地部署的小模型就已經夠用。


例如客服中心、報表整理、制式文件生成等固定型任務,若改用部署在內部伺服器的開源模型,雖然能力不如頂尖商業模型全面,但成本更固定、資料更安全,也更容易控管。與其長期支付昂貴的雲端API費,不如一次性投入設備,在本地穩定運行。


因此,市場上開始出現一種新的角色:「AI降本工程師」。這類人才的任務不是把更多業務丟給AI,而是精準拆解流程,判斷哪些地方該用本地模型、哪些能用規則系統處理、哪些根本不需要AI。他們存在的目的,就是幫企業擺脫對高價大模型的依賴。


事情發展到這一步,整個局面變得相當諷刺。AI原本是為了取代人類、降低成本而來,結果企業現在不僅要支付高昂的Token費、雲端費與伺服器費,還得再聘請一批專家專門控制AI成本,避免AI本身成為新的財務黑洞。


當市場熱潮退去,企業開始重新面對一個原本不願承認的問題:如果AI的成本已經高於真人,而且還伴隨資料風險、供應商綁定與管理失控,那麼當初那些為了追逐AI風口而被裁掉的員工,是否其實裁錯了?


近幾個月,部分公司已經開始悄悄把過去裁掉的基礎職位重新招回來。只是對外,他們通常不會承認原因是AI太貴,而會用其他更體面的說法包裝。這也意味著,這場AI取代人力的浪潮,或許正在進入一個意想不到的反轉期。


最終,這不只是技術效率的問題,而是一場企業經營現實對AI狂熱敘事的集體修正。當機器的使用成本開始超越人的成本,企業真正要面對的問題,也許已經不再是「該裁多少人」,而是「該把多少不合理的AI幻想裁掉」。

2026年7月6日 星期一

[AI 啟發] AI時代工程師晉升的乘數思維

 [AI 啟發] AI時代工程師晉升的乘數思維

摘要:技術深度不是晉升資深工程師的唯一關鍵,真正差異在於能否放大團隊影響力並建立可複利的系統。




內容:


很多工程師以為,只要程式碼寫得更快、架構設計更複雜、技術鑽研更深入,就能自然從高級工程師晉升到資深工程師。但實際上,許多技術能力很強的人,反而會長期卡在這個階段。問題不在於技術不夠,而在於資深工程師與高級工程師的價值維度,本質上並不相同。


Pinterest 的 Staff 工程師 Jordan Cutler 提出一個很重要的觀點:高級工程師偏向「加法」,重點是自己能完成多少工作;而資深或 Staff 工程師更偏向「乘法」,重點是能否放大周圍人的能力,讓整個團隊的產出持續複利成長。這也是《The Multiplier Mindset》所強調的核心概念。


Jordan 自己也曾走過典型工程師的路線,長時間專注在大量輸出程式碼上。但後來他意識到,自己最大的影響力,往往來自那些表面上看起來不像「寫程式」的事情,例如建立分享機制、推動跨團隊合作、打造可擴充的度量系統。


第一個關鍵維度,是擴大自己的表面積。當時公司並沒有要求 Jordan 負責 AI 相關工作,但他敏銳察覺 AI 正在改變開發模式,而且這與他提升開發者效能的職責高度相關。於是他開始積極研究各種 AI 編碼工具與工作流。


如果是一般高級工程師,可能只會把這些工具用來提升自己的寫碼效率;但 Jordan 的做法不同。他主動找來同樣對 AI 有興趣的同事,一起建立了名為「How AI」的 Slack 頻道,鼓勵大家分享 AI 使用經驗與提效方法。結果這個頻道一天內就吸引了 200 多人加入,幾個月後更成長到 1200 多人。


在這個基礎上,他又進一步推出多個提升效率的 AI 工具,例如排程工具、文件生成器、簡報生成器,甚至探索 MCP 整合。這些成果也逐漸被公司高層注意,Jordan 開始受邀在工程、產品與設計組織的月度 demo 上分享,之後更加入公司級的 AI 編碼探索小組,並參與標準制定。


這整件事並不是被指派的任務,而是他主動建立了一個能讓價值自然擴散的空間。這種做法的重點,不只是自己會用新工具,而是讓更多人一起學、一起用,進而形成組織級影響力。


第二個關鍵維度,是跨團隊影響力。Pinterest 當時有一個公司級目標:提升網頁載入速度。Jordan 最初負責審計搜尋頁面,分析變慢原因。他深入研究使用者操作流程與底層渲染過程,找出瓶頸,也估算了優化空間。


一開始他用很典型的技術語言溝通,例如直接指出「你們的 JSON payload 有 500KB,太大了,需要改」。但這樣的說法並沒有引起對方重視,因為這只是在指出問題,卻沒有降低對方理解與執行的門檻。


後來他調整了方式,改成用更具體、更貼近業務價值的語言來描述。例如,他不再只說資料量太大,而是說:「這個搜尋回應有 500KB,遠超過實際需要。如果修正,使用者看到結果的速度可以快 100 毫秒。」同時,他也補上清楚且不複雜的修復建議,例如減少查詢參數欄位,以及對回應資料做規範化處理。


這樣的溝通方式有三個特點:指出問題、量化影響、提供方案。也因為如此,相關團隊才願意把這項優化排進優先順序。


之後,Jordan 更進一步主動接觸其他高流量頁面的團隊,例如 home feed 與 pin page,提出免費幫忙做效能審查。他也從跨頁面使用者流程中找出優化機會,例如當使用者從首頁點進圖片詳情頁時,在高解析圖片尚未載入完成前,可以先沿用首頁上已顯示的中解析圖片,而不是讓使用者看到空白背景。這些建議最終讓核心頁面的效能提升超過 30%。


值得注意的是,做這些事情時,Jordan 當時還只是 senior 工程師。他並不是靠管理權限推動事情,而是透過跨團隊影響、用資料說服與降低協作門檻,實際創造了超出自身職責範圍的影響力。


第三個關鍵維度,是建立可擴充、可持續運作的系統。Jordan 與他的經理曾面臨一個問題:大家無法清楚回答「團隊的開發者體驗到底好不好」。雖然手上有各種零散指標,例如 CI 建置時間、GitHub PR 數據、Jira 開發速度,但缺乏統一且全局的判斷框架,導致團隊常常只能被動救火,誰抱怨什麼就先修什麼。


為了改善這個情況,Jordan 設計了一套框架,把三種層次的資訊整合起來:第一是團隊可直接控制的技術指標,例如建置時間;第二是開發者每天實際感受到的工具摩擦;第三是管理層可追蹤的大盤指標,例如整體開發者體驗指數。


更重要的是,他沒有只是蒐集資料,而是為每個指標建立明確的紅黃綠基準。例如 CI 流水線低於 12 分鐘是綠色,12 到 18 分鐘是黃色,超過 18 分鐘就是紅色。這讓原本模糊的抱怨,轉化成清楚可行動的訊號。像是「CI 太慢了」這種主觀感受,就能變成「CI 目前紅燈,平均耗時 19 分鐘」的客觀資訊。


有了這套系統後,跨部門協調與 OKR 對齊變得更容易。團隊每季規劃時,不再靠感覺決定優先順序,而是先看哪些指標已經飄紅,再往回推導應該投入哪些改善項目。


更進一步的是,Jordan 將這個系統自動化。團隊只需要透過簡單設定檔定義指標名稱與門檻值,後端流程就會每週自動抓取資料、計算變化,並在每週一透過 Slack 發出格式化報告。這使得問題與退步可以被持續追蹤,而且不依賴 Jordan 本人每天手動維護。


由於接入方式很簡單,其他團隊也能快速採用,像 API Platform 團隊只花一天就完成導入。這正是可擴充系統的價值:你不是只解決一次問題,而是打造一個基礎設施,讓其他人也能自行運作並持續受益。


Jordan 的案例說明了一件很重要的事:晉升並不是單純靠技術能力的線性堆疊。資深工程師真正的核心價值,不是自己能做多少,而是自己建立的機制、工具與系統,能讓其他人做得更多、更快、更好。


一個能自動運轉的 AI 分享社群、一份讓其他團隊願意採用的效能優化建議、一套在你休假時仍能自動監控與回報的度量框架,這些才是具備複利效果的工作,也是 AI 時代工程師更值得追求的晉升能力。

[AI 分享] Agent七大架構選型指南

 [AI 分享] Agent七大架構選型指南

摘要 : 梳理七種主流Agent架構,說明優缺點與適用場景,幫助依需求選擇最合適方案。




內容:

目前主流的七種 Agent 架構,從最簡單的單 Agent,到企業級常見的圖形化工作流,目的在於幫助大家理解:Agent 並沒有唯一標準答案,真正重要的是依照場景複雜度、控制需求與系統目標來選型。


一開始先提出三個核心結論。第一,Agent 架構沒有統一標準,該怎麼選,取決於任務有多複雜,以及你希望保留多少控制力。第二,整體發展路徑通常是從單 Agent,走向多 Agent 協作,再進一步進入圖形化工作流。第三,如果是做 AI Coding 或技能型系統,Router 加 Skill 架構目前是相對成熟且實用的最佳實踐。


第一種是單 Agent 架構。這種方式是由一個大模型處理所有事情,包含接收使用者輸入、進行思考、呼叫工具,再輸出結果。它的優點是架構簡單、成本低,也容易快速上手,像 ChatGPT 這類模式就屬於這一型。缺點則是當任務一旦變得複雜,模型容易出現思考負擔過重、上下文汙染嚴重的問題,同時處理多件事時也容易失準。


第二種是 ReAct 架構,也就是 Reason 加 Act,先推理再行動。它的運作方式是一個持續迴圈:先思考、再行動、觀察結果後繼續思考,直到任務完成。這種架構相較單 Agent,更適合多步驟任務,也具備較好的鏈式推理與可解釋性。不過它的缺點是 Token 消耗較大,穩定性也不算高,容易在過程中跑偏,因此不太適合大規模工程化系統。


第三種是 Plan and Execute 架構。這種方式更偏向工程化思維,先由系統生成完整計畫,再交由執行器依照步驟逐一完成。它的優勢在於穩定性較高,適合用在程式碼生成、專案自動化與長流程任務。缺點則是如果一開始規劃錯誤,後續整體執行就可能全面失效,靈活性也不如 ReAct。


第四種是 Dual Agent 或多 Agent 分工架構。這類做法會讓多個 Agent 各司其職,通常還會有一個任務協調與分配系統,底下再由不同角色如規劃者、審查者、執行者共同協作。它的優點是任務拆解更清楚,也能減少上下文污染,整體擴展性較強。缺點則是成本較高,系統也更複雜,因此比較適合團隊協作、複雜專案或企業級應用。


第五種是 Router 加 Skill 架構,也是內容中較推薦的一種方式。核心概念是先透過 Intent Router 做意圖識別,再將請求直接路由到對應的 Skill 執行。每個 Skill 都是明確定義好的能力模組,並附帶對應知識與說明。這種架構的優勢是穩定性高、可控性強,也容易做快取與效能優化,命中率也較好評估。目前不少 AI Coding 與技能系統,基本上都採用這個思路。缺點則是 Skill 的設計成本高,且可能出現技能命中衝突的問題。


第六種是 Blackboard 架構,也就是黑板系統。這種做法允許多個 Agent 同時讀寫共享狀態,並透過狀態變化來驅動整個執行流程。它很適合複雜協作情境,但狀態管理非常困難,一旦出錯也不容易追蹤問題。像一些工作流引擎與分散式系統,就常見這類設計思路。


第七種是 Graph 與 Graph Workflow 架構。這是企業級生產環境中非常主流的一種模式,透過有向無環圖來編排工作流,能支援條件分支、並行執行、可回溯與可重試。常見代表工具包括 LangGraph、Temporal、Airflow 等。它的優勢在於穩定、可除錯、適合長流程,特別適合企業級流程自動化與正式生產部署。


最後,做了整體總結:單 Agent 適合做簡單驗證,ReAct 適合多步探索,Plan and Execute 適合工程化流程,多 Agent 適合協作場景,Router 加 Skill 適合精準技能系統,Blackboard 適合共享狀態協作,而 Graph Workflow 則適合企業級生產環境。


整體重點很清楚:不需要一開始就追求最複雜、最高級的架構,而是應該依照自己的場景複雜度與實際需求做選擇。沒有最好的架構,只有最適合的架構。