2026年7月8日 星期三

[AI 分享] 本地AI硬體轉向容量戰

 [AI 分享] 本地AI硬體轉向容量戰

摘要 : 2026年本地AI硬體競爭重心由算力轉向記憶體容量,AMD憑統一記憶體以低價切入大模型本地部署。




內容:

2026年,本地AI硬體的採購邏輯正在改寫。過去大家比的是晶片算力,如今真正決定能不能跑大型模型的,反而是記憶體容量。因為許多有實際業務價值的大語言模型,單是載入就需要數十GB記憶體,1200億參數模型即使量化後也至少要約70GB,這讓許多高算力但顯存不足的顯卡直接失去資格。


這也讓過去看似便宜的雲端API訂閱,逐漸暴露出高昂成本。當團隊開始部署多個AI Agent並讓工作流長時間運轉,雲端帳單可能快速膨脹,甚至一夜就燒掉數百美元。另一方面,2025年底到2026年間,全球記憶體供應吃緊,DRAM價格大漲,也推高了輝達工作站售價,讓本地硬體的成本結構更加依賴「容量」而非純算力。


在這個背景下,AMD靠統一記憶體架構突圍。搭載Strix Halo的機器最高可配128GB統一記憶體,且可將96GB到112GB直接分配給GPU使用,使得原本只有高價工作站才能觸及的大模型,如今在更便宜的AMD迷你主機上也能載入。這並不代表AMD在GPU算力上全面壓倒輝達,而是它繞過了消費級顯卡常見的32GB顯存上限,先取得了「能把模型裝進去」的入場資格。


實際表現上,AMD在大型模型生成速度上並不差。以1200億參數模型為例,Strix Halo約每秒34個token,對比輝達DGX Spark的38.5個token,差距只有約13%,但價格卻低上許多。只是AMD也有明顯短板,尤其在處理長上下文時很關鍵的預填充速度,輝達可達每秒1723個token,而AMD僅約340個token。此外,AMD官方宣稱的記憶體頻寬在實測中也有落差,實際表現與蘋果M3 Ultra相比更有明顯差距,顯示它強在容量性價比,不是全方位領先。


文章也指出,目前晶片廠商大力宣傳的NPU,對本地大型語言模型推理幫助有限。因為主流工具如Ollama、llama.cpp、LM Studio等,現階段主要仍依賴IGPU與記憶體頻寬,NPU更多還停留在行銷層面。真正讓AMD這類平台顯出價值的,不是單次跑分,而是可支撐多AI Agent並行工作的能力,尤其適合夜間自動化研究、內容生成、資料清洗與程式碼測試等工作流。


整體來看,這篇內容的核心觀點是:2026年的本地AI競爭,已從「誰算得快」轉向「誰裝得下、跑得起、撐得久」。AMD憑藉大容量統一記憶體,在價格與多任務併發上打出明顯優勢;輝達仍在高效能與預填充速度上保有實力;蘋果則守住高頻寬高價格定位。隨著開源社群與企業愈來愈重視本地部署、資料安全與長期成本控制,容量導向的本地AI硬體正成為新主流。

2026年7月7日 星期二

[AI Insights] Why Superpowers 6 Cuts AI Coding Costs

 [AI Insights] Why Superpowers 6 Cuts AI Coding Costs

Summary: Superpowers 6 shows that AI coding costs often come less from inference itself and more from repeatedly re-reading the same context.




Content:


Many people assume AI programming is expensive because the model itself is expensive. Superpowers 6 offers a very different answer. In many cases, the biggest cost does not come from a few inference calls, but from making AI repeatedly read the same context.


For example, the same Git diff may be read once by a Diff Coordinator, again by an Implementer, and then reviewed again by a Reviewer. Likewise, a Plan Controller may break down a task, only for a Subagent to reread everything from scratch during execution. For human developers, this kind of repetition is almost free. For LLMs, every repeated read becomes tokens, and once that context is included, later steps keep paying for it.


That is why this video focuses on a counterintuitive optimization. Superpowers 6 does not mainly save money by downgrading every step to cheaper models. Instead, it reduces waste by making agents read less irrelevant material, avoid repeatedly fetching the same information, and delegate deterministic work to scripts. Expensive context is then reserved for actual judgment.


On June 9, 2026, Anthropic released Fable 5. On June 12, access to Fable 5 and Mythos 5 was suspended due to U.S. export control requirements. Anthropic later explained that the practical effect of those restrictions was that access had to be disabled for all users. On June 30, the export controls were lifted, and on July 1, Fable 5 access began to return.


The optimization work Jesse Vincent did for Superpowers 6 took place during Fable 5’s early availability window. Across 25 experiments over 36 hours, the listed cost was about $165. At unsubsidized token pricing, the cost would have been around $650.


According to the author’s blog, on the Anthropic Evo benchmark, Superpowers Build reduced wall-clock runtime by about 50% and token spend by about 60%. However, an important boundary must be added here: this 60% figure reflects the author’s highest-end Evo result and should not be assumed to reproduce across every project, harness, or workload.


The wording in the Superpowers V6.0 Release Notes is more conservative. It says that in their Evo runs, Cloud Code and Codex had similar quality, but were about twice as fast and used close to 50% fewer tokens. This actually makes the optimization more credible, because it includes failed cases, risk records, and rollback decisions rather than just presenting a large savings number.


If you have never used Superpowers, here is a quick background. Superpowers can be understood as a software development methodology designed for coding agents. It does not just ask AI to write code. It also constrains how AI understands requirements, breaks down work, writes tests, and performs reviews.


A typical flow looks like this:


First comes Brainstorming. The agent does not immediately jump into editing code. Instead, it asks about goals, boundaries, risks, and acceptance criteria, then produces a design document.


Next is the isolated workspace stage. Using Git Worktrees, the system checks whether you are already in an isolated environment. If not, it creates or guides the creation of a Git worktree, runs initialization scripts and baseline tests, and then writes a plan.


This plan is not just a few sentences about implementing a feature. It includes file paths, interfaces, test commands, and expected outcomes. Each task must be independently testable and independently reviewable. Within each task, each step is meant to be only a 2–5 minute action.


Execution then moves into Subagent Driven Development. The Controller assigns each task to a new Subagent. That Subagent receives only the context it needs, follows TDD through Red, Green, and Refactor, commits the code, and then passes it to a Reviewer.


Per-task review became especially important in V6. After each task, a Reviewer returns two verdicts at once: Spec Compliance and Code Quality. In other words, did the implementation satisfy the requirement, and is the code itself well written? Both are judged in the same review round.


After all tasks are completed, there is also a Whole Branch Review, followed by Finishing A Development Branch. At that point, the system runs full tests and decides whether to merge, open a PR, keep the branch, or discard it.


This process is stable, but before V6 it also had clear tradeoffs: high cost and slow execution. Jesse wrote that the most common user complaint was token expense. Superpowers also felt slow at scale. While slowness can be tolerated if things run automatically in the background, both slowness and cost hurt the user experience.


The first major optimization targeted the handoff from Coordinator to Reviewer. Fable analyzed a large number of Subagent Driven Development sessions and found that Code Reviewers and Spec Compliance Reviewers often ran many Git commands during review. That sounds normal, because a Reviewer wants to inspect what changed and may call commands like git log, git diff, and git stat.


The problem is that command output in an LLM workflow is not free. Once a diff is expanded, the output enters the observation stream and can be repeatedly carried through later turns. A medium-sized refactor diff can easily consume tens of thousands of tokens. Worse, that information has often already been processed by other roles. The Coordinator saw the context while planning, the Implementer saw the relevant files while coding, and the Reviewer then fetches it all again.


V6 solved this in a simple but effective way. Before the Reviewer starts, a script generates a Review Package. This package includes the commit list, file change statistics, and the full diff with context. The Reviewer receives a file path instead of needing to run Git commands manually.


This Reviewer handoff redesign delivered about a 10% improvement in both token usage and wall-clock time. A similar idea appears in the Task Brief. Instead of repeatedly giving the full plan to every Subagent, the Controller extracts the current task into a brief file. The Subagent reads its own brief rather than searching through a long plan.


A useful comparison is this: the old flow was like sending the Reviewer into the warehouse to gather evidence alone. The new flow is like preparing an evidence bag before work begins. The Reviewer only needs to read the bag. The change is not flashy, but it is deeply practical. If information can be computed reliably by scripts, it should not be fetched live through an LLM context window.


The second major optimization was reviewer consolidation. In V5, each task had two separate reviewers: one for Spec Compliance and one for Code Quality. That sounds safer on paper, but experiments showed the design was expensive and overly sensitive to how the Controller prompted the system.


V6 merged the two roles into a single Task Reviewer prompt. That Reviewer reads the diff once and returns both verdicts together: whether the requirement was implemented correctly and whether the code can be trusted.


An interesting new status was also introduced: Cannot Verify From Diff. Some requirements are not visible in the current diff or span multiple tasks. In the past, a Reviewer might try to reconstruct the full situation by aggressively exploring files and history, which consumed tokens and weakened task boundaries.


In V6, the Reviewer is allowed to explicitly admit that it cannot verify something. If a requirement cannot be validated from the current diff, it is marked as a warning and escalated to the Controller. Since the Controller already has the full plan and cross-task context, it is better suited to make that judgment.


This should not be misunderstood as “less context is always better.” In one of the Superpowers Evo experiment sets, this exact mistake appeared. If the Reviewer received only the Diff Package but not the Task Brief, it tended to confidently reduce the spec into vague global constraints. In five recorded runs, it never once identified the missing brief. This is a valuable finding: saving tokens is not about blindly deleting context. It is about removing duplicated information while preserving task definitions, interfaces, tests, and constraints.


The third optimization was model layering. Many teams instinctively send every AI coding task to the strongest model available. The reasoning is simple: if quality matters, then use the most powerful model everywhere.


Superpowers 6 suggests a more nuanced strategy. Mechanical tasks can often use cheaper models. For example, if the plan already provides complete code guidance and the Implementer mainly needs to transcribe, run tests, and fix small issues, a lower-cost model may be enough. But tasks that require reading prose plans, doing multi-step reasoning, or judging architectural boundaries should not be downgraded casually.


The same applies to reviewing. Small diffs and mechanical edits may be handled by cheaper models. But anything involving concurrency, shared state, cross-file contracts, or model-level architectural judgment requires a stronger model.


V6 also enforced an explicit model declaration on every dispatch. Without that, many harnesses would inherit the most expensive model from the current session by default. The release notes mention one case where 26 reviewers all ran on the top-tier model. That is how money quietly disappears.


The experiments also tested several ideas that sounded reasonable but performed poorly.


The first was limiting Controller thinking. The logic seemed straightforward: if reasoning is expensive, cap the Controller’s thinking budget. But the result backfired. The average number of turns rose from 92 to 138, and output volume increased as well. Thinking less early on caused more wandering and more repair cycles later. Any tokens saved upfront were quickly lost in follow-up corrections.


The second was shrinking plan length. Many people assume long plans must be wasting tokens. In the experiments, a plan word budget was added, and even code sections were exempted, yet test signals still dropped by 62%. What got removed were the very anchors needed later: test definitions, interfaces, and task structure. This result is highly relevant for engineering teams. The value of a plan lies in the guidance it provides for execution and review. If those anchors are removed, each agent has to guess for itself.


The third was using Sonnet to generate the plan. Sonnet is cheaper and often performs well, so why not let it write the plan? The E11 result was subtle. Sonnet did not obviously lose requirements, global constraints, or interface fidelity. The problem was task structure. Four out of five plans collapsed into too few tasks. The average task count dropped from 5.8 under Opus to 3.6.


The visible part of the plan may have looked acceptable, but the execution structure underneath became less effective. That kind of degradation is easy to miss if you only compare final summaries rather than how work is decomposed.


Overall, the most important lesson from Superpowers 6 is that AI coding optimization is not mainly about making every step cheaper. It is about reducing repeated context loading, preserving the right task anchors, and assigning deterministic work to scripts instead of language models.


In short, the expensive part is often not the model call itself. The expensive part is making the model repeatedly reread the same information. Superpowers 6 reduced cost by changing workflow design, not just by swapping models. That is what makes this case especially worth studying.

[AI 反思] AI降本神話破滅:企業開始重新計算人與機器的成本


摘要:AI使用成本暴增、管理失控,企業開始懷疑當初以AI取代人力的決策是否失算。



內容:


過去幾年,許多企業把AI視為降低人力成本、提升效率的終極工具,甚至因此大規模裁員。然而到了2026年,這套邏輯正遭遇強烈反噬。原本被認為能取代員工、替公司省錢的AI,實際運行起來卻開始比真人勞動更昂貴。


這個問題並不是個別現象。像Uber原本為2026年整年編列的AI程式碼生成預算,才到4月就已經用罄;微軟內部也直接限制多部門員工繼續使用Anthropic的程式碼工具,原因同樣很直接:成本太高。許多企業這才發現,維持AI運作的費用,可能早已超過過去支付給員工的薪資。


造成這場成本危機的根源之一,是企業過去被早期AI公司的低價策略誤導。2022年到2025年間,OpenAI、Anthropic等公司為了搶市場,大量用資本補貼價格,讓企業誤以為AI是一種便宜、可無限使用的生產力工具。但AI與傳統軟體不同,它不是固定成本,而是每一次生成、對話、分析都在消耗真實算力,而算力本身是按Token計價的。


到了2026年,AI供應商為了上市與獲利,開始把原本隱藏的成本轉嫁給企業。市場上大約85%的SaaS供應商,陸續從按人頭收費改成按用量收費。這讓企業第一次真正感受到,AI成本並不是平均的,而是可能極度失控。


例如,一般行政人員一天可能只消耗一萬個Token,但工程師若拿高階模型分析大型程式碼庫,一天就可能燒掉一千萬個Token。同樣是一名員工,因工作內容不同,成本差距可能達到上千倍。更誇張的是模型之間的價差,有些便宜模型每百萬Token只要幾美分,但最頂級的推理模型每百萬Token可能高達180美元,價差達數千倍。


當企業缺乏權限管控時,問題就更嚴重。很多員工即使只是處理簡單問題,也直接呼叫最昂貴的模型,導致帳單迅速失控。Meta就是典型案例,內部每月Token消耗量驚人,支付給外部AI供應商的年費高達數十億美元。甚至連AI公司自己內部,也出現員工單月就燒掉十幾萬美元API額度的情況。


除了價格結構本身,另一個讓成本惡化的因素,是一種荒謬的管理文化:把Token消耗量當成績效指標。部分管理層認為,員工用越多AI,就代表越積極、產出越高。結果在錯誤KPI引導下,員工開始刻意拉長提示詞、同時開多個AI代理,甚至讓AI空轉處理無意義任務,只為了交出漂亮的使用報表。


這種現象被稱為「Token Maximization」或「Token Maxxing」。表面上看起來是企業AI使用量高速成長,實際上卻可能只是員工為了迎合制度,在後台大量浪費算力。最終結果不是效率提升,而是公司被巨額AI帳單反噬。


表面上這是一場技術成本問題,但實質上,它是由錯誤定價模式、短視管理決策與畸形職場文化共同造成的後果。


在這種情況下,很多企業與外包團隊其實已經開始調整策略。對於不需要高階推理能力的任務,例如資料清洗、初步翻譯、客服自動回覆等,企業往往不再使用最昂貴的西方大模型,而是悄悄切換到中國大模型或低成本開源模型,以壓低支出。


這背後反映的是不同商業模式的競爭。部分西方AI公司希望靠單次呼叫直接獲利,把模型當高價產品販售;而一些中國廠商則更像在經營基礎設施,先用低價甚至近乎白送的方式綁定企業,再透過雲服務與客製化方案賺錢。這種策略對高成本AI市場形成了直接衝擊。


但即使有了更便宜的替代方案,很多大型金融、醫療、法律等高度敏感產業,仍不敢輕易切換。因為更深層的問題已經浮現:資料安全與供應商綁定。企業過去幾年為了接入AI,把大量財務資料、客戶資訊、內部流程與商業知識輸入外部模型。如今他們開始擔心,自己不只是在付費使用工具,還可能在無形中把核心資產交給供應商。


企業擔憂的是,當AI公司吸收了足夠多的行業知識後,未來完全可能直接推出垂直產品,反過來與原客戶競爭。再加上一旦企業的工作流程、系統架構與員工習慣都被某個模型綁住,未來供應商漲價、改規則或技術升級,企業幾乎沒有議價能力。


也因此,2026年開始出現另一股明顯趨勢:企業轉向開源模型與小參數模型。經歷高昂帳單之後,許多公司終於意識到,不是所有任務都需要最強、最貴的大模型。對很多日常場景而言,本地部署的小模型就已經夠用。


例如客服中心、報表整理、制式文件生成等固定型任務,若改用部署在內部伺服器的開源模型,雖然能力不如頂尖商業模型全面,但成本更固定、資料更安全,也更容易控管。與其長期支付昂貴的雲端API費,不如一次性投入設備,在本地穩定運行。


因此,市場上開始出現一種新的角色:「AI降本工程師」。這類人才的任務不是把更多業務丟給AI,而是精準拆解流程,判斷哪些地方該用本地模型、哪些能用規則系統處理、哪些根本不需要AI。他們存在的目的,就是幫企業擺脫對高價大模型的依賴。


事情發展到這一步,整個局面變得相當諷刺。AI原本是為了取代人類、降低成本而來,結果企業現在不僅要支付高昂的Token費、雲端費與伺服器費,還得再聘請一批專家專門控制AI成本,避免AI本身成為新的財務黑洞。


當市場熱潮退去,企業開始重新面對一個原本不願承認的問題:如果AI的成本已經高於真人,而且還伴隨資料風險、供應商綁定與管理失控,那麼當初那些為了追逐AI風口而被裁掉的員工,是否其實裁錯了?


近幾個月,部分公司已經開始悄悄把過去裁掉的基礎職位重新招回來。只是對外,他們通常不會承認原因是AI太貴,而會用其他更體面的說法包裝。這也意味著,這場AI取代人力的浪潮,或許正在進入一個意想不到的反轉期。


最終,這不只是技術效率的問題,而是一場企業經營現實對AI狂熱敘事的集體修正。當機器的使用成本開始超越人的成本,企業真正要面對的問題,也許已經不再是「該裁多少人」,而是「該把多少不合理的AI幻想裁掉」。

2026年7月6日 星期一

[AI 啟發] AI時代工程師晉升的乘數思維

 [AI 啟發] AI時代工程師晉升的乘數思維

摘要:技術深度不是晉升資深工程師的唯一關鍵,真正差異在於能否放大團隊影響力並建立可複利的系統。




內容:


很多工程師以為,只要程式碼寫得更快、架構設計更複雜、技術鑽研更深入,就能自然從高級工程師晉升到資深工程師。但實際上,許多技術能力很強的人,反而會長期卡在這個階段。問題不在於技術不夠,而在於資深工程師與高級工程師的價值維度,本質上並不相同。


Pinterest 的 Staff 工程師 Jordan Cutler 提出一個很重要的觀點:高級工程師偏向「加法」,重點是自己能完成多少工作;而資深或 Staff 工程師更偏向「乘法」,重點是能否放大周圍人的能力,讓整個團隊的產出持續複利成長。這也是《The Multiplier Mindset》所強調的核心概念。


Jordan 自己也曾走過典型工程師的路線,長時間專注在大量輸出程式碼上。但後來他意識到,自己最大的影響力,往往來自那些表面上看起來不像「寫程式」的事情,例如建立分享機制、推動跨團隊合作、打造可擴充的度量系統。


第一個關鍵維度,是擴大自己的表面積。當時公司並沒有要求 Jordan 負責 AI 相關工作,但他敏銳察覺 AI 正在改變開發模式,而且這與他提升開發者效能的職責高度相關。於是他開始積極研究各種 AI 編碼工具與工作流。


如果是一般高級工程師,可能只會把這些工具用來提升自己的寫碼效率;但 Jordan 的做法不同。他主動找來同樣對 AI 有興趣的同事,一起建立了名為「How AI」的 Slack 頻道,鼓勵大家分享 AI 使用經驗與提效方法。結果這個頻道一天內就吸引了 200 多人加入,幾個月後更成長到 1200 多人。


在這個基礎上,他又進一步推出多個提升效率的 AI 工具,例如排程工具、文件生成器、簡報生成器,甚至探索 MCP 整合。這些成果也逐漸被公司高層注意,Jordan 開始受邀在工程、產品與設計組織的月度 demo 上分享,之後更加入公司級的 AI 編碼探索小組,並參與標準制定。


這整件事並不是被指派的任務,而是他主動建立了一個能讓價值自然擴散的空間。這種做法的重點,不只是自己會用新工具,而是讓更多人一起學、一起用,進而形成組織級影響力。


第二個關鍵維度,是跨團隊影響力。Pinterest 當時有一個公司級目標:提升網頁載入速度。Jordan 最初負責審計搜尋頁面,分析變慢原因。他深入研究使用者操作流程與底層渲染過程,找出瓶頸,也估算了優化空間。


一開始他用很典型的技術語言溝通,例如直接指出「你們的 JSON payload 有 500KB,太大了,需要改」。但這樣的說法並沒有引起對方重視,因為這只是在指出問題,卻沒有降低對方理解與執行的門檻。


後來他調整了方式,改成用更具體、更貼近業務價值的語言來描述。例如,他不再只說資料量太大,而是說:「這個搜尋回應有 500KB,遠超過實際需要。如果修正,使用者看到結果的速度可以快 100 毫秒。」同時,他也補上清楚且不複雜的修復建議,例如減少查詢參數欄位,以及對回應資料做規範化處理。


這樣的溝通方式有三個特點:指出問題、量化影響、提供方案。也因為如此,相關團隊才願意把這項優化排進優先順序。


之後,Jordan 更進一步主動接觸其他高流量頁面的團隊,例如 home feed 與 pin page,提出免費幫忙做效能審查。他也從跨頁面使用者流程中找出優化機會,例如當使用者從首頁點進圖片詳情頁時,在高解析圖片尚未載入完成前,可以先沿用首頁上已顯示的中解析圖片,而不是讓使用者看到空白背景。這些建議最終讓核心頁面的效能提升超過 30%。


值得注意的是,做這些事情時,Jordan 當時還只是 senior 工程師。他並不是靠管理權限推動事情,而是透過跨團隊影響、用資料說服與降低協作門檻,實際創造了超出自身職責範圍的影響力。


第三個關鍵維度,是建立可擴充、可持續運作的系統。Jordan 與他的經理曾面臨一個問題:大家無法清楚回答「團隊的開發者體驗到底好不好」。雖然手上有各種零散指標,例如 CI 建置時間、GitHub PR 數據、Jira 開發速度,但缺乏統一且全局的判斷框架,導致團隊常常只能被動救火,誰抱怨什麼就先修什麼。


為了改善這個情況,Jordan 設計了一套框架,把三種層次的資訊整合起來:第一是團隊可直接控制的技術指標,例如建置時間;第二是開發者每天實際感受到的工具摩擦;第三是管理層可追蹤的大盤指標,例如整體開發者體驗指數。


更重要的是,他沒有只是蒐集資料,而是為每個指標建立明確的紅黃綠基準。例如 CI 流水線低於 12 分鐘是綠色,12 到 18 分鐘是黃色,超過 18 分鐘就是紅色。這讓原本模糊的抱怨,轉化成清楚可行動的訊號。像是「CI 太慢了」這種主觀感受,就能變成「CI 目前紅燈,平均耗時 19 分鐘」的客觀資訊。


有了這套系統後,跨部門協調與 OKR 對齊變得更容易。團隊每季規劃時,不再靠感覺決定優先順序,而是先看哪些指標已經飄紅,再往回推導應該投入哪些改善項目。


更進一步的是,Jordan 將這個系統自動化。團隊只需要透過簡單設定檔定義指標名稱與門檻值,後端流程就會每週自動抓取資料、計算變化,並在每週一透過 Slack 發出格式化報告。這使得問題與退步可以被持續追蹤,而且不依賴 Jordan 本人每天手動維護。


由於接入方式很簡單,其他團隊也能快速採用,像 API Platform 團隊只花一天就完成導入。這正是可擴充系統的價值:你不是只解決一次問題,而是打造一個基礎設施,讓其他人也能自行運作並持續受益。


Jordan 的案例說明了一件很重要的事:晉升並不是單純靠技術能力的線性堆疊。資深工程師真正的核心價值,不是自己能做多少,而是自己建立的機制、工具與系統,能讓其他人做得更多、更快、更好。


一個能自動運轉的 AI 分享社群、一份讓其他團隊願意採用的效能優化建議、一套在你休假時仍能自動監控與回報的度量框架,這些才是具備複利效果的工作,也是 AI 時代工程師更值得追求的晉升能力。

[AI 分享] Agent七大架構選型指南

 [AI 分享] Agent七大架構選型指南

摘要 : 梳理七種主流Agent架構,說明優缺點與適用場景,幫助依需求選擇最合適方案。




內容:

目前主流的七種 Agent 架構,從最簡單的單 Agent,到企業級常見的圖形化工作流,目的在於幫助大家理解:Agent 並沒有唯一標準答案,真正重要的是依照場景複雜度、控制需求與系統目標來選型。


一開始先提出三個核心結論。第一,Agent 架構沒有統一標準,該怎麼選,取決於任務有多複雜,以及你希望保留多少控制力。第二,整體發展路徑通常是從單 Agent,走向多 Agent 協作,再進一步進入圖形化工作流。第三,如果是做 AI Coding 或技能型系統,Router 加 Skill 架構目前是相對成熟且實用的最佳實踐。


第一種是單 Agent 架構。這種方式是由一個大模型處理所有事情,包含接收使用者輸入、進行思考、呼叫工具,再輸出結果。它的優點是架構簡單、成本低,也容易快速上手,像 ChatGPT 這類模式就屬於這一型。缺點則是當任務一旦變得複雜,模型容易出現思考負擔過重、上下文汙染嚴重的問題,同時處理多件事時也容易失準。


第二種是 ReAct 架構,也就是 Reason 加 Act,先推理再行動。它的運作方式是一個持續迴圈:先思考、再行動、觀察結果後繼續思考,直到任務完成。這種架構相較單 Agent,更適合多步驟任務,也具備較好的鏈式推理與可解釋性。不過它的缺點是 Token 消耗較大,穩定性也不算高,容易在過程中跑偏,因此不太適合大規模工程化系統。


第三種是 Plan and Execute 架構。這種方式更偏向工程化思維,先由系統生成完整計畫,再交由執行器依照步驟逐一完成。它的優勢在於穩定性較高,適合用在程式碼生成、專案自動化與長流程任務。缺點則是如果一開始規劃錯誤,後續整體執行就可能全面失效,靈活性也不如 ReAct。


第四種是 Dual Agent 或多 Agent 分工架構。這類做法會讓多個 Agent 各司其職,通常還會有一個任務協調與分配系統,底下再由不同角色如規劃者、審查者、執行者共同協作。它的優點是任務拆解更清楚,也能減少上下文污染,整體擴展性較強。缺點則是成本較高,系統也更複雜,因此比較適合團隊協作、複雜專案或企業級應用。


第五種是 Router 加 Skill 架構,也是內容中較推薦的一種方式。核心概念是先透過 Intent Router 做意圖識別,再將請求直接路由到對應的 Skill 執行。每個 Skill 都是明確定義好的能力模組,並附帶對應知識與說明。這種架構的優勢是穩定性高、可控性強,也容易做快取與效能優化,命中率也較好評估。目前不少 AI Coding 與技能系統,基本上都採用這個思路。缺點則是 Skill 的設計成本高,且可能出現技能命中衝突的問題。


第六種是 Blackboard 架構,也就是黑板系統。這種做法允許多個 Agent 同時讀寫共享狀態,並透過狀態變化來驅動整個執行流程。它很適合複雜協作情境,但狀態管理非常困難,一旦出錯也不容易追蹤問題。像一些工作流引擎與分散式系統,就常見這類設計思路。


第七種是 Graph 與 Graph Workflow 架構。這是企業級生產環境中非常主流的一種模式,透過有向無環圖來編排工作流,能支援條件分支、並行執行、可回溯與可重試。常見代表工具包括 LangGraph、Temporal、Airflow 等。它的優勢在於穩定、可除錯、適合長流程,特別適合企業級流程自動化與正式生產部署。


最後,做了整體總結:單 Agent 適合做簡單驗證,ReAct 適合多步探索,Plan and Execute 適合工程化流程,多 Agent 適合協作場景,Router 加 Skill 適合精準技能系統,Blackboard 適合共享狀態協作,而 Graph Workflow 則適合企業級生產環境。


整體重點很清楚:不需要一開始就追求最複雜、最高級的架構,而是應該依照自己的場景複雜度與實際需求做選擇。沒有最好的架構,只有最適合的架構。

[AI 轉型] Java後端轉AI Agent,先搞懂系統本質差異

 [AI 轉型] Java後端轉AI Agent,先搞懂系統本質差異

摘要 : Agent不是聊天介面,而是半確定性的任務執行系統,後端轉型先理解邊界與架構。




內容:

如果你是 Java 後端工程師,最近想轉向 AI Agent,很可能會有一種感受:學了不少東西,像是 Spring AI、LangChain、向量檢索、LangGraph、RAG、Prompt Engineering,但回頭一看,距離真正做出一個可上線的 Agent 還是很遠。


問題往往不在於學得不夠多,而是起點選錯了。很多人一開始就急著學框架、寫 Prompt、搭工作流,但這些解決的其實只是「怎麼做」。真正更重要的,是先想清楚「你要做的東西,本質上和傳統後端系統有什麼不同」。


過去做後端,本質上是在構建一個確定性系統。請求進來之後,參數是什麼、進哪個 Controller、調哪個 Service、回什麼結果,大多數都已經預先定義好。輸入明確、流程明確、輸出明確,這就是傳統後端最熟悉、也最穩定的模式。


但 Agent 面對的通常不是標準化請求,而是一個模糊任務。使用者可能說:「幫我整理一下這批客戶反饋」、「幫我分析最近業績為什麼下滑」、「幫我找出報表中的異常」。這不是傳統 API 參數,而是把一個任務交給系統去完成。


因此,Agent 更像是一個任務執行系統。它要先理解目標,再判斷需要什麼資訊、是否要查資料、是否要呼叫工具、是否要拆步驟執行,最後再組織結果輸出。與傳統後端最大的差異在於:以前流程主要由程式碼寫死,現在流程中有一部分要由模型依據上下文動態判斷。


到了 Agent 場景,傳統後端的三個確定性都被打破了。第一,輸入不再確定,因為使用者講的是自然語言,常常不完整、也不精確。第二,流程不再完全確定,系統可能要檢索、呼叫工具、追問、重試,甚至依據中間結果改變執行路徑。第三,輸出也不再完全穩定,因為模型生成內容每次都可能有細微差異。


這也是 Agent 最核心的一個概念:半確定性系統。所謂半確定性,不是放任系統不受控,而是把一部分交給模型負責理解與生成,把另一部分交給工程系統負責約束與兜底。模型負責靈活,工程負責穩定;模型可以有變化,但系統不能失控。


所以,後端工程師在 AI 時代的價值,絕對不只是會呼叫模型 API,而是能把大模型這種天然不穩定的能力,接到穩定的業務系統中。像是權限控制、工具調用、失敗重試、日誌追蹤、結果評估,這些都不是模型自動幫你處理的,而是標準的工程問題。


很多人以為 AI 應用就是做一個聊天框,後端呼叫一次模型 API,再把答案回傳給前端。這頂多只能算是最小 Demo。真正要上線時,你會面對的是:使用者是誰、能看哪些資料、能用哪些工具、執行過程能不能審計、結果出錯能不能追溯、模型或版本升級後效果有沒有下降。當這些問題出現,Agent 其實就重新回到了後端工程師最熟悉的戰場。


如果把 Agent 抽象化來看,通常離不開四個核心要素。


第一是目標,也就是使用者到底想完成什麼任務。  

第二是上下文,也就是系統能拿到哪些業務資訊、歷史資料與知識。  

第三是工具,也就是系統可調用的 API、資料庫、搜尋與計算能力。  

第四是約束,包括權限、風控、成本、審計與評估,哪些事情絕對不能失控。


有了這個結構之後,再看各種 Agent 場景就會清楚很多。客服 Agent 是圍繞客戶問題調用知識庫和工單系統;辦公 Agent 是圍繞文件、日程、郵件做任務編排;研發 Agent 則是圍繞程式碼、測試、部署做工具調用。本質都一樣:理解目標、取得上下文、調用工具,並守住業務邊界。


如果是後端工程師想練習這套能力,一個很適合的真實場景是「智慧問數」,也可以理解為經營數據分析 Agent。因為老闆、營運、財務、銷售主管,幾乎每天都在問資料:收入為什麼漲了?利潤為什麼掉了?哪個區域異常?現金流壓力來自哪裡?


例如,當使用者問「上個月經營利潤為什麼下滑?」這句話背後絕對不是單純生成一條 SQL 就能解決的事。系統需要先理解利潤的計算口徑,再分析收入、成本、費用的變化,還要依照區域、產品、客戶類型去拆解,找出真正的異常來源。最後輸出的,也不應只是一張查詢表,而應該包含結果表、趨勢圖、關鍵原因,以及可追溯的分析過程。


這也說明了一件事:企業級智慧問數,不等於 Text-to-SQL。網路上很多 Demo 看起來很酷,像是使用者提問後,模型直接產出 SQL 並執行。但在企業裡這其實很危險,因為真實資料環境裡會有指標口徑、欄位歧義、權限邊界、查詢成本與結果解釋等問題。只會生成 SQL,根本不足以支撐企業級需求。


真正的企業級問數 Agent,要做的是把自然語言問題,轉化成一個受控的資料分析任務。模型可以負責理解問題、拆解思路、生成候選查詢;但指標口徑、權限校驗、SQL 安全、執行限制、審計日誌、結果評估,都必須由工程系統來兜底。這就是所謂的「上層靈活、下層穩定」。


為了更容易理解,可以把這個場景拆成三層。


第一層是模型判斷層,負責理解使用者問題、判斷意圖、拆解分析步驟,並生成候選查詢與說明。  

第二層是任務編排層,負責檢索指標口徑、選擇資料來源、判斷是否需要追問,並組織查詢、校驗、執行與彙總。  

第三層是業務治理層,負責指標定義、行列權限、SQL 安全、查詢超時、審計日誌,以及效果回歸與評估。


這個場景特別適合後端工程師入門 Agent,因為它不是單純聊天,也不是炫技 Demo。它同時包含模型理解、工具調用、業務口徑、權限安全、結果輸出、可追溯與可評估等完整問題,而且經營分析、財務分析、銷售分析,也確實是企業願意買單的真實需求。


所以這篇內容真正想強調的,不是哪個框架最好,而是先建立一個正確判斷:Agent 不是普通介面,而是半確定性的任務執行系統。後端工程師要學的,也不是放棄原本的工程能力,而是把資料庫、權限、任務、日誌、穩定性這些老本行,接到大模型時代的新系統裡。


在真正開始選框架、選技術棧之前,應該先把系統邊界與架構想清楚。只有先理解使用者是誰、輸入是什麼、輸出是什麼、邊界在哪裡,才不會一開始就把方向走偏。

[AI 分享] AI程式設計的盲區管理


摘要 : 模型愈強,AI寫程式的瓶頸愈不在模型,而在於人是否說清需求與管理未知。



內容:

這兩天 Claude Code 團隊工程師 Tarek 發了一篇長文,談怎麼用 Fable5 做更好的 AI 程式設計。表面上看,這是一份工具使用指南,裡面有 prompt、原型、實施計劃,以及程式碼合併前的檢查方法;但更值得注意的,是它點出了 AI 程式設計正在出現的關鍵變化。


過去大家用 AI 寫程式時,常常是在測試模型能力,例如它能不能理解需求、找對檔案、修掉 bug、跑通測試,或像工程師一樣掌握專案上下文。但到了 Fable5 這類等級後,瓶頸開始改變:很多時候,影響工作品質的已經不是模型會不會做,而是人有沒有把那些沒說清楚的地方講明白。


這個判斷很重要。因為 AI 程式設計進入 Agent 階段後,它不只是幫你補幾行程式碼,而是會讀倉庫、改檔案、跑命令、處理跨檔案任務,也會在長時間任務中替你做很多中間決策。這時,Prompt 更像是一張地圖,但真正要進入的是程式碼庫、業務邏輯、歷史包袱、現實限制,以及團隊裡那些沒寫進文件的習慣。地圖再細,也不可能覆蓋所有細節;凡是沒交代清楚的地方,模型就只能自己猜。


也因此,很多人都會遇到一個熟悉的現象:小任務很驚艷,大任務開始發散。像是改一個函式、補一個測試、寫一個腳本,通常效果很好,因為邊界清楚、目標明確,模型不需要替你做太多判斷。但如果讓它做完整功能、改複雜模組,或搭一個產品頁面,它就會開始補完你沒說清楚的部分。它可能替你決定狀態結構、錯誤處理方式、服務層拆法,甚至加入一些看起來很專業、但專案其實不需要的抽象。這些選擇未必錯,真正的問題是:模型不是違背要求,而是在填補你沒說出口的空白。


文中把這些空白分成四類。第一類,是你已經知道,也已經寫出來的內容,例如明確告訴模型要在哪裡加按鈕、按下去要做什麼。第二類,是你知道自己還沒想清楚的地方,例如要不要支援行動裝置、失敗時怎麼提示、權限不足時要顯示什麼。第三類,是你心裡有標準,但平常不會寫下來的東西,例如頁面是不是順眼、互動是不是自然、文案語氣對不對。這些很難事前說清楚,但結果一出來,你通常一眼就知道對不對。第四類最麻煩,是你根本沒想到的問題:你不知道這個領域有哪些坑、不知道程式碼庫有哪些歷史約定、不知道以前的人為什麼這樣寫,也不知道這件事其實可以做到什麼程度。很多 AI 程式設計失敗,就發生在這一類。


這也是為什麼,真正厲害的 Agentic coder,不只是會寫 prompt,而是熟悉程式碼庫、懂模型特性,也清楚自己真正要什麼。他們知道哪些地方必須先問清楚,哪些地方可以交給模型發揮,哪些地方一定要保留回頭修正的空間。換句話說,AI 程式設計的核心能力,正在從「寫一個好 Prompt」,轉向「管理整段協作中的未知」。


Tarek 在文章裡提出了幾個很實用的方法。


第一個方法是 Blind Spot Pass,也就是盲區掃描。假設你要在陌生模組中加入新功能,例如接一個新的認證方式,但你對現有 Auth 模組並不熟。很多人會直接說「幫我接入這個 Provider」,但更好的起點是先請模型做盲區掃描,找出你現在還沒意識到的風險與問題,讓後續提問更準確。這一步的價值在於先承認自己不知道,讓模型先去翻程式碼庫、找既有模式、整理潛在風險,例如哪些權限處理不能忽略、哪些相容性不能漏、哪些地方看似簡單其實會牽動架構。這時 AI 的角色,就不只是執行者,而更像能幫你擴大視野的搭檔。


第二個方法是先做原型。特別是介面、設計、互動這類問題,很多標準不是靠語言就能講清楚。你說「高級一點」、「清爽一點」、「像某個產品一點」,模型未必真的懂,你自己也未必真的想清楚。這種情況下,不要急著直接改真實專案,可以先請模型做一個獨立的 HTML 頁面,用假資料產出幾個方向。等你看到實際畫面後,判斷會快很多:哪個太重、哪個太花、哪個版面對、哪個資訊層級不行。這看起來像繞路,但其實能大幅降低後面返工成本。因為在原型階段發現問題很便宜,等到真實程式碼已經接好狀態、介面、測試,再發現方向錯了,撤回就沒那麼輕鬆。


第三個方法,是讓模型反過來問你。當你有大致方向,但還有很多地方模糊時,不要只是一味把 Prompt 寫得更長,而是可以要求模型一次只問一個問題,而且優先問那些會改變架構的問題。這點非常關鍵,不是所有問題都值得同等對待。像按鈕名稱、顏色細節,之後都還能調;但資料模型、型別介面、權限邊界、使用者流程,這些一旦選錯,後面代價就很高。好的需求澄清,不是問題越多越好,而是能儘快把真正影響方向的問題提到前面。這其實很像一位可靠工程師接到需求後,先確認誰會用、失敗時怎麼辦、哪些輸入合法、哪些行為不能發生、上線後誰維護、舊資料怎麼處理。AI 沒有消滅這些問題,只是讓它們更快浮上檯面。


第四個方法,是給參考。很多時候你說不清自己想要什麼,不是因為表達能力差,而是因為有些東西本來就很難只靠文字描述清楚。你想要某個函式庫的重試策略、某個網站元件的互動、某個工具列的佈局,與其堆砌一堆形容詞,不如直接給參考。Tarek 特別強調,最好的參考往往是原始碼。截圖只能讓模型知道外觀,原始碼則能讓它理解結構、狀態、邊界與處理方式。對 AI 程式設計來說,真正重要的常常不是表面長相,而是實作語義。像是 Rate Limiter 如何處理重試、API Client 如何處理錯誤、元件如何拆分狀態,這些自然語言很容易漏細節,但程式碼反而更精確。


第五個方法,是先寫實施計劃。這不是為了增加流程感,而是為了把關鍵決策提前攤出來給人審視。文中的建議是,讓模型把最可能需要人調整的部分放在前面,例如資料模型、新型別介面、使用者可見流程;至於格式調整、搬移檔案、樣板程式碼這類機械性工作,可以放後面。這背後反映的是一個很現實的事:人的審查精力有限,不可能逐行檢查所有模型生成內容,但一定要盯住那些一旦決定就很難回頭的部分。模型幫你做重構或樣板碼,風險相對低;模型替你決定系統邊界,則必須先看。


此外,Tarek 也建議在實作過程中,讓模型維護一份 Implementation Notes.md,記錄它中途做了哪些決定、何時偏離原計劃、為什麼選了更保守的方案。這個做法看似樸素,但對長任務非常有效。因為長任務最怕的不是模型某一步做錯,而是它默默做了很多你不知道的決策,最後你只看到一個 diff,卻無法還原過程。有了這份實施筆記,至少能幫助你回頭理解:原本計劃哪裡不適用、程式碼裡出現了什麼邊界情況、模型為什麼沒有照原方案走。這樣你拿到的就不只是一堆程式碼,而是一段可被理解、可被追溯的決策過程。


整體來看,這篇文章真正重要的地方,不只是教你怎麼用某個工具,而是提醒我們:當模型能力越來越強,人類工作的重點就越不是下更華麗的指令,而是更誠實地面對自己不知道什麼、沒想清楚什麼,以及哪些決策不能交給模型默默完成。AI 程式設計的難題,正在從模型能力問題,轉向協作與未知管理問題。這可能才是下一階段最值得重視的能力。

2026年7月5日 星期日

[AI 趨勢解析] 主流AI熱詞演化路線全整理

 [AI 趨勢解析] 主流AI熱詞演化路線全整理

摘要 : 一次看懂AI熱詞從Token、Prompt到Agent與Workflow的出現邏輯與實際用途。




內容:

用一條清楚的演化路線,整理目前主流AI熱詞的來龍去脈,核心重點不是背名詞,而是理解每個概念「為什麼會出現」以及「它解決了什麼問題」。只要掌握這套脈絡,之後再看到新的AI術語,也比較不容易焦慮或混亂。


一開始先從最底層的 Token 與 Context Window 講起。AI在處理文字時,並不是像人一樣直接讀完整句子或文章,而是會先拆成更小的資訊單位,也就是 Token。這個概念會直接影響模型一次能讀多少內容、使用成本如何計算,以及為什麼對話太長時,AI會忘記前面說過的內容。所謂 Context Window,就是模型一次最多能處理的上下文範圍。它越大,不代表AI一定越聰明,而是代表它一次能接收的資訊更多;真正影響效果的,還是任務是否描述清楚。


因此,Prompt 提示詞成為早期最重要的AI熱詞之一。大家很快發現,AI並不是不會做,而是常常因為任務描述不清,導致輸出空泛或偏題。提示詞工程的本質,不是寫神秘咒語,而是替AI寫一份明確的工作說明書,包括角色、任務、背景、輸出格式、限制條件與範例。Prompt解決的是「如何讓AI理解你要它做什麼」,但它無法解決模型本來就不知道的事情。


接著就出現了 RAG。因為如果AI沒看過公司文件、專案程式碼或最新資料,它只能靠機率猜答案,進而產生一本正經卻不正確的內容。RAG,也就是檢索增強生成,核心邏輯很簡單:先查資料,再回答。系統會先從知識庫中找出相關內容,再交給AI生成答案。這讓AI從只靠記憶回答,進化成可以基於外部資料作答。這一段也延伸出 Embedding、向量資料庫與知識庫等概念,本質上都是為了讓系統更準確地找到語意相近的內容,而不是只做表面的關鍵字比對。


當普通RAG無法應對複雜問題時,又進一步發展出 Agentic RAG。它不再只是查一次資料就結束,而是像研究助理一樣,會判斷資料夠不夠、是否需要換關鍵字重查、是否要把大問題拆成小問題,甚至交叉比對不同來源。這代表AI開始從被動回答,走向更主動的推理與研究。


但就算AI能查資料,仍然不等於它真的能做事。於是 Tool Calling 或 Function Calling 出現了。這讓AI不只是給建議,而是能呼叫外部工具或系統,例如查日曆、讀資料庫、執行程式碼、查詢訂單狀態等。RAG讓AI有資料室,Tool Calling則讓AI有手,可以真正去執行動作。


工具越來越多之後,新的問題又浮現:每個工具的介面、參數、權限與回傳格式都不同,整合成本非常高。這時 MCP 開始受到關注。MCP可以理解成AI連接外部工具與資料來源的統一協議,像是AI世界裡的 Type-C。它的價值不在於讓模型更聰明,而在於讓AI能以更標準化、可管理的方式接入真實世界中的工具與系統。


接下來,影片也提到 Scale 的概念。Prompt像一次性的指令,而 Scale 更像是長期可重複使用的標準作業流程。它代表的不只是叫AI做一次事,而是把某一類任務的方法沉澱成穩定、可複用的能力。這對個人、團隊與企業都很重要,因為它能把工作風格、標準流程與崗位經驗逐步轉化成AI能力。


再往前一步,就是 Computer Use。這是AI從呼叫API,進化到像人一樣直接操作電腦。當系統沒有API、只能靠人工在網頁或後台點擊操作時,Tool Calling就無能為力了。Computer Use 的價值在於,AI可以看螢幕、理解介面、點按按鈕、填表、上傳檔案、下載報表,甚至在多個頁面之間切換。這讓AI開始能進入很多老舊系統與只能人工操作的工作場景,但同時也帶來穩定性、安全性與權限管理上的挑戰。


當AI具備查資料、用工具、操作電腦等能力後,大家自然會問:它能不能自己完成複雜任務?這就是 Agent 的核心。Agent 不是比較會聊天的機器人,而是能圍繞一個目標,自行拆解步驟、選擇工具、觀察結果,再持續調整行動的系統。它的關鍵是循環:先規劃、再執行、再觀察、再修正。這也是為什麼AI Agent最先在程式設計領域爆發,因為程式碼有清楚的檔案結構、錯誤訊息、測試結果與驗證方式,非常適合AI自主迭代處理。


而像 Vibe Coding 這類詞會流行,也是因為程式開發模式正在改變。過去是人寫程式、AI輔助;現在逐漸變成你描述目標,AI幫你實作,人類主要負責驗收、調整、架構設計與品質控管。只是 Agent 越強,自由度越高,風險也越大,像是誤刪檔案、亂改程式碼、越權存取資料、消耗過多資源等問題,都會放大。


因此,Harness Engineering 變得非常重要。它可以理解成給Agent加上安全帶、方向盤、剎車與儀表板。模型像發動機,Harness 則是控制系統。這一層通常包含權限控制、工具白名單、沙箱執行、追蹤記錄、錯誤重試、輸出驗證、人工審批、成本控管、回滾機制與評測系統。企業真正需要的,不是看起來很厲害的Agent,而是安全、可控、可追蹤、可驗證的Agent。


當AI開始進入真實業務場景後,單一Agent往往還不夠,因為企業運作通常是一整條流程。這時 Workflow 就很關鍵。Workflow 解決的是「一整個業務流程如何串起來」,例如讀取表單、判斷客戶類型、查CRM、生成建議、發通知、寫資料庫、排入後續跟進等。Agent負責思考與判斷,Workflow則負責把步驟、系統、審批與自動化節點串接起來,讓AI真正進入穩定運轉的業務流程。


最後,談到 Workspace Agent。這比一般的Workflow更進一步,因為企業真正想要的,不只是跑完一條流程,而是擁有一個長期存在於工作空間中的數位助手。Workspace Agent 不只是執行一次任務,而是理解團隊長期積累的上下文,例如文件在哪、誰負責什麼、哪些資訊敏感、什麼時候要提醒、什麼時候需要審批、哪些任務卡住了。普通Agent比較像臨時工,Workspace Agent 則更像長期駐點的數位員工。


整體來看,這些AI熱詞其實不是彼此孤立的新名詞,而是一條非常清楚的能力演化路線:從AI一次能看多少內容開始,進入如何正確理解任務,接著學會查資料、呼叫工具、統一接入外部系統、操作電腦、自主拆解任務、安全執行、串接流程,最後走向真正融入團隊工作的數位助手。理解這條主線後,未來再看到新的AI概念,就更容易知道它是在補哪一層能力、解哪一類問題。

2026年7月4日 星期六

[AI 回顧] AI如電氣化的歷史映照

 [AI 回顧] AI如電氣化的歷史映照

摘要 : AI像百年前的電氣化,前期重資本、低效率,後期才迎來生產力與應用大爆發。




內容:

AI的發展路徑,與一百年前的電氣化極為相似。電本身並不神奇,真正決定一個國家、一家企業能否受益的,不是技術是否出現,而是它是否足夠便宜、便利,以及人們是否真正懂得如何拿它來創造成果。AI也是如此,不需要過度恐懼,也不必過度神化。


近一年市場對AI充滿爭論,核心問題始終圍繞「AI是不是泡沫」。悲觀者認為,下游應用不足、模型公司難以盈利、上游硬體景氣不可持續,巨額資本支出未必能回本。但隨著企業端與Coding場景的突破,AI Agent的能力與商業化開始明顯提升,進一步擴散到金融、法律、客服、網安與營運等領域,讓市場逐漸意識到,限制AI收入的關鍵可能不是需求,而是算力供給不足。


若把今天的AI放進歷史座標來看,它很像1914年前後的美國電氣化。當時美國已經進行了約20年的電力建設,發電廠、工廠電機與城市電網都逐步普及,但整體生產力成長卻依然平平。也就是說,技術滲透率上升,不代表生產力會立刻反映。這與今天大量企業導入AI工具,卻尚未全面改變組織結構與工作流程的情況極為相似。


電氣化歷史大致可分成幾個階段。最初是技術摸索期,交流電與直流電爭奪主導權,商業模式不清,標準也未定型,市場估值波動劇烈。這對應到AI從Transformer、GPT到各種模型路線競爭的早期階段,大家都在問技術能做什麼、誰能賺錢、標準會落在哪裡。


第二階段是基建期。當年大量資本投入發電廠、電網與工廠設備更新,美國工廠電氣化率和家庭通電率大幅提高,但生產力幾乎沒有同步上升。原因在於,工廠雖然改用了電機,卻沒有重設流程、組織與產線配置,只是把蒸汽機換成了電力驅動。本質上只是更換動力來源,沒有真正重構生產方式。今天許多企業導入AI,也仍停留在將其嵌入既有流程的輔助工具階段,因此效果有限。


真正的轉折點,來自基建完成後的應用重構期。當工廠不再受蒸汽主軸與皮帶系統限制,開始重新設計空間配置、作業流程與管理模式,生產力才真正大幅躍升。這也說明,AI若想迎來真正的爆發,不只是模型更強、算力更大,更關鍵的是企業是否願意重組工作流、改寫軟體架構,甚至重塑整體組織運作方式。


從資本市場角度來看,技術革命不等於所有相關資產都會穩賺。電氣化時代裡,設備製造商雖然身處產業核心,卻在很長一段時間內回報平庸,因為需求成長慢、技術迭代快、競爭激烈、客戶集中,導致利潤被壓縮。反而到了應用爆發期,相關公司股價才出現大幅上漲。這意味著,即使看對大方向,也不代表每一個產業鏈環節都會成為最佳投資標的。


另一類贏家則是應用層企業。像當年汽車、家電、收音機等新產品,藉由電氣化基礎設施快速普及,才真正創造出大規模需求與高成長回報。放到今天,AI最值得關注的,或許不只是模型公司與晶片公司,更是那些能把AI能力商品化、流程化、場景化的應用企業。


歷史同時也提醒我們,技術革命中確實會出現真正的泡沫。電氣化時代裡,不少看似搭上趨勢的產業,最終因需求錯判、商業模式不成立或政策限制而破裂。也就是說,「技術是真的」與「標的是對的」是兩回事。AI不是假的,但某些資產價格、槓桿產品與過度包裝的概念股,依然可能成為泡沫。


最重要的結論是,技術革命的物理進程,往往不會因為股價崩跌而停止。就像1929年股市崩盤後,電氣化仍在持續推進,發電量與家電滲透率仍不斷成長。崩的是估值、情緒與槓桿,不是技術本身。這對今天的AI也同樣適用:即使未來市場波動劇烈,AI落地與產業重構仍可能持續發生。


總結來說,AI更像是一場長週期的基礎設施革命,而不是短期的題材炒作。它現在可能仍處於重資本投入、應用剛起步的中段位置,真正的大規模生產力釋放,往往發生在基建逐漸完成、流程與組織開始全面重構之後。理解這段歷史,不只是為了判斷AI有沒有泡沫,更是為了看清未來十年的真正方向。

[AI 教學] 六分鐘搞懂AI八大術語

 [AI 教學] 六分鐘搞懂AI八大術語

摘要 : 從大語言模型到Skill,快速理解AI八大核心術語與彼此關係。




內容:

這篇內容用簡單易懂的方式,整理出 AI 領域最常被提到的八個重要術語,幫助大家建立完整概念,而不是只停留在表面理解。


首先是「大語言模型」。它並不是從資料庫中直接查找答案的搜尋引擎,而是根據前文去預測下一個最可能出現的詞,逐步生成整段內容。因此,它的本質是機率生成器,不是知識庫。這也解釋了為什麼 AI 有時會出現「幻覺」,說出聽起來合理但實際不正確的內容。不過也正因為如此,它同時具備創造力,能寫作、編故事,甚至產生新的程式碼結構。


第二個概念是「Token」。Token 是 AI 處理文字時的最小單位,不完全等同於一個字或一個詞。不同語言拆分方式不同,中文通常比英文消耗更多 Token。由於大多數 AI 服務都是按 Token 計費,因此在大量使用時,理解 Token 的概念不只影響技術認知,也直接關係到成本控制。


第三個概念是「Context」,也就是上下文或上下文視窗。這代表 AI 在一次互動中能同時看到多少資訊,包括歷史對話、系統指令與當前輸入內容。可以把它想像成 AI 面前的一張桌子,桌面越大,能攤開的資訊越多。Context 的品質與安排方式,會直接影響 AI 的理解能力與最終表現。


接著是「Prompt」,也就是提示詞。很多人以為 Prompt 只是對 AI 提問,其實更像是在用自然語言替 AI 下達結構化指令。提示越清楚,角色越明確,需求越完整,AI 的輸出通常就越穩定、越接近預期。所謂 Prompt Engineering,本質上就是把腦中的模糊需求,轉換成 AI 能精準執行的指令格式。


第五個概念是「Tool」。即使 AI 很會分析與回答,如果沒有工具,它仍然只能停留在「建議」層面,無法真正執行任務。Tool 的作用,就是讓 AI 具備操作能力,例如讀取檔案、修改程式碼、執行指令,甚至操作瀏覽器。當 AI 擁有工具之後,就不再只是參謀,而開始成為真正能動手做事的執行者。


第六個概念是「Agent」。很多人誤以為只要 AI 能調用工具,就是 Agent,但真正的關鍵在於「自主決策能力」。一般 AI 需要人一步一步下指令,而 Agent 則能根據目標,自行拆解任務、選擇工具、安排流程,甚至在遇到問題時調整策略。也就是說,你給它的是目標,它自己決定怎麼完成。


第七個概念是「MCP」,也就是模型上下文協議。它的價值在於標準化工具的接入方式。過去不同工具需要不同的整合方式,開發與適配成本很高;而 MCP 就像 AI 世界的 Type-C,讓支援同一標準的模型與工具能更容易互通。MCP 不是工具本身,而是一種基礎設施,目的是讓 AI 能更有效率地連接外部能力。


最後一個概念是「Skill」。即使 Agent 已經具備自主行動能力,仍然可能出現「什麼都能做,但都做得普通」的問題。Skill 的作用,就是把特定任務所需的提示詞、工作流程、工具組合與品質標準,封裝成可重複使用的技能包。這能讓 AI 在某些專業領域表現得更穩定、更深入,也讓它從通才進一步變成專才。


整體來看,這八個概念其實是一層一層往上建立的。大語言模型提供生成能力,Token 是文字處理單位,Context 決定可用資訊範圍,Prompt 決定輸出方向,Tool 讓 AI 能動手執行,Agent 讓它具備自主規劃能力,MCP 負責工具生態的標準化,而 Skill 則讓 AI 在特定任務中走向專業化。理解這套脈絡,就能更清楚看懂 AI 為什麼強大,也知道它的限制與進化方向。