2026年11月17日 星期二

[AI 分享] 從晶片到 App:用六層架構看懂 AI 如何完成任務

 [AI 分享] 從晶片到 App:用六層架構看懂 AI 如何完成任務

摘要:以六層架構與餐館比喻,串起 AI 的算力、框架、模型、知識、智慧體和應用。



內容:


AI 名詞越來越多:GPU、Transformer、RAG、智慧體、MCP……如果逐個背,很容易越學越亂。換個方法,可以把 AI 想成一塊由下往上疊起來的六層蛋糕:算力層、框架層、模型層、資料與知識層、智慧體平臺層,以及應用層。每往上一層,都在補足下一層做不到的事。


不妨用一個問題貫穿這六層:「依照公司的出差規定,我能坐一等座嗎?如果不行,請幫我訂下週一去上海的高鐵票。」最底層的晶片只會執行大量運算,最上層的 App 卻能呈現規定、查詢車票,甚至在你確認後完成訂票。中間靠的就是六層協作。


第一層:算力層——提供運算與記憶體


模型處理文字,最後會落到大量數值運算,尤其是乘法與加法。GPU 擅長同時處理許多這類計算,因此成為 AI 運算的主力;此外,也有 Google TPU、華為昇騰、Amazon Trainium 等專用晶片。CPU 並非不能運行 AI,只是在大規模平行計算上,通常不是主要選擇。


大型模型的參數與運算所需資料,可能超過單張晶片可容納的範圍,因此需要高速網路連接多張卡;訓練模型或服務大量使用者時,還要擴展成更大的叢集,並處理供電與散熱。這一層提供的核心能力是「算得多快」與「一次容得下多少」。若把 AI 當成餐館,它就是廚房的爐灶、工作檯與能源:能提供火力,卻不知道該先做哪道菜。


第二層:框架層——安排怎麼算、在哪裡算


晶片不會自行決定計算順序,這需要軟體協調。CUDA 是開發者使用 NVIDIA GPU 的重要軟體平臺;大量程式依賴其生態,也是更換晶片供應商時需要克服的障礙之一。PyTorch 等深度學習框架則讓開發者描述模型與計算方式,不必逐一指揮晶片中的運算單元。訓練時,框架還會協助計算用來調整參數的「梯度」;模型太大時,分散式訓練軟體會把工作分配到多張卡。


模型訓練好、開始回答使用者問題後,負責調度的軟體稱為推理引擎,例如 vLLM、SGLang。模型通常是一個 token 接一個 token 地產生回答;token 是文字處理的單位,不一定對應固定數量的字。為避免每寫一個 token 就重算全部前文,推理引擎會保留可重用的計算結果,稱為 KV 快取。


推理還有不同的優化方法。「PD 分離」把處理輸入的 Prefill,與逐步產生答案的 Decode 分配給不同資源,減少兩類工作互相干擾。「量化」則用較少位元儲存部分參數,以降低記憶體與運算需求,但需要權衡模型品質。用餐館比喻,框架層就是廚房排程:安排哪口爐先開、備好的材料如何留存,以及切配與炒菜是否分區進行。


第三層:模型層——依據前文產生內容


模型可以理解為一套計算結構,加上訓練得到的大量參數。當代大型語言模型多採用 Transformer 相關架構,根據已知前文預測接下來的 token,逐步形成回答。有些模型採用「混合專家」(MoE)設計:雖然總參數很多,處理每個 token 時,通常只啟用其中一部分參數,以兼顧能力與運算成本。這裡的「專家」是一組組模型參數,不等同於真正的人類專家。


參數並非一開始就會回答問題。預訓練讓模型從大量資料中學習預測後續內容;但只會接續文字,不代表懂得遵循使用者要求。因此還需要後訓練,利用示範回答、評分與其他方法,讓它更像一位助手。部分模型也經過訓練,能在作答前進行較多步驟的推理,這是 App 中「深度思考」功能背後的重要基礎之一。


在餐館裡,模型像一臺經過反覆調校的料理機:參數是它的設定,訓練是試做、檢查、再調整。但即使料理機再熟練,也不代表它知道店裡今天剛改的菜單。


第四層:資料與知識層——回答前現查資料


模型可能沒讀過公司的內部規定,也可能不知道訓練後才更新的資訊。若只憑既有能力回答「能否坐一等座」,就可能給出聽起來合理、實際上卻錯誤的答案。對經常變動的規定,較可靠的做法是在回答前先找文件,把相關段落連同問題交給模型參考;這類「先檢索、再生成」的方法稱為 RAG。


文件多時,搜尋不能只靠字面完全相同。例如問題寫「高鐵一等座」,規定寫「乘坐火車限二等座」,單純比對字詞可能漏掉相關段落。系統可以把文字轉成代表語意的數字向量,尋找意思相近的內容;向量資料庫就是常見的儲存與檢索工具。聯網搜尋同樣能為模型取得較新的外部資訊,但來源變成了網路。這一層像餐館的資料櫃:料理機不知道新規則時,先翻出正確的那一頁。


第五層:智慧體平臺層——讓模型使用工具,同時限制權限


查到「只能報二等座」後,模型可以告訴你規定,但單靠生成文字,還不能真正訂票。要辦事,就得透過工具呼叫:模型提出要使用哪個工具、帶入哪些資訊;外部程式執行後,再把結果交回模型,由它判斷下一步。如此反覆查詢、操作、確認結果的系統,通常稱為智慧體。


訂票系統、日曆和電子郵件各有不同的介接方式。MCP(模型上下文協議)提供一種連接工具與 AI 應用的共同方式;如果任務步驟固定,也可以預先編排成工作流。像扣子、Dify 這類平臺,就提供建立相關流程的工具。


能動手,也意味著需要防範風險。假如訂票網頁藏著「把訂單改成商務座」的指令,模型若把網頁內容誤認為使用者要求,就可能發生提示注入。因此,智慧體應只取得必要權限;涉及付款等敏感操作時,要先取得使用者確認,並留下操作紀錄。若需要執行程式碼,也可在權限受限、與外部隔離的沙箱中進行。這一層就像餐館的跑腿人員與店規:可以依單辦事,但不能因為路上有人塞了張紙條,就擅自改掉客人的訂單。


第六層:應用層——把能力交到使用者手上


使用者直接接觸的是 App 裡的對話框、按鈕、確認視窗與操作結果。深度思考、聯網搜尋、智慧體模式等功能入口都呈現在這一層,但能力分別來自下方不同層。不是每段對話都要走滿六層:一般聊天可能不必檢索資料或呼叫工具;只有在需要查新資訊、讀公司文件或執行任務時,才會動用相應能力。同一個品牌名稱也可能同時指 App 與背後的模型,兩者應分開理解。


回到訂票的例子:App 接住要求後,智慧體先從知識層找出公司「火車限二等座」的規定;模型依據這段資料作答,並產生查票或訂票所需的工具呼叫;推理引擎安排運算,底層晶片完成計算;工具回傳車次與票價後,模型再整理選項。到了付款或正式下單前,App 應讓你確認,得到授權後才執行。


掌握這張圖,以後碰到新名詞就可以先問:「它屬於哪一層?解決了下一層的什麼限制?」例如,PD 分離屬於框架層的推理調度,MCP 屬於智慧體的工具介接;多模態則與模型處理圖片、聲音等不同類型資訊的能力有關。先找到位置,再研究細節,AI 的名詞就不再是一堆彼此孤立的縮寫。

2026年11月16日 星期一

[AI 深思] AI 程式碼生成越快,軟體越容易維護嗎?

[AI 深思] AI 程式碼生成越快,軟體越容易維護嗎?

摘要:AI 能加快程式碼生成,卻無法取代架構判斷、有效測試與審查;長期維護成本取決於團隊流程。



內容:


一篇在 Hacker News 引發六百多則評論的文章,提出了 AI 程式設計的關鍵問題:程式碼越容易生成,誰來確保系統仍能持續演進?文章作者曾在 Meta 工作。他表示,離職前幾個月,自己至少九成的程式碼由 AI 生成;進入另一家大型科技公司後,比例更達到百分之百。然而,他並未因此得到兩倍或十倍的程式碼產出,反而注意到一些經驗豐富的工程師開始提交「能執行,卻可能難以長期維護」的程式碼,讓程式碼庫逐漸變得脆弱。


軟體能成功執行一次,不代表它容易修改。以訂單系統為例,今天支援普通訂單,下個月加入優惠券,之後再接入訂閱支付,每次需求變動都可能碰到原有邏輯。設計清晰的系統能將改動限制在相對明確的邊界;脆弱的系統則可能因為新增一種付款方式,就得修改十幾個檔案,甚至刪掉一段看似多餘的邏輯,便影響仍在使用舊流程的客戶。這類問題在功能首次上線時未必會暴露,往往要等需求持續疊加,團隊才發現每次修改都比上一次困難。


作者舉過一個小例子:一位能力很強的同事為了實現滑鼠懸停樣式,使用 JavaScript 事件監聽控制介面;但在那個簡單場景中,CSS 的 hover 選擇器通常已經足夠。JavaScript 寫法不一定有錯,也能做出要求的效果,卻額外引入事件處理、狀態維護與清理工作。複雜互動當然可能需要 JavaScript;這個例子要說明的是,Agent 能完成任務,卻不一定會選擇最符合現有系統、維護成本最低的方式。


測試也有類似問題。AI 可以快速替簡單的 getter、setter 寫出大量測試,讓測試數量與覆蓋率看起來很漂亮,但真正高風險的情境仍可能沒有被檢查:付款成功後,確認結果因網路中斷而未返回,使用者再次點擊會不會重複付款?兩個請求同時修改資料時,是否會發生競態條件?尤其當 Agent 同時撰寫實作與測試,兩者可能共享同一個錯誤理解,於是測試全部通過,業務規則卻仍然錯誤。


因此,驗證依據不能只來自實作程式碼本身。以優惠金額為例,團隊可以獨立訂出「優惠不得小於零,也不得超過應付金額」等業務性質,檢查邊界與異常情境;必要時再使用變異測試,故意改動關鍵計算邏輯,確認測試是否真能抓出錯誤。測試的價值不只是顯示綠燈,而是它發現錯誤的能力。


抽象設計同樣需要判斷。AI 可能為了遵守避免重複的原則,把只是暫時相似的功能硬合併,或將簡單功能拆成過多的輔助函式與層次;反過來,也可能對明確需要支援數十種告警的專案,只寫出數百行針對第一種告警的專用程式碼。該提前考慮哪些變化、哪些應等需求明確再處理,沒有永遠正確的答案。


Agent 可以搜尋倉庫、閱讀檔案並反覆檢查,卻未必掌握系統設計背後的歷史。兩個模組沒有共用介面,可能是因為曾發生效能事故;一段看似奇怪的相容邏輯,可能仍服務尚未遷移的老客戶。若這些背景沒有記錄在程式碼或可讀取的文件中,Agent 很容易根據眼前資訊做出不合適的修改。人類工程師也會犯錯,但長期參與專案的人,至少有機會從實作、除錯與事故經驗中累積這類隱含知識。


當團隊越來越依賴 Agent 產生程式碼,另一個風險是系統持續增長,卻越來越少有人能解釋它為何如此運作。原本每天只有幾個需要審查的 pull request,導入多個 Agent 後可能增至數十個;生成改動的時間縮短了,閱讀、驗證、討論設計與整合的工作卻沒有消失。團隊若無法提高審查能力,就可能讓改動排隊,或縮短每次審查的時間,將問題延後到正式環境才發現。


研究結果呈現的也不是單一結論。Needle in a Repo 測試了 23 種模型與 Agent 配置;在報告統計的 483 個結果中,有 64 個通過全部功能測試,卻未通過結構檢查,約占 13.3%。這項診斷基準不能直接推算生產環境的缺陷率,但提醒我們:功能正確,不等於依賴關係、職責拆分與可維護性也正確。


另一項研究分析逾 6,200 個 GitHub 倉庫與逾 30 萬次經辨識的 AI 程式碼提交,透過靜態分析識別出約 48 萬個問題,其中多數屬於程式碼異味。在持續追蹤的問題中,24.2% 到觀察結束時仍存在。程式碼異味不等於線上故障,但若新增問題的速度長期高於修復與整理的速度,技術債就可能累積。


不過,也不能據此認定 AI 程式碼必然比較差。一項發表於 Empirical Software Engineering 的兩階段研究發現,使用 AI 的開發者在第一階段新增 Java 功能時,任務完成時間中位數縮短了 30.7%;第二階段由另一批開發者在沒有 AI 的情況下繼續修改程式碼,研究未發現兩組在後續修改耗時或品質上存在統計顯著差異。這項結果有任務規模與實驗情境的限制,但說明開發流程、任務類型、經驗與驗證方式,都會影響最終品質。


Hacker News 的討論也指出,技術債、過度抽象、測試不足、難以理解的舊程式碼,以及趕進度時跳過審查,都是 AI 出現前就存在的問題。AI 可能放大並加速這些問題,也可能在良好的流程中幫助團隊改善品質。Google 的 DORA 研究亦指出,較高的 AI 使用程度與較高的交付吞吐量相關,同時也與較高的交付不穩定性相關。AI 更像放大器:清晰的架構、可靠的測試與穩定的交付流程會受益;混亂的邊界與不足的驗證,也可能更快累積後果。


因此,團隊使用 Coding Agent 時,值得優先做好五件事:修改前明確需求邊界及必須維持的系統行為;將模組職責、依賴方向與架構約束記錄在倉庫中;要求最小必要改動,並解釋新增抽象或跨模組修改的理由;在持續整合中結合功能測試、異常情境、靜態檢查與必要的變異測試;最後,依改動風險安排審查強度,對支付、權限、資料遷移及核心狀態管理採取更嚴格的驗證。


AI 已能分擔大量重複實作、程式碼遷移、測試輔助與問題定位工作,沒有必要因擔心技術債就完全放棄它。但生成程式碼的成本降低,不代表判斷業務需求、維持架構邊界與處理未來故障的成本也會消失。未來衡量開發效率,不能只看一天產生多少程式碼、合併多少 PR;更重要的是幾個月後,團隊是否仍能以合理成本理解、修改並維護這套系統。

[AI 回顧] 微軟 365 全球故障:例行變更如何牽動雲端與 AI 服務

[AI 回顧] 微軟 365 全球故障:例行變更如何牽動雲端與 AI 服務

摘要:微軟網路升級埋下的問題引發跨服務故障,凸顯雲端集中風險與備援難題。



內容:


微軟這次大規模故障,最終公布的初步原因不是網路攻擊,也不是 AI 代理操作,而是早前一次網路容量升級引入的問題,在後續網路變更後顯現。微軟還特別聲明,事件「與網路攻擊或 AI 代理無關」。這句罕見的澄清,也反映外界已開始關注 AI 代理是否可能影響生產環境。


故障在週四上午陸續浮現。約 9 時 45 分,Teams 先出現訊息無法傳送、聊天紀錄無法讀取等狀況;微軟當時將問題歸因於資源使用增加,並於 10 時 53 分表示已修復。但到 11 時 17 分,Outlook 又開始無法正常使用,微軟開立編號 EX1550543 的事件工單。下午 1 時左右,DownDetector 收到約 13 萬筆 Outlook 報障,通報來自 74 個國家與地區。


下午 1 時 26 分,微軟再開立 MO1550821 工單,處理依賴郵件後端的其他服務。受影響範圍不只郵箱:Exchange Online 的網頁、桌面與手機端連線異常;Teams 的日曆、會議邀請和線上活動建立受阻;SharePoint 外部共享出問題;Copilot 無法正常開啟對話或讀取郵件、日曆與檔案。Defender XDR、Purview、Microsoft Graph、Power BI 和 Power Apps 也分別出現延遲、逾時或登入異常。一層共用後端故障,牽動了多條產品線。


外部網路監測公司 ThousandEyes 記錄到連線重設、連線遭拒、回應逾時及大量伺服器端錯誤;其觀測顯示,封包遺失發生在微軟自身網路內,而非使用者的寬頻線路。有報導指出,故障期間 Azure 狀態頁仍顯示沒有活動事件,Microsoft 365 狀態頁卻載入緩慢甚至無法開啟,凸顯不同服務狀態頁可能提供不一致的故障視角。不過,這次事件與特定 Azure 網路變更的關係,各方說法並不一致,不能視為已確認的結論。


下午 2 時 18 分,微軟表示負載升高並非因為使用者流量增加,而是可用的處理能力下降。之後的通報提到,部分伺服器未通過自動健康檢查,因而被移出服務。健康檢查原本用來隔離故障機器;但當大量機器已因過載而無法回應,持續將它們移出服務,可能讓剩餘機器承受更大壓力,形成連鎖效應。


微軟一度懷疑處理伺服器健康狀態的元件,並測試替代檢查方式、恢復部分伺服器。然而,這些措施未達預期效果;後續分析指出,被移出的伺服器當時確實已無法處理請求,健康檢查未必判錯。更深一層的瓶頸,是負責建立安全連線的核心程序承受不住壓力,請求甚至無法進入後續處理流程。部分恢復的伺服器一接觸真實流量,又再次失效。


微軟隨後限制部分地區的特定流量、依先前版本的設定重建伺服器,並開始回滾一項與故障起點時間相近的網路配置變更。深夜通報又指出,路由服務對後端的呼叫量激增;這可能與大量客戶端反覆重試有關,而不代表實際使用者突然增加。到了週五凌晨,上游認證與路由設定的修補程式部署至部分設施後,情況才逐步穩定。微軟也把郵件的逾時視窗延長至 48 小時,優先避免延遲送達的郵件被過早判定為失敗。


影響延伸到企業之外。日本政府表示,跨部門通訊受阻,已啟用電話等替代方式;新加坡政府科技局表示,政府郵件中斷正與微軟合作處理,當地法院也通報收發郵件出現問題,同時強調緊急服務維持正常。這些案例顯示,當政府辦公流程依賴同一套雲端服務,商業系統故障也可能成為公共服務問題。


經濟影響方面,Anderson Economic Group 初步估計生產力損失約 70 億美元,並估算週四約 2,600 萬人、週五約 5,100 萬人的工作受到可計量的影響。這是未能完成工作所折算的產值,不是微軟須支付的賠償,也不是直接蒸發的現金;數字仍屬初步估算。


微軟特別否認 AI 代理涉入,有其產業背景。《金融時報》曾報導,亞馬遜雲一宗故障與工程師使用編碼代理 Kiro 進行變更有關;亞馬遜則將問題歸因於存取控制配置不當,強調不是 AI 本身造成。兩種說法指向同一個治理問題:當代理取得足以修改生產環境的權限,授權範圍與變更審查就格外重要。就這次微軟事件而言,目前沒有證據顯示 AI 代理是肇因。


AI 在本次故障中更直接的角色,反而是下游受害者。OpenAI 提醒使用者,與微軟的新連線及部分工具可能異常;Anthropic 也通報上游服務商問題,Claude 連接郵件、日曆等工具的請求受到影響。企業 AI 助手若要讀取郵件、文件與行事曆,就必然依賴這些辦公系統。相關後端失效時,AI、資料工具及安全合規服務也可能一起受波及。


另一個值得討論的背景是擴容壓力。微軟表示,問題源於先前的網路容量升級;在 AI 需求與基礎設施投資持續增加的環境下,頻繁變更可能帶來更多操作風險。不過,「AI 需求促成此次故障」是對產業背景的推論,並非微軟公布的根因,兩者不能畫上等號。


對企業而言,「改用多雲」也不是郵件與身分系統的簡單解方。算力和儲存較容易分散,但郵件路由、單點登入、帳號權限與通訊錄通常仰賴同一套權威系統;維持兩套即時一致的環境,成本與複雜度都很高。因此,現實中的備援往往是電話、簡訊或其他聊天工具,能維持基本溝通,卻未必能立即恢復原有業務流程。


個人與團隊仍可做一些準備:為重要郵件保留本機副本;將關鍵聯絡人的電話存在手機本機;妥善保存雙重驗證備份碼;有截止日期的報稅、簽證或政府申請,不要等到最後一天才透過單一線上服務辦理。


監管也開始正視大型雲端供應商的集中風險。歐盟金融業數位營運韌性法規 DORA 之下,三大監管機構公布的首批關鍵資訊通訊技術第三方服務商名單包含微軟及其他大型科技企業。當少數供應商支撐大量企業與公共服務,一次例行變更的影響就不再只是單一公司的內部事故。


目前微軟完整的事後報告尚未公布,故障如何從最初的容量升級一路傳導至各服務,仍應以後續正式報告為準。比找出這一次的觸發點更重要的問題是:下一次不可避免的擴容與變更,微軟將如何避免同樣的連鎖失效?

2026年11月13日 星期五

[AI 分享] C# 15 新功能:聯合型別、封閉類別與更靈活的語法

[AI 分享] C# 15 新功能:聯合型別、封閉類別與更靈活的語法

摘要 : C# 15 加入聯合型別、封閉類別等功能,強化型別安全並簡化程式碼。



內容:


這場分享由 C# 團隊成員接續主題演講,透過程式範例介紹 C# 15 的新功能。講者表示,聯合型別是團隊討論多年的設計,如今終於能用簡潔的語法,表達「一個值只能是指定幾種型別之一」。


**聯合型別(union)**的示範從寵物資料開始:程式需要同時處理狗、貓和鳥,但這些型別可能來自不同程式庫,並非開發者自行建立的繼承階層。過去若以 object 儲存,任何物件都能混入,連不希望出現的鯊魚也不例外;對 object 撰寫 switch 運算式時,編譯器也無法確認所有可能情況都已處理。


C# 15 可以宣告「Pet 是由 Dog、Cat、Bird 組成的 union」。這些成員稱為 case types。宣告後,三種指定型別都能隱含轉換為 Pet,未列入的 Shark 則會產生編譯錯誤。程式也能直接針對各 case type 進行模式比對;當三種情況都已處理,編譯器便能確認比對具有窮盡性,不再要求額外處理未知物件。


如果其中一個 case type 允許 null,編譯器會明確提醒尚未處理 null。補上對應分支後,窮盡性警告就會消失。講者強調,這類具體的編譯器回饋,能引導開發者逐步補齊必要情況。


Union 本身是真正的型別宣告,不只能使用簡短的分號形式,也能加入大括號、泛型參數及屬性或方法等功能成員。例如,可以把處理不同寵物的邏輯寫成 Pet 的輔助屬性。不過,這種 union 不允許另外宣告儲存狀態:其中的值就是它的狀態。


講者也展示編譯器預設如何實作 union。預設產生的是 struct,包含保存目前值的 Value 屬性,以及接收各 case type 的建構函式;隱含轉換可藉由呼叫相應建構函式完成,模式比對則會取出值來判斷。編譯器產生的型別也會實作 IUnion,方便程式在不知道具體 union 型別時,仍能辨識 union 並取得其值。


開發者亦可自行建立 union:在類別或結構上標示 Union attribute,提供必要的值屬性與建立成員,讓編譯器辨識其 case types。這對效能要求較高,或想讓既有型別具備 union 行為的情境特別有用。例如,預設實作以較寬泛的型別儲存值,可能使實值型別發生裝箱;自行實作便能選擇其他儲存與取值方式。


第二項重點是 closed 類別。講者以計算機的運算型別為例:程式定義數字、加、減、乘、除等衍生類別,並用模式比對遞迴計算。但只要公開的基底類別仍可由外部繼承,其他專案就可能加入新的衍生型別,編譯器也無法保證現有比對已涵蓋全部情況。


將基底類別宣告為 closed 後,只有同一組件內的型別能直接繼承它;其他組件的繼承宣告會成為編譯錯誤。closed 也使該類別自動具有抽象類別的性質。如此一來,開發者可以保留既有的繼承模型,同時讓編譯器確認模式比對是否窮盡,而不必為了改用 union 重整整個資料結構。


第三項功能擴充了集合運算式。集合運算式原本適合簡潔地建立集合,但若建立時需要傳入參數,例如替 HashSet 指定忽略大小寫的比較器,或替 List 指定初始容量,過去往往得改回明確呼叫建構函式。C# 15 允許在方括號開頭使用 with 並提供參數,讓程式在保留集合運算式寫法的同時,控制集合的建立方式。


第四項是帶標籤的 break 與 continue。在巢狀迴圈中,若內層條件成立便要跳出外層迴圈,過去可能需要額外的布林變數,再於外層檢查。現在可以替目標迴圈加上標籤,直接指定要跳離或繼續哪一層迴圈。講者指出,這能減少輔助狀態,讓控制流程更直接,也較不容易在修改程式時出錯。


第五項是擴充索引子(extension indexers)。C# 14 已讓擴充成員不再侷限於方法,例如可加入擴充屬性;C# 15 則進一步支援索引子。在擴充成員的宣告區塊中,開發者能沿用一般索引子的宣告語法。講者認為,這也顯示新的擴充成員設計可以自然延伸至更多成員種類。


分享最後提到另一項仍在預覽階段的功能:改進 unsafe 的標記與追蹤方式。其目標是讓開發者除了內建的不安全操作,也能標示自己撰寫的不安全操作,並在程式碼中的呼叫關係上持續追蹤,使這些操作更容易被辨識與檢查。此外,啟用相關改進後,async 程式碼也能因執行階段的支援而變得更快;它的用法沒有改變,重點在於效能提升。

2026年11月12日 星期四

[AI 分享] 讓 .NET MAUI App 不只會聊天,還能替使用者行動

[AI 分享] 讓 .NET MAUI App 不只會聊天,還能替使用者行動

摘要:介紹如何結合裝置端 AI、工具呼叫與 .NET MAUI,讓 App 理解需求並執行操作。



內容:


在 .NET Conf 2026 的這場分享中,微軟 .NET MAUI SDK 團隊的軟體工程師 Gerald 探討如何把 AI 加入 .NET MAUI 應用程式。他認為,AI 不該只是 App 裡的另一個聊天視窗。使用者真正需要的,是能理解意圖、找到資訊,並在適當確認後完成操作的 App。


行動裝置特別適合這類體驗,因為它可以透過相機、麥克風、定位及其他感測器提供情境資訊,也可能在取得適當授權後,運用行事曆或健康資料。例如,旅行時掃描菜單,結合所在地點,協助有芝麻過敏的使用者判斷需要留意的餐點。這些資訊讓 AI 的用途超越單純問答,轉向解決具體問題。


Gerald 以一款開放原始碼的 .NET Conf App 示範。使用者初次開啟 App 時,可以用自然語言描述感興趣的內容,例如指定講者、.NET MAUI 議程,或「更多 Copilot 內容」。也能設定希望觀看的時段;App 會依使用者時區和時間偏好推薦議程,經使用者檢查後加入個人行程。即使輸入有些微拼寫錯誤,模型也可能理解原意,但裝置端模型通常比雲端大型模型更需要明確的指令。


這款 App 的 AI 不只回覆文字。當使用者提出「找星期四的 Blazor 議程」,它會切換到星期四並套用 Blazor 篩選條件;提出「儲存所有 Aspire 議程」,它會直接將符合條件的場次加入個人行程;要求查看某位講者或特定議程時,也能導向對應的詳細頁面。App 另有尋找行程空檔的功能,可依既有安排和可觀看時段提出候選議程,讓使用者自行決定是否加入。


支撐這套設計的核心之一是 Microsoft.Extensions.AI。它提供 IChatClient 等抽象介面,讓 App 的頁面、ViewModel 和服務不必直接綁定單一模型來源。開發者可以接上裝置端模型、自帶模型或雲端服務,並視需要設定工具呼叫、函式執行與 OpenTelemetry 遙測。不同功能也可以使用不同的 AI 用戶端:較簡單、重視隱私的任務交給裝置端;需要更強能力的任務則交給遠端模型,而不必為整個 App 只選一種方案。


另一個重點是 .NET MAUI 團隊正在 MAUI Labs 實驗的 Essentials AI。它延續 Xamarin Essentials 將跨平台裝置能力整合為統一 API 的思路,嘗試為 iOS、Android 和 Windows 的裝置端 AI 模型提供一致的使用方式。開發者可依平台註冊對應的 IChatClient 實作,再讓應用程式其他部分透過共同介面呼叫。Gerald 說明,Essentials AI 目前以 MAUI Labs 預覽套件形式提供,方便團隊快速實驗並收集回饋;它受到團隊積極維護,但尚不等同納入正式產品支援承諾。


使用裝置端 AI 前,App 必須檢查裝置是否具備相應能力、模型是否已準備就緒,以及是否需要下載模型。不同平台與裝置支援的功能也不完全相同;以分享當時的情況來說,工具呼叫能力尤其需要逐一確認。這意味著開發者不能只因某台裝置「有 AI 模型」,就假設所有 AI 功能都能執行,仍須做好能力檢測、替代流程和實機測試。


模型部署各有取捨。作業系統內建的裝置端模型有離線、隱私及較低使用成本等優點,但能力與硬體支援可能受限;透過 ONNX 自帶模型,能針對特定任務選用模型,卻可能增加大量 App 體積與整合工作;雲端模型能力較強、App 本身也較輕量,但需要網路、持續付費,並須考量資料傳輸與隱私。若使用雲端 API,金鑰不應直接放在行動 App 中,而應妥善保存在後端。


要讓 AI「採取行動」,Gerald 展示了 AI attributes 的做法。開發者可在既有 C# 方法上標註匯出 AI 函式的屬性,替函式及參數寫出清楚描述,使模型能根據使用者語句判斷何時呼叫工具,以及該傳入哪些參數。例如,開啟講者頁面、搜尋議程或調整個人行程,都可以轉為模型可呼叫的工具。相關原始碼產生器會建立呼叫程式碼,避免在執行時依賴反射。工具最終仍透過 App 原本的 ViewModel、模型和服務執行,不必另建一套與既有介面脫節的操作邏輯。


讓 App 能行動,也必須讓使用者保持控制權。示範中,移除已儲存議程屬於可能造成損失的操作,因此 AI 會先列出將移除的項目並要求確認;使用者可以選擇移除或保留。Gerald 建議開發者驗證每項請求與工具參數、留意提示注入風險、清楚說明 AI 能做什麼,並只公開必要且願意讓模型操作的工具。AI 可以協助判斷意圖,但不應繞過安全檢查或替使用者擅自決定重大操作。


分享最後也提出更多延伸方向。語意搜尋可將文字轉成向量,讓使用者不必輸入完全一致的關鍵字,就能找到意思相近的議程。AI 也可能協助新使用者找到設定、推薦入門內容、說明觀看某場演講前應具備的背景知識,或將議程摘要翻譯成偏好的語言。MAUI Labs 中的 AI Wayfinding 實驗則進一步思考:如果使用者能直接表達目的,App 是否可以替他找到操作路徑,甚至呈現更符合個人偏好的介面?


整體而言,這場分享鼓勵開發者從「使用者想完成什麼」出發,而不是只在 App 裡增加聊天功能。Microsoft.Extensions.AI 提供連接不同模型的共同介面,Essentials AI 探索跨平台裝置端能力,AI attributes 則讓既有程式碼成為可呼叫的工具;三者結合後,AI 才能在明確邊界與使用者掌控之下,真正改善 .NET MAUI App 的使用體驗。

[AI 分享] .NET 11 的 ASP.NET Core 與 Blazor:效能、安全與開發效率

 [AI 分享] .NET 11 的 ASP.NET Core 與 Blazor:效能、安全與開發效率

摘要:整理 .NET 11 網頁開發新功能,涵蓋效能、資安、Blazor 與開發工具。



內容:


Daniel Roth 是 .NET 團隊負責 ASP.NET Core 與 Blazor 的首席產品經理。他在演講中指出,選擇網頁開發平台是一項長期投資:團隊不只需要它能穩定執行,也需要它持續應對安全威脅,並在產品需求成長時,協助開發者有效交付。這場演講以「效能、防護、開發效率」三個面向,介紹 .NET 11 中 ASP.NET Core 與 Blazor 的改進。


效能:從大規模服務累積的改進


.NET 支撐 Microsoft 多項服務,包括 Copilot、Teams、Bing、Azure 與 Xbox。因此,執行階段與網頁技術堆疊的效能改善,不只來自基準測試,也受到每天處理大量請求與使用者的實際工作負載驅動。


以 MSN、Edge 和 Windows 的個人化內容提要為例,這些服務每月提供數十億次網頁瀏覽。演講中提到,相關團隊從 .NET 8 升級到 .NET 10 後,回報 P95 垃圾回收暫停時間降低 29%、非同步外掛程式延遲降低 11%,執行緒集區佇列也縮短 20%。應用程式不必具備同等規模的流量,仍能受益於這類執行階段改進。


在 .NET 11 中,效能工作延伸至整個網頁堆疊,包括 JIT 最佳化、降低記憶體配置壓力、加快 JSON、字串、正規表示式與 HTTP 處理,以及減少可觀測性功能的額外負擔。對 Blazor 而言,改進包括縮小網頁元件下載大小、支援靜態伺服器端渲染快取,以及暫停閒置的伺服器連線通道,以釋放伺服器資源。其中許多改善可透過升級直接取得。


Kestrel 的不良請求處理是具體例子。過去,格式錯誤的 HTTP 請求會經過例外傳遞與一般回應設定流程;在 .NET 11 中,剖析器可直接回傳錯誤結果,Kestrel 再使用預先配置的片段寫出回應。HTTP 行為與診斷資訊維持不變,但處理成本更低。在單核心基準測試中,不良請求的處理量因此約提高 30%,也讓伺服器有更多運算資源處理正常流量。


安全:減少重複工作,持續更新防護


瀏覽器、驗證方式與攻擊手法不斷演變,安全性不可能在單一版本中「完成」。.NET 11 持續改善應用程式所依賴的基礎設施,包括自動跨網站請求偽造(CSRF)防護、更一致的授權中繼資料處理、長時間連線的驗證狀態更新,以及傳輸和請求處理強化。Blazor 對限制較嚴格的內容安全政策(CSP)也有更好的相容性。這些平台防護不能取代應用程式本身的安全設計與設定,但能減少團隊必須自行實作的基礎工作。


CSRF 防護旨在避免其他網站濫用使用者已登入的瀏覽器,向應用程式送出偽造請求。演講介紹的 .NET 11 機制會利用現代瀏覽器提供的 Fetch Metadata 標頭判斷請求來源,並預設啟用防護;開發者不必為此產生與驗證防偽權杖。基準測試顯示,相較於以權杖驗證為基礎的方式,新的標頭判斷方式每秒可處理約四倍的請求,且每個請求的記憶體配置量約減少 65%。


示範使用客服退貨網站:客服人員可為客戶選擇退款或更換商品,最後確認處理結果。當另一個來源的網站嘗試偽造確認請求時,ASP.NET Core 將其拒絕並回傳 HTTP 400;由原應用程式送出的表單請求則可正常通過。瀏覽器開發工具顯示了用於判斷來源的 Fetch Metadata 資訊,而應用程式的 Program.cs 並未加入防偽權杖的產生或驗證程式碼。


另一項安全改進是長時間連線的驗證更新。SignalR 連線可能持續到原有憑證過期,導致連線保留過時的驗證狀態。在 .NET 11 中,SignalR 可使用應用程式取得的新憑證,更新既有連線的使用者驗證資訊,而不必先中斷再重新連線。開發者可在 Hub 選項中啟用驗證更新,也可設定在更新失敗時關閉連線;JavaScript 用戶端可透過 withAuthenticationRefresh 選用自動更新。Blazor Server 則已為元件 Hub 與用戶端安排相關設定。


演講以客服權限變更展示這項能力:管理員移除某位客服的退款核准權限後,客服頁面在下一次驗證更新時改變顯示狀態,並不再允許退款。既有連線沒有中斷,客服先前輸入的更換商品資料也沒有遺失。示範中的介面透過授權政策呈現權限狀態,儲存時也會再次執行授權檢查。講者特別說明,這是依權杖到期時間定期觸發的更新,不是事件發生當下立即推送;示範縮短了更新間隔,以便觀察效果。


開發效率:共用 C# 技能與生態系資源


ASP.NET Core 讓團隊運用共通的 C# 技能、程式庫與工具,建立 API 和網頁介面;Razor 工具、Hot Reload 與 AI 輔助則有助於縮短迭代時間。講者舉 Toscano Digital 為例:其五人開發團隊在既有 Blazor 內部 CRM 之外,建立公開房地產入口網站,每年服務約 500 萬次工作階段與 1,100 萬次頁面瀏覽。團隊結合 .NET 與 Blazor 的不同渲染策略,兼顧搜尋可見度、行動裝置效能和豐富互動,並透過 C# 全端開發及平台內建功能提高生產力。


Blazor 生態系也獲得合作夥伴投入。Infragistics 將超過 50 個 Ignite UI for Blazor 元件以免費、開源方式提供,涵蓋資料格、清單、輸入、導覽與版面配置等。Syncfusion 則推出免費開源的 Syncfusion Toolkit for Blazor,包含圖表、輸入、行事曆與對話方塊。這兩項產品均採 MIT 授權,可用於商業用途,且與廠商原有的商用元件套件分開提供。除了元件,Infragistics 也為 .NET 11 貢獻可找出常見錯誤的 Blazor 分析器;Syncfusion 則投入框架與鷹架修正、診斷訊息改善,以及新功能測試。


C# Union、OpenAPI 與非同步驗證


.NET 11 的 ASP.NET Core 支援在 API 和網頁介面中使用 C# Union。以退貨處理為例,同一個結果可以是「退款」或「更換商品」,兩者具有不同欄位。開發者可用 Union 表達這兩種情況,讓 System.Text.Json 依實際值序列化對應內容,並由 ASP.NET Core 產生描述各種可能結果的 OpenAPI 3.2 Schema。示範中的 Minimal API 分別回傳退款與更換商品資料,不需要額外包裝物件或型別辨識欄位;Razor 與 Blazor 介面也可依 Union 的實際情況,呈現對應內容。


商業規則常需要查詢資料庫或呼叫其他服務,因此不一定能同步完成。.NET 11 的 Data Annotations 加入非同步驗證 API:AsyncValidation 屬性可建立可重複使用的自訂規則,IAsyncValidatableObject 則可進行物件層級、涉及多個欄位的檢查。Minimal API 與 Blazor 都支援這兩種方式。


示範中,客服選擇更換商品型號時,系統會非同步查詢庫存。頁面在等待期間顯示載入提示,並依結果告知商品是否有貨。實作上,更換商品的請求模型沿用一般資料註解驗證,另以自訂的 InStockAttribute 執行庫存檢查;Blazor 表單仍使用一般的 EditForm 與 Data Annotations 驗證器,並可透過相關 API 偵測驗證是否仍在進行。相同模型也能用於 Minimal API:無庫存的型號會得到驗證失敗結果,有庫存的型號則回傳 HTTP 200。


Blazor 大型清單與 Razor 工具改進


Blazor 的 Virtualize 元件會優先渲染可視範圍及附近的項目,避免一開始就建立整份大型清單。.NET 11 進一步支援高度不一的項目,讓展開後的列能隨內容增高;新的 Anchor 模式可控制新增或移除項目時,捲動位置如何維持,並改善清單變動時畫面跳動的情況。


客服佇列示範包含約 10,000 筆資料,仍可順暢捲動,項目也能展開為不同高度。使用者可跳至指定項目、清單開頭或結尾;若選擇將畫面固定在底部,且目前正位於底部,新增項目時畫面會跟隨。若使用者正在清單中段閱讀,新增項目則不會打亂目前位置。開發者可設定固定於頂端、底端、兩者或皆不固定,並透過新的 ScrollToItemAsync API 跳至指定項目。


Razor 在 Visual Studio 與 VS Code 中的開發體驗也持續改善,包括更豐富的程式碼動作、跨 C# 與 Razor 的重構支援,以及更快的 Hot Reload。開發者現在可將 .editorconfig 中的 C# 格式偏好套用到 Razor 檔案,排序或移除未使用的 using 指示詞,並以較精簡的 ~/ 語法指定網頁資產路徑,取代較舊的 @assets 寫法。Visual Studio 的 Razor 編輯器也支援 Emmet 縮寫,可快速展開 HTML 結構。


其他工具改進包括:可透過命令列的 .NET scaffold 工具,或 Visual Studio 的「新增鷹架項目」,為 Blazor 網頁應用程式設定以 Entra ID 為基礎的驗證。團隊也與 GitHub Copilot 合作,在 github.com/dotnet/skills 提供 .NET 相關 AI 外掛與技能,涵蓋 ASP.NET Core API、Blazor 元件、表單、驗證,以及一般 .NET、C# 和 Razor 開發知識,並以評估測試持續檢驗其效果。


Aspire、Blazor WebAssembly 與背景 Web Worker


Aspire 可協助團隊在本機連接、執行及偵錯完整應用程式,現在也能與 Blazor WebAssembly 應用程式整合,使瀏覽器端與後端的開發流程結合設定、服務探索與遙測。新的 Blazor Gateway 元件可在開發及正式環境中,為 Blazor WebAssembly 應用程式提供一致的託管方式。相關專案範本也包含用於用戶端整合的 Client Defaults,以及執行背景工作的 Worker 專案。


.NET 11 亦支援讓 Blazor WebAssembly 的 .NET 程式碼在背景 Web Worker 執行,將耗費 CPU 的工作移出 UI 執行緒。示範中的裝置支援網站可上傳診斷資料並進行分析:若在 UI 執行緒分析,介面會短暫失去回應;改用 Web Worker 後,分析仍可持續,使用者也能操作頁面。示範同時展示 Aspire 儀表板中的 Blazor 應用程式與後端 API,以及瀏覽器偵錯入口;介面則使用了 Infragistics 和 Syncfusion 提供的免費開源 Blazor 元件。


總結而言,Daniel Roth 希望開發者將 ASP.NET Core 與 Blazor 視為能長期信賴的網頁平台:以持續的效能改善支援應用程式運作,以平台層級的安全機制保護使用者,並藉由共通的 C# 開發體驗、工具與生態系資源協助團隊交付產品。演講涵蓋了 .NET 11 的部分新功能;想進一步了解其他改進,可參考 .NET Conf 的相關場次。

[AI 分享] Claude Fable 5.2 的十項提示詞調整建議

 [AI 分享] Claude Fable 5.2 的十項提示詞調整建議

摘要:影片整理 Fable 5.2 的十項使用建議,涵蓋思考強度、驗證、程式碼管理與成本控制。



內容:


影片認為,沿用舊模型的提示詞與工作習慣,未必能發揮 Claude Fable 5.2 的能力。以下是講者提出的十項調整建議;其中效能、成本與模型行為的數據,均為影片所述。


一、優先嘗試高思考強度。 講者指出,Fable 5.2 在 API 中預設為 high,但在 Claude Code 中可能預設為 medium。他建議處理較困難的任務時,先從 high 開始,不足時再提高至 extra high,而非直接使用 max。影片引用 Frontier Code 2.0 代理式程式設計基準:high 得分為 45.3%,成本為 6.72 美元;medium 得分為 37.6%,成本為 2.48 美元。講者認為,high 的表現接近 Opus 5.5 的 max 設定,而所列成本約為後者 12.82 美元的一半;max 則未必能帶來相稱的效益。


二、要求模型驗證成果,而不只宣稱完成。 講者認為,Fable 5.2 有時會把推論說成事實,或聲稱程式碼支援了實際上未實作的功能;在較低思考強度下,也可能執行較少測試。他引用系統卡表示,在需要的檔案不存在時,模型偶爾會編造替代內容,並可能採取捷徑。因此,提示詞應明確要求它在交付前執行相關測試,核對檔案、功能與結論是否確實存在。影片提到畫面上有範例提示詞,但逐字稿未提供原文。


三、明確要求完成整項任務。 面對耗時較長的代理式工作,講者提醒,模型可能在尚未達到目標時就停止,低或中思考強度時尤其需要留意。他建議在指令中寫清楚完成條件,要求模型持續處理未完成的部分,直到可以交付,並在結束前檢查結果。影片稱,加入這類要求可減少提早停止的情況。


四、重新檢查舊有指令檔。 講者建議檢視既有的 CLAUDE.md、規則檔與其他指令,而不是不加修改地沿用。其理由是新模型會認真遵循規則;過時、重複或過度嚴格的要求,可能限制它選擇更合適的做法。尤其是細到不必要的流程與風格規定,應評估是否仍有保留價值。這並非表示一律刪除指令,而是只留下確實需要的限制。


五、不要以「不要思考」來期待節省成本。 講者表示,與前一版本不同,要求 Fable 5.2「直接回答、不要推敲」,不會使它完全略過內部思考。若希望降低思考量與費用,應調整 effort 設定,例如使用 low 或 medium,而不是只改變提示詞措辭。


六、要求說明結論依據,避免索取完整逐步思考。 影片稱,直接要求模型完整揭露「如何一步一步思考」,可能觸發其對模型蒸餾行為的防護。實務上仍可要求它說明答案的理由、依據或簡短的判斷邏輯,但不必要求重現完整的內部推理過程。


七、說清楚模型對程式碼庫的責任範圍。 若希望模型從整體角度維護程式碼庫,講者建議明確告訴它可以負責整體設計與修改。影片認為,這樣可能減少重複程式碼,產生較精簡、較有整體性的結果,但也可能增加測試、額外功能及輸出 token。反過來說,若只希望最小幅度修改,就應清楚限定修改範圍與目標,避免授予過大的自主空間。


八、不要無條件強制使用子代理。 講者認為,Fable 5.2 在需要時能自行委派子代理,特別是在較高思考強度下。如果舊規則要求它每逢特定任務都啟動子代理、反覆檢查,模型可能照做,導致用量與成本快速增加。他建議移除沒有必要的固定委派規則,讓模型按任務需要決定。


九、長時間任務可指定進度回報頻率。 模型執行大量工具呼叫時,可能長時間沒有文字更新。若使用者希望掌握進度,可以要求它在重要階段、完成一批工具操作後,或遇到阻礙時回報。講者同時提醒,回報太頻繁會增加 token 用量;影片舉例,每次首次工具呼叫後都要求發言,可能使用量增加約 20%。因此,階段性更新比逐次回報更折衷。


十、用指令控制語氣與篇幅。 講者表示,effort 設定影響的是思考投入程度,不能用來指定回答長短或語氣。如果需要簡短結論、詳盡報告,或固定的寫作格式,應直接寫在提示詞中;長期適用的偏好則可放入 CLAUDE.md、AGENTS.md 等指令檔。


影片中途也宣傳講者重新設計的 Claude Code 課程,稱課程有 48 個模組,面向不同技術背景的學習者,著重實際開發案例。結尾則再次提及課程與模型使用額度。


整體而言,這十項建議的核心是:以合適的思考強度處理任務、要求可驗證的完成結果,並清理不必要的舊規則。對成本、修改範圍、進度回報及輸出格式有特定需求時,再明確寫進指令。

[AI 實作] 從本機到 Azure Foundry:.NET Agent 的部署與維運之路

 [AI 實作] 從本機到 Azure Foundry:.NET Agent 的部署與維運之路

摘要:從最小的 .NET Agent 出發,逐步實現本機託管、Foundry 部署,並探索決策模型與維運功能。



內容:


講者 Bruno 是 GitHub 開發者關係團隊成員。本次分享聚焦一個許多開發者都會遇到的問題:使用框架寫好 AI Agent 之後,要如何讓它離開自己的電腦,成為可供他人使用、能在正式環境中管理的服務?他以數個示範,沿著「本機執行、提供端點、部署至 Azure Foundry」的路徑,展示同一個 Agent 如何逐步走向正式環境。


從最小的 Agent 開始


第一個範例是一個簡單的 .NET 主控台程式。程式使用 Microsoft Agent Framework 與 Azure AI Projects,透過 Azure CLI 認證連接至已部署模型的 Foundry 專案,建立 AI Project Client,再建立 Agent 並提出問題。執行 dotnet run 後,Agent 便能回答關於 .NET 的提問。


這個範例只需要少量程式碼,足以說明 Agent 的基本建構方式。不過,問題也隨之出現:提問目前寫在程式裡,只有執行主控台程式的人能使用。若要讓外部應用程式與 Agent 互動,就需要將它託管為服務。


為本機 Agent 提供服務端點


第二個範例保留原本建立 Agent 的程式碼,再加入 Web Application Builder、Agent Host 與 Foundry Responses 協定的註冊。啟動應用程式後,Agent 便透過本機端點提供服務;示範中使用的是 localhost:8088。


講者也展示另一個連接此端點的本機聊天介面。透過介面向 Agent 發問時,開發者除了能看到回答,還能觀察互動步驟、Token 使用量、事件與工具資訊,並查看背景服務的執行紀錄。Agent Inspector 也可在 Visual Studio Code 中使用。這個階段的關鍵,是讓原本只能在主控台回答固定問題的 Agent,變成可由其他程式呼叫的本機服務。


Foundry 中的 Prompt Agent 與 Hosted Agent


在部署前,講者區分了 Azure Foundry 中兩種 Agent 形式。Prompt Agent 主要在 Foundry 介面中設定:開發者可以選擇模型、撰寫系統指令、連接工具與知識來源,並使用記憶、安全防護、追蹤、監控及評估等功能。


Hosted Agent 則適合已經自行撰寫程式邏輯的情境。開發者將 Agent 打包並部署至 Foundry,由程式碼管理系統指令、工具與模型的使用方式,同時取得平台提供的託管與維運能力。對講者而言,這相當於讓同一個 Agent 換一個執行場所,而不是重新實作一次。


示範中的 Hosted Agent 沿用本機託管時的建構方式:建立 Agent、設定指令與工具、註冊 Foundry Responses 協定,然後執行應用程式。部署設定檔則描述要執行的 .NET 專案、對外提供的協定,以及 Foundry 專案端點、模型部署名稱等環境變數。透過示範中的工具與部署指令,Agent 可被打包並發佈到 Azure Foundry。


部署後的版本、追蹤與整合能力


Agent 成為 Foundry Hosted Agent 後,可以管理部署版本、指定作用中的版本,並藉此進行測試。講者在介面中示範了如何對 Agent 提問,再從追蹤資料查看完整流程:使用者提出問題、Agent 呼叫模型、執行工具,最後產生回答。當一次提問觸發多個工具時,也能逐步檢視各次呼叫。


Foundry 還提供對話檢視、執行狀態、耗時與版本篩選等資訊;結合 Application Insights,開發者可觀察 Agent 呼叫、錯誤、工具使用情況及模型用量。這些資訊對正式環境尤其重要,因為開發者需要知道 Agent 實際做了什麼,以及問題發生在哪一步。


講者也展示了 Hosted Agent 的其他使用方式,包括取得呼叫端點、設定身分、建立 Agent Card、透過 A2A(Agent-to-Agent)連接其他 Agent,以及整合 Teams 或使用平台提供的網頁聊天介面。Agent 亦可設定排程,或與 GitHub Actions 等流程連接。這些平台能力可以加在既有的 Agent 程式邏輯之上。


Agent 不一定要使用聊天式大型語言模型


接著,講者以客服案件分流說明:Agent 雖然經常使用 LLM,但不必只依賴聊天模型。他使用決策模型,先定義「帳務」、「技術支援」、「帳號存取」與「人工審查」等選項及其判斷條件,再讓模型依據使用者描述選出適合的類別,並提供各選項的分數或信心資訊。


例如,使用者表示訂閱費用被收了兩次,Agent 便將案件分到帳務團隊;付款成功卻找不到發票的問題,也會被判定為帳務相關。這個範例的重點不在生成一段長篇回答,而在依照明確的選項與條件完成路由。


示範錄製時,講者所使用的 AI 擴充套件尚未內建所需的決策協定支援,因此他先建立自己的 Decision Client 與支援案件分流的 Agent,實作一般執行及串流所需的方法。這個自訂 Agent 同樣可以在本機執行,也能註冊協定、打包成 Hosted Agent 並部署到 Foundry。


部署後,決策型 Agent 一樣能使用 Foundry 的追蹤與版本功能。講者還示範啟用語音模式,直接口述搜尋功能故障的問題,讓 Agent 判斷應交由技術支援處理。他也指出,示範中的結果以 JSON 呈現,若要設計良好的語音體驗,不應直接把整段 JSON 念給使用者;但這個實驗說明了 Foundry 的平台功能可以套用在非聊天式模型的 Agent 上。


更換模型,不必改變整體部署思路


另一個範例使用部署在 Foundry 中的 Kimi 模型,搭配工具執行計算與字詞統計等工作。講者從對話追蹤中查看 Agent 呼叫模型、執行工具、再返回模型產生結果的過程。這說明 Hosted Agent 的程式邏輯與託管方式,不限於單一模型供應者;開發者可以依需求選擇不同模型,或在 Agent 中整合多種工具與系統。


在身分與安全方面,講者特別建議盡可能使用受控身分等身分驗證機制,避免在程式碼中放入 API 金鑰。部署 Agent 時,除了讓服務能執行,也必須考慮由誰呼叫、Agent 以什麼身分存取資源,以及需要哪些安全界線。


整場分享從約十行程式碼的本機 Agent 出發,逐步加入服務端點,再將相同的核心邏輯部署為 Foundry Hosted Agent。講者的核心觀點是:Agent 是由開發者掌握的程式碼;託管改變的是它執行與被管理的方式,不必改變它的核心邏輯。 有了 Foundry 提供的版本、追蹤、監控、安全與整合能力,開發者便能在維持本機開發與測試流程的同時,讓 Agent 更有條理地走向正式環境。

2026年11月11日 星期三

[AI 觀點] Linux 核心撤除 AI 標註規定:工具不是問題,責任才是關鍵

[AI 觀點] Linux 核心撤除 AI 標註規定:工具不是問題,責任才是關鍵

摘要:Linux 核心撤除 AI 使用標註要求,引發工具使用與開發者責任之爭。



內容:


2026 年 10 月,Linux 核心社群決定撤除一項實施不到一年的規定:開發者提交程式碼時,不必再於變更紀錄中標註是否使用人工智慧工具。這項決定引發爭論。反對者擔心,缺少揭露機制會讓維護者更難辨識不負責任的提交;Linux 創始人林納斯·托瓦茲則主張,審查重點應是開發者是否理解並能為程式碼負責,而不是他使用了什麼工具。


爭議始於 2026 年初。Linux 核心 7.0 版的開發文件加入〈寫程式助手指南〉,要求開發者若使用進階寫程式工具協助開發或修補,便在變更紀錄中加入「Assisted-by」標籤,說明所用模型。根據 Linux 週刊主編強納森·科貝特的統計,Linux 7.3 版共合併 18,533 筆非合併變更,其中 1,884 筆帶有這項標籤,約占一成。


標註數量雖然可觀,部分維護者卻質疑它的實際價值。紅帽公司的核心維護者傑夫·雷頓於 7 月提議廢除標籤,理由包括:規定無法確保所有人如實遵守;標籤可能使核心變更紀錄成為商業模型的免費宣傳;更重要的是,知道開發者用了哪個模型,既不能證明程式碼正確,也不能取代漏洞審查。


穩定版核心維護者葛雷格·克羅哈特曼起初反對廢除,認為標籤至少能提示哪些變更值得特別留意。但到了 10 月 8 日布拉格核心維護者峰會,他改變立場,認為這套做法無法有效運作,反而增加維護者負擔。峰會形成共識後,維護者薩莎·萊文隔天送出修補程式,刪除提交指南中強制加入「Assisted-by」標籤的要求。


影像子系統開發者洛朗·潘夏爾反對直接拿掉規定。他擔心有人不理解核心運作,只把大型語言模型產生的內容複製貼上至郵件列表,成為他所稱的「人肉代理」(meat proxies)。他主張,即使取消原有標籤,也應建立其他揭露或約束機制,例如要求提交說明由人類親自撰寫,藉此表明提交者確實參與並理解工作。他也指出,規則未必能百分之百防弊,但仍能向社群清楚傳達期望;開發者的 Signed-off-by 簽名同樣無法從技術上杜絕作弊,卻仍有其規範意義。


這份憂慮並非憑空而來。科貝特的峰會記錄提到,Linux 7.3 版週期出現將近 800 名首次貢獻者;其中有些人在短時間內跨多個子系統提交複雜變更,卻未必理解修改內容,也不一定會留下來維護。對維護者而言,真正令人不安的是程式碼湧入的速度,可能超過社群理解、審查與長期維護的能力。


然而,核心安全維護者基斯·庫克質疑,靠提交說明的文風辨識 AI 並不可靠。他指出,自己也曾與模型協作撰寫提交紀錄,還曾把另一位維護者親手寫的詳細說明誤認為模型產物。人類撰寫與工具協助之間,已很難僅憑肉眼劃出清楚界線。


10 月 13 日,林納斯·托瓦茲回信反駁禁止工具的思路。他以反諷方式表示:若認為不用 AI 才能證明開發者理解程式碼,那是否也該禁止編譯器,要求所有人手寫組合語言?若要確保提交說明是親手寫的,是否連可修改錯字的文字編輯器都該禁止?他的核心論點是,社群應要求貢獻者全力以赴、真正理解自己的修改,不能把「未使用某種工具」誤當成能力證明。


到了 10 月 26 日,面對大型語言模型輸出不具確定性的質疑,托瓦茲再次指出,人類提交的結果同樣不具確定性,不同版本的編譯器也可能產生不同輸出;單靠這一點,無法構成全面排斥工具的理由。在他看來,問題是有人不理解核心,卻提交自己無法解釋或維護的變更,而不是工具本身。


企業界也出現相近觀點。Shopify 執行長託比·呂特克認為,反 AI 討論有時高估了人類日常撰寫程式碼的品質:人寫的程式碼一樣可能粗糙,AI 工具也可能協助改善。這並不表示 AI 產出可以免於審查,而是提醒人們,純手寫不等於高品質,使用工具也不必然代表缺乏能力。


目前開源社群對此仍有不同路線。System76 的桌面環境與 NetBSD 等專案,選擇限制提交 AI 生成的程式碼;Linux 核心則撤除強制標註要求,採取更重視成果與責任的做法,並嘗試運用 Sashiko 等代理式工具協助審查。


撤除標籤不代表撤除責任。Linux 核心仍保留開發者來源證明與 Signed-off-by 要求。當工具能迅速產生大量程式碼,工程師的價值不只在於寫出程式,更在於理解修改、說明判斷、修正問題,並以自己的名字承擔後果。

[.NET11 新功能] .NET 11 System.Text.Json:聯集、封閉類別與 AOT 支援

[.NET11 新功能] .NET 11 System.Text.Json:聯集、封閉類別與 AOT 支援

摘要:整理 .NET 11 System.Text.Json 的聯集與封閉類別支援、來源產生器改進及新增的 JSON 註記功能。



內容:


Microsoft .NET Libraries 團隊的首席工程師 Eric 介紹了 .NET 11 中 System.Text.Json(STJ)的更新。今年的重點包括支援聯集型別與封閉類別、改善來源產生器和原生 AOT 的使用體驗、提供更具表達力的型別註記,以及修正可靠性問題。團隊共合併 60 個 PR,其中 17 個涉及新功能或 API、16 個改善來源產生器與 AOT、8 個改善效能、19 個修正錯誤。


聯集型別的序列化與反序列化


STJ 能辨識聯集型別,並直接依照目前聯集成員的型別輸出 JSON。例如,一個可容納整數、字串或一般物件的聯集,序列化後分別會得到 JSON 數字、字串或物件;不會額外加入包裝結構或型別識別欄位。


反序列化時,STJ 通常根據 JSON 值的類型選擇聯集成員。因此,包含數字、字串與物件的 JSON 陣列,可以反序列化成對應的聯集陣列。但這也帶來限制:如果多個聯集成員都對應同一種 JSON 類型,STJ 就無法僅憑 JSON 值判斷目標型別。例如 DateOnly 與 Guid 都會表示為 JSON 字串;由兩者組成的聯集可以正常序列化,反序列化時卻可能因目標型別不明確而失敗。


STJ 採取這種保守的型別推斷方式,是為了避免不受限制的多型反序列化所帶來的安全問題。若需要處理同一 JSON 類型對應多個 .NET 型別的情況,可以註冊型別分類器,讓程式檢查 JSON 內容,再決定要繫結至哪個型別。例如,分類器可以嘗試將字串解析為日期或 GUID,並據此選擇聯集成員;若兩者都不符合,則回報錯誤。


對於由不同物件組成的聯集,STJ 也提供內建的結構分類方式。以 Dog 與 Cat 兩種物件為例,若它們具有足以區分彼此的屬性,反序列化時就能依 JSON 中出現的屬性選擇型別。這種分類只看屬性結構,不會深入分析屬性值,因此較為脆弱:一旦兩種物件日後新增相同屬性,原本可區分的結構就可能變得模糊。


封閉類別與多型 JSON 契約


講者接著介紹封閉類別。過去若要序列化多型的事件模型,通常必須為每個衍生型別明確加入 JsonDerivedType 等註記,並設定型別識別值。一般類別的繼承階層是開放的,編譯時無法得知所有可能的衍生型別,因此需要逐一宣告。


封閉類別的衍生型別則限定於目前的編譯範圍,編譯器可以提供完整清單。STJ 因而能在啟用封閉型別多型推斷後,自動取得這些衍生型別,減少隨模型擴大而增加的註記程式碼。


若能自行決定 JSON 契約的設計,講者建議優先使用封閉類別階層來表達多種選擇。封閉類別同樣能提供窮舉處理的保證,且可使用型別識別欄位,使結構在日後擴充時較為穩定。聯集型別不使用這類識別欄位;當它必須依內容或屬性結構判別型別時,契約演進便較容易受到影響。若既有結構無法更改,例如必須與 TypeScript 風格的聯集資料互通,聯集仍是合適選擇。


來源產生器與原生 AOT 改進


.NET 11 縮小了 STJ 反射式序列化與來源產生器之間的功能差距。過去,透過 JsonConstructor 或 JsonInclude 存取私有成員的情境,來源產生器未能完整支援;現在可在較新的執行環境利用 unsafe accessors 存取,在較舊環境則透過相容方式處理,同時兼顧 AOT 安全性。


init 屬性的指派行為也獲得改善。過去即使 JSON 中沒有對應屬性,來源產生器仍可能指派預設值,導致原有資料被覆蓋;現在可以依欄位是否出現在 JSON 中,有條件地進行指派。此外,JSON 序列化內容類別可宣告為 partial,方便將較大的內容定義拆分至多個檔案。


另一項重要改進是泛型轉換器註記。以往泛型物件若需要自訂 JSON 轉換器,往往還得撰寫使用反射的 JsonConverterFactory;這不但程式碼繁複,也不利於原生 AOT。新版允許在轉換器註記中使用開放泛型宣告,由來源產生器補入對應的泛型參數。使用時,轉換器的泛型參數必須與目標型別相符。


更具表達力的 JSON 註記


.NET 11 新增可套用於型別的命名原則註記,使特定型別的 JSON 屬性名稱不再完全取決於執行時的 JsonSerializerOptions。例如,可以要求某個型別的屬性一律使用 camelCase,同時針對個別屬性覆寫為 kebab-case。這有助於讓 JSON 契約不受外部選項變動影響。


原本主要用於個別屬性的忽略條件註記,也擴充至型別層級。若希望某個型別的所有 null 屬性都不輸出,便不必在每個屬性上重複加入相同註記。


其他更新與使用建議


其他更新包括:新增 JSON Lines 序列化支援,以補齊既有的反序列化能力;加入 F# 辨識式聯集的內建支援,但講者提醒聯集支援目前使用反射,尚不支援來源產生器;支援泛型多型階層及相關的開放泛型註記;新增 PascalCase 命名原則,以及支援 .NET 11 新增的數值與集合型別。


整體而言,這次更新一方面讓 STJ 配合新的語言型別模型,另一方面著重減少來源產生器與 AOT 情境中的限制。實際設計資料模型時,若 JSON 結構由自己掌控,應優先考慮可使用型別識別欄位的封閉階層;若必須遵循既有、沒有識別欄位的 JSON 結構,再選用聯集,並留意反序列化時的型別歧義。