[AI 反思] AI技術與未來敘事：從自動駕駛到2030年滅絕風險

 [AI 反思] AI技術與未來敘事：從自動駕駛到2030年滅絕風險

摘要 : AI進步不等於全面可靠，從自動駕駛到滅絕警告，應檢視技術與敘事之間被跳過的步驟。

內容:

四年以後，AI可能毀滅人類？以Anthropic近期公開的風險警告，以及其報告中涉及中國相關行為者使用Claude進行軍事研發、電子戰與反魚雷系統研究的案例，提出一個問題：我們是否已經從討論AI取代程式設計師，迅速跳到了討論2030年人類是否還存在？

但比起直接判斷AI有多強，更值得回頭檢視的是：過去十年，技術實際走到了哪裡，而我們對未來的故事又跑到了哪裡？AI現在真正失控的，可能不只是技術，也包括不斷加速的敘事。

自動駕駛的教訓：技術方向可能正確，時間表卻可能錯十年

2016年，馬斯克曾公開提出，希望在2017年底，讓一輛特斯拉從洛杉磯一路自主開到紐約，全程不需要人碰方向盤。然而，十年後特斯拉官網仍將相關功能稱為「Full Self-Driving（Supervised）」，也就是需要駕駛監督的全自動輔助駕駛；駕駛必須保持注意力，隨時準備接管，車輛並非完全自動駕駛車輛。

這不代表自動駕駛失敗。Waymo已經證明，在限定城市與區域，經過大量地圖建置、測試及營運準備後，沒有安全員的Robotaxi可以運作。過去十年的進步確實巨大，問題在於，我們嚴重低估了全面可靠所需的時間。

讓汽車「會開」，與讓汽車「在幾乎所有情況下都能可靠地自己開」，是兩個不同問題。從零做到九十分可能很快，但從九十分走向99%、99.9%，甚至更高可靠度，直到人們願意放心把家人交給車輛，最後這段路可能比前面更加困難。

人形機器人：上一層尚未全面解決，下一層的時間表卻更快

自動駕駛尚未全面落地，人形機器人的故事已經接棒。工廠機器人、家庭機器人與Optimus，都指向一個充滿吸引力的未來：機器人可以承擔大量人類工作。

這些願景並非不可能，但關鍵仍是何時能夠實現。長期看好Tesla與機器人產業的ARK研究，指出其模型估算，真正通用的人形機器人所面對的綜合複雜度，可能是Robotaxi的二十萬倍。這不是物理定律，而是模型估算，但它提醒我們，兩者面對的問題規模並不相同。

汽車主要控制方向、油門與煞車，運作於複雜但規則相對明確的道路系統。通用機器人則必須處理多個關節、平衡、抓取、力量控制、物體辨識與人類互動，並適應樓梯、廚房、玻璃杯、寵物、小孩、工廠及醫院等高度非結構化環境。

Robotaxi發展十多年，真正無人運行至今仍受區域與場景限制；與此同時，產業卻已開始討論十億台機器人進入現實世界。值得追問的是：上一層問題真的解決了嗎？如果沒有，為什麼下一層的時間表反而如此樂觀？

太空資料中心：未來故事持續跑在現實兌現之前

機器人還沒有普遍進入家庭，下一個宏大願景又出現了：把AI資料中心搬到太空。

SpaceX相關材料已納入軌道AI運算構想，規劃最快從2028年開始部署軌道AI運算衛星，長期甚至希望每年將100GW級別的AI運算能力送入軌道；相關長期股權獎勵目標，也涉及建立大規模非地球資料中心。

如果Starship確實能大幅降低發射成本，軌道運算未來可能具備自身的經濟邏輯。因此，問題不是武斷認定這些構想做不到，而是：為什麼從汽車自主駕駛、機器人替人工作、Agent管理工作，到資料中心離開地球，故事總是不斷向前推進，卻很少等待上一個承諾充分兌現？

Agent的現實考驗：能做很多事，不等於每天都能放心交付

相較於宏大的太空願景，OpenClaw熱潮提供了一個更貼近日常的觀察案例。中國網路一度流行「養龍蝦」，學生、程式設計師、上班族，甚至退休人士，都開始研究如何使用Agent。

它背後的想像非常誘人：每個人都能擁有數個AI助手，分別處理郵件、查資料、訂機票、寫程式與管理行程，甚至由一個人加上一群Agent經營公司。

Agent的能力確實持續增強，OpenClaw也沒有消失。幾個月後，媒體開始討論熱度消退，原因包括Token成本、使用門檻、安全問題與配置複雜。更重要的是，普通使用者逐漸發現：「知道它可以做很多事」，與「每天都能穩定把工作交給它」，完全不是同一回事。

AI討論最容易混淆的，正是「能做到」與「能長期、穩定、低成本地做到」。

程式設計師的工作：完成任務，不等於承擔職業

AI如今已能快速寫頁面、修復錯誤與搭建程式，但程式設計師的工作並不只是產出第一版程式碼。

真實軟體系統需要持續升級與維護，還必須面對需求變更、API調整、監管要求及安全漏洞。真正重要的，往往不是誰最快寫出第一版，而是系統出問題之後，誰能理解原因並持續維護。

這就是Task與Job的差別。AI可以完成許多個別任務，但一份職業還包含長期上下文、判斷、維護，以及責任。

因此，宣稱AI能完成相當於人類數小時、甚至數天工作量的測試，不能直接解讀為AI已能獨立擔任數天的程式設計師。在基準測試中，50%的成功率可能代表突破；在生產環境中，同樣的成功率卻可能意味著事故。

真正的問題不是AI會不會寫程式碼，而是我們是否敢把真實系統長期交給它負責。

軍事應用報告：使用AI，不等於AI已掌握核心系統

回到Anthropic的報告，其中確實描述了中國相關行為者使用Claude參與反魚雷系統方案、電子戰軟體開發，以及多輪模擬與程式碼迭代的案例。AI被用於軍事研發、情報分析及軟體開發，值得認真關注。

然而，這些案例究竟能證明到什麼程度，仍須區分。Anthropic也承認，部分案例無法確認具體身分，一些分析使用的是公開資訊；電子戰案例中的使用者，也擁有部署在內部網路的模型。

因此，「軍工相關人員正在使用Claude」，與「Claude已進入中國最核心的軍事系統」，不是同一件事。媒體標題若抹去這些差異，就容易讓讀者形成「連軍方都已離不開AI」的印象，再進一步接受「既然今天已經如此強大，四年後就可能毀滅人類」的推論。

真正值得質疑的，是這些推論之間被跳過的步驟。

面對2030年風險，應追問中間條件，而非只接受結局

這並不是否認超級智慧可能帶來重大風險。它最終會造成什麼影響，今天沒有人能完全確定。但嚴謹的討論應該追問：從今天的AI能力走到毀滅性結果，中間究竟還需要跨越哪些門檻？

首先，AI必須從能完成許多複雜任務，進一步變成能長期、穩定地完成這些任務。其次，它必須從依賴人類提供目標、資料與回饋，走向長期自主行動。接著，還要具備自主規劃與獲取資源的能力。

討論AI未來，不應只在「全部都是騙局」與「即將毀滅人類」之間選邊站。更重要的是區分已被證明的能力、尚未解決的可靠性問題，以及仍屬推測的未來情境，避免讓敘事的速度取代對技術現實的判斷。