[AI 警示] 馬斯克的AI失控論與無法停止的競賽
摘要 : 馬斯克一面警告AI失控，一面加速入局，揭示產業難以踩下煞車的囚徒困境。
內容:
據科技媒體《The Information》爆料，SpaceX 以600億美元收購AI程式設計工具公司Cursor。馬斯克隨後在全員會議中表示，AI模型終有一天會先進到人類無法控制，既然失控難以避免，SpaceX就必須趕在其他公司之前造出來。
這套說法引發一個矛盾：如果AI失控意味著它可能控制甚至毀滅人類，那麼搶先創造它的意義是什麼？相較於OpenAI、Anthropic等公司強調「AI有風險，因此必須謹慎、安全地開發」，馬斯克的說法更接近競賽邏輯——既然無法阻止，就要由自己率先抵達終點、取得規則制定權。
回顧馬斯克過去對AI的態度，這種矛盾長期存在。2014年，他將研發AI形容為「召喚惡魔」，並稱其為人類最大的生存威脅。2015年，他參與創辦OpenAI，希望避免最強AI被Google等單一企業壟斷；2018年，他退出OpenAI。
2023年3月，馬斯克簽署公開信，呼籲全球實驗室暫停訓練更強大的AI模型六個月。然而僅四個月後，他便成立xAI。公開信雖有三萬多人簽署，卻沒有主要實驗室真正停下研發，呈現出典型的囚徒困境：所有人都認為AI有危險，卻沒有人敢率先停止，因為先停下來的一方幾乎確定會在競爭中出局。
馬斯克曾估計，AI造成災難性後果的風險約為10%至20%；五年內，AI智慧可能超過全人類的總和，十年內人類或將失去控制權。但他同時認為，AI是實現物質極大豐富、釋放龐大生產力的必經之路。即使存在風險，其潛在收益仍值得投入。
國際競爭也讓AI更難停下。算力高度依賴電力，而各國在能源、晶片及模型能力上持續角力。若美國停止研發、其他國家卻繼續前進，結果可能不是更加安全，而是由另一個國家率先取得優勢。因此，AI競賽的煞車不斷被安全、經濟與國家競爭等理由拆除。
馬斯克的公開說法也曾出現前後不一。在與OpenAI執行長奧特曼相關的訴訟中，他宣誓作證時表示，特斯拉沒有追求通用人工智慧的具體計畫；但在此之前，他又曾發文稱，特斯拉可能成為率先創造通用人工智慧，甚至人形版本AGI的公司之一。這可能反映立場矛盾，也可能是其規畫快速變化。
對馬斯克而言，「警告AI」與「親自投入AI」或許並不衝突。他可能相信，既然競賽無法停止，誰先創造出強大AI，誰就能制定規則；即使AI終將失控，由自己主導也可能建立較好的規範，或至少延緩失控。
這並非馬斯克一人的邏輯。OpenAI、Anthropic、Google及各國政府，都傾向相信自己才是更安全、更負責任的開發者。因為不信任競爭者，卻對自身能力過度有信心，各方反而全力加速，最終使AI競賽本身走向失控。
馬斯克也經常提出非常激進的時間預測。他將2026年形容為AI的「奇點之年」，並預測通用人工智慧可能在近期實現、2030年前後超越全人類。然而，這類預測未必適合直接當作個人決策的時間表。
例如，若學生因相信白領工作即將全面消失而放棄升學，外科醫生因聽信短期內會被機器人取代而轉行，或投資者因AI前景而過度集中投資，都可能承擔重大損失。AI的發展方向值得參考，但預測中的「三年、五年、十年」往往可能延後，甚至出現數倍誤差。
尤其外科手術涉及極高精度、複雜判斷與責任問題，機器人的模式識別能力最終或許能超過人類，但從技術成熟到大規模臨床應用，仍可能需要很長時間。對普通人而言，更合理的做法是重視趨勢，而不是把科技領袖給出的日期視為確定日程。
至於SpaceX收購Cursor的價值，主要可能來自兩項資產。第一是入口：大量程式設計師將Cursor作為日常工作工具，掌握入口就能影響整個開發流程。第二是資料：使用者如何修改、刪除程式碼，在哪裡受阻，以及哪些提示詞最終被採用，都是訓練下一代程式設計AI的重要資料。
不過，Cursor本身並未掌握基礎大模型，其競爭力主要來自使用者規模、產品體驗、工作流程及模型整合能力。若其他程式設計工具能完整取代其功能，導致使用者快速流失，那麼600億美元的收購價格便可能過高；反之，若它能持續掌握大量使用者與程式設計入口，其戰略價值仍然可觀。相關交易與金額仍應以公司公告及可靠資料為準。
對普通人來說，我們既是AI競賽的旁觀者，也是競賽結果的承受者。科技巨頭押注的是歷史地位與企業市值，一家公司失敗後還可能有下一家公司；普通人押上的卻是工作、家庭、孩子的前途與自己的人生。
因此，不應盲目相信任何一位競賽參與者的預言，也不要完全依照他們給出的時間線安排人生。更實際的做法，是假設AI競賽不會有人主動踩下煞車，在此前提下持續學習新工具、提升判斷能力、保留職涯彈性，並做好財務與生活上的風險準備。
AI帶來的未來可能非常黑暗，也可能極度繁榮，但可以確定的是，轉變過程很可能充滿動盪。看清競賽規則、避免迷信預言並提前準備，並不是悲觀，而是清醒。
沒有留言:
張貼留言