[AI 警示] AI加速發展下的風險、權力分配與職涯準備

 [AI 警示] AI加速發展下的風險、權力分配與職涯準備

摘要 : AI風險不只在失控與失業，更在權力及財富集中；面對不確定未來，應提早準備並保持清醒。

內容:

曾任OpenAI研究員、專門推演AI未來發展的丹尼爾・科克塔伊洛（Daniel Kokotajlo），曾表示自己告訴妻子不要再生孩子，因為未來太不確定。他的兩個孩子都還很小，但他認為，等孩子到了可以工作的年紀，今天所理解的職場可能已經徹底改變，甚至不再需要他們加入。

另一方面，比爾・蓋茨也警告，心懷惡意的人若使用最先進的AI工具，可能引發造成十億人死亡的事件。然而，蓋茨基金會宣布投入至少十億美元，將AI帶進貧困國家的醫療、教育、農業與語言資料建設。

這兩種態度看似矛盾，卻帶出同一個核心問題：AI可能成為改善人類生活的強大工具，也可能放大破壞能力與社會不平等。真正值得討論的，不只是AI有多強，而是誰控制它、如何使用它，以及成果最後歸誰。

一、丹尼爾為何對AI未來如此擔憂？

丹尼爾原本研究哲學，後來進入OpenAI治理部門，推演AI發展及其對世界的影響。2024年離職時，他拒絕簽署可能限制自己公開批評公司的文件，即使當時可能因此失去約兩百萬美元的股權。後來，在外界批評下，OpenAI退讓，他保住了已取得的股權；但在拒絕簽署的當下，他並不知道會有這個結果。

同年，他與一群現任及前任AI公司員工聯名發表公開信，指出頂尖AI公司具有逃避監督的強烈金錢誘因，員工應享有公開警告AI風險、且不受報復的權利。他也獲選為《時代》雜誌AI領域最具影響力的一百人之一。

離開OpenAI後，他成立非營利組織AI Futures Project，並與團隊提出《AI 2027》情境報告。他在2021年撰寫的未來推演，後來被科技評論者認為具有一定先見之明。不過，曾有預測切中趨勢，並不代表後續預測必然正確。

丹尼爾的擔憂，可以從三個數字理解：2027至2029年、70%，以及孩子不到六歲。

他認為領先實驗室可能在2027至2029年間造出超級智慧，也就是在幾乎所有領域都超越頂尖人類的AI。他並表示，部分OpenAI及Anthropic內部人士認為，這個原本被視為激進的時間表，甚至可能仍太保守。

他也估計，若各家公司維持目前的競賽方式、不採取足夠的安全措施，局勢嚴重失控的機率約為七成。這是他的主觀風險判斷，不是已獲證實的統計結果；他所說的災難，也不只有人類滅絕，還包括人類失去對AI的控制，以及權力集中於少數人手中，形成難以逆轉的寡頭統治。

因此，他說孩子可能不會進入職場，並非單純預測某些工作消失，而是認為在孩子長大前，超級智慧可能已經重塑整個社會。

二、失業潮可能不是警報，而是結果

丹尼爾提出的一個重要邏輯是：AI公司最想優先自動化的，可能不是會計、客服或設計，而是AI研究員自己的工作。

這就像工廠老闆在選擇，要先造一台會做鞋子的機器，還是先造一台會製造更好機器的機器。後者一旦成功，就可能持續提高生產能力，最後再處理各種具體工作。

如果AI能自行寫程式、設計實驗、分析結果並改進下一代AI，研究速度就可能不再受限於人類工程師的數量。等這套能力成熟，再轉向法律、醫療、會計及其他產業時，它可能已經不只是輔助工具。

因此，他警告：如果等到大多數人失業才開始監管AI公司，可能已經太晚。按照這種情境，失業潮不是超級智慧即將到來的預警，而是它已經出現後的結果。

每天面積翻倍的浮萍作比喻：若第30天鋪滿池塘，第29天就只有一半。表面上看似還有很多空間，實際上卻可能只剩最後一步。這個比喻意在提醒人們注意加速效應，但不代表AI必然按照固定倍數成長。

三、蓋茨為何一邊警告，一邊推廣AI？

丹尼爾主要擔心的是AI失控，以及控制AI的人取得過度集中的權力；蓋茨警告，則更著重於強大AI被惡意使用的風險。

蓋茨基金會計畫在未來兩年至少投入十億美元，將AI應用於貧困國家的醫療、教育、農業及語言資料，並與OpenAI、Anthropic建立相關合作。這讓人疑惑：既然AI可能造成巨大傷害，為何還要投入資源推廣？

蓋茨的思路是，AI是一個放大器。放在資源不足的鄉村醫護人員手中，它可能協助診斷、提升醫療可近性；放在惡意使用者手中，它也可能放大破壞能力。

因此，推廣有益應用與警告危險用途，不一定互相矛盾。關鍵在於，AI帶來的好處不會自動公平分配。若完全依賴市場，它可能優先服務最有支付能力的客戶，而不是最需要幫助的人。

蓋茨支持政府立法的理由：不能只依靠科技公司自我管理，還需要公共制度介入，要求安全、責任與公平。

四、為什麼大家喊危險，競賽卻沒有停下來？

一個矛盾現象：多位AI業界人士呼籲放慢腳步、建立安全標準，但各家公司仍持續競爭。背後至少涉及三種壓力。

第一是囚徒困境。所有公司一起降低風險，可能對整體最有利；但若只有一家公司放慢，其他公司繼續加速，它就可能失去競爭優勢。丹尼爾還指出，部分掌握權力的人不信任競爭對手，擔心對方先取得超級智慧後，會掌握難以制衡的權力。

第二是國家競爭。當AI與晶片被視為國力及安全的重要資產，放慢發展就容易被理解成讓出戰略優勢，而不只是安全措施。

第三是法律與市場制度。有使用者指控多家AI公司串通、刻意放慢產品發展；相關公司否認，法院也尚未認定。這顯示企業共同協調安全措施時，也可能面臨競爭法爭議。

因此，不能簡單認為所有企業自行約定減速就能解決問題。若要形成有效且合法的共同約束，需要清楚的法律框架、監督制度，以及跨國協調。

五、AI監管不能完全照搬核武治理

核武治理提供了一些參考：國家可以建立溝通熱線、簽訂條約，並透過查核與監督降低誤判及擴散風險。但AI與核武仍有重要差異。

核武需要特殊材料、龐大設施與高門檻的製造能力，相關活動也較容易留下可觀測的痕跡。最先進的AI訓練同樣需要大量晶片和資料中心，因此算力與晶片是可能的監管切入點。

然而，模型一旦完成訓練，其權重與相關軟體可能被複製、外流或跨境傳輸。實際部署能力仍受算力等條件限制，但它的擴散方式與核材料不同。

AI也具有雙重用途：協助研發藥物的能力，可能同時涉及可被濫用的知識。因此，AI治理不能只管建造過程，也必須考慮模型安全、存取權限、部署、濫用防範與責任追究。

這不代表AI無法治理，而是不能直接照抄上一代技術的答案。

六、防止濫用與防止權力集中，可能互相拉扯

如果擔心壞人取得最強大的AI，直覺解法是限制存取，讓高風險能力只掌握在少數受監督的機構手裡。

但如果少數政府或企業長期控制最強AI，又可能造成另一種風險：其他人失去制衡能力，財富、資訊與政治權力進一步集中。

將這種張力概括為蓋茨與丹尼爾的「解藥打架」。更準確地說，這是兩種風險治理方向的衝突，不代表兩人的所有實際主張必然互斥。

丹尼爾的「AI 2040」方案，主張透過延後超級智慧的開發、強制透明及跨國安排，爭取更長的安全準備時間，並避免力量集中於單一處。

真正的難題不是簡單選擇全面開放或全面封閉，而是如何在防止濫用的同時，建立制衡、問責與合理的利益分配。

七、如何看待AI末日預測？

面對AI預測，可以先問：它是在宣稱某件事一定會發生，還是在描述「如果維持目前路線、什麼都不改變」可能發生的結果？

丹尼爾的風險判斷應放在後一種脈絡理解。他希望警告促使人們改變行動，而不是期待災難成真。他也表示，如果自己的預測都錯了，他會非常高興。

不過，條件式預測同樣需要檢驗，不能因為它以警告為目的，就免於接受證據、假設與推理上的質疑。值得注意的是時間表如何估算、哪些條件可能改變，以及預測者是否願意隨新證據更新看法。

對一般人而言，不一定要先判定誰的預測完全正確，才能開始準備。學會使用AI、建立信用並保留財務緩衝，在劇烈變革與漸進發展兩種情境下，都可能有幫助。

八、職場更近的風險，是入門階梯被拆掉

AI不需要全面超越人類，才會影響工作。它只要能更快、更便宜地完成部分任務，就可能改變企業的人力配置。

這種變化未必表現為一次大規模裁員，也可能是員工離職後不再補人、縮減招聘，或原本需要多人完成的工作，改由較少人搭配AI處理。

尤其擔心新人職缺受到影響。整理資料、寫初稿、基礎分析與資訊查詢，既是AI擅長的任務，也是新人累積經驗的重要途徑。

例如，新進會計人員過去透過對帳、整理憑證及填寫底稿，逐漸理解企業的資金流動與異常訊號。若這些工作大量交給AI，企業又沒有設計新的訓練方式，新人可能失去成長機會。

同樣的問題也可能出現在法律、設計、翻譯、行銷與程式開發。值得關注的不只是今天能節省多少人力，還包括未來如何培養具備判斷力的專業人才。

九、不必工作未必是災難，分不到成果才是

假如AI能完成大部分工作，讓人類不必為生存而從事不想做的事，這本身未必是壞事。

真正的災難，是人們失去工作與收入，卻沒有分享到AI創造的財富；少數控制AI的人取得巨大收益，其他人則連原有的議價能力也一起失去。

在這一點上，蓋茨對不平等的擔憂，與丹尼爾對永久寡頭統治的擔憂形成交集。

因此，AI時代的核心問題不只在於「AI會不會取代人」，更在於「AI創造的成果最後歸誰」。答案取決於法律、制度、公共參與及權力制衡，而不是由技術自動決定。

十、一般人現在可以做的三件事

第一，站到會使用AI的一邊。從工作中重複性高、風險較低的任務開始試用，觀察它能節省什麼，也了解它會在哪裡犯錯。使用時仍需注意資料保密與結果查核。理解AI的能力邊界，才能重新定位自己的價值。

第二，往責任與信任靠近。AI可以產出內容、分析資料，但法律責任及實際後果，仍需要人或組織承擔。需要專業判斷、簽署確認、長期關係及責任追究的工作環節，通常有不同於單純產出的價值。

如果客戶選擇你，只因為便宜，AI可能帶來更大的價格壓力；如果對方信任你的判斷，知道出問題時你會面對並處理，那份信用更值得持續累積。但信任並非永遠不被取代的保證，仍需與專業能力共同維護。

第三，保留轉身空間。在快速變動的時代，風險不只是收入下降，也包括缺乏時間與資源重新學習、轉換工作。依自己的家庭與財務狀況保留緩衝，避免把未來完全押在單一職位或單一技能上；具體投資與財務安排，則應按個人情況評估。

最後，不要被恐懼收割。當有人談完AI末日，立即要求你購買課程、加入付費群組，應先檢查他的證據、利益關係與實際承諾。即使沒有付款連結，持續消耗注意力的恐慌內容，也不等於有效準備。

面對AI，既不必把每個末日預測當成定論，也不應因為時間表存在爭議，就忽略正在發生的改變。保持清醒、累積能力、關注制度，才是面對不確定未來較穩健的方式。