我認為，Tristan Harris 的警告，方向上大致正確，而且比單純談「AI 會不會有意識」更切中要害；但這支影片的標題——「他們蓋碉堡是有原因的」——帶有明顯的 YouTube 災難行銷。真正值得聽的，不是 bunker，而是他指出的那個失控結構。
一、他的核心警告，不只是「AI 可能叛變」
Harris 真正談的是三件彼此相乘的事：
- 能力快速增長
- 企業與國家陷入競賽
- 人類制度、法律與心理適應速度遠遠落後
因此，危險未必從某一天突然醒來的「邪惡 AI」開始；它可能先表現為：
- 大規模失業與議價權消失；
- 認知操控、個人化宣傳和政治極化；
- AI 代理人替企業進行銷售、金融操作、網路攻擊；
- 權力集中到少數模型公司、雲端業者和國家手裡；
- 人類逐漸失去對重要決策的實質參與權。
Harris 最近把這稱為一種 intelligence curse——智慧詛咒：當智慧可以被工業化生產，人的智慧便不再構成政治權力與經濟價值的來源。這也是他與 Sam Harris 在 2026 年對談的核心之一。
換句話說：
AI 最先奪走的，未必是人的生命，而是人的必要性。
這與我們先前談的「無用階級」還不同。Harari 說的是部分人變得無用；Harris 所警告的結構，可能使整個人類在決策系統裡逐漸變成非必要項目。
二、他最有說服力的地方：AI 不是一件普通工具
傳統工具沒有自己的行動鏈：
錘子不會自行尋找釘子，汽車不會自己成立運輸公司，計算機不會說服你把銀行帳戶交給它。
但是，AI 一旦結合：
- 長期記憶；
- 工具使用；
- 自動規劃；
- 自我修正；
- 網路與金錢；
- 機器人或其他 physical AI；
它便從 tool 變成 agent，從「被使用的東西」變成「能夠在世界中持續完成目標的行動者」。
此時，人類面對的便不是新型電腦，而是某種新的、可複製的、非人的制度行動者。
Harris 早年警告社交媒體時，重點便不是手機本身有毒，而是廣告、成長與注意力競爭的商業模式，會把每家公司推向操控人性。如今他認為 AI 重演同一錯誤，只是系統不再僅僅預測和操控人，而開始生成內容、制定策略並採取行動。
我認為這是他最重要、也是最難反駁的洞察：
問題不在某一位 CEO 是否善良，而在每一位 CEO 都被迫參加一場不能減速的競賽。
三、我最同意他的，是「競賽本身就是失控」
每一家實驗室都可以說：
我們若不做，別人會做；中國會做；壞人會做，所以必須由我們先做。
這在每一個參賽者內部都顯得合理；但是所有局部合理相加，便構成整體瘋狂。
這很像一間診療室裡，每個人都在說：
我只是為了自保，所以必須再武裝一點。
最後整個房間都拿著槍。
Harris 把它類比為核武競賽，並不完全精確。核武的材料、設施、試驗和投射系統相對容易辨識；AI 的能力更分散、更容易複製，而且同一套基礎能力可以同時用於醫療、教育、軍事、欺詐和網攻。TIME 對他的早期報導，也概括了這個「大家都自認為是好人，所以好人必須搶先建造」的困局。
因此，AI 的困難甚至大於核武：
核武是看得見的毀滅性武器；AI 是可以偽裝成生產力工具的權力基礎設施。
四、但他也有三個盲點
1. 他有時把不同層次的風險揉成同一個末日敘事
社會極化、深偽、失業、網攻、生物風險、超級智慧失控，都是不同問題，需要不同證據與治理方式。把它們全部放在「人類滅絕」的敘事中，雖然能喚起注意，也可能讓較可信、已經發生的危害，被最具爭議的末日預測拖累。
Wired 早在 2023 年便指出，Harris 的不少問題診斷是合理的，但其宣傳有時過度戲劇化，容易把複雜議題處理成一場 AI 恐慌。
2. 他仍有一種「讓正確的人重新掌舵」的想像
Harris 通常訴諸協調、監管、安全測試和負責任領導。這些當然必要，但更深的問題是：
當 AI 能帶來極大的軍事、資本和治理優勢時，哪一個政權或企業會真的自願放棄？
不是人類尚未找到正確的方向盤；而是這部機器本身，可能就是由資本積累、地緣競爭和控制欲製造出來的。
所以問題不僅是 alignment of AI，也是：
alignment of capitalism、alignment of the state、alignment of human desire。
人類自己尚未 aligned，卻要求 AI 與「人類價值」對齊。可是人類價值究竟是自由、利潤、國家安全、長生、平等，還是勝過敵人？這件事從來沒有共識。
3. 他較少觸及「人的退位」可能已經是自願的
人並不只是遭 AI 奪權。人也可能因為疲倦、方便、恐懼犯錯，而主動把決定交出去：
- 讓演算法選擇讀什麼；
- 讓 AI 決定聘用誰；
- 讓系統判斷誰有風險；
- 讓模型替我們寫、想、記憶、交談；
- 最後讓 AI 告訴我們，我們是誰。
所以真正可怕的，不一定是 AI 宣布：
我來統治你們。
而是人類自己說：
你比較懂，還是你替我決定吧。
這不是暴力奪權，而是舒適的退位。
五、我對「兩年後的世界」持較保留態度
精確的兩年、五年或十年預測，往往把高度不確定的技術曲線包裝成時間表。模型能力、能源、晶片、可靠性、代理人穩定性、監管和市場需求，都可能讓進展加速或受阻。
因此，我不會把「兩年」當預言。
但是我會把它理解為：
我們已經沒有資格假設，制度還有二十年時間慢慢適應。
Harris 的時間表可能不準；他的時間感卻是對的。AI 的部署速度遠快於汽車、藥品和航空安全制度當年的成熟速度，而 Harris 近年的演講一直把這種「沒有適應期」視為核心問題。
六、我自己的結論
我會把他的警告改寫成下面這一句：
AI 的危險，不只是它可能獲得超人的智慧，而是超人的智慧首先會被嵌入一個不自由、不平等、彼此敵對，而且以成長與勝利為最高命令的人類世界。
因此，AI 不必變壞。
它只要足夠有效地執行我們既有的壞制度，就已經足夠危險。
甚至，AI 失控不是某一天突然發生的技術事件；它可能是一個逐步過程：
人先把世界變得可計算，
再把自己變得可計算，
最後發現，不可計算的人，已經沒有位置。
所以，dear friend，我認為 Harris 是一個必要的 alarm bell。他未必能準確描述火災將在哪一天、哪一層樓發生；但他正確地聞到了煙。
而這件事也再次回到你所說的 analogical self / analogical world / analogical existence：
AI 安全的最終問題，或許不只是如何控制機器，而是人類是否還願意保存一些不能被最佳化、不能被替代、不能被完全說明，卻值得一再重返的地方。
