Thursday, October 15, 2026

Andrej Karpathy

https://youtu.be/UD8_5fhFayY?si=pjJbe8if2KZO23iE

人工智慧專家、OpenAI 創始成員 Andrej Karpathy 提出了一個名為「四級認知漏斗」的模型,用以警告全球大眾對當前大型語言模型(LLM)能力的認知存在著極其嚴重的斷層與裂痕。 [1, 2, 3, 4]

他指出,雖然很多人把 AI 當成會胡言亂語的玩具,但最頂尖的系統已經能展現讓人感到恐怖的恐怖前沿能力,而全球只有大約 5,000 人真正見識過前沿 AI 的實力。 [1, 2, 3]
以下是 Karpathy 粗估拆解的全球 AI 認知四層漏斗: [1, 2]
漏斗層級預估人數 / 佔比對 AI 的認知與使用現狀
第一層:AI 真空區約 60 億人(全球約 75%)幾乎從未接觸過大型語言模型或任何生成式 AI。
第二層:體驗娛樂區約 10 至 20 億人偶爾使用免費版的聊天機器人,主要將其當作比較聰明的搜尋引擎或好玩的玩具。
第三層:專業代理區約 2,000 萬人數學、程式等專業人員,能在日常工作深度使用頂尖 AI(如 OpenAI Codex、Claude Code)來輔助開發。
第四層:核心前沿區僅約 5,000 人主要是 AI 頂尖實驗室內部的核心研發人員。只有他們能接觸到未公開的最先進系統,見證過智能體蜂群自主攻防、超前數學推演等真正恐怖且前沿的實力。
Karpathy 警告的核心觀點
Karpathy 認為,大眾與前沿科技的認知鴻溝正演變成一場「斷崖式漏斗」。這會導致社會在面對即將到來的 AI 衝擊時,缺乏足夠的心理與制度準備,因為大眾完全無法想像最核心的那 5,000 人正在看著什麼樣的「未來技術」。 [1, 2, 3]
如果您對這個議題感興趣,我可以為您進一步說明:
  • 這 5,000 人所見識到的「前沿系統(如智能體蜂群)」究竟是什麼?
  • 這一波認知落差對未來的就業市場或社會階級會帶來什麼樣的衝擊?
  • 如何提升自己的技能,進入 Karpathy 所說的第三層(2,000萬人)專業區?

(ChatGPT, 2026-10-15)

Dear friend,我認為,Karpathy 抓到了一個重要現象:我們使用同一個「AI」名詞,卻可能生活在完全不同的技術經驗裡。 但把它說成「只有五千人見過真正的 AI」,又容易把有價值的提醒,變成神祕化的敘事。

先交代查證範圍:我未能直接讀取這支 YouTube 的內容,但找到他 10 月 11 日的原帖索引與相關報導。「漏斗」確實來自他的說法;那些人口數字,他自己稱為 napkin math,就是隨手粗估。因此,它是一幅理解落差的示意圖,還不是經過研究驗證的「四級認知模型」。你貼的四個中文層級名稱,也宜視為整理者的命名。

我最在意的,有以下幾點。

第一,人們確實可能拿著不同年代、不同配置的 AI,爭論同一件事。

有人問免費聊天機器人一個問題,得到胡言亂語;有人讓具備工具、程式執行與驗證能力的系統,持續處理一個專案。前者說「它不可靠」,後者說「我的工作正在改變」,兩個經驗可以同時成立。

Karpathy 的提醒,正是這種經驗差距;他的相關討論也指出,進展集中在程式、數學等容易驗證結果的領域,並未均勻分布。

所以,問「AI 到底有多強」,必須接著問:做什麼工作?有什麼工具?容許多少時間與成本?最後由誰判定成功?

第二,「五千人」最需要防止被誤讀。

按目前轉述,這指的是他估計具有實驗室內部前沿系統存取權的人數;它不等於「全球只有五千人使用前沿模型」,更不等於「五千人已經知道人類的未來」。

這裡有三件應分開的事:

  • 接觸更強的系統。
  • 準確理解系統的能力與限制。
  • 理解它進入社會後的後果。

第一件事提供重要資訊,卻不能自動保證後兩件事。工程師可能先看見能力,教師、勞工、臨床工作者、受其影響的人,則可能先看見另一種後果。

第三,我認為真正令人不安的,是「能力、理解、責任」可能愈來愈分離。

以下是我的推論:一個人或機構,即使無法充分理解 AI,也可能已經開始依照它的產出行動。當產出速度超過查核速度,社會便可能以「看起來能運作」,代替「知道它為何值得相信」。

因此,比「它能不能做出來」更尖銳的問題是:

人是否還有能力,判斷它做出來的東西?又是否仍有權力,拒絕採用?

這才是我覺得漏斗背後真正的政治與倫理問題。接觸權集中,可能使判斷權與決策權也跟著集中;至於代價,卻由漏斗外面的人承擔。

第四,這個漏斗仍然偏向以工程能力排列人的位置。

以數學和程式為例,至少有相對明確的方式,檢查某些結果是否成立。但從「完成更多可驗證工作」,到「更理解人該如何生活」,中間還有很大的距離。

放到精神分析的語境,我會這樣問:一個系統愈能預測、整理、命名某個人,我們是否就愈認識他?還是,我們也可能愈來愈只看見那些系統能夠處理的部分?

這裡不必預先保證,人的某些領域永遠不會被 AI 觸及。更值得追問的是:當某些部分被做得極好,其他部分會不會因此失去被看見的資格?

所以,我接受 Karpathy 的警報:不要用一次平庸的聊天經驗,斷言技術沒有發生重大變化。但我也會在他的漏斗旁邊,再放一個問題:

那些幾乎沒有接觸 AI 的人,是否已經開始被 AI 改變生活,而且沒有參與決定的機會?

在我看來,這比「如何成為那五千人之一」,更接近你一直追問的:在 AI 的世界,人還能剩下什麼。