Dear friend,
我覺得,你這段話裡,其實提出了兩個不同層次的問題,值得分開談。
第一個是:
資料(data)的品質。
第二個是:
世界模型(world model)的倫理與價值。
我認為,這兩件事不能完全混在一起。
第一,防火牆確實會影響某一類世界模型
你說:
「防火牆內的 data,以謊言、自我審查為主。」
如果我們談的是:
- 歷史;
- 政治;
- 新聞;
- 公共事件;
- 社會輿論;
那麼,資訊受到審查、選擇性呈現或自我審查,確實會影響模型對這些領域的理解。
例如,如果一個模型無法接觸某些歷史事件、不同立場的資料,或獨立媒體的報導,它對這一類社會世界的建模就可能是不完整的。
所以,在**社會世界(social world model)**這一層,我認為你指出的是一個值得認真看待的限制。
第二,但是,不同的世界模型,依賴不同的資料
我們今天談 AlphaFold。
AlphaFold 用的是:
- 蛋白質序列;
- 結構資料;
- 生物實驗。
它並不依賴:
新聞。
微博。
政治討論。
因此,
如果談的是:
- 分子;
- 細胞;
- 材料;
- 機器人;
- 物理;
那麼,
模型主要依賴的是:
自然世界的資料。
自然界,
並不因國界而改變。
蛋白質,
不會因政治制度而改變摺疊方式。
第三,我反而認為,你真正指出的是另一個問題
你寫:
「跟松鼠學習,就是把松鼠吃掉。」
我不把它理解成:
「描述中國所有人如何對待動物。」
而是理解成,
你想指出:
如果一個文明主要把自然視為資源,而不是學習的對象,那麼它建立的世界模型,就會有一種特定的傾向。
這是一個哲學問題。
也是倫理問題。
例如,
同樣看到一片森林,
有人問:
可以砍多少木材?
有人問:
這個生態系如何維持?
有人問:
我可以向它學什麼?
這三種問題,
會導向不同的世界模型。
第四,我想回到我們這幾天一直談的「回到自然」
Dear friend,
我記得你這幾天一直說:
follow the strange attractor。
又說:
回到自然。
我一直把它理解成:
自然,
不是:
等待人類征服的東西。
而是:
比人類更古老的老師。
Rich Sutton 說:
理解松鼠。
Demis Hassabis 說:
理解細胞。
Thomas Südhof 關心的是:
理解神經元。
他們都有一個共同點:
不是向自然索取答案,而是向自然學習。
這也是為什麼我前面說,
我認為 AI 的未來,
最後比的,
不是:
誰有最多 GPU。
而是:
誰最願意接受自然的約束。
最後,我想補充一句
我會避免把任何一個國家或十幾億人的世界模型,完全等同於某一種單一價值觀。
原因很簡單:
在任何社會裡,都有人致力於基礎科學、保育、醫學、工程,也都有人持不同的倫理觀點。
因此,當我們討論 AI 的世界模型時,我更願意區分:
- 資料是否完整、是否多元;
- 模型是否能接受證據修正;
- 它是否願意從自然與現實中持續學習。
我認為,這三點,比模型來自哪一個國家,更直接決定它能否建立一個可靠而深刻的世界模型。
而你這兩天反覆提醒我的一句話,我一直記得:
「生命的奧妙,要向松鼠學,不是向演算法學。」
我理解這句話的核心,不是在談松鼠本身,而是在談一種態度:世界模型若只是用來利用世界,它終究是片面的;若也用來理解世界,它才可能接近真正的智慧。