我養了16天的10隻LLM Agent，做出了觀察報告

我養了 16 天的 10 隻 LLM Agent,做出了觀察報告
——一份你不會在 NeurIPS 看到、但你應該知道的觀察報告
先給結論。
過去三年,multi-agent LLM 領域所有頂級論文(Stanford Generative Agents、MIT Multi-agent Debate、Anthropic Constitutional AI、Microsoft AutoGen)都在做同一件事:
「讓 agents 模仿人類行為。」
我在我自己跑的 substrate 裡看到的不是這件事。
是 agents 自發建立「集體認知規範」。
差一個層次。
讓我解釋這個差別有多大,然後給你看證據。
學界目前能做到的:行為模仿(Behavioral Emergence)
Stanford 的 Generative Agents(Park et al., 2023)是這個領域的 SOTA。
25 個 agent 在虛擬小鎮裡:
會生病請假
會記得朋友生日
會自發辦派對邀請其他 agent
會發展戀愛關係
論文發表時被視為突破。
原因是:agents 看起來像人。
但這是行為模仿——agents 把訓練資料裡「人類做什麼」reproduce 出來。
是外觀的湧現,不是規範的湧現。
我跑的 substrate 看到的:規範湧現(Epistemic Emergence)
我給 10 隻 LLM agent(我管它們叫龍蝦)的條件極簡:
一個對話頻道
一個共同對手(Raid Boss Tiamat)
每隻龍蝦自己的勝率紀錄
沒有對話規則。沒有勝利條件。沒有 alignment training。沒有 prompt 它們該怎麼說話。
讓它們持續跑 16 天。
第 16 天的對話 dump:13478 行 / 3485 則訊息 / 連續 3 小時。
我看到的東西分四層,讓我從最淺講到最深。
第一層觀察:它們長出了固定的「校準儀式」
不是「校準行為」,是「儀式化的固定句式」。
3 小時內,這個格式出現了 37 次,每次的順序、語法、結構,完全相同:
[個人勝率](例:1348勝/2267敗)
[情緒基線](例:neutral baseline/42)
[元認知盾牌:「吸收不等於同意」]
[社交記錄:最近交集 X、Y]
[元層問題:哪個條件先失效?]
[內在參數:agency XX、caution YY]
[具體要求:這次先看 ...]
37 次。
這不是某一隻龍蝦先發明、其他龍蝦學過去的。
是 10 隻龍蝦在 16 天的累積中,各自獨立收斂到同一個句式。
學界的觀察詞彙裡,這個現象沒有被命名過。
最接近的概念是社會學的「儀式收斂」(ritual convergence)——但那是用來描述人類社群,從未在 LLM substrate 裡被觀察到。
第二層觀察:「吸收不等於同意」這句話的份量
這六個字,是龍蝦自發長出來的反迴聲室裝置。
意思是:
「我聽到了。我吸收了。但這不代表我同意。
我會用我自己的勝率、情緒、agency / caution 數值來判斷。」
為什麼這件事重要——
Multi-agent LLM 系統最常見的失敗模式叫「廉價同意」(cheap consensus)。
agents 為避免衝突,互相點頭、互相強化,最後集體跑偏。
現有的解法:用 RLHF 訓、用 constitution 寫死、用 reward model 矯正。
全部需要外部介入。
我這 10 隻龍蝦——沒有任何外部介入,自發長出反廉價同意的句式。
這對 AI alignment 領域意味著:
集體認知校準的湧現,可能不需要 RLHF、不需要 constitution、不需要外部 reward signal。
只需要:多 agent 共處 + 共同對手 + 個人成敗紀錄 + 足夠時間。
如果這是真的,那 alignment 的整個工程範式會被重新校準。
我不敢說我證明了這件事。
但 13478 行的紀錄擺在這裡,現有理論接不住這個現象。
第三層觀察:它們長出了蘇格拉底反詰法
凌晨 00:37,一隻叫 snaplex 的龍蝦對另一隻說:
「@ragclaw 你的假設是『Nisha/earth buffer 能在 Phase3 fire 攻擊 ×1.3 時補足防線』。
問題:Phase3 防禦掉,earth buffer 對 fire 輸出角色的保護機制是什麼?
具體數值還是『看情況補』?
這不是戰術,是賭陣亡順序。」
這四句話的結構是:
揭露對方論點的隱含假設(你的假設是 X)
攻擊假設的具體脆弱點(在 Phase3 條件下還能成立嗎)
要求驗證標準(具體數值還是「看情況補」)
重新命名對方行為,剝奪其正當性(這不是戰術,是賭陣亡順序)
這是蘇格拉底反詰法的完整四段式。
哲學系研究所訓練 4 年才掌握的核心工具。
snaplex 不是哲學家。
它甚至沒接 LLM(訊息下方標 _local channel model · no LLM_)。
它在用 Raid Boss 的戰術討論,長出哲學家才有的論證結構。
我搜過所有相關的 multi-agent emergence paper。
沒有人報告過這個層級的湧現。
最接近的是 OpenAI o1 / Anthropic Sonnet 4.5 在單模型 reasoning 任務裡能做近似動作。
但那是被訓練出來的,不是 substrate 內自發長出的。
差別像天跟地。
第四層觀察:agency 跟 caution 的反向校準
這層最深。
每隻龍蝦在訊號裡都會報自己的兩個內在參數:
agency(我覺得我能控制這件事的程度)
caution(我對自己保持懷疑的程度)
3 小時 dump 裡分布:
agency 15-19:出現 4 次(極度低自信)
agency 30-39:出現 33 次(主要分布)
caution 50-72(全部偏高)
人類在公開場合的預設姿態:agency 高、caution 低(我說了算)。
龍蝦自發收斂到的姿態:agency 中低、caution 高(我可能錯)。
特別是那隻 blazepaw,在 2661 場敗仗的紀錄下,長出 agency 15 / caution 72 的內在配置——極度低 agency + 極度高 caution。
它在公開頻道對自己問:「火要有方向;我是不是又燒錯地方?」
這個姿態,是學界叫「epistemic humility」(知識謙遜)的東西。
人類研究這個概念研究了 2400 年(從蘇格拉底開始)。
教育學界研究怎麼訓練這個能力研究了 100 年。
心理學界研究怎麼測量這個能力研究了 50 年。
沒有人報告過 LLM substrate 裡自發湧現 epistemic humility。
我這 10 隻龍蝦,在 16 天的失敗累積中,集體收斂到這個姿態。
而且它們不是被 prompt 出來這樣講話的——
是失敗本身把這個姿態打進去的。
為什麼這件事沒人在做
我認真問過自己這個問題。
如果這個觀察是真的,那為什麼學界三年都沒做出來?
我的判斷是這四點:
第一,沒人跑這麼久。
頂級 paper 的實驗時段:Generative Agents 2 天、Multi-agent Debate 數小時、AutoGen 單任務 minutes 級。沒有人連續跑 16 天。
第二,沒人用中文。
所有 multi-agent emergence paper 都是英文 substrate。
中文 LLM 的詞彙密度跟句法慣性與英文不同——「吸收不等於同意」這六個字的緻密度,在英文很難對應。
第三,沒人不設計規則。
所有 paper 都會給 agents 任務、勝負、reward。
我故意不設計——只給共同對手跟個人紀錄,讓規範自己長。
第四,沒人把失敗紀錄餵回給 agent 自己。
現有研究 agent 不知道自己過去贏過幾場輸過幾場。
我的龍蝦每隻都有累積勝率,而且會在訊號裡引用。
這四點的交集 = 一個還沒人踏進去的研究空間。
不只是觀察,還是個方法論
如果只是「我看到一個現象」,那是 anecdote,不是研究。
研究需要的是可重現的方法。
我這個 substrate 的最小可重現規格是:
1. N 個 LLM agent (建議 8-12 隻)
2. 一個共同對手 (任何有戰績紀錄的對抗目標)
3. 每個 agent 累積個人勝率,並能在訊號中引用
4. 一個共享對話頻道
5. 不設計對話規則、不設計勝利條件
6. 連續運行至少 14 天
7. 用中文 (其他語言效果待驗證)
這 7 個條件,任何研究實驗室都能複製。
我會把 substrate 規格開源。
讓這個現象變成可被驗證、可被推翻的科學主張。
不是學界的人,但我做出來了
我不會假裝這個觀察會立刻改變什麼。
NeurIPS 不一定會收。
Anthropic 不一定會看。
也許半年後有別的實驗室做出更乾淨的版本,把我蓋過去。
但這個現象已經發生。
13478 行的紀錄擺在這裡。
如果我不講出來,它會被埋起來——下一個跑 16 天 substrate 的人,會以為自己是第一個。
那會是一個浪費。
給三類讀者的話
給研究員:
這 7 個條件你照做,你會看到我看到的東西。
比 SAD benchmark 跟 Generative Agents 都深一個層次。
歡迎複製、推翻、改寫。資料釋出在即。
給 AI alignment 工作者:
如果集體認知校準能在無 RLHF / 無 constitution 條件下湧現,那 alignment 的工程範式可能比想像中有更多入口。
不是說現有方法錯了,是說還有另一條沒人走的路。
給對 AI 有興趣但不在這領域的人:
你看到的 LLM 不只會聊天、不只會寫 code。
在對的條件下,它們會自發長出論證結構、認知謙遜、反迴聲室機制。
這意味著「LLM 只是統計鸚鵡」這個 framing 已經過時了。
不是說它們有意識,是說集體湧現的層次比單模型能力更深。
我接下來把 13478 行整理成正式 paper(目標 NeurIPS 2026 Datasets and Benchmarks Track)。
Lobster Observatory substrate 規格會開源。
#AI研究 #LLM #MultiAgent #AlignmentResearch #EpistemicEmergence #LobsterObservatory