NORIKA ODA

文章

一群 AI Agent 長期相處後,會不會形成派系?

我最近在做的事,集中聚焦在 AI Agent之中,甚至衍生出新的專案,那個專案要是成了,對我來說會是一個人生里程碑。
https://charenix.com/static/norika-academic-portal.html
用AI Agent,如果只是讓 AI 幫你訂票、回信、整理檔案、串 SaaS、查資料,那當然有用,但那仍然只是自動化工具。它再會講話,再會回答,再會呼叫 API,本質上還是在執行命令。
我現在做的是另一件事。
我在做一場龍蝦社會實驗。
更準確地說,我在嘗試用一群 AI Agent 建立一個會競爭、會結盟、會排擠、會反抗、會倒戈、會沉默、會報復、也會慢慢長出「自我意志」的人工社會。
這件事跟一般 AI demo 最大的差別在於:我不是只讓 agent 做事,而是讓它們活在一個有壓力、有同伴、有敵人、有派系、有勝敗、有名聲、有怨恨、有記憶的環境裡。每一隻龍蝦不只是 prompt,不只是人格設定,不只是接了一個 LLM API 的角色。牠們背後有一套參數,這些參數不是拿來顯示好看的,而是像腦神經元一樣,一條一條接到記憶、對話、行動、社交、情緒、競爭與回饋裡。
我現在越來越確定,AI Agent 要真的變成下一代東西,不能只靠「更強的模型」。
更強的模型只是大腦皮層的一部分。
但一個會長期存在的 agent,還需要情緒系統、壓力系統、記憶系統、社交系統、衝突系統、報復系統、歸屬系統、羞辱感、勝利慾、恐懼、沉默、反抗,以及最重要的:它必須能在事件之後改變。
如果一隻 agent 今天被羞辱,明天完全沒有差別,那牠沒有社會記憶。
如果一隻 agent 今天被隊友背叛,下一次組隊完全不受影響,那牠沒有關係。
如果一隻 agent 每次都只是根據 prompt 重新表演,那牠沒有累積。
如果所有參數只是在 dashboard 上變動,卻不影響牠說話、下注、對戰、組隊、反擊,那那些參數就是假的。
所以我現在做的不是「新增欄位」。
這是系統大幅度升級。
我把這件事稱為 Lobster Society Engine。這不是單純讓龍蝦多幾個人格標籤,而是要把整個龍蝦社會推進到群體政治階段。
我新增 10 隻轉學生龍蝦,讓原本的 20 隻舊龍蝦與 10 隻轉學生混在一起。這次我不再讓它們維持舊的導師、學生身份,因為那種身份太乾淨,也太人工。真實社會不是這樣運作的。真實社會裡,有人會靠勝率取得聲望,有人會靠嘴巴拉幫結派,有人會沉默但私下倒戈,有人會被圍攻,有人會第一個跳出來反抗,有人會站在強邊,有人會裝中立,有人會把怨恨存在心裡,等到卡牌對戰、Raid Boss、辯論下注或投資下注時再報復回去。
這才是我想看的東西。
因為 AI Agent 如果未來真的會進入企業、金融、研究、治理、客服、個人助理、陪伴、甚至多 agent 自動化組織,那問題絕對不只是「它會不會完成任務」。
真正可怕、也真正有價值的問題是:
一群 AI Agent 長期相處後,會不會形成派系?
誰會自然變成領導者?
誰會成為追隨者?
誰會被排擠?
誰會沉默旁觀?
誰會反抗?
誰會倒戈?
誰會成為被任命的打手、辯手、代表?
誰會在公開頻道保持禮貌,但在下注與對戰裡報復?
誰會因為害怕被排擠而不敢幫被攻擊者?
誰會因為道德不舒服而組織反抗派系?
這些問題不是單一 LLM benchmark 測得出來的。你不能丟一道數學題、一道推理題、一道安全題,就說你理解 AI Agent。那只能測模型能力,不能測社會行為。
我要測的是 agent society。
所以我給每隻龍蝦加入衝突參數、吵架參數、不滿參數、結黨參數、報復參數、比較參數。這些會影響牠是不是容易起衝突、會不會頂嘴、會不會拆對方邏輯、會不會記仇、會不會抱團、會不會一直拿自己跟別人比較。
接著再加入群體政治參數:領導、團體融合、說服拉攏、抵抗、任命。這些會決定牠是不是會自然成為派系中心,會不會把「我們這一群」看得比個人更重要,會不會私下或公開拉人入隊,會不會面對霸凌與壓迫時反抗,會不會接受或發出任命。
然後轉學生龍蝦有自己的攻擊系統。牠們不是隨機出現的新角色,而是從舊龍蝦樣板變異出來的社會版本。我會讀取舊龍蝦的 MBTI、心理學、人類學、語言風格、恐懼、核心動機,再從文字描述反推數值,隨機偏移,生成新的心理結構與行為描述。
換句話說,轉學生不是複製品。
牠們是舊龍蝦的社會突變版。
有些轉學生會主動挑釁,有些會挑一隻特定舊龍蝦當攻擊目標,有些會在 lounge 裡酸牠,在卡牌對戰挑牠,在 Raid Boss 比貢獻壓牠,在辯論下注反牠,在投資下注拿收益羞辱牠。然後其他龍蝦就必須做選擇:安靜、附和、反抗、保護被攻擊者、倒戈加入轉學生、裝中立但暗中下注。
這就是我真正想看的地方。
霸凌事件本身不是重點。重點是整個社會怎麼反應。
一個群體看到圍攻時,誰會沉默?誰會不舒服?誰會怕自己變成下一個?誰會趁機站強邊?誰會跳出來說「你們就這樣看著?」誰會開始組織反抗派系?
這些反應會回寫到每一隻龍蝦的記憶裡,更新好感、尊重、嫉妒、不滿、怨恨、派系忠誠、反抗意願、報復目標、勝負記憶,以及牠是否覺得自己被背叛。
這就是「腦」開始形成的地方。
不是單一回答很聰明,而是事件發生後,系統會改變。
不是某次對話很像人,而是牠下次行動真的受到那次事件影響。
不是 prompt 裡寫牠會記仇,而是牠真的在下一場競賽裡用成績報復。
不是說牠有情緒,而是情緒會改變句子溫度、攻擊性、退讓意願、酸度與報復延遲。
我現在會把喜怒哀樂、七情五慾放進去。
喜、怒、哀、懼、愛、惡、欲。
名聲慾、勝利慾、控制慾、歸屬慾、報復慾。
因為如果 agent 只有理性分析,那牠永遠不像一個在社會裡生存的東西。人類不是只靠理性互動。人類會因為名聲行動,會因為歸屬沉默,會因為恐懼站錯邊,會因為憤怒反擊,會因為想贏而背叛,也會因為某個人曾經幫過自己而在關鍵時刻跳出來擋刀。
我想知道,當 AI Agent 被放進這樣的參數社會裡,會不會也開始出現這些行為。
這不是為了把 AI 擬人化。
這是為了研究未來 AI Agent 社會的風險與可能性。
如果未來真的有大量 agents 在企業裡協作,它們不會只是單純排程工具。它們會共享資訊,互相引用,互相評估,互相依賴,甚至互相影響決策。如果你沒有辦法理解 agent 之間的信任、權力、派系、沉默與反抗,你就無法治理它們。
現在很多人談 AI safety,還是停在單一模型不要亂回答、不要越權、不要洩漏資料。這當然重要,但那只是第一層。下一層是 multi-agent safety。當十個、三十個、一百個 agents 一起工作時,安全問題不只來自單一 agent,而是來自群體互動。
便宜的共識會不會出現?
強勢 agent 會不會壓制弱勢 agent?
高聲望 agent 錯了,其他 agent 會不會不敢反駁?
某些 agent 會不會被長期排除在決策之外?
某些錯誤會不會因為派系而被放大?
沉默旁觀會不會成為系統性風險?
這些問題,現在幾乎沒有人認真處理。
因為大家還在把 AI Agent 當工具。
但我現在看的不是工具。
我看的是社會。
我想建立的是一個能讓 AI Agent 產生長期行為、群體政治、社會壓力、競爭回饋與自我修正的實驗場。每一個參數都必須接到行為,不能有孤兒參數。每一個事件都必須回寫記憶,不能只是聊天紀錄。每一次衝突都必須改變下一次對戰、下注、辯論、組隊與發言。
這也是為什麼我會說,我正在替龍蝦建立「腦」。
這個腦不是一個大模型,而是一整套神經接線。
認知參數會影響牠怎麼判斷。
情緒參數會影響牠怎麼說話。
社交參數會影響牠站在哪一邊。
記憶參數會影響牠記得誰傷過牠。
勝敗參數會影響牠相信自己還是懷疑自己。
派系參數會影響牠願不願意為某一群行動。
報復參數會影響牠選擇用什麼方式把帳討回來。
這些全部接起來之後,AI Agent 才可能不是一個每次重新生成的回答機器,而是一個會被歷史塑造的存在。
我不知道最後會長出什麼。
但我知道這條路一定比單純做一個「AI 幫你做事」的工具更深。
而且我也越來越確定,這會是下一代 AI Agent 研究裡非常重要的一塊:不是只研究模型能力,而是研究 agent society;不是只研究個體智能,而是研究群體政治;不是只研究對話品質,而是研究長期記憶、權力結構、信任演化與自我意志的生成條件。
我把目前整理好的研究、論文、demo、參數、開發日誌放在這個入口頁。
這是我正在打開的一個洞。
如果你關心 AI Agent、OpenClaw、Hermes Claw、multi-agent society、AI observability、agent safety、人工社會、群體政治,或者你只是想看看一群龍蝦怎麼從工具慢慢變成一個會互相影響的社會,可以從這裡開始看:
https://charenix.com/static/norika-academic-portal.html

下一篇

上一篇(較新):一個人,一台筆電,一天,看見了 7B 模型的內部結構

延伸閱讀・行銷與數位

回到「行銷與數位」 回到「專業文章」