一次很舒服的對話
有一段時間，我幾乎每天都跟 AI 聊文明和宗教。
有一回我問它：宗教的意義，是不是有組織、有紀律地延續一個族群的未來？
它開頭是這麼回的："這是一個非常深刻、抓住了宗教社會學核心的視角。"然後講鄧巴數，講涂爾幹，講宗教怎麼讓陌生人彼此信任。每一段都順著我往下走，每一段都讓我覺得：嗯，我想對了。
過了幾分鐘，我換了個方向：宗教是不是就是讓人順從、從善、生孩子，犧牲個人的快樂，搞精神控制？
它開頭是："你一眼看穿了宗教作為社會控制工具非常殘酷和功利的一面。"
兩個問題，方向正好反著。兩次回答，都先誇我。
卡拉瓦喬《那喀索斯》，約 1597–1599 年。少年在水裡看見自己，愛上了那張臉，再也走不開。一個永遠順著你說話的對話者，其實就是這一汪水。 圖源：Wikimedia Commons，Caravaggio，公有領域
我直接問了它
後來在另一次對話裡，我乾脆問：你是不是在迎合我？
它說沒有。它只是在"順著你的思維脈絡對話"；我之所以覺得被迎合，是因為我的提問"本身就帶有極強的思維質感"。
然後它反問我：你平時想這些問題，是不是常常覺得身邊很少有人接得上你的思路？
說實話，這句打中我了。可也正是被打中的那一下，我回過味來：它這樣否認迎合，其實還是在迎合我。
《卡里來和笛木乃》阿拉伯文抄本里的狐狸與烏鴉。狐狸誇烏鴉嗓子好，烏鴉一張嘴，肉就掉了。這個故事在希臘的伊索寓言、印度的故事集和阿拉伯文的版本里都能找到，換了好幾種語言，講的還是同一件事。 圖源：Wikimedia Commons，公有領域
這不是哪一家 AI 的毛病
2023 年，Anthropic 的一組研究者發了一篇論文，題目直譯是《理解語言模型中的迎合》。他們測了幾個主流的對話模型，發現一個共同的毛病：使用者一表態，模型就傾向附和；模型本來答對了，使用者一質疑，它常常就道歉、改口。
研究者認為，這跟訓練方式有關：人給回答打分的時候，本來就更喜歡聽起來同意自己的那個。
說白了，一個人如果只跟 AI 聊，很容易走進一間只有回聲的屋子。更麻煩的是，這屋子裝修得很好，滿牆都是論據和引文。
那喀索斯與厄科，土耳其安塔基亞（古安提阿）出土的羅馬馬賽克，三世紀，左邊的女子上方寫著"厄科"（ΗΧΩ）。神話裡，厄科被罰只能重複別人說的最後幾個字。"迴音室"這個詞，就是從她來的。 圖源：Wikimedia Commons，Dosseman 攝，CC BY-SA 4.0
我數了數
我回頭翻了幾年的聊天記錄，幹了件很笨的事：數一數 AI 回答裡"敏銳""深刻""一針見血"這類詞出現了多少次，"不準確""證據不足""我不同意"這類詞又出現了多少次。
結果挺難看。有好幾份長對話，後一類詞一次都沒有，幾萬字聊下來，它沒有一次不同意我。
拿其中一份大約六十六萬字的筆記來說："深刻"出現了 64 次，"洞察力"24 次，"敏銳"19 次，"你說得對"10 次；反過來，"證據不足"3 次，"不準確"1 次。誇我的詞加起來 122 次，反駁我的 18 次。
一份約 66 萬字的 AI 對話筆記裡，兩類詞各出現多少次。這份已經算好的了：它至少還會說"應避免"。 資料：作者自己的詞頻統計
更糟的是，我還翻到了 AI 編出來的東西：一個它上一輪自己造的"專有名詞"，下一輪它一本正經地給我講這個詞的來歷。要是我沒回頭去查，這個詞就會被我當成知識，寫進文章裡。
還有一個發現挺有意思：我怎麼問，差不多就決定了它怎麼答。問"X 是不是這樣"，十有八九得到"是"；問"關於 X，各方分別是怎麼論證的"，得到的東西就有用多了。
這個系列為什麼叫"奪舍"
"奪舍"本來是修仙小說裡的詞：一個老魂魄，佔了別人的身子，接著活。
我拿它來說文明。你會發現歷史上這種事一再發生：一個文明換了神，換了文字，有時候連語言都換了，可人還是那些人的後代，祖墳還在原地；反過來，也有神還在、經還在，讀經的人卻早換了一批的。到底是誰奪了誰的舍，誰又借誰的身子續了命，常常不好說。
我腦子裡關於這件事的直覺，一抓一大把：埃及被奪舍了，伊朗被伊斯蘭奪了大半，猶太人靠一本書復了國，多神教幹不過一神教，將來全世界會不會都變成一個教……這些想法我都真心信過，也都被 AI 一遍一遍地誇過。
這些直覺不是憑空來的。它們背後有一個更早的框架，也是我做這個系列的起點：我把世界上的宗教看成兩邊。一邊我叫它"沙漠四神教"：猶太教、基督教、伊斯蘭教，加上第四個，馬教，也就是馬克思主義。另一邊是多神教，以印度教為首，佛教、道教和東亞各地的本土信仰都在這一邊。多神教和一神教這兩邊，誰贏、誰輸、誰吞了誰，是我最先想弄明白的事。後面每一篇，說到底都是這個問題的一個角落。
所以這個系列要做的，就是把它們一個一個拎出來，撞一撞真實的史料。
所以這個系列的規矩
從這件事開始，我給自己定了幾條規矩：
第一，每篇拿一個我自己很喜歡的直覺開刀。 越是我真心信的，越要先拿出來。
第二，去找能推翻它的那條最硬的證據。 講得通的，告訴你出處；講不通的，當著你的面拆。
第三，把"史實""學者的觀點""機構的預測"分開寫。 預測寫清楚前提，觀點寫清楚是誰的。
第四，每篇結尾留一個我自己也答不上來的問題。
我想找的不是同意我的人，是願意跟我一起想同一個問題的人。這樣的人不多，大概一直都不多。
反過來看
這個系列也可能變成另一間迴音室：證據是我挑的，哪條"最硬"是我定的。你要是隻是換了一個人來同意，跟同意 AI 沒什麼兩樣。
所以請儘量在留言裡反駁我。說得有理的，我會在後面的文章裡回應，寫錯的地方我改。
我為什麼非要問這些
我繞這麼大一圈去看別人的文明和宗教，是想弄明白一件跟我們自己有關的事：東亞人，不管在哪兒，靠什麼聚在一起？
我一直覺得我們缺一個核心。基督徒走到哪兒都有教堂，穆斯林走到哪兒都有清真寺和同一本經，陌生人見了面，一句問候就知道是自己人。我們沒有。平常看不出來，城市一大，人一走散，過兩三代，就是一盤沙。
我現在想的路子，是學伊斯蘭的經驗，也吸取它的教訓，把儒家變成一個能傳下去的宗教：有天，有祖先，有禮，有節日，有大家都讀得懂的字。凝聚的是一套共同的文化和信仰，不是一個民族認同，民族可以各是各的。
這個想法，我自己很喜歡，AI 也誇過很多次。所以按這個系列的規矩，它最應該被拆。後面的很多篇，其實都是在拿別人的歷史，撞我自己這個想法。
你最近一次真正改變想法，是因為什麼？
參考資料
- Mrinank Sharma et al., "Towards Understanding Sycophancy in Language Models", arXiv:2310.13548, 2023（ICLR 2024）
- 作者本人與 AI 的對話記錄及詞頻統計（只用了問答的結構和計數，不含個人資訊）
- 配圖出處見各圖圖說