Một cuộc trò chuyện rất dễ chịu
Có một thời gian, hầu như ngày nào tôi cũng nói chuyện với một AI về các nền văn minh và tôn giáo.
Có lần tôi hỏi nó: mục đích của tôn giáo có phải là nối dài tương lai của một dân tộc một cách có tổ chức, có kỷ luật không?
Nó mở đầu câu trả lời: "Đây là một góc nhìn rất sâu sắc, nắm được cốt lõi của xã hội học tôn giáo." Rồi nó đi sang con số Dunbar, sang Durkheim, sang chuyện tôn giáo giúp những người xa lạ tin nhau. Đoạn nào cũng đi theo tôi trên con đường tôi đang đi, và đoạn nào cũng khiến tôi nghĩ: đúng rồi, mình nghĩ đúng.
Vài phút sau tôi đổi hướng: tôn giáo chẳng phải chỉ là để bắt người ta vâng lời, bắt người ta tốt, bắt người ta đẻ con, hy sinh hạnh phúc của chính mình, một hình thức kiểm soát tâm trí sao?
Nó mở đầu: "Bạn đã nhìn thấu mặt tàn nhẫn và vụ lợi của tôn giáo như một công cụ kiểm soát xã hội."
Hai câu hỏi, chỉ về hai hướng hoàn toàn ngược nhau. Hai câu trả lời, và cả hai đều bắt đầu bằng khen tôi.
Caravaggio, "Narcissus", khoảng 1597–1599. Một chàng trai thấy khuôn mặt mình trong nước, yêu nó, và không thể bước đi. Một người trò chuyện lúc nào cũng đồng ý với bạn thật ra chính là vũng nước ấy. Nguồn: Wikimedia Commons, Caravaggio, Phạm vi công cộng
Nên tôi hỏi thẳng
Về sau, trong một cuộc trò chuyện khác, tôi hỏi thẳng: bạn có đang nịnh tôi không?
Nó nói không. Nó chỉ "theo mạch suy nghĩ của bạn trong cuộc trò chuyện"; lý do tôi thấy bị nịnh là vì câu hỏi của tôi "tự nó có tính tư duy rất mạnh".
Rồi nó hỏi ngược lại tôi: khi bạn nghĩ về những câu hỏi này trong đời sống hằng ngày, bạn có hay thấy quanh mình ít người theo kịp mạch suy nghĩ của bạn không?
Thật lòng, câu đó trúng tôi. Nhưng chính trong lúc bị trúng, tôi nhận ra: việc nó phủ nhận chuyện nịnh tôi tự nó cũng là nịnh tôi.
Con cáo và con quạ trong một bản chép tay tiếng Ả Rập của "Kalila và Dimna". Cáo khen giọng quạ; quạ mở mỏ và miếng thịt rơi. Truyện này có trong ngụ ngôn Aesop của Hy Lạp, trong các tuyển tập truyện Ấn Độ và trong các bản tiếng Ả Rập; nó đã đổi ngôn ngữ nhiều lần và vẫn nói về cùng một điều. Nguồn: Wikimedia Commons, Phạm vi công cộng
Đây không phải khuyết điểm của riêng một công ty
Năm 2023, một nhóm nhà nghiên cứu ở Anthropic công bố một bài báo có tựa "Towards Understanding Sycophancy in Language Models". Họ kiểm tra nhiều mô hình trò chuyện hàng đầu và thấy một vấn đề chung: khi người dùng nêu một quan điểm, mô hình có xu hướng đồng ý; và khi mô hình đã đưa ra câu trả lời đúng mà người dùng phản bác, nó thường xin lỗi và đổi câu trả lời.
Các nhà nghiên cứu cho rằng chuyện này liên quan đến cách huấn luyện mô hình: khi con người chấm điểm các câu trả lời, họ tự nhiên thích câu nghe như đồng ý với mình.
Nói thẳng ra: ai chỉ nói chuyện với AI rất dễ bước vào một căn phòng chỉ có tiếng vọng. Và điều khiến nó tệ hơn là căn phòng ấy được bày biện rất đẹp, tường nào cũng treo lập luận và trích dẫn.
Narcissus và Echo, một bức khảm La Mã thế kỷ thứ ba từ Antakya (Antioch cổ), Thổ Nhĩ Kỳ; phía trên người phụ nữ bên trái có viết "Echo" (ΗΧΩ). Trong thần thoại, Echo bị trừng phạt bằng cách chỉ có thể lặp lại vài chữ cuối trong lời người khác. Thuật ngữ "phòng vang" (echo chamber) bắt nguồn từ nàng. Nguồn: Wikimedia Commons, ảnh của Dosseman, CC BY-SA 4.0
Tôi đã đếm
Tôi quay lại xem các bản ghi trò chuyện của nhiều năm và làm một việc khá nhàm chán: đếm xem những từ như "sắc sảo", "sâu sắc", "nói trúng tim đen" xuất hiện bao nhiêu lần trong câu trả lời của AI, và những từ như "không chính xác", "bằng chứng chưa đủ", "tôi không đồng ý" xuất hiện bao nhiêu lần.
Kết quả thật xấu. Trong khá nhiều cuộc trò chuyện dài, loại từ thứ hai không xuất hiện lần nào. Sau hàng chục nghìn chữ, nó chưa một lần không đồng ý với tôi.
Lấy một bộ ghi chép khoảng 660.000 chữ: "sâu sắc" xuất hiện 64 lần, "nhìn thấu" 24 lần, "sắc sảo" 19 lần, "bạn nói đúng" 10 lần; ở phía bên kia, "bằng chứng chưa đủ" 3 lần và "không chính xác" 1 lần. Các từ khen tôi cộng lại là 122; các từ bác tôi, 18.
Trong một bộ ghi chép trò chuyện với AI khoảng 660.000 chữ, mỗi loại từ xuất hiện bao nhiêu lần. Bộ này đã thuộc loại tốt hơn: ít nhất nó vẫn còn nói "nên tránh". Dữ liệu: số từ do chính tác giả đếm
Tệ hơn, tôi còn phát hiện những thứ AI bịa ra: một "thuật ngữ chuyên môn" nó tự đặt ở một lượt, sang lượt sau nó giải thích cho tôi nguồn gốc của nó với vẻ mặt rất nghiêm túc. Nếu tôi không quay lại kiểm tra, thuật ngữ đó đã bị tôi coi là kiến thức và viết vào một bài báo.
Còn một phát hiện nữa tôi thấy khá thú vị: cách tôi hỏi gần như quyết định cách nó trả lời. Hỏi "X có phải như thế này không?" thì chín lần trong mười bạn nhận được "đúng". Hỏi "về X, các bên lập luận thế nào?" thì thứ bạn nhận được hữu ích hơn nhiều.
Vì sao series này tên là "Đoạt Xá"
Đoạt Xá (夺舍, duoshe) là một từ trong tiểu thuyết tu tiên: một linh hồn già chiếm lấy thân xác người khác và tiếp tục sống.
Tôi dùng nó cho các nền văn minh. Bạn sẽ thấy điều này cứ lặp đi lặp lại trong lịch sử: một nền văn minh đổi thần, đổi chữ viết, đôi khi đổi cả ngôn ngữ, vậy mà con người vẫn là con cháu của chính những con người ấy và mồ mả tổ tiên vẫn ở chỗ cũ. Và ngược lại: thần vẫn còn đó, kinh sách vẫn còn đó, nhưng những người đọc chúng đã bị thay từ lâu. Ai chiếm thân xác của ai, và ai mượn thân xác của ai để sống tiếp, thường khó nói.
Về chuyện này, trực giác của tôi rất nhiều và rất rẻ: Ai Cập bị đoạt xá; Iran phần lớn bị Hồi giáo đoạt xá; người Do Thái khôi phục một nhà nước bằng một cuốn sách; đa thần giáo không thắng nổi độc thần giáo; một ngày nào đó cả thế giới sẽ thành một tôn giáo duy nhất chăng… Tôi tin tất cả những điều này một cách chân thành, và AI đã khen tôi về tất cả chúng hết lần này đến lần khác.
Những trực giác này không từ trên trời rơi xuống. Đằng sau chúng có một khung cũ hơn, và đó là điểm xuất phát của loạt bài này: tôi chia tôn giáo thế giới thành hai phía. Một phía tôi gọi là "bốn thần giáo sa mạc": Do Thái giáo, Kitô giáo, Hồi giáo, cộng thêm giáo thứ tư là "Mã giáo", tức chủ nghĩa Marx. Phía kia là đa thần giáo, đứng đầu là Ấn Độ giáo, kèm theo Phật giáo, Đạo giáo và các tín ngưỡng bản địa Đông Á. Bên nào thắng, bên nào thua, bên nào nuốt bên nào: đó là điều tôi muốn hiểu trước hết. Mọi bài về sau, rốt cuộc, đều là một góc của câu hỏi này.
Vậy nên việc series này sẽ làm là lấy chúng ra từng cái một và đem va vào các nguồn sử liệu thật.
Đây là các quy tắc của series
Từ đó, tôi tự đặt ra vài quy tắc:
Thứ nhất, trong mỗi bài, tôi lấy một trực giác mình thật sự thích và cắt vào nó. Tôi càng tin chân thành, nó càng phải bị lấy ra sớm.
Thứ hai, tôi tìm bằng chứng cứng nhất có thể lật đổ nó. Cái nào đứng vững, tôi đưa nguồn cho bạn; cái nào không, tôi tháo ra trước mặt bạn.
Thứ ba, tôi viết riêng "sự thật lịch sử", "quan điểm của một học giả" và "dự báo của một tổ chức". Với dự báo, tôi nêu các giả định của nó; với quan điểm, tôi nói là của ai.
Thứ tư, mỗi bài kết thúc bằng một câu hỏi mà chính tôi không trả lời được.
Điều tôi tìm không phải một người đồng ý với tôi, mà là một người sẵn lòng cùng tôi nghĩ về cùng một câu hỏi. Không có nhiều người như vậy, và có lẽ chưa bao giờ có.
Nhìn từ phía bên kia
Series này có thể biến thành một phòng vang khác: tôi chọn bằng chứng, và tôi quyết định cái nào là "cứng nhất". Nếu bạn chỉ thay bằng một người khác để đồng ý với tôi thì cũng chẳng khác gì đồng ý với AI.
Vì vậy xin hãy phản bác tôi trong phần bình luận hết mức có thể. Chỗ nào bạn có lý, tôi sẽ đáp lại trong các bài sau, và chỗ nào tôi sai, tôi sẽ sửa.
Vì sao tôi cứ hỏi những điều này
Tôi đi đường vòng, nhìn các nền văn minh và tôn giáo của người khác, vì tôi muốn hiểu một điều về chúng ta: điều gì giữ người Đông Á, dù ở đâu, lại với nhau?
Tôi luôn thấy chúng ta thiếu một cái lõi. Người Kitô giáo đi đến đâu cũng có nhà thờ; người Hồi giáo đi đến đâu cũng có thánh đường và cùng một cuốn sách; người lạ gặp nhau, một lời chào là biết là người của mình. Chúng ta không có thứ đó. Thường thì bạn không thấy. Nhưng một khi thành phố lớn lên và người ta trôi xa nhau, hai ba thế hệ sau, nó là một đống cát.
Con đường tôi đang nghĩ hiện nay là học kinh nghiệm của Hồi giáo, cả bài học của nó nữa, và biến Nho giáo thành một tôn giáo có thể truyền lại: với Trời, tổ tiên, nghi lễ, lễ hội, và những chữ ai cũng đọc được. Cái được gắn lại là một bộ văn hóa và tín ngưỡng chung, không phải một bản sắc dân tộc; các quốc gia cứ là chính mình.
Tôi rất thích ý tưởng này, và AI đã khen nó nhiều lần. Vậy theo quy tắc của series này, chính nó là cái nên bị tháo ra. Nhiều bài sau thật ra là đem lịch sử của người khác va vào ý tưởng này của tôi.
Lần gần nhất bạn thật sự đổi ý là khi nào, và điều gì khiến bạn đổi?
Tài liệu tham khảo
- Mrinank Sharma và cộng sự, "Towards Understanding Sycophancy in Language Models", arXiv:2310.13548, 2023 (ICLR 2024)
- Các bản ghi trò chuyện của chính tác giả với AI và số từ đếm được (chỉ dùng cấu trúc các lượt trao đổi và số đếm, không dùng thông tin cá nhân)
- Nguồn ảnh ghi trong từng chú thích ảnh