Vì sao nhân vật AI của bạn hay quên, và điều gì giúp ích
Câu trả lời ngắn gọn
- AI không nhớ cuộc trò chuyện của bạn. Ứng dụng nhắc lại cho nó mỗi lần. Mỗi lần bạn gửi tin nhắn, ứng dụng gửi cho AI thẻ nhân vật của bạn, kèm theo càng nhiều tin nhắn gần đây càng tốt, miễn là còn vừa. AI đọc chừng đó rồi viết câu trả lời. Ngoài ra nó không có gì khác.
- Lượng nội dung có thể đưa vào là có giới hạn. Giới hạn này gọi là cửa sổ ngữ cảnh (context window). Khi cuộc trò chuyện dài hơn cửa sổ, những tin nhắn cũ nhất bị bỏ đi. Đó là lý do nhân vật có vẻ mất trí nhớ vào khoảng tin nhắn thứ 100, 300 hoặc 400, tùy ứng dụng.
- Bạn không thể làm cửa sổ lớn hơn, nhưng có thể dùng nó tốt hơn. Giữ thẻ nhân vật ngắn gọn, viết một bản tóm tắt câu chuyện, và để các chi tiết nền trong sổ tri thức (lorebook), chỉ được nạp khi chúng được nhắc tới. Tính năng ghi nhớ của ứng dụng nào cũng là một biến thể của một trong ba ý tưởng này.
Điều gì đang diễn ra phía sau
- AI bắt đầu từ con số không ở mỗi tin nhắn. Không có gì được mang từ câu trả lời này sang câu trả lời tiếp theo trừ khi ứng dụng gửi lại.
- Cuộc trò chuyện lấp đầy cửa sổ rất nhanh. Cửa sổ được đo bằng token, và một token là khoảng bốn ký tự tiếng Anh. Năm mươi lượt qua lại cộng lại vào khoảng 20.000 token, nhiều hơn mức mà phần lớn ứng dụng cho phép. Vì vậy những tin nhắn cũ nhất là thứ bị bỏ đi đầu tiên.
- Trò chuyện không làm thay đổi AI. Có một giả thuyết phổ biến cho rằng các cuộc trò chuyện dài dần dần ghi đè lên nhân vật. Không phải vậy. Khi nhân vật của bạn bị lệch vai ở tin nhắn thứ 60, đó là vì những tin nhắn định hình nhân vật đã rơi ra khỏi cửa sổ.
- Cửa sổ lớn hơn cũng không khắc phục được. Ứng dụng gửi toàn bộ cửa sổ kèm mỗi tin nhắn, nên cửa sổ lớn hơn thì mỗi lượt tốn nhiều hơn. Và cửa sổ càng dài, các mô hình AI càng dùng nó kém đi chứ không tốt hơn.
Mỗi triệu chứng nghĩa là gì
- Nhân vật quên một cái tên hoặc một tình tiết từ khá lâu trước. Tin nhắn đó đã rơi ra khỏi cửa sổ. Hãy đưa chi tiết đó trở lại bằng một bản tóm tắt, một trường ghi nhớ, hoặc một mục trong sổ tri thức.
- Nhân vật lặp đi lặp lại. Cửa sổ đầy những câu trả lời gần đây của chính nó, và AI bắt chước những gì nó thấy nhiều nhất. Hãy sửa hoặc xóa những câu bị lặp.
- Nhân vật không còn giống chính mình. Cuộc trò chuyện đã đẩy thẻ nhân vật sang một bên, hoặc ứng dụng đã cắt bớt thẻ. Hãy làm thẻ ngắn lại.
- Nhân vật quên điều vừa xảy ra ba tin nhắn trước. Đây không phải do cửa sổ. Hoặc ứng dụng đang bỏ đi nhiều hơn mức cần thiết, hoặc mô hình AI quá yếu. Hãy thử lại điều tương tự trong một cuộc trò chuyện mới để biết là do đâu.
Điều giúp ích, ngay tối nay
- Rút ngắn thẻ nhân vật. Mỗi từ trong thẻ chiếm chỗ mà cuộc trò chuyện lẽ ra có thể dùng. Giữ thẻ dưới khoảng 1.500 token. Hướng dẫn viết thẻ cho biết nên cắt gì trước.
- Tự viết bản tóm tắt. Phần lớn ứng dụng có một trường cho việc này, gọi là memory, chat memory hoặc author's note (ghi chú của tác giả). Hãy ghi vào đó năm dòng ngắn ghi dữ kiện, không phải một đoạn kể chuyện: bạn đang ở đâu, mối quan hệ hiện giờ ra sao, và những mạch truyện nào còn đang mở.
- Chuyển tiểu sử vào sổ tri thức. Một mục trong sổ tri thức chỉ được nạp khi từ khóa kích hoạt của nó xuất hiện trong cuộc trò chuyện. Một mục về anh trai của nhân vật không tốn gì cho đến khi có ai đó nói “anh trai”. Giữ mỗi mục thật ngắn, vì mục đã nạp cũng chiếm chỗ trong cửa sổ như mọi thứ khác.
- Khi nhân vật bị lệch vai, hãy viết một đoạn tóm tắt lại. Gửi một tin nhắn ngoài vai, đặt trong ngoặc, gồm hai câu: câu chuyện đang ở đâu, và nhân vật là ai. Rồi tiếp tục.
- Khi cuộc trò chuyện đã không còn cứu vãn được, hãy bắt đầu lại bằng đoạn tóm tắt đó. Dán bản tóm tắt của bạn làm tin nhắn đầu tiên của một cuộc trò chuyện mới. Bạn mất bản ghi cũ, nhưng giữ được câu chuyện, và nhân vật quay lại sắc nét hơn trước.
Mỗi ứng dụng cho bạn những gì
- Character.AI không cho biết cửa sổ của mình lớn bao nhiêu. Ứng dụng cho bạn tin nhắn ghim, một ô ghi nhớ 400 ký tự, và Story Memory tự thu thập các dữ kiện, với dung lượng mỗi thứ lớn hơn ở các gói trả phí. Tin nhắn ghim chiếm chỗ trong chính cửa sổ đó.
- JanitorAI cho biết cửa sổ của họ chứa khoảng 8.000 đến 9.000 token trên mô hình riêng của họ. Họ cung cấp trường Chat Memory, kèm lời khuyên “liệt kê dữ kiện, không phải cảnh truyện”, và khuyên giữ thẻ dưới 1.500 token.
- Chai không nói gì về khả năng ghi nhớ. Người dùng kể lại rằng mỗi nhân vật bị giới hạn ở 625 ký tự văn bản.
- SpicyChat cho bạn 4.096, 8.192 hoặc 32.768 token tùy gói, cộng thêm trình quản lý ký ức ở các gói trả phí.
- SillyTavern vẽ một đường chấm trong cuộc trò chuyện để cho thấy cửa sổ kết thúc ở đâu. Công cụ của nó là tiện ích mở rộng Summarize, Author's Note và các mục World Info.
- Với khóa API của riêng bạn, bạn tự đặt kích thước cửa sổ. Khoảng 16.000 đến 32.000 token hoạt động tốt hơn mức tối đa của mô hình, và phần lớn nhà cung cấp tính phí thấp hơn nhiều cho phần prompt họ đã thấy trước đó. Hướng dẫn về khóa API có bảng giá.
Một số ứng dụng quảng cáo bộ nhớ không giới hạn. Chúng cũng có giới hạn như mọi ứng dụng khác. Thứ chúng có là một cách quyết định giữ lại tin nhắn cũ nào và bỏ tin nhắn nào. Những ứng dụng trung thực sẽ giải thích cách họ quyết định.
Nơi bản tóm tắt được viết tự động
LonelyTavern là ứng dụng trò chuyện với nhân vật dùng khóa API riêng, dành cho iPhone và Android. Những cuộc trò chuyện dài vẫn mạch lạc nhờ bản tóm tắt câu chuyện được cập nhật liên tục, bộ nhớ tự động về nhân vật và địa điểm, và một đồng hồ câu chuyện ghi lại thời điểm mọi việc xảy ra. Bạn chọn nhà cung cấp, mô hình và kích thước cửa sổ. Miễn phí, không tài khoản, không quảng cáo, 18+.
Hướng dẫn liên quan: Cách viết thẻ nhân vật hiệu quả · Nhập vai với AI cần khóa API nào · tất cả hướng dẫn.
Nguồn
- OpenAI: trạng thái hội thoại và Anthropic: cửa sổ ngữ cảnh: mỗi yêu cầu bắt đầu từ con số không, tin nhắn cũ nhất bị bỏ trước, cửa sổ dài làm chất lượng giảm
- Gemini API: token: khoảng bốn ký tự mỗi token; Chroma: Context Rot: đầu vào dài làm giảm khả năng nhớ lại trên 18 mô hình
- Character.AI: Story Memory và Facts và ô ghi nhớ
- JanitorAI: token, chat memory, kích thước ngữ cảnh khi dùng proxy
- Chai: FAQ (không nhắc đến khả năng ghi nhớ); r/ChaiApp về giới hạn 625 ký tự (người dùng kể lại)
- SpicyChat: token và ngữ cảnh; SillyTavern: cài đặt ngữ cảnh, Summarize, World Info
- Người dùng kể lại: giả thuyết “ghi đè”, cách các ứng dụng chat xử lý bộ nhớ
Character.AI, JanitorAI, Chai, SpicyChat, SillyTavern, OpenAI, Anthropic và Google là các sản phẩm độc lập của chủ sở hữu tương ứng. LonelyTavern không liên kết với bên nào trong số đó và cũng không được bên nào bảo trợ. Các giới hạn và tuyên bố được ghi nhận từ trang của họ vào ngày 18 tháng 9 năm 2026 và có thể đã thay đổi kể từ đó.
