Почему ваш ИИ-персонаж всё забывает и что помогает
Коротко
- ИИ не помнит ваш чат. Приложение каждый раз напоминает ему. Всякий раз, когда вы отправляете сообщение, приложение отправляет ИИ карточку вашего персонажа и столько последних сообщений чата, сколько помещается. ИИ читает это и пишет ответ. Больше у него ничего нет.
- Объём, который помещается, ограничен. Этот предел называется окном контекста. Как только чат становится длиннее окна, самые старые сообщения перестают отправляться. Поэтому и кажется, что персонаж теряет память где-то на 100-м, 300-м или 400-м сообщении, в зависимости от приложения.
- Окно нельзя увеличить, но им можно пользоваться лучше. Держите карточку персонажа короткой, напишите сводку сюжета, а фоновые детали храните в лорбуке, который подгружает их, только когда о них заходит речь. Функция памяти в любом приложении — вариант одной из этих трёх идей.
Что происходит за кулисами
- С каждым сообщением ИИ начинает с нуля. От одного ответа к следующему ничего не переходит, если приложение не отправит это снова.
- Чаты быстро заполняют окно. Окно измеряется в токенах, а токен — это примерно четыре символа английского текста. Пятьдесят обменов репликами набирают около 20 000 токенов, а это больше, чем позволяет большинство приложений. Поэтому первыми уходят самые старые сообщения.
- Общение не меняет ИИ. Популярная теория гласит, что длинные чаты постепенно перезаписывают персонажа. Это не так. Если ваш персонаж «поплыл» к 60-му сообщению, значит, сообщения, которые его определяли, выпали из окна.
- Окно побольше этого не исправит. Приложение отправляет всё окно с каждым сообщением, так что большее окно стоит дороже на каждом ходе. К тому же с длинным окном ИИ-модели справляются хуже, а не лучше.
Что означает каждый симптом
- Персонаж забывает имя или сюжетный поворот, случившийся довольно давно. Это сообщение выпало из окна. Верните факт в сводку, поле памяти или запись лорбука.
- Персонаж повторяется. Окно заполнено его собственными недавними ответами, а ИИ копирует то, что видит чаще всего. Отредактируйте или удалите повторяющиеся строки.
- Персонаж перестаёт быть похожим на себя. Чат оттеснил карточку персонажа, или приложение обрезало карточку. Сделайте карточку короче.
- Персонаж забывает то, что было три сообщения назад. Дело не в окне. Либо приложение отбрасывает гораздо больше, чем следует, либо ИИ-модель слишком слабая. Чтобы понять, что именно, попробуйте то же самое в новом чате.
Что поможет уже сегодня
- Сократите карточку персонажа. Каждое слово в карточке занимает место, которое мог бы использовать чат. Держите карточку в пределах примерно 1500 токенов. В руководстве по карточкам сказано, что сокращать в первую очередь.
- Напишите сводку сами. В большинстве приложений для этого есть поле — оно называется «память», «память чата» или «заметка автора». Запишите туда пять коротких строк фактов, а не абзац сюжета: где вы находитесь, какие сейчас отношения и какие сюжетные линии остаются открытыми.
- Перенесите предысторию в лорбук. Запись лорбука подгружается, только когда в чате появляется её ключевое слово. Запись о брате персонажа ничего не стоит, пока кто-нибудь не скажет «брат». Делайте каждую запись короткой: подгруженная запись занимает место в окне, как и всё остальное.
- Когда персонаж «плывёт», напишите краткое напоминание. Отправьте одно сообщение вне роли и в скобках, из двух предложений: на чём остановилась история и кто такой персонаж. Затем продолжайте.
- Когда чат совсем развалился, начните заново с этим напоминанием. Вставьте свою сводку первым сообщением нового чата. Старую переписку вы теряете, но история остаётся, а персонаж возвращается более чётким, чем был.
Что даёт каждое приложение
- Character.AI не сообщает размер своего окна. Он даёт закреплённые сообщения, поле памяти на 400 символов и Story Memory, которая сама собирает факты, — на платных тарифах всего этого больше. Закреплённые сообщения занимают место в том же окне.
- JanitorAI сообщает, что на его собственной модели окно вмещает около 8000–9000 токенов. Он даёт поле Chat Memory с советом «перечисляйте факты, а не сцены» и рекомендует держать карточку в пределах 1500 токенов.
- Chai ничего не говорит о памяти. По словам пользователей, персонаж ограничен 625 символами текста.
- SpicyChat даёт 4096, 8192 или 32 768 токенов в зависимости от тарифа, а на платных тарифах ещё и менеджер памяти.
- SillyTavern рисует в чате пунктирную линию там, где заканчивается окно. Его инструменты — расширение Summarize, Author's Note и записи World Info.
- Со своим API-ключом размер окна вы задаёте сами. Около 16 000–32 000 токенов работает лучше, чем максимум модели, а большинство провайдеров берут гораздо меньше за ту часть промпта, которую уже видели. Цены есть в руководстве по API-ключам.
Некоторые приложения рекламируют безлимитную память. У них тот же предел, что и у всех. Просто у них есть способ выбирать, какие старые сообщения оставить, а какие отбросить. Честные объясняют, как они выбирают.
Где сводка пишется сама
LonelyTavern — приложение для чатов с персонажами на iPhone и Android, которое работает с вашим собственным ключом. Длинные разговоры остаются связными благодаря постоянно обновляемой сводке сюжета, автоматической памяти о персонажах и местах и сюжетным часам, которые отслеживают, когда что произошло. Провайдера, модель и размер окна выбираете вы. Бесплатно, без аккаунта, без рекламы, 18+.
Другие руководства: Как написать карточку персонажа, которая работает · Какой API-ключ нужен для ролевых игр с ИИ · все руководства.
Источники
- OpenAI: состояние разговора и Anthropic: окна контекста: каждый запрос начинается с нуля, самые старые сообщения отбрасываются первыми, длинные окна работают хуже
- Gemini API: токены: около четырёх символов на токен; Chroma: Context Rot: на длинных входных данных припоминание ухудшается у всех 18 моделей
- Character.AI: Story Memory и факты и поле памяти
- JanitorAI: токены, память чата, размер контекста через прокси
- Chai: FAQ (о памяти ни слова); r/ChaiApp о лимите в 625 символов (отзывы пользователей)
- SpicyChat: токены и контекст; SillyTavern: настройки контекста, Summarize, World Info
- Отзывы пользователей: теория «перезаписи», как чат-приложения работают с памятью
Character.AI, JanitorAI, Chai, SpicyChat, SillyTavern, OpenAI, Anthropic и Google — независимые продукты своих владельцев. LonelyTavern не связан ни с одним из них и не одобрен ими. Лимиты и заявления взяты с их страниц 18 сентября 2026 года и с тех пор могли измениться.
