Kenapa karakter AI Anda lupa, dan apa yang membantu
Jawaban singkat
- AI tidak mengingat obrolan Anda. Aplikasilah yang mengingatkannya setiap kali. Setiap kali Anda mengirim pesan, aplikasi mengirimkan kartu karakter Anda ke AI beserta sebanyak mungkin obrolan terbaru yang muat. AI membacanya lalu menulis balasan. Selain itu, ia tidak punya apa-apa.
- Ada batas seberapa banyak yang muat. Batas ini disebut jendela konteks. Begitu obrolan Anda lebih panjang dari jendela itu, pesan-pesan paling lama tidak lagi diikutkan. Itulah sebabnya karakter seperti kehilangan ingatan di sekitar pesan ke-100, ke-300, atau ke-400, tergantung aplikasinya.
- Anda tidak bisa memperbesar jendelanya, tetapi bisa memakainya dengan lebih baik. Buat kartu karakter tetap pendek, tulis ringkasan cerita, dan simpan detail latar di lorebook yang hanya dimuat saat detail itu muncul. Fitur memori di aplikasi mana pun adalah versi dari salah satu dari tiga ide ini.
Apa yang terjadi di balik layar
- AI mulai dari nol di setiap pesan. Tidak ada yang terbawa dari satu balasan ke balasan berikutnya kecuali aplikasi mengirimkannya lagi.
- Obrolan cepat memenuhi jendela. Jendela diukur dalam token, dan satu token kira-kira empat karakter teks bahasa Inggris. Lima puluh kali balas-membalas berjumlah sekitar 20.000 token, lebih dari yang diizinkan kebanyakan aplikasi. Jadi pesan paling lama yang pertama tersingkir.
- Mengobrol tidak mengubah AI. Ada teori populer yang mengatakan obrolan panjang perlahan menimpa karakter. Tidak benar. Saat karakter Anda melenceng di pesan ke-60, itu karena pesan-pesan yang membentuk karakternya sudah keluar dari jendela.
- Jendela yang lebih besar tidak akan menyelesaikannya. Aplikasi mengirim seluruh isi jendela bersama setiap pesan, jadi jendela yang lebih besar membuat setiap giliran lebih mahal. Dan model AI justru makin buruk dalam memakai jendela yang panjang, bukan makin baik.
Arti tiap gejala
- Karakter lupa nama atau alur cerita dari beberapa waktu lalu. Pesan itu sudah keluar dari jendela. Masukkan kembali faktanya ke ringkasan, kolom memori, atau entri lorebook.
- Karakter terus mengulang hal yang sama. Jendela dipenuhi balasan-balasan terbarunya sendiri, dan AI meniru apa yang paling sering dilihatnya. Edit atau hapus baris yang berulang.
- Karakter tidak lagi terdengar seperti dirinya. Obrolan sudah menyingkirkan kartu karakter, atau aplikasi memotong kartunya. Buat kartunya lebih pendek.
- Karakter lupa sesuatu dari tiga pesan lalu. Ini bukan soal jendela. Entah aplikasinya membuang jauh lebih banyak dari seharusnya, atau model AI-nya terlalu lemah. Coba hal yang sama di obrolan baru untuk mengetahui yang mana.
Apa yang membantu, malam ini
- Persingkat kartu karakter. Setiap kata di kartu memakan ruang yang bisa dipakai obrolan. Jaga kartu di bawah sekitar 1.500 token. Panduan kartu menjelaskan apa yang dipangkas lebih dulu.
- Tulis ringkasannya sendiri. Kebanyakan aplikasi punya kolom untuk ini, bernama memory (memori), chat memory, atau author's note (catatan penulis). Isi dengan lima baris fakta singkat, bukan satu paragraf cerita: di mana Anda berdua berada, seperti apa hubungannya sekarang, dan alur cerita mana yang masih terbuka.
- Pindahkan latar belakang ke lorebook. Entri lorebook hanya dimuat saat kata pemicunya muncul di obrolan. Entri tentang saudara laki-laki karakter tidak memakan biaya sampai seseorang menyebut "saudara". Buat tiap entri tetap pendek, karena entri yang dimuat memakan ruang di jendela sama seperti isi lainnya.
- Saat karakter melenceng, tulis rekap. Kirim satu pesan, di luar karakter dan di dalam tanda kurung, berisi dua kalimat: di mana posisi cerita, dan siapa karakternya. Lalu lanjutkan.
- Saat obrolan sudah terlalu kacau, mulai lagi dengan rekap itu. Tempel ringkasan Anda sebagai pesan pertama di obrolan baru. Anda kehilangan transkrip lama, tetapi ceritanya tetap ada, dan karakternya kembali lebih tajam dari sebelumnya.
Apa yang diberikan tiap aplikasi
- Character.AI tidak mengungkapkan seberapa besar jendelanya. Character.AI memberi Anda pesan yang disematkan, kotak memori 400 karakter, dan Story Memory yang mengumpulkan fakta sendiri, dengan jatah lebih besar untuk masing-masing di paket berbayar. Pesan yang disematkan memakan ruang dari jendela yang sama.
- JanitorAI menyebut jendelanya menampung sekitar 8.000 sampai 9.000 token pada modelnya sendiri. JanitorAI memberi Anda kolom Chat Memory, dengan saran "buat daftar fakta, bukan adegan", dan menyarankan kartu di bawah 1.500 token.
- Chai tidak menjelaskan apa pun soal memori. Pengguna melaporkan bahwa satu karakter dibatasi 625 karakter teks.
- SpicyChat memberi Anda 4.096, 8.192, atau 32.768 token tergantung paket, ditambah pengelola memori di paket berbayar.
- SillyTavern menggambar garis putus-putus di obrolan untuk menunjukkan di mana jendela berakhir. Alat-alatnya adalah ekstensi Summarize, Author's Note, dan entri World Info.
- Dengan kunci API sendiri, Anda menentukan ukuran jendela sendiri. Sekitar 16.000 sampai 32.000 token bekerja lebih baik daripada batas maksimum model, dan kebanyakan penyedia menagih jauh lebih murah untuk bagian prompt yang sudah pernah mereka lihat. Panduan kunci API memuat harganya.
Beberapa aplikasi mengiklankan memori tanpa batas. Batas mereka sama dengan yang lain. Yang mereka punya hanyalah cara menentukan pesan lama mana yang disimpan dan mana yang dibuang. Yang jujur menjelaskan cara mereka menentukannya.
Tempat ringkasan tertulis dengan sendirinya
LonelyTavern adalah aplikasi chat karakter untuk iPhone dan Android yang memakai kunci API Anda sendiri. Percakapan panjang tetap runtut berkat ringkasan cerita yang terus diperbarui, memori otomatis untuk karakter dan tempat, serta jam cerita yang mencatat kapan sesuatu terjadi. Anda memilih penyedia, model, dan ukuran jendela. Gratis, tanpa akun, tanpa iklan, 18+.
Panduan terkait: Cara menulis kartu karakter yang efektif · Kunci API mana yang Anda butuhkan untuk roleplay AI · semua panduan.
Sumber
- OpenAI: conversation state dan Anthropic: context windows: setiap permintaan mulai dari nol, pesan paling lama dibuang lebih dulu, jendela panjang menurunkan kualitas
- Gemini API: token: sekitar empat karakter per token; Chroma: Context Rot: input panjang menurunkan daya ingat di 18 model
- Character.AI: Story Memory dan Facts dan kotak memori
- JanitorAI: token, chat memory, ukuran konteks proxy
- Chai: FAQ (tidak membahas memori); r/ChaiApp tentang batas 625 karakter (laporan pengguna)
- SpicyChat: token dan konteks; SillyTavern: pengaturan konteks, Summarize, World Info
- Laporan pengguna: teori "menimpa", cara aplikasi chat menangani memori
Character.AI, JanitorAI, Chai, SpicyChat, SillyTavern, OpenAI, Anthropic, dan Google adalah produk independen milik pemiliknya masing-masing. LonelyTavern tidak berafiliasi dengan atau didukung oleh satu pun dari mereka. Batas dan pernyataan dibaca dari halaman mereka pada 18 September 2026 dan mungkin sudah berubah sejak itu.
