LLM Wiki vs RAG: Memori Permanen buat AI Lokal Tanpa Vector DB
Kebanyakan orang langsung lompat ke RAG + vector database begitu AI lokalnya “lupa” tiap sesi. Padahal buat memori personal — siapa kamu, proyek apa yang lagi dikerjain, preferensi tools — RAG itu overkill. RAG bagus buat knowledge base statis skala terabyte, bukan buat konteks yang berubah tiap hari dan cuma beberapa megabyte.
Solusinya: LLM Wiki (konsep dari Andrej Karpathy) dipadukan dengan Google Open Knowledge Format (OKF) dan Model Context Protocol (MCP). Intinya, semua memori disimpan sebagai file Markdown biasa yang saling terhubung (bidirectional linking), bukan vector embedding yang harus di-re-index tiap ada perubahan. Ditambah satu agen “pustakawan” (librarian) yang bertugas membaca, menulis, dan merapikan memori — jadi model AI utama gak perlu mikirin struktur data. Semua jalan offline, file-nya bisa kamu baca sendiri, dan setiap AI agent di mesin kamu berbagi memori yang sama.
Proyek open-source Understory udah implementasi ini: ada web UI, graph visualizer, auto-linking antar konsep, deteksi kontradiksi, dan fitur “dreaming” buat reorganisasi memori saat idle. Cocok buat yang udah capek ngenalin diri ke AI tiap buka sesi baru.