Kenapa Perlu Knowledge Base
Banyak alur kerja agentic itu berulang: pertanyaan yang mirip, dokumen referensi yang sama dibaca ulang, atau konteks proyek yang nggak berubah dari sesi ke sesi. Kalau semua ini dilempar ke model setiap kali, kredit kamu habis buat hal yang sebenarnya bisa dijawab dari cache lokal.
Idenya sederhana: taruh lapisan penyimpanan di antara user dan gateway. Sebelum manggil Worker atau Agentic, cek dulu apakah jawabannya sudah ada di tempat kamu sendiri.
Pola Dasarnya
Nggak perlu database canggih untuk mulai — file JSON, SQLite, atau bahkan folder markdown terstruktur sudah cukup. Yang penting ada dua bagian:
- Penyimpanan — tempat menaruh pasangan pertanyaan/jawaban, ringkasan dokumen, atau catatan referensi yang sering dipakai ulang.
- Pencarian — cara cepat menemukan entri yang relevan dengan pertanyaan baru, entah pakai pencocokan kata kunci sederhana atau pencarian embedding kalau proyek kamu sudah butuh itu.
Alur pseudocode-nya kira-kira begini — tool-agnostic, jadi tinggal sesuaikan dengan bahasa/stack yang kamu pakai:
// 1. cek knowledge base lokal dulu
const hit = kb.search(pertanyaan);
if (hit && hit.confidence > 0.8) {
// 2. langsung pakai, tanpa panggilan API
return hit.answer;
}
// 3. baru panggil model kalau memang belum ada jawabannya
const jawaban = await callGateway({ model: "Worker", prompt: pertanyaan });
// 4. simpan balik supaya next time nggak perlu manggil lagi
kb.save(pertanyaan, jawaban);
Kapan Baru Panggil Model
Knowledge base lokal cuma bagus untuk hal yang sifatnya faktual dan stabil — dokumentasi internal, jawaban FAQ, hasil analisis yang nggak berubah tiap hari. Begitu pertanyaannya butuh penalaran baru atau konteks yang belum pernah ada, itu saatnya lempar ke gateway:
- Retrieval dulu — ambil potongan referensi paling relevan dari knowledge base kamu.
- Kalau retrieval saja cukup menjawab, selesai — nggak ada panggilan API sama sekali.
- Kalau butuh sintesis atau kesimpulan baru dari potongan-potongan itu, baru panggil Worker (kalau tugasnya masih sederhana) atau Agentic (kalau butuh penalaran lebih dalam).
Contoh Alur Sederhana
- User bertanya, sistem cek knowledge base lokal untuk kecocokan kuat.
- Kalau ketemu jawaban dengan confidence tinggi, langsung dikembalikan — nol kredit terpakai.
- Kalau tidak ketemu, ambil potongan referensi paling relevan (kalau ada) sebagai konteks tambahan.
- Panggil Worker dengan konteks itu; kalau tugasnya butuh penalaran berat, baru naik ke Agentic.
- Simpan hasilnya kembali ke knowledge base, supaya pertanyaan serupa berikutnya nggak perlu panggilan API lagi.
Belum punya kredit?
Buka obrolan dengan bot, pilih paket, dan API key kamu siap dipakai dalam hitungan detik.
Buka @tokenkitabot →