Panduan · Hemat Kredit

Bangun Knowledge Base Sendiri

Setiap kali agent kamu manggil API untuk pertanyaan yang jawabannya sebenarnya sudah pernah dijawab, itu kredit yang terbuang percuma. Berikut pola sederhana buat mengurangi panggilan yang nggak perlu.

Kenapa Perlu Knowledge Base

Banyak alur kerja agentic itu berulang: pertanyaan yang mirip, dokumen referensi yang sama dibaca ulang, atau konteks proyek yang nggak berubah dari sesi ke sesi. Kalau semua ini dilempar ke model setiap kali, kredit kamu habis buat hal yang sebenarnya bisa dijawab dari cache lokal.

Idenya sederhana: taruh lapisan penyimpanan di antara user dan gateway. Sebelum manggil Worker atau Agentic, cek dulu apakah jawabannya sudah ada di tempat kamu sendiri.

Pola Dasarnya

Nggak perlu database canggih untuk mulai — file JSON, SQLite, atau bahkan folder markdown terstruktur sudah cukup. Yang penting ada dua bagian:

Alur pseudocode-nya kira-kira begini — tool-agnostic, jadi tinggal sesuaikan dengan bahasa/stack yang kamu pakai:

// 1. cek knowledge base lokal dulu
const hit = kb.search(pertanyaan);

if (hit && hit.confidence > 0.8) {
  // 2. langsung pakai, tanpa panggilan API
  return hit.answer;
}

// 3. baru panggil model kalau memang belum ada jawabannya
const jawaban = await callGateway({ model: "Worker", prompt: pertanyaan });

// 4. simpan balik supaya next time nggak perlu manggil lagi
kb.save(pertanyaan, jawaban);

Kapan Baru Panggil Model

Knowledge base lokal cuma bagus untuk hal yang sifatnya faktual dan stabil — dokumentasi internal, jawaban FAQ, hasil analisis yang nggak berubah tiap hari. Begitu pertanyaannya butuh penalaran baru atau konteks yang belum pernah ada, itu saatnya lempar ke gateway:

Contoh Alur Sederhana

  1. User bertanya, sistem cek knowledge base lokal untuk kecocokan kuat.
  2. Kalau ketemu jawaban dengan confidence tinggi, langsung dikembalikan — nol kredit terpakai.
  3. Kalau tidak ketemu, ambil potongan referensi paling relevan (kalau ada) sebagai konteks tambahan.
  4. Panggil Worker dengan konteks itu; kalau tugasnya butuh penalaran berat, baru naik ke Agentic.
  5. Simpan hasilnya kembali ke knowledge base, supaya pertanyaan serupa berikutnya nggak perlu panggilan API lagi.
Catatan: pola ini generik dan nggak terikat tool tertentu — bisa diimplementasikan dengan library apa pun yang kamu suka (file lokal, database ringan, atau sistem pencarian vektor), selama prinsipnya sama: retrieve dulu, baru generate kalau perlu.

Belum punya kredit?

Buka obrolan dengan bot, pilih paket, dan API key kamu siap dipakai dalam hitungan detik.

Buka @tokenkitabot →