Telemetri Server Langsung
Data diambil langsung dari penghitung atomik gateway dan runtime.MemStats proses Go.
Gagal memuat telemetri dari endpoint /api/stats.
Penguji Prompt & Ambang Kemiripan
Kirim prompt pertama untuk mengisi cache (MISS), lalu kirim parafrasa atau geser slider threshold untuk menguji HIT dan BYPASS.
Belum Ada Permintaan Diuji
Tekan tombol Kirim ke /v1/chat/completions di sebelah kiri atau pilih skenario cepat untuk melihat status HIT/MISS, skor cosine similarity, dan perbandingan latensi.
Memproses Permintaan Proxy...
Menghitung vektor embedding, memeriksa indeks memori, dan menghubungi upstream bila terjadi cache miss.
Permintaan gagal diproses.
Belum ada pembanding di indeks.
Perbandingan Latensi
Respons Model (gpt-4o-mini)
Inspeksi Header HTTP X-Kecil-*
Inspektor Entri Cache Terbaru
Daftar vektor prompt yang sedang aktif di memori dan database SQLite WAL beserta hitung mundur masa berlaku (TTL).
Memuat daftar entri cache dari SQLite...
Gagal memuat entri cache dari /api/entries.
Indeks Cache Masih Kosong
Belum ada prompt tersimpan di SQLite maupun memori. Kirim permintaan pertama melalui panel Penguji Prompt di atas untuk melihat entri muncul di sini.
| Prompt Tersimpan | Namespace | Hit | Skor Terakhir | Token | Sisa TTL | Aksi |
|---|
Integrasi Langsung ke Aplikasi
Arahkan baseURL SDK OpenAI ke alamat gateway ini tanpa mengubah struktur payload aplikasi.