Sistem AI modern seperti Large Language Model (LLM) sering kali memberikan jawaban dengan percaya diri, bahkan ketika mereka sebenarnya tidak tahu jawabannya. Fenomena ini disebut hallucination — model menghasilkan teks yang terdengar masuk akal tapi secara faktual salah. Untuk aplikasi produksi, ini bisa berbayanya: diagnosis medis yang salah, keputusan finansial yang keliru, atau kode yang gagal diam-diam.
Artikel ini membahas bagaimana membangun sistem AI yang mampu mengenali batas pengetahuannya sendiri. Konsepnya sederhana: model tidak hanya menghasilkan jawaban, tapi juga mengukur seberapa “yakin” dirinya dengan jawaban tersebut. Teknik utamanya mencakup uncertainty estimation (mengukur ketidakpastian), calibration (memastikan skor kepercayaan sesuai dengan probabilitas benar yang sebenarnya), dan out-of-distribution detection (mengenali ketika input di luar data latih).
Di praktiknya, ada beberapa pendekatan yang bisa diimplementasikan. Monte Carlo Dropout menjalankan model beberapa kali dengan dropout aktif dan mengukur varians output — varians tinggi berarti model tidak yakin. Ensemble methods menggunakan beberapa model sekaligus dan membandingkan hasilnya. Confidence scoring menghasilkan skor numerik yang bisa di-threshold: di bawah threshold, sistem bisa menolak menjawab atau mengarahkan ke manusia. Kombinasi ketiga pendekatan ini menciptakan lapisan keamanan yang robust.
Implementasi tidak harus dimulai dari nol. Framework seperti LangChain dan LlamaChain menyediakan modul bawaan untuk evaluasi kepercayaan. Untuk LLM API, Anda bisa menggunakan logprobs yang dikembalikan oleh model untuk mengukur kepercayaan token per token. Kuncinya adalah membangun pipeline di mana setiap output AI melewati pengecekan kepercayaan sebelum mencapai pengguna akhir.
Sumber asli: freecodecamp.org