Mengapa Model dengan Percaya Diri Berbohong
Model bahasa besar modern mengesankan dengan kemampuannya menjawab berbagai pertanyaan. Namun di balik kepercayaan diri ini sering kali tersembunyi cacat serius: model dapat memberikan jawaban yang indah dan koheren berdasarkan fakta yang dibuat-buat. Salah satu penyebab utamanya adalah yang disebut ketidakselarasan pengetahuan: pada tahap pra-pelatihan, model menyerap data dalam jumlah besar, dan pada tahap penyesuaian untuk tugas-tugas spesifik, model "diprogram" dengan instruksi baru. Akibatnya, model tidak selalu memahami di mana batas antara apa yang sebenarnya ia ketahui dan di mana area ketidaktahuannya dimulai.
Para peneliti dari tim Joosung Lee dan rekan-rekannya mengusulkan pendekatan yang membantu model untuk dengan jujur mengatakan "saya tidak tahu" ketika jawabannya benar-benar berada di luar kompetensi mereka. Karya ini diterima sebagai Findings of EMNLP 2026 dan dipublikasikan di arXiv.
Evaluasi Pengetahuan pada Tingkat Contoh Spesifik
Kesulitan utamanya adalah memahami apakah model mengetahui jawaban atas pertanyaan spesifik, bukan hanya "topik" secara keseluruhan. Model mungkin sangat ahli dalam satu bidang dan sama sekali tidak memahami bidang yang berdekatan. Oleh karena itu, penulis mengusulkan untuk mengevaluasi pengetahuan secara individual untuk setiap permintaan.
Untuk ini, inferensi multi-sampling digunakan: model diminta beberapa kali dengan pertanyaan yang sama, lalu jawabannya dianalisis untuk melihat seberapa stabil dan konsisten jawaban tersebut. Jika jawaban dihasilkan dengan tingkat keyakinan tinggi dan cocok satu sama lain — kemungkinan besar model benar-benar "mengetahui" topik tersebut. Jika jawaban berubah secara acak atau model memberikan versi yang berbeda — ini adalah sinyal bahwa pengetahuan tidak ada.
Pendekatan ini memberikan indikator yang lebih andal dan berbutir halus daripada sekadar keyakinan model dalam satu generasi. Ini menjadi dasar untuk pelatihan lebih lanjut.
Penyesuaian dengan Mempertimbangkan Apa yang Sudah Diketahui Model
Indikator pengetahuan yang diperoleh tidak digunakan sebagai evaluasi eksternal, melainkan sebagai sinyal kontrol untuk penyesuaian. Idenya adalah model perlu dilatih secara berbeda pada contoh yang berbeda:
- Jika model mengetahui jawabannya — sinyal pelatihan diperkuat untuk memperkuat perilaku yang benar dan tidak kehilangan keterampilan yang sudah ada.
- Jika model tidak mengetahui jawabannya — sinyal diskalakan secara berbeda, dan model juga didorong untuk memberikan jawaban eksplisit "saya tidak tahu", alih-alih menghasilkan teks acak atau setengah masuk akal.
Pendekatan ini membantu menghindari situasi di mana penyesuaian pada data baru "menimpa" batas pengetahuan model dan memaksanya menjawab segala sesuatu, termasuk hal-hal yang tidak dipahaminya. Sebaliknya, model belajar mengenali permintaan yang berada di luar area kompetensinya dan dengan jujur melaporkannya.
Bagaimana Mengukur Bahwa Model Menjadi Lebih Jujur
Mengurangi jumlah halusinasi saja tidak cukup — yang penting adalah model tidak mulai menolak menjawab pertanyaan yang sebenarnya ia ketahui secara massal. Oleh karena itu, para peneliti mengusulkan metrik khusus untuk mengevaluasi ketidakpastian. Metrik ini tidak hanya menilai akurasi pada pertanyaan "dari basis pengetahuan", tetapi juga kemampuan model untuk membedakan contoh yang diketahui dari yang tidak diketahui.
Hasil kunci dari eksperimen: metode yang diusulkan memungkinkan model untuk secara eksplisit mengekspresikan ketidakpastian ketika pengetahuan tidak mencukupi, dan pada saat yang sama tidak kehilangan akurasi pada pertanyaan yang dapat dijawabnya. Pembedaan yang tepat antara yang diketahui dan yang tidak diketahui secara stabil meningkatkan kinerja akhir — artinya model menjadi lebih hati-hati dan andal.
Kesimpulan
Kemampuan untuk mengatakan "saya tidak tahu" bukanlah kelemahan, melainkan bagian penting dari penerapan LLM yang aman. Metode knowledge-weighted fine-tuning mengingatkan kita: untuk melawan halusinasi, tidak perlu "menghafal" lebih banyak fakta. Cukup dengan mengajari model untuk secara jujur mengevaluasi batas-batasnya sendiri dan tidak melampauinya. Pendekatan ini membuat model lebih berguna dalam skenario nyata, di mana lebih baik mendapatkan penolakan yang jujur daripada disinformasi yang penuh keyakinan.
