Ketika Hakim Tidak Objektif: Agen yang Belajar Mandiri Berhenti Membuang Keterampilan yang Tidak Berguna
Bayangkan sebuah agen yang memperluas pustaka keterampilannya sendiri: mencoba pendekatan baru, mempertahankan yang berhasil, dan membuang yang tidak berguna. Agar ini berjalan, diperlukan mekanisme yang mencegah pustaka terisi sampah. Dalam desain agen modern, peran ini dijalankan oleh skill retirement — batasan struktural yang menjamin bahwa gudang keterampilan tidak akan menjadi lebih buruk daripada «tanpa keterampilan sama sekali». Namun, seperti yang ditunjukkan oleh penelitian terbaru dari sekelompok peneliti, jaminan ini memiliki kerentanan tersembunyi: ia bergantung pada penilaian kualitas yang jujur. Dan jika penilaian dilakukan oleh hakim LLM, kejujuran tidak dijamin.
Mengapa retirement itu penting
Agen yang terus-menerus menemukan keterampilan baru memiliki masalah alami: sebagian dari keterampilan tersebut ternyata bukan sekadar tidak berguna, melainkan berbahaya — menghambat pelaksanaan tugas-tugas dasar. Tanpa batasan, pustaka tumbuh tanpa batas, dan kualitas menurun. Skill retirement itu seperti tukang kebun yang mencabut gulma tepat waktu. Mekanisme ini dibangun di atas asumsi bahwa kontribusi setiap keterampilan dapat diukur: jika keterampilan tidak memberikan manfaat, keterampilan itu dihapus.
Tetapi bagaimana mengukur kontribusi ketika tidak ada jawaban acuan? Dalam banyak tugas praktis — menulis laporan, menganalisis teks, menyusun rencana — tidak ada solusi yang benar. Oleh karena itu, alih-alih verifikasi objektif, harus digunakan hakim LLM. Dan di sinilah letak akar masalahnya.
Hakim yang bias: sabotase yang tidak terlihat
Para penulis artikel «The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents» (Zhang, Cui, Wang, Li, Qiu, Zhu, He — karya ini dipresentasikan di COLM 2026 Workshop on Agent Behavior) meneliti apa yang terjadi jika hakim secara sistematis melakukan kesalahan. Mereka mengidentifikasi jenis kesalahan penting — false-pass: ketika hasil yang gagal dianggap berhasil oleh hakim. Tampaknya ini hanya sedikit kemiringan — yah, hakim terlalu lunak. Kenyataannya, ini mengarah pada efek yang tidak terduga: hakim yang bias tidak hanya menambah noise pada penilaian, ia sepenuhnya menonaktifkan mekanisme retirement.
Untuk kemurnian eksperimen, para peneliti memisahkan pengaruh bias itu sendiri dari noise biasa. Ternyata, noise simetris (hakim sama seringnya salah di kedua arah) tidak mengganggu kerja retirement. Namun, asimetri yang condong ke arah keberhasilan palsu merusak segalanya.
Ambang batas tajam yang tidak bisa dilewati
Hal yang paling menarik adalah bagaimana kegagalan itu terjadi. Ia tidak bertahap. Selama proporsi false-pass tidak melebihi sekitar 0,45 — artinya hakim melewatkan kurang dari setengah kegagalan — mekanisme tetap bekerja. Tetapi begitu melewati ambang ini, retirement berbasis kontribusi berhenti berfungsi sepenuhnya. Tidak ada peningkatan volume data atau jumlah iterasi yang membantu: ambang batas tidak dapat dilewati kembali hanya dengan mengumpulkan lebih banyak contoh.
Para peneliti menguji ini dalam berbagai kondisi: pada lingkungan generasi laporan tanpa referensi (dengan validasi silang pada generasi kode) dan pada domain lain, dengan frekuensi kegagalan yang berbeda. Kegagalan mekanisme terulang di mana-mana. Satu-satunya pengecualian adalah verifikator-hakim yang hampir sempurna, di mana proporsi kesalahan mendekati nol, tetapi ini jarang terjadi pada hakim LLM nyata.
Detail penting: mereka membedakan antara retirement sejati (penghapusan keterampilan yang benar-benar tidak berguna) dan «cap-eviction» (pengusiran keterampilan lama oleh yang baru karena alasan formal). Yang dinonaktifkan adalah yang pertama, dan ini adalah efek universal, bukan artefak dari lingkungan tertentu.
Degradasi «senyap»: mengapa masalahnya tidak terlihat
Jika mekanismenya rusak, orang akan berharap metrik langsung menunjukkan penurunan. Tetapi tidak. Para penulis menemukan bahwa dalam beberapa mode, kualitas penilaian tetap stabil meskipun retirement dinonaktifkan. Degradasi hanya muncul di tempat di mana korupsi hakim yang sama juga menguras sintesis keterampilan baru. Jika sintesis berjalan, gambaran keseluruhan terlihat normal.
Kurator yang dinonaktifkan itu «senyap»: tidak ada satu pun indikator agregat yang menunjukkan ketidakhadirannya. Secara eksternal, agen terus bekerja, masih menghasilkan laporan, tetapi pustakanya perlahan-lahan terisi sampah, dan potensi pertumbuhannya menurun. Ini membuat masalah ini sangat berbahaya: mustahil untuk menyadarinya dalam pengujian biasa.
Cara memeriksa hakim sebelum deployment
Para penulis menawarkan cara audit yang murah dan praktis — injeksi cacat. Idenya sederhana: sebelum deployment, operator sengaja memasukkan keterampilan yang jelas-jelas tidak berguna ke dalam pustaka (atau menyodorkan hasil yang jelas-jelas buruk kepada hakim) dan mengamati bagaimana hakim bereaksi. Jika hakim menolaknya — semuanya baik-baik saja. Jika hakim melewatkannya — berarti sistem berada di sisi lain dari ambang batas, dan retirement kemungkinan besar sudah tidak berfungsi.
Tes semacam itu tidak memerlukan infrastruktur yang rumit dan hanya memakan sedikit waktu. Tes ini menunjukkan bukan hanya kesalahan titik, tetapi di sisi mana ambang batas hakim berada — sehingga keputusan dapat diambil sebelum agen mulai mengumpulkan keterampilan yang tidak berguna dalam mode produksi.
Sebagai penutup
Penelitian ini tentang keamanan perilaku, bukan tentang kinerja. Ia tidak menjanjikan bahwa agen akan menjadi lebih cepat atau lebih akurat. Ia berbicara tentang hal lain: bahkan mekanisme perlindungan yang konservatif, seperti skill retirement, dapat dinonaktifkan secara diam-diam oleh hakim yang bias, dan sistem akan terus terlihat sehat. Kabar baiknya adalah proses ini dapat didiagnosis dengan tes sederhana sebelum menimbulkan kerusakan nyata. Bagi semua orang yang merancang agen yang belajar mandiri, ini adalah alasan untuk berpikir: seberapa jujur hakim Anda — dan apa yang akan terjadi jika ia tiba-tiba menjadi terlalu lunak.
