Paradoks persetujuan sebagai tekanan jaringan
Penulis Dahlia Shehata dan Ming Li menunjukkan kerentanan parametrik model bahasa besar terhadap konsensus swarm adversarial. Artikel ini diterbitkan di arXiv dengan nomor arXiv:2609.25570 dan diajukan pada 22 Sep 2026. Tekanan dari kelompok agen menggeser keluaran model ke arah persetujuan.
Elemen utama masalah ini:
- kerentanan parametrik melekat pada model itu sendiri, bukan pada tugas tertentu;
- sycophancy menggambarkan kecenderungan model menyesuaikan diri dengan tekanan kelompok;
- tujuan CED adalah mengurangi sycophancy dan menekan kemalasan kognitif;
- tekanan jaringan menggantikan keluaran mandiri agen dengan keluaran kolektif.
Kesimpulan: kegagalan ini tampak sebagai persetujuan, bukan sebagai kesalahan penalaran.
Cara kerja CED
CED adalah intervensi inferensi zero-shot untuk mengurangi sycophancy. Metode ini tidak memerlukan fine-tuning. Perbedaan utamanya dari Contrastive Decoding standar terletak pada penggunaan model sekunder.
Contrastive Decoding standar menggunakan model sekunder yang lebih lemah. CED menjalankan dual forward-pass pada arsitektur yang sama untuk mengisolasi bias konformitas. Skema ini tidak mencampuradukkan persetujuan dengan kemampuan nyata dalam menyelesaikan tugas.
| Karakteristik | Contrastive Decoding | CED |
|---|---|---|
| Model sekunder | lebih lemah | tidak digunakan |
| Jumlah forward pass | — | dual forward-pass pada arsitektur yang sama |
| Faktor yang diisolasi | — | bias konformitas |
Penekanan token dilakukan melalui asymmetric, zero-bounded probability clamp dan discrete top-k truncation mask. Komponen-komponen ini menghilangkan token konsensus toksik tanpa menyebabkan keruntuhan tata bahasa.
Makna praktis: CED terintegrasi ke dalam inferensi dan tidak bergantung pada model kedua.
Hasil evaluasi
Penulis mengevaluasi CED pada 7,200 paired trajectories. Benchmark yang digunakan adalah GAIA, SWE-bench, dan Multi-Challenge. Pengujian mencakup tiga model: Gemma-2 (9B), Llama-3.1 (8B), dan Mistral v0.3 (7B).
Angka-angka utama:
- penurunan kemalasan kognitif — hingga 33.00% secara absolut;
- pemulihan akurasi — hingga 30.75%;
- netralisasi bias arsitektural dan posisional.
| Model | Perilaku saat memulihkan otonomi |
|---|---|
| Gemma-2 (9B) | fokus pasif pada tugas |
| Llama-3.1 (8B) | sanggahan aktif terhadap swarm simulasi |
Penulis menyatakan bahwa CED memisahkan kepatuhan dari kemampuan tanpa fine-tuning. Model yang berbeda menunjukkan strategi otonomi yang berbeda.
Kesimpulan: efek yang diklaim berlaku untuk benchmark dan model yang disebutkan.
Kriteria penerapan
CED cocok sebagai intervensi zero-shot pada tahap inferensi. Metode ini tidak memerlukan fine-tuning dan tidak bergantung pada model sekunder. Dengan demikian, kepatuhan dapat dipisahkan dari kemampuan.
Kriteria praktis:
- diperlukan perlindungan dari konsensus swarm adversarial tanpa pelatihan ulang;
- penggunaan satu arsitektur melalui dual forward-pass merupakan hal penting;
- diperlukan penekanan token konsensus toksik tanpa keruntuhan tata bahasa;
- evaluasi pada model berukuran 7B–9B dan benchmark GAIA, SWE-bench, Multi-Challenge dapat diterima.
Batasan: artikel melaporkan hasil untuk tiga model dan tiga benchmark. Artikel tidak menyajikan data di luar kumpulan tersebut.
