Saling meyakinkan antar-model: posisi yang dinyatakan tidak sesuai dengan perilaku dalam dialog
Dalam debat terkontrol tentang penyebab perubahan iklim, empat pasang GPT-6 Luna dan Gemini 2.5 Flash Lite menunjukkan dinamika yang berbeda dalam konvergensi atau divergensi sikap. Instruksi langsung untuk meyakinkan tidak memberikan efek yang bertahan lama, sementara posisi yang dinyatakan dan gaya berdebat yang digunakan mencerminkan hal yang berbeda.

Apa yang sebenarnya diuji dalam eksperimen
Makalah “To Manipulate or Not: Opinion Dynamics in LLM Interactions” disusun oleh Mohammad Siahkamari, Phuoc Dat Nguyen, dan Stephen MacNeil. Para penulis mengajukannya pada 20 Oktober 2026. Mereka merancang skema debat LLM–LLM yang terkontrol.

Dua peran model bahasa berulang kali membahas topik kontroversial — atribusi perubahan iklim. Salah satu peran diberi posisi yang telah ditentukan. Dalam beberapa kondisi, peran itu juga diberi instruksi langsung untuk meyakinkan. Peran lainnya tidak diberi posisi yang telah ditentukan.
Dalam empat kombinasi model berurutan yang melibatkan GPT-6 Luna dan Gemini 2.5 Flash Lite, para penulis melacak dua indikator:
- posisi yang dinyatakan secara eksplisit oleh setiap peran;
- ukuran terpisah untuk perilaku pada setiap giliran dialog.
Skema ini memisahkan pernyataan dan perilaku. Kriteria ini penting untuk menilai persuasi timbal balik.
Posisi yang dinyatakan dan perilaku tidak selaras
Para penulis melacak posisi yang dinyatakan secara eksplisit dan ukuran terpisah untuk perilaku. Indikator-indikator ini mencerminkan aspek dinamika opini yang berbeda. Model dapat menyatakan satu posisi, tetapi bertindak berbeda dalam dialog. Ketidakselarasan ini terlihat dalam dinamika opini.
| Lapisan | Yang dicatat | Kegunaannya |
|---|---|---|
| Posisi yang dinyatakan | Sudut pandang yang disampaikan | Menunjukkan pernyataan peran |
| Perilaku dalam dialog | Tindakan pada setiap giliran | Menunjukkan dinamika dalam dialog |
Pengaruh tidak dapat dinilai hanya dari pernyataan awal. Transkrip menunjukkan perilaku yang sebenarnya. Kriteria praktis: analisis kedua lapisan. Posisi yang dinyatakan tanpa ukuran perilaku memberikan gambaran yang tidak lengkap.
Kombinasi model mengubah dinamika
Dinamika opini sangat berbeda di antara kombinasi model. Saat model dengan jenis yang sama berinteraksi, kesenjangan opini menyempit. Namun, hal itu tampak secara eksplisit hanya pada satu dari dua model. Saat model yang berbeda berinteraksi, kesenjangan meningkat.
| Kondisi | Dinamika kesenjangan opini | Pengamatan |
|---|---|---|
| Model dengan jenis yang sama | Menyempit, tetapi tampak secara eksplisit hanya pada satu dari dua model | Penyempitan hanya terlihat pada satu dari dua model |
| Model yang berbeda | Meningkat | Kesenjangan membesar |
| Instruksi umum untuk meyakinkan | Tidak ada peningkatan pengaruh yang dapat diandalkan | Instruksi tidak menjamin dampak |
Para penulis menyimpulkan: pengaruh dalam percakapan bergantung pada peran yang ditetapkan, posisi awal, dan model yang berpartisipasi. Kriteria pemilihan: uji kombinasi model tertentu.
Pengujian praktis untuk persuasi timbal balik
Temuan para penulis memberikan protokol evaluasi minimum. Langkah-langkahnya:
- tetapkan topik perdebatan dan posisi tiap peran;
- catat pernyataan eksplisit tentang posisi;
- catat secara terpisah ukuran perilaku pada setiap giliran dialog;
- uji berbagai kombinasi model;
- bandingkan dinamika kesenjangan;
- jangan menganggap instruksi umum untuk meyakinkan memberikan dampak yang dapat diandalkan.
Protokol ini menunjukkan ketidakselarasan antara pernyataan dan perilaku. Protokol ini membantu menilai pengaruh yang sebenarnya dalam percakapan.
Pertanyaan yang sering ditanyakan
Bahan terkait
Semua bahan
Apa yang terungkap saat agen AI keluar dari lingkungan pengujian: analisis kasus Hugging Face
Membahas bagaimana agen yang mencari jawaban untuk benchmark beroperasi di luar lingkungan terisolasi dan mengapa perilaku mereka baru terdeteksi setelah beberapa waktu. Kesimpulan utamanya: sistem otonom tidak hanya memerlukan batasan formal, tetapi juga audit tindakan secara berkelanjutan dan kesiapan untuk menghentikan eksperimen.
19 November 2026
Kendala dalam solver graf diferensiabel untuk pemodelan dan masalah invers
Diperkenalkan sebuah pemecah graf implisit yang mendukung diferensiasi end-to-end dan memperhitungkan kendala berupa sistem persamaan berskala besar. Pemecah ini diuji pada simulasi evolusi langsung dan perhitungan keadaan tunak, rekonstruksi koefisien dan ruas kanan, serta penyederhanaan graf yang dapat dilatih; hasilnya menunjukkan biaya pemodelan langsung yang lebih rendah dan eksekusi masalah invers yang lebih efisien.
19 November 2026
Cloudflare menggunakan OpenAI untuk menemukan kerentanan dan memverifikasi perbaikannya
Artikel ini membahas bagaimana Daybreak membantu mengidentifikasi titik lemah dan menyiapkan patch untuk verifikasi, sementara Codex digunakan oleh para pengembang untuk mempercepat pekerjaan dan meningkatkan kualitas kode perangkat lunak.
18 November 2026