Biaya Pengalihan Kendali: Mengapa Mengganti Model di Tengah Tugas Menghabiskan Manfaatnya

17 September 202610 tampilan

Studi tentang apa yang terjadi ketika tugas panjang agen coding dilanjutkan oleh model lain: kesinambungan konteks penuh saat beralih ke model yang lebih kuat jarang sepadan dan hanya memberikan sebagian dari peningkatan kualitas. Sebaliknya, langkah sebaliknya — beralih ke model murah setelah penalaran berat — tampak menguntungkan dari segi rasio harga dan hasil.

Biaya Pengalihan Kendali: Mengapa Mengganti Model di Tengah Tugas Menghabiskan Manfaatnya

Tugas panjang agen pengkode bukanlah satu permintaan, melainkan puluhan: pemanggilan model, akses ke alat, penyuntingan berkas, pengulangan pengujian. Dan hampir di setiap pengulangan itu muncul pikiran: bagaimana kalau mengganti model sekarang juga?

Mengapa pengalihan di tengah jalan tampak menguntungkan

Ekonomi di sini sederhana. Model kuat lebih mahal per token, tetapi lebih baik dalam bernalar. Model lemah lebih murah, tetapi tersendat pada hal yang rumit. Dari sini muncul dua manuver alami:

  • Eskalasi — ketika model murah tersangkut, kita sambungkan model mahal dan kuat.
  • Penurunan tingkat — ketika bagian sulit sudah terlewati, kita kembali ke model murah agar tidak membayar lebih untuk pekerjaan rutin.

Di atas kertas, rute hibrida tampak ideal: model mahal hanya dibayar di tempat yang benar-benar membutuhkannya. Tetapi agen meneruskan ke model berikutnya bukan hanya berkas dan status repositori. Ia meneruskan riwayat: rantai penalaran, keluaran alat, upaya yang menemui jalan buntu, keputusan sementara. Pihak penerima melanjutkan lintasan yang dibangun oleh model lain — dengan gaya berbeda, tingkat kedetailan berbeda, kebiasaan berbeda. Justru momen inilah yang dibahas para penulis pracetak «The Handoff Tax: Continuing Non-Native Trajectories in LLM Agents» (arXiv:2608.24358, 25 Agustus 2026).

Bagaimana eksperimennya disusun

Karya ini bertumpu pada pasangan model: yang murah dan kurang cakap (dalam teks artikel disebut LC, low cost) melawan yang mahal dan lebih kuat (HC, high cost). Pasangan diambil dari dua keluarga — Claude dan GPT, jadi pengujian dilakukan bukan pada satu vendor, melainkan pada dua sekaligus, yang jelas meningkatkan nilai kesimpulannya.

Tiga hal diubah:

  1. Arah transfer — ke atas, menuju model yang lebih kuat, dan ke bawah, menuju model yang lebih lemah.
  2. Momen pengalihan di dalam tugas panjang.
  3. Format transfer konteks — yang oleh para penulis disebut antarmuka.

Poin terakhir adalah yang paling menarik. Tiga varian dibandingkan: transfer penuh seluruh lintasan, pemadatan (ringkasan padat dari riwayat), dan penghapusan lintasan dengan hanya mempertahankan status repositori. Dengan kata lain, pertanyaannya dirumuskan begini: seberapa banyak "pemikiran" orang lain yang sebenarnya layak ditunjukkan kepada model baru?

Hasil utama: pajak atas transfer

Kesimpulannya menyejukkan. Pada eskalasi, transfer penuh riwayat menutup kurang dari separuh kesenjangan kualitas antara model lemah dan model kuat — dan disertai tambahan biaya yang terasa. Artinya Anda membayar dengan tarif model mahal, tetapi hanya memperoleh sebagian dari keunggulannya. Selisih inilah yang oleh para penulis disebut handoff tax — pajak atas pengalihan kendali.

Terlebih lagi, ini bukan artefak satu vendor: gambaran itu terulang di kedua keluarga. Penjelasan yang logis — model kuat menghabiskan konteks untuk menelaah labirin orang lain, sebagian mengadopsi asumsi keliru dari pendahulunya, dan memulai bukan dari lembaran bersih, melainkan dengan beban. Sebagian kemampuannya habis untuk "membaca buku harian orang lain" alih-alih menyelesaikan tugas.

Asimetri: ke bawah — ya, ke atas — dengan syarat

Pengamatan yang paling berguna adalah bahwa pajak itu tidak simetris. Penurunan tingkat, sebaliknya, menghasilkan titik yang menguntungkan dari segi rasio harga dan kualitas: pengalihan ke model murah setelah penalaran rumit selesai memang berhasil.

Yang lebih menarik lagi, format transfer konteks yang disukai berubah menjadi kebalikannya bergantung pada arah:

  • Pada eskalasi, yang lebih membantu adalah pemangkasan informasi tentang lintasan model lemah. Lebih sedikit sampah — awal yang lebih bersih.
  • Pada penurunan, penghapusan lintasan model kuat justru menurunkan kualitas. Di sini riwayat berfungsi sebagai penopang, dan sebaiknya dipertahankan.

Penjelasannya terasa jelas: di belakang model lemah terbentang jejak jalan buntu, dan bagi model kuat itu hanya mengganggu. Sedangkan di belakang model kuat ada rencana yang teruji dan keputusan yang benar, yang bisa diikuti model lemah seperti mengikuti rel. Ini sudah interpretasi saya, bukan kesimpulan literal artikel, tetapi selaras dengan angkanya.

Apa yang harus dilakukan dalam praktik

Kesimpulan praktisnya adalah sebagai berikut:

  • Beralihlah lebih jarang daripada yang Anda inginkan. Setiap pengalihan bukan operasi gratis, melainkan transaksi dengan harga yang tidak diketahui.
  • Eskalasilah di batas, bukan "saat tersangkut". Titik yang baik adalah siklus yang selesai dengan kegagalan yang jelas (misalnya, pengujian terus-menerus gagal), bukan di tengah penalaran.
  • Ke atas — padatkan, ke bawah — pertahankan. Sebelum menyerahkan ke model kuat, susunlah ringkasan padat: apa yang sudah dilakukan, apa yang tidak berhasil, batasan apa saja yang ada. Transkrip lengkap dari upaya-upaya tidak perlu dipertahankan.
  • Ke bawah boleh diberikan secara berlimpah. Model lemah bermanfaat melihat rencana dan suntingan yang ditinggalkan model kuat.
  • Hitunglah pajak Anda sendiri. Selisih antara "riwayat penuh" dan "pemadatan" pada eskalasi adalah A/B test siap pakai yang layak dijalankan pada tugas Anda sendiri: murah dan cepat menunjukkan apakah Anda membayar pajak atau tidak.

Satu pemikiran terpisah: kadang lebih murah untuk tidak mengganti model sama sekali di tengah jalan. Jika model kuat hanya dibutuhkan untuk perencanaan, lebih logis memisahkan peran sejak awal — rencana dari model kuat, eksekusi oleh model lemah — daripada mengadakan pengalihan kendali di dalam satu lintasan.

Kesimpulan

Mengganti model di tengah tugas bukanlah tuas pengoptimalan anggaran yang gratis, melainkan operasi dengan harganya sendiri. Transfer lintasan orang lain memakan sebagian keunggulan yang Anda bayar. Eskalasi dalam pengertian ini lebih berisiko daripada yang tampak; penurunan tingkat, sebaliknya, bekerja secara terprediksi. Dan trik praktis utamanya bukan terletak pada pemilihan model, melainkan pada pemilihan apa tepatnya yang Anda tunjukkan kepada model tersebut. Hasilnya diperoleh pada agen pengkode dan pasangan model yang spesifik, jadi tidak sepatutnya ditransfer satu lawan satu ke semua skenario — tetapi sebagai hipotesis kerja untuk pengukuran Anda sendiri, hasil ini cukup memadai.

Pertanyaan yang sering ditanyakan

Bahan terkait

Semua bahan
Biaya Pengalihan Kendali: Mengapa Mengganti Model di Tengah Tugas Menghabiskan Manfaatnya