Gambar dari kamera secara langsung berubah menjadi lintasan — itulah janji utama dari perencana mengemudi end-to-end. Namun, di balik kesederhanaan yang tampak, sering kali tersembunyi kejutan yang tidak menyenangkan: model yang mempelajari perilaku pengemudi dari rekaman mungkin menemukan cara yang lebih mudah untuk "menebak" tindakan yang benar daripada menganalisis situasi jalan secara jujur. Alih-alih hubungan sebab-akibat, model tersebut sering menggunakan kebetulan statistik yang ada dalam data pelatihan.
Mengapa perencana end-to-end terpaku pada detail acak
Perencana end-to-end dilatih berdasarkan prinsip imitasi: mereka diperlihatkan contoh tindakan ahli dan diharapkan untuk mereproduksi keputusan yang sama dalam kondisi serupa. Pendekatan ini berhasil selama data memiliki cukup variasi. Masalahnya, di dekat lintasan ahli hampir selalu ada objek yang hanya terkait secara tidak langsung dengan manuver tersebut. Ini bisa berupa rambu pinggir jalan, fasad bangunan, pagar khas, atau bahkan tiang biasa.
Jika dalam sampel pelatihan objek semacam itu secara teratur muncul pada saat pengemudi, misalnya, mengerem atau berpindah jalur, perencana akan mengingat hubungan ini. Secara formal, model menemukan pola statistik di mana hubungan kausal diharapkan: model mulai menganggap objek tersebut sebagai penyebab tindakan, padahal sebenarnya objek itu hanya menyertainya. Dalam skenario normal, hal ini tidak terlihat karena korelasinya sesuai dengan perilaku aktual. Tetapi begitu situasi jalan menjadi langka — "berekor panjang" — ketergantungan palsu akan terlihat: model mungkin mengerem di tempat yang seharusnya melaju, atau sebaliknya.
Kekacauan kausal semacam ini bersifat senyap dan berbahaya. Ini tidak muncul sebagai kesalahan eksplisit pada pengujian standar, tetapi justru mengurangi ketahanan dalam situasi yang tidak biasa, yang menjadi target sistem bantuan pengemudi modern. Oleh karena itu, sekadar menambahkan lebih banyak contoh ke dalam kumpulan data biasanya tidak berhasil: model akan tetap mencari korelasi apa pun jika korelasi tersebut membantu mengurangi kesalahan pada sampel pelatihan.
Mengapa metrik open-loop tidak menunjukkan penyebab sebenarnya
Bagaimana cara mengetahui apa yang sebenarnya dilihat perencana saat mengambil keputusan? Cara termudah adalah menjalankannya pada skenario yang direkam dan mengukur metrik open-loop klasik: deviasi standar lintasan (L2) dan frekuensi tabrakan. Parameter inilah yang paling sering digunakan saat mengevaluasi mengemudi otonom. Namun, seperti yang ditunjukkan penelitian, metrik semacam itu hampir sepenuhnya ditentukan oleh keadaan kendaraan itu sendiri saat ini: posisi, kecepatan, dan akselerasinya. Metrik tersebut tidak memberikan jawaban atas pertanyaan, elemen pemandangan apa yang memengaruhi manuver.
Bayangkan dua perencana: satu dengan hati-hati menghindari pejalan kaki, yang lain mengerem karena titik terang di aspal yang secara kebetulan sering muncul di dekat pejalan kaki dalam data. Pada metrik open-loop, keduanya akan menunjukkan kesalahan L2 yang rendah dan nol kecelakaan — karena lintasan keluarannya serupa. Tetapi dalam kasus kedua, sistem tidak berguna di dunia nyata: begitu menemui pemandangan tanpa sinyal "spurious", perencana kehilangan orientasi. Metrik biasa tidak melihat hal ini, sehingga tidak dapat memperingatkan tentang kerapuhan perilaku.
Audit kausal tanpa pelatihan ulang
Untuk mengungkap ketergantungan palsu, diperlukan intervensi kausal: kita perlu mengintervensi pemandangan, mengubah elemen individual di dalamnya, dan melihat bagaimana keputusan berubah. Logikanya sederhana: jika setelah mengganti objek latar belakang yang tidak signifikan, perencana mengubah lintasan secara drastis, berarti ia mengandalkan objek tersebut. Tetapi metode analisis kausal klasik memerlukan pelatihan ulang model: untuk setiap intervensi, bobot jaringan saraf besar harus diperbarui lagi. Untuk perencana yang sudah digunakan, ini tidak mungkin — tidak ada yang memiliki sumber daya ekstra untuk pelatihan ulang setelah setiap pengujian dalam operasi nyata.
Para penulis proposal yang tersembunyi di balik akronim CADET memutuskan untuk mengambil jalan yang berbeda. Kerangka kerja mereka bekerja tanpa pelatihan (training-free) dan dapat memeriksa perencana end-to-end yang sudah dilatih sebelumnya tanpa pembaruan parameter sedikit pun. Alih-alih mengubah bobot, CADET menggunakan intervensi yang dirancang dengan baik dalam pemandangan itu sendiri dan melacak bagaimana keluaran perencana bereaksi.
Pendekatan ini membuka tiga kemungkinan sekaligus:
- audit — mengidentifikasi objek spesifik yang menjadi sandaran perencana secara tidak tepat;
- tolok ukur — membandingkan perencana yang berbeda berdasarkan tingkat "kebisingan" keputusan mereka;
- koreksi — melemahkan pengaruh fitur palsu pada keluaran, lagi-lagi tanpa penyesuaian lebih lanjut.
Hasilnya adalah alat diagnostik universal yang dapat diterapkan pada model jadi apa pun. Alih-alih hanya menguji sistem berdasarkan statistik kecelakaan, pengembang mendapatkan mekanisme yang mengungkap penyebab potensi kecelakaan sebelum hal itu terjadi. Ini sangat berharga untuk skenario berekor panjang, di mana mengumpulkan kumpulan lengkap contoh nyata hampir mustahil.
Apa yang membuat pendekatan ini berguna dalam praktik
Bagi para insinyur yang mengintegrasikan perencana end-to-end ke dalam kendaraan, yang penting bukan hanya akurasi di trek uji, tetapi juga prediktabilitas perilaku. CADET memungkinkan menjawab pertanyaan "mengapa sistem memilih lintasan ini" — dan melakukannya sebelum digunakan di transportasi nyata. Tidak perlu menunggu situasi langka muncul di jalan; cukup melakukan serangkaian intervensi yang ditargetkan di lingkungan virtual dan melihat titik-titik lemahnya.
Audit semacam ini juga mengubah pendekatan pengembangan. Jika Anda memiliki dua model kandidat dengan metrik open-loop yang kurang lebih sama, sebelumnya pilihan hampir acak. Sekarang Anda dapat melihat model mana yang lebih jarang memperhatikan fitur acak, dan memilih model itu. Bahkan jika model kedua secara formal lebih akurat pada pengujian standar, sistem yang secara kausal lebih "bersih" lebih mungkin bertahan menghadapi kontak dengan dunia nyata dan keragamannya yang tak terbatas.
Yang menarik, karya yang muncul pada tahun 2026 ini sudah menawarkan perangkat yang lengkap, bukan sekadar mendeskripsikan masalahnya. Perencana end-to-end adalah salah satu arah paling menjanjikan dalam mengemudi otonom, tetapi penerapannya di industri secara langsung bergantung pada apakah kita dapat memahami logika internal keputusan mereka. Tanpa audit kausal, akurasi tinggi pada skenario standar hanyalah kebetulan yang beruntung, bukan jaminan keselamatan.
