Mengapa data bersih menyembunyikan perbedaan antar varian KAN
Literatur tentang varian efisien jaringan Kolmogorov–Arnold mencakup versi Chebyshev, wavelet, dan basis radial dari KAN asli. Tolok ukur dalam karya-karya ini dibangun di atas data bersih. Pilihan seperti itu menutupi perbedaan besar dalam kemampuan arsitektur.
Karya arXiv:2608.14773 menempatkan perbedaan ini ke depan. Versi pertama muncul pada 14 Agustus 2026, versi kedua pada 25 Agustus 2026. Panjangnya 22 halaman, 20 gambar, dan 8 tabel. Temanya adalah pembelajaran mesin dan kecerdasan buatan.
Kriteria praktis: membandingkan varian KAN hanya pada data bersih tidak memberikan dasar untuk memilih. Untuk penilaian diperlukan protokol dengan data yang mengandung derau.
Seberapa besar galat meningkat akibat derau
Metriknya adalah MSE pengujian, yang diukur terhadap fungsi acuan bersih. Pelatihan dilakukan pada data yang dirusak derau dengan sigma = 0,1. Angka pertumbuhan menggambarkan berapa kali galat meningkat dibandingkan kasus bersih.
| Varian arsitektur | Pertumbuhan MSE pengujian pada sigma = 0,1 |
|---|---|
| ChebyKAN | 10,6x |
| KAN asli | 7,9x |
| MLP standar | 1,7x |
| ER-KAN | 1,4x |
Kesimpulan: ER-KAN memberikan pertumbuhan galat terkecil di antara varian yang diuji. MLP standar juga bertahan jauh lebih baik daripada ChebyKAN dan KAN asli.
Tiga solusi yang membuat ER-KAN tahan derau
ER-KAN disusun dari tiga teknik yang ditujukan untuk mode berderau saat data terbatas.
- Basis RBF Gaussian bersama pada semua sisi lapisan. Memberikan lokalitas dan parametrisasi yang hemat.
- Curriculum noise injection selama pelatihan. Model secara eksplisit belajar ketahanan terhadap derau.
- Entropy-weighted adaptive regularisation. Mencegah overfitting saat jumlah contoh sedikit.
Hasil: jaringan dengan 595 parameter menyamai akurasi MLP pada derau sedang. Saat derau meningkat, ia terdegradasi jauh lebih lembut.
Protokol pengujian dan hasil negatifnya
Eksperimen dibangun di atas beberapa kumpulan kondisi.
- Delapan fungsi analitik, jumlah contoh N dari himpunan 50, 200, dan 500.
- Tingkat derau sigma dari himpunan 0,03 dan 0,1.
- PINN untuk osilator harmonik teredam: ER-KAN memberikan solution MSE 4,2 kali lebih kecil daripada MLP.
- PINN untuk persamaan Burgers: semua model tidak konvergen.
Penulis melaporkan kegagalan pada persamaan Burgers secara terbuka. Ini adalah keterbatasan metode, bukan cacat laporan yang disembunyikan. Kesimpulan tentang osilator tidak otomatis berlaku untuk persamaan lain.
Noise degradation ratio sebagai metrik tersendiri
Penulis memperkenalkan noise degradation ratio — tambahan sederhana untuk pengukuran yang sudah ada. Metrik ini menunjukkan berapa kali galat pada data berderau lebih besar daripada galat pada data bersih. Penulis merekomendasikan menjadikannya elemen pelaporan wajib dalam makalah tentang varian efisien KAN.
Nilai praktis metrik ini adalah membandingkan arsitektur berdasarkan ketahanan, bukan hanya berdasarkan akurasi. Untuk literatur yang tolok ukurnya bertumpu pada data bersih, ini mengubah kriteria penilaian.
Kriteria praktis pemilihan
- Data berderau dan contoh sedikit. ER-KAN memberikan pertumbuhan galat terkecil di antara varian yang diuji.
- Derau sedang. Jaringan dengan 595 parameter menyamai akurasi MLP.
- Butuh basis pembanding yang sederhana. MLP standar terdegradasi lebih lemah daripada ChebyKAN dan KAN asli.
- PINN untuk osilator teredam. ER-KAN menunjukkan solution MSE lebih kecil daripada MLP.
- PINN untuk persamaan Burgers. Tidak ada model yang diuji yang konvergen.
Pemilihan bertumpu pada tingkat derau dan ukuran sampel, bukan pada hasil pada data bersih. Laporan tanpa noise degradation ratio tidak lengkap untuk tugas yang mengandung derau.
