Pada era AI generatif, membedakan kebenaran dari fiksi menjadi semakin sulit. Deepfake - tidak hanya video, tetapi juga berita berbasis teks yang diciptakan oleh jaringan saraf - telah membanjiri ruang informasi. Untuk memahami siapa yang dapat membantu pengguna mengenali konten tersebut, peneliti melakukan percobaan yang tidak biasa: mereka membandingkan berapa banyak orang mempercayai saran dari asisten AI, rekan-rekan mereka, dan ahli bahasa ketika mencari palsu.
Apa percobaan menunjukkan
Dalam tugas laboratorium, para siswa harus menentukan proporsi apa dalam berita sintetis ditulis oleh manusia daripada dihasilkan oleh AI. Sebagai petunjuk, mereka ditawarkan tiga sumber: ChatGPT (berdasarkan GPT-4), saran dari peserta lain, dan rekomendasi dari ahli bahasa. Hasilnya menunjukkan bahwa peserta mengikuti saran dari ChatGPT lebih sering daripada saran dari rekan-rekan ketika menangani berita palsu yang dibuat dengan GPT-2. Pada saat yang sama, ahli bahasa dipercaya lebih dari orang lain, tetapi kepercayaan relatif pada ahli dibandingkan ChatGPT bervariasi dari satu gelombang percobaan yang lain.
Menariknya, dalam putaran tambahan yang dilakukan pada tahun 2025 menggunakan metodologi yang sama, para ahli terpercaya siswa lebih dari ChatGPT. Penulis menganggap hal ini sebagai pergeseran dalam persepsi mengenai deteksi AI: mungkin orang-orang telah lebih memahami keterbatasan jaringan saraf dan nilai keahlian manusia.
Mengapa AI menginspirasi lebih banyak kepercayaan daripada orang?
Pada pandangan pertama, tampaknya paradoks bahwa orang lebih bersedia untuk mengandalkan algoritma yang mungkin itu sendiri menjadi sumber palsu daripada pada interoctors hidup. Satu penjelasan yang mungkin adalah persepsi Al sebagai analis netral tanpa motif subjektif. Peers, di sisi lain, mungkin meningkatkan keraguan tentang kompetensi, dan pendapat mereka mudah dipertanyakan.
Yang penting, peningkatan akurasi deteksi palsu tidak terjadi dengan sendirinya, tetapi melalui kombinasi kepercayaan dalam nasihat dan kualitasnya. Dengan kata lain, ketika peserta mengandalkan nasihat kualitas tinggi, hasil mereka terlihat lebih baik. Ini menyoroti keyakinan buta pada sumber apapun bukanlah jawabannya.
Kesimpulan: AI generatif - baik ancaman dan pertahanan
Kesimpulan utama dari penelitian ini adalah bahwa Al dapat dan harus digunakan untuk memerangi konten yang dibuat oleh AI itu sendiri, tetapi dengan caveat. Mengandalkan detektor jaringan saraf hanya dibenarkan jika alat itu sendiri cukup akurat. Jika tidak, mempercayai nasihat buruk hanya akan membuat situasi lebih buruk.
Penulis penelitian mengingatkan kita akan peran ganda dari model generatif: mereka secara bersamaan menciptakan deepfake dan membantu mendeteksi mereka. Oleh karena itu, masa depan kemungkinan besar terletak pada pendekatan hybrid, di mana alat AI bekerja bersama para ahli, sementara pengguna mempertahankan skeptis sehat.
