Apa yang tetap menjadi tanggung jawab manusia: bagaimana membangun penggunaan LLM yang etis dalam sains

15 September 202624 tampilan

Karya baru ini menawarkan bahasa formal untuk menggambarkan bagian mana dari penalaran ilmiah yang dapat diserahkan kepada model, dan bagian mana yang tidak. Kriteria etis utamanya bukanlah seberapa besar keterlibatan mesin, melainkan kualitas verifikasi dan adanya orang tertentu yang bertanggung jawab atas hasilnya.

Apa yang tetap menjadi tanggung jawab manusia: bagaimana membangun penggunaan LLM yang etis dalam sains

Alat ini sudah ada di laboratorium — pertanyaannya berbeda

Model bahasa tidak lagi menjadi hal eksotis dalam kerja penelitian. Sintesis literatur, draf hipotesis, kode untuk mengolah data, verifikasi penjabaran formal — semua ini sudah menjadi keseharian. Namun bersama kemudahan datang pertanyaan yang tidak bisa diselesaikan lewat pengaturan dan regulasi: jika sebagian penalaran dilakukan oleh mesin, dalam kondisi apa hasilnya masih bisa disebut pengetahuan, dan bukan sekadar teks yang tampak masuk akal?

Justru demikian Kalin Stoyanov merumuskan persoalannya dalam karya «Ethical LLM-Assisted Research» (arXiv:2608.23644, 24 Agustus 2026). Ini bukan seruan lain untuk «menggunakan AI dengan hati-hati», melainkan upaya membangun kerangka normatif dan konseptual — yakni bahasa yang memungkinkan pembahasan ketat tentang pendelegasian kerja kognitif.

Premis kuncinya: penalaran ilmiah adalah proses yang terdistribusi. Kontribusinya bisa datang dari berbagai sumber, manusia maupun mesin, dalam proporsi apa pun. Namun tanggung jawab atas apa yang akhirnya masuk ke catatan ilmiah tetap ada pada manusia. Artinya, pertanyaan «berapa banyak AI yang boleh ada dalam sebuah artikel» dirumuskan secara keliru. Pertanyaan yang benar berbunyi lain: apa tepatnya yang wajib dilakukan manusia agar hasilnya tetap sah.

Lima variabel alih-alih satu «keterlibatan AI» yang kabur

Biasanya perdebatan bermuara pada persentase: berapa banyak ditulis manusia, berapa banyak oleh model. Kerangka ini menawarkan untuk menguraikannya menjadi lima konstruk terpisah. Masing-masing dapat berubah secara independen dari yang lain.

  • Asal-usul konten (O(g)) — siapa atau apa yang menghasilkan pernyataan tertentu.
  • Ketuntasan verifikasi manusia (V(g)) — apakah pemeriksaan diselesaikan sampai akhir oleh peneliti yang hidup.
  • Penetapan tanggung jawab (R(g)) — kepada siapa beban keputusan untuk menerima pernyataan itu dibebankan.
  • Kepemilikan manusia yang dapat dipertanggungjawabkan (M(g)) — siapa yang memiliki pernyataan itu dalam arti kesiapan untuk mempertahankannya dan bertanggung jawab atasnya.
  • Hasil epistemik (E(g)) — apa yang diberikan verifikasi dari sudut pandang pertambahan pengetahuan.

Pemisahan ini tampak hampir terlalu teliti, tetapi ia menutup celah yang biasa dimanfaatkan semua orang. Asal-usul, verifikasi, hasil, dan tanggung jawab adalah hal-hal yang berbeda, dan tidak bisa diturunkan satu dari yang lain. Teks bisa saja dihasilkan mesin, namun yang bertanggung jawab tetap manusia — dan itu wajar. Sebaliknya juga terjadi: secara formal semuanya ditulis penulis, tetapi verifikasinya semu, dan pengetahuan akhirnya tidak bertambah.

Mengapa tidak bisa sekadar berkata «saya sudah memeriksa semuanya»

Frasa «saya sudah membaca dan setuju» bukanlah verifikasi. Ia tidak mencatat apa tepatnya yang diperiksa, atas dasar apa, dan di mana batas antara yang terkonfirmasi dan yang diterima begitu saja. Konstruk V(g) justru menuntut ketuntasan verifikasi, bukan deklarasinya. Ini penting, karena penalaran berbantuan LLM secara lahiriah hampir tak terbedakan dari yang biasa: teksnya mulus, argumennya runtut, rujukannya tampak asli.

Batasnya terletak pada verifikasi, bukan pada besarnya kontribusi mesin

Tesis sentral karya ini berbunyi: batas etis ditentukan oleh verifikasi yang memadai dan kepemilikan manusia yang dapat dipertanggungjawabkan, bukan oleh tingkat keterlibatan mesin. Artinya, fakta pendelegasian itu sendiri netral secara etis. Ia menjadi masalah hanya ketika verifikasinya formal dan tanggung jawabnya kabur.

Ini membalik logika yang biasa. Memperdebatkan «berapa persen» yang ditulis model itu sia-sia: satu baris yang dihasilkan dan disisipkan secara buta ke dalam kesimpulan pun bisa merusak hasil, dan bantuan mesin yang luas dengan verifikasi jujur tidak merusak apa pun. Yang berbahaya bukan besarnya pendelegasian, melainkan ketidaktransparannya.

Audit epistemik: catatan yang membuat penalaran dapat diperiksa

Dari logika ini tumbuh alat praktis — audit epistemik. Ini adalah catatan terstruktur tentang apa yang didelegasikan, bagaimana diverifikasi, dari mana kontennya berasal, dan kepada siapa tanggung jawab dibebankan. Pada intinya — jurnal asal-usul gagasan, bukan daftar alat yang digunakan.

Nilai catatan semacam itu terletak pada kemampuannya membuat penalaran dapat diakses untuk pemeriksaan eksternal. Pembaca, penelaah, atau rekan penulis dapat melihat di mana dugaan mesin berakhir dan fakta terkonfirmasi dimulai. Ini bukan laporan untuk lembaga pengawas, melainkan artefak kerja: ia juga membantu penulis sendiri menyadari bahwa di suatu tempat ia menerima pernyataan tanpa verifikasi hanya karena pernyataan itu terdengar meyakinkan.

Bagaimana ini terlihat dalam kerja sehari-hari

Kerangka ini dapat diringkas menjadi beberapa tindakan yang tidak memerlukan jabatan baru di laboratorium maupun perangkat lunak khusus.

  • Catat pendelegasian: apa tepatnya yang Anda serahkan kepada model — pencarian literatur, draf argumen, kode, verifikasi formal.
  • Tandai asal-usulnya: fragmen mana yang berasal dari mesin, dan mana yang dari Anda.
  • Pisahkan verifikasi dari persetujuan: catat apa tepatnya yang Anda periksa dan dengan cara apa.
  • Sebutkan penanggung jawabnya secara bernama, bukan «tim penulis». Tidak penting apakah itu ChatGPT atau asisten lain — yang bertanggung jawab atas pernyataan itu adalah manusia.
  • Periksa yang paling meyakinkan terlebih dahulu: paragraf yang ditulis dengan mulus bukan tanda ketepatan, dan kadang justru sebaliknya.

Di mana paling sering putus

Tiga titik kegagalan yang khas. Pertama — rujukan dan kutipan: tampak masuk akal, tetapi menuntut konfirmasi manual. Kedua — pernyataan numerik dan statistik, yang mudah diterima sebagai kenyataan. Ketiga — generalisasi yang «jelas dengan sendirinya», yang tidak diperiksa siapa pun karena tampak basi.

Batas keberlakuan dan titik-titik perdebatan

Kerangka ini formal, artinya ia bekerja dengan konsekuensi dari definisi yang diterima, bukan dengan praktik yang hidup. Pertanyaan tetap terbuka: bagaimana mengukur «ketuntasan verifikasi» — itu konstruk, bukan angka. Juga belum sepenuhnya jelas bagaimana mengintegrasikan audit ke dalam penelaahan: jurnal-jurnal belum menuntut jurnal pendelegasian, dan belum pasti akan menuntutnya.

Ada pula risiko ide ini berubah menjadi ritual. Segala bentuk pelaporan cenderung menjadi birokrasi: jika audit dilakukan sekadar untuk memenuhi syarat, ia kehilangan makna persis seperti verifikasi semu kehilangan maknanya. Kegunaan alat ini bertumpu pada kejujuran orang yang menjalankannya.

Apa yang akhirnya tersisa bagi manusia

Banyak hal bisa diserahkan kepada mesin: pekerjaan kasar, penelusuran berbagai opsi, rutinitas pencarian, penyusunan awal teks. Yang tidak didelegasikan adalah hal lain — keputusan tentang apa yang dianggap mapan, dan kesiapan untuk bertanggung jawab atasnya. Kerangka Stoyanov menyediakan kosakata formal untuk itu: ia memungkinkan kita membedakan pendelegasian kognitif yang bertanggung jawab dari sekadar pengalihan tanggung jawab atau pengabaiannya secara diam-diam.

Pada dasarnya ini adalah kembalinya ke norma lama kerja ilmiah, hanya dengan alat baru di tangan. Pengetahuan selalu merupakan hasil verifikasi, bukan pernyataan. Kemunculan LLM tidak mengubah apa pun dalam hal ini — ia hanya membuat perbedaan antara verifikasi dan imitasinya lebih terlihat.

Pertanyaan yang sering ditanyakan

Bahan terkait

Semua bahan
Apa yang tetap menjadi tanggung jawab manusia: bagaimana membangun penggunaan LLM yang etis dalam sains