Anthropic telah mengumumkan bahwa semua teks yang dihasilkan oleh model flagship nya Claude akan segera menerima tanda air tak terlihat. Hal ini dilakukan untuk mematuhi dengan persyaratan regulasi mendatang. Perusahaan juga telah mengungkapkan rincian teknis untuk pertama kalinya: sebelumnya, hanya diketahui bahwa watermark tidak mengubah konten dan tidak menambahkan karakter tersembunyi ke teks.
Bagaimana penanda air bekerja
Metode ini didasarkan pada SynthID-Text, teknologi yang dikembangkan oleh Google DeepMind dan diterbitkan di Alam pada tahun 2024. Ide itu sendiri diusulkan oleh Scott Aaronson kembali pada tahun 2022. Selama generasi normal, model memilih kata berikutnya menggunakan angka acak. Dalam versi terendam, acak digantikan oleh fungsi deterministik: ia menggunakan kunci rahasia dan beberapa kata sebelumnya. Akibatnya, urutan kata terlihat acak tapi membawa pola yang dapat diverifikasi.
Pada setiap langkah, semua kata kandidat dibagi menjadi "hijau" dan "merah" daftar. Model ini memilih dari daftar hijau sedikit lebih sering, tapi kata-kata merah tidak dilarang - mereka hanya kurang mungkin. Komposisi dari daftar tergantung pada konteks dan kunci, sehingga tidak ada set tetap kata-kata yang dapat diingat. Siapapun yang memegang kunci dapat setiap saat menentukan daftar kata tertentu jatuh ke pada posisi tertentu. Tanpa kunci, ini mustahil.
Untuk memahami ide, bayangkan permainan Monopoli mana dadu diganti oleh buku digit dari pi. Untuk pengamat luar, roll tampaknya acak, tapi pemain dengan buku yang tahu semua angka di muka. Demikian pula, tanda air tidak mengubah aturan dari generasi; hanya mengubah sumber acak.
Pada intinya, ini adalah bentuk steganografi: Informasi tersembunyi dalam pilihan kata-kata sendiri, bukan dalam label eksplisit. Tanda air tidak menambahkan tanda tangan pada teks dan tidak meningkatkan biaya generasi. Pembaca tidak dapat membedakan teks yang ditandai air dari teks biasa baik visual atau oleh telinga.
Bagaimana ini mempengaruhi kualitas
Anthropic menjalankan tes internal dan tidak menemukan dampak negatif pada konten, kreativitas, atau ketersediaannya. Hasil serupa diperoleh dalam percobaan Google DeepMind dengan model Gemini: rating pengguna (suka dan tidak suka) tidak menunjukkan perbedaan statistik yang signifikan antara air dan respon biasa. Dalam kajian yang terkendali, para ahli membandingkan teks berdampingan juga tidak melihat perbedaan.
Tanda air berisi tidak ada informasi identifikasi: tidak dapat mengungkapkan siapa yang berinteraksi dengan model, di mana percakapan, atau kapan. Paling banyak, itu memungkinkan menghitung kemungkinan bahwa teks dihasilkan oleh model tertentu. Untuk frasa pendek (di bawah selusin kata), akurasi deteksi turun ke nol: teks perlu cukup lama bagi pola statistik untuk menjadi terlihat.
Terutama, model tidak pernah dipaksa untuk memilih kata-kata langka atau tidak wajar. Daftar hijau dan merah mengandung kata yang sama yang dipertimbangkan model dalam mode normal, sehingga teks tetap alami.
Apa selanjutnya
Peluncuran watermark adalah bagian dari tren yang lebih luas. Mulai bulan Agustus, regulator akan memerlukan semua penyedia layanan AI untuk melabelinya sesuai dengan model mereka. Anthropic tidak sendirian: perusahaan besar lainnya telah menandatangani komitmen industri yang sama dan yang sudah bekerja pada skema watermark mereka sendiri. Label tak terlihat sehingga menjadi standar industri, bukan fitur unik Claude.
Diakui, teknologi memiliki keterbatasan: menggunakan kunci rahasia hanya menghasilkan perkiraan probabilitas dari asal teks, bukan kepastian mutlak. Namun, itu cukup untuk regulator dan menyediakan pengguna dengan lapisan transparansi tambahan.
Intinya: menandai teks Claude adalah kompromi antara transparansi, regulasi, dan kenyamanan. Ini hampir tidak memiliki dampak pada kualitas generasi dan memungkinkan untuk memverifikasi asal-usul teks tanpa mengorbankan privasi pengguna.
