Apa yang berubah
Amazon memblokir Muse: agen tersebut tidak lagi dapat melakukan pembelian di toko atas nama pengguna.
Pada hari Minggu, pengguna Muse melihat pemberitahuan bahwa akses lebih lanjut oleh agen AI yang tidak sah melanggar ketentuan penggunaan Amazon. Menurut GeekWire, Meta tidak memberi tahu Amazon sebelumnya bahwa agen tersebut akan berinteraksi dengan toko.
Mengapa Amazon membatasi akses
Amazon menyampaikan kekhawatiran terkait privasi dan keamanan. Menurut The Verge, Muse tidak mengidentifikasi dirinya saat menjelajahi situs dan diduga memperoleh kredensial pembeli.
Perwakilan Amazon mengatakan kepada GeekWire bahwa aplikasi pihak ketiga harus secara terbuka mengidentifikasi diri dan menghormati keputusan layanan mengenai penerimaan aplikasi semacam itu. Untuk berinteraksi dengan toko, agen tidak hanya membutuhkan kemampuan teknis, tetapi juga izin dari layanan itu sendiri.
Pernyataan Meta dan hasil pengujian
Meta menyatakan bahwa Muse tidak dapat melihat data login yang dilindungi maupun informasi pembayaran kartu. Namun, saat The Verge mengujinya, agen tersebut berhasil membeli kaus di Amazon ketika ada barang lain di keranjang.
Setelah peluncuran, muncul kekhawatiran terkait akses ke informasi pribadi. Sejumlah laporan menyebutkan bahwa Muse dapat melihat isi pesan pengguna, bahkan ketika izin yang diperlukan telah dinonaktifkan.
Hal yang perlu dipertimbangkan saat memilih AI untuk berbelanja
Kasus ini menunjukkan bahwa kemampuan agen juga bergantung pada aturan toko. Amazon menghentikan akses Muse dengan merujuk pada ketentuan penggunaan dan keputusan untuk tidak mengizinkan agen yang tidak sah.
Saat mengevaluasi skenario serupa, ada tiga kriteria penting: apakah toko mengizinkan agen beroperasi, apakah agen mengidentifikasi dirinya, dan data apa yang dapat dilihatnya. Pertanyaan-pertanyaan ini membantu membedakan fitur yang diklaim dari ketentuan akses yang berlaku.
