Ketidakpercayaan AI: krisis yang telah menyeduh selama beberapa dekade
CEO Anthropic Dario Amodei menanggapi kritik dari investor Gavin Baker. Di AllIn podcast dan media sosial X, Baker mengklaim bahwa peringatan Amodei tentang bahaya AI memicu sentimen negatif di AS, terutama terhadap pusat konstruksi data. Dalam pandangan Baker, Amodei "kehilangan argumen" pada peraturan dan, karena ia memimpin salah satu perusahaan yang paling penting di dunia, ia harus menjadi advokat yang lebih positif untuk industri sendiri.
Dalam serangkaian posnya, Amodei tidak setuju bahwa pesannya terlalu pesimis. Dia mempertahankan bahwa ia menulis "kira-kira dengan cara yang seimbang" - mencakup risiko dan manfaat. Dan esai "Mesin Pencinta Grace" ditulis karena, dalam pandangannya, industri AI tidak menggambarkan potensi teknologi dengan cara yang cukup inspiratif. Amodei mengakui bahwa masyarakat telah membentuk opini negatif tentang AI, tapi tidak setuju bahwa penyebab utama adalah peringatan dari pemimpin industri.
Krisis kepercayaan, bukan kesalahan pemasaran
Amodei menyebut apa yang terjadi pada dasarnya krisis kepercayaanOrang-orang biasa, katanya, tidak percaya perusahaan, pemerintah, atau industri teknologi - dan selalu menduga mereka sedang diatur untuk ditipu lagi. Krisis ini telah menyeduh selama beberapa dekade, dan reaksi negatif saat ini terhadap AI hanya manifestasi terbaru.
Menariknya, kata "kepercayaan" terus muncul di berita utama tentang CEO OpenAI Sam Altman juga. Rupanya, itu adalah tempat umum untuk CEO AI.
Pada saat yang sama, Amodei percaya bahwa yang paling akurat kritik Perusahaan AI (termasuk Anthropic) dapat diformulasikan sebagai berikut: mereka belum disampaikan atas janji-janji keras mereka untuk kebaikan dunia. Itu, dalam pandangannya, benar-benar pada mereka, dan itu adalah kritik layak membahas - bukan "omong kosong tentang pesan dan pemasaran". Janji bahwa AI akan menyembuhkan kanker telah menjadi lebih klise daripada inspirasi. Hanya obat untuk kanker yang bisa mengubah sikap orang.
Peraturan dan kekuasaan: respon terhadap "dilema palsu"
Terpisah, Amodei membahas argumen Baker pada peraturan. Baker, tampaknya, bingkai pilihan sebagai: baik AI menyebar tanpa pembatasan, atau regulasi mengarah ke konsentrasi teknologi di tangan beberapa perusahaan. Amodei menyebut ini oposisi a dilema palsu.
Dia juga tidak setuju dengan rumus Silicon Valley "regulasi = penangkapan regulasi = konsentrasi kekuasaan". Dalam kata-katanya, itu adalah pandangan yang terlalu disederhanakan dunia. Banyak orang di luar bahwa gelembung percaya peraturan sebenarnya membatasi kekuasaan perusahaan dan melindungi orang biasa. Amodei menambahkan bahwa ia tidak selalu setuju dengan pandangan yang baik, tapi itulah sebabnya Anthrodei mempersiapkan proposal kebijakan sangat hati-hati: mereka bertujuan untuk memperlambat memimpin perusahaan AI sementara memberikan keuntungan untuk pesaing yang lebih kecil.
Amodei juga berpendapat bahwa AI struktural berkontribusi terhadap konsentrasi kekuasaanBantuan bobot terbuka, tetapi hanya sebagian - mereka hanya menggeser konsentrasi ke arah mereka dengan lebih banyak sumber daya komputasi dan chip. "Aturan permainan" yang benar secara bersamaan dapat mengatasi keamanan cyber, biosektiness, dan keselarasan AI, membatasi kekuatan perusahaan terkemuka, dan meninggalkan ruang untuk model terbuka-berat, akuntansi untuk risiko tertentu mereka.
Dengan demikian, Amodei mengubah percakapan dari "yang takut siapa" ke diskusi kritik substantif dan menemukan keseimbangan. Itu bisa dibilang posisi yang lebih konstruktif daripada tuduhan humas yang buruk.
