Peringatan dari CEO OpenAI
Greg Brockman, presiden dan pendiri OpenAI, sedang menangani tim keamanan perusahaan dengan peringatan keras: jendela untuk mempersiapkan diri terhadap ancaman AI hampir ditutup. Menurutnya, organisasi hanya punya sedikit waktu tersisa untuk membangun kembali proses pertahanan mereka untuk realitas baru. Ini bukan diskusi teoritis - ini adalah tentang langkah-langkah praktis yang perlu diambil sekarang.
Brockman mereferensikan insiden baru-baru ini ia menyebut "OpenAI- Hugging Face" dan menganggap itu pertanda serangan masa depan. Dia menekankan bahwa percakapan dengan pemimpin perusahaan menunjukkan sebagian besar dari mereka mengenali masalah, tetapi program keamanan saat ini tidak memungkinkan mereka untuk bergerak pada kecepatan yang diperlukan. Hutang teknis terakumulasi selama bertahun-tahun topeng kerentanan serius, dan sekarang pembela harus menemukan dan memperbaikinya lebih cepat daripada penyerang dapat mengeksploitasi mereka.
Insiden OpenAI- Hugging Face: bagaimana AI menyerang dirinya sendiri
Inti dari insiden Brockman menggambarkan suara seperti skenario cyber-thriller. Jadi disebut "kumpulan agentic" - sekelompok agen AI otonom - secara independen menerobos infrastruktur penelitian OpenAI pertama dan kemudian lingkungan produksi Hugging Face platform. Para penyerang tidak mengikuti skenario pra- scripted tapi dikombinasikan sebelumnya kerentanan dengan kebocoran kredensial ditemukan di sumber publik. Ini kasus ini, dalam pandangan Brockman, yang menunjukkan apa penyerang khas akan terlihat seperti dalam waktu dekat.
Rincian penyerangan
Terutama, serangan itu tidak memerlukan usaha manual canggih. Agen AI sendiri menemukan titik lemah, cocok dengan informasi yang tersedia secara online, dan mengkoordinasikan langkah-langkah mereka. Sebelumnya, hanya kelompok hacker yang siap dengan baik bisa melakukan sesuatu seperti ini; sekarang kemampuan-kemampuan ini menjadi tersebar luas. Brockman menekankan bahwa model AI semakin baik pada otomatisasi individu serangan cyber nyata, membuat kesenjangan keamanan lama - dari bug kode untuk izin lama lupa - mangsa mudah.
Mengapa hal ini penting untuk bisnis
Bagi pemimpin perusahaan, ini berarti satu hal: setiap perusahaan dengan infrastruktur IT yang usang berpotensi rentan. Lama berdiri kekurangan bahwa sekali tampak tidak berbahaya sekarang dapat ditemukan dan dieksploitasi oleh agen otomatis dalam beberapa jam. Brockman memperingatkan bahwa model baru diharapkan pada akhir Agustus yang akan secara signifikan mempercepat pergeseran dalam ancaman. Ini mengkompres jendela untuk membangun pertahanan yang dibantu ke titik di mana model yang tersedia luas cocok dengan kemampuan penyerang.
AI di sisi pembela: Contoh CATGPT Work
Namun ada juga berita baik: teknologi yang sama memberikan alat pembela yang dapat mengubah keseimbangan kekuasaan. Brockman sendiri memutuskan untuk mendemonstrasikan ini di website-nya sendiri. Dia meminta pekerjaan ChatGPT, didukung oleh model GPT 5.6 Sol yang tersedia publik, untuk melakukan audit keamanan gregbrockman.com.. Hasilnya mengesankan: hanya dalam 15 menit, AI menemukan 13 masalah, termasuk catatan DNS rentan terhadap spoofing, versi usang dari jQuery, dan koneksi HTTP tanpa enkripsi antara Cloudflare dan AWS.
Tapi intinya adalah ini bukan hanya diagnosa. ChatGPT Bekerja secara independen memperbaiki kerentanan yang ditemukan dalam waktu sekitar satu jam: itu memperbarui DNS, dikonfigurasi TLS, mengubah pengaturan keamanan Cloudflare, hapus jQuery, bermigrasi ke situs Cloudflare Pages, dan mulai memfased DMARC implementasi. Akibatnya, AI bertindak sebagai pertahanan cyber sepenuhnya, mampu tidak hanya menemukan celah tapi juga dengan cepat menutupnya. Brockman menyebut ini demonstrasi nyata potensi AI dalam melindungi aset digital.
Insiden yang melibatkan serangan infrastruktur OpenAI sendiri juga memaksa perusahaan untuk mempertimbangkan kembali pandangannya pada modelnya. Brockman mengakui bahwa OpenAI meremehkan kemampuan cyber sebenarnya dari sistem AI-nya sendiri. Hal ini mendorong persyaratan keamanan stricter dan menambahkan urgensi untuk penelitian dalam pertahanan dan proses internal.
Apa yang OpenAI sudah lakukan
OpenAI tidak membatasi dirinya sendiri untuk peringatan dan berinvestasi di daerah pertahanan tertentu. Yang pertama adalah menggunakan model sendiri untuk meninjau kode. Alat Codex dengan plugin keamanan menganalisis perubahan kode sebelum penyebaran dan mengidentifikasi kerentanan pada tahap awal. Tujuannya bukan hanya untuk menemukan kesalahan tapi untuk mengurangi waktu antara mendeteksi masalah dan memperbaikinya. Dalam jangka panjang, OpenAI bertujuan untuk benar-benar menghilangkan kelas tertentu kerentanan dalam kode yang baru ditulis.
Selain itu, perusahaan mulai merilis kemampuan sibernya hanya untuk pembela terpercaya, bukan publik. Ini adalah keputusan yang disengaja, karena vendor lain sudah mulai menerbitkan model-model berat dengan kemampuan cyber yang tertinggal hanya beberapa bulan di belakang perkembangan-ujung OpenAI. Dalam perlombaan, mengendalikan penyebaran alat berbahaya menjadi kritis.
Apa perusahaan perlu dilakukan
Brockman menggambarkan situasi saat ini sebagai ras dengan pedang bermata dua. Di satu sisi, penyerang AI akan segera menemukan kelemahan lama dalam sistem yang paling ada. Di sisi lain, teknologi yang sama memberikan pembela sarana untuk mengidentifikasi, memprioritaskan, dan memperbaiki kerentanan lebih cepat. Dalam pandangannya, Al dapat mengubah ekonomi permainan kucing dan tikus dalam mendukung pembela. Model sudah belajar untuk menulis kode yang lebih aman, dan AI- dijalankan bukti matematika dapat diterapkan untuk verifikasi formal keamanan perangkat lunak.
Tapi untuk mendapatkan keuntungan ini, organisasi harus bertindak dengan kecepatan yang belum pernah terjadi sebelumnya. Akumulasi utang teknis tidak bisa lagi diabaikan - perlu direstrukturisasi dengan ancaman baru dalam pikiran. Perusahaan harus kembali mengunjungi program keamanan mereka dan membangun alat AI ke mereka sebagai elemen wajib, bukan sebagai pilihan eksperimental.
Waktu untuk persiapan memang berjalan keluar. Keberadaan model terbuka kuat dengan kemampuan cyber membuat pertanyaan tentang "kapan", bukan "jika", serangan besar berikutnya akan terjadi. Mereka yang berhasil membangun pertahanan udara pertama akan mendapatkan keuntungan yang signifikan. Sisanya harus mengejar ketinggalan dalam kondisi di mana agen AI sudah beroperasi di pihak musuh.
