Lada yang Membuat GPU Kepanasan
Belum lama ini, tampaknya memproduksi chip untuk kecerdasan buatan hanyalah domain para raksasa seperti NVIDIA, Google, atau Amazon. Berdasarkan kebocoran terbaru, kini OpenAI tampak siap bergabung dengan klub ini. Dengan nama kode "jalapeño", para insinyur perusahaan sedang menguji akselerator milik mereka sendiri yang dirancang untuk inferensi jaringan saraf. Hasil awal, sebagaimana dilaporkan, ternyata sangat sukses sehingga di dalam laboratorium mereka sudah merencanakan produksi massal untuk pusat data mereka sendiri.
Biasanya, pengumuman "perangkat keras" khusus dilakukan dalam konferensi dan seminar, tetapi informasi tentang pengujian "jalapeño" disebarluaskan oleh media industri dengan mengutip sumber anonim. Meski begitu, aktivitas paten dan lowongan kerja terbuka OpenAI di bidang desain perangkat keras sebelumnya sudah mengindikasikan bahwa di balik rumor tersebut terdapat kerja rekayasa nyata.
Chip yang Dirancang untuk Masa Depan OpenAI
Pengembangan chip sendiri hanya masuk akal jika Anda ingin mengoptimalkan komponen produk yang paling mahal. Dalam kasus model bahasa, ini adalah inferensi — momen ketika ribuan pengguna secara bersamaan mengirimkan permintaan. Setiap permintaan semacam itu membutuhkan sejumlah besar operasi perkalian matriks. GPU modern menyelesaikan tugas ini dengan baik baik untuk pelatihan maupun inferensi, tetapi pelatihan jarang terjadi, sementara inferensi terjadi terus-menerus. Jadi, inilah saatnya untuk alat yang disetel khusus untuk beban kerja yang konstan.
"Jalapeño" bukanlah prosesor serba guna. Anda tidak dapat menjalankan aplikasi biasa di atasnya, tetapi untuk kerja jaringan saraf, chip ini sangat ideal. Arsitekturnya disederhanakan menjadi serangkaian inti khusus yang terutama melakukan operasi perkalian matriks dan memproses mekanisme perhatian — fondasi transformer dan model bahasa besar.
Mengapa Lada?
Para karyawan perusahaan senang memberi nama kode informal pada proyek. "Jalapeño" — lada pedas — menjadi isyarat tentang kemampuan chip untuk membuat pasar menjadi panas. Tentu saja, perangkat ini tidak ada hubungannya dengan makanan atau masakan Meksiko.
Pengujian Awal: Kecepatan dan Konsumsi Daya
Data yang paling menarik saat ini hanya tersedia melalui laporan tidak langsung. Menurut klaim sumber, pada beban kerja pengujian, prototipe tersebut beberapa kali lebih cepat daripada akselerator server kelas atas dalam hal kecepatan pemrosesan permintaan, namun pencapaian utamanya adalah efisiensi energi. Chip milik OpenAI ini menunjukkan rasio kinerja per watt yang jauh lebih tinggi.
Hal ini dicapai melalui beberapa solusi teknis.
- Komputasi presisi rendah. Bobot model dapat disimpan dan diproses dalam format 8-bit tanpa penurunan kualitas yang terlihat. Chip ini dirancang untuk perhitungan semacam itu sejak awal.
- Pipeline yang dipersingkat. Semua instruksi tunduk pada satu tugas, sehingga inti tidak membuang siklus untuk percabangan yang tidak perlu dan peralihan konteks.
- Memori cepat. Bobot model berada langsung di chip dan dekat dengan blok komputasi, dan untuk model yang lebih besar, disediakan koneksi berkecepatan tinggi ke memori eksternal.
Konsumsi daya pada beban penuh, menurut data tidak resmi, ternyata jauh lebih rendah daripada solusi tujuan umum. Ini berarti server akan mampu memproses lebih banyak permintaan tanpa perlu menambah daya dan sistem pendingin.
Apa yang Akan Berubah di Pasar AI?
Kesuksesan "jalapeño" dapat menyebabkan pergeseran yang sangat besar. Biaya pembuatan teks dan pemrosesan gambar akan turun, memungkinkan akses API menjadi lebih murah dan lebih mudah diakses oleh bisnis kecil. Produk-produk baru yang saat ini tidak ekonomis akan bermunculan: asisten yang dipersonalisasi yang bekerja secara real-time, analisis audio dan video massal, dan bahkan agen otonom yang mampu menjalankan rangkaian tugas yang panjang.
Selain itu, chip milik sendiri memperkuat posisi tawar OpenAI dengan penyedia cloud. Perusahaan akan dapat memindahkan sebagian beban kerja ke platformnya sendiri. Bagi pengguna, ini berarti lebih sedikit gangguan dan harga yang lebih dapat diprediksi.
Jangan lupakan juga ekologi: konsumsi daya yang lebih rendah berarti dampak yang lebih kecil terhadap lingkungan. Terlebih lagi, pusat data sudah menyumbang sebagian besar emisi karbon dunia.
Pertanyaan yang Tersisa
Seperti halnya berita besar, "jalapeño" juga memicu skeptisisme. Sampel silikon pertama mungkin tidak representatif: dalam produksi massal, kecepatan clock sering diturunkan karena batasan termal dan variasi karakteristik. Biaya produksi dan harga target untuk pelanggan tidak diketahui — jika ternyata tinggi, penghematan listrik tidak akan menyelamatkan.
Kompatibilitas chip dengan kerangka kerja populer juga masih dipertanyakan. Sebagian besar perusahaan menggunakan akselerator grafis melalui pustaka tingkat tinggi seperti CUDA dan PyTorch, dan menerjemahkan kode ke platform baru membutuhkan waktu. OpenAI kemungkinan besar akan menggunakan "jalapeño" bersama dengan tumpukan perangkat lunaknya sendiri, tetapi apakah akan membuat chip ini terbuka untuk pengembang pihak ketiga — itulah pertanyaan besarnya.
Kesimpulan
Lonceng pertama telah berbunyi: chip "jalapeño" kemungkinan besar akan menjadi produk nyata, bukan sekadar prototipe eksperimental. Untuk saat ini, ini hanyalah kisah rekayasa tanpa spesifikasi resmi dan tanggal rilis. Tetapi jika indikator pengujian terkonfirmasi, pasar solusi perangkat keras untuk AI akan menghadapi pemain kuat baru yang mampu menulis ulang aturan main yang sudah ada. Kita tunggu pengumuman resmi dan sampel pertamanya.
