Pasar percaya pada arsitektur Etched
Startup Etched, yang mengembangkan solusi khusus untuk inferensi AI, telah menutup putaran pendanaan baru. Perusahaan mengumpulkan $700 juta, dan valuasinya mencapai $21 miliar. Putaran ini dipimpin oleh Jane Street — firma investasi yang dikenal skeptis terhadap proyek AI yang ramai diperbincangkan. Fakta bahwa justru firma inilah yang menjadi investor utama mengatakan banyak hal: Etched berhasil meyakinkan pemain konservatif tentang nilai nyata teknologinya.
Ini sudah menjadi peningkatan valuasi signifikan ketiga dalam waktu singkat. Pada bulan Desember tahun lalu, Etched bernilai $5 miliar. Pada bulan Juli, perusahaan menutup putaran Seri C senilai $300 juta dengan valuasi $10,3 miliar. Kini para investor menggandakan nilai hanya dalam sebulan — pertumbuhan hampir $11 miliar. Lonjakan secepat ini jarang terjadi bahkan di pasar infrastruktur AI yang sedang panas.
Apa sebenarnya yang diciptakan para insinyur Etched
Etched tidak hanya menjual chip — perusahaan memasok sistem lengkap yang disebutnya «frontier inference clusters». Ini adalah klaster siap pakai untuk menjalankan model terberat, yang tidak bisa lagi disebut sekadar akselerator individual. Salah satu pendiri sekaligus COO, Robert Wachen, mengatakan kepada TechCrunch bahwa tim merancang dua komponen baru yang mempercepat inferensi pada dua tahap kuncinya.
Tahap prefill: tegangan rendah alih-alih melawan panas
Saat model memproses permintaan masuk, pertama-tama ada tahap prefill — «memproses» prompt dan menyiapkan status internal. Di sinilah Etched menerapkan pendekatan yang tidak biasa: alih-alih menaikkan frekuensi dan mendinginkan kristal dengan susah payah, para insinyur membuat chip yang bekerja pada tegangan rendah. Ini memungkinkan penempatan transistor yang jauh lebih banyak di papan tanpa terbentur batasan termal. Kepadatan komputasi meningkat, dan panas berlebih tidak lagi menjadi hambatan.
Tahap decode: memori berskala klaster
Tahap kedua adalah decode, yaitu pembuatan respons. Di sini hambatan biasanya adalah akses memori: setiap token baru membutuhkan pertukaran data cepat antar blok komputasi. Untuk itu, Etched menciptakan jenis memori dan interkoneksi baru yang disebut cluster-scale memory. Idenya adalah banyak chip terhubung dalam satu jaringan dan menggunakan memori bersama dengan kecepatan tinggi dan latensi rendah. Pada dasarnya, seluruh klaster bekerja seperti satu akselerator raksasa, bukan sekumpulan perangkat terpisah.
Sebelumnya beredar rumor bahwa Etched menanamkan model tertentu secara permanen ke dalam silikon dan karena itu tidak akan mampu beradaptasi dengan arsitektur baru. Perusahaan membantah kekhawatiran ini: sistem saat ini mampu menjalankan model frontier apa pun, yaitu jaringan saraf tujuan umum paling canggih.
Mengapa Jane Street berani memasang taruhan besar
Bagi Jane Street, partisipasi dalam putaran ini bukan sekadar suntikan dana. Firma tersebut menyatakan telah melakukan pengujian sendiri terhadap chip tersebut dan merasa puas dengan hasil awalnya. Terlebih lagi, Jane Street kini memiliki rack sendiri dengan peralatan Etched di pusat data. Ini berarti investor tidak hanya percaya begitu saja, tetapi mendapatkan akses ke perangkat keras dan mengujinya secara langsung.
Kesepakatan itu sendiri tampak seperti mosi percaya terhadap seluruh konsep Etched. Chip khusus untuk inferensi adalah taruhan berisiko, karena pasar berubah cepat dan model bahasa besar terus berevolusi. Namun kombinasi chip prefill bervoltase rendah dan memori klaster yang dapat diskalakan memberi Etched argumen untuk bersaing dengan akselerator serbaguna.
Selain Jane Street, investor yang sudah dikenal dari kesepakatan sebelumnya juga ikut serta dalam putaran ini: Kleiner Perkins, Sequoia Capital, Andreessen Horowitz, Tiger Global, Bain Capital Ventures, Primary, Positive Sum, Diffusion, Argo, Blackstone, serta Peter Thiel dan Neo, Stripes. Komposisinya solid — dari dana ventura klasik hingga pemain keuangan besar.
Perusahaan menjanjikan kecepatan inferensi yang lebih tinggi dan biaya yang lebih rendah dibandingkan solusi tradisional kepada para kliennya. Jika karakteristik yang diklaim terbukti dalam beban produksi nyata, $21 miliar mungkin bukan puncaknya, melainkan hanya titik persinggahan.
