Tekanan harga chip
NVIDIA menaikkan harga chip canggih untuk AI. Biasanya produsen mengalihkan kenaikan biaya, tetapi kini perusahaan justru menaikkan harga. Keputusan ini bisa memaksa Silicon Valley meninjau ulang rencana. Meta Platforms Inc., Microsoft Corp., dan OpenAI menghabiskan dana besar untuk perangkat NVIDIA guna melatih dan menjalankan model.
- NVIDIA menaikkan harga chip canggih.
- Silicon Valley bisa meninjau ulang rencana.
- Meta, Microsoft, dan OpenAI menghabiskan dana besar untuk perangkat.
Jika biaya chip terus naik, membeli lebih banyak perangkat mungkin bukan jawaban terbaik. Perusahaan mungkin perlu mencari cara untuk mendapatkan lebih banyak dari chip yang sudah ada. Prioritas bergeser dari jumlah pembelian ke efisiensi penggunaan.
Pergeseran logika perlombaan
Perlombaan AI pada dasarnya adalah tentang mendapatkan daya komputasi lebih besar. Lebih banyak chip berarti kemampuan melatih model yang lebih besar dan lebih canggih. Pendekatan ini semakin sulit dan mahal.
| Kriteria | Prioritas Lama | Prioritas Baru |
|---|---|---|
| Sumber daya utama | Jumlah chip | Efisiensi setiap chip |
| Tujuan | Melatih model yang lebih besar | Menyelesaikan lebih banyak pekerjaan dengan perangkat yang ada |
| Keterbatasan | Akses ke daya komputasi | Kenaikan biaya dan kompleksitas |
Pemenangnya adalah yang mampu mengerahkan lebih banyak pekerjaan dari perangkat yang tersedia.
Pengalaman perusahaan Tiongkok
Perusahaan AI Tiongkok menghadapi keterbatasan akses ke chip NVIDIA canggih. Alih-alih sekadar melambat, mereka mencari cara lain untuk meningkatkan sistem AI mereka.
- Berfokus pada peningkatan efisiensi model.
- Menggunakan perangkat yang tersedia dengan hati-hati.
- Mencari cara lain untuk meningkatkan sistem AI.
DeepSeek menciptakan model AI yang kuat meskipun aksesnya lebih kecil ke chip paling canggih. Ketika akses ke chip menjadi masalah, para pengembang menerapkan peringkasan matematis multi-head latent attention. Ini mengurangi kebutuhan memori chip sekitar 96%.
Kemajuan DeepSeek menunjukkan bahwa memiliki lebih sedikit chip top-end tidak selalu berarti tertinggal. Bagi Silicon Valley, pelajarannya sederhana: AI yang lebih cerdas bisa sama pentingnya dengan perangkat yang lebih kuat.
Perangkat lunak sebagai tuas efisiensi
Meta Platforms Inc. dan OpenAI mengerjakan alat perangkat lunak dan sistem pemrograman baru. Ini dapat membantu model AI mereka bekerja lebih efisien.
- Perangkat lunak yang lebih baik membantu model menyelesaikan lebih banyak pekerjaan.
- Alat baru mengurangi pemborosan dan meningkatkan produktivitas.
- Perangkat lunak menjadi kriteria tersendiri dalam memilih strategi.
Investasi dalam perangkat lunak dan alat pengembangan menjadi tak kalah penting dibandingkan pembelian perangkat keras.
Kriteria praktis
Chip NVIDIA akan tetap penting bagi industri AI. Namun, perusahaan akan kurang berfokus pada berapa banyak chip yang bisa mereka beli. Yang lebih penting adalah berapa banyak pekerjaan yang bisa diproses setiap chip.
- Jangan hanya melihat akses ke daya komputasi.
- Pertimbangkan efisiensi model.
- Nilai solusi perangkat lunak.
- Bandingkan hasil dari perangkat yang tersedia.
AI yang lebih cerdas bisa memberikan hasil yang sama dengan perangkat yang lebih kuat.
