Batasi dalam ekosistem Wajah Hugging: apa artinya
Platform Baseten secara resmi menjadi salah satu penyedia inferensi pada Hugging Face Hub. Ini adalah langkah penting bagi semua orang yang bekerja dengan model terbuka: sekarang Anda dapat meluncurkannya langsung dari halaman model tanpa mengerahkan infrastruktur Anda sendiri. Sebelumnya, Anda harus pergi ke layanan pihak ketiga, salin kunci, dan secara manual mengatur lingkungan - sekarang proses dikurangi menjadi beberapa klik.
Baseten bukan hanya menjadi tuan rumah untuk LLM. Platform ini menawarkan inferensi serverless, pelatihan model, dan katalog jaringan saraf yang sudah dibuat dari model bahasa besar sampai sistem sintesis bicara. Pada tahap awal, integrasi Hugging Face mencakup tugas-tugas bagi asisten dan generasi percakapan. Model terbuka yang tersedia termasuk Kimi K3, DeepSeek V4 Flash, GLM-5.2, dan lainnya. Daftar skenario yang didukung diharapkan untuk memperluas nanti.
Cara mengatur penyebaran model
Pengguna memiliki dua cara untuk mengakses penyedia. Yang pertama adalah untuk menentukan kunci Baseten API Anda sendiri dalam pengaturan akun Anda pada Hugging Face. Kemudian permintaan dari halaman model langsung ke layanan, dan Anda membayar untuk mereka sesuai dengan rencana Anda. Mode kedua adalah routing melalui infrastruktur Hugging Face. Dalam kasus ini, kunci Baseten terpisah tidak diperlukan: otentikasi terjadi melalui token Hugging Face Anda, dan semua biaya ditagih ke akun platform Anda.
Memilih penyedia mudah dikendalikan: Anda dapat mengatur urutan preferensi pada pengaturan pribadi Anda. Jika sebuah model tersedia dari beberapa layanan pihak ketiga, Hugging Face akan secara otomatis menunjukkan mereka pada halaman model, sesuai dengan pengaturan Anda. Hal ini nyaman jika Anda ingin membandingkan kecepatan atau biaya infrastruktur yang berbeda.
Pustaka klien dan frameworks agen
Pengembang tidak perlu menulis boilerplate tambahan. Baseti sudah tersedia melalui SDK resmi: huggingface_hub versi perpustakaan 1.26.1 dan di atas untuk Python, serta @huggingface/inference paket untuk JavaScript. Hanya otentikasi dengan Anda Hugging Face token - dan permintaan untuk model yang diselenggarakan pada Baseten akan diarahkan secara otomatis.
Ada juga kabar baik untuk mereka sistem agen bangunan. Penyedia referensi diintegrasikan dengan daya tahan agen populer, termasuk Pi, OpenCode, Agen Hermes, dan OpenClawIni berarti model Baseten dapat digunakan dalam alat-alat seperti tanpa menulis modul adaptor - koneksi terjadi melalui standar kerangka kerja.
Biaya dan batas bebas
Pertanyaan uang diselesaikan berbeda tergantung pada mode yang dipilih. Jika Anda menggunakan kunci penyedia sendiri, penagihan sepenuhnya di sisi Baseten. Ketika routing melalui Hugging Face, tingkat standar penyedia berlaku tanpa markup apapun dari platform. Pendapatan - berbagi perjanjian mungkin mungkin di masa depan, tapi untuk sekarang itu adalah gaji standar-seperti-you-go skema.
Pengguna aktif mendapatkan bonus bagus. Pelanggan Hugging Face PRO menerima $2 per bulan dalam kredit inferensi - mereka bekerja di penyedia yang berbeda. Dan pengguna bebas terdaftar mendapatkan sejumlah kecil kesimpulan tanpa biaya, sehingga Anda dapat mencoba integrasi baru tanpa investasi awal.
Penampilan Baseten dalam daftar Penyedia Inferensi membuat ekosistem Hugging Face bahkan lebih fleksibel. Pengguna mendapatkan lebih banyak pilihan, dan pengembang mendapatkan sedikit rutinitas. Untuk menyebarkan LLM terbuka, Anda tidak perlu lagi menjadi ahli DevOps: beberapa pengaturan sudah cukup, dan modelnya sudah aktif.
