Baseten Siap Raup Rp 24 Triliun di Tengah Demam Inferensi AI

Baseten, startup yang fokus di bidang inferensi AI, dikabarkan tengah dalam tahap akhir penggalangan dana senilai $1,5 miliar dengan valuasi mencapai $13 miliar. Kabar ini mengejutkan banyak pihak karena putaran raksasa ini terjadi hanya beberapa bulan setelah mereka menyelesaikan pendanaan besar sebelumnya. Artinya, investor masih sangat antusias mengucurkan modal ke infrastruktur AI, bahkan di tengah ketidakpastian ekonomi global.

Baseten bukan nama asing di ekosistem MLOps dan inferensi model. Perusahaan ini menyediakan platform bagi tim engineering untuk men-deploy dan menjalankan model AI dalam skala besar dengan latensi rendah — sesuatu yang makin krusial seiring ledakan penggunaan model-model besar seperti LLM dan model gambar. Mereka bersaing di segmen yang sama dengan pemain seperti Modal, Replicate, dan BentoML, tapi dengan fokus kuat pada performa produksi dan kemudahan integrasi.

Fenomena ini mencerminkan tren yang lebih besar: "inference gold rush" atau demam inferensi, di mana permintaan terhadap infrastruktur untuk *menjalankan* model AI jauh melampaui kapasitas yang tersedia. Melatih model memang mahal, tapi menjalankannya dalam skala jutaan pengguna setiap hari ternyata jadi bottleneck tersendiri. Startup yang bisa memecahkan masalah ini punya posisi sangat strategis, dan investor jelas melihat potensi keuntungan jangka panjang yang masif di sini.

Yang menarik untuk diikuti adalah apakah valuasi $13 miliar ini akan bertahan atau justru memantik pertanyaan soal gelembung valuasi di sektor AI infrastruktur. Dengan kompetisi yang semakin ketat dari cloud provider besar seperti AWS, Google, dan Azure yang juga agresif membangun layanan inferensi sendiri, Baseten perlu membuktikan bahwa keunggulan teknisnya benar-benar defensible dalam jangka panjang.