OpenAI Umumkan Chip AI Pertamanya, Jalapeño
OpenAI baru saja mengungkap chip "intelligence processor" pertama buatan mereka yang bernama Jalapeño, hasil kolaborasi dengan Broadcom. Chip ini dirancang khusus sebagai ASIC — Application-Specific Integrated Circuit — yang berarti fungsinya difokuskan untuk satu tujuan saja: menjalankan inferensi AI. Dengan kata lain, Jalapeño adalah otak di balik layar ketika kamu mengirim pesan ke ChatGPT atau menjalankan agen seperti Codex, dan model AI memproses permintaanmu secara real-time.
Penting untuk dipahami perbedaan antara inferensi dan pelatihan AI. Pelatihan adalah proses berat di mana model "belajar" dari miliaran data — dan ini biasanya dilakukan di balik layar, satu kali, sebelum model diluncurkan. Sementara inferensi adalah yang terjadi setiap hari, setiap menit, ketika jutaan pengguna berinteraksi dengan model tersebut. Chip Jalapeño difokuskan untuk mengoptimalkan proses yang kedua ini. Langkah ini juga datang hanya sembilan bulan setelah OpenAI pertama kali mengumumkan kemitraan mereka dengan Broadcom untuk pengembangan chip.
Selama ini, OpenAI sangat bergantung pada GPU NVIDIA untuk menjalankan seluruh infrastruktur mereka — dan biayanya tidak murah. Dengan memiliki chip sendiri yang dioptimalkan untuk inferensi, OpenAI berpotensi memangkas biaya operasional secara signifikan sekaligus mengurangi ketergantungan pada satu vendor. Ini adalah tren yang juga sudah dilakukan raksasa lain seperti Google dengan TPU-nya dan Amazon dengan chip Trainium/Inferentia — kini OpenAI ikut bermain di lapangan yang sama.
Yang menarik untuk diikuti adalah sejauh mana Jalapeño benar-benar bisa bersaing secara performa dan efisiensi dengan GPU NVIDIA yang sudah sangat matang ekosistemnya. Apakah chip ini hanya akan dipakai internal OpenAI, atau suatu saat akan ditawarkan ke pihak luar lewat layanan cloud? Persaingan di lapisan infrastruktur AI ini bisa jadi sama sengitnya dengan persaingan di lapisan model itu sendiri.