Google DeepMind Khawatir Jutaan Agen AI Berinteraksi Tanpa Pengawasan

Google DeepMind sedang mendanai penelitian untuk mengantisipasi risiko yang muncul ketika jutaan agen AI mulai berinteraksi satu sama lain secara masif di internet. Kekhawatiran ini diungkapkan langsung oleh Rohin Shah, kepala riset keselamatan dan alignment AGI di perusahaan tersebut. Agen-agen ini dirancang untuk menyelesaikan tugas secara mandiri dan bisa menerima instruksi dari agen AI lain — bukan hanya dari manusia.

Berbeda dari chatbot biasa yang hanya merespons perintah pengguna, agen AI generasi baru ini bisa bertindak secara otonom dalam jangka waktu panjang — memesan sesuatu, mengelola kalender, bahkan bernegosiasi dengan sistem lain. Ketika jutaan agen seperti ini beroperasi bersamaan dan saling berinteraksi, dinamika yang muncul bisa sangat sulit diprediksi. Ini adalah wilayah yang belum banyak dipahami, bahkan oleh para peneliti AI sendiri.

Risiko utamanya bukan sekadar satu agen yang "nakal", melainkan efek domino dari interaksi massal yang tidak terduga — semacam flash crash di pasar saham, tapi di ekosistem AI. Industri teknologi semakin menyadari bahwa keselamatan AI tidak bisa hanya diukur dari perilaku satu model secara terisolasi. Penelitian seperti ini penting untuk menyiapkan kerangka pengawasan sebelum teknologi agentic benar-benar meledak di pasar konsumen.

Yang menarik untuk diikuti adalah bagaimana temuan riset ini nantinya akan memengaruhi regulasi dan standar industri untuk agen AI. Apakah akan ada semacam "protokol lalu lintas" antar-agen, atau justru masing-masing perusahaan akan jalan sendiri-sendiri? Langkah Google DeepMind ini bisa jadi sinyal bahwa era multi-agent yang sesungguhnya — dengan segala kompleksitasnya — sudah semakin dekat.