Discord Akui Bug Moderasi AI Salah Banned Pengguna karena Foto Biasa

Discord baru-baru ini mengakui bahwa sistem moderasi berbasis AI mereka mengalami bug serius yang berujung pada pemblokiran akun pengguna yang sama sekali tidak melanggar aturan. Masalah ini dipicu oleh kesalahan dalam mendeteksi gambar—foto-foto yang sebetulnya tidak berbahaya malah diflagging dan berujung pada banned permanen atau sementara. Discord secara resmi mengonfirmasi adanya bug ini dan menyatakan bahwa pihak mereka telah mengidentifikasi serta memperbaiki masalah tersebut.

Bug ini ternyata sudah berlangsung sejak bulan Mei, jauh sebelum akhirnya terdeteksi dan ditangani. Yang lebih mengkhawatirkan, sebanyak 200 pengguna tambahan terkena banned dalam satu akhir pekan saja sebelum tim Discord berhasil menutup celah tersebut. Artinya, selama berbulan-bulan sistem moderasi otomatis ini berjalan dengan keputusan yang keliru tanpa ada yang menyadarinya lebih awal.

Insiden ini menyoroti risiko nyata dari ketergantungan berlebihan pada moderasi konten berbasis AI tanpa pengawasan manusia yang memadai. Ketika algoritma salah baca, dampaknya langsung dirasakan oleh pengguna yang kehilangan akses ke akun mereka—termasuk komunitas, teman, dan riwayat percakapan. Di industri platform digital yang semakin mengandalkan AI untuk mengelola moderasi berskala besar, kejadian seperti ini bisa merusak kepercayaan pengguna secara signifikan.

Yang menarik untuk diikuti adalah bagaimana Discord merespons pengguna yang terlanjur terkena dampak—apakah akun mereka dipulihkan sepenuhnya dan apakah ada kompensasi atau permintaan maaf resmi. Kasus ini juga kemungkinan akan mendorong diskusi lebih luas soal transparansi sistem moderasi AI dan pentingnya mekanisme banding yang jelas bagi pengguna yang merasa dirugikan.