KabarBaik.co– Indonesia mengambil langkah tegas dalam menjaga kedaulatan digital dan martabat warganya. Kementerian Komunikasi dan Digital (Komdigi) resmi menghentikan sementara akses ke layanan kecerdasan buatan (AI) milik Elon Musk, Grok AI, mulai Sabtu (10/1). Keputusan ini menjadi peringatan keras bagi pengembang teknologi dunia bahwa inovasi tidak boleh mengorbankan privasi.
Langkah tegas tersebut dipicu oleh maraknya penyalahgunaan Grok AI untuk menciptakan konten pornografi palsu atau deepfake. Teknologi ini terdeteksi mampu memanipulasi foto asli warga Indonesia, khususnya perempuan dan anak-anak, menjadi konten eksplisit tanpa persetujuan, sebuah tindakan yang dikategorikan sebagai pelanggaran berat Hak Asasi Manusia (HAM).
”Pemblokiran ini adalah benteng untuk melindungi kelompok rentan. Praktik deepfake seksual bukan sekadar penyalahgunaan teknologi, tapi serangan terhadap martabat dan keamanan masyarakat di ruang digital,” tegas Menteri Komunikasi dan Digital Meutya Hafid kepada awak media.
Investigasi awal oleh Dirjen Pengawasan Ruang Digital menemukan celah fatal pada sistem Grok. Direktur Jenderal Alexander Sabar mengungkapkan bahwa Grok AI belum memiliki mekanisme filtrasi yang mumpuni untuk mencegah pembuatan konten terlarang.
Pemerintah menyandarkan keputusan ini pada PM Kominfo No. 5 Tahun 2020. Berdasarkan regulasi tersebut, setiap Penyelenggara Sistem Elektronik (PSE) wajib: (1) Memastikan platform tidak memfasilitasi penyebaran konten terlarang. (2) Memiliki sistem moderasi mandiri yang efektif, (3) Menghormati privasi dan perlindungan data pribadi pengguna.
Indonesia tidak sendirian. Gelombang protes terhadap Grok AI juga datang dari India, Malaysia, hingga Uni Eropa. India bahkan mengancam akan mencabut perlindungan hukum platform X jika sistem AI mereka tidak segera diperbaiki.
Hingga saat ini, pihak X maupun tim pengembang Grok masih bungkam. Komdigi menegaskan bahwa akses hanya akan dibuka kembali jika ada komitmen nyata dan perbaikan sistem yang signifikan dari pihak platform. (*)
