Jakarta (MAWARTA) – Pemerintah Indonesia mengambil langkah tegas terhadap maraknya penyalahgunaan kecerdasan buatan.
Melalui Kementerian Komunikasi dan Digital (Komdigi), akses terhadap fitur Grok, chatbot berbasis AI milik platform X, resmi diputus sementara mulai Sabtu (10/1/2026).
Kebijakan ini ditempuh sebagai respons atas meningkatnya peredaran konten pornografi palsu (deepfake) yang dinilai membahayakan masyarakat, khususnya perempuan dan anak-anak.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan, pemerintah tidak bisa mentoleransi pemanfaatan teknologi AI yang merusak martabat manusia dan melanggar hak asasi.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resminya di Jakarta.
Deepfake Dinilai Langgar HAM
Komdigi menilai fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran kesusilaan, melainkan bentuk pelanggaran serius terhadap hak asasi manusia, terutama hak atas identitas dan citra diri (right to one’s image).
Manipulasi visual semacam ini dinilai berdampak luas, mulai dari trauma psikologis korban, rusaknya reputasi sosial, hingga potensi pelecehan di ruang publik digital.
“Negara harus hadir untuk memastikan ruang digital tetap aman dan beradab,” tegas Meutya.
Platform X Dipanggil Klarifikasi
Selain memblokir sementara akses Grok, Komdigi juga telah melayangkan panggilan resmi kepada pihak pengelola Platform X. Pemerintah meminta klarifikasi menyeluruh terkait mekanisme pengamanan fitur AI tersebut serta langkah pencegahan agar penyalahgunaan serupa tidak terulang.
Langkah pemutusan akses ini memiliki dasar hukum kuat, yakni Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam Pasal 9, setiap PSE diwajibkan memastikan sistemnya tidak memuat atau memfasilitasi konten terlarang.
Ancaman Pidana bagi Pembuat Deepfake
Di sisi penegakan hukum, aparat kepolisian menegaskan bahwa pelaku pembuatan maupun penyebaran konten deepfake dapat dijerat pidana.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menyebut manipulasi data elektronik tanpa persetujuan pemiliknya merupakan tindak kriminal.
“Selama dapat dibuktikan sebagai manipulasi data elektronik, maka perbuatan tersebut dapat dipidana,” ujarnya, Rabu (7/1/2026).
Ketentuan ini berlaku tidak hanya bagi pengguna Grok, tetapi juga aplikasi AI lain yang disalahgunakan untuk tujuan serupa.
Sorotan Global terhadap Grok
Sebelumnya, Grok menjadi sorotan internasional karena kemampuannya menghasilkan konten visual sensitif secara instan.
Sejumlah pengguna X diketahui menyalahgunakan fitur tersebut dengan mengunggah foto perempuan, figur publik, bahkan anak-anak, disertai perintah manipulatif bernuansa seksual.
Merespons kritik global, pihak X mulai membatasi fitur edit gambar Grok dan mengklaim layanan tersebut hanya tersedia bagi pelanggan berbayar X Premium.
Namun, dalam praktiknya, celah akses masih ditemukan melalui berbagai fitur lain di aplikasi maupun situs X, serta platform mandiri Grok.
Kondisi inilah yang dinilai pemerintah berpotensi terus disalahgunakan jika tidak segera dihentikan. (Jones)
