Jawa Pos Radar Lawu - Upaya menjaga ruang digital Indonesia agar tetap aman dan beretika kembali ditegaskan pemerintah. Melalui Kementerian Komunikasi dan Digital (Komdigi), pemerintah resmi memutus akses sementara aplikasi Grok, platform berbasis kecerdasan buatan (AI), menyusul maraknya penyalahgunaan teknologi deepfake pornografi.
Kebijakan ini diumumkan langsung oleh Menteri Komunikasi dan Digital Meutya Hafid dalam pernyataan resminya di Jakarta, Sabtu (10/1).
Langkah tersebut diambil sebagai bentuk perlindungan terhadap perempuan, anak, dan masyarakat luas dari dampak konten pornografi palsu yang dibuat tanpa persetujuan korban.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya.
Deepfake Seksual Disebut Kekerasan Berbasis Digital
Meutya menegaskan, penggunaan teknologi AI untuk menciptakan dan menyebarkan konten pornografi palsu bukan sekadar pelanggaran etika, melainkan bentuk kekerasan digital yang nyata.
Praktik tersebut berpotensi merusak reputasi korban, memicu tekanan psikologis, menimbulkan masalah sosial, hingga berdampak hukum dalam jangka panjang. Karena itu, negara dinilai perlu hadir secara tegas untuk mencegah penyalahgunaan teknologi.
Pemutusan akses terhadap Grok, lanjut Meutya, bersifat sementara dan bertujuan sebagai langkah preventif sekaligus korektif, sambil memastikan platform digital bertanggung jawab atas teknologi yang mereka kembangkan.
Komdigi Panggil Platform X untuk Klarifikasi
Tak hanya memblokir sementara Grok, Komdigi juga secara resmi memanggil Platform X sebagai pihak terkait. Pemerintah ingin memperoleh penjelasan komprehensif mengenai dampak penggunaan Grok serta langkah mitigasi yang akan dilakukan ke depan.
“Kementerian Komunikasi dan Digital telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” kata Meutya.
Pemanggilan ini dilakukan untuk memastikan tidak ada celah penyalahgunaan teknologi AI yang dapat merugikan masyarakat Indonesia.
Pemutusan Akses Berlandaskan Aturan Hukum
Dari sisi regulasi, kebijakan Komdigi memiliki dasar hukum yang kuat. Pemerintah menjalankan kewenangan sesuai Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Aturan tersebut mewajibkan setiap PSE memastikan sistem yang mereka kelola tidak memuat, memfasilitasi, atau mendukung konten yang dilarang oleh peraturan perundang-undangan.
Grok Disorot Dunia Internasional
Sebelum langkah Indonesia diambil, Grok telah menuai kritik global karena dinilai memungkinkan pembuatan gambar bernuansa pornografi berbasis AI. Meski pihak Grok menyatakan fitur tersebut hanya tersedia bagi pelanggan berbayar di platform X, banyak pihak menilai potensi penyalahgunaan tetap terbuka.
Kritik datang dari berbagai negara, termasuk Inggris, Uni Eropa, dan India. Uni Eropa bahkan meminta xAI menyimpan seluruh dokumentasi terkait chatbot tersebut. Sementara pemerintah India dilaporkan mendesak X segera melakukan pembenahan atau berisiko kehilangan perlindungan safe harbor. Otoritas komunikasi Inggris juga mengonfirmasi telah menghubungi xAI untuk meminta klarifikasi.
Langkah Indonesia menegaskan bahwa isu keamanan digital, etika AI, dan perlindungan korban kini menjadi prioritas serius di tengah pesatnya perkembangan teknologi. (fin)
Editor : AA Arsyadani