Pontianak Today – Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memblokir sementara aplikasi kecerdasan buatan Grok AI. Keputusan ini diambil setelah ditemukan penyalahgunaan platform tersebut untuk membuat konten asusila, termasuk merekayasa foto orang lain tanpa izin menjadi gambar tidak senonoh yang disebarkan melalui platform X (sebelumnya Twitter).
Pernyataan resmi mengenai pemblokiran ini disampaikan oleh Menteri Komunikasi dan Digital, Meutya Hafid. Ia menekankan bahwa kebijakan ini bersifat sementara dan bertujuan untuk melindungi masyarakat, khususnya perempuan dan anak-anak, dari risiko konten pornografi palsu yang dibuat menggunakan teknologi kecerdasan buatan.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ungkap Meutya, dikutip dari laporan Kompas.
Langkah pemutusan akses ini merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan penyelenggara sistem elektronik memastikan platformnya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang.
Meutya juga menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia, martabat individu, serta keamanan pengguna di ruang digital. Ia menekankan bahwa pemerintah akan terus mengawasi penggunaan teknologi AI agar tidak disalahgunakan untuk tindakan yang merugikan masyarakat.
Pemblokiran Grok AI menjadi peringatan bagi penyelenggara platform digital lainnya agar lebih bertanggung jawab dalam pengelolaan konten dan memprioritaskan keamanan serta perlindungan pengguna dari konten berbahaya.
