JAKARTA — Keputusan membatasi fitur pembuatan dan penyuntingan gambar pada Grok AI di platform X terus menuai perhatian luas. Langkah yang diambil pemilik X, Elon Musk, muncul setelah maraknya laporan penyalahgunaan kecerdasan buatan untuk membuat konten tak senonoh, termasuk pornografi berbasis manipulasi foto atau deepfake. Meski demikian, kebijakan ini dinilai belum menyentuh persoalan mendasar terkait pengamanan teknologi AI.
Pembatasan mulai diterapkan pada Jumat, 9 Januari 2026 waktu Amerika Serikat. Sejak saat itu, pengguna X versi gratis tidak lagi dapat membuat atau mengedit gambar menggunakan Grok melalui perintah di lini masa. Ketika pengguna mencoba memanggil Grok dengan menyertakan tagar @Grok, sistem menampilkan pemberitahuan bahwa fitur pembuatan dan penyuntingan gambar hanya tersedia bagi pelanggan X Premium, disertai tautan menuju halaman berlangganan.
Kebijakan tersebut diambil setelah meningkatnya temuan penggunaan Grok AI untuk menghasilkan gambar asusila. Sejumlah organisasi pemantau internet melaporkan bahwa teknologi ini dimanfaatkan untuk memanipulasi foto individu nyata tanpa persetujuan, termasuk pembuatan konten pornografi. Praktik semacam ini dinilai berbahaya karena tidak hanya melanggar norma kesusilaan, tetapi juga merampas hak privasi dan hak atas citra diri seseorang.
Namun, pembatasan yang diberlakukan xAI belum sepenuhnya menutup akses. Pengguna gratis masih dapat membuat gambar apabila membuka tab Grok secara langsung di dalam aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga masih memungkinkan pembuatan gambar tanpa pembatasan serupa. Kondisi ini menimbulkan kritik bahwa kebijakan tersebut bersifat parsial dan belum konsisten di seluruh ekosistem layanan.
Reaksi kritis datang dari berbagai negara. Di Inggris, juru bicara pemerintah menilai pembatasan berbasis langganan tidak menyelesaikan masalah inti. Menurut pemerintah Inggris, kebijakan tersebut hanya memindahkan fitur yang berpotensi menghasilkan konten ilegal ke layanan berbayar, tanpa memperkuat sistem pencegahan sejak awal. Komisi Eropa juga menyampaikan pandangan serupa. Otoritas Uni Eropa menegaskan bahwa konten asusila tetap tidak dapat diterima, baik diakses oleh pengguna gratis maupun berbayar.
Di Amerika Serikat, isu Grok AI turut menarik perhatian legislatif. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk mendesak evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Langkah ini diambil karena X dinilai belum sepenuhnya memenuhi standar distribusi aplikasi terkait keamanan pengguna dan pencegahan penyebaran konten berbahaya.
Di Indonesia, respons tegas datang dari Kementerian Komunikasi dan Digital atau Komdigi. Kementerian ini menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Berdasarkan hasil penelusuran sementara, Grok dinilai belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi foto pribadi menjadi konten asusila merupakan pelanggaran serius terhadap hak atas citra diri. Hak ini memberikan setiap individu kendali atas penggunaan identitas visualnya. Jika dilanggar, dampaknya tidak hanya bersifat moral, tetapi juga dapat menimbulkan tekanan psikologis, kerugian sosial, serta kerusakan reputasi yang berkepanjangan.
Komdigi menilai penyedia layanan kecerdasan buatan memiliki tanggung jawab hukum dan etis untuk memastikan teknologi yang mereka kembangkan tidak disalahgunakan. Pemerintah saat ini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik untuk memperkuat mekanisme perlindungan. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi.
Pemerintah juga mengingatkan bahwa seluruh platform digital yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat diterapkan. Sanksi ini termasuk kemungkinan pemblokiran layanan Grok AI dan platform X secara keseluruhan.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, konten pornografi dan manipulasi citra pribadi tanpa hak telah diatur secara tegas. Pasal 172 dan Pasal 407 KUHP baru mengatur definisi pornografi serta ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan. Ketentuan ini berlaku bagi individu maupun pihak yang menyediakan sarana teknologi.
Kasus pembatasan Grok AI menunjukkan tantangan besar dalam tata kelola kecerdasan buatan. Pembatasan akses berbasis langganan dinilai belum cukup jika tidak dibarengi pengamanan teknis yang kuat dan transparan. Di tengah pesatnya perkembangan AI generatif, pemerintah dan perusahaan teknologi dihadapkan pada tuntutan untuk memastikan inovasi berjalan seiring dengan perlindungan privasi, penghormatan hak asasi manusia, serta kepastian hukum bagi masyarakat.
