Indonesia Jadi Negara Pertama Blokir Grok AI, Demi Lindungi dari Konten Asusila

Jakarta, TheStance  – Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok milik Elon Musk.

Menteri Komunikasi dan Digital (Komdigi), Meutya Hafid, mengatakan pemblokiran sementara terhadap chatbot berbasis kecerdasan artifisial (AI) itu merupakan upaya untuk melindungi masyarakat dari risiko konten pornografil

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Meutya, dalam keterangannya, dikutip Senin (12/1/2025).

Menurut Meutya, penyalahgunaan AI untuk membuat konten seksual nonkonsensual adalah ancaman nyata terhadap keamanan publik, privasi individu, dan nilai kemanusiaan.

"Ruang digital tidak boleh menjadi wilayah bebas hukum," kata dia.

Selain menutup sementara akses Grok, Komdigi juga meminta X selaku pengelola platform untuk segera memberikan klarifikasi dan bertanggung jawab.

"Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang diajukan penyelenggara sistem elektronik," katanya.

Sebagai informasi, Indonesia resmi menjadi negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, menyusul temuan penyalahgunaan teknologi tersebut untuk memproduksi konten pornografi palsu berbasis deepfake.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar mengatakan Grok AI belum memiliki pengaturan untuk mencegah produksi dan distribusi konten pornografi berbasis foto.

Ini berpotensi melanggar hak privasi dan citra diri, khususnya saat foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," kata Alexander dikutip dari laman resmi Komdigi.

Kemkomdigi juga telah memanggil perwakilan platform X untuk meminta klarifikasi atas dampak negatif penggunaan Grok. Pemerintah menegaskan, akses baru akan dipulihkan setelah platform tersebut memenuhi kewajiban perlindungan pengguna sesuai hukum yang berlaku di Indonesia.

Mengutip Reuters, xAI, perusahaan di balik Grok, juga mengakui adanya celah pengamanan yang memungkinkan keluarnya konten seksual, termasuk visual anak berpakaian minim.

xAI kemudian membatasi fitur pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar.

Elon Musk sendiri menyatakan melalui platform X, siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi hukum yang sama seperti mengunggah konten ilegal lainnya.

Fitur pengeditan gambar pada Grok AI milik platform X membuka celah baru bagi terjadinya pelecehan digital.

Sejumlah artis dan figur publik Indonesia belakangan ini ramai mengeluhkan foto mereka dimanipulasi tanpa izin, kerap dengan nuansa seksual yang menjurus vulgar.

Fenomena ini memicu kekhawatiran serius soal privasi dan keamanan data pribadi. Dengan satu perintah (promt) sederhana, gambar yang sebelumnya biasa dapat diubah menjadi konten bermuatan seksual.

Anggota JKT48 Freya Jayawardana dan Shania Gracia menyuarakan keresahan mereka secara terbuka.

Freya, yang baru ditunjuk sebagai kapten JKT48, bahkan menuliskan pernyataan tegas di akun X miliknya. Ia meminta Grok menolak segala bentuk pemrosesan, pengambilan, maupun pengeditan foto dirinya tanpa izin. Unggahan tersebut viral dan dianggap sebagai simbol perlawanan terhadap potensi pelecehan berbasis AI.

Sementara itu, Shania Gracia mengaku kini enggan mengunggah foto ke media sosial karena khawatir dimanipulasi.

Bahkan, ia menyebut praktik tersebut sebagai “pelecehan yang tak terlihat, tapi nyata,” karena dampaknya dirasakan langsung oleh korban meski dilakukan secara digital.

Protes serupa datang dari penyanyi Bernadya Ribka. Melalui akun X miliknya, ia mengkritik pengguna Grok yang memanfaatkan AI tersebut untuk konten tidak pantas. Ia menilai perilaku itu sudah melampaui batas etika dan mencerminkan ketidakdewasaan dalam menggunakan teknologi.

"Seperti anak kecil yang baru dikasih pegang HP," ujarnya.

Problem ini tidak hanya mengancam selebriti. Pengguna umum melaporkan bahwa Grok dapat mengubah foto polos menjadi gambar berbikini atau lebih vulgar hanya dengan prompt sederhana, tanpa verifikasi persetujuan pemilik foto. Kondisi ini disebut mengerikan, karena siapa pun bisa menjadi korban.

Menanggapi banyaknya keluhan atas penyalahgunaan fitur kecerdasan buatan Grok AI untuk konten asusila di platform X, Kementerian Komunikasi dan Digital (Kemkomdigi) mengingatkan adanya ancaman pidana.

Direktur Jenderal Pengawasan Ruang Digital Kemenkomdigi, Alexander Sabar menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan atau pidana sesuai ketentuan hukum yang berlaku.

"Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum," kata Alexander.

Upaya hukum itu dapat melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkomdigi.

Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.

Sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.

"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi," ujar Alexander.

Senada, Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji menegaskan tindakan manipulasi foto seseorang menjadi konten vulgar dengan fitur kecerdasan buatan, Grok AI pada platform media sosial X dapat dipidana. Pengeditan foto itu merupakan bentuk pidana berupa deepfake.

"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI," kata Himawan, Rabu (7/1/2026).

Himawan menyatakan jika terbukti ada manipulasi data elektronik oleh orang lain tanpa persetujuan pemiliknya, tindakan itu dapat diproses pidana. Hal ini juga berlaku untuk yang memanipulasi foto mesum lewat aplikasi selain Grok AI.

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," imbuhnya.

Salah satu kasus edit foto menjadi konten asusila dengan menggunakan teknologi AI yang cukup viral terjadi di Semarang Jawa Tengah.

Pelakunya, Chiko Radityatama Agung Putra adalah seorang mahasiswa di Semarang. Dalam kasus ini, Chiko diduga mengedit konten biasa jadi konten cabul dengan teknologi AI. Bejatnya, yang diedit merupakan siswi dan alumni sekolahnya dulu, SMA Negeri 11 Semarang.

Sebagian video editan Chiko yang berjudul “Skandal Semanse” tersebut diunggah di media sosial X. Orang yang menjadi korban pun protes mengetahui fotonya diedit jadi konten pornografi.

Tak lama setelah unggahan viral, Chiko membuat video pengakuan dan permintaan maaf kepada para korban. Video klarifikasi itu diunggah akun resmi SMA Negeri 11 Semarang.

"Saya telah mengedit dan mengunggah foto maupun video teman-teman tanpa izin di akun Twitter saya," kata Chiko dalam video berdurasi dua menit itu.

Namun, permintaan maaf Chiko tak menghentikan proses hukum. Chiko yang kedua orangtunya merupakan polisi itu sebentar lagi akan menjalani persidangan untuk mempertanggungjawabkan perbuatannya.

Chiko dijerat pasal berlapis. Mulai dari Pasal 29 jo Pasal 4 ayat (1) huruf d Undang-Undang Pornografi, sampai pasal-pasal di Undang-Undang Informasi dan Transaksi Elektronik terkait manipulasi dan distribusi konten asusila. (est)

Simak info publik, kebijakan & geopolitik dunia di kanal Whatsapp dan Telegram TheStance