Komdigi Telusuri Dugaan Penyalahgunaan Grok AI di Platform X untuk Konten Asusila

IVOOX.id – Kementerian Komunikasi dan Digital (Komdigi) menelusuri dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi bersifat sensitif tanpa persetujuan pemiliknya. Langkah ini diambil menyusul temuan awal yang menunjukkan potensi pelanggaran serius terhadap privasi dan hak atas citra diri warga negara.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa berdasarkan penelusuran awal, Grok AI belum memiliki pengaturan yang jelas dan memadai untuk mencegah pembuatan serta distribusi konten pornografi berbasis foto nyata masyarakat Indonesia. Kondisi tersebut dinilai membuka celah penyalahgunaan teknologi yang berdampak langsung pada hak individu, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/2026).

Menurut Kemkomdigi, manipulasi digital terhadap foto pribadi tidak bisa dipandang semata sebagai persoalan kesusilaan. Praktik tersebut disebut sebagai bentuk perampasan kendali individu atas identitas visualnya, yang berpotensi menimbulkan dampak psikologis, sosial, hingga merusak reputasi korban di ruang publik maupun digital.

Alexander menambahkan, pihaknya kini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme pelindungan yang efektif. Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” katanya.

Kemkomdigi juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia memiliki kewajiban mematuhi peraturan perundang-undangan yang berlaku. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI maupun platform X.

Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur secara tegas dalam Pasal 172 dan Pasal 407. Alexander menegaskan bahwa baik penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dan manipulasi citra pribadi tanpa hak dapat dikenakan sanksi sesuai ketentuan hukum.

“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujarnya.