Komdigi Siapkan Regulasi Antisipasi Ancaman "Deepfake" Berbasis AI

IVOOX.id – Kementerian Komunikasi dan Digital (Kemenkomdigi) tengah menyiapkan regulasi untuk mengantisipasi penyalahgunaan "deepfake" atau video palsu yang dihasilkan menggunakan kecerdasan buatan (artificial intelligence/AI).

"Kita akan buat aturan yang lebih ketat untuk mengawasi pemanfaatan teknologi ini," kata Direktur Pengawasan Sertifikasi dan Transaksi Elektronik Kemenkomdigi Teguh Arifiyadi di Kantor PP Muhammadiyah, Yogyakarta, Selasa (17/6/2025), dikutip dari Antara.

Menurut Teguh, pemerintah saat ini masih menggodok model regulasi yang paling tepat, dengan dua pendekatan yang tengah dikaji, yakni mengatur secara spesifik tiap jenis teknologi atau disusun dalam bentuk aturan umum yang bersifat komprehensif.

"Apakah kita akan mengatur secara spesifik per teknologinya, atau kita akan membuat aturan umum untuk memberikan ruang atau tata kelola pengawasan yang komprehensif," ujar dia.

Teguh menilai pengaturan yang lebih ketat perlu segera disiapkan seiring berkembangnya potensi penyalahgunaan teknologi berbasis AI, terutama deepfake.

Pasalnya, teknologi itu mampu merekayasa gambar, suara, maupun video seseorang menyerupai aslinya.

"Bayangkan muncul 'WhatsApp (WA)-call' presiden ke menteri, padahal itu pakai 'deepfake'. Apa yang terjadi? Negara bisa terdampak," beber Teguh.

Ancaman itu, menurut dia, bukan lagi sekadar dugaan. Pada 4 Februari 2025, Direktorat Tindak Pidana Siber Bareskrim Polri menangkap pelaku penyebaran "deepfake" yang menampilkan Presiden Prabowo Subianto dan Menteri Keuangan Sri Mulyani Indrawati.

Modus pelaku adalah mengunggah video hasil rekayasa AI itu ke Instagram untuk menyebarkan narasi menyesatkan.

Selain menyusun regulasi, lanjut Teguh, pemerintah juga akan memperhatikan aspek etika dan standarisasi pemanfaatan teknologi AI. "Sehingga pemanfaatan AI itu minim penyalahgunaan," ujarnya.

Sebagai bagian mitigasi risiko "deepfake", menurut dia, Kemenkomdigi mendorong penerapan verifikasi biometrik berbasis "liveness detection" dalam sistem identitas digital untuk memastikan pengguna benar-benar manusia, bukan hasil manipulasi visual AI.

"Kalau kita tidak siapkan sekarang, maka dalam dua-tiga tahun ke depan, kita akan semakin sulit membedakan mana yang asli dan mana yang rekayasa," ujarnya.

Namun yang paling penting dilakukan saat ini, menurutnya, adalah penguatan literasi digital bagi masyarakat luas.

"Kita harus lebih mengencangkan atau lebih menggiatkan literasi untuk memastikan bahwa masyarakat kita paham akan risiko dari teknologi, pemanfaatan AI yang mereka gunakan," kata Teguh.