Mengelola Bahaya GenAI untuk Keamanan

IVOOX.id – Komunitas guru dibikin heboh gara-gara pernyataan Menteri Keuangan Sri Mulyani, "Guru itu beban negara", dalam sebuah video pendek yang diunggah satu akun TikTok.

Video pun dengan cepat menyebar di platform media sosial lainnya, seperti Instagram, Youtube dan X.

Sejumlah komunitas guru menanggapinya dengan emosional. Pada akhirnya, Sri Mulyani membantah dan Komdigi menyatakan bahwa video itu hasil rekayasa Artificial Intelligence (AI)

Pada Februari 2025 lalu, seseorang ditangkap oleh Kepolisian karena deepfake. Pelaku mengunggah video palsu berisi tawaran bantuan sosial senilai Rp50 juta bagi siapa saja yang menontonnya. Masalahnya, pelaku menggunakan video palsu sosok Prabowo Subianto selaku Presiden, Gibran Rakabuming Raka selaku Wakil Presiden dan Sri Mulyani selaku Menteri Keuangan. Tak kurang 100 orang tertipu oleh video tersebut, menghubungi kreator dan menyetorkan sejumlah biaya "administrasi."

Jauh hari sebelum itu, pada 2023 lalu muncul video palsu pidato Presiden Joko Widodo menggunakan Bahasa Mandarin dengan fasih. Tujuannya tak lain untuk mendiskreditkan satu kelompok politik tertentu menjelang Pemilu 2024 lalu.

Fenomena rekayasa sosial dengan menggunakan GenAI (Generative Artificial Intelligence) telah membuktikan prediksi para ahli terhadap bahaya GenAI di masa mendatang. Tanpa mengesampingkan manfaat yang diperoleh umat manusia, bahaya GenAI mulai kita rasakan. Bisa jadi bahaya ini akan terus meluas dan merugikan masyarakat hingga mengancam keamanan negara.

Laporan CrowdStrike Global Threat Report 2025 (CrowdStrike: 20225) menyatakan bahwa GenAI telah muncul sebagai alat yang sangat menarik bagi aktor serangan siber karena mudah untuk diakses dan minim hambatan. Kemajuan terbaru dalam GenAI telah meningkatkan efektivitas serangan siber, terutama yang menggunakan metode social engineering.

GenAI terbaru dapat menghasilkan konten yang sangat meyakinkan tanpa harus menggunakan bahasa prompt yang tepat ataupun pelatihan model secara khusus (deep learning). Semuanya dapat digunakan dengan sangat mudah dan hasil yang meyakinkan.

Sejumlah perusahaan keamanan siber di Amerika Serikat melaporkan pada Agustus 2024 tentang aktivitas operasi siber Green Cicada Network, sebuah jaringan operasi internet yang terhubung dengan Universitas China dan perusahaan AI. Terdapat 5.000 akun bodong diaktifkan dengan menggunakan GenAI berbasis Large Language Model (LLM) di platform media sosial X. Jaringan ini aktif menyebarkan propaganda isu-isu yang dapat memperburuk perpecahan sosial menjelang pemilihan presiden AS tahun 2024.

Pada tahun yang sama, Laboratorium Disinformasi Uni Eropa (2024) mengungkap kampanye pengaruh Rusia yang dikenal sebagai “DoppelGänger.” Operasi ini berjalan sejak Mei 2022, oleh Badan Desain Sosial Rusia dan Structura National Technologies. DoppelGänger beroperasi untuk mempromosikan narasi pro-Rusia dan menyusup ke lanskap media Eropa dengan menyebarkan disinformasi melalui jaringan situs web kloning, artikel palsu, dan manipulasi media sosial.

Operasi DoppelGänger menggunakan GenAI untuk menciptakan konten disinformasi dan membeli nama domain yang mirip dengan media resmi untuk meniru media berita, pemerintah, dan lembaga riset, sehingga memikat pembaca yang tidak menaruh curiga.

Di dunia swasta, GenAI digunakan untuk BEC and fraud, yaitu penipuan siber di mana penipu menggunakan akun email yang disusupi atau meniru persona eksekutif atau mitra bisnis terpercaya untuk memanipulasi karyawan agar melakukan transfer dana yang tidak sah atau mengungkapkan informasi sensitif. Pada 2025, Hoxhunt melaporkan 43 persen menggunakan AI untuk memanipulasi suara atau teks dalam operasi penipuan mereka.

Meningkatnya tren penggunaan GenAI untuk aktivitas ilegal atau kriminal, dalam skala kecil tentu masih dapat dipantau dan ditangani. Namun, dalam skala besar tentu saja akan menimbulkan ancaman keamanan nasional.

Munculnya video deepfake baru di masa depan kemungkinan akan semakin meningkat. Dari pelaku yang hanya sekedar untuk memperoleh keuntungan pribadi dari kejahatan mereka hingga aktor-aktor yang berniat untuk menimbulkan perpecahan di Indonesia. Oleh karena itu, dampak dari GenAI haruslah dikelola dengan serius.

Belajar dari China

Kita mungkin bisa belajar dari apa yang sudah terjadi di berbagai negara dengan berbagai level ancaman. China adalah negara yang siap dengan perkembangan teknologi digital. Pada 2014, Sekretaris Jenderal Xi Jinping menyerukan agar China menjadi kekuatan siber dan penerapan strategi peremajaan nasional Partai Komunis China (PKC). Upaya itu tampaknya telah mempercepat kecanggihan siber negara tirai bambu tersebut sepanjang kuartal pertama abad ke-21.

Sekoia Threat Detection and Research Team (2024) menemukan bahwa keberhasilan China dalam membangun kekuatan siber, sehingga siap menghadapi dampak dari GenAI, tidak terlepas dari tiga faktor.

Pertama, kuatnya keterlibatan negara dalam aktivitas siber nasional. Tentara Pembebasan Rakyat (People Liberation Army/PLA). Kementerian Keamanan Negara (Ministry of State Security/ MSS) dan Kementerian Keamanan Publik (Ministry of Public Safety/MPS) China memiliki peran yang kuat dalam pengembangan keamanan siber nasional.

Di dalam tubuh PLA sejak awal menyadari bahwa dominasi dan penguasaan atas informasi adalah kunci dalam memenangkan peperangan modern. Hal ini kemudian yang dijadikan doktrin militer mereka.

Reformasi PLA sejak 2015 hingga 2020 berhasil membentuk Strategic Support Force (SSF) yang di dalamnya terintegrasi kapabilitas untuk mendukung peperangan siber: military aerospace force, cyberspace force, information support force, dan joint logistic support force. Pembentukan SSF ini melengkapi empat kekuatan sebelumnya, sehingga sekarang dikenal dengan “Lima Teater Komando.”

Sementara itu, dua kementerian dibentuk untuk mengurusi perkara siber dalam negeri dan luar negeri. Xi Jinping secara tegas menerapkan kebijakan memperluas pengawasan jaringan informasi, investasi pendidikan untuk menghasilkan tenaga kerja siber, penyediaan dukungan keahlain dan infrastruktur swasta kepada PLA, MPS, dan MSS, penanganan kerentanan siber secara proaktif, dan pengembangan jaringan industri.

Kedua, melibatkan aktor peretas patriotik. Selain aktor negara yang terlibat dalam operasi serangan siber, pemerintah China secara aktif melibatkan aktor sipil. Peran ini ditonjolkan oleh keterlibatan historis para peretas patriotik tersebut dalam kampanye penyerangan siber, keamanan siber dan profesionalisasi aktivitas mereka pada perusahaan-perusahaan China.

Sejak tahun 1990-an, para peretas patriotik ini telah berevolusi. Mulai dari melakukan kampanye hacktivist secara sukarela, hingga berpartisipasi dalam operasi yang disponsori negara.

Peretas patriotik membentuk kelompok-kelompok yang bertujuan membela kepentingan China sejak awal tahun 2000-an. "The Green Army", kemudian "Honcker Union", dan "Red Hacker Alliance" termasuk di antara kelompok peretas China pertama yang muncul. Mereka melakukan kampanye disruptif demi China. Artinya, mereka ikut perang siber.

Tak hanya itu, mereka memiliki budaya berbagi, mendokumentasikan sebagian besar aktivitas mereka dan perangkat yang mereka kembangkan di blog atau forum yang dapat diakses bebas di internet sehingga memberikan kesempatan bagi generasi berikutnya.

Ketiga, terbentuknya dukungan dari ekosistem peretas bayaran. Ekosistem bayaran ini sebagian diwarisi dari aktivitas para peretas patriotik, yang terlibat dalam program-program yang disponsori negara untuk melakukan operasi siber, mengembangkan perangkat ofensif, dan bekerja di perusahaan-perusahaan teknologi. Kelompok ini pula menjembatani kedekatan antara aktor negara dan swasta.

Terbangunnya kedekatan ini pada akhirnya memperkuat kolaborasi antara aktor negara degan perusahaan-perusahaan di bidang Teknologi Informasi dan Komunikasi (TIK) sehingga semakin mempermudah operasi siber.

Ketiga faktor di atas inilah yang kemudian menjadikan China sebagai aktor dominan, baik dalam hal serangan siber maupun keamanan siber. Mereka menguasai informasi karena menguasai teknologinya, pengetahuannya, infrastrukturnya, dan menyelenggarakan tata kelola yang kuat.

Mengembangkan National Digital Power

Melihat bahaya yang ditimbulkan dari GenAI dan belajar dari apa yang dilakukan oleh China, Indonesia perlu mengembangkan apa yang disebut dengan National Digital Power, satu kekuatan berdaulat untuk memperkuat dari dalam segala hal yang terkait digital. Penguatan dari dalam akan mempermudah menangkal serangan dari luar. Karena itu, penulis merekomendasikan empat hal.

Pertama, penguatan kerangka kebijakan digital untuk memandu perjalanan transformasi digital secara berdaulat dan menciptakan kepastian hukum serta perlindungan kepada warga negara. Keberadaan UU Pelindungan Data Pribadi menjadi relevan dan penting untuk segera diimplementasikan. Tak kalah penting juga terkait tata kelola internet nasional yang mampu memberikan peluang besar bagi aktor-aktor dalam negeri untuk berkembang.

Kedua, pengembangan struktur tata kelola digital yang kuat, baik untuk penguatan dalam negeri maupun untuk menangkal serangan dari luar. Bisa membentuk struktur baru, atau memperkuat struktur yang lama, termasuk untuk mempermudah kerjasama antara lembaga, misalnya antara BSSN, Kepolisian, TNI, Komdigi dan sektor swasta.

Ketiga, penyediaan infrastruktur digital. Di tengah masalah luasnya jangkauan geografis dan kepulauan, kesempatan penyediaan infrastruktur oleh aktor dalam negeri menjadi isu tersendiri di tengah ketertinggalan Indonesia dalam hal teknologi.

Keempat, pengembangan keahlian di antaranya dengan penguatan sektor pendidikan. Disamping itu, penyelenggaraan peretas patriotik sebagaimana yang dilakukan di China dapat diamati, ditiru dan dimodifikasi.

Ancaman dari GenAI yang sudah di depan mata, haruslah dipersiapkan dengan baik untuk menghadapinya. Namun. sebisa mungkin dihadapi dengan cara yang terstruktur dan sistematik, tidak hanya dengan cara sporadis dan reaksioner semata. Pada akhirnya, pendayagunaan segala potensi sumberdaya penguatan teknologi informasi bertujuan untuk menjadi bangsa yang kuat dalam mencapai Indonesia Emas 2045.

Penulis: Ngasiman Djoyonegoro

Analis intelijen, pertahanan dan keamanan

Sumber: Antara