Bahaya Deepfake AI, Pemerintah Siapkan Langkah Konkret

Bahaya dari kecerdasan Teknologi Buatan Artificial Intelligence (AI) kini semakin nyata di masyarakat. Tentu masalah ini perlu adanya solusi dan tindakan langsung dari pemerintah. 

Deepfake AI merupakan teknologi kecerdasan buatan yang digunakan membuat konten palsu misalnya video, audio, atau gambar yang bertujuan memanipulasi orang lain dengan terlihat nyata. Deepfake AI juga nyaris sulit dibedakan dengan gambar/audio aslinya.

Di Indonesia sekarang kejadian seperti menipu atau memanipulasi dengan cara seperti itu sudah banyak terjadi. Dampaknya masyarakat akan mudah percaya dengan AI tersebut karena dibuat se nyata mungkin. 

Hal ini membuat pemerintah angkat suara dan memberikan langkah konkret nya untuk melindungi masyarakat Indonesia. Seperti yang diungkapkan oleh Kementerian Komunikasi dan Digital (Komdigi).  

Pihak Komdigi akan terus melakukan perlindungan dengan melalui tiga langkah strategis. Pertama, peningkatan literasi digital, regulasi perlindungan pada anak, adanya penindakan konten yang berbahaya. 

"Disini Komdigi akan berkomitmen ciptakan ruang digital bagi semuanya dengan keamanan. Literasi digital akan dilakukan, melakukan takedown pada postingan yang tidak baik, juga akan bekerjasama dengan aparat hukum mengenai tindakan kejahatan basis digital inj," ucap Wakil Menteri Komdigi, Nezar Patria, dikutip dari CNN. 

Baca juga: Katanya TikTok Mau Dijual, China Siapkan Aplikasi Baru?

Konten yang memanipulasi banyak orang ini akan jadi tantangan yang besar bagi seluruh masyarakat. Deepfake ini akan sangat merugikan, dan berpengaruh yang besar pada kelompok rentan seperti anak-anak, orang tua, dan perempuan. 

Pada kejadian ini pelaku biasanya menyalahgunakan Deepfake AI dengan membuat berbagai video atau remaman suara yang ditampilkan secara nyata kepada korban dengan alih alih sebagai bentuk ancaman atau menggambarkan yang sebenernya itu tidak terjadi. 

Nezar juga mengutip laporan dari Sensity AI adanya lonjakan 550 persen pada kasus Deepfake di tahun 2019. Dan hasilnya kurang lebih 90 persen yang menggunakan Deepfake ini adalah bertujuan untuk tidak baik dan berdampak bahaya. Pada laporan tersebut juga tercatat perempuan dan anak sangat berdampak paling rentan pada kasus manipulasi ini. 

"perempuan dan anak paling berdampak. 11 perempuan berusia 15 -29 tahun rentan mengalami kejahatan pada kekekerasan gender online sejak masih belia," ungkapnya. 

Agar hal itu bisa diatasi dengan kebijakan hukum. Komdigi mengeluarkan peraturan pemerintah No.17 tahun 2025 yang mengatur tentang sistem elektronik perlindungan anak.

Baca juga: Membuat Animasi Gratis dengan AI

Hal ini juga harus dibekali dengan literasi digital sebagai bentuk pengetahuan dasar bagi masyarakat ketika terjadi kejadian hal yang tidak diinginkan. Karena kemampuan dalam berfikir kritis sangat dibutuhkan dalam memilih informasi di dapat.