Semakin Menakutkan! Ini Cara Mengamankan Anak dari Penyalahgunaan AI

Ancaman Deepfake dan Risiko Penyalahgunaan AI bagi Anak dan Perempuan

Teknologi Artificial Intelligence (AI) atau akal imitasi kini semakin canggih dalam meniru manusia, mulai dari wajah, suara hingga cara bicara. Di satu sisi, teknologi ini membantu kehidupan kita, namun di sisi lain, ia juga membuka pintu untuk kejahatan baru yang sangat berbahaya, terutama bagi perempuan, anak perempuan, dan anak-anak.

Di tengah situasi ini, penting bagi masyarakat untuk memahami ancaman yang ditimbulkan oleh penyalahgunaan AI, seperti deepfake. Berikut adalah beberapa poin penting yang perlu diketahui:

1. Deepfake sebagai Ancaman Nyata dengan Regulasi yang Belum Ada

Deepfake merupakan salah satu bentuk penyalahgunaan AI yang paling mengkhawatirkan. Konten intim palsu dibuat dengan menempelkan wajah seseorang ke tubuh orang lain. Namun, Indonesia belum memiliki undang-undang khusus yang secara eksplisit mengatur dan menghukum pembuat deepfake. Akibatnya, korban sering kali tidak mendapatkan perlindungan yang memadai, sementara pelakunya sulit dijerat.

Fenomena ini memberi sinyal kuat bagi para pembuat kebijakan di Indonesia. Negara memiliki tanggung jawab untuk melindungi warga dan pejabat publik dari risiko yang muncul akibat perkembangan teknologi digital.

“Kita belum punya secara eksplisit peraturan tentang AI dan ini menjadi tantangan besar jangan sampai multitafsir. Bagaimana aparat penegak hukum mau menangani dengan baik apabila tidak ada klausul AI atau akal imitasi dalam undang-undang,” ujar Syamsul Tarigan, mewakili Gender Equality and Social Inclusion UNDP Indonesia.

2. Dualitas AI yang Mengancam Kelompok Rentan: Perempuan, Anak Perempuan, dan Anak

Meskipun AI membawa efisiensi di zaman sekarang, di balik manfaatnya, ada sisi gelap yang justru paling membahayakan kelompok rentan seperti perempuan, anak perempuan, dan anak-anak.

Contoh nyata terjadi di Universitas Udayana, di mana seorang mahasiswa diduga membuat deepfake dari foto-foto mahasiswi kampus. Dengan bantuan AI, pelaku memanipulasi foto mahasiswi menjadi konten seksual yang korbannya disebut lebih dari 35 orang. Dalam hitungan detik, martabat seseorang dapat direkayasa, sementara dampaknya mengendap lama dalam psikologis dan reputasi korban.

Di balik layar, pelaku berlindung pada anonimitas digital, sedangkan payung hukum belum sempurna melindungi. Kesenjangan ini membuat korban terombang-ambil tanpa ada perlindungan. Kendati pun, ini bukan salah perempuan, anak perempuan, maupun anak yang menggunakan media sosial. Ini sepenuhnya salah pelaku. Penyalahgunaan teknologi tidak pernah bisa dibenarkan, dan kelompok rentan berhak mendapatkan perlindungan penuh dari negara, platform digital, dan masyarakat.

3. Komitmen Pemerintah dalam Melindungi Perempuan, Anak Perempuan, dan Anak

Melihat risiko yang semakin serius, pemerintah menyiapkan landasan hukum mengenai AI yang akan diundangkan pada 2026. Kebijakan ini diharapkan menjadi payung hukum agar korban deepfake dan kejahatan berbasis teknologi lainnya mendapat keadilan serta perlindungan dan pendampingan.

“Komdigi sedang menyiapkan national roadmap penggunaan yang etis, berkelanjutan, dan bertanggung jawab dalam draft peraturan tentang akal imitasi yang targetnya selesai pada 2026,” ungkap Mediodecci Lustarini, Sekretaris Ditjen Pengawasan Ruang Digital Komdigi RI yang akrab dipanggil Ibu Ides.

Lebih lanjut, Ibu Ides memaparkan prinsip etis pemerintah yang akan diadaptasi dalam draft peraturan AI tersebut: - Keamanan dan Keselamatan - Akuntabilitas - Transparansi - Integritas - Keadilan - Pelindungan data biometrik - Penilaian dampak pelindungan data

Selain itu, pemerintah juga menekan keras kepatuhan platform atau penyelenggara sistem elektronik (PSE) untuk menyisir risiko sebaik-baiknya terhadap pengguna. Hal ini dikaji dari aspek kontak, isi konten, anak sebagai konsumen, ancaman terhadap data pribadi anak, risiko adiksi, hingga risiko gangguan psikologis dan biologis anak.

4. Jika Media Sosial Berbahaya, Mengapa Negara Tidak Memblokir untuk Anak?

Internet memang sejatinya tidak diperuntukkan untuk anak-anak. Namun, Indonesia memiliki aturan melalui PP TPKS dan PP Tunas, yang menempatkan tanggung jawab perlindungan digital pada tiga pihak: Penyelenggara Sistem Elektronik (PSE) seperti platform digital, aplikasi, dan media sosial; orangtua dan pendidik sebagai pendamping; serta negara sebagai pelindung.

Di dalam kategori PSE ini termasuk perusahaan teknologi (seperti Google, Meta, TikTok), e-commerce (seperti Tokopedia, Shopee), perbankan dan fintech, transportasi online (seperti Gojek, Grab), marketplace jasa, travel, logistik yang boleh diakses anak.

Anak sendiri memiliki hak untuk mengakses informasi, termasuk ruang digital. Karena itu, yang perlu dilakukan bukan mematikan akses, tetapi memastikan internet menjadi tempat yang lebih aman.

“Maka kita tidak bisa melakukan over censorship karena anak-anak tetap berhak mengakses internet. Senjata yang bisa kita lakukan adalah kewajiban moderasi konten, fitur-fitur perlindungan, dan mempertegas efektivitas know your customer. Ruang digital kita sangat beragam. Kalau semuanya diblokir, justru menimbulkan kontroversi,” jelas Ibu Ides.

5. Layanan 129 dan UPTD PPA, Tempat Lapor Bila Terjadi Kekerasan

Unit Pelaksana Teknis Daerah Perlindungan Perempuan dan Anak (UPTD PPA) merupakan usaha pemerintah dalam memberikan layanan perlindungan perempuan dan anak korban kekerasan berbasis gender. Setiap provinsi maupun kabupaten/kota didorong untuk memiliki unit ini.

Jika terjadi ancaman, pemerasan, atau penyebaran konten palsu pada anak atau perempuan, segera hubungi: - Layanan 129 (call center nasional perlindungan perempuan & anak) - UPT PPA di daerah masing-masing

Layanan UPTD PPA berfungsi: - Pengaduan Masyarakat - Penjangkauan Korban - Pengelolaan Kasus - Penampungan Sementara - Pendampingan Korban

UPTD PPA berkedudukan di bawah dan bertanggung jawab kepada Kepala Dinas yang menyelenggarakan urusan pemerintahan di bidang pemberdayaan perempuan dan perlindungan anak di tingkat daerah provinsi dan daerah kabupaten/kota.

6. Orangtua, Peran Paling Berpengaruh Terhadap Aktivitas Digital Anak

Dalam ekosistem digital yang makin kompleks, orangtua memegang peran terbesar dalam membentuk cara anak berinteraksi dengan teknologi. Mulai dari memberi contoh perilaku digital yang sehat, menetapkan batasan waktu layar, hingga mendampingi anak memahami risiko dan etika di ruang digital semua berkontribusi langsung pada kebiasaan dan keamanan anak saat online.

Dengan pendampingan yang hangat dan konsisten, anak dapat berkembang sebagai pengguna digital yang cerdas, kreatif, dan terlindungi. Karena hal tersebut semakin mengerikan, pahami cara mencegah anak jadi korban penyalah gunaan AI!