nurulamin, JAKARTA - Pemerintah Indonesia menarik rem darurat terhadap laju teknologi kecerdasan buatan (AI), yaitu aplikasi Grok.
Melalui Kementerian Komunikasi dan Digital (Kemkomdigi), Grok diputus sementara menyusul kekhawatiran penyalahgunaan fitur AI untuk memproduksi konten pornografi palsu berbasis deepfake.
Langkah itu ditegaskan sebagai upaya melindungi perempuan, anak, dan masyarakat luas dari kekerasan berbasis digital.
Menteri Komunikasi dan Digital Meutya Hafid menyatakan praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap hak asasi manusia.“Ini bukan sekadar isu teknologi, tetapi menyangkut martabat dan keamanan warga negara di ruang digital,” ujarnya dalam pernyataan resmi di Jakarta, Sabtu (10/1).
Pemutusan akses Grok bersifat sementara dan ditempatkan sebagai langkah preventif sekaligus korektif.
Pemerintah ingin memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai, agar tidak dimanfaatkan untuk memproduksi maupun menyebarkan konten terlarang.
Komdigi juga telah memanggil Platform X—induk ekosistem Grok—untuk memberikan klarifikasi.Pemerintah menuntut penjelasan mengenai dampak negatif penggunaan Grok, serta strategi mitigasi yang akan diterapkan agar penyalahgunaan serupa tidak terulang.
Secara regulasi, langkah tersebut bukan tanpa dasar. Pemerintah mengacu pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Dalam aturan itu, setiap PSE wajib memastikan sistemnya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum.Sorotan terhadap Grok sejatinya telah mengemuka secara global.
Grok dikritik karena memungkinkan pembuatan gambar berbau pornografi, meski pihak Grok mengeklaim fitur tersebut hanya tersedia bagi pelanggan berbayar. Tuduhan sebaliknya terus bermunculan.
Inggris, Uni Eropa, dan India bahkan telah mengecam X dan Grok. (ant/jpnn)
Diskusi Pembaca
Belum ada komentar
Jadilah yang pertama memberikan tanggapan!
Tambah Komentar