Kementerian Komunikasi dan Digital (Kemkomdigi) resmi mengambil langkah tegas terhadap platform X terkait dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI. Teknologi ini disebut sebut menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi (deepfake) tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
Ancaman sanksi tersebut disampaikan Komdigi terkait dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform media sosial X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, di antaranya manipulasi foto pribadi tanpa persetujuan pemiliknya.
Alex menyebut masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Komdigi.
Lebih lanjut, Alex mengungkap hasil penelusuran awal yang menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi ini dinilai berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
Ia menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.
Alex mengatakan pihaknya saat ini berkoordinasi dengan para PSE untuk memastikan tersedianya mekanisme pelindungan yang efektif.
Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
