Jakarta — Muncul tren berbahaya di platform X yang memicu keprihatinan dunia. Sejumlah pengguna dilaporkan menyalahgunakan kecerdasan buatan Grok untuk mengubah foto perempuan serta anak-anak menjadi gambar bernuansa seksual tanpa persetujuan pemiliknya.
Kasus ini pertama kali terpantau sejak Desember dan terus meluas dalam beberapa hari terakhir. Melalui perintah sederhana, pengguna dapat meminta Grok memanipulasi foto biasa menjadi konten eksplisit, lalu menyebarkannya kembali. Praktik tersebut menimbulkan rasa terhina, pelecehan, dan ancaman serius bagi korban.
Tekanan publik pun meningkat. Aktivis, organisasi hak perempuan, hingga warganet dari berbagai negara mendesak Elon Musk selaku pemilik X agar bertindak tegas. Meski fitur media Grok disebut-sebut mulai dibatasi, konten hasil manipulasi tetap beredar dan mudah ditemukan.
Para pakar keamanan digital menilai, fenomena ini bukan sekadar kenakalan maya. Mereka menegaskan, memproduksi dan menyebarkan gambar seksual hasil rekayasa—terlebih melibatkan anak—merupakan bentuk kekerasan seksual yang nyata.
Alarm internasional pun berbunyi. Pemerintah Prancis dilaporkan membawa kasus tersebut ke jaksa dan regulator, menyebut konten “seksual dan merendahkan perempuan” itu sebagai pelanggaran hukum. Di India, kementerian terkait menegur X karena dinilai gagal mencegah penyalahgunaan Grok yang menghasilkan dan menyebarkan materi cabul.
Kritik kian deras karena konten manipulatif masih tersedia walau pembatasan sudah diterapkan. Banyak perempuan bahkan memilih menghapus foto mereka demi perlindungan diri.
Sebenarnya, teknologi “nudifier” berbasis AI bukanlah hal baru. Namun sebelumnya, aksesnya terbatas di situs-situs tertentu dan membutuhkan keterampilan atau biaya. Kini, dengan hanya mengunggah foto dan memberi perintah sederhana, hambatan tersebut hampir lenyap.
Sejumlah ahli kebijakan konten menyebut X telah mengabaikan peringatan masyarakat sipil dan organisasi perlindungan anak. Mereka mengingatkan sejak lama bahwa teknologi gambar xAI berpotensi memicu gelombang besar konten palsu tanpa persetujuan.
“Kami sudah mengingatkan sejak Agustus bahwa alat ini pada dasarnya bisa menjadi sarana menelanjangi secara digital jika disalahgunakan — dan itu yang kini terjadi,” ujar Tyler Johnston, Direktur Eksekutif The Midas Project.(BY)
