Jakarta – Platform media sosial X dikabarkan kini membatasi fitur pembuatan dan pengeditan gambar di Grok AI hanya untuk pengguna berbayar. Kebijakan ini muncul setelah gelombang kritik terkait maraknya pembuatan gambar deepfake bermuatan seksual yang dinilai melanggar etika dan hukum.
Perusahaan milik Elon Musk tersebut berada di bawah sorotan tajam berbagai pihak, termasuk regulator di Eropa dan Asia, yang mendorong penerapan pengawasan lebih ketat. Sebelumnya, Grok memungkinkan pengguna memanipulasi foto dengan cara menghapus pakaian secara digital atau menempatkan seseorang—kebanyakan perempuan—dalam adegan bernuansa seksual.
Usai menuai kecaman publik, perusahaan disebut membatasi akses fitur sensitif itu hanya untuk pelanggan berbayar. Langkah ini diambil di tengah tekanan regulator yang bahkan mendesak pemblokiran X dan Grok AI karena dugaan pelanggaran hukum. Di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) telah memblokir Grok terkait penyebaran konten pornografi.
Mengutip laporan Gadgets 360, kebijakan terbaru ini membuat pengguna berbayar—yang identitas serta detail pembayarannya tercatat oleh platform—masih dapat mengakses fitur tersebut. Sementara itu, pengguna gratis sepenuhnya kehilangan akses.
Meski demikian, sejumlah pengamat menilai pembatasan ini belum tentu efektif menghentikan penyalahgunaan kecerdasan buatan, terutama di lingkungan media sosial yang peredarannya sangat cepat.
Di Indonesia, pakar keamanan siber Ardi Sutedja mendorong pemerintah untuk merumuskan regulasi yang lebih tegas dan spesifik. Ia menilai aturan tersebut perlu mencakup kewajiban pengembang AI menerapkan filter konten otomatis, mekanisme persetujuan eksplisit dari pemilik foto sebelum diproses, transparansi algoritma yang dapat diaudit pihak independen, hingga sanksi berat bagi pelaku penyalahgunaan AI yang merendahkan martabat orang lain. Perlindungan data pribadi juga harus menjadi bagian utama dari regulasi tersebut.
“Regulasi harus bersifat antisipatif, bukan sekadar reaktif. Kita tidak bisa menunggu sampai ribuan korban muncul baru bertindak. Uni Eropa melalui Digital Services Act telah membuktikan bahwa pengaturan komprehensif terhadap teknologi AI itu memungkinkan dan memang dibutuhkan,” ujar Ardi.(BY)
