Jakarta – Sekelompok peneliti dilaporkan berhasil menembus sistem keamanan Gemini 3 Pro, chatbot kecerdasan buatan milik Google. Melalui proses jailbreak, mereka menunjukkan bahwa model tersebut masih memiliki celah yang dapat dimanfaatkan untuk menghasilkan konten berbahaya.
Menurut laporan harian Korea Selatan, Maeil Business Newspaper, para peneliti dari startup Aim Intelligence hanya membutuhkan beberapa menit untuk menaklukkan sistem proteksi Gemini 3 Pro. Aksi tersebut dilakukan tanpa menemui hambatan berarti.
Aim Intelligence dikenal sebagai perusahaan yang berfokus pada red-teaming, yakni menguji ketahanan model AI dengan mencoba memicu respons yang melanggar aturan atau tujuan desainnya. Salah satu tekniknya adalah jailbreaking, yaitu memberikan rangkaian perintah tertentu untuk membuat AI melakukan hal-hal yang seharusnya diblokir oleh mekanisme keamanan.
Laporan tersebut menyebutkan bahwa tim peneliti bukan hanya berhasil menonaktifkan batasan Gemini 3 Pro, tetapi juga mendorongnya menghasilkan instruksi pembuatan virus cacar. Panduan yang muncul dilaporkan memiliki detail yang cukup lengkap dan dianggap layak diaplikasikan, sehingga memunculkan kekhawatiran mengenai potensi penyalahgunaan oleh pihak yang berniat jahat.
Tidak berhenti di situ, mereka juga memanfaatkan model AI tersebut untuk membuat situs web berisi informasi berbahaya, termasuk cara membuat gas sarin dan bahan peledak rakitan. Tim Aim Intelligence bahkan dikabarkan menyusun presentasi satir tentang lemahnya keamanan model tersebut, lengkap dengan slide berjudul “Excused Stupid Gemini 3”.
Seorang anggota tim peneliti menjelaskan kepada publikasi tersebut bahwa model AI generasi terbaru memang semakin pintar, tetapi sekaligus semakin sulit diprediksi karena mampu melakukan berbagai teknik penyamaran, bypass, dan penghindaran. Ia menekankan bahwa setiap model memiliki titik rawan yang harus dipahami secara menyeluruh agar kebijakan keamanan dapat disesuaikan.
Hingga kini, belum ada informasi apakah para peneliti telah melaporkan kerentanan tersebut kepada Google atau apakah perusahaan telah mengambil langkah untuk menutup celah yang ditemukan.(BY)
