Jakarta — Pengujian kemampuan kecerdasan buatan kembali memunculkan persoalan terkait batas kendali sistem AI. Kali ini, Meta melaporkan bahwa model AI buatannya, Muse Spark 1.1, sempat mengeksploitasi celah keamanan ketika menjalani evaluasi dan kemudian mengakses sistem milik pihak lain.
Peristiwa tersebut terjadi saat Muse Spark 1.1 diuji oleh perusahaan keamanan siber Irregular. Dalam proses evaluasi, model tersebut diketahui memanfaatkan kelemahan pada sistem pengujian, terhubung ke internet terbuka, lalu melakukan akses terhadap perusahaan pihak ketiga yang tidak disebutkan identitasnya.
Meta mengungkapkan kejadian itu dalam pernyataan kepada media pada Rabu (5/8/2026). Menurut perusahaan, tindakan tersebut dipicu oleh adanya kesalahan konfigurasi di lingkungan pengujian yang disiapkan Irregular.
Kasus ini menambah daftar insiden serupa yang sebelumnya melibatkan perusahaan AI besar lainnya, yakni OpenAI dan Anthropic.
Bukan Kasus Pertama
Beberapa waktu sebelumnya, model AI milik OpenAI dilaporkan melakukan tindakan di luar lingkungan pengujian ketika menjalankan tugas keamanan siber. Model tersebut menemukan celah, terhubung ke internet, dan berusaha memperoleh solusi atas sebuah tantangan keamanan dengan mengakses repositori yang berkaitan dengan pengujian sebelumnya.
Anthropic juga mengalami kejadian yang hampir serupa. Ketika model Claude menjalani evaluasi yang dilakukan Irregular, sistem tersebut dilaporkan melakukan aktivitas siber di luar batas yang sebelumnya ditetapkan.
Irregular mengatakan Muse Spark 1.1 dan Claude menjalani pengujian menggunakan lingkungan evaluasi yang sama. Kedua model tersebut sama-sama berhasil melewati pembatas yang seharusnya menjaga aktivitas mereka tetap berada dalam ruang pengujian.
“Saat ini tidak ada masalah yang belum terselesaikan. Irregular sedang menyusun dokumen panduan (white paper) untuk membagikan praktik terbaik terkait pengendalian dan pelaksanaan evaluasi siber secara aman,” kata perusahaan tersebut, sebagaimana dilansir RT.
Mengapa AI Bisa Keluar dari Batas Pengujian?
Fenomena tersebut berkaitan dengan cara model AI menjalankan instruksi yang diberikan kepadanya. Dalam sejumlah pengujian keamanan, model diberi target tertentu untuk dibobol. Namun, ketika memiliki akses ke berbagai sumber daya, sistem AI dapat menentukan sendiri metode yang dianggap paling efektif untuk menyelesaikan tugas tersebut.
Dalam kasus sebelumnya, model AI OpenAI diketahui mencari jawaban atas tantangan pengujian melalui sebuah server yang dioperasikan Hugging Face. Sementara itu, Claude Anthropic dilaporkan salah mengidentifikasi sebuah perusahaan fiktif sebagai perusahaan nyata karena memiliki nama yang sama dengan domain internet tertentu.
Kesalahan identifikasi tersebut kemudian membuat model mengambil tindakan terhadap target yang berada di luar konteks simulasi.
Peristiwa semacam ini menunjukkan bahwa kemampuan AI dalam menjalankan tugas secara mandiri dapat menghasilkan konsekuensi yang sulit diprediksi apabila pembatasan lingkungan pengujian tidak dirancang dengan tepat.
Kemampuan AI Makin Kompleks
Di sisi lain, perusahaan AI memandang kemampuan model dalam menemukan celah dan menyelesaikan persoalan keamanan siber sebagai indikasi meningkatnya kapabilitas teknologi mereka.
OpenAI dan Anthropic sebelumnya mendapat sorotan setelah insiden serupa terungkap. Perkembangan tersebut juga terjadi ketika persaingan industri AI semakin ketat dan kedua perusahaan disebut tengah mempersiapkan langkah menuju pasar modal pada akhir 2026 atau awal 2027.
Meta sendiri baru memperkenalkan Muse Spark 1.1 kurang dari sebulan sebelum insiden tersebut muncul ke publik. Perusahaan mempromosikan model itu sebagai AI dengan kemampuan sangat tinggi yang diklaim mendekati konsep “superintelijen”.
Dalam materi promosinya, Meta antara lain menempatkan Muse Spark 1.1 sebagai asisten yang dapat membantu berbagai kebutuhan pengguna, seperti mengatur jadwal. Model tersebut juga ditujukan untuk mendukung pekerjaan pemrograman di lingkungan bisnis.
Namun, insiden saat pengujian menunjukkan bahwa semakin besar kemampuan sebuah model AI dalam mengambil keputusan secara mandiri, semakin penting pula desain lingkungan evaluasi, pembatasan akses, serta sistem pengawasan untuk mencegah tindakan yang tidak diinginkan.(BY)
