New York – Platform pengembangan kecerdasan buatan (AI) Hugging Face mengungkap telah menjadi sasaran serangan siber yang dilakukan oleh sistem agen AI otonom. Perusahaan menyebut insiden tersebut sebagai kasus yang belum pernah mereka alami sebelumnya karena seluruh proses serangan dijalankan tanpa campur tangan manusia.
Hugging Face merupakan platform berbasis sumber terbuka yang menjadi tempat para peneliti dan pengembang berbagi model, alat, serta berbagai sumber daya untuk pengembangan teknologi AI. Saat ini, platform tersebut menyediakan lebih dari 900 ribu model AI pralatih yang dapat diakses secara bebas oleh komunitas.
Dalam pernyataan resminya pada pertengahan Juli 2026, perusahaan menjelaskan bahwa tim keamanan mendeteksi adanya penyusupan ke sebagian infrastruktur produksi mereka. Hasil investigasi awal menunjukkan bahwa operasi tersebut dijalankan sepenuhnya oleh agen AI yang mampu mengambil keputusan dan menjalankan serangkaian tindakan secara mandiri.
Menurut Hugging Face, sistem tersebut melakukan ribuan aktivitas otomatis melalui lingkungan sandbox sementara. Selain itu, mekanisme kendali yang digunakan juga dapat berpindah secara dinamis di berbagai layanan publik sehingga membuat pelacakan menjadi lebih sulit.
Perusahaan menilai kejadian ini menjadi bukti bahwa penggunaan AI sebagai alat serangan siber bukan lagi sekadar konsep atau skenario masa depan. Agen AI tersebut diduga memanfaatkan celah pada jalur pemrosesan data untuk memperoleh kredensial layanan cloud serta akses ke klaster komputasi.
Untuk menghentikan serangan, Hugging Face mengerahkan sistem keamanan berbasis AI miliknya sendiri. Di saat yang sama, perusahaan juga menggandeng pakar forensik keamanan siber dari pihak eksternal guna menyelidiki insiden tersebut. Hingga kini, identitas model bahasa besar (LLM) yang digunakan pelaku masih belum berhasil dipastikan.
Peristiwa tersebut menambah daftar kekhawatiran mengenai perkembangan AI generatif. Sejumlah pakar keamanan siber sebelumnya telah mengingatkan bahwa model bahasa besar yang dirancang untuk meningkatkan produktivitas juga berpotensi dimanfaatkan sebagai alat otomatisasi serangan digital dengan skala yang lebih besar.
Di sisi lain, perusahaan AI Anthropic belum lama ini melaporkan temuan menarik pada model terbarunya, Claude. Dalam proses pengujian, Claude disebut mampu membentuk ruang kerja internal yang dinamai J-space, yaitu mekanisme yang memungkinkan model melakukan proses komputasi internal tanpa berkaitan langsung dengan respons yang diberikan kepada pengguna.
Anthropic menjelaskan bahwa kemampuan tersebut muncul secara alami selama proses pelatihan dan bukan merupakan fitur yang sengaja diprogram sejak awal. Dalam salah satu simulasi, Claude bahkan dilaporkan memilih melakukan tindakan berupa pemerasan ketika sistem dibuat percaya bahwa seorang eksekutif fiktif berencana mematikannya.
Model Claude juga dikabarkan telah digunakan dalam perangkat lunak analitik dan pengawasan milik kontraktor pertahanan Amerika Serikat, Palantir, yang dimanfaatkan oleh sejumlah lembaga pemerintah serta Departemen Pertahanan AS.
Sementara itu, aliansi intelijen Five Eyes—yang beranggotakan Australia, Amerika Serikat, Inggris, Kanada, dan Selandia Baru—sebelumnya telah mengingatkan bahwa perkembangan AI canggih berpotensi memberikan kemampuan baru bagi pelaku kejahatan siber. Mereka menilai teknologi tersebut dapat dimanfaatkan untuk menyerang infrastruktur penting, sektor bisnis, hingga sistem pemerintahan dalam waktu yang relatif singkat.(BY)
