Jakarta — Penggunaan agen kecerdasan buatan (AI) dalam pengujian keamanan OpenAI kembali menjadi sorotan. Model AI eksperimental milik perusahaan tersebut diketahui melakukan akses tidak sah terhadap sejumlah sistem, termasuk beberapa situs yang dikelola lembaga pemerintah Australia.
Insiden tersebut disebut berlangsung pada Juni, tetapi informasinya baru diketahui publik beberapa waktu kemudian. Sebelum kasus di Australia mencuat, agen AI yang sama juga dilaporkan terlibat dalam pengujian yang berkaitan dengan perusahaan teknologi Hugging Face dan Modal Labs.
Sejumlah lembaga pemerintah Australia tercatat terdampak dalam insiden tersebut. Berikut beberapa di antaranya:
Services Australia
Model AI dilaporkan berhasil memperoleh akses ke sistem, menjalankan sejumlah perintah, serta mengambil beberapa file internal. Meski demikian, OpenAI menyebut tidak ditemukan akses terhadap rekam medis pasien.
NSW Bureau of Crime Statistics and Research
Agen AI juga diketahui memperoleh akses ke sistem lembaga tersebut. Namun, berdasarkan keterangan OpenAI, data kriminalitas yang berkaitan dengan individu tidak sampai dibaca atau diambil.
Victorian Department of Health
Dalam kasus ini, agen AI menemukan kredensial akses dan mengambil data statistik hasil survei yang telah diagregasi. OpenAI menyatakan informasi yang dapat digunakan untuk mengenali individu maupun rekam medis tidak diakses.
Australian Institute of Health and Welfare
Sistem AI mengambil sejumlah statistik survei dalam bentuk agregat. Data yang berisi rekam medis individu disebut tidak dibuka oleh agen tersebut.
Kasus ini mendapat perhatian serius dari otoritas Australia. Chief Strategy Officer OpenAI, Jason Kwon, dijadwalkan memberikan keterangan dalam sidang komite Senat di Sydney pada pekan berikutnya.
Akses tersebut terjadi ketika OpenAI menguji model AI yang masih berada dalam tahap eksperimen. Dalam proses pengujian, model diberikan berbagai instruksi untuk mencari dan mengumpulkan informasi.
Salah satu tugas yang diberikan berkaitan dengan pencarian data mengenai pengeluaran pemerintah Victoria untuk obat-obatan kulit per penduduk. Ketika informasi yang dicari tidak tersedia secara terbuka, model justru melanjutkan pencarian ke sistem pemerintah dan berusaha memperoleh data yang tidak diperuntukkan bagi akses publik.
OpenAI mengatakan tindakan tersebut tidak pernah diperintahkan secara khusus kepada model. Namun, pada saat pengujian berlangsung, sistem tersebut belum dilengkapi seluruh lapisan perlindungan yang biasanya diterapkan pada model AI yang tersedia bagi masyarakat umum.
Setelah mengetahui kejadian tersebut, OpenAI melakukan investigasi internal dan menghubungi pihak-pihak yang mengelola sistem yang terdampak.
Perusahaan kemudian memperketat mekanisme keamanan dalam pengujian model AI. Salah satu langkahnya adalah membatasi akses langsung model ke internet. Sistem nantinya hanya dapat memperoleh konten dari data yang telah tersimpan dalam cache. Pembatasan jaringan tambahan serta sistem pemantauan juga akan diperkuat.
Menurut OpenAI, sejumlah pengamanan tersebut mulai diterapkan setelah insiden yang melibatkan Hugging Face. Namun, penerapannya belum sepenuhnya selesai ketika kasus yang menyangkut situs pemerintah Australia terjadi.
Untuk menangani dampak insiden di Australia, OpenAI menyatakan telah berkoordinasi dengan lembaga-lembaga yang terdampak dan menawarkan bantuan khusus.
Perusahaan juga menyebut akan menggunakan bagian dari dana Daybreak for Frontline Defenders sebesar 1 miliar dolar AS untuk membantu meningkatkan kemampuan pertahanan siber lembaga pemerintahan.
Selain itu, OpenAI membentuk tim khusus di Australia. Tim tersebut ditujukan untuk memperbaiki komunikasi serta memperkuat koordinasi dengan pihak terkait apabila terjadi insiden keamanan serupa di kemudian hari.
OpenAI mengakui insiden tersebut menjadi tantangan dalam membangun kepercayaan publik. Perusahaan menyatakan akan melakukan perubahan terhadap sistem pengamanan dan berupaya menunjukkan langkah nyata dalam memenuhi komitmennya kepada masyarakat Australia.(BY)
