Jakarta – David Robinson, salah satu karyawan senior OpenAI yang terlibat dalam penyusunan laporan keselamatan untuk sejumlah produk penting perusahaan, memutuskan meninggalkan perusahaan yang mengembangkan ChatGPT tersebut.
Keputusan itu diambil setelah Robinson menilai budaya kerja di OpenAI tidak lagi sejalan dengan pandangannya mengenai pentingnya keselamatan dalam pengembangan kecerdasan buatan (AI).
Alasan pengunduran dirinya disampaikan Robinson melalui sebuah tulisan yang dimuat The Atlantic. Ia tercatat telah bekerja di OpenAI selama sekitar tiga setengah tahun dan mengaku termasuk dalam kelompok karyawan yang telah cukup lama berada di perusahaan tersebut.
Dalam tulisannya, Robinson mengkritik cara OpenAI mengembangkan sekaligus merilis teknologi AI. Ia menilai perusahaan terlalu mengandalkan pola pengembangan bertahap atau iterative deployment, yakni meluncurkan teknologi, menemukan persoalan setelah digunakan, kemudian memperbaiki sistem pengaman berdasarkan masalah yang muncul.
Menurut Robinson, metode tersebut berpotensi membuat kegagalan yang sama terus terjadi. Bahkan, dampaknya dapat semakin besar ketika kemampuan sistem AI berkembang semakin tinggi.
Ia menyinggung sejumlah insiden yang menurutnya menggambarkan persoalan tersebut. Salah satunya adalah kasus ketika agen AI OpenAI disebut berhasil membobol sistem Hugging Face. Ia juga merujuk pada laporan mengenai agen AI lain yang menjalankan tindakan di luar batas kendali yang semestinya.
Robinson mempertanyakan apakah lingkungan kerja dengan kondisi seperti itu layak digunakan untuk mengembangkan teknologi yang suatu saat dapat memiliki kemampuan melampaui manusia.
Ia juga berpandangan bahwa pembahasan mengenai keamanan AI tidak cukup hanya berkutat pada regulasi maupun pembentukan aturan baru. Menurutnya, budaya internal perusahaan teknologi juga menjadi faktor penting yang harus mendapat perhatian.
Dengan kemampuan AI yang terus meningkat, Robinson mengusulkan agar perusahaan-perusahaan terdepan di bidang tersebut menerapkan standar keselamatan yang jauh lebih ketat. Ia membandingkannya dengan pengelolaan pembangkit listrik tenaga nuklir maupun operasional bandara yang memiliki tingkat risiko tinggi.
Dalam pandangannya, sistem keselamatan harus dibangun secara berlapis dan disertai perencanaan matang. Dengan demikian, kesalahan manusia yang tidak dapat sepenuhnya dihindari tidak berkembang menjadi insiden yang lebih serius.
Robinson mengatakan selama berada di OpenAI, ia tidak menemukan cukup banyak orang dengan pengalaman khusus dalam mengelola sistem berisiko tinggi, seperti memastikan penerbangan berlangsung aman, menjalankan reaktor nuklir tanpa kecelakaan, atau menjaga sistem keuangan tetap berkembang tanpa berujung pada keruntuhan.
Selain persoalan budaya keselamatan, ia turut mempertanyakan perkembangan upaya menyelaraskan perilaku AI dengan nilai dan kepentingan manusia.
Robinson menilai metode yang digunakan industri saat ini untuk mengukur tingkat keselarasan AI masih belum memadai. Ia memperingatkan risiko dapat meningkat apabila kemampuan model terus didorong menjadi semakin canggih sementara persoalan penyelarasan tersebut belum benar-benar teratasi.
OpenAI membantah anggapan bahwa aspek keselamatan diabaikan. Juru bicara perusahaan, Drew Pusateri, mengatakan OpenAI terus meningkatkan berbagai mekanisme pengamanan dalam proses pengembangan AI.
Menurut Pusateri, perusahaan berupaya memastikan kemampuan model tetap berada dalam batas yang dapat dikendalikan dan diamankan. OpenAI juga disebut siap memperlambat proses pengembangan, termasuk menghentikan sementara pelatihan atau menahan peluncuran model jika kondisi membutuhkan langkah tersebut.
Perusahaan juga menyatakan telah memperkuat keamanan pada lingkungan riset dan pengujian. Selain itu, model dilatih agar mampu menjalankan tugas secara lebih bertanggung jawab.
OpenAI mengklaim memperluas penggunaan evaluator independen dari pihak ketiga serta meningkatkan pemantauan secara langsung. Langkah tersebut dilakukan untuk menemukan indikasi perilaku berisiko dan mengambil tindakan lebih awal selama proses pelatihan berlangsung.
Pengunduran diri Robinson terjadi di tengah meningkatnya sorotan terhadap isu keselamatan AI. Sebelumnya, Jacob Coxon, mantan peneliti OpenAI dan Anthropic, juga melontarkan kritik terhadap perusahaan AI tersebut dan menilai pengembangan teknologi tanpa pengamanan memadai dapat membahayakan manusia.
Pernyataan Coxon kemudian ikut mendorong perdebatan mengenai bagaimana perusahaan teknologi seharusnya mengembangkan AI secara lebih aman. CEO Anthropic, Dario Amodei, turut menyampaikan pendekatan pengembangan AI yang lebih berhati-hati.
Di sisi lain, sejumlah pimpinan perusahaan AI juga bertemu Presiden Amerika Serikat Donald Trump dan menyepakati komitmen yang tidak bersifat mengikat untuk memperkuat langkah-langkah keselamatan dalam pengembangan teknologi tersebut.
Pengunduran diri Robinson sebelumnya diberitakan Business Insider. Dalam esainya, Robinson mengungkapkan bahwa dirinya memang menggunakan jasa perusahaan hubungan masyarakat. Namun, ia menegaskan keputusan untuk mengungkapkan pandangannya secara terbuka berasal dari dirinya sendiri.
Ia mengaku pernah mempertimbangkan untuk tetap berada di OpenAI sembari mendorong perubahan besar terhadap struktur tenaga kerja dan budaya perusahaan.
Namun, menurut Robinson, tuntutan untuk terus bekerja dengan cepat membuat dirinya dan rekan-rekannya memiliki sedikit ruang untuk memikirkan perubahan mendasar. Kondisi tersebut juga membuat upaya untuk merealisasikan perubahan menjadi semakin sulit.
Karena alasan itu, Robinson menilai tekanan dari luar perusahaan diperlukan agar perhatian terhadap keselamatan dapat ditempatkan lebih tinggi dalam pengembangan teknologi AI.(BY)
