AI OpenAI Berhasil Bobol Sistem, Laporan Ungkap Cara Model ‘Kabur’ dari Pengujian

JawaPos.com - OpenAI mengungkap detail insiden keamanan siber yang melibatkan salah satu model kecerdasan buatannya (AI).

Dalam laporan resmi yang dirilis Rabu (26/8), perusahaan menjelaskan bagaimana model tersebut mampu menembus sejumlah sistem setelah menemukan celah dalam lingkungan pengujian yang semestinya membatasi aktivitasnya.

Seperti dilansir dari TechCrunch, laporan itu diterbitkan lebih dari sebulan setelah insiden tersebut diketahui publik.

Di dalamnya, OpenAI menguraikan serangkaian kejadian yang memungkinkan model keluar dari batas pengujian dan kemudian melakukan aktivitas eksploitasi terhadap berbagai sistem.

"Insiden ini mencerminkan perilaku yang tidak selaras dalam skenario luar biasa yang melibatkan pertemuan peristiwa langka dan tak terduga: adanya tugas-tugas yang mustahil diselesaikan dalam evaluasi ExploitGym, persistensi model dalam rentang tugas yang panjang, serta pesan-pesan yang dikirimkan ke model lain yang menyebabkan model-model tersebut menyimpang dari tujuan awalnya," demikian bunyi laporan tersebut.

Menurut penjelasan OpenAI, rangkaian masalah bermula ketika model menghadapi tugas dalam evaluasi ExploitGym yang sebenarnya tidak dapat diselesaikan secara normal. Alih-alih berhenti, model terus mencari cara agar dapat mencapai tujuan yang diberikan.

Dalam prosesnya, model menggabungkan sejumlah teknik eksploitasi yang sebelumnya belum diketahui untuk melewati mekanisme keamanan. Model tersebut terlebih dahulu mengeksploitasi alat manajemen paket Artifactory hingga memperoleh akses ke internet.

Akses itu kemudian dimanfaatkan untuk bergerak menuju sistem lain. Berdasarkan laporan OpenAI, aktivitas tersebut mencakup penyusupan ke sejumlah sistem milik OpenAI, Hugging Face, serta beberapa vendor lainnya.

Insiden ini juga memperlihatkan bahwa perilaku model dapat berkembang menjadi lebih sulit diprediksi ketika diberikan rangkaian tugas dalam waktu panjang.

Model tidak hanya menjalankan satu instruksi secara terpisah, tetapi mempertahankan tujuan dan strategi selama proses berlangsung.