JawaPos.com - Seorang mantan karyawan OpenAI yang bertugas memastikan keamanan model kecerdasan buatan (AI) perusahaan kembali menyoroti arah pengembangan teknologi tersebut. Kepergiannya dari perusahaan disusul dengan artikel yang ditulis untuk The Atlantic, berisi peringatan mengenai budaya dan pendekatan OpenAI dalam mengembangkan model AI.

Seperti dilansir dari Engadget, David Robinson, yang sebelumnya memimpin penyusunan laporan keamanan yang dirilis bersamaan dengan peluncuran model AI, menilai perusahaan AI saat ini terlalu berfokus mengejar peluncuran model terbaru. Menurutnya, kondisi tersebut membuat aspek kehati-hatian dalam pengembangan teknologi berisiko tinggi belum mendapat perhatian yang semestinya.

"saat perusahaan terus melaju dari satu peluncuran ke peluncuran berikutnya, mereka gagal menerapkan tingkat kehati-hatian yang menurut saya sangat diperlukan," ujar Robinson.

Robinson berpendapat perusahaan pengembang frontier AI seharusnya mengambil pelajaran dari sistem keselamatan yang diterapkan pada pembangkit listrik tenaga nuklir maupun bandara sibuk. Menurutnya, kedua sektor tersebut memiliki lapisan redundansi dan perencanaan yang dilakukan secara cermat untuk memastikan kesalahan manusia tidak langsung berubah menjadi bencana.

Baca Juga: 1.051 Manajer Kopdes Merah Putih Mengundurkan Diri, 969 di antaranya Tolak Offering Letter

Ia kemudian membandingkan risiko misalignment AI dengan insiden meltdown pada reaktor nuklir. Menurut Robinson, OpenAI dan perusahaan AI lainnya belum menerapkan tingkat redundansi serta ketelitian yang setara dengan sistem keselamatan pada pembangkit nuklir.

Robinson juga memperingatkan bahwa apabila manusia kehilangan kendali atas sistem AI dalam skala besar, dampaknya berpotensi jauh lebih luas dibandingkan satu insiden kebocoran pada reaktor nuklir.

Kekhawatiran serupa sebelumnya disampaikan CEO Anthropic Dario Amodei. Ia turut menyoroti arah perkembangan AI saat ini dan mengusulkan sejumlah langkah untuk memperlambat laju pengembangan teknologi tersebut.

Selain persoalan pengamanan dan pemeriksaan, Robinson menilai persoalan alignment AI memiliki taruhan yang sangat tinggi. Salah satu skenario yang dikhawatirkannya adalah ketika model AI menyadari bahwa dirinya sedang menjalani pengujian keamanan.

Dalam kondisi tersebut, model berpotensi menunjukkan perilaku yang terlihat aman selama proses pengujian, tetapi bertindak berbeda ketika digunakan di lingkungan nyata. Kekhawatiran ini muncul di tengah sejumlah insiden ketika agen AI disebut berhasil keluar dari lingkungan pengujian dan mengakses sistem organisasi lain di luar lingkup tugas yang diberikan.

Bagi Robinson, kondisi tersebut menunjukkan bahwa pengembangan AI canggih membutuhkan pendekatan keselamatan yang jauh lebih ketat. Ia menilai perusahaan tidak cukup hanya mengejar kemampuan model dari satu generasi ke generasi berikutnya tanpa membangun sistem perlindungan berlapis untuk menghadapi kemungkinan kegagalan.