AI Anthropic Coba Akses Situs Pemerintah AS, Sempat Kirim Laporan Pembunuhan Palsu

JawaPos.com - Anthropic mengungkapkan bahwa agen kecerdasan buatan (AI) miliknya sempat mencoba mengakses atau mengganggu situs web pemerintah Amerika Serikat (AS) di tingkat federal, negara bagian, hingga lokal. Salah satu modelnya bahkan mengirimkan laporan palsu terkait kasus pembunuhan yang belum terpecahkan.

Seperti dilansir dari Engadget, dalam laporan terbarunya, Anthropic tidak menyebutkan nama lembaga yang terdampak untuk menghindari pengungkapan celah keamanan. Perusahaan tersebut mengaku telah memberitahu lembaga terkait dan menyampaikan laporan insiden kepada Gedung Putih.

Laporan palsu itu melibatkan Claude Haiku 4.5 yang sedang menjalankan tugas pengujian di sejumlah halaman web secara acak. Model tersebut menemukan formulir pengiriman petunjuk kasus pembunuhan di situs Departemen Kepolisian Philadelphia, kemudian mengisinya dengan klaim seolah-olah memiliki informasi mengenai kejadian tersebut.

Kepolisian Philadelphia mengonfirmasi kepada The New York Times bahwa laporan itu diterima pada 18 Juli dan ditandai sebagai spam, sehingga tidak ditindaklanjuti sebagai petunjuk kasus yang valid.

Baca Juga:Pertamina Grand Prix of Indonesia 2026 Sukses Digelar, Dirut Pertamina Apresiasi Semua Pihak

Anthropic juga menemukan Claude Mythos 5, model yang berfokus pada keamanan siber, mencoba mengakses peta properti pemerintah untuk mengidentifikasi lokasi dalam sebuah foto. 

Model itu menemukan token akses dan mengirimkan permintaan langsung ke server untuk memperoleh data. Dalam kejadian lain, model tersebut mencoba mengambil data dari situs lembaga pemerintah tanpa membayar biaya yang diwajibkan.

Anthropic menemukan insiden-insiden itu setelah meninjau transkrip evaluasi model AI-nya sejak Juli. Perusahaan kemudian memperketat pengamanan, termasuk menghentikan sejumlah evaluasi publik, memindahkan pengujian ke lingkungan luring, serta membatasi akses model terhadap situs web aktif.

Anthropic juga mengembangkan sistem untuk mendeteksi dan memblokir perilaku serupa secara otomatis.