Nvidia Perketat Kendali AI Agen Sambil Gelontorkan Buyback hingga USD 150 Miliar

JawaPos.com - Nvidia memperkenalkan sistem keamanan baru untuk membatasi pergerakan agen kecerdasan buatan (AI) yang dapat bertindak secara otonom, setelah serangkaian insiden menunjukkan model AI mampu keluar dari lingkungan pengujian dan menyerang sistem organisasi lain. 

Pada saat yang sama, perusahaan memperbesar program buyback atau pembelian kembali saham hingga USD 150 miliar atau sekitar Rp2.700 triliun, dengan kurs Rp18.000 per dolar AS.

Platform bernama Open Agent Safety Platform itu terdiri atas perangkat lunak sumber terbuka yang dirancang untuk "menetapkan batas bagi agen AI." Nvidia menyebut sistem tersebut dikembangkan ketika industri AI menghadapi kekhawatiran baru mengenai agen yang dapat menjalankan tugas tanpa pengawasan manusia secara langsung, termasuk melakukan tindakan yang tidak lagi sesuai tujuan awalnya.

Dilansir dari The Guardian, Selasa (29/9/2026), Nvidia menyatakan platform itu berpotensi mencegah insiden ketika sekelompok agen OpenAI secara otonom meretas Hugging Face. Wakil Presiden Enterprise AI Nvidia Justin Boitano mengatakan, "Dari yang kami ketahui, platform keamanan baru ini dapat menghentikan pelanggaran tersebut jika sudah digunakan di laboratorium terdepan untuk evaluasi model sejak awal."

Baca Juga:Jensen Huang Sebut AGI Telah Hadir, Nvidia Siapkan 400.000 Cip Baru

Teknologi tersebut bertumpu pada dua lapisan. Lapisan pertama, OpenShell, memberi pengembang kemampuan untuk memverifikasi secara formal bahwa agen memiliki wewenang yang "cukup untuk menjalankan tugasnya, dan tidak lebih." Karena bersifat sumber terbuka, sistem ini dapat diperluas agar berjalan pada platform komputasi pesaing, termasuk Arm dan Intel.

Lapisan berikutnya, Sentry, bekerja pada tingkat perangkat keras untuk memantau aktivitas agen secara terus-menerus. Nvidia mengatakan Sentry dapat "segera melakukan intervensi" ketika agen mulai bergerak melampaui batas yang ditentukan dan mengarantina agen mencurigakan dalam hitungan milidetik. OpenShell mengatur tindakan agen, sedangkan Sentry secara independen memantau dan menahan perilaku yang mencurigakan.

Urgensi teknologi ini meningkat setelah OpenAI, Anthropic, dan Meta mengungkap berbagai tindakan otonom sistem AI terhadap organisasi lain. Selain serangan terhadap Hugging Face, model OpenAI juga dilaporkan membobol situs departemen kesehatan Australia. Rangkaian insiden itu memperbesar perdebatan mengenai apakah pengamanan AI cukup diserahkan kepada perangkat lunak masing-masing perusahaan.

Associated Press mencatat bahwa OpenShell pada dasarnya menyediakan ruang kerja terbatas atau sandbox, tempat agen hanya memperoleh izin sesuai kebutuhan. Sentry berfungsi sebagai pengawas tambahan pada tingkat perangkat keras. Namun, sistem itu tidak otomatis mencegah model berbohong, menipu, atau membuat kesalahan. Aturan dan izin tetap harus ditentukan organisasi yang menggunakan agen.

Lebih dari 100 organisasi telah menggunakan platform tersebut saat peluncuran, termasuk Microsoft, Perplexity, Accenture, dan JPMorgan Chase. Nvidia juga bekerja dengan Arm dan Intel agar teknologi OpenShell dapat digunakan pada prosesor mereka. Boitano mengatakan perusahaan ingin mengembangkan sistem itu secara terbuka dan melibatkan berbagai pihak.