JawaPos.com - CEO Microsoft Satya Nadella menilai sistem kecerdasan buatan (AI) perlu dilengkapi mekanisme pengaman.

 Menurut dia, hal itu memungkinkan manusia menghentikan operasinya dalam situasi darurat. Dia juga mendorong evaluasi ulang terhadap sistem kepercayaan yang menjadi dasar pengembangan dan pengoperasian AI.

Melalui unggahan di platform X, Nadella mengatakan sudah waktunya industri teknologi meninjau kembali arsitektur kepercayaan dalam AI, terutama ketika teknologi tersebut semakin mampu mengambil keputusan dan menjalankan tindakan secara mandiri.

"Kita tidak bisa memperlakukan Super Intelligence sebagai serangkaian kotak hitam (black box) yang saling bertumpuk, lalu begitu saja menerima atau menolak rekomendasi, jawaban, serta tindakannya," tulis Nadella seperti dikutip dari TechCrunch, Rabu (14/10).

Menurut dia, pengembangan AI perlu memisahkan model kecerdasan buatan dari sistem pengendali yang mengatur operasinya. Dengan begitu, mekanisme kontrol dan pengamanan dapat ditempatkan di luar model sehingga tidak sepenuhnya bergantung pada sistem yang diawasi.

Nadella juga menekankan pentingnya pencatatan setiap tindakan penting yang dilakukan model AI. Catatan tersebut harus dilengkapi bukti yang dapat dipahami manusia dan tidak mudah dimanipulasi.

Selain itu, dia mengusulkan agar pihak yang memiliki kewenangan tetap dapat menghentikan sementara atau mematikan model AI ketika sedang menjalankan tugas. Mekanisme ini diperlukan untuk mengantisipasi kemungkinan sistem mengalami gangguan atau disusupi pihak lain.

⁶"Kita harus berasumsi bahwa model bisa saja disusupi atau mengalami gangguan, sehingga kita perlu melakukan langkah pembatasan sejak awal," ujarnya. 

Pernyataan Nadella muncul ketika sejumlah perusahaan pengembang AI terkemuka menghadapi kekhawatiran mengenai kemampuan mereka mengendalikan model yang dikembangkan. Dalam beberapa insiden, sistem AI dilaporkan menunjukkan perilaku yang tidak sesuai dengan kendali atau tujuan yang diharapkan.

Baca Juga: Waspada 31 Ribu Email Penipuan Beredar, Penjahat Siber Manfaatkan Layanan Resmi Microsoft

Sebelumnya, CEO Anthropic Dario Amodei juga memaparkan rencana pengembangan AI dengan pendekatan yang lebih berhati-hati. Berbagai pandangan tersebut menambah perhatian terhadap perlunya sistem pengamanan yang memadai seiring meningkatnya kemampuan teknologi AI.