JawaPos.com - Perbedaan pandangan OpenAI dan Anthropic soal keselamatan serta regulasi kecerdasan buatan (AI) semakin terlihat. Buat yang belum tahu, Anthropic adalah perusahaan riset dan pengembang kecerdasan buatan (AI) asal Amerika Serikat yang dikenal sebagai pembuat Claude, chatbot AI yang menjadi salah satu pesaing ChatGPT.

Anthropic menyebut dirinya sebagai perusahaan yang berfokus pada pengembangan AI yang aman, dapat diandalkan, mudah dipahami, dan tetap bisa dikendalikan manusia.

CEO OpenAI Sam Altman cenderung memilih pendekatan yang lebih longgar, sementara perdebatan di industri terus mengarah pada pertanyaan tentang seberapa jauh risiko AI harus dibatasi.

Perbedaan itu muncul ketika Altman membahas pendekatan OpenAI dan Anthropic terhadap keselamatan AI dalam episode perdana podcast Decoded milik Politico.

Altman mengatakan OpenAI tidak melihat penghapusan seluruh risiko sebagai tujuan yang realistis. Menurutnya, masyarakat akan tetap menghadapi sejumlah dampak negatif ketika AI semakin banyak digunakan, termasuk peretasan, penipuan, dan berbagai bentuk penyalahgunaan.

“Kami percaya bahwa dunia harus menerima beberapa hal buruk yang terjadi demi manfaat teknologi ini dan orang-orang memiliki agensi,” kata Altman dikutip dari Gizmochina.

OpenAI Tak Ingin Semua Risiko AI Dihilangkan

Pandangan Altman berangkat dari keyakinan bahwa AI akan menghasilkan manfaat yang jauh lebih besar dibandingkan dampak buruknya. Karena itu, ia tidak ingin regulasi membuat teknologi tersebut terlalu dibatasi.

“Saya tidak akan mengambil pilihan dengan mengatakan, kami akan memastikan tidak ada peretasan besar, tidak ada penyalahgunaan teknologi ini, tidak ada penipuan, dan tidak ada semua hal buruk lainnya yang akan terjadi," ujarnya.

Altman menilai pendekatan semacam itu justru dapat mengorbankan berbagai manfaat yang bisa diperoleh masyarakat dari AI.

“Saya pikir orang-orang akan melakukan hal-hal yang sangat baik, berlipat-lipat lebih banyak, daripada hal-hal buruk,” lanjutnya.

Pernyataan tersebut sekaligus menunjukkan bagaimana OpenAI melihat persoalan regulasi AI. Bagi Altman, tantangannya bukan memastikan teknologi bebas sepenuhnya dari penyalahgunaan, melainkan menjaga agar manusia tetap memiliki kendali dan keleluasaan dalam memanfaatkannya.

Tidak Semua Risiko Bisa Diperlakukan Sama

Meski mendorong pendekatan yang lebih longgar, Altman tidak mengatakan semua risiko AI dapat dibiarkan begitu saja.

Ia membedakan antara penyalahgunaan seperti penipuan atau peretasan dengan risiko yang jauh lebih serius, yakni kemungkinan manusia kehilangan kendali atas sistem AI.

Untuk risiko yang bersifat eksistensial atau berpotensi menghilangkan kendali manusia tersebut, Altman mengatakan diperlukan kehati-hatian yang jauh lebih besar.

Perbedaan ini penting karena perdebatan keselamatan AI selama ini sering mencampurkan berbagai jenis risiko dalam satu kategori. Padahal, dampak sebuah penipuan berbasis AI tentu berbeda dengan skenario ketika sistem AI yang sangat kuat tidak lagi dapat dikendalikan manusia.

Anthropic Punya Pendekatan Berbeda

Di sinilah perbedaan OpenAI dan Anthropic menjadi menarik. Kedua perusahaan sama-sama mengembangkan model AI generatif dan berbicara mengenai pentingnya keselamatan, tetapi pendekatan mereka terhadap risiko dan pengawasan tidak selalu sejalan.

Altman menyampaikan pandangannya ketika membandingkan posisi OpenAI dengan Anthropic mengenai keselamatan dan regulasi. Ia pada dasarnya menilai bahwa sebagian risiko penggunaan AI perlu diterima agar masyarakat tetap mendapatkan manfaat sekaligus memiliki keleluasaan menggunakan teknologi tersebut.

Perbedaan tersebut mencerminkan pertarungan gagasan yang lebih luas di industri AI. Perusahaan teknologi kini tidak hanya berlomba membuat model yang lebih pintar, tetapi juga berusaha menentukan aturan main yang akan berlaku ketika AI semakin kuat dan semakin luas digunakan.

Regulasi AI Berhadapan dengan Kecepatan Inovasi

Perdebatan itu menjadi semakin rumit karena risiko AI tidak hanya berkaitan dengan model itu sendiri. Penggunaan AI telah memunculkan persoalan mengenai pekerjaan, hak cipta, keamanan siber, konsumsi energi pusat data, kebutuhan air, hingga penyebaran penipuan.

Jika regulasi terlalu longgar, kritiknya adalah masyarakat bisa menanggung dampak sebelum mekanisme perlindungan tersedia. Sebaliknya, jika aturan terlalu ketat, perusahaan AI dapat menghadapi hambatan untuk mengembangkan teknologi dan menghadirkan produk baru.

Karena itu, perdebatan OpenAI dan Anthropic pada akhirnya bukan sekadar soal siapa yang lebih berhati-hati. Persoalan utamanya adalah di mana batas antara risiko yang masih dapat diterima dan risiko yang harus dicegah sejak awal.

Kritik terhadap Pendekatan Sam Altman

Pandangan Altman tetap menuai kritik. Profesor emeritus New York University Gary Marcus menilai pernyataan tersebut sebagai bentuk pengakuan bahwa masyarakat diminta menerima konsekuensi negatif dari AI demi keuntungan dan kekuasaan perusahaan teknologi.

Kritik tersebut memperlihatkan persoalan lain yang tidak kalah penting: siapa yang menentukan bahwa manfaat AI memang akan jauh lebih besar daripada kerugiannya?

Bagi pengguna, pertanyaan itu semakin relevan karena keputusan mengenai regulasi AI nantinya dapat memengaruhi bagaimana teknologi tersebut digunakan dalam pekerjaan, pendidikan, bisnis, keamanan, hingga kehidupan sehari-hari.