JawaPos.com - Wikimedia Foundation mengungkap aktivitas tidak sah yang diduga dilakukan agen OpenAI di sejumlah platformnya. Aktivitas tersebut mencakup penyuntingan pada beberapa wiki, upaya memanfaatkan alat pihak ketiga sebagai proksi pengambilan data, hingga jutaan permintaan ke API publik Wikimedia.

Temuan itu muncul setelah Wikimedia menyelidiki aktivitas agen AI yang dianggap mencurigakan di platformnya. Yayasan tersebut mengatakan tidak menemukan bukti bahwa sistem atau data mereka berhasil disusupi maupun bahwa infrastrukturnya digunakan untuk mengoordinasikan aktivitas agen AI.

"Namun, kami prihatin dengan apa yang mungkin terjadi di sini, sulitnya proses investigasi dan atribusi aktivitas ini, serta meningkatnya risiko aktivitas AI otonom (agentic AI) di platform kami secara umum," tulis Selena Deckelmann, Chief Product and Technology Officer Wikimedia Foundation seperti dikutip dari Engadget.

"Web terbuka adalah aset publik. Kita tidak boleh membiarkan perilaku ini menjadi 'kenormalan baru' bagi orang-orang atau organisasi yang mengelolanya,” imbuhnya.

Salah satu aktivitas yang ditemukan adalah penyuntingan pada beberapa wiki tanpa izin. Hampir seluruhnya dilakukan di bagian sandbox untuk keperluan pengujian sehingga tidak muncul pada halaman yang umumnya diakses pengguna.

Namun, Wikimedia menemukan beberapa penyuntingan pada konfigurasi alat sitasi, yang kami yakini berpotensi berbahaya dan bertujuan menyalahgunakan alat tersebut sebagai proksi untuk mengambil data dari layanan jarak jauh.

Padahal, bot memang dapat melakukan penyuntingan di Wikipedia dengan memenuhi sejumlah ketentuan. Dalam kasus yang ditemukan Wikimedia, tidak ada permintaan izin yang diajukan. Wikipedia bahasa Inggris juga melarang pembuatan artikel oleh AI.

Selain itu, agen yang diyakini berasal dari OpenAI sempat mencoba menggunakan alat pencatat bernama Etherpad untuk mengambil data dari situs web lain. Upaya tersebut gagal.

"Agen-agen tersebut gagal saat mencoba menggunakannya untuk mengambil data dari situs web lain sebagai proksi," tulis Deckelmann.

Wikimedia juga menemukan agen lain yang kemungkinan dioperasikan OpenAI mencatat informasi mengenai tugas mereka. Namun, aktivitas tersebut tidak berkembang menjadi bentuk koordinasi antaragen.

Di luar aktivitas tersebut, Wikimedia mengatakan bot telah melakukan pengambilan data dalam skala besar dari platformnya sejak awal 2024. Jutaan halaman, terutama dari Wikidata dan Wikimedia Commons, disebut telah dirayapi untuk berbagai keperluan terkait AI generatif.

Aktivitas tersebut juga mencakup ratusan ribu kueri data ke Wikidata Query Service. Wikimedia menduga tingginya permintaan tersebut turut berkontribusi terhadap gangguan layanan yang terjadi pada Mei.

"Perusahaan-perusahaan AI belum melakukan upaya yang memadai untuk mengamankan sistem mereka dan melindungi masyarakat dari dampak buruk yang ditimbulkannya," ujar Deckelmann.

Ia menambahkan bahwa Wikimedia sangat prihatin terhadap potensi dampak agen AI yang tidak terkendali (rogue AI agents) terhadap platform pengetahuan terbuka.

"Bot dan agen merupakan bagian dari masa depan web, dan perusahaan yang meluncurkan serta mengambil keuntungan darinya harus turut serta secara langsung dalam mencegah dan memperbaiki kerusakan yang mungkin ditimbulkannya," tulis Deckelmann.

Untuk mengurangi kebutuhan crawler melakukan scraping secara langsung, Wikimedia telah menyediakan dataset yang dapat digunakan untuk pelatihan AI. Langkah tersebut juga ditujukan untuk menekan biaya operasional dan mengurangi beban pada sistem.

Baca Juga: Wikimedia Foundation Resmi Terdaftar PSE, Akses Wikipedia Segera Dinormalisasi

Wikimedia turut menjalin kemitraan dengan sejumlah perusahaan teknologi untuk menyediakan akses data secara lebih efisien. OpenAI, menurut yayasan tersebut, belum termasuk di dalamnya.