JawaPos.com - OpenAI mulai menerapkan tanda air (watermark) tak kasatmata pada teks yang dihasilkan ChatGPT dan Codex di wilayah Uni Eropa. Langkah tersebut dilakukan untuk memenuhi aturan transparansi dalam Undang-Undang Kecerdasan Buatan Uni Eropa atau EU AI Act.
Seperti dilansir dari TechCrunch, aturan yang mulai berlaku pada 2 Agustus itu mewajibkan perusahaan AI menandai konten yang dibuat kecerdasan buatan dengan cara yang dapat dikenali oleh sistem lain. OpenAI menyatakan penerapan watermark untuk pengguna ChatGPT dan Codex yang memenuhi syarat akan dilakukan secara bertahap dalam beberapa minggu mendatang.
Fitur tersebut berlaku untuk seluruh paket layanan di Uni Eropa. Sementara itu, pengembang yang menggunakan API OpenAI di luar wilayah tersebut juga dapat mengaktifkan watermark untuk model tertentu mulai sekarang. Namun, fitur itu tidak aktif secara default.
OpenAI menegaskan belum menjadikan watermark teks sebagai pengaturan standar secara global pada tahap awal peluncuran.
Berbeda dari watermark berupa logo atau tulisan yang terlihat, teknologi ini bekerja dengan memengaruhi pilihan kata model secara halus. Perubahan tersebut menghasilkan pola tertentu yang tidak terlihat oleh pembaca, tetapi dapat dikenali oleh sistem pendeteksi.
Karena pola tersebut melekat pada teks, watermark tetap terbawa ketika tulisan disalin dan ditempel. OpenAI juga menyebut teknologi tersebut tidak dirancang untuk mengidentifikasi pengguna dan sejauh ini tidak ditemukan perubahan signifikan terhadap kinerja model ketika fitur diaktifkan.
Bersamaan dengan pengumuman itu, OpenAI menerbitkan laporan teknis mengenai metode yang disebut textGrain. Penelitian tersebut disusun bersama peneliti dari University of Pennsylvania dan Yale.
Metode tersebut menggunakan kunci rahasia untuk mengatur prediksi kata berikutnya ketika model menyusun sebuah kalimat. Dengan menggabungkan ratusan penyesuaian kecil, sistem pendeteksi dapat mencari pola tertentu untuk mengidentifikasi teks yang dibuat AI hanya berdasarkan teks dan kunci yang digunakan.
Bisa Dihilangkan dengan Penyuntingan
Meski dirancang agar tidak terlihat, watermark tersebut bukan berarti mustahil dihilangkan. Pengujian OpenAI menunjukkan bahwa penyuntingan terhadap teks dapat mengurangi kemampuan sistem dalam mendeteksinya.
Dalam salah satu pengujian, mengganti sekitar 10 persen kata dengan sinonim menurunkan tingkat deteksi dari sekitar 92 persen menjadi 66 persen. OpenAI juga menemukan bahwa teks pendek, jawaban soal matematika, dan teks hasil terjemahan cenderung lebih sulit dideteksi.
"Keterbatasan ini mendasari keputusan kami untuk memberikan akses awal ke alat pendeteksi hanya kepada peneliti dan organisasi ahli yang telah disetujui, yang dapat membantu kami mengevaluasi keandalan serta penggunaan yang bertanggung jawab," ujar OpenAI.
Perusahaan juga mengingatkan bahwa tidak ditemukannya watermark tidak otomatis membuktikan sebuah teks ditulis manusia. Teks tersebut bisa saja terlalu pendek, telah melalui penyuntingan ekstensif, atau dibuat menggunakan sistem AI dari perusahaan lain.
"Watermark dapat menunjukkan bahwa sistem OpenAI menghasilkan atau memproses sebagian dari sebuah teks, namun tidak menunjukkan seberapa besar penilaian, penyuntingan, atau kreativitas manusia yang terlibat di dalamnya," ungkap perusahaan itu.
Langkah OpenAI ini dilakukan sekitar dua bulan setelah Anthropic mengumumkan rencana penerapan watermark pada teks yang dihasilkan Claude secara global. Kebijakan tersebut sempat menuai kritik dari sebagian pengguna Claude yang menilai pengguna tetap menjadi pihak yang memberikan instruksi, konteks, dan keputusan, sementara Claude hanya berperan sebagai alatnya.