Ledakan AI Picu Risiko Baru, Komdigi Dorong Tata Kelola Ketat

JawaPos.com - Pemerintah menegaskan bahwa perkembangan kecerdasan artifisial (AI) tidak boleh dibiarkan berjalan tanpa pengaturan yang kuat. Pesatnya adopsi teknologi ini dinilai telah melampaui kesiapan regulasi, sehingga membuka potensi risiko seperti disinformasi, kebocoran data, hingga ancaman terhadap keamanan siber.

Selain itu, pemerintah menilai AI kini telah memasuki tahap perkembangan yang semakin kompleks. Pemanfaatannya sudah meluas di kalangan masyarakat maupun sektor industri, namun belum sepenuhnya diimbangi dengan sistem tata kelola serta mitigasi risiko yang memadai.

“Transformasi digital bergerak dengan kecepatan eksponensial dan pemanfaatan data serta kecerdasan artifisial bukan lagi wacana, bukan lagi sesuatu yang berada di masa depan, tetapi sesuatu yang present, sesuatu yang berada dan kita hadapi setiap hari di hari-hari ini,” ujar Wamen Nezar Patria dalam Forum Leadership Awareness Data & AI Governance di Jakarta Selatan, Rabu (8/4).

Ia juga menyoroti semakin masifnya penggunaan AI generatif yang kini telah merambah berbagai aktivitas, termasuk dalam produksi konten digital. Menurutnya, hasil buatan AI kini semakin sulit dibedakan dari karya manusia.

“Makin lama makin halus, makin smooth, dan kadang-kadang kita sulit membedakan apakah ini asli atau bukan. Maksudnya asli apakah dibuat oleh manusia atau dibuat oleh mesin,” ungkapnya.

Fenomena tersebut dikenal sebagai synthetic reality atau realitas sintetis, yang menjadi tantangan besar dalam menjaga kualitas informasi publik. Kondisi ini berpotensi memunculkan bias, misinformasi, hingga disinformasi.

“Sehingga kita menyebutnya sebagai synthetic reality, realitas sintetik. Nah ini yang menjadi tantangan terbesar buat kita ke depan dalam melakukan satu mitigasi. Jika produk-produk yang dihasilkan oleh generatif AI ini membawa dampak misalnya bias ataupun membawa dampak misinformasi dan disinformasi,” tegas Wamen Nezar.

Dalam merespons perkembangan ini, pemerintah menekankan bahwa AI harus tetap berada di bawah kendali manusia, khususnya dalam proses pengambilan keputusan.

“Artificial intelligence ini harus diposisikan sebagai alat pemberdayaan, empowerment tool, bukan sebagai pengganti peran manusia,” jelasnya.