JawaPos.com - Perkembangan agentic artificial intelligence (agentic AI) yang mampu mengolah informasi dan menjalankan tindakan secara mandiri memunculkan kebutuhan baru bagi perusahaan dalam mengelola interaksi digital.
Tidak hanya mengenali pelanggan, perusahaan juga perlu memastikan identitas serta kewenangan agen AI yang mengakses sistem dan menjalankan aktivitas bisnis.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai, pendekatan Know Your Agent (KYA) perlu mendapat perhatian seiring meningkatnya penggunaan agen AI di berbagai sektor. Langkah ini dinilai penting untuk mengantisipasi potensi penyalahgunaan data hingga tindakan sistem AI yang melampaui batas otorisasi.
“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Wamen Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, dikutip Jumat (16/10).
Baca Juga: KPK Pamerkan Uang Rp 1,2 Miliar dari OTT Bupati Klaten, Ratusan Juta Disimpan di Dalam Tong Biru
Menurut Nezar, perusahaan kini semakin memanfaatkan agentic AI untuk mendukung layanan pelanggan, transaksi, serta berbagai kegiatan operasional. Berbeda dari AI generatif yang umumnya menghasilkan respons berdasarkan perintah, agentic AI juga dapat menjalankan tindakan tertentu dengan dukungan algoritma dan otorisasi yang diberikan.
Kemampuan tersebut membuka peluang otomatisasi proses bisnis. Namun, di sisi lain, terdapat risiko ketika agen AI mengambil keputusan dan bertindak berdasarkan akses yang dimilikinya. “Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.
Nezar menjelaskan, perusahaan perlu memahami siapa yang mengoperasikan agen AI, sistem apa yang dapat diakses, serta tindakan apa saja yang diizinkan. Kejelasan identitas dan batas kewenangan diperlukan agar penggunaan teknologi tersebut tidak menimbulkan persoalan dalam tata kelola perusahaan.
Ia mengingatkan bahwa agen AI berpotensi menjalankan tindakan yang tidak sesuai dengan aturan internal apabila akses dan batas operasionalnya tidak dikelola secara memadai.
“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Wamen Nezar.
Risiko tersebut semakin relevan ketika interaksi bisnis tidak lagi hanya melibatkan manusia. Perusahaan juga berpotensi berhadapan dengan agen AI milik pelanggan atau sistem otomatis lain yang berupaya mengakses layanan dan melakukan transaksi.
“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI,” ujarnya.
Selain pengawasan terhadap kewenangan agen AI, Nezar menyoroti pentingnya pelindungan data pribadi dalam penerapan teknologi tersebut. Pemberian akses kepada sistem AI untuk memproses informasi perlu memperhitungkan risiko kebocoran maupun penggunaan data di luar tujuan yang semestinya.
Baca Juga: Menyesal Menolak Kontrak, 1.550 Calon Manajer Kopdes Merah Putih Minta Penawaran Ulang
Karena itu, ia menekankan penerapan prinsip security by design dan privacy by design. Kedua prinsip tersebut menempatkan aspek keamanan dan privasi sebagai bagian dari proses perancangan sistem sejak awal, bukan sekadar langkah tambahan setelah teknologi diterapkan.
“Kedua prinsip tersebut, perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi,” tegasnya.
Nezar menambahkan, pemerintah terbuka terhadap masukan dari pelaku usaha untuk memahami berbagai persoalan yang muncul seiring perkembangan teknologi kecerdasan buatan. Masukan tersebut dapat menjadi bahan untuk mengidentifikasi risiko sekaligus mendalami kebutuhan pengaturan teknis terkait penggunaan AI.
“Masukan tersebut diperlukan untuk membantu mengidentifikasi risiko dan mendalami kebutuhan pengaturan teknis seiring perkembangan AI,” ungkapnya.