Perkembangan kecerdasan artifisial atau artificial intelligence (AI) memasuki tahap baru ketika teknologi tidak lagi sekadar memberikan jawaban, tetapi mampu merencanakan, mengambil keputusan, dan menjalankan serangkaian tindakan secara mandiri.
Perkembangan tersebut mulai menjadi perhatian pemerintah Indonesia, khususnya melalui Kementerian Komunikasi dan Digital (Komdigi). Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai peningkatan otonomi AI membutuhkan tata kelola yang dapat memastikan manusia tetap memiliki kendali.
Nezar menyampaikan hal tersebut dalam acara Techpresso di Jakarta Barat, Kamis (10/9/2026). Menurutnya, agentic AI dapat mengambil keputusan ketika diberikan otoritas tertentu.
“Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui,” ujar Nezar.
AI Mulai Bisa Bertindak Sendiri
Berbeda dengan AI konvensional yang umumnya menunggu instruksi dan memberikan respons, agentic AI dirancang untuk menjalankan rangkaian tugas secara lebih mandiri.
Nezar mencontohkan penggunaannya sebagai asisten perjalanan. Sistem semacam ini dapat membantu memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.
Kemampuan tersebut memang dapat meningkatkan efisiensi. Namun, semakin besar kewenangan yang diberikan kepada AI, semakin besar pula konsekuensi ketika sistem mengambil keputusan yang keliru.
Pemerintah karena itu menyoroti pertanyaan mengenai batas otoritas AI dan sejauh mana manusia harus tetap terlibat dalam proses pengambilan keputusan.
Risikonya menjadi lebih kompleks ketika satu sistem agentic AI dapat berkomunikasi dan berkoordinasi dengan sistem AI lainnya. Dalam kondisi tersebut, proses pengambilan keputusan dapat berlangsung antarmesin tanpa keterlibatan manusia secara langsung.
Pemerintah Siapkan Tata Kelola Berbasis Risiko
Nezar mengatakan pemerintah mengambil pendekatan berbasis risiko untuk menghadapi perkembangan AI yang semakin otonom.
Salah satu prinsip yang ditekankan adalah human centric dan human in the loop. Artinya, AI dapat mengambil alih tugas tertentu untuk meningkatkan efisiensi, tetapi batas kewenangan sistem perlu dirancang dengan jelas dan keputusan tertentu tetap memerlukan keterlibatan manusia.
Pemerintah juga menilai risiko AI perlu diperhitungkan sejak tahap pengelolaan data dan pengembangan model hingga proses pengambilan keputusan.
Ancaman keamanan seperti prompt injection dan data poisoning menjadi salah satu perhatian karena dapat memengaruhi keputusan yang dihasilkan sistem AI.
Karena itu, Nezar menilai tata kelola AI perlu berjalan beriringan dengan keamanan siber.
“Cybersecurity dan tata kelola AI harus digandeng bersamaan,” ujarnya.
Regulasi AI Sedang Disiapkan
Perhatian terhadap agentic AI merupakan bagian dari agenda pemerintah yang lebih luas untuk membangun tata kelola AI nasional.
Komdigi menyebut Indonesia saat ini terus menyiapkan kerangka tata kelola AI, termasuk melalui Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), serta Undang-Undang Pelindungan Data Pribadi (UU PDP).
Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan regulasi mengenai etika AI.
Sebelumnya, Komdigi menyatakan pembahasan lintas kementerian untuk Rancangan Peraturan Presiden (RPerpres) tentang Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 dan RPerpres tentang Etika Kecerdasan Artifisial telah selesai pada Mei 2026. Kedua rancangan tersebut disiapkan sebagai bagian dari kerangka tata kelola AI nasional.
Pada Juli 2026, Nezar juga menyebut Perpres tentang AI akan menjadi langkah awal sebelum pemerintah menyusun Undang-Undang AI yang lebih komprehensif.
Tantangan Baru Ketika AI Memiliki Otoritas
Perkembangan agentic AI membuat persoalan tata kelola AI tidak lagi hanya berkaitan dengan apakah jawaban yang diberikan sistem benar atau salah.
Ketika AI memiliki kemampuan untuk mengambil keputusan dan menjalankan tindakan, muncul persoalan baru mengenai siapa yang bertanggung jawab ketika keputusan tersebut menimbulkan kesalahan atau kerugian.
Persoalan tersebut menjadi semakin penting ketika AI digunakan dalam sektor yang memiliki dampak langsung terhadap masyarakat.
Pada sektor keuangan, misalnya, Nezar sebelumnya mengingatkan bahwa agentic AI dapat diberikan kewenangan untuk mengambil keputusan bahkan menjalankan transaksi. Dalam skenario tertentu, AI juga dapat berkomunikasi dengan AI lain untuk menentukan transaksi.
Bagi pemerintah Indonesia, perkembangan tersebut membuat tata kelola tidak bisa hanya menunggu teknologi berkembang terlebih dahulu. Batas kewenangan, pengawasan manusia, keamanan data, dan mekanisme pertanggungjawaban perlu dipertimbangkan sejak awal.
Dengan semakin otonomnya kemampuan AI, tantangan Indonesia kini bukan hanya bagaimana memanfaatkan teknologi tersebut, tetapi juga bagaimana memastikan AI tetap berada dalam batas kewenangan yang dapat diawasi dan dipertanggungjawabkan oleh manusia.