TABANAN, Kilasbali.com – Dinas Komunikasi dan Informatika (Diskominfo) Tabanan mengingatkan masyarakat mengenai potensi risiko kebocoran data pribadi dan privasi seiring pesatnya pemanfaatan teknologi kecerdasan buatan otonom atau agentic AI.
Kerentanan tersebut mengancam pengguna apabila sistem AI diberikan akses luas ke informasi sensitif tanpa pengawasan ketat.
Ancaman keamanan ini mengemuka saat agen AI terhubung langsung dengan berbagai sistem internal.
Ketika diberikan wewenang memproses data penting, informasi pengguna berisiko bocor melalui skema data exfiltration atau berpindah ke pihak yang tidak berhak.
Sekretaris Diskominfo Tabanan, I Gusti Putu Winiantara, menjelaskan bahwa tingkat kewenangan sistem yang semakin besar berbanding lurus dengan tingginya kebutuhan tata kelola dan perlindungan data.
“Karena memiliki kemampuan menjalankan sejumlah tindakan secara mandiri, masyarakat juga perlu memahami bahwa penggunaan agentic AI memiliki risiko yang berbeda dengan penggunaan AI biasa,” jelas Winiantara pada Jumat (11/9).
Ia menambahkan, semakin besar kewenangan yang diberikan kepada sebuah agen, semakin besar pula kebutuhan terhadap pengawasan, keamanan dan tata kelolanya.
Selain kebocoran privasi, Winiantara membeberkan ancaman lain berupa hallucination, bias model, hingga serangan adversarial prompt.
Dampak dari kekeliruan sistem otonom ini bakal makin fatal jika kecerdasan buatan diberi wewenang mengambil keputusan atau melakukan transaksi keuangan tanpa verifikasi manusia.
Oleh karena itu, Diskominfo Tabanan menekankan pentingnya penerapan prinsip perlindungan data seperti data minimization, pemenuhan hak subjek data, serta kemudahan audit.
Dari sisi teknis, organisasi yang memanfaatkan teknologi ini wajib memperketat access control, sandboxing, enkripsi, serta pemisahan data produksi.
“Governance harus berjalan bersama dengan inovasi. Logging, audit trail yang lengkap, human-in-the-loop untuk keputusan berisiko tinggi, serta prosedur incident response harus dipersiapkan sejak awal. Termasuk adanya kill switch yang memungkinkan agen dihentikan apabila perilakunya menyimpang dari batas yang telah ditetapkan,” tegas Winiantara.
Secara konsep, agentic AI memiliki perbedaan fundamental dari chatbot reaktif biasa. Sistem otonom ini mampu memecah satu tujuan besar menjadi deretan tugas, menentukan instrumen pendukung, lalu mengeksekusi rencana melalui decision loop yang berulang secara mandiri.
“Agentic AI merupakan perkembangan kecerdasan buatan yang memungkinkan sistem bekerja lebih otonom dalam mencapai suatu tujuan,” ujarnya.
Agentic AI dapat memahami instruksi, menyusun rencana, mengambil keputusan, menggunakan berbagai alat yang tersedia dan menjalankan pekerjaan dalam beberapa tahapan dengan intervensi manusia yang lebih minimal.
Winiantara juga menggarisbawahi pentingnya aspek etika dan akuntabilitas agar keberadaan sistem otonom tidak mengeliminasi peran manusia dalam pengambilan keputusan strategis. “Isu etika juga menjadi bagian penting dalam perkembangan agentic AI,” imbuhnya.
“Kita perlu menentukan siapa yang bertanggung jawab ketika sebuah agen mengambil keputusan, bagaimana proses pengambilan keputusan dapat ditelusuri dan diaudit, serta bagaimana memastikan penggunaan teknologi tidak menghilangkan peran manusia dalam keputusan-keputusan yang memiliki dampak besar,” ujarnya.
Untuk menekan potensi penyalahgunaan data di tingkat publik, Pemkab Tabanan mendorong warga agar tetap kritis dan tidak menyerahkan data rahasia secara sembarangan saat berinteraksi dengan AI.
“Kami mengajak masyarakat untuk tidak takut terhadap perkembangan AI, tetapi juga tidak menggunakannya secara sembarangan. Manfaatkan agentic AI untuk hal-hal yang positif, produktif dan memberikan nilai tambah,” ujarnya mengimbau.
Namun, sambungnya, di saat yang sama tetap memeriksa informasi yang dihasilkan, jangan sembarangan memberikan data pribadi atau data sensitif. “Dan gunakan teknologi dengan mempertimbangkan etika serta tanggung jawab,” pungkasnya. (c/kb)
