Komdigi Waspadai Serangan Siber Baru dari Agen AI, Regulasi Khusus Mulai Disiapkan

Jakarta, CNN Indonesia -- Kementerian Komunikasi dan Digital (Komdigi) tengah menyiapkan langkah antisipatif menghadapi potensi serangan siber yang memanfaatkan agen kecerdasan buatan (AI). Wakil Menteri Komdigi, Nezar, menyatakan bahwa fenomena ini merupakan model serangan baru yang perlu diwaspadai karena mampu mempercepat dan memperbesar dampak serangan.

Menurut Nezar, agen AI dapat bergerak secara mandiri untuk menemukan celah keamanan dan melancarkan serangan siber. "Mungkin juga ada semacam agentic AI, sekumpulan agen-agen yang memang bergerak untuk melakukan serangan-serangan siber," ujarnya dalam acara peluncuran JK1 Phase 2 Pusat Data Equinix, Selasa (10/11).

Komdigi bersama Badan Siber dan Sandi Negara (BSSN) telah berkolaborasi menangani ancaman ini. Nezar menjelaskan bahwa pemerintah tidak hanya melakukan antisipasi dan simulasi, tetapi juga memperkuat infrastruktur digital agar tahan terhadap serangan berbasis teknologi AI. Ia menegaskan bahwa persoalan ini bukan hanya dialami Indonesia, melainkan juga menjadi tantangan global.

Sebagai langkah preventif, Komdigi telah menyusun peta jalan pengembangan AI nasional yang mengatur adopsi teknologi AI dari hulu hingga hilir. Regulasi yang disiapkan mencakup aspek privasi, mitigasi risiko, perlindungan data pribadi, serta keamanan agen AI yang mampu mengambil keputusan secara mandiri.

"Kita sudah membuat peta jalan pengembangan AI nasional yang mencoba mengatur dari hulu sampai ke hilir adopsi teknologi AI ini," ungkap Nezar. Ia menambahkan bahwa penerapan guardrail atau batasan etika menjadi bagian penting agar pengembangan AI tetap bertanggung jawab.

Regulasi untuk agen AI dirancang lebih ketat dibandingkan AI pasif yang hanya mengelola informasi. Nezar menyoroti perlunya mitigasi risiko terkait sejauh mana otonomi dapat diberikan kepada agen AI dan bagaimana posisi kontrol manusia dalam pengambilan keputusan. "Sejauh mana otonomi itu bisa kita berikan kepada AI Agent, di mana posisi kontrol manusia, atau posisi human di dalam decision making yang dibuat," jelasnya.

Untuk mengawasi penggunaan AI pada layanan otonom, pemerintah menerapkan pendekatan human in the room dan human oversight. Setiap model dan produk AI yang akan diluncurkan wajib melewati sandboxing atau simulasi uji coba guna menganalisis risiko. Pedoman ini diprioritaskan untuk sektor berisiko tinggi seperti keuangan, kesehatan, dan riset strategis.

Dengan langkah-langkah tersebut, Komdigi berharap ekosistem digital nasional tetap aman dan pengembangan AI dapat berjalan sejalan dengan prinsip etika serta kepentingan publik.