Komdigi Siapkan Aturan Label Konten AI, Penipuan Digital Jadi Ancaman Nyata

Kementerian Komunikasi dan Digital (Komdigi) tengah menyiapkan regulasi baru untuk menghadapi maraknya konten sintetis buatan kecerdasan artifisial. Peraturan menteri yang sedang dikaji akan mengatur kewajiban pelabelan pada video, gambar, dan suara hasil AI agar masyarakat lebih mudah membedakan konten asli dari yang direkayasa.

Wakil Menteri Komunikasi dan Digital Nezar Patria menegaskan bahwa perkembangan AI telah membuat batas antara realitas dan konten sintetis semakin tipis. Hal itu disampaikannya dalam Konvensi Humas Indonesia 2026 di Surakarta, Sabtu (17/10).

"Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis," ujar Nezar seperti dikutip dari laman resmi Komdigi.

Menurut Nezar, kemampuan AI menghasilkan video, gambar, dan suara yang semakin realistis turut meningkatkan risiko penyalahgunaan teknologi untuk penipuan dan manipulasi informasi. Ia mencontohkan kasus penipuan melalui pertemuan virtual di Hong Kong sekitar dua tahun lalu yang membuat sebuah perusahaan merugi hingga US$25 juta.

Dalam kasus tersebut, seorang staf keuangan melakukan 15 kali transfer setelah menerima instruksi dalam pertemuan daring yang menampilkan jajaran pimpinan perusahaan. Belakangan diketahui seluruh peserta pertemuan itu palsu dan hanya staf tersebut yang benar-benar hadir.

"Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," kata Nezar.

Untuk mengantisipasi ancaman tersebut, sejumlah perusahaan teknologi global mulai mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten digital melalui metadata. Pemerintah Indonesia disebut tengah menempuh langkah serupa melalui penyusunan kebijakan pelabelan konten AI.

Nezar berharap perusahaan pengembang teknologi nantinya memberikan penanda yang membedakan konten hasil AI. "Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan," jelasnya.

Selain regulasi pelabelan, pemerintah juga menyiapkan Peta Jalan Nasional Kecerdasan Artifisial periode 2026-2029 yang melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri. Nezar menilai penguatan tata kelola AI perlu diimbangi peningkatan kemampuan masyarakat dalam menilai kebenaran informasi. "AI harus didudukkan sebagai alat, sebagai mitra kerja, bukan pengganti nalar dan tanggung jawab manusia," tegasnya.