Komdigi Peringatkan Jawaban Chatbot AI Tak Selalu Benar, Pengguna Diminta Lakukan Ini

Kementerian Komunikasi dan Digital (Komdigi) meminta masyarakat tidak menelan mentah-mentah jawaban dari chatbot berbasis kecerdasan buatan atau AI. Pasalnya, jawaban yang dihasilkan sistem tersebut tidak selalu benar dan berpotensi keliru.

Peringatan itu disampaikan Direktur Kemitraan Komunikasi dan Lembaga serta Kehumasan Komdigi, Marroli Jeni Indrarto, di Kantor Komdigi, Jakarta Pusat, Kamis (29/10). Menurut dia, AI memang memberikan banyak manfaat, tetapi cara kerja chatbot dalam merumuskan jawaban perlu dipahami dengan kritis.

"AI tentu memiliki banyak manfaat. Namun, kita juga tetap harus kritis bahwa AI juga menghasilkan jawaban itu berdasarkan pola. Pola yang masuk ke dalam sistem AI, chatbot-nya umumnya dan di dalam sistem bahasanya mereka," kata Marroli.

Karena itu, Marroli menekankan pentingnya keterlibatan manusia untuk memeriksa dan memverifikasi setiap informasi yang dihasilkan AI. Masyarakat diminta membandingkan jawaban chatbot dengan sumber yang terverifikasi, termasuk media daring yang kredibel.

"Jadi, belum tentu ada juga, belum tentu sekali lagi, ada kebenaran ya, di dalam (jawaban) AI itu. Makanya, penting untuk kita melakukan intervensi manusia untuk mengecek terutama, check dan recheck, juga penting adalah kita mencari konfirmasi kebenaran ada sumber-sumber yang verified ya, ada media online yang verified ya, pada media-media lain," jelasnya.

Marroli juga menyoroti sejumlah platform AI yang telah memberikan peringatan bahwa sistem mereka dapat menghasilkan kesalahan. Peringatan itu, menurut dia, menjadi pengingat bagi pengguna agar tidak langsung menjadikan jawaban AI sebagai acuan tanpa pemeriksaan ulang.

"Pada beberapa platform AI ya, mereka juga mengatakan bahwa AI can make mistakes. Jadi, masih ada potensi platform itu kemudian tidak sepenuhnya benar. Makanya, kembali perlu adanya check dan re-check dari penggunanya," tegas Marroli.

Ia menegaskan bahwa AI seharusnya hanya membantu manusia dalam proses berpikir, bukan mengambil alih keputusan dan penilaian pengguna. "Intinya adalah AI boleh membantu kita berpikir, tetapi kemudian keputusan dan penilaian tetap harus berada di tangan para penggunanya," tambahnya.

Selain soal jawaban chatbot, Marroli menyoroti pentingnya transparansi platform digital dalam mengelola teknologi yang digunakan masyarakat. Menurutnya, platform memiliki tanggung jawab menjelaskan bagaimana sistem AI digunakan, rekomendasi konten diberikan, serta proses moderasi dilakukan, termasuk pertanggungjawaban ketika pengguna merasa dirugikan.

"Karena itu, Komdigi terus mendorong platform digital untuk semakin transparan dan bertanggung jawab sekaligus memastikan kewajiban mereka dijalankan sesuai dengan ketentuan hukum," tutur Marroli.

Ia juga mengingatkan masyarakat untuk memeriksa ulang informasi yang diterima, baik melalui chatbot AI maupun media sosial. Marroli menegaskan pengembangan teknologi digital harus tetap memperhatikan hak, keamanan, dan kepentingan masyarakat.

"Kami dari Komdigi tentu ingin ruang digital Indonesia yang terhubung, tumbuh dan terjaga, terhubung agar masyarakat dapat mengakses informasi dan saling berkomunikasi, juga tumbuh agar teknologi dan AI membuka kesempatan untuk belajar dan berinovasi, dan yang penting adalah terjaga agar hak, keamanan dan kepentingan masyarakat tetap dilindungi," tutup Marroli.