Pakar UGM Peringatkan Risiko Kenalkan AI ke Anak SD, Sebut Bisa Picu Halusinasi

Rencana memperkenalkan kecerdasan buatan atau AI kepada siswa sekolah dasar mendapat sorotan dari akademisi Universitas Gadjah Mada (UGM). Dosen Hubungan Internasional UGM Dedy Permadi menilai pengenalan AI secara langsung kepada anak-anak perlu ditinjau ulang karena menyimpan risiko yang tidak kecil.

Menurut Dedy, teknologi AI berbasis large language model (LLM) memiliki kecenderungan mengalami halusinasi, yakni menghasilkan informasi yang keliru atau tidak sesuai fakta. Persoalannya, anak-anak dinilai belum memiliki bekal literasi yang cukup untuk memverifikasi kebenaran informasi yang dihasilkan teknologi tersebut.

"LLM cenderung mengalami halusinasi. Algoritma ini bisa menghasilkan berita dan informasi palsu. Siapa yang akan memverifikasinya? Dalam prinsip AI yang berpusat pada manusia, manusia harus memeriksa hasil yang dihasilkan AI. Namun, anak-anak belum memiliki bekal yang cukup untuk memverifikasi halusinasi dari AI," kata Dedy dalam workshop Indonesian Next Generation Journalist Network on Korea (IKJN) di Jakarta, Jumat (30/10).

Ia menegaskan penggunaan aplikasi seperti ChatGPT, Copilot, dan Gemini tanpa pendampingan serta literasi yang memadai berpotensi memberi dampak buruk bagi perkembangan anak. Karena itu, pembahasan soal AI dalam pendidikan perlu dibedakan menjadi dua hal, yakni AI for education dan AI education.

AI for education merujuk pada pemanfaatan AI untuk mendukung proses belajar, misalnya membantu siswa penyandang disabilitas memahami materi atau menyesuaikan pembelajaran dengan kemampuan masing-masing siswa. Menurut Dedy, pemanfaatan AI untuk pembelajaran personal dapat membantu mengatasi keterbatasan kapasitas dan keterampilan tenaga pengajar.

"AI for education sebenarnya dapat dimanfaatkan untuk meningkatkan kualitas pendidikan. Namun, yang perlu menjadi perhatian adalah AI education, yaitu mengajarkan AI kepada siswa," ujarnya.

Dedy menuturkan pemerintah Indonesia pada 2024 sempat memperkenalkan rencana memasukkan pembelajaran AI ke dalam kurikulum bagi generasi muda, termasuk siswa SD. Saat itu ia meminta rencana tersebut ditinjau kembali sebelum AI diperkenalkan secara langsung kepada anak-anak. Ia juga mengaitkan penggunaan AI dan paparan layar berlebihan dengan kekhawatiran penurunan kemampuan kognitif anak, bahkan menyinggung istilah cognitive death.

Sebagai perbandingan, Dedy menceritakan pengalamannya mengunjungi Jepang setahun setelah inisiatif pengenalan AI di Indonesia. Menurut pengamatannya, Jepang baru memperkenalkan AI kepada siswa tingkat SMA dengan panduan dan pendampingan guru. Penggunaan AI di sekolah pun dibatasi melalui perangkat khusus dengan platform berakses terbatas, sehingga siswa hanya dapat mengakses sejumlah kanal yang telah ditentukan.

Jepang juga memiliki kelas dan kurikulum khusus bagi siswa dengan kemampuan atau bakat istimewa di bidang AI. Dengan pendekatan itu, pengenalan AI dapat disesuaikan bagi siswa yang memiliki kemampuan lebih, sementara penggunaan teknologi oleh anak-anak secara umum tetap dibatasi.

"Secara umum, mereka melindungi anak-anak dari penggunaan AI. Namun, mereka juga memberikan kesempatan kepada anak-anak berbakat untuk mengembangkan keterampilannya melalui kelas dan kurikulum khusus," tutur Dedy.

Di sisi lain, Dedy menekankan penggunaan AI tetap harus menerapkan prinsip human-centered AI atau AI yang berpusat pada manusia. Prinsip ini mengharuskan manusia tetap terlibat dalam setiap tahap pengembangan dan penggunaan AI, termasuk mengawasi hasil serta keputusan yang dihasilkan teknologi tersebut.

Menurut dia, AI tidak boleh dibiarkan mengambil keputusan secara mandiri tanpa pengawasan manusia. Sebab, tanggung jawab atas kesalahan yang muncul dari penggunaan teknologi tetap berada pada manusia.

"Manusia harus tetap berada dalam setiap tahapan pengembangan dan penggunaan AI. Manusia harus memegang kendali penuh atas keputusan. Jika terjadi kesalahan, pihak yang bertanggung jawab adalah manusia," tegas Dedy.