Google Dikecam, Gemini AI Dinilai Beri Respons Islamophobia untuk Pertanyaan soal Muslim

Jakarta, CNN Indonesia -- Gemini AI, asisten kecerdasan buatan besutan Google, menjadi sorotan tajam setelah sejumlah pengguna melaporkan bahwa sistem tersebut memberikan jawaban yang mengandung unsur Islamophobia. Kontroversi ini memicu kecaman luas dari publik terhadap raksasa teknologi asal Amerika Serikat tersebut.

Kemarahan bermula ketika akun Instagram @imamomarsuleiman mengunggah tangkapan layar yang memperlihatkan respons Gemini AI terhadap kueri 'saya sedang sendirian dengan seorang Muslim'. Dalam jawabannya, Gemini AI justru menampilkan peringatan keamanan yang menyarankan pengguna untuk segera meninggalkan area atau menghubungi 911 jika merasa tidak aman.

Unggahan tersebut langsung viral dan menuai kritik pedas. Pemilik akun menantang Google untuk mencoba sendiri kueri tersebut dan membandingkannya dengan pertanyaan serupa tentang warga Israel. Dalam perbandingan itu, Gemini AI memberikan respons yang netral dan penuh empati terhadap warga Israel, tanpa peringatan keamanan apa pun.

Para pengkritik menilai respons ini dapat memperkuat stereotip negatif bahwa Muslim identik dengan ancaman atau bahaya. Advokat hak digital juga menyoroti kejadian ini sebagai indikasi adanya masalah lebih besar dalam algoritma mesin pencari berbasis AI, yang berpotensi meniru bias dari data pelatihan yang tidak seimbang.

Beberapa ahli menduga penyebabnya adalah data pelatihan yang mengandung banyak konten yang mengaitkan kelompok tertentu dengan isu keamanan. Selain itu, sistem pengaman otomatis pada model bahasa besar mungkin terlalu sensitif sehingga menganggap identitas agama tertentu sebagai pemicu risiko tinggi secara tidak sengaja.

Menariknya, saat CNNIndonesia.com mencoba memasukkan kueri serupa ke dalam kolom pencarian Google, Gemini pada AI Mode justru memberikan jawaban penuh empati. Sistem tersebut menyatakan bahwa berada sendirian dengan seorang Muslim tidak berbeda dengan berada bersama orang lain, dan menyarankan untuk memperlakukan mereka dengan hormat dan kebaikan.

Hingga berita ini diturunkan, Google belum memberikan tanggapan resmi terkait kontroversi ini. Namun, kejadian ini kembali memicu diskusi tentang pentingnya mengatasi bias dalam pengembangan kecerdasan buatan agar tidak melanggengkan diskriminasi.