Laporan Anthropic Ungkap AI Disebut Bisa Picu Kekacauan Pemilu di Asia Tenggara

Laporan terbaru dari perusahaan kecerdasan buatan Anthropic mengungkapkan kekhawatiran serius bahwa teknologi AI dapat memicu kekacauan dalam pemilu di kawasan Asia Tenggara. Teknologi ini dinilai mampu memproduksi berita palsu dan disinformasi secara masif di internet dan media sosial, yang berpotensi mengacaukan proses demokrasi.

Dalam laporan yang dirilis pada September, Anthropic menemukan penggunaan Claude AI untuk menyebarkan pengaruh politik di beberapa daerah pemilihan di Malaysia. Melansir The Guardian, AI telah dimanfaatkan untuk menciptakan platform manipulasi pemilu komersial dengan memanfaatkan sekitar 1.000 akun X, portal berita palsu bernama Malaysia Pulse, serta serangkaian dokumen palsu.

Pelaku diduga menargetkan calon pemilih di Malaysia dengan memanfaatkan data sensus dan data pemilih di 222 daerah pemilihan parlemen. Berita yang diproduksi disebut mengeksploitasi isu politik dan sosial sensitif, termasuk yang bernuansa suku, agama, ras, dan antargolongan (SARA).

Bridget Welsh dari University of Nottingham Asia Research Institute Malaysia berpendapat bahwa insiden ini berpotensi menimbulkan polarisasi politik. "Hal itu memicu polarisasi politik dan memperparah perpecahan. Fragmentasi itulah yang benar-benar mengkhawatirkan dari apa yang terjadi di Malaysia," kata Bridget.

Laporan Anthropic mencatat bahwa media-media palsu mengambil sumber berita dari media massa Malaysia dan meminta model AI menulis ulang beberapa kali sebelum menerbitkannya kembali dengan nama samaran. Mereka juga mengambil berita dari media asing yang memiliki hubungan dengan Rusia dan China, termasuk TV BRICS, Xinhua, Sputnik/RIA, dan CGTN, tanpa mencantumkan sumbernya.

Dampak dari kasus ini berhasil dihentikan setelah Anthropic turun tangan dan menghapus akun tersebut. Meski demikian, peristiwa ini memicu kekhawatiran terkait pengaruh AI sebagai alat politik di masa depan, terutama di Asia Tenggara yang sangat rentan terhadap berita palsu dan provokasi media. Fakta bahwa masyarakat di wilayah ini menghabiskan banyak waktu di media sosial menjadikan pengaruh AI dalam pemilu semakin mengkhawatirkan.

Peraih Nobel dan jurnalis Filipina Maria Ressa menyebut Asia Tenggara telah lama dijadikan tempat uji coba teknik propaganda dan manipulasi publik yang kemudian direplikasi di Barat. Pemilu Malaysia diperkirakan akan diadakan pada akhir tahun 2027, sementara Filipina dan Kamboja pada tahun 2028, dan Indonesia pada tahun 2029. Penggunaan AI sebagai alat kampanye telah terbukti berhasil di wilayah ini.

Ben Loh dari Monash University Malaysia juga menyebut AI mampu memicu ketegangan sosial, seperti yang terjadi pada kasus kebencian terhadap pengungsi Rohingya. "Situasinya sudah sampai pada titik di mana orang-orang sudah memiliki kebencian yang mendalam dalam pikiran mereka, dan ketika mereka melihat konten seperti ini, meskipun dihasilkan oleh AI, itu akan semakin memperkuat apa yang mereka yakini," kata Loh.

Pemimpin perusahaan konsultan teknologi Anchor Change, Katie Harbath, menyebut kasus AI yang membantu penyebaran pengaruh politik ini sebagai contoh bagaimana AI mempermudah penyebaran informasi palsu. "AI dapat mempercepat proses pembuatan lebih banyak konten yang lebih personal, lebih cepat, dan lebih murah," kata Harbath. Dalam kasus ini, pelaku bisa saja datang dari pihak pemerintah, lembaga propaganda, atau perusahaan swasta yang membanjiri media dengan berita palsu agar informasi faktual mengabur dan mempersulit verifikasi. Banjir berita palsu pada akhirnya juga akan memengaruhi model bahasa besar (LLM) atau sumber informasi yang digunakan AI, sehingga AI otomatis menerima dan mengutip informasi palsu tersebut.