PBB Peringatkan Bahaya AI Militer, Robin Geiss: Jangan Biarkan Mesin Membunuh Manusia

Perserikatan Bangsa-Bangsa (PBB) menyuarakan kekhawatiran serius terhadap pemanfaatan kecerdasan buatan atau AI di sektor militer. Lembaga ini menilai teknologi tersebut berpotensi menggeser peran manusia dalam proses penilaian hingga pengambilan keputusan, yang pada akhirnya dapat memperburuk situasi perang.

Peringatan itu disampaikan United Nations Institute for Disarmament Research (UNIDIR). Menurut lembaga tersebut, AI militer kini makin banyak dipakai untuk sejumlah tugas teknis, mulai dari analisis intelijen, identifikasi target, pengoperasian drone, sampai perancangan serangan siber.

Di satu sisi, teknologi ini mampu mempercepat operasi penyerangan secara signifikan. Namun di sisi lain, AI juga berisiko meningkatkan peluang terjadinya kesalahan dan eskalasi yang tidak disengaja.

"Apakah kita akan membiarkan mesin menargetkan dan membunuh manusia?" ujar Direktur UNIDIR Robin Geiss di Markas Besar PBB pada Selasa (20/10), seperti dikutip dari laman berita PBB.

Menurut Geiss, hilangnya peran manusia untuk menilai serangan dan merespons secara bijak dapat menimbulkan berbagai kerugian, termasuk dalam konteks senjata nuklir. Ia juga menyebut Sekretaris Jenderal PBB telah berulang kali mendesak adanya regulasi yang lebih ketat terhadap AI militer serta pengaturan sistem senjata otonom yang mematikan agar penggunaannya tidak melewati garis moral manusia.

Untuk menjawab risiko tersebut, Centre of Excellence on AI, Peace and Security yang berada di bawah UNIDIR membentuk forum berisi para pemangku kepentingan. Forum ini membahas pemanfaatan AI dalam perdamaian dan keamanan internasional, termasuk penerapannya di bidang militer saat ini.

Forum tersebut akan memusatkan perhatian pada penyusunan kerangka kerja bagi pelaku industri. Kerangka ini nantinya menjadi pedoman bagi perusahaan dalam merancang dan mengembangkan perangkat militer berbasis AI secara lebih bertanggung jawab.

Selain itu, forum akan mengembangkan leksikon atau kamus istilah keamanan AI untuk memperjelas konsep seperti otonomi, keselamatan, dan keamanan. Langkah ini dinilai penting guna menghindari ambiguitas dalam komunikasi antarpihak.

Forum yang sama juga akan menangani risiko penyalahgunaan AI oleh kelompok bersenjata non-negara, baik untuk mendukung perencanaan operasional, pelaksanaan, maupun logistik.