New Orleans Jadi Kota AS Pertama yang Serahkan Panggilan 911 ke AI, Ini Risikonya

New Orleans, Louisiana, mencatat sejarah sebagai kota besar pertama di Amerika Serikat yang memanfaatkan kecerdasan buatan (AI) untuk menjawab langsung panggilan darurat 911. Langkah ini diambil Dinas Komunikasi Distrik Orleans (OPCD) untuk mengatasi tingginya volume panggilan yang mencapai lebih dari seribu per hari, menjadikannya distrik dengan panggilan darurat tertinggi di negara tersebut.

Sistem yang disebut AI Emergency Call Triage ini mulai diterapkan pada akhir Juli setelah sebelumnya diuji coba pada layanan hotline non-darurat 311. Bot AI akan menganalisis setiap panggilan untuk melakukan triase, menentukan mana yang harus segera diteruskan ke petugas manusia dan mana yang bisa ditangani otomatis. Panggilan berulang atau berprioritas rendah akan ditangani langsung oleh bot untuk meringankan beban operator.

Direktur Eksekutif OPCD, Karl Fasold, menegaskan bahwa kehadiran AI bukan untuk menggantikan operator manusia. Sistem ini hanya diprioritaskan ketika penelepon berada dalam jarak sekitar 200 meter dari lokasi kejadian dan semua petugas sedang sibuk. Dengan demikian, manusia tetap memegang kendali dalam situasi kritis.

Meski demikian, kebijakan ini menuai kritik tajam dari para praktisi dan pakar. Boxy, seorang kritikus yang mengaku sebagai operator 911 selama 11 tahun, menyebut ide ini buruk. Ia mencontohkan situasi darurat seperti KDRT di mana korban tidak bisa berbicara jelas dan menyamar memesan pizza. Menurutnya, petugas manusia diperlukan untuk merasakan emosi dan menangkap pesan tersirat yang tidak bisa dilakukan AI.

Kekhawatiran lain datang dari risiko kesalahpahaman karena penelepon 911 umumnya dalam keadaan panik dan sulit menjelaskan situasi. Peneliti keamanan juga memperingatkan bahwa sistem suara AI rentan terhadap serangan peretasan yang dapat mengelabui model suara. Namun, pejabat New Orleans yakin dengan pengawasan manusia, data pelatihan, keamanan siber, dan regulasi algoritma, bot AI ini dapat bekerja efektif.

Sejumlah kota lain seperti Atlanta dan Seattle juga telah mengintegrasikan AI ke sistem 911 mereka, namun tidak sepenuhnya menjawab panggilan. Atlanta menggunakan AI untuk membantu operator menemukan lokasi penelepon dan komunikasi lintas bahasa, sementara Seattle telah memakai teknologi serupa sejak 2024 untuk memutuskan prioritas respons tanpa pengumuman publik.