Peneliti Google DeepMind Mundur Massal, Tolak AI Dipakai Operasi Militer AS dan Israel

Sejumlah peneliti di Google DeepMind memilih meninggalkan perusahaan menyusul kekhawatiran mereka terhadap penggunaan teknologi kecerdasan buatan atau AI untuk kepentingan operasi militer. Salah satunya Sofia Ligouri, insinyur riset asal Inggris yang mengundurkan diri pekan lalu setelah tiga tahun bekerja di Google.

Ligouri mengaku tidak nyaman dengan arah perusahaan yang semakin mendorong pemanfaatan sistem AI dalam operasi militer. Kepada BBC, Kamis (22/10), ia menyatakan rasa malu bekerja di Google karena perusahaan tempatnya bernaung kian erat menjalin kerja sama dengan militer Amerika Serikat dan Israel.

Menurut Ligouri, langkah tersebut tidak sejalan dengan prinsip dan nilai yang selama ini dinyatakan perusahaan. Ia mengaku kehilangan kepercayaan terhadap komitmen etika Google, terutama karena prinsip AI perusahaan mencakup pengawasan manusia serta penyelarasan teknologi dengan hukum internasional dan hak asasi manusia.

Kekhawatiran serupa disampaikan peneliti AI lain di Google DeepMind, Andreas Krisch, yang juga mengundurkan diri pada awal bulan ini. Krisch menilai tata kelola dan pengawasan Google belum memadai untuk memastikan AI diterapkan secara aman dan bertanggung jawab di lingkungan serta operasi militer yang bersifat rahasia.

Ia juga menyoroti keterbatasan kewenangan Google dalam mengendalikan atau memveto cara Pentagon memakai teknologi AI perusahaan. Menurut Krisch, Google hanya memiliki akses informasi terbatas soal bagaimana teknologinya diterapkan, dan sistem AI perusahaan dinilai belum cukup aman untuk mengembangkan kecerdasan super di masa depan.

Sejumlah karyawan Google mengaku takut berbicara terbuka soal keselamatan AI dan penggunaannya dalam peperangan karena kontrak kerja melarang kritik terbuka terhadap perusahaan. Ligouri menegaskan bahwa menyampaikan fakta bukanlah bentuk kritik, meski ia menyadari risiko tindakan balasan dan karir yang dipertaruhkan.

Juru bicara Google menyatakan perusahaan bekerja sama dengan organisasi sektor publik di seluruh dunia dan mengikuti proses konsisten dalam meninjau maupun menjalin kontrak. Proses itu mencakup kepatuhan terhadap kebijakan penggunaan yang dapat diterima dan prinsip AI perusahaan, serta tersedianya saluran khusus bagi karyawan untuk menyampaikan kekhawatiran secara aman.

Isu ini mencuat setelah Google termasuk perusahaan teknologi yang menandatangani kontrak dengan militer AS awal tahun ini untuk menerapkan AI di berbagai lingkungan militer rahasia. Perjanjian itu menyebut model AI Google boleh dipakai untuk segala tujuan pemerintah yang sah secara hukum, tetapi tidak untuk pengawasan massal warga sipil dalam negeri atau senjata otonom tanpa pengawasan dan kendali manusia yang sesuai.

Kesepakatan serupa juga ditandatangani OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia, dan Reflection. Menteri Pertahanan AS Pete Hegseth menjadikan integrasi AI ke angkatan bersenjata sebagai prioritas, sementara Pentagon menegaskan kecepatan teknologi menjadi penentu kemenangan di era AI.