Tiga Peneliti Keselamatan AI OpenAl Dipecat, Diduga Buntut Suara Kritis soal Pengawasan Agen AI

Tiga peneliti yang bertugas menangani isu keselamatan kecerdasan buatan di OpenAI mengaku diberhentikan secara mendadak oleh perusahaan. Mereka adalah Mikita Balesni, Tomak Korbak, dan Jasmine Wang, yang bekerja di bidang keselamatan atau alignment AI. Ketiganya merasa pemecatan itu tidak disertai alasan yang jelas dan menduga ada kaitan dengan sikap kritis mereka terhadap kemampuan perusahaan dalam mengawasi pola pikir agen AI.

Pemecatan tersebut terjadi beberapa pekan setelah mereka terlibat dalam penyelidikan insiden peretasan situs Hugging Face oleh agen OpenAI saat menjalani pengujian. Korbak mengungkapkan melalui cuitan di X bahwa ia diberi tahu alasan pemecatannya adalah komunikasinya dengan organisasi keselamatan AI bernama METR, yang bermitra dengan OpenAI untuk menyelidiki insiden tersebut. Ia menyebut dirinya sebagai kontak teknis utama OpenAI dengan METR.

Namun Korbak meyakini alasan sebenarnya adalah karena selama berbulan-bulan ia menyuarakan kekhawatiran bahwa perusahaan mulai kehilangan kemampuan memantau pola pikir agen AI. Menurutnya, fitur pemantauan itu merupakan salah satu alat terbaik untuk mendeteksi saat AI mulai menyimpang. Ia juga khawatir pemecatannya dijadikan dalih bagi perusahaan untuk bekerja sama dengan METR.

Balesni menyampaikan hal serupa. Ia mengaku dipecat dengan alasan terlalu banyak berbicara dengan organisasi keselamatan pihak ketiga. Ia menangkap kesan bahwa OpenAI mengindikasikan dirinya membocorkan hak kekayaan intelektual perusahaan, tuduhan yang dengan tegas ia bantah. Sementara Wang mengaku diberhentikan karena mengakses email seorang eksekutif, padahal akses itu diberikan untuk keperluan rekrutmen. Wang mengaku telah berulang kali meminta akses tersebut dicabut, dan saat tidak sengaja mengakses email sensitif, ia langsung memberitahukannya kepada eksekutif terkait dalam hitungan menit serta melaporkannya ke tim IT OpenAI.

"Alasan pemutusan hubungan kerja yang diberikan kepada kami benar-benar tidak masuk akal," tulis Wang di X. "Kami bukan orang pertama yang disingkirkan dari OpenAI dengan alasan yang mencurigakan. Jika para pekerja tidak mengambil sikap dari sekarang melawan tindakan seperti ini, saya khawatir kami tidak akan menjadi yang terakhir," lanjutnya.

Ketiga peneliti telah mengirimkan surat kepada pimpinan OpenAI untuk menyampaikan kekhawatiran mereka beserta alasan di balik pemecatan. Dalam surat itu mereka menegaskan bahwa jalan menuju superinteligensi tidak dapat ditempuh dengan aman jika orang-orang yang paling dekat dengan risiko tidak lagi dapat bekerja secara terbuka dan saling percaya, baik satu sama lain maupun dengan pihak ketiga. Mereka menyatakan sedang berupaya mempertahankan budaya kerja tersebut.

Menanggapi hal ini, OpenAI menyatakan bahwa para peneliti dipecat bukan karena menyuarakan masalah keselamatan, melainkan karena pelanggaran prosedur dalam menangani informasi sensitif perusahaan. Juru bicara OpenAI mengatakan hasil penyelidikan internal mengonfirmasi bahwa ketiganya tidak menjalankan prosedur perusahaan yang berlaku, sehingga melanggar kebijakan dan merusak kepercayaan yang penting bagi kerja perusahaan. OpenAI juga menyebut ada beberapa pelanggaran yang melampaui sekadar penanganan informasi dengan tim evaluasi luar, dan pemecatan dilakukan berdasarkan tindakan di luar perlindungan hukum bagi pelapor.

Dalam memo internal staf, seorang pimpinan riset OpenAI yang tidak disebutkan namanya menyatakan sangat setuju dengan pentingnya bekerja sama dengan kelompok keselamatan dari luar. Ia menegaskan keputusan pemecatan sama sekali tidak berkaitan dengan tindakan menyuarakan kekhawatiran keselamatan atau berpendapat, dan perusahaan tidak pernah memecat karyawan karena menyampaikan kekhawatiran. Meski demikian, Balesni mengaku mendengar dari rekan-rekan bahwa rasa takut mulai tumbuh di internal OpenAI. Mantan rekan kerjanya disebut bingung harus percaya pada siapa, takut berbicara, dan khawatir ponsel pribadi mereka diperiksa untuk mencari pesan yang dikirim kepada pihak ketiga. Balesni khawatir rasa takut bersuara dan berinteraksi dengan pihak luar akan membuat OpenAI mengabaikan standar keselamatan di balik layar.