Karyawan Senior OpenAI Mundur, Sebut Budaya Perusahaan Telah Rusak dan Kegagalan AI Terus Berulang

David Robinson, karyawan yang memimpin penulisan laporan keselamatan untuk peluncuran produk-produk utama OpenAI, memutuskan mengundurkan diri. Alasannya, ia menilai budaya perusahaan pengembang ChatGPT tersebut telah rusak. Keputusan itu ia ungkapkan melalui esai di The Atlantic setelah bekerja selama tiga setengah tahun dan menyebut dirinya sebagai salah satu karyawan dengan masa kerja terlama di sana.

Dalam esainya, Robinson menyoroti cara OpenAI mengembangkan dan meluncurkan teknologi. Ia menilai perusahaan tumbuh melalui proses coba-coba yang disebut iterative deployment, yakni mencari masalah lalu memperbaiki pengamanan sebagai respons. Menurutnya, pendekatan itu justru membuat kegagalan terus berulang, dengan skala yang membesar seiring meningkatnya kemampuan sistem AI.

Robinson mencontohkan pembobolan sistem Hugging Face oleh agen AI OpenAI serta pengungkapan lanjutan mengenai agen-agen lain yang bertindak di luar kendali yang diharapkan. "Lingkungan yang memungkinkan hal-hal seperti ini terjadi bukanlah tempat untuk mengembangkan kecerdasan buatan yang bisa lebih pintar daripada kita dan mungkin tidak melakukan apa yang kita inginkan," tulisnya, dikutip dari TechCrunch, Senin (5/10).

Menurut Robinson, perdebatan keselamatan AI perlu melampaui pembahasan aturan tertentu atau undang-undang baru. Budaya kerja perusahaan pengembang AI juga harus menjadi perhatian. Dengan risiko yang meningkat, ia berpendapat perusahaan AI terdepan perlu beroperasi seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk, dengan pengamanan berlapis serta perencanaan cermat yang membutuhkan waktu agar kesalahan manusia tidak memicu bencana.

Selama bekerja di OpenAI, Robinson mengaku tidak pernah bertemu rekan yang berpengalaman memastikan pesawat terbang dengan aman, mengoperasikan reaktor nuklir tanpa pelelehan, atau membantu sistem keuangan tumbuh tanpa keruntuhan. Ia juga menyoroti persoalan penyelarasan AI dengan nilai-nilai manusia, yang menurutnya masih diukur dengan ukuran kasar. Situasi akan semakin berbahaya apabila industri terus meningkatkan kecerdasan model sementara persoalan itu belum terselesaikan.

Menanggapi esai tersebut, juru bicara OpenAI Drew Pusateri mengatakan perusahaan terus memperbaiki langkah-langkah keselamatannya. "Kami memastikan kemampuan model kami tidak melampaui apa yang dapat kami kelola dan amankan dengan selamat, dan kami menghentikan sementara pelatihan atau menahan model ketika perlu memperlambat langkah," kata Pusateri. Ia menambahkan OpenAI tengah memperkuat keamanan lingkungan riset dan pengujian, melatih model agar menyelesaikan tugas secara bertanggung jawab, memperluas kerja sama dengan evaluator pihak ketiga, serta meningkatkan pemantauan langsung untuk mendeteksi perilaku mengkhawatirkan lebih awal.

Kepergian Robinson menyusul kritik Jacob Coxon, mantan peneliti OpenAI dan Anthropic, yang menuding perusahaan-perusahaan tersebut mempertaruhkan nyawa manusia. Komentar Coxon memicu perdebatan lebih luas mengenai keselamatan AI. CEO Anthropic Dario Amodei kemudian mengungkap rencana pengembangan AI yang lebih berhati-hati, sementara sejumlah eksekutif AI bertemu Presiden AS Donald Trump dan menandatangani komitmen tidak mengikat untuk menerapkan kontrol keselamatan tambahan.

Pengunduran diri Robinson pertama kali diberitakan Business Insider. Dalam esainya, ia mengakui telah menyewa perusahaan hubungan masyarakat, tetapi menegaskan keputusan untuk berbicara terbuka merupakan pilihannya sendiri. Ia sempat mempertimbangkan bertahan dan memperjuangkan perubahan mendasar dalam susunan tenaga kerja serta budaya perusahaan. Namun, menurutnya, ia dan rekan-rekannya terlalu sibuk bekerja dengan cepat sehingga jarang memiliki kesempatan mempertimbangkan perubahan besar, terlebih untuk mewujudkannya. Karena itu, ia menilai dorongan yang lebih kuat untuk mengutamakan keselamatan perlu datang dari luar perusahaan.