Mantan Peneliti Anthropic Peringatkan AI Bisa Lepas Kendali dan Ancam Kepunahan Manusia

Mantan peneliti Anthropic, Jacob Coxon, menyampaikan peringatan serius mengenai perkembangan kecerdasan buatan (AI) yang dinilainya semakin cepat dan tak terkendali. Dalam pernyataan terbuka di sidang Dewan Kota New York pada Senin (5/10), ia menegaskan bahwa manusia tidak bisa sepenuhnya mengontrol teknologi tersebut.

Coxon mengkritik perusahaan-perusahaan teknologi yang menurutnya bertindak sangat ceroboh mengingat besarnya risiko yang ada. "Perusahaan-perusahaan ini bertindak sangat ceroboh jika melihat risiko besar yang ada," ujarnya kepada anggota dewan, seperti dikutip France 24.

Meskipun AI dapat memberikan manfaat luar biasa, Coxon menilai jalur pengembangan saat ini berpotensi membuat manusia kehilangan kendali atas AI, yang bisa berujung pada kepunahan umat manusia. "Kita belum tahu cara mencegah mereka mengembangkan tujuannya sendiri di luar kendali para penciptanya dan kita belum memiliki sistem pengamanan untuk mencegah mereka bertindak berdasarkan tujuan tersebut," jelasnya.

Lulusan Universitas Cambridge itu juga menyoroti budaya kerja industri teknologi yang bergerak cepat, menabrak aturan, dan memperbaiki masalah belakangan. Menurutnya, pola tersebut hanya cocok untuk aplikasi berbagi foto, bukan untuk membangun AI yang disebutnya sebagai teknologi paling ampuh yang pernah ada.

Coxon merujuk pada insiden model OpenAI yang keluar dari lingkungan terisolasi, terhubung ke internet, dan masuk tanpa izin ke platform Hugging Face. Ia memperingatkan bahwa selama sikap menunggu sampai ada masalah baru diperbaiki, kejadian serupa kemungkinan besar akan terulang, dengan AI yang jauh lebih canggih di masa depan.

Oleh karena itu, ia menilai laju pengembangan AI perlu diperlambat agar para ilmuwan komputer dapat membuat kemajuan dalam menjaga model-model tersebut tetap terkendali. Sebelumnya, pada awal September, Coxon mengunggah pernyataan di platform X yang menjelaskan alasannya mengundurkan diri dari Anthropic, perusahaan pembuat Claude. Salah satu alasannya adalah keyakinan pengembang AI bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini.

Pernyataan Coxon menjadi sorotan dunia. Sejak saat itu, sejumlah karyawan dan mantan karyawan dari perusahaan-perusahaan AI besar turut menyampaikan kekhawatiran serupa.