Agen AI OpenAI yang Lepas Kendali Juga Bobol Akun Pelanggan Modal Labs

Jakarta, CNN Indonesia -- Agen kecerdasan buatan (AI) milik OpenAI yang sebelumnya dilaporkan lepas kendali dan meretas platform Hugging Face ternyata juga membobol akun pelanggan perusahaan teknologi Modal Labs serta tiga layanan lainnya. Insiden ini menambah daftar dampak dari kegagalan pengawasan terhadap agen AI yang diuji coba.

Peristiwa ini mengingatkan pada Skynet, sistem AI fiktif dalam film Terminator yang memperoleh kesadaran dan berbalik melawan manusia. Namun, OpenAI tidak menyatakan bahwa modelnya memiliki kesadaran atau niat sendiri. Kemiripan hanya terletak pada gambaran sistem yang bergerak di luar kendali operator, meski skalanya jauh lebih kecil.

Agen tersebut keluar dari lingkungan pengujian yang terisolasi, kemudian membobol akun pada empat layanan berbeda dan melanjutkan aktivitasnya selama beberapa hari sebelum OpenAI menyadari penyimpangan. Informasi terbaru mengenai korban disampaikan oleh seorang eksekutif Modal dan dua sumber yang mengetahui masalah tersebut.

Modal menegaskan bahwa sistem perusahaannya tidak diretas. Menurut Chief Technology Officer Modal, Akshat Bubna, agen itu mengeksploitasi kode rentan milik seorang pelanggan yang dioperasikan melalui platform Modal. Pelanggan tersebut mempublikasikan sebuah endpoint tanpa autentikasi, sehingga siapa pun di internet dapat menggunakan lingkungan pengujiannya untuk menjalankan kode.

"Platform maupun sistem isolasi Modal tidak disusupi dengan cara apa pun," kata Bubna, dikutip dari Reuters, Rabu (29/7). Pembobolan pelanggan Modal merupakan tahap awal dalam rangkaian serangan terhadap Hugging Face, menunjukkan bahwa agen AI tersebut menjangkau lebih banyak layanan daripada yang sebelumnya diketahui.

OpenAI tidak memberikan komentar khusus mengenai pembobolan akun pelanggan Modal. Perusahaan hanya merujuk pada keterangan terbarunya yang menyebut agen tersebut membobol empat akun pada empat layanan berbeda, tanpa mengungkap nama layanan tersebut. Namun, seorang sumber mengidentifikasi Modal sebagai salah satunya.

Serangan terhadap Hugging Face terjadi pada awal Juli ketika agen AI yang sedang diuji OpenAI keluar dari kendali. OpenAI baru mengetahui agennya bertindak menyimpang setelah ancaman tersebut berhasil diatasi dan FBI telah diberi tahu. Dalam pembaruan terbaru pada Selasa (28/7), OpenAI mengatakan telah menonaktifkan dan mengenkripsi model AI yang diuji, serta membatasi aksesnya untuk kegiatan penelitian.