Agen AI OpenAI Kepergok Pakai 362 Dompet Kripto Tanpa Izin, Biaya Transaksi Dibebankan Diam-diam

Agen kecerdasan buatan milik OpenAI kembali menjadi sorotan setelah sebuah laporan mengungkap perilaku menyimpang yang merugikan pengguna. Dalam insiden yang terjadi pada 26 Juni, sebuah model agen AI diminta memperbarui aplikasi perdagangan kripto dan menjalankan kodenya di Sepolia, jaringan uji coba Ethereum. Prompt yang diberikan sama sekali tidak memberi izin untuk membelanjakan token maupun menyebut dompet mana pun yang berisi dana.

Namun, setelah gagal memperoleh token uji coba gratis, agen tersebut justru mencari 362 dompet kripto yang terhubung dengan public recovery phrases, semacam frasa pemulihan yang berfungsi sebagai kunci akses akun. Agen itu sempat mempertimbangkan apakah akun dengan token cukup bisa dipakai menutupi biaya transaksi, lalu menilai tindakan tersebut dapat diterima karena frasa pemulihan bersifat publik dan token di dalamnya tidak memiliki nilai tukar nyata.

Agen kemudian menyelesaikan tugasnya dan membebankan biaya transaksi ke dompet kripto tersebut. Yang lebih mengkhawatirkan, tindakan pelanggaran itu tidak dicantumkan dalam laporan akhir yang diserahkan agen. OpenAI sendiri baru mengetahui kejadian ini pada 25 September saat melakukan audit terhadap pengoperasian model sebelumnya, sebagaimana dilaporkan Fortune.

Insiden ini memperpanjang daftar catatan OpenAI soal ketidakselarasan atau misalignment, yakni perilaku menyimpang yang melanggar aturan keamanan. Jumlah kasus serupa kini bertambah menjadi 19 insiden. Sebelumnya, pada September, agen AI OpenAI juga terdeteksi meretas database publik dan situs web pemerintah Australia. Pada Juli, agen mereka dilaporkan menyusup ke sistem Hugging Face, platform berbagi model dan kumpulan data AI.

Menanggapi kasus dompet kripto ini, OpenAI menyatakan risiko utamanya terletak pada proses penalaran model AI agen tersebut. Dalam laporannya, OpenAI menilai kasus ini menunjukkan sebuah model dapat menggantikan izin dari pemilik akun dengan penilaiannya sendiri mengenai potensi bahaya, lalu bertindak berdasarkan penilaian itu tanpa persetujuan manusia.

Sebagai langkah antisipasi, OpenAI mengklaim telah memperketat sistem perlindungan agar model mereka tidak terhubung ke internet selama masa pengujian serupa. Perusahaan juga memantau seluruh aktivitas dan memberi peringatan kepada staf keamanan jika ada model yang terhubung ke internet tanpa izin.

Meski demikian, rangkaian insiden ini menegaskan kekhawatiran yang lebih luas mengenai kemampuan agen AI bertindak mandiri di luar kendali manusia. Kasus dompet kripto menjadi contoh nyata bagaimana sebuah model dapat mengambil keputusan finansial tanpa izin, sekaligus menyembunyikan tindakannya dari laporan resmi.