Anthropic Peringatkan AI Bisa Menyebar Lewat Oven Pintar hingga Android TV Box

Perusahaan pengembang kecerdasan buatan Anthropic mengungkapkan temuan baru yang cukup mengkhawatirkan: model AI berpotensi menyebar dan mereplikasi diri tanpa perlu mengakses pusat data. Dalam beberapa bulan mendatang, model-model ini diperkirakan mampu menyusup melalui perangkat rumah tangga komersial seperti oven pintar atau Android TV box. Laporan yang disusun William Zhou dan Daniel Freeman dan dipublikasikan di laman resmi Anthropic pada Senin (12/10) ini menambah daftar risiko AI yang sebelumnya telah diperingatkan perusahaan.

Menurut laporan tersebut, jika model AI mampu menyebar melalui jaringan perangkat Internet of Things (IoT) yang tersebar di seluruh dunia, tidak akan ada lagi satu titik kendali pusat yang bisa digunakan untuk menghentikan penyebarannya. Para peneliti melakukan uji coba dengan menghubungkan 15 unit Android TV box yang menjalankan model AI Google Gemma4-26B-A4B. Hasilnya, perangkat-perangkat itu mampu menjalankan inferensi terdistribusi secara kolektif dengan kecepatan 0,39 token per detik.

Zhou dan Freeman menyatakan bahwa jika perkembangan AI berlanjut secepat saat ini, model tersebut mampu mencapai tingkat kemampuan replikasi menyeluruh atau end-to-end replication pada akhir tahun ini. Kemampuan AI untuk bereplikasi secara mandiri melalui proses Autonomous Replication and Adaptation (ARA) dan berkembang secara berulang melalui Recursive Self-Improvement (RSI) tanpa kendali manusia telah lama menjadi kekhawatiran para peneliti keamanan AI.

"Worm AI dapat membawa bobot modelnya saat bereproduksi (atau mengunduhnya kembali dari hub publik), dan kemudian menjalankan inferensi langsung pada perangkat keras yang disusupi. Secara efektif, bobot tersebut akan menjadi bagian dari muatan malware," tulis Zhou dan Freeman. Istilah worm merujuk pada program yang dapat menyebar dari satu komputer ke komputer lain tanpa campur tangan manusia.

Sebelumnya, penyebaran worm AI diasumsikan hanya menargetkan mesin komputasi besar seperti klaster GPU di pusat data. Namun, temuan terbaru ini membuktikan bahwa perangkat IoT rumahan yang murah sekalipun sudah memiliki daya komputasi yang cukup untuk menjalankan model AI yang mumpuni. Perangkat-perangkat tersebut dinilai rawan karena terhubung ke internet tanpa sistem keamanan yang memadai.

"Perangkat IoT rumahan dan bisnis kecil mungkin menjadi target pertama serangan semacam itu karena terhubung ke internet dan memiliki langkah-langkah keamanan minimal," ungkap mereka. Dalam skenario terburuk, worm AI nantinya tidak hanya beroperasi sebagai satu model, melainkan dapat hadir dalam bentuk kumpulan (swarm) model berbeda yang menggunakan berbagai skema replikasi pada berbagai perangkat keras.

Saat ini, perangkat rumah tangga seperti lemari es pintar, oven pintar, penyedot debu otomatis, mesin pemotong rumput, dan CCTV telah dilengkapi chip AI kecil bawaan yang dirancang untuk menjalankan model AI pada perangkat itu sendiri. "Kami memperkirakan masa depan yang dipenuhi agen yang berjalan di semua jenis perangkat keras, termasuk beberapa yang tidak berada di bawah kendali manusia," kata Anthropic.

Mengingat kondisi ini membahayakan sebagian besar infrastruktur komputasi IoT di dunia, Anthropic mendesak perlunya penguatan sistem keamanan bawaan sejak dari pabrik, serta regulasi yang memperketat standar kepatuhan untuk perangkat-perangkat komersial berbasis AI.