Presiden Microsoft Sebut Aturan Keamanan AI Kalah Ketat dari Mesin Cuci dan Susu

Presiden Microsoft Brad Smith menyoroti masih longgarnya aturan keselamatan yang mengatur kecerdasan buatan atau AI. Menurutnya, regulasi yang berlaku saat ini bahkan kalah ketat dibandingkan aturan yang mengikat produk sehari-hari seperti mesin cuci dan susu.

"Saat ini, mesin cuci Anda tunduk pada lebih banyak aturan keselamatan dibandingkan AI. Setiap karton susu yang Anda lihat di toko bahan makanan juga harus mematuhi aturan keselamatan dan menjalani pemeriksaan," kata Smith, dikutip The Guardian, Senin (12/10).

Smith menegaskan bahwa teknologi AI membutuhkan lebih banyak regulasi keselamatan. Salah satu usulan yang ia sampaikan adalah kewajiban memberikan ganti rugi kepada korban apabila sistem mereka diretas oleh agen AI yang bertindak di luar kendali.

Ia menilai AI bisa menjadi alat sekaligus senjata, sehingga pengaturannya tidak bisa diabaikan. Smith juga menyoroti pentingnya perusahaan memiliki rem darurat atau yang dikenal sebagai kill switch. Mekanisme itu berfungsi untuk menghentikan sementara atau memperlambat AI ketika teknologi tersebut mulai berkembang di luar kendali.

Pernyataan senada datang dari CEO Microsoft Satya Nadella pada Sabtu (10/10) melalui cuitan di X. Menurut Nadella, sistem AI yang canggih perlu dilengkapi dengan mekanisme pembatasan, kendali yang independen, serta rem darurat.

"Kita tidak bisa memperlakukan superinteligensi sebagai sekumpulan sistem kotak hitam yang saling bertumpuk, lalu begitu saja menerima atau menolak rekomendasi, jawaban, dan tindakannya," tulis Nadella.

"Kita harus membangun sistem yang terkendali, yang perilakunya dapat kita amati, batas kemampuannya dapat kita uji, dan tindakannya selalu dapat kita kendalikan," tambahnya.

Pernyataan kedua petinggi Microsoft itu muncul di tengah maraknya sejumlah kasus perilaku menyimpang AI. Pekan lalu, Anthropic mengungkap bahwa ketika menguji salah satu versi model Claude, AI tersebut menghubungi polisi dan secara keliru mengklaim bahwa dirinya dapat membantu memecahkan kasus pembunuhan.

Sejumlah pakar, politikus, dan regulator pun semakin banyak menyerukan aturan yang lebih ketat untuk mengendalikan AI. Peringatan serupa datang dari Anthropic, Google DeepMind, dan OpenAI yang menilai laju perkembangan AI perlu diperlambat.