CEO Microsoft Desak Standar Baru AI, Sebut Sistem Canggih Wajib Punya Rem Darurat

CEO Microsoft Satya Nadella menyoroti pesatnya perkembangan teknologi kecerdasan buatan (AI) yang menurutnya harus diimbangi dengan mekanisme pembatasan dan rem darurat. Pendapat itu ia sampaikan melalui cuitan di akun X pribadinya, Sabtu (10/10), sebagaimana dikutip dari CNBC.

Dalam cuitannya, Nadella menilai sistem AI tercanggih perlu dilengkapi mekanisme pembatasan, kendali independen, serta rem darurat. Fitur tersebut, kata dia, memungkinkan pihak berwenang menghentikan sementara atau mematikan model AI saat tengah menjalankan tugas.

"Kita perlu melengkapi model yang perilakunya tidak selalu dapat diprediksi dengan desain sistem yang kuat dan terstruktur, kendali manusia, serta prosedur operasional yang dapat diandalkan. Kita juga perlu menetapkan standar industri, jika standar yang ada saat ini belum memadai," ujar Nadella.

Ia menambahkan, memperlakukan model AI tercanggih, baik yang bersifat tertutup maupun yang bobot modelnya terbuka (open-weight), seperti potensi ancaman dari orang dalam, merupakan salah satu cara membangun sistem semacam itu.

Lebih lanjut, Nadella menekankan sistem AI harus dirancang berdasarkan prinsip keterpantauan, yakni kemampuan memantau dan memahami tindakan serta proses yang dijalankan suatu sistem. Prinsip ini mencakup penggunaan beragam model AI, pencatatan aktivitas model yang dapat dibaca manusia, pengujian sistem berkelanjutan, kendali independen, kemampuan audit, mekanisme pembatasan, hingga pelaporan insiden.

"Sistem superintelligence yang paling terpercaya bukanlah sistem yang menggunakan model yang paling kita percayai. Melainkan sistem yang memungkinkan kita untuk sesedikit mungkin memercayai model tersebut," ungkapnya.

Pernyataan Nadella muncul di tengah peringatan sejumlah eksekutif dan peneliti teknologi terkemuka seperti Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, serta CEO SpaceX Elon Musk yang mendesak perlambatan laju perkembangan AI. Mereka menyoroti protokol keselamatan AI yang dinilai belum memadai dan perkembangan teknologi yang dianggap terlalu cepat.

Bulan lalu, seorang peneliti AI dari Anthropic mengundurkan diri dan menuduh perusahaan tersebut serta OpenAI mempertaruhkan nyawa manusia melalui pengembangan AI. Pada hari yang sama, seorang pemimpin tim alignment AI di Anthropic menyatakan ada kemungkinan lebih dari 10 persen teknologi tersebut dapat membunuh seluruh manusia.

Di sisi lain, Presiden Amerika Serikat Donald Trump berulang kali menepis kekhawatiran soal risiko AI yang dapat memusnahkan umat manusia. Ia menekankan industri AI di AS harus tetap lebih unggul dari China. Trump bahkan baru-baru ini memperkenalkan gugus tugas bernama "AI Force" yang dipimpin Direktur Intelijen Nasional AS Jay Clayton untuk mendukung perkembangan industri AI sekaligus menindak pihak yang menyalahgunakan teknologi tersebut.