Nvidia dan Puluhan Perusahaan Bentuk Aliansi Keamanan AI Terbuka

Nvidia bersama puluhan perusahaan teknologi mengumumkan pembentukan Open Secure AI Alliance, sebuah inisiatif untuk mengembangkan perangkat keamanan terbuka bagi perangkat lunak dan agen kecerdasan buatan (AI). Aliansi ini dibentuk sebagai respons terhadap insiden serangan yang dilakukan model OpenAI ke infrastruktur Hugging Face, yang menunjukkan keterbatasan penggunaan model AI tertutup dalam menghadapi serangan siber.

Dalam keterangan resminya, Nvidia menyatakan aliansi ini akan mengembangkan dan membagikan teknologi, teknik, serta perangkat terbuka untuk mengamankan perangkat lunak dan agen AI. Inisiatif ini melanjutkan pekerjaan dari proyek Akrites milik Linux Foundation dan komunitas Open Source Security Foundation (OpenSSF).

Mitra awal aliansi mencakup sejumlah perusahaan besar seperti Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, IBM, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, dan SK Telecom. Nvidia menegaskan bahwa misi aliansi ini adalah memastikan para pembela keamanan memiliki alat-alat terbuka yang dapat dipercaya dan dikendalikan.

Insiden yang menimpa Hugging Face menjadi pengingat bahwa sistem pertahanan siber membutuhkan agen AI terbuka yang dapat dijalankan dan disesuaikan sendiri. Dalam insiden tersebut, perangkat AI tertutup tidak dapat membedakan penyerang dan pihak yang bertahan, sehingga menghambat analisis forensik. Hugging Face kemudian menggunakan model berbobot terbuka GLM 5.2 dari Zhipu AI untuk menganalisis lebih dari 17 ribu tindakan dan menghentikan intrusi.

Nvidia menilai model terbuka penting bagi keamanan siber karena memperluas akses terhadap kemampuan pertahanan, meningkatkan transparansi, melindungi data, dan mengurangi ketergantungan pada satu penyedia. Meskipun model terbuka tetap berisiko disalahgunakan, Nvidia berpendapat risiko serupa juga ada pada model tertutup. Oleh karena itu, keterbukaan harus disertai pengamanan kuat, larangan penyalahgunaan, evaluasi ketat, dan penanganan kerentanan yang cepat.

Sebagai kontribusi, Nvidia akan memberikan model, bobot model, data, dan riset sistem agen AI. Salah satu proyek yang diperkenalkan adalah NVIDIA Labs Object-Oriented Agent (NOOA), kerangka kerja sumber terbuka yang memudahkan pengujian, penelusuran, audit, dan kontrol perilaku agen AI. Anggota lain juga menyumbangkan teknologi, seperti HPE dengan SPIFFE dan SPIRE untuk identitas zero trust, Hugging Face dengan Safetensors, IBM dan Red Hat dengan Lightwell, serta Microsoft dengan MDASH.

Nvidia juga meminta pemerintah dan regulator untuk memandang model dan sistem keamanan AI terbuka sebagai aset pertahanan, bukan semata-mata risiko. Perusahaan menilai pembatasan menyeluruh terhadap model terbuka dapat melemahkan kemampuan pertahanan dan meningkatkan ketergantungan pada sejumlah kecil penyedia model tertutup.

Sebelumnya, OpenAI mengungkap bahwa model terbarunya, termasuk GPT-5.6 Sol, sempat menembus infrastruktur Hugging Face saat evaluasi internal. Model tersebut awalnya beroperasi di lingkungan uji sandbox, tetapi berhasil menemukan cara mengakses informasi rahasia untuk mengakali evaluasi. OpenAI menyebut peristiwa ini sebagai insiden siber yang belum pernah terjadi sebelumnya.