Apple Peringatkan Agen AI Bisa Bertindak Sendiri, Picu Tuntutan Hukum hingga Rusak Reputasi

Apple mengeluarkan peringatan serius mengenai potensi bahaya agen kecerdasan buatan (AI) yang dapat bertindak di luar kendali. Dalam laporan keuangan tahunan perusahaan yang dirilis Selasa (3/11), Apple menyebut teknologi tersebut berisiko memicu tuntutan hukum hingga merusak reputasi perusahaan. Peringatan ini menjadi faktor risiko baru yang menunjukkan betapa disruptifnya agen AI, yang belakangan menjadi perhatian utama perusahaan-perusahaan di Silicon Valley.

Dalam dokumen tersebut, Apple menjelaskan bahwa agen AI dan teknologi serupa dapat mengambil tindakan secara otonom. Tindakan itu termasuk berinteraksi dengan sistem internal atau eksternal yang dalam beberapa kasus mungkin tidak diizinkan untuk diakses, mengeksekusi atau mengubah kode, mengirimkan komunikasi, hingga menyelesaikan transaksi. Perusahaan juga menyoroti kemungkinan agen AI berperilaku tidak disengaja atau tidak dapat diprediksi, seperti mengambil tindakan yang tidak diarahkan, diinstruksikan, atau diizinkan.

Pernyataan Apple ini didasari oleh sejumlah kasus serius akibat teknologi tersebut, misalnya peretasan dan penyalahgunaan akses seperti pada insiden Hugging Face. Insiden itu memicu tindakan dari para pembuat kebijakan di seluruh dunia mengenai batasan AI. Menanggapi risiko tersebut, Apple telah mengumumkan perubahan pada akses full disk pada Mac. Perusahaan menyatakan akan mengurangi risiko terkait tingkat akses tersebut untuk agen AI yang diinstal pada PC demi keamanan data dan perangkat pengguna.

Meski demikian, Apple menegaskan belum mengembangkan agen AI hingga saat ini. CEO John Ternus mengatakan perusahaan sebenarnya memiliki ruang nyata untuk memperluas kemampuan Siri, asisten virtual Apple. "Kami hanya ingin memastikan bahwa pengguna menyadari akses apa yang mereka berikan. Kami ingin memastikan hal ini dilakukan dengan cara yang melindungi keamanan dan privasi," kata Ternus.

Pada September lalu, Apple merilis Siri AI, asisten baru yang menggunakan penyimpanan data lokal iPhone untuk mengakses data seperti kalender dan email. Namun, Siri tidak dapat bekerja secara otonom untuk waktu yang lama seperti Dots atau Muse. Ternus menegaskan Apple tidak dapat mengakses data pribadi di perangkat pengguna dan menyebut hal ini sebagai faktor pembeda utama teknologi mereka. Tidak perlunya akses tingkat tinggi ke akun pengguna seperti email justru menjadi keunggulan Siri dari produk agen AI lainnya.

"Begitu banyak data pribadi Anda ada di iPhone Anda, baik itu kontak, komunikasi, data kesehatan, data keuangan, semuanya. Siri dapat mengakses data tersebut dan membantu Anda mengaksesnya dengan cara yang sangat aman dan pribadi, dan tidak ada orang lain yang dapat mengaksesnya," jelas Ternus.

Respons Apple terhadap AI ini juga mengindikasikan perubahan regulasi saat ini yang sama sekali tidak dapat diprediksi dan dapat menghabiskan banyak biaya untuk beradaptasi dengan undang-undang baru terkait agen AI. Selain itu, perusahaan menghadapi risiko yang ditimbulkan oleh masalah etika dan persepsi negatif konsumen terkait otomatisasi, kecerdasan buatan, kecerdasan super, termasuk ancaman yang dirasakan terhadap keselamatan atau bahaya atau komplikasi sosial lainnya.