Tanpa Internet pun Tetap Jalan, Meta Rilis Muse Glimmer untuk PC dan Mac

Meta resmi memperkenalkan Muse Glimmer, model kecerdasan buatan (AI) terbaru yang dirancang untuk beroperasi secara lokal di perangkat PC atau laptop tanpa memerlukan koneksi internet. Model dengan 30 miliar parameter ini diklaim mampu berjalan di komputer Mac maupun PC yang menggunakan GPU kelas konsumen, menjadikannya solusi bagi pengembang yang ingin memanfaatkan AI tanpa bergantung pada layanan cloud.

Dalam pengumuman resminya pada Senin (10/8), Meta menyatakan bahwa bobot model Muse Glimmer telah dirilis sebagai perangkat lunak sumber terbuka di bawah lisensi Apache 2.0 yang fleksibel. Artinya, para pengembang bebas menggunakan, memodifikasi, dan membangun produk berbasis model ini secara gratis. Bobot model tersebut dapat diunduh langsung melalui platform Hugging Face.

Muse Glimmer dirancang untuk bekerja layaknya asisten pribadi atau agen AI. Model ini mampu menerima satu tugas besar, kemudian memecahnya menjadi langkah-langkah kecil dan menggunakan aplikasi pendukung untuk menyelesaikan tugas tersebut hingga tuntas. Meta membayangkan agen lokal ini dapat mengelola jadwal, menyusun draf pesan, merapikan berkas, hingga menulis dan memperbaiki kode pemrograman.

Selain itu, model ini juga memiliki kemampuan memproses gambar bersamaan dengan teks, menjalankan tugas bertingkat, serta mencoba memulihkan proses secara mandiri ketika terjadi kendala pada sistem. Meta menyebutkan bahwa Muse Glimmer dilatih menggunakan data dari lebih dari 100 bahasa, menjadikannya model yang cukup serbaguna untuk berbagai kebutuhan pengembangan.

Untuk dapat menjalankan seluruh kemampuan tersebut di satu perangkat, Meta melakukan proses downsizing. Pada tingkat presisi penuh, Muse Glimmer membutuhkan memori lebih dari 55 GB. Namun, Meta berhasil memadatkan ukuran model hingga di bawah 20 GB, sehingga menyisakan ruang untuk memori kerja dan sistem pemrosesan gambar.

Meski demikian, klaim "dapat dijalankan di laptop" tetap memerlukan spesifikasi teknis yang tinggi. Meta merancang versi padat ini agar muat dalam alokasi memori 24 GB hingga 32 GB, dan telah mengujinya pada perangkat keras seperti prosesor M4 Max dan M5 Max milik Apple, serta GPU RTX 5090 dari Nvidia.

Meta menyebut Muse Glimmer sebagai open source, meskipun istilah open weight sebenarnya lebih tepat. Kalkulasi yang dipelajari model selama pelatihan dibuka untuk umum, tetapi Meta tidak membeberkan seluruh data dan infrastruktur yang digunakan untuk membuatnya. Meski demikian, lisensi Apache 2.0 memberikan kebebasan yang jauh lebih besar bagi pengembang dibandingkan model tertutup yang hanya bisa diakses melalui aplikasi resmi atau API berbayar.