AI Agents Kini Bisa Proses Pesanan hingga Cek Stok, HashMicro Ingatkan Risiko Tanpa Pengawasan

Pemanfaatan AI agents di dunia bisnis semakin berkembang pesat, namun HashMicro mengingatkan bahwa teknologi ini memerlukan pengawasan yang memadai. VP Corporate Communications HashMicro, Syifa Fadiah, menegaskan bahwa kemampuan AI saat ini telah jauh melampaui fungsi dasar seperti merangkum percakapan atau menjawab pertanyaan pelanggan.

Menurut Syifa, AI agents kini dapat mengambil informasi pelanggan dan produk, memeriksa ketersediaan stok, hingga memproses seluruh pesanan penjualan. "Teknologi ini juga dapat mengambil informasi pelanggan dan produk, memeriksa ketersediaan stok, hingga memproses seluruh pesanan penjualan. Ini merupakan perubahan yang sangat mendasar," ujarnya seperti dikutip CNBC Indonesia pada akhir Oktober.

Perkembangan tersebut membuat tantangan perusahaan tidak lagi sekadar membangun AI agents. Syifa menilai hal terpenting adalah memastikan teknologi itu mampu bekerja secara andal dan tepercaya dengan data bisnis perusahaan.

Untuk itu, perusahaan perlu menetapkan peran, batas kewenangan, serta mekanisme pengamanan dan akuntabilitas yang jelas. AI agents juga harus memiliki batasan dalam mengambil keputusan, termasuk mengetahui kapan harus meminta persetujuan atau campur tangan manusia.

"Perusahaan tentu tidak ingin AI agents melakukan sesuatu di luar ruang lingkup bisnisnya atau mengakses data yang sebenarnya tidak boleh dilihat. Oleh karena itu, perusahaan juga perlu menerapkan AI agents secara bertahap," kata Syifa.

Dengan penerapan bertahap dan pengawasan yang ketat, perusahaan dapat memanfaatkan AI agents secara optimal tanpa mengorbankan keamanan data dan kendali atas proses bisnis.