Baru 16 persen perusahaan di ASEAN yang membawa aplikasi AI generatif ke tahap produksi. Sebanyak 84 persen lainnya masih menguji teknologi tersebut atau menjalankan proof of concept.
Angka ini menunjukkan penggunaan AI di perusahaan belum sepenuhnya bergeser dari tahap eksperimen ke operasi harian. Namun, perhatian terhadap agen AI terus meningkat karena teknologi ini dapat menjalankan rangkaian tugas dengan otonomi lebih tinggi.
Agen AI tidak hanya menjawab pertanyaan atau membuat konten seperti chatbot konvensional. Sistem ini dapat mengakses sistem perusahaan, mengikuti alur kerja, serta mengambil tindakan sesuai kewenangan yang diberikan.
Potensi efisiensinya cukup besar, terutama untuk pekerjaan yang selama ini memerlukan banyak campur tangan manusia. Di sisi lain, akses yang lebih luas membuat perusahaan perlu menyiapkan kontrol yang jauh lebih ketat.
Risiko Ketika Agen Mendapat Akses Sistem
Risiko dapat muncul ketika agen AI memperoleh akses ke sistem internal dan mampu bertindak mandiri. Perilaku yang tidak semestinya, akses tanpa izin, hingga masukan berbahaya dapat memperbesar dampak insiden keamanan.
Manipulasi prompt atau prompt injection menjadi salah satu ancaman yang perlu diperhitungkan. Karena itu, perusahaan perlu memastikan tindakan agen AI dapat dibatasi, dipantau, dan ditelusuri saat terjadi masalah.
Chief Technology Officer Akamai Cloud Computing Jay Jenkins mengatakan investasi pada kepercayaan dan akuntabilitas meningkat pesat. “Karena itu, kami melihat peningkatan investasi yang sangat besar dalam aspek kepercayaan dan akuntabilitas,” kata Jay.
Lima Area Yang Perlu Disiapkan
Kapasitas komputasi menjadi perhatian utama karena beban kerja AI membutuhkan GPU dan kemampuan pemrosesan yang berbeda dari sistem digital biasa. Ketersediaan sumber daya tersebut dapat menentukan kelancaran penerapan AI.
Latensi juga menjadi tantangan, terutama karena banyak infrastruktur AI masih dibangun secara terpusat. Kondisi Indonesia sebagai negara kepulauan membuat penyediaan konektivitas berlatensi rendah secara konsisten lebih rumit.
Kedaulatan data dan kepatuhan regulasi perlu diperhatikan saat agen AI memproses informasi sensitif di berbagai lokasi. Perpindahan data lintas negara dapat memunculkan kewajiban kepatuhan, termasuk terhadap Undang-Undang Pelindungan Data Pribadi.
Kesenjangan keamanan dan tata kelola perlu ditutup karena agen dapat mengakses sistem serta melakukan tindakan sendiri. Pengawasan perlu disusun sejak awal, bukan setelah sistem mendapat akses yang lebih luas.
Biaya infrastruktur dan ketergantungan pada satu penyedia layanan juga perlu dihitung. Pengeluaran dapat meliputi penyewaan GPU, inference, memori, serta pengiriman data.
Di Indonesia, 63 persen organisasi telah mempertimbangkan kebutuhan infrastruktur yang dirancang untuk AI sebagai faktor dalam memilih teknologi. Kebutuhan itu mencakup GPU, CPU, memori, dan jaringan yang andal untuk mendukung penggunaan model secara konsisten.
Perusahaan dapat memakai infrastruktur terdistribusi agar pemrosesan real-time tidak selalu bergantung pada pusat komputasi yang jauh dari pengguna. Pilihan serverless inference dapat digunakan ketika kebutuhan kapasitas belum dapat diperkirakan dengan pasti.
Pendekatan dedicated inference lebih sesuai untuk organisasi yang sudah memahami kebutuhan kapasitas dan dapat mengelola infrastruktur khusus. Penggunaan model open weight serta endpoint yang kompatibel dengan OpenAI API juga dapat memberi ruang fleksibilitas saat integrasi atau perpindahan model diperlukan.
Otonomi Ditingkatkan Secara Bertahap
Jay menyarankan perusahaan memulai dari alur kerja yang jelas dan tidak langsung menyerahkan seluruh tugas kepada agen AI. Batas tugas perlu ditetapkan sebelum otonomi sistem dinaikkan.
Pada tahap awal, mekanisme human-in-the-loop dapat digunakan agar keputusan AI tetap diperiksa dan divalidasi manusia. Pola tersebut serupa dengan proses maker-checker yang lazim dipakai di industri keuangan.
Model retrieval-augmented generation atau RAG dapat membantu memverifikasi informasi dan mengurangi halusinasi AI. Perusahaan juga perlu memahami alur kerja normal serta berbagai skenario pengecualian sebelum memperluas peran agen AI.
Setelah batas operasional teruji, otonomi dapat ditingkatkan tanpa menghilangkan audit dan kontrol keamanan. Pendekatan bertahap ini membuat pemanfaatan agen AI tetap sejalan dengan kebutuhan bisnis dan tingkat risiko perusahaan.
