Adopsi kecerdasan buatan atau AI di lingkungan bisnis memasuki tahap baru ketika perusahaan mulai mempertimbangkan penggunaan agen AI yang dapat menjalankan rangkaian tugas secara mandiri. Perubahan ini membuka peluang otomatisasi operasional, tetapi juga meningkatkan kebutuhan akan infrastruktur, keamanan, dan tata kelola yang lebih ketat.
Berbeda dari chatbot generatif yang merespons perintah pengguna, agen AI dapat mengakses sistem, menjalankan alur kerja, dan mengambil tindakan sesuai kewenangan yang diberikan. Karena itu, perusahaan perlu menetapkan batas operasional sebelum meningkatkan tingkat otonomi teknologi tersebut.
Peralihan Menuju Penciptaan Nilai
Chief Technology Officer Akamai Cloud Computing, Jay Jenkins, mengatakan perusahaan mulai bergeser dari pemanfaatan AI untuk efisiensi menuju penciptaan nilai bisnis baru. Pemanfaatannya mencakup pengembangan produk, pengalaman pelanggan, hingga peluang pendapatan.
Fokus perusahaan juga mulai bergerak dari riset, pengembangan, dan pelatihan model menuju tahap inference. Pada tahap ini, model AI yang telah dilatih memproses masukan dan menghasilkan keluaran untuk digunakan dalam operasional.
Menurut Jay, 63 persen organisasi di Indonesia mulai mempertimbangkan kebutuhan infrastruktur yang dirancang untuk mendukung AI. Infrastruktur tersebut meliputi GPU, CPU, memori, dan kemampuan jaringan untuk menopang beban kerja AI.
Di kawasan ASEAN, adopsi AI generatif terus berkembang, tetapi penerapannya di lingkungan produksi masih terbatas. Baru 16 persen perusahaan yang membawa aplikasi AI generatif ke tahap produksi, sedangkan 84 persen lainnya masih berada dalam pengujian dan proof of concept.
Lima Tantangan Utama
Penerapan AI di perusahaan menghadapi sejumlah hambatan yang saling berkaitan. Tantangan tersebut tidak hanya menyangkut kapasitas teknologi, tetapi juga kepatuhan dan risiko operasional.
Keterbatasan komputasi. Ketersediaan GPU dan kapasitas pemrosesan menjadi faktor penting untuk memenuhi kebutuhan beban kerja AI.
Latensi jaringan. Infrastruktur AI yang terpusat dapat membuat pengguna yang jauh dari pusat komputasi mengalami waktu respons lebih lambat.
Kedaulatan data. Pemrosesan data sensitif di berbagai lokasi menimbulkan kebutuhan kepatuhan terhadap regulasi perlindungan data, termasuk UU Pelindungan Data Pribadi di Indonesia.
Keamanan dan tata kelola. Akses agen AI ke sistem internal meningkatkan risiko manipulasi prompt, akses tanpa izin, serta tindakan yang menyimpang dari prosedur.
Biaya dan ketergantungan vendor. Perusahaan perlu menghitung biaya GPU, inference, pengiriman data, serta risiko ketergantungan pada model dan API dari satu penyedia.
Kondisi geografis Indonesia sebagai negara kepulauan membuat isu latensi menjadi relevan. Konektivitas yang tidak merata dapat menghambat pemrosesan AI secara real-time, terutama ketika beban kerja tersebar di banyak wilayah.
Agen AI dan Pengawasan Bertahap
Sektor finansial dinilai berpotensi memperoleh manfaat besar dari penggunaan agen AI. Perusahaan e-commerce dan ekosistem super app juga dapat memanfaatkan teknologi ini untuk mengotomatisasi sebagian alur kerja pelanggan.
Namun, Jay menekankan bahwa perusahaan tidak sebaiknya langsung memberikan seluruh kewenangan kepada agen AI. Organisasi perlu lebih dulu menetapkan alur kerja, batas tindakan, dan skenario pengecualian yang mungkin terjadi.
Pada tahap awal, mekanisme human-in-the-loop dapat digunakan agar manusia tetap memeriksa serta memvalidasi keputusan AI. Pendekatan ini serupa dengan proses maker-checker yang umum digunakan di industri keuangan.
“Salah satu contohnya adalah proses maker-checker yang umum digunakan di industri keuangan. Dalam mekanisme ini, AI terlebih dahulu mengambil keputusan, kemudian manusia memeriksa dan memvalidasi keputusan tersebut,” jelas Jay.
Akamai juga menawarkan layanan serverless inference dan dedicated inference untuk kebutuhan perusahaan yang berbeda. Selain itu, Akamai Agent Sandbox dirancang untuk membatasi akses agen AI melalui lingkungan eksekusi kode yang terisolasi.
Pengawasan, kemampuan audit, dan batasan operasional tetap diperlukan meski tingkat otomatisasi meningkat. Langkah tersebut membantu perusahaan melacak penyebab kesalahan dan membatasi dampak ketika agen AI melakukan tindakan yang tidak diinginkan.
