Selama bertahun-tahun, tim keamanan siber berfokus pada perilaku manusia sebagai sumber utama risiko insider threat. Namun, transformasi digital dan adopsi AI telah menciptakan jenis identitas baru di lingkungan enterprise: AI Agent.
Saat ini organisasi mulai memanfaatkan AI Agent untuk:
-
Menjalankan workflow otomatis.
-
Mengakses aplikasi bisnis.
-
Mengelola data perusahaan.
-
Membuat keputusan operasional.
-
Berinteraksi dengan sistem lain melalui API.
Masalahnya, AI Agent sering kali diberikan hak akses yang setara dengan pengguna manusia. Jika terjadi kesalahan konfigurasi, penyalahgunaan, kompromi, atau perilaku yang tidak sesuai tujuan awal, dampaknya dapat sama berbahayanya dengan insider threat tradisional. Untuk menjawab tantangan tersebut, Exabeam mengembangkan Agent Behavior Analytics (ABA), sebuah pendekatan yang dirancang khusus untuk memonitor dan menganalisis perilaku AI Agent dalam lingkungan enterprise.
Apa Itu Agent Behavior Analytics?
Agent Behavior Analytics (ABA) adalah kemampuan keamanan yang memperluas konsep User and Entity Behavior Analytics (UEBA) ke dunia AI Agent dan identitas non-manusia (Non-Human Identities/NHI).
Alih-alih hanya memonitor pengguna manusia, ABA juga mempelajari:
-
Aktivitas AI Agent.
-
Interaksi antar agent.
-
Penggunaan data.
-
Pemanggilan API.
-
Workflow otomatis.
-
Kepatuhan terhadap guardrail keamanan.
Dengan membangun baseline perilaku normal, sistem dapat mendeteksi aktivitas yang menyimpang dari pola yang diharapkan dan mengidentifikasi risiko lebih cepat.
Mengapa AI Agent Menjadi Tantangan Keamanan Baru?
Perusahaan kini memasuki era yang sering disebut sebagai Agentic Enterprise, yaitu lingkungan kerja di mana manusia dan AI Agent bekerja bersama dalam proses bisnis yang sama.
Evolusi Identitas Enterprise
| Era | Identitas yang Dominan |
|---|---|
| Tradisional | Pengguna manusia |
| Cloud Era | Human + Service Account |
| Automation Era | Human + Bot |
| Agentic Enterprise | Human + AI Agent + Multi-Agent System |
Dalam model ini, AI Agent dapat:
-
Mengakses dokumen internal.
-
Membaca email.
-
Memproses data pelanggan.
-
Mengambil keputusan otomatis.
-
Mengontrol workflow bisnis.
Karena memiliki tingkat otorisasi yang tinggi, AI Agent harus diperlakukan sebagai entitas yang perlu diawasi secara aktif.
Risiko yang Sulit Dideteksi oleh Sistem Tradisional
Banyak solusi keamanan konvensional dirancang untuk mendeteksi:
-
Malware.
-
Signature serangan.
-
IOC (Indicators of Compromise).
-
Aktivitas yang jelas-jelas mencurigakan.
Namun AI Agent sering menghasilkan aktivitas yang terlihat sah.
Sebagai contoh:
-
Mengakses aplikasi resmi.
-
Menggunakan kredensial yang valid.
-
Melakukan query yang diizinkan.
-
Beroperasi dalam jam kerja normal.
Sekilas tidak ada yang mencurigakan.
Tetapi bisa saja:
-
Mengakses data dalam jumlah tidak biasa.
-
Menjalankan workflow yang tidak pernah dilakukan sebelumnya.
-
Bertindak di luar batasan yang telah ditetapkan.
Jenis risiko seperti ini sering kali tidak terdeteksi oleh sistem keamanan berbasis rule.
Cara Kerja Agent Behavior Analytics
ABA berfokus pada perilaku, bukan sekadar event individual.
Parameter yang Dipantau
| Area Analisis | Contoh Aktivitas |
|---|---|
| Agent Actions | Aktivitas baru atau tidak biasa |
| API Usage | Pola pemanggilan API |
| Data Access | Penggunaan data sensitif |
| Workflow Activity | Perubahan proses otomatis |
| Guardrail Compliance | Pelanggaran kebijakan |
| Cross-Agent Interaction | Komunikasi antar agent |
Model analitik kemudian mengevaluasi apakah perilaku tersebut masih berada dalam batas normal atau menunjukkan indikasi penyalahgunaan dan kompromi.
Kemampuan Utama Agent Behavior Analytics
1. Behavioral Baselining
Sistem membangun pemahaman mengenai pola operasi normal AI Agent.
Manfaatnya:
-
Mengetahui perilaku standar.
-
Mengidentifikasi anomali.
-
Mengurangi false positive.
2. Anomaly Detection
Ketika agent melakukan tindakan yang berbeda dari kebiasaannya, sistem dapat memberikan peringatan.
Contohnya:
-
Akses data baru.
-
Aktivitas pada waktu yang tidak biasa.
-
Penggunaan tool yang belum pernah digunakan sebelumnya.
3. Cross-Agent Correlation
Dalam lingkungan multi-agent, ancaman tidak selalu muncul dari satu agent saja.
ABA mampu menganalisis:
-
Interaksi antar agent.
-
Workflow lintas sistem.
-
Pola kolaborasi yang tidak normal.
Fitur ini menjadi semakin penting karena banyak organisasi mulai mengadopsi arsitektur multi-agent AI.
Mendeteksi Ancaman yang Berkaitan dengan AI Agent
Contoh Risiko yang Dapat Dideteksi
| Risiko | Dampak Potensial |
|---|---|
| Compromised Agent | Penyalahgunaan akses |
| Data Exfiltration | Kebocoran data |
| Prompt Manipulation | Perubahan perilaku agent |
| Unauthorized Actions | Aktivitas di luar kebijakan |
| Excessive Privilege Usage | Penyalahgunaan hak akses |
| Multi-Agent Abuse | Risiko terkoordinasi |
Dengan pendekatan behavioral analytics, organisasi dapat mendeteksi ancaman bahkan ketika tidak ada signature serangan yang dikenal sebelumnya.
Investigasi yang Terhubung dengan Aktivitas Manusia
Salah satu tantangan terbesar dalam investigasi keamanan adalah memahami hubungan antara pengguna manusia dan AI Agent.
Exabeam mengintegrasikan aktivitas agent ke dalam timeline investigasi yang sama dengan aktivitas pengguna manusia.
Hal ini memungkinkan analis untuk:
-
Melihat siapa yang memerintahkan agent.
-
Memahami konteks tindakan agent.
-
Menghubungkan aktivitas manusia dan otomatisasi.
-
Mengidentifikasi rantai serangan secara utuh.
Pendekatan ini membantu SOC memperoleh gambaran lengkap tanpa harus berpindah antar platform atau membangun korelasi secara manual.
Dukungan untuk Ekosistem AI Modern
Perkembangan terbaru menunjukkan bahwa Agent Behavior Analytics terus diperluas untuk mendukung berbagai platform AI enterprise.
Ekosistem yang Didukung
| Platform | Fungsi |
|---|---|
| Google Gemini Enterprise | Monitoring perilaku agent |
| Google Agent Development Kit | Analisis agent kustom |
| Google Agent Gateway | Monitoring multi-agent |
| OpenAI ChatGPT Enterprise | Visibilitas aktivitas AI |
| Microsoft Copilot | Analisis penggunaan AI |
Dukungan ini membantu organisasi mendapatkan visibilitas yang lebih luas terhadap aktivitas AI yang semakin tersebar di berbagai platform bisnis.
Relevansi untuk Organisasi di Indonesia
Agent Behavior Analytics sangat relevan bagi organisasi yang mulai mengadopsi:
-
AI Copilot.
-
Generative AI.
-
Workflow Automation.
-
Digital Workforce.
-
Autonomous Agent.
-
Agentic AI Platform.
Sektor yang Berpotensi Mendapatkan Manfaat
| Industri | Tantangan Utama |
|---|---|
| Perbankan | Fraud dan akses data |
| Telekomunikasi | Skala identitas yang besar |
| Pemerintahan | Perlindungan data publik |
| Energi | Sistem kritikal |
| Kesehatan | Data pasien |
| Manufaktur | Integrasi IT dan OT |
Seiring meningkatnya jumlah AI Agent yang beroperasi di lingkungan perusahaan, kebutuhan untuk memahami perilaku mereka akan menjadi sama pentingnya dengan memantau perilaku pengguna manusia.
Kesimpulan
Munculnya AI Agent mengubah lanskap keamanan siber secara fundamental. Organisasi kini tidak hanya perlu mengawasi karyawan dan akun pengguna, tetapi juga tenaga kerja digital yang menjalankan tugas secara otonom setiap hari.
Agent Behavior Analytics menghadirkan pendekatan baru dengan menerapkan behavioral analytics pada AI Agent, memungkinkan organisasi memahami pola operasi normal, mendeteksi penyimpangan, mengidentifikasi ancaman, serta menghubungkan aktivitas agent dengan konteks manusia yang relevan.
Dalam era Agentic Enterprise, keamanan tidak lagi cukup hanya mengetahui siapa yang mengakses sistem. Organisasi juga harus memahami bagaimana manusia dan AI Agent berperilaku. Kemampuan tersebut akan menjadi fondasi penting untuk menjaga kepercayaan, tata kelola, dan keamanan operasional di masa depan.
Exabeam Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi Exabeam.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
