Exabeam baru saja mengumumkan tahap pertama dari inisiatif terbaru mereka yang bernama Agent Behavior Analytics, yang dikembangkan bersama Google Cloud. Pengumuman ini menandai langkah penting Exabeam ke arah baru. Jika sebelumnya Exabeam sudah menggunakan AI agent untuk membantu keamanan siber melalui Exabeam Nova, kini mereka memperluas fokusnya: mengamankan AI agent yang digunakan oleh pelanggan mereka sendiri.
Dengan kata lain, bukan hanya manusia yang perlu diawasi dari sisi keamanan, tapi juga AI agent yang semakin banyak dipakai di lingkungan kerja.
Masalah Utama: AI Agent sebagai “Orang Dalam”
AI agent kini sudah resmi menjadi bagian dari dunia kerja. Mulai dari copilot bawaan aplikasi, hingga asisten AI yang dibuat khusus oleh perusahaan, semuanya kini:
-
Login ke sistem perusahaan
-
Mengakses data sensitif
-
Mengambil keputusan secara otomatis
Masalahnya, AI agent ini bisa dianggap sebagai “karyawan digital”. Mereka bekerja seperti manusia, tetapi tidak memiliki etika, pemahaman konteks, atau rasa tanggung jawab seperti manusia. Inilah yang membuat AI agent menjadi risiko keamanan baru, terutama sebagai ancaman orang dalam (insider threat).
Jika dulu insider threat hanya berasal dari karyawan manusia, sekarang ancamannya bertambah dengan kehadiran AI agent.
Jenis Ancaman Baru dari AI Agent
AI agent menimbulkan beberapa jenis risiko yang sebelumnya tidak ada, antara lain:
-
AI agent yang bermasalah (malfunctioning)
Agen bisa bertindak tidak sesuai harapan karena bug, error, atau konfigurasi yang salah. -
AI agent yang salah arah (misaligned)
Agen menjalankan perintah atau prompt yang keliru, sehingga melanggar aturan privasi, kepatuhan, atau kebijakan perusahaan. -
AI agent yang dibajak atau di-jailbreak
Agen bisa dimanipulasi oleh pihak tidak bertanggung jawab dan digunakan sebagai alat untuk menyerang sistem internal.
Menurut riset Exabeam:
-
93% organisasi sudah mengalami atau memperkirakan akan mengalami peningkatan insider threat akibat AI
-
64% organisasi menganggap ancaman dari orang dalam (manusia dan AI) lebih berbahaya dibanding serangan dari luar
Ini menunjukkan bahwa risikonya tumbuh lebih cepat dari yang disadari oleh banyak pimpinan perusahaan.
Tantangan Saat Ini: Kurangnya Visibilitas
Sebagian besar tools keamanan yang ada saat ini belum dirancang untuk aktivitas AI agent.
-
SIEM dan XDR tradisional kesulitan memahami pola kerja AI
-
Sistem belum bisa membedakan mana aktivitas AI yang normal dan mana yang berbahaya
-
Tidak ada baseline perilaku AI agent yang jelas
Akibatnya, muncul blind spot keamanan, di mana AI agent bisa bertindak di luar tugasnya tanpa terdeteksi.
Solusi Exabeam: Menutup Celah Keamanan
Exabeam membawa pendekatan baru dengan memperluas behavioral analytics yang selama ini digunakan untuk manusia, agar bisa juga diterapkan pada AI agent.
Melalui kerja sama dengan Google Cloud, platform New-Scale Security Operations Platform milik Exabeam kini dapat mengumpulkan data (telemetri) dari:
-
Google Agentspace
-
Google Model Armor
-
AI agent yang dibangun menggunakan Vertex AI atau Agent Builder
Dengan data ini, Exabeam dapat mempelajari perilaku normal manusia dan AI agent secara bersamaan, lalu mendeteksi kejanggalan secara real-time.
Manfaat Nyata bagi Tim Keamanan
Melalui Exabeam Nova, yang merupakan sistem AI multi-agent milik Exabeam, tim keamanan mendapatkan:
-
Visibilitas penuh terhadap perilaku pengguna manusia dan AI agent
-
Penilaian risiko (risk scoring) untuk setiap aktivitas
-
Deteksi anomali real-time, sehingga bisa membedakan otomatisasi normal dan aktivitas berbahaya
-
Investigasi dan respons yang lebih cepat dan percaya diri saat terjadi insiden
Dengan ini, tim SOC tidak lagi “buta” terhadap aktivitas AI di lingkungan mereka.
Membangun Masa Depan Keamanan AI Agent
Pengumuman ini bukan akhir, melainkan awal perjalanan Exabeam dalam mengamankan AI agent. Ke depan, Exabeam berencana untuk:
-
Menambahkan dukungan untuk berbagai framework AI agent lainnya di pasar
-
Mengembangkan model data dan antarmuka pengguna, agar hubungan antara manusia dan AI agent bisa terlihat jelas
-
Meningkatkan kemampuan Exabeam Nova, agar mampu menjelaskan perilaku AI yang semakin kompleks
Penutup
AI agent sedang mengubah cara kita bekerja. Mereka membantu meningkatkan efisiensi, otomatisasi, dan pengambilan keputusan. Namun tanpa pengawasan yang tepat, mereka juga bisa menjadi ancaman serius bagi keamanan perusahaan.
Exabeam hadir sebagai pelopor dalam memastikan bahwa inovasi AI dapat digunakan secara aman, transparan, dan bertanggung jawab. Dengan visibilitas dan kontrol yang tepat, perusahaan dapat menyambut masa depan kerja berbasis AI tanpa mengorbankan keamanan.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan exabeam indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
Hubungi kami sekarang atau kunjungi exabeam.ilogoindonesia.com untuk informasi lebih lanjut!