Kecerdasan buatan (AI) kini bukan lagi sekadar teknologi baru di dunia keamanan siber. Dalam sistem keamanan modern seperti SIEM, AI agent sudah membantu memperkaya alert, mempercepat investigasi, membuat laporan otomatis, bahkan bertindak seperti asisten bagi analis keamanan. Namun, semakin canggih teknologinya, semakin besar juga potensi risikonya.
Dari sudut pandang Exabeam, setiap entitas di dalam lingkungan IT perusahaan harus dilindungi. Bukan hanya pengguna manusia atau perangkat, tetapi juga AI agent. Saat ini, AI agent bisa memiliki akses ke data sensitif dan menjalankan tugas penting, bahkan dalam beberapa kasus memiliki kemampuan yang lebih luas daripada pengguna biasa. Karena itu, AI agent harus terlihat (visible) dan diawasi seperti entitas lainnya.
Integrasi terbaru antara Exabeam dan Google Cloud AI menggabungkan log dari Google Gemini Enterprise serta perlindungan dari Model Armor ke dalam platform Exabeam New-Scale Security Operations. Dengan kombinasi ini, tim keamanan dapat mendeteksi penyalahgunaan AI, memvisualisasikan aktivitas agent, dan menyelidiki risiko terkait AI dengan cara yang sama seperti mereka menangani risiko dari pengguna, perangkat, atau cloud.
AI Agent sebagai Identitas Baru
Saat AI agent menjalankan tugas, mereka tidak bekerja sendirian. Mereka terhubung dengan pengguna manusia, data perusahaan, dan berbagai sistem lainnya. Artinya, AI agent bertindak seperti sebuah “identitas” yang memiliki hak akses, perilaku, dan potensi risiko.
Contohnya:
-
Seorang developer tanpa sengaja memasukkan API key rahasia ke dalam prompt Gemini.
-
Pegawai bagian keuangan mengunggah spreadsheet berisi data pribadi (PII) untuk diringkas oleh AI.
-
Orang dalam yang berniat jahat mencoba “menipu” AI dengan prompt injection untuk melewati sistem keamanan.
-
Mitra eksternal menggunakan AI untuk meminta topik atau data yang sebenarnya dibatasi.
Sebelumnya, aktivitas seperti ini sering kali tidak terpantau oleh sistem SIEM tradisional. Percakapan dengan AI dan sinyal keamanan dari model tidak termasuk dalam strategi deteksi. Sekarang, hal tersebut sudah bisa dimonitor.
Sinyal Penting dari Google
Google menyediakan dua sumber visibilitas utama:
-
Log Google Gemini Enterprise Agent
Log ini mencatat siapa yang menggunakan AI, kapan, dari mana, menggunakan alat apa, dan bagaimana pola penggunaannya berubah dari waktu ke waktu. -
Telemetry Google Cloud Model Armor
Ini adalah lapisan keamanan tambahan yang memantau prompt dan respons AI. Sistem ini bisa mendeteksi pelanggaran seperti kebocoran data sensitif atau percobaan serangan, lalu melakukan tindakan seperti menyensor (redact) atau memblokir.
Gabungan kedua data ini memberikan gambaran lengkap tentang “apa yang terjadi” dan “apakah itu aman”. Ketika data ini masuk ke Exabeam, sistem dapat melakukan pemodelan entitas, membuat deteksi, dashboard, dan investigasi berbasis AI.
Peran Exabeam dalam Memodelkan AI Agent
Exabeam New-Scale Analytics dirancang untuk mempelajari perilaku normal suatu entitas, lalu mendeteksi jika ada penyimpangan. Sekarang, AI agent juga diperlakukan sebagai entitas penuh.
Beberapa kemampuannya:
-
Pemodelan entitas: AI agent dipantau berdasarkan kategori prompt, jumlah token, alat yang digunakan, dan hasil respons.
-
Skor perilaku: Jika ada lonjakan prompt yang diblokir atau penggunaan alat baru yang tidak biasa, sistem akan memberi tanda peringatan.
-
Korelasi kontekstual: Pelanggaran dari Model Armor dikaitkan dengan pengguna, perangkat, lokasi, dan hak akses untuk membedakan antara kesalahan biasa dan ancaman nyata.
Dengan pendekatan ini, tim keamanan bisa membedakan mana eksperimen normal dan mana aktivitas berbahaya.
Dashboard dan Visualisasi
Tim keamanan tidak hanya butuh log mentah, tetapi juga tampilan visual yang mudah dipahami. Dengan bantuan Exabeam Nova Visualization Agent, analis dapat membuat dashboard hanya dengan perintah bahasa alami.
Beberapa contoh dashboard:
-
Penggunaan AI/LLM di Google Cloud.
-
Domain AI yang paling sering diakses pengguna.
-
Alert pelanggaran kebijakan terkait AI.
Ke depan, dashboard khusus AI agent juga akan menampilkan:
-
Agent dengan penggunaan token tertinggi.
-
Heatmap pelanggaran kebijakan per unit bisnis.
-
Tren kebocoran data sensitif.
-
Aktivitas aneh seperti agent marketing yang tiba-tiba menjalankan alat eksekusi kode.
Visualisasi ini membantu manajemen dan tim keamanan memahami bagaimana AI digunakan di perusahaan.
Deteksi dan Investigasi dengan Exabeam Nova
Kini, Exabeam bisa membuat deteksi berbasis kebijakan dan anomali khusus untuk AI agent, seperti:
-
Prompt yang berisi API key pribadi.
-
Data PII yang terdeteksi dalam input atau output.
-
Percobaan jailbreak berulang.
-
Lonjakan penggunaan tidak wajar di luar jam kerja.
-
Perubahan versi model yang tidak sesuai kebijakan.
Saat ada kejadian mencurigakan, Exabeam Nova akan merangkum semuanya menjadi narasi investigasi yang mudah dipahami. Misalnya, jika terjadi lonjakan PII pada agent keuangan, Nova dapat mengidentifikasi pengguna terkait, perangkat, waktu kejadian, serta menyarankan tindakan seperti mengkarantina agent atau memperketat kebijakan Model Armor.
Hal ini menghemat waktu investigasi dan mempercepat respons.
Mengukur Keberhasilan
Perusahaan dapat mengukur manfaat integrasi ini melalui:
-
Penurunan pelanggaran kebijakan yang berhasil lolos.
-
Waktu deteksi dan investigasi yang lebih cepat.
-
Waktu perbaikan yang lebih singkat.
-
Optimalisasi penggunaan token AI.
Dengan metrik ini, pengawasan AI dapat dibuktikan nilainya secara bisnis.
Kesimpulan
AI agent membawa produktivitas luar biasa, tetapi juga risiko baru. Dengan menggabungkan Google Gemini Enterprise, Model Armor, dan Exabeam New-Scale Security Operations Platform, perusahaan dapat membuat aktivitas AI yang sebelumnya tidak terlihat menjadi transparan, terpantau, dan terlindungi.
AI bukan lagi sekadar alat bantu—ia adalah “insider” baru yang harus diawasi dengan serius.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan exabeam indonesia, merupakan bagian dari PT. iLogo Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
Hubungi kami sekarang atau kunjungi exabeam.ilogoindonesia.com untuk informasi lebih lanjut!