Risiko Baru Agentic AI: Kebocoran Data Chatbot

Penggunaan kecerdasan buatan (AI) berbasis agen otonom di berbagai sistem perusahaan memicu pergeseran mendasar pada lanskap risiko keamanan siber.

Laporan State of the Internet (SOTI) terbaru dari Akamai berjudul The Agentic Frontier: Speed, Scale, and Nonhuman Identity mengungkapkan bahwa tantangan utama para Chief Information Security Officer (CISO) kini telah berkembang dari sekadar manajemen identitas manusia menjadi tata kelola perilaku entitas non-manusia.

Lima Temuan Kunci Laporan Akamai SOTI Laporan edisi ke-12 dari Akamai ini menyoroti sejumlah celah keamanan krusial yang dipicu oleh adopsi AI di lingkungan korporat:

- Kesenjangan Visibilitas MCP: Pengawasan terhadap Model Context Protocol (MCP)--protokol yang memungkinkan agen AI berinteraksi lintas sistem--menempati prioritas terakhir dalam daftar keamanan para CISO. Padahal, agen AI yang tidak terkendali diproyeksikan menjadi ancaman siber utama pada tahun 2030.

- Kebocoran Data di Chatbot AI: Lebih dari 6% interaksi percakapan chatbot AI di lingkungan korporat terbukti mengandung data perusahaan yang sensitif, terutama data pribadi (PII). Sebanyak 47% dari interaksi tersebut terjadi melalui akun pribadi yang lepas dari pengawasan IT.

- Ancaman Ekstensi Browser Berbasis AI: Lebih dari 40% pengguna korporat telah menginstal ekstensi browser berbasis AI, di mana 25% di antaranya mengubah izin akses (permissions) dalam kurun 12 bulan. Ekstensi berbasis AI ini memiliki risiko 60% lebih tinggi mengandung celah kerentanan (CVE) dibanding ekstensi standar.

- Percepatan Eksploitasi Sistem: Model AI tingkat lanjut (Frontier AI) mampu mengidentifikasi dan merangkai kelemahan sistem secara instan, membuat siklus penambalan (patching) manual oleh manusia menjadi terlambat dan tidak efektif.

- Maraknya 'Pelanggan Sintetis': Seiring agen AI menggantikan trafik web tradisional dalam pencarian merek, keamanan perusahaan harus diperluas hingga mencakup metrik Generative Engine Optimization (GEO) seperti akurasi kutipan, sentimen, dan tata kelola bot.

Tiga Ancaman Utama Menurut Akamai Chief Security Officer Akamai, Boaz Gelbord, menjelaskan bahwa pesatnya perkembangan AI menciptakan tekanan masif pada seluruh ekosistem keamanan jaringan.

"AI menghadirkan momen 'everything, everywhere, all at once' bagi ekosistem keamanan secara keseluruhan. Ada tiga ancaman utama: Penggunaan AI secara internal di seluruh organisasi, integrasi AI langsung ke dalam produk dan beban kerja cloud, serta serangan berbasis AI yang menargetkan perusahaan. Program keamanan perlu beradaptasi dengan realitas yang berkembang pesat ini," ujar Boaz Gelbord, dalam keterangan yang diterima detikINET.

Advisory CISO Akamai, Steve Winterfeld, menambahkan bahwa pergeseran dari AI jawab-soal menjadi AI pengeksekusi strategi bisnis mewajibkan kepemimpinan keamanan siber untuk berevolusi secara sejajar.

Rekomendasi Strategis Bagi Bos Keamanan (CISO) Untuk mengantisipasi era AI berbasis agen, Akamai merumuskan empat pilar langkah strategis bagi para CISO:

- Tata Kelola Edge Adaptif: Menerapkan perlindungan runtime native edge, filter API, dan isolasi otomatis untuk menetralkan kerentanan sementara proses patching backend berlangsung.

- Amankan Edge Browser: Membangun visibilitas dan kontrol perilaku di dalam browser untuk memantau penggunaan ekstensi AI yang tidak terdaftar (unmanaged).