Shadow AI: Kenapa Bisnis Kecil Justru Paling Rentan Kena Insiden Agent AI

Delapan puluh delapan persen organisasi mengaku pernah mengalami insiden keamanan yang melibatkan AI agent dalam setahun terakhir. Angka ini datang dari survei Gravitee terhadap lebih dari 900 eksekutif untuk laporan "State of AI Agent Security 2026", dan hasil serupa juga muncul dari laporan AvePoint yang mencatat 88,4 persen organisasi pernah mengalami setidaknya satu insiden semacam itu. Yang bikin was-was, justru bisnis kecil yang paling rentan, bukan perusahaan besar dengan tim IT lengkap.

Kenapa "Shadow AI" Lebih Berbahaya di Bisnis Kecil

Istilah "shadow AI" merujuk pada penggunaan AI agent atau tool otomatisasi tanpa pengawasan tim keamanan atau IT, dan sering muncul begitu saja: seseorang di tim marketing menyambungkan otomatisasi ke CRM, seseorang di customer service memberi akses inbox ke bot, dan tidak ada yang mencatatnya. Menurut laporan Gravitee, 21,1 persen organisasi bahkan tidak tahu apakah ada agent AI tanpa izin yang sedang berjalan di lingkungan mereka.

Data itu makin mengkhawatirkan kalau dilihat dari sisi ukuran bisnis. Laporan yang sama mencatat adopsi agent di bisnis kecil naik dari 28 menjadi 33 persen, tapi visibilitas keamanannya cuma menutupi sekitar sepertiga dari yang benar-benar berjalan. Artinya, dua dari tiga agent di perusahaan kecil rata-rata tidak terlihat oleh siapa pun yang bertanggung jawab atas keamanan, karena memang sering kali tidak ada tim keamanan khusus di sana.

Bukan Cuma Teori: Data Bisa Bocor dalam Hitungan Bulan

Skala risikonya bukan cuma angka survei. Antara Desember 2025 dan Februari 2026, seorang penyerang memakai Claude Code dan GPT-4.1 untuk membobol sembilan lembaga pemerintah di Meksiko. Insiden ini membocorkan 195 juta data wajib pajak, 220 juta data sipil, dan lebih dari 150 gigabyte data lainnya, dengan 37 server database di Jalisco saja yang berhasil disusupi.

Dari sisi jenis insiden, laporan Gravitee mencatat 61 persen kasus melibatkan kebocoran data, 43 persen menyebabkan gangguan operasional, 41 persen berujung pada aksi yang tidak diinginkan dalam proses bisnis, 35 persen menimbulkan kerugian finansial, dan 31 persen menyebabkan keterlambatan layanan. Akar masalah yang paling sering ditemukan adalah manajemen identitas: hanya 21,9 persen organisasi yang memperlakukan AI agent sebagai entitas dengan identitas sendiri, sementara 45,6 persen masih mengandalkan API key yang dipakai bersama-sama, tanpa pembeda siapa atau apa yang sebenarnya melakukan aksi tertentu.

Bisnis Tidak Berhenti Pakai AI, Tapi Mulai Lebih Hati-Hati

Meski risikonya besar, bisnis tidak lantas berhenti mengadopsi AI. Laporan Gravitee mencatat 37,9 persen organisasi memilih membatalkan rencana rollout agent AI, dan 29,3 persen menundanya, bukan karena kapok, tapi karena mendahulukan tata kelola sebelum skala penggunaannya makin besar. Fokusnya bergeser dari sekadar "bisa dipakai" menjadi "siapa yang bertanggung jawab kalau terjadi sesuatu".

Kalau kamu juga menjalankan sebagian proses bisnis lewat AI, pertanyaan yang perlu mulai kamu tanyakan bukan lagi "AI ini bisa apa saja", tapi "siapa yang benar-benar tahu semua yang dilakukan AI ini di baliknya". Untuk bisnis kecil yang memang tidak punya tim keamanan khusus, jalan paling realistis bukan menghindari AI, melainkan memilih tool yang sudah punya batasan bawaan. Di TanpaNgoding AI misalnya, setiap perintah yang dijalankan AI saat membangun aplikasi dibatasi lewat allowlist ketat, bukan dibiarkan bebas mengakses apa pun di server. Prinsip ini yang membuat risiko agent yang jalan sendiri tanpa pengawasan bisa ditekan sejak awal, bukan ditambal belakangan setelah insiden terjadi.