Gartner memprediksi 50% respons insiden siber perusahaan pada 2028 akan berfokus pada aplikasi AI yang dibangun sendiri.
Banyak perusahaan mulai menerapkan aplikasi AI yang dibangun sendiri sebelum pengujiannya benar-benar matang. Menurut Gartner, kondisi ini akan membuat 50% upaya respons insiden keamanan siber perusahaan berfokus pada insiden yang melibatkan aplikasi AI kustom pada 2028.
Christopher Mixter, VP Analyst di Gartner mengatakan, “AI berkembang dengan pesat, namun banyak alat terutama aplikasi AI yang dibuat khusus yang diterapkan sebelum diuji secara menyeluruh. Sistem-sistem ini bersifat kompleks, dinamis, dan sulit untuk dijaga keamanannya dalam jangka panjang. Sebagian besar tim keamanan masih belum memiliki proses yang jelas untuk menangani insiden terkait AI, yang berarti penyelesaian masalah bisa memakan waktu lebih lama dan membutuhkan upaya yang jauh lebih besar.”
Karena itu, Gartner menyarankan pemimpin keamanan terlibat sejak awal dalam proyek pengembangan aplikasi AI. Tujuannya agar waktu, sumber daya, dan ekspektasi keamanan dapat disiapkan sejak awal, bukan ditambahkan belakangan ketika risiko sudah telanjur muncul.
Gartner juga memprediksi lebih dari 50% perusahaan akan memakai AI security platforms pada 2028 untuk mengamankan penggunaan layanan AI pihak ketiga sekaligus melindungi aplikasi AI buatan sendiri. Platform ini diposisikan sebagai cara terpusat untuk menangani risiko baru seperti prompt injection, penyalahgunaan data, serta penerapan guardrail keamanan yang konsisten.
Gartner memperkirakan hingga 2030 sekitar 33% pekerjaan TI akan habis untuk memperbaiki AI data debt. Penyebab utamanya adalah banyak data perusahaan belum siap AI, masih tidak terstruktur, dan belum cukup terlindungi, sehingga pemimpin keamanan didorong memperluas data loss prevention serta memperbaiki penemuan data, asesmen, dan kontrol akses bersama tim data dan AI.
Gartner memperingatkan bahwa hingga 2027, 75% organisasi teregulasi yang masih mengandalkan proses kepatuhan AI manual akan terekspos pada denda yang melebihi 5% dari pendapatan global mereka. Pada saat yang sama, gejolak geopolitik dan regulasi lokal juga diperkirakan mendorong 30% organisasi menuntut kedaulatan yang lebih menyeluruh atas kontrol keamanan cloud mereka.
Gartner juga menilai identitas akan menjadi salah satu permukaan serangan utama. Pada 2028, sebanyak 70% CISO diprediksi akan menggunakan kemampuan identity visibility and intelligence untuk memperkecil attack surface IAM, menutup blind spot dari alat yang terpisah-pisah, serta mengurangi risiko kompromi kredensial akibat salah konfigurasi dan kompleksitas identitas manusia maupun mesin.
