Riset terbaru TrendAI mengungkap 67% pemimpin bisnis menyetujui AI meski ada kekhawatiran keamanan.
Perusahaan di berbagai negara kini mengadopsi AI lebih cepat daripada kesiapan kontrol risikonya. Riset global TrendAI terhadap 3.700 pengambil keputusan bisnis dan TI menunjukkan 67% responden pernah merasa tertekan untuk menyetujui penggunaan AI meski memiliki kekhawatiran keamanan. Bahkan satu dari tujuh responden mengaku kekhawatiran itu tergolong ekstrem, tetapi tetap dikesampingkan demi mengejar pesaing dan tuntutan internal.
Faktor utama masalah ini adalah ketimpangan antara laju implementasi dan kematangan tata kelola. Sebanyak 57% responden mengatakan perkembangan AI berjalan lebih cepat daripada kemampuan organisasi untuk mengamankannya. Di saat yang sama, 64% hanya memiliki tingkat keyakinan sedang dalam memahami kerangka hukum yang mengatur penggunaan AI.
Kematangan tata kelola AI masih rendah di banyak organisasi. Hanya 38% yang sudah memiliki kebijakan AI secara komprehensif, sementara 41% menyebut regulasi atau standar kepatuhan yang belum jelas sebagai hambatan utama. Ini berarti AI dioperasionalkan sebelum aturan benar-benar ditetapkan.
Laporan dari TrendAI juga menunjukkan bahwa tim keamanan kerap diposisikan reaktif terhadap keputusan adopsi AI dari level atas. Kondisi ini membuka usaha penggunaan shadow AI yang tidak disetujui.
Di saat yang sama, riset ancaman TrendAI memperlihatkan pelaku kejahatan siber sudah memanfaatkan AI untuk mengotomatisasi reconnaissance, mempercepat phishing, dan menurunkan hambatan masuk ke dunia kejahatan siber.
Kepercayaan terhadap agentic AI masih berada pada fase pematangan. Secara global, kurang dari separuh responden, yaitu 48%, percaya agentic AI akan secara signifikan meningkatkan pertahanan siber dalam jangka pendek. Kekhawatiran terbesar mereka berpusat pada akses AI ke data sensitif, penyalahgunaan, dan lemahnya pengawasan.
Data riset menunjukkan 44% organisasi menilai akses AI agent ke data sensitif sebagai risiko terbesar. Lalu 36% memperingatkan bahwa prompt berbahaya dapat mengganggu keamanan, sementara 33% menyoroti meluasnya permukaan serangan bagi penjahat siber. Proporsi yang sama, 33%, juga mengkhawatirkan penyalahgunaan status AI yang dipercaya serta risiko yang terkait dengan autonomous code deployment.
Rachel Jin, Chief Platform & Business Officer, Head of TrendAI, mengatakan, “Organisasi sebenarnya tidak kurang sadar akan risiko, melainkan kurang memiliki kondisi yang diperlukan untuk mengelolanya. Ketika penerapan AI didorong oleh tekanan persaingan alih-alih kematangan tata kelola, hal ini menciptakan situasi di mana AI diintegrasikan ke dalam sistem kritis tanpa kontrol yang diperlukan untuk mengelolanya dengan aman. Penelitian ini memperkuat fokus kami dalam membantu organisasi mencapai hasil bisnis yang solid dengan AI sambil tetap mengelola risiko bisnis.”
