(Source: Freepik)
Dalam upaya memperkuat pertahanan siber, perusahaan-perusahaan global semakin mengadopsi kecerdasan buatan. Namun, bersamaan dengan optimisme ini, muncul pula kekhawatiran signifikan mengenai potensi AI untuk memperluas permukaan serangan siber dan memunculkan risiko baru. Kesenjangan antara harapan terhadap kemampuan AI dan realitas ancaman yang ditimbulkannya menjadi perhatian utama bagi para pemimpin keamanan siber di seluruh dunia, yang memaksa mereka memikirkan kembali strategi pertahanan yang ada.
Penelitian Dari Trend Micro
Trend Micro Incorporated, pemimpin global dalam keamanan siber AI, baru-baru ini menerbitkan penelitian yang mengungkapkan bahwa 81% bisnis global telah menggunakan alat berbasis AI dalam strategi keamanan siber mereka, dengan 16% lainnya aktif menjajaki implementasi. Hampir semua responden 97% terbuka untuk menggunakan AI dalam kapasitas tertentu. Lebih dari separuh sudah mengandalkannya untuk proses penting seperti penemuan aset otomatis, prioritas risiko, dan deteksi anomali. AI dan otomatisasi kini dianggap sebagai prioritas utama untuk meningkatkan keamanan siber dalam 12 bulan ke depan oleh 42% organisasi yang disurvei.
Namun, optimisme ini datang dengan risiko signifikan. Sebanyak 94% bisnis percaya AI akan berdampak negatif pada eksposur risiko siber mereka dalam tiga hingga lima tahun ke depan. Lebih dari separuh responden memperkirakan lonjakan skala dan kompleksitas serangan yang didorong AI, yang mereka katakan akan memaksa mereka untuk memikirkan kembali dan membentuk kembali strategi keamanan siber yang ada. Banyak pihak menyoroti risiko paparan data sensitif, ketidakpastian seputar pemrosesan dan penyimpanan data oleh sistem AI, potensi eksploitasi data kepemilikan oleh model yang tidak tepercaya, serta peningkatan tekanan kepatuhan dan tantangan pemantauan yang berasal dari proliferasi endpoint baru, API, dan shadow IT.
AI Juga Dimanfaatkan Penyerang
Ketegangan antara peluang dan risiko terlihat jelas pada acara Pwn2Own Trend di Berlin, di mana kategori AI diperkenalkan untuk pertama kalinya. Hasilnya memberikan gambaran menarik tentang posisi keamanan AI saat ini. Dua belas entri menargetkan empat kerangka kerja AI utama, dengan NVIDIA Triton Inference Server menerima perhatian paling besar. Chroma, Redis, dan NVIDIA Container Toolkit juga berhasil dieksploitasi, dalam beberapa kasus hanya menggunakan satu bug untuk mencapai kompromi penuh. Secara total, tujuh kerentanan zero-day unik ditemukan dalam kerangka kerja AI.
Rachel Jin, Chief Enterprise Platform Officer di Trend Micro, mengatakan, “AI memiliki janji yang sangat besar untuk memperkuat pertahanan dunia maya, mulai dari mengidentifikasi anomali dengan lebih cepat hingga mengotomatiskan tugas-tugas yang memakan waktu. Namun, para penyerang juga sangat ingin memanfaatkan AI untuk tujuan mereka sendiri, dan hal ini menciptakan lanskap ancaman yang berubah dengan cepat. Penelitian dan pengujian dunia nyata kami memperjelas bahwa keamanan harus dibangun ke dalam sistem AI sejak awal. Terlalu banyak yang dipertaruhkan untuk memperlakukan hal ini sebagai renungan.”
