(Source: Freepik)
Di tahun 2025, GenAI bukan lagi sekadar eksperimen, melainkan telah menjadi komponen utama bagi perusahaan. Penggunaan GenAI mengubah cara mereka berinovasi, beroperasi, dan melindungi data.
Berdasarkan laporan The State of Generative AI in 2025 dari Palo Alto Networks, yang menganalisis lebih dari tujuh ribu pelanggannya, terlihat jelas bahwa GenAI kini telah menjadi perangkat esensial, bukan lagi sekadar hal baru. Adopsinya yang pesat ini membawa implikasi keamanan yang harus dipahami oleh para CISO, CIO, dan profesional keamanan TI. Peningkatan trafik GenAI yang mencapai 890% di tahun 2024 mengindikasikan semakin besarnya ketergantungan perusahaan pada model AI yang matang dan keuntungan produktivitas yang signifikan.
Peningkatan penggunaan GenAI juga berbanding lurus dengan melonjaknya insiden keamanan data. Pada awal 2025, insiden pencegahan kehilangan data yang terkait GenAI telah meningkat lebih dari dua kali lipat, kini menyumbang 14% dari total insiden keamanan data di seluruh trafik SaaS. Organisasi menghadapi masalah penyebaran aplikasi GenAI yang tidak terkontrol di lingkungan mereka, dengan rata-rata ada sekitar 66 aplikasi GenAI yang digunakan, dan 10% di antaranya dikategorikan berisiko tinggi. Fenomena Shadow AI, yaitupenggunaan alat AI tidak sah oleh karyawan tanpa sepengetahuan atau persetujuan TI, memberikan peringatan adanya bisnis berisiko tinggi terhadap paparan data sensitif, pelanggaran regulasi, dan hilangnya kendali atas kekayaan intelektual.
Organisasi perlu menerapkan strategi tata kelola GenAI yang proaktif dan berlapis untuk mengurangi risiko terkait AI secara efektif. Langkah awal adalah memahami bagaimana GenAI digunakan dan mengontrol izin penggunaannya. Hal ini bisa dicapai dengan menerapkan manajemen akses bersyarat untuk membatasi akses ke platform, aplikasi, dan plugin GenAI berdasarkan pengguna atau grup, lokasi, risiko aplikasi, perangkat yang relevan, dan alasan bisnis yang valid.
Melindungi data sensitif dari akses dan kebocoran yang tidak diinginkan itu sangat penting. Ini bisa dilakukan dengan mengaktifkan inspeksi konten waktu nyata dan menerapkan kebijakan keamanan terpusat di seluruh sistem dan proses kerja. Tujuannya adalah untuk mencegah akses tidak sah dan kebocoran data penting. Selain itu, organisasi perlu melawan ancaman siber berbasis AI modern dengan menerapkan kerangka kerja keamanan zero trust. Ini akan membantu mengidentifikasi dan memblokir malware serta ancaman canggih yang sulit dideteksi, terutama yang tersembunyi dalam respons Generative AI (GenAI).
