(Source: Freepik)
Check Point baru-baru ini merilis laporan keamanan AI yang mengeksplorasi bagaimana pelaku kejahatan siber menggunakan kecerdasan buatan (artificial intelligence/AI) untuk melancarkan serangan serta bagaimana pelaku bisnis dapat membendung ancaman ini. Laporannya juga memperlihatkan bagaimana para pelaku AI menggunakan AI generatif dan model bahasa besar (large language model/LLM) untuk merusak kepercayaan pada identitas digital, telah mengikis batas antara kebenaran dan penipuan di ranah digital.
Laporan keamanan AI mengidentifikasi empat area inti penggunaan AI oleh penjahat siber mampu meniru dan memanipulasi. Area pertama adalah peningkatan peniruan identitas dan rekayasa sosial berbasis AI, di mana aktor jahat menghasilkan email phishing, peniruan suara, dan video deepfake yang sangat realistis secara real-time. Kedua, keracunan data LLM dan disinformasi, yang melibatkan manipulasi data untuk melatih AI sehingga hasilnya condong pada narasi palsu. Ketiga, AI untuk membuat malware dan melakukan penambangan data, di mana AI digunakan untuk membuat dan mengoptimalkan program jahat serta mencari informasi lebih dalam dari data curian. Keempat adalah mempersenjatai dan pembajakan model AI, seperti penggunaan akun LLM curian atau model AI khusus di dark web untuk tujuan peretasan dan penipuan serta melewati mekanisme keamanan yang ada.
“Meskipun beberapa layanan ilegal di bawah tanah menjadi lebih canggih, semua tanda mengarah pada pergeseran yang akan segera terjadi, yaitu kebangkitan kembaran digital. Ini bukan hanya sekadar kemiripan rupa atau suara, tetapi replika yang digerakkan oleh AI yang mampu meniru pemikiran dan perilaku manusia. Ini bukan masa depan yang jauh. Ini sudah sangat dekat,” kata Lotem Finkelstein, Director of Check Point Research.
Menghadapi lanskap ancaman yang berubah ini, laporan tersebut menekankan bahwa para pelaku bisnis kini harus mengasumsikan AI tertanam dalam setiap kampanye serangan siber. Untuk melawan taktik berbasis AI ini, organisasi didorong untuk mengadopsi kerangka keamanan siber yang sadar AI, dengan fokus pada beberapa strategi pertahanan kunci. Ini termasuk deteksi dan perburuan ancaman berbantuan AI, yang menggunakan AI itu sendiri untuk mengidentifikasi ancaman yang dihasilkan AI seperti konten phishing sintetis dan deepfake. Strategi penting lainnya adalah verifikasi Identitas yang ditingkatkan, yang memerlukan pemeriksaan identitas berlapis di berbagai media teks, suara, serta video, untuk melawan peniruan canggih, mengingat kepercayaan pada identitas digital tidak lagi otomatis. Terakhir, intelijen ancaman dengan konteks AI diperlukan untuk membekali tim keamanan agar dapat mengenali dan merespons taktik spesifik yang didorong oleh AI.
