(Source: Freepik)
Aplikasi AI dan Large Language Model (LLM) merevolusi operasi bisnis dengan potensi yang besar, tapi peningkatan penggunaannya juga menciptakan celah keamanan baru yang menjadi target empuk bagi penjahat siber. Melihat potensi berbahaya, Trend Micro berupaya dalam mengamankan AI. Mereka melakukannya melalui penelitian mendalam dan pengembangan platform keamanan siber berbasis AI untuk melindungi organisasi dari ancaman.
Solusi yang ditawarkan oleh Trend Micro berfokus pada pemahaman mendalam terhadap potensi ancaman dan pengembangan strategi pertahanan yang efektif. Studi kasus AML.CS0028 yang diajukan ke MITRE ATLAS menjadi tonggak penting karena merupakan studi ATLAS pertama yang mendokumentasikan jalur serangan berbasis awan dan kontainer terhadap infrastruktur AI. Berdasarkan skenario dunia nyata, studi kasus ini menggambarkan bagaimana penyusupan pada rantai pasokan dapat merusak alur pengembangan model AI, memetakan setiap tahap serangan dengan teknik-teknik ATLAS.
inisiatif Trend Micro ini adalah untuk meningkatkan kesadaran dan pemahaman mengenai ancaman keamanan yang menargetkan infrastruktur AI. Temuan penelitian mereka memperlihatkan tren mengkhawatirkan, seperti ditemukannya lebih dari 8.000 registri kontainer yang terpapar secara daring, dua kali lipat dari jumlah pada tahun 2023. Lebih lanjut, 70% dari registri tersebut memungkinkan akses tulis, yang berarti penyerang dapat menyuntikkan model AI berbahaya. Dalam registri ini, teridentifikasi 1.453 model AI, banyak di antaranya dalam format ONNX, yang memiliki potensi kerentanan untuk dieksploitasi.
Studi kasus AML.CS0028 didasarkan pada serangan peracunan data di dunia nyata terhadap model AI berbasis kontainer di awan. Selain itu, studi ini menyediakan skenario yang dapat direproduksi sehingga para ahli keamanan dapat melakukan simulasi untuk meningkatkan deteksi ancaman dan perencanaan respons insiden. Kontribusi ini juga mendukung inisiatif Secure AI MITRE, mendorong organisasi lain untuk berbagi insiden anonim dan mengembangkan pemahaman kolektif tentang ancaman AI.
Langkah proaktif Trend Micro dalam mengamankan AI menunjukkan komitmen mereka terhadap keamanan siber yang lebih luas. Melalui penelitian mendalam dan kolaborasi dengan komunitas keamanan global, seperti melalui kontribusi ke MITRE ATLAS, mereka tidak hanya melindungi pelanggan mereka tetapi juga berupaya menjadikan dunia digital lebih aman bagi semua pengguna teknologi.
