(Source: Freepik)
Dengan hampir 1,9 juta model AI tersedia di platformnya, Hugging Face menambahkan model baru setiap tujuh detik. Skala yang luar biasa ini, yang didorong oleh kontributor global dari berbagai institusi dan pembuat independen, memicu banyak inovasi. Namun, hal ini juga menyoroti kebutuhan penting untuk mengamankan rantai pasokan AI. Risiko keamanan kini meresap di setiap tahap siklus hidup AI, mulai dari ketergantungan perangkat lunak yang rentan hingga file model yang berbahaya.
Cisco Foundation AI mengumumkan hubungan strategis dengan Hugging Face. Kolaborasi ini menyatukan pusat model AI terkemuka di dunia dengan keahlian Cisco dalam mengamankan infrastruktur digital. Tujuan dari kemitraan ini adalah untuk membantu setiap organisasi di dunia menjalankan strategi AI mereka dengan aman.
ClamAV Dapat Mendeteksi Risiko Deserialisasi
Sebagai bagian dari kolaborasi ini, Cisco Foundation AI akan menyediakan platform dan pemindaian setiap file publik yang diunggah ke Hugging Face, termasuk file model AI dan file lainnya. Pemindaian ini didukung oleh mesin ClamAV yang telah diperbarui dengan kemampuan deteksi yang disesuaikan. Dengan menggabungkan peran sentral Hugging Face dalam AI open source dengan kemampuan pemindaian malware komprehensif dari Cisco, kolaborasi ini memungkinkan pemeriksaan model yang lebih ketat, deteksi dini kerentanan, dan berbagi informasi ancaman.
Julien Chaumond, CTO, Hugging Face, mengatakan, “Kami sangat senang bermitra dengan Cisco Foundation AI untuk membantu melindungi pengguna Hugging Face. Selama beberapa tahun terakhir, kami telah memindai file menggunakan ClamAV, pemindai malware gratis dan open source dari Cisco Talos. Dengan pembaruan terbaru ClamAV, kami kini dapat menyediakan perlindungan komprehensif terhadap malware tradisional maupun ancaman unik yang terkait dengan model AI. Semuanya dengan satu alat. Kami berterima kasih kepada Cisco atas kemitraannya dalam memindai semua file yang diunggah ke Hugging Face. Dengan menggabungkan kepemimpinan kami dalam AI sumber terbuka dengan keahlian keamanan siber Cisco yang mendalam, kami memberdayakan organisasi dan individu di seluruh dunia untuk mengadopsi AI dengan percaya diri.”
Hasil dari kerja sama ini, Cisco juga membuat keamanan model AI dapat diakses oleh semua orang. Mesin ClamAV sekarang dapat mendeteksi kode berbahaya di model AI. Kemampuan ini dirilis secara gratis kepada publik. Selain itu, ClamAV dapat mendeteksi risiko deserialisasi dalam format file model umum seperti .pt dan .pkl dalam milidetik. Peningkatan ini sudah tersedia untuk semua orang yang menggunakan ClamAV.
ClamAV adalah satu-satunya mesin antivirus yang berfokus pada risiko AI di VirusTotal, sebuah platform intelijen ancaman populer yang akan memindai model yang diunggah. Dengan demikian, ClamAV menjadi satu-satunya mesin antivirus yang mendeteksi model berbahaya di Hugging Face dan VirusTotal, memberikan perlindungan yang lebih luas kepada komunitas AI.
