NVIDIA baru-baru ini mengumumkan jika superkomputer AI terbesar di dunia, Colossus yang terdiri dari 100.000 GPU NVIDIA Hopper, telah mencapai skala yang luar biasa berkat dukungan dari platform jaringan Ethernet NVIDIA Spectrum-X. Colossus, yang dimiliki oleh perusahaan AI milik Elon Musk, xAI, digunakan untuk melatih model bahasa besar (LLM) mereka bernama Grok.
Superkomputer AI Colossus dibangun dalam waktu hanya 122 hari. Ini adalah rekor waktu yang sangat cepat untuk sebuah proyek yang biasanya memakan waktu berbulan-bulan bahkan bertahun-tahun. Lebih mengagumkan lagi, hanya dalam waktu 19 hari setelah instalasi awal, Colossus sudah dapat digunakan untuk pelatihan model AI.
Jaringan Ethernet NVIDIA Spectrum-X menjadi kunci dari kecepatan komputasi Colussus. Spectrum-X mampu mempertahankan throughput data sebesar 95%, jauh melampaui kemampuan Ethernet standar yang hanya mencapai 60%. Selain itu, Spectrum-X juga mampu menjaga latensi yang sangat rendah, sehingga data dapat ditransfer dengan sangat cepat di antara ribuan GPU NVIDIA.
“Platform jaringan Ethernet NVIDIA Spectrum-X dirancang untuk menyediakan pemrosesan, analisis, dan pelaksanaan beban kerja AI yang lebih cepat bagi perusahaan yang berfokus pada kelahiran inovasi seperti xAI,” kata Gilad Shainer, Senior Vice President of Networking, NVIDIA.
Inti dari Spectrum-X adalah sakelar SN5600 yang mendukung kecepatan port hingga 800Gb/s, dan memberikan kinerja yang sangat tinggi pada Colossus. Untuk kinerja yang lebih optimal, xAI memasangkan sakelar SN5600 dengan NVIDIA BlueField-3 SuperNIC. Spectrum-X dilengkapi dengan berbagai fitur seperti perutean adaptif, kontrol kemacetan, dan visibilitas jaringan yang ditingkatkan untuk memberikan bandwidth yang sangat efektif dengan latensi rendah.
Keberhasilan Colossus dalam melatih model AI yang sangat besar dalam waktu singkat menunjukkan potensi besar dari teknologi AI. Dengan adanya superkomputer seperti Colossus, akan dapat mempercepat inovasi dan berbagai pekerjaan kompleks, seperti pengembangan obat-obatan, penelitian iklim, dan masih banyak lagi.
