Peningkatan skala training dan inference AI besar-besaran menghasilkan lalu lintas yang belum pernah terjadi sebelumnya di pusat data. Proses ini melibatkan pertukaran kumpulan data yang sangat besar antara ribuan server yang berisi XPU dan GPU. Solusi pluggable optics tradisional kesulitan mengatasi pertumbuhan ini karena mengonsumsi daya yang besar, memperkenalkan latensi yang lebih tinggi, dan membutuhkan ruang sistem yang lebih luas. Hambatan ini secara signifikan menghambat kemampuan perusahaan untuk menskala klaster AI mereka secara andal dan hemat biaya.
Broadcom memperkenalkan Tomahawk 6 Davisson TH6-Davisson untuk mendukung infrastruktur AI generasi berikutnya. Solusi ini adalah switch Ethernet Co Packaged Optics (CPO) generasi ketiga perusahaan dan merupakan switch pertama di industri yang memberikan kapasitas switching optik sebesar 102.4 terabits per detik (Tbps). Kapasitas ini melipatgandakan bandwidth dari switch CPO mana pun yang tersedia saat ini, menetapkan tolok ukur baru yang signifikan untuk kinerja pusat data AI.
Near Margalit, Vice President and General Manager, Optical Systems Division, Broadcom, mengatakan, “Dengan meningkatkan stabilitas koneksi dan efisiensi energi, kami memfasilitasi pelatihan model AI yang lebih lancar dan efisien secara biaya. Platform ini dirancang untuk menskalakan kluster AI besar dengan memenuhi tiga tuntutan utama untuk interkoneksi optik yaitu pemanfaatan FLOPs model yang lebih tinggi, pengurangan gangguan pekerjaan, dan peningkatan keandalan kluster.”
Keunggulan TH6-Davisson
TH6-Davisson mewujudkan arsitektur CPO kuat dari Broadcom yang disempurnakan selama beberapa generasi untuk mengatasi hambatan yang ditimbulkan oleh pluggable optics tradisional, memberikan bandwidth, keandalan, dan efisiensi yang dibutuhkan oleh jaringan AI generasi berikutnya.
Salah satu fungsi utama adalah Efisiensi Energi Kelas Dunia. TH6-Davisson dirancang dari awal untuk hemat daya dengan mengintegrasikan mesin optik berbasis teknologi TSMC Compact Universal Photonic Engine (TSMC COUPE). Integrasi ini secara dramatis mengurangi kebutuhan akan pengkondisian sinyal dan meminimalkan kehilangan jejak dan refleksi. Hasilnya adalah pengurangan 70% dalam konsumsi daya interkoneksi optik lebih dari 3.5 kali lebih rendah dibandingkan solusi pluggable tradisional.
Fungsi krusial lainnya adalah Peningkatan Stabilitas Link dan Kinerja Lalu Lintas. Dalam pekerjaan training AI, stabilitas link telah menjadi hambatan serius, di mana interupsi kecil dapat menyebabkan kerugian terukur dalam pemanfaatan XPU dan GPU. TH6 Davisson mengatasi ini dengan mengintegrasikan mesin optik langsung ke paket umum dengan switch Ethernet. Desain yang sangat terintegrasi ini menghilangkan banyak sumber variabilitas yang melekat pada transceiver pluggable, menghasilkan keandalan klaster yang jauh lebih tinggi.
Dari segi kinerja, TH6-Davisson beroperasi pada 200 Gbps per saluran, melipatgandakan line rate dan bandwidth keseluruhan dari solusi CPO generasi kedua Broadcom TH5-Bailly. Produk ini dirancang untuk interoperabilitas, berintegrasi secara mulus dengan transceiver berbasis DR serta interkoneksi optik LPO dan CPO yang berjalan pada 200 Gbps per saluran.
Dengan kapasitas switching 102.4 Tbps, switch ini memiliki 16 x 6.4 Tbps Davisson DR Optical Engines dan modul laser ELSFP yang dapat diganti di lapangan. Kemampuan ini memungkinkan klaster Scale Up dengan ukuran 512 XPU dan klaster hingga 100.000+ XPU dalam jaringan dua tingkat pada 200 Gbps per link, memastikan klaster AI dan cloud generasi berikutnya dapat menskala tanpa kompromi.
