Amazon Web Services (AWS) membuat inovasi untuk menusuk masuk persaingan sengit di pasar chip AI. AWS memamerkan spesifikasi lengkap dari UltraServer Trainium3 generasi kedua yang mereka sebut sebagai superkomputer AI.
Senior Vice President Utility Computing AWS, Peter DeSantis, tidak hanya membeberkan spesifikasi chip Trainium3 yang sebelumnya diungkap CEO AWS Matt Garman. DeSantis turut membongkar desain fisik rak server berkekuatan ultra besutan AWS.
DeSantis menyebut UltraServer generasi terbaru ini mengintegrasikan 144 chip Trainium3 dalam dua rak. Rak terhubung oleh switch khusus berlatensi ultra-rendah bernama Neuron Switches.
Dia menekankan desain arsitektur ini dibangun dari nol untuk beban kerja AI. Bukan adaptasi dari desain server umum.
Menurut DeSantis, spesifikasi ini membuat UltraServer generasi terbaru memiliki kemampuan komputasi hingga 4,4 kali lipat dibanding generasi tahun lalu. Selain itu, peningkatan bandwidth mencapai 3,9 kali lipat.
Namun alih-alih lebih jemawa dengan spesifikasi luar biasa, DeSantis justru lebih menyorot dampak finansial Trn3 UltraServer generasi terbaru ini.
“Trainium3 akan memberikan biaya hingga 40% lebih rendah bahkan untuk beban kerja AI yang paling menuntut. Itu masalah besar ketika Anda menghabiskan puluhan miliar dolar untuk infrastruktur,” tegas DeSantis.
