Daha gelişmişi yok Karşınızda Nvidia GH200 Grace Hopper Superchip

Nvidia GH200 Grace Hopper Superchip’in tam üretime geçtiğini, karmaşık yapay zeka ve HPC iş yüklerini çalıştırmak için dünya çapında devreye girecek sistemlere güç sağlayacağını duyurdu.

Nvidia GH200 Grace Hopper Superchip destekli sistemler, NVIDIA’nın Grace, Hopper, Ada Lovelace ve BlueField gibi en yeni CPU, GPU ve DPU mimarilerinin farklı kombinasyonlarıyla desteklenen 400’den fazla sistem konfigürasyonuna katılıyor. GH200 GPU’lar öncelikli olarak üretken yapay zekaya yönelik artan talebi karşılamaya yardımcı olmak için tasarlandı.
Computex’te konuşan Nvidia CEO’su Jensen Huang, NVLink-C2C ara bağlantı teknolojisini kullanarak Arm tabanlı Grace CPU ve Hopper GPU mimarilerini bir araya getiren GH200 Grace Hopper Superchip ile ilgili yeni sistemleri, iş ortaklarını ve ek ayrıntıları açıkladı.

GH200 Grace Hopper Superchip özellikleri

Nvidia GH200 Grace Hopper Superchip geleneksel ve önceki nesil sistemlerde bulunan standart PCIe Gen5 şeritlerinden 7 kat daha yüksek bant genişliği olan 900GB/s’ye kadar toplam bant genişliği sunuyor. Yüksek bant genişliği zorlu üretken yapay zeka ve HPC uygulamalarını ele almak için hayli geniş bir oyun alanı sunuyor.

CPU+GPU tasarımının devam edildiği GH200 Superchip’te yongalar NVLink Chip-2-Chip (C2C) ara bağlantısıyla birbirine bağlanıyor. Grace Hopper Superchip’in kalbi olan bu bağlantı, hızlandırılmış sistemlerde yaygın olarak kullanılan PCIe Gen5 şeritlerinden 7 kat daha yüksek olan saniyede 900 gigabayta (GB/s) kadar toplam bant genişliği sunuyor.

Bu ara bağlantı, uygulamaların GPU belleğiyle birlikte CPU belleğini de yüksek bant genişliğinde kullanmalarına olanak tanıyor. Grace Hopper Superchip başına 480 GB’a kadar LPDDR5X CPU belleği ile GPU, HMB3’e göre 7 kat daha hızlı belleğe doğrudan erişime sahip. NVIDIA NVLink Switch System ile birlikte, 256 adede kadar NVLink bağlantılı GPU üzerinde çalışan tüm GPU iş parçacıkları, yüksek bant genişliğinde 150 terabayta (TB) kadar belleğe erişebiliyor. Bu tasarım yeni DGX süper bilgisayarında kullanılacak.

Enerji verimliliği

NVIDIA Grace CPU, geleneksel x86-64 platformlarının watt başına iki katı performans sunuyor. Nvidia’ya göre bu CPU dünyanın en hızlı Arm veri merkezi işlemcisi konumunda. Grace CPU, 72 Neoverse V2 Armv9 çekirdeğini ECC’li 480 GB’a kadar sunucu sınıfı LPDDR5X bellekle birleştiriyor. Bu tasarım bant genişliği, enerji verimliliği, kapasite ve maliyet arasında uygun dengenin kurulmasını sağlıyor. Sekiz kanallı DDR5 tasarımıyla karşılaştırıldığında Grace CPU LPDDR5X bellek alt sistemi, saniyede gigabayt başına sekizde bir güçle yüzde 53’e kadar daha fazla bant genişliği sağlıyor.
Performans ve Hız

GH200 Grace Hopper Superchip’in GPU tarafında ise Hopper H100 yer alıyor. H100, Nvidia’nın dokuzuncu nesil veri merkezi GPU’su konumunda ve önceki nesil Nvidia A100 Tensor Core GPU’ya kıyasla büyük ölçekli yapay zeka ve HPC iş yüklerinde devasa performans sıçramaları getiriyor.

Yeni Hopper GPU mimarisini temel alan NVIDIA H100 GPU, birçok yeniliğe sahip: Yeni dördüncü nesil Tensor Cores, çok daha geniş bir yapay zeka ve HPC görevleri yelpazesinde her zamankinden daha hızlı matris hesaplamaları gerçekleştiriyor. Yeni Transformer Engine, H100’ün önceki GPU nesline kıyasla 9 kata kadar daha hızlı yapay zeka eğitimi ve 30 kata kadar daha hızlı yapay zeka çıkarımı sunmasını sağlıyor. Secure Multi-Instance GPU (MIG), daha küçük iş yüklerinde hizmet kalitesini (QoS) en üst düzeye çıkarmak için GPU’yu izole edilmiş, doğru boyutta örneklere ayırıyor.
GH200 Grace Hopper Superchip’li sistemlerin bu yılın sonlarına doğru piyasaya çıkması bekleniyor. Avrupa ve ABD’deki küresel hiper ölçekleyiciler ve süper bilgi işlem merkezleri, GH200 destekli sistemlere erişebilecek birkaç müşteri arasında yer alıyor.