Tamamen yapay zeka odaklı Nvidia yeni DGX süper bilgisayarını duyurdu!

Computex kapsamında Nvidia, yeni DGX GH200 yapay zeka süper bilgisayarını duyurdu. Yeni sistem 256 adet Grace Hopper Superchip’ini bir araya getirerek 1 Exaflop güç elde ediyor.

Nvidia, son zamanlarda tamamıyla üretken yapay zekaya odaklanmış durumda. Firma, üretken yapay zekayı kullanan araçlarının yanında yapay zekaları eğitecek, araştıracak ve işleyecek güçlü sistemleri de sunuyor. Computex 2023 kapsamında Nvidia, yeni DGX GH200 yapay zeka süper bilgisayarıyla karşımıza çıktı.
Nvidia DGX GH200 tanıtıldı

Bu yeni DGX süper bilgisayarda firmanın GH200 Grace Hopper Superchip ve Nvidia NVLink Switch System çözümleri bulunuyor. Nvidia, DGX GH200’ün geniş paylaşılan bellek alanı, NVLink Switch System ile NVLink ara bağlantı teknolojisini kullanarak 256 adet GH200’ü birleştirerek tek bir GPU olarak performans göstermelerini sağlıyor. Böylece 1 exaflop performans ve 144 terabayt paylaşılan bellek elde ediliyor. 2020’de tanıtılan önceki nesil NVIDIA DGX A100’den yaklaşık 500 kat daha fazla bellek anlamında geliyor.

CEO Jensen Huang, “Üretken yapay zeka, büyük dil modelleri ve öneri sistemleri modern ekonominin dijital motorlarıdır” dedi. Huang’in açıklamalarına göre DGX GH200 yapay zeka süper bilgisayarları, yapay zekanın sınırlarını genişletmek için firmanın en gelişmiş hızlandırılmış bilgi işlem ve ağ teknolojilerini kullanıyor.
Detaylarla DGX GH200 yapay zeka süper bilgisayarı

GH200 Grace Hopper Superchip’ler firmanın NVLink-C2C çip ara bağlantılarını kullanarak Arm tabanlı Grace CPU ile bir Nvidia H100 Tensor Core GPU’yu aynı pakette birleştirerek geleneksel CPU-GPU PCIe bağlantısı ihtiyacını ortadan kaldırıyor. Böylece GPU ve CPU arasındaki bant genişliği en yeni PCIe 5.0 teknolojisine kıyasla 7 kat artıyor, ara bağlantı güç tüketimi 5 kattan fazla azalıyor ve DGX GH200 süper bilgisayarlar için 600 GB Hopper mimarili GPU yapı taşı sağlanıyor.

DGX GH200, Grace Hopper Superchip’leri, DGX GH200 sistemindeki tüm GPU’ların tek bir GPU gibi çalışmasını sağlayan yeni bir ara bağlantı olan NVLink Switch System ile eşleştiren ilk süper bilgisayar konumunda. Önceki nesil sistem ise yalnızca sekiz GPU’nun performanstan ödün vermeden NVLink ile tek bir GPU olarak birleştirilmesini sağlıyordu. DGX GH200 mimarisi, önceki nesle göre 48 kat daha fazla NVLink bant genişliği sağlayarak tek bir GPU programlamanın basitliğiyle devasa bir yapay zeka süper bilgisayarının gücünü vadediyor.
Dev firmalar sırada

Google Cloud, Meta ve Microsoft, üretken yapay zeka iş yüklerine yönelik yeteneklerini keşfetmek için DGX GH200’e ilk erişmesi beklenenler arasında yer alıyor. Nvidia ayrıca bu sistemini bulut hizmeti sağlayıcılarına ve diğer hiper ölçekleyicilere bir taslak olarak sunmayı ve böylece altyapıları için daha fazla özelleştirebilmelerini sağlamayı planlıyor.
Öte yandan Nvidia, araştırmacılarının ve geliştirme ekiplerinin çalışmalarına güç sağlamak için kendi DGX GH200 tabanlı yapay zeka süper bilgisayarını kuruyor. Her biri Nvidia Quantum-2 InfiniBand ağı ile birbirine bağlanarak büyük yapay zeka modellerini eğitmek için gereken veri hacmini artıracak. Helios adlı bu süper bilgisayar, 1.024 Grace Hopper Superchip içerecek ve yıl sonuna kadar faaliyete geçecek.

DGX GH200 süper bilgisayarlara dönecek olursak, bu ürün aslında bir tam paket konumunda. Nvidia, yapay zeka ve veri analizi iş yükleri için anahtar teslim, tam yığın bir çözüm sağlamak üzere ürünü kendi yazılımıyla gönderiyor. Son olarak DGX GH200 süper bilgisayarların yıl sonuna kadar satışa sunulması bekleniyor.