Nvidia, GTC 2026 etkinliği kapsamında yeni nesil yapay zekâ donanımlarından biri olan Groq 3 çipini duyurdu. Şirketin açıklamasına göre çip, yapay zekâ sistemlerinin özellikle çıkarım performansını önemli ölçüde artıracak.
Groq 3 çiplerinin üretimi ise Samsung Electronics tarafından 4 nanometre üretim süreci kullanılarak gerçekleştiriliyor. Yeni çipler, Nvidia’nın geliştirdiği Vera Rubin platformu ile entegre edilerek veri merkezlerinde kullanılacak.
Groq 3, LPU adı verilen Dil İşleme Birimi mimarisiyle dikkat çekiyor. Bu yapı, geleneksel bellek mimarisinden farklı olarak çip üzerinde yaklaşık 500 MB SRAM barındırıyor. Bu sayede düşük gecikme ve yüksek bant genişliği ile token işleme hızının önemli ölçüde artırılması hedefleniyor.
Nvidia, Groq 3 tabanlı sistemlerin özellikle yapay zekâ veri merkezlerinde daha hızlı çıkarım yapılmasını sağlayacağını belirtiyor. Şirketin planlarına göre Groq LPX raf sistemleri 256 LPU ile donatılacak ve toplamda çok yüksek bant genişliği sağlayan ölçeklenebilir bir mimari sunacak.
Yeni altyapı sayesinde yapay zekâ modellerinin saniyede işleyebildiği token sayısının ciddi biçimde artması bekleniyor. Nvidia’nın açıklamasına göre sistem, saniyede yaklaşık 100 token seviyesinden 1500 token ve üzerine çıkabilecek performans sağlayabilecek.
Bu gelişme, özellikle çok ajanlı yapay zekâ sistemleri ve büyük dil modellerinin daha düşük gecikmeyle çalıştırılması açısından önemli bir adım olarak değerlendiriliyor.
