Huawei, teknoloji dünyasında büyük yankı uyandıran HUAWEI CONNECT 2026 etkinliğinde, yapay zeka (YZ) çıkarımını hızlandırmak üzere tasarlanan çığır açıcı OceanStor M900 Bağlam Bellek Depolama çözümünü resmen tanıttı. Huawei Yönetim Kurulu Başkan Yardımcısı ve Dönüşümlü Yönetim Kurulu Başkanı David Wang tarafından duyurulan bu sistem, hiper ölçekli veri merkezlerindeki SuperPoD'lar için PB ölçeğinde depolama kapasitesi ve saniyede terabaytlarca (TB/s) performans sunan, tamamen paylaşımlı bir bellek alanı yaratıyor. Bu yenilik, YZ altyapısının sadece hesaplama odaklı bir yapıdan, hesaplama, ağ ve depolama arasında derin bir iş birliğine dayalı entegre bir modele geçişini temsil ediyor.

Yapay Zeka Çağında Bellek İhtiyacının Yükselişi

2026 yılı itibarıyla, yapay zekanın teknolojik atılımlardan geniş ölçekli uygulamalara geçişi ivme kazanmış durumda. Sohbet robotlarından karmaşık görevleri otonom olarak yerine getirebilen YZ ajanlarına doğru evrilen bu uygulamalar, kritik sektörlerde giderek daha fazla benimseniyor ve 'ajan tabanlı YZ çağı'nın başlangıcını müjdeliyor. Büyük dil modellerinin parametre sayısı 10 trilyon ölçeğine ulaşırken, SuperPoD'lar YZ altyapısı için vazgeçilmez bir seçenek haline gelmekte.

Günümüzde kullanılan büyük modeller, bir milyon token'ı aşan bağlam pencerelerini destekliyor. Çok aşamalı çıkarım ve karmaşık görevler standart hale gelirken, çıkarım sırasında üretilen KV önbellek verilerinin hacmi de sürekli artış gösteriyor. Bu durum, çip içi bellek ve DRAM'in kapasite ve maliyet etkinlik sınırlarını zorluyor. Sektör genelinde, çip içi bellek, DRAM ve SSD'leri uyumlu hale getirerek devasa kapasiteli, tamamen paylaşımlı bir bellek alanı oluşturan çok katmanlı depolama sistemleri kurma ihtiyacı konusunda fikir birliği bulunuyor.

OceanStor M900: Kapasite, Performans ve Maliyet Avantajları

Huawei'nin OceanStor M900 Bağlam Bellek Depolama çözümü, ultra uzun bağlamlı ve çok turlu çıkarım işlemlerinde ortaya çıkan bellek kapasitesi darboğazlarını aşmak amacıyla geliştirildi. OceanStor M900, UnifiedBus ağını kullanarak tek adımlı bağlantılarla PB ölçeğinde, küresel çok katmanlı bir KV önbelleği oluşturuyor. Bu sayede SuperPoD'ların hesaplama gücü potansiyeli tam anlamıyla ortaya çıkarılıyor ve hiper ölçekli veri merkezlerinde YZ çıkarımı önemli ölçüde hızlandırılıyor. OceanStor M900 Bağlam Bellek Depolama Sisteminin öne çıkan üç temel özelliği bulunuyor:

1. Devasa Bellek ile Büyük Ölçekli YZ'yi Güçlendirme

  • Yüksek hızlı UnifiedBus bağlantı ağı sayesinde KV önbelleği, kademeli depolama ile küresel havuz oluşturma ve paylaşım imkanı sunar.
  • SuperPoD'ların KV önbelleği, çip içi bellek ve DRAM'den SSD'lere genişletilerek tek bir kümenin 64 PB kapasiteye ulaşmasını sağlar.
  • NPU başına kullanılabilir KV önbellek kapasitesi gigabaytlardan terabaytlara yükseltilerek daha fazla bağlamın depolanması, paylaşılması ve yeniden kullanılması mümkün hale gelir. Bu da KV önbellek isabet oranını gözle görülür şekilde artırır.

2. Çıkarım Performansını Artırarak Hesaplama Gücünü Tamamen Ortaya Çıkarma

  • OceanStor M900, CPU, ağ denetleyici birimi ve NAND denetleyici birimini tek bir çatı altında birleştiren sektörün ilk mimarisine sahiptir.
  • SuperPoD'un NPU'sundan SSD'lere tek adımlı bağlantı için yerel KV semantiği sunarak protokol dönüştürme ve CPU aracılığıyla iletim ihtiyacını ortadan kaldırır.
  • Erişim gecikmesi milisaniyelerden 60 mikrosaniyeye düşürülerek %90 oranında azalır.
  • Tek bir küme, benzer çözümlere kıyasla 1,5 kat daha yüksek olan 40 TB/s toplam erişim bant genişliği sunar.
  • Tipik YZ programlama senaryolarında, bu mimari çıkarım kümesinin token işleme kapasitesini iki katına çıkarır ve ilk tokenin elde edilme süresini yarıya indirir; böylece hesaplama gücünü verimliliğe dönüştürür.

3. Token Maliyetlerini Düşürerek Ekonomik ve Büyük Ölçekli YZ Benimsemesini Sağlama

  • OceanStor M900, sektörün ilk KV duyarlı uyarlanabilir depolama teknolojisini kullanır. Bu teknoloji, veri değerine göre KV önbellek yaşam döngülerini tahmin eder ve verileri depolama ortamları arasında akıllıca dağıtır.
  • Günde 24 adede kadar sürücü yazma işlemi (DWPD) kapasitesi sunarak SSD'nin dayanıklılığını 16 kat artırır ve üç yıl boyunca istikrarlı çalışma sağlar.
  • Medya değiştirme ve işletme ve bakım maliyetlerini azaltarak, büyük ölçekli YZ çıkarım altyapısının uzun vadeli maliyetlerini düşürür ve yapay zekanın daha hızlı benimsenmesine olanak tanır.

Yapay zeka, her sektörde büyük ölçekli üretim sistemlerine entegre oldukça, YZ altyapısı da yalnızca hesaplama odaklı bir modelden, hesaplama, ağ ve depolama arasında daha sıkı bir iş birliğine doğru evrim geçiriyor. Bu bağlamda, bağlam belleği depolaması, hiper ölçekli çıkarım KV önbelleklerinin kapasitesini ve erişim verimliliğini sürekli olarak artırmak için hayati bir rol oynamaya devam edecektir.