Bir yandan Çin cephesinde Huawei ve Alibaba gibi şirketler kendi AI çiplerini geliştirirken, diğer yandan ABD'de de yeni girişimler (start-up'lar) sektöre iddialı bir şekilde giriyor. Son dönemde Cerebras, Groq, SambaNova gibi şirketler, klasik GPU mimarisine alternatif çözümler geliştirerek bu pazara iddia bir giriş yapmayı başardı. Cerebras kısa sürede değerini 50 milyar dolara kadar çıkarırken, Groq da Aralık ayında Nvidia tarafından 20 milyar dolara satın alındı.
D-Matrix: "Corsair, AI Çıkarım İşlemlerinde Nvidia'lardan Çok Daha Hızlı ve Verimli"
Şimdi bu şirketlere bir yenisi daha ekleniyor. Microsoft'un da yatırım yaptığı girişimlerden biri olan D-Matrix, geliştirdiği yeni yapay zekâ çipiyle Nvidia’ya ciddi bir alternatif sunabileceğini iddia ediyor. Şirketin Corsair adlı yeni çipinin özellikle yapay zekâ çıkarım (inference) işlemlerinde Nvidia GPU’larından çok daha hızlı ve enerji verimli olduğu söyleniyor.
D-Matrix tarafından paylaşılan verilere göre Corsair, belirli yapay zekâ iş yüklerinde Nvidia’nın bağımsız çalışan GPU’larına kıyasla 10 kata kadar daha hızlı çalışabiliyor. Üstelik bunu yaklaşık beş kat daha düşük enerji tüketimiyle gerçekleştirdiği belirtiliyor. Ancak burada önemli bir detay var. Şirketin sunduğu bu avantajlar küçük ve düşük gecikme süreli yapay zekâ işlemleri için geçerli. Yani Corsair, devasa dil modellerini eğitmekten ziyade mevcut modellerin çalıştırılması ve kullanıcılara cevap üretmesi tarafına odaklanıyor.
Corsair, DRAM Yerine SRAM Tabanlı Bir Yapı Kullanıyor
Üstelik bu yaklaşımın başka bir avantajı daha var. Şu anda yapay zekâ sektöründeki en büyük darboğazlardan biri HBM belleklere olan yoğun talep. Micron, Samsung ve SK Hynix gibi üreticiler bu talebi karşılamakta zorlanırken, Nvidia dâhil pek çok şirket üretim tarafında ciddi tedarik sorunları yaşıyor. D-Matrix CEO’su Sid Sheth’e göre şirketin SRAM odaklı yaklaşımı bu darboğazdan büyük ölçüde kaçınmalarını sağlıyor. Çünkü Corsair mimarisi büyük ölçüde DRAM’e bağımlı değil.
Ancak bu yaklaşımın önemli bir dezavantajı da bulunuyor. Stanford Üniversitesi’nde elektrik mühendisliği alanında görev yapan Rick Bahr’a göre SRAM tabanlı sistemler çok yüksek hız avantajı sunsa da devasa yapay zekâ modelleri için yeterli kapasiteyi sağlayamıyor. Özellikle bugün OpenAI ve Anthropic gibi şirketlerin kullandığı trilyonlarca parametreli modeller düşünüldüğünde, bu kadar büyük veri setlerini tamamen SRAM üzerinde çalıştırmak oldukça zor görünüyor. D-Matrix ise bunun bilinçli bir tercih olduğunu söylüyor. Sid Sheth’e göre Corsair’in amacı “en büyük modeli çalıştırmak” değil, mümkün olan en düşük gecikme süresiyle kullanıcı etkileşimini hızlandırmak. Özellikle sohbet botları, sesli yapay zekâ sistemleri ve Claude Code benzeri agent araçlarının gelecekte çok daha büyük bir pazar oluşturacağı düşünülüyor. D-Matrix de tam olarak bu alana oynuyor.
Şirketin verdiği bilgilere göre Corsair tek başına satılan bir çip değil. Dört farklı Corsair çipi tek bir kart üzerinde birleştiriliyor ve bu kart doğrudan veri merkezi sunucularına takılabiliyor. D-Matrix ayrıca Arista, Broadcom ve Super Micro ile birlikte tam ölçekli veri merkezi raf sistemleri üzerinde de çalışıyor. “SquadRack” adı verilen bu sistemin, şirketin çiplerini büyük yapay zekâ veri merkezlerine daha kolay entegre etmeyi sağlayacak
2019 yılında kurulan D-Matrix bugüne kadar yaklaşık 500 milyon dolar yatırım aldı. Bugün itibarıyla şirketin değerlemesi 2 milyar dolara yaklaşmış durumda. Hâliyle akıllara Nvidia'nın Groq'u satın alması ve D-Matrix'in de benzer bir satın almaya konu olup olmayacağı geliyor. Ancak D-Matrix CEO’su Sid Sheth şirketini satmayı düşünmediğini söylüyor. Sheth’e göre yapay zekâ inference pazarı gelecekte trilyon dolarlık bir sektör hâline gelebilir. Son dönemdeki gidişat da bu beklentiyi destekler nitelikte.
