Özel Çipler Çağı

    Yapay zeka bazı ciddi büyüme sancılarıyla yüzleşmek üzere. 

    Yapay zeka hizmetlerine olan talep küresel olarak patlıyor. Ne yazık ki, bu hizmetleri ekonomik ve sürdürülebilir bir şekilde sunmanın zorluğu da öyle. Yapay zeka güç talebinin yıllık % 44,7 artacağı tahmin ediliyor ve bu artış, 2028'de veri merkezi güç tüketimini ikiye katlayarak 857 terawatt saate çıkaracak: Bugün bir ulus olarak bu, veri merkezlerini Japonya'nın hemen ardından altıncı en büyük elektrik tüketicisi haline getirecek. Bu, son 50 yıldır teknolojideki her büyük trendi yönlendiren ‘daha küçük, daha ucuz, daha hızlı’ mantrasını tehdit eden bir dengesizliktir.

    Ayrıca olması da gerekmez. Belirli kullanım durumları için optimize edilmiş benzersiz silikon olan özel silikon, Moore Yasası tarihe karışırken bile gücü keserken performansı artırmaya nasıl devam edebileceğimizi zaten gösteriyor. Özel, 2028 yılına kadar AI hızlandırıcıların ( XPU'lar ) % 25'ini oluşturabilir ( Marvell tahmini ) ve bu, özelleşen çip kategorilerinden yalnızca biridir.

Fabrika olarak veri merkezi

    Jensen Huang'ın yapay zeka fabrikaları için vizyonu yerinde. Bu yaklaşan AI veri merkezleri, 7/24 amansız bir hızla çalkalanacak. Ve üretim tesisleri gibi, hizmet sağlayıcılar için nihai başarıları veya başarısızlıkları, üretimi yöneten iki kelimelik ifade olan operasyonel mükemmellik tarafından belirlenecektir. Token başına rakibimizden daha fazla mı yoksa daha az mı enerji tüketiyoruz? Başarısızlığa giden ortalama süre neden artıyor? Mevcut operasyonel ekipman verimliliği ( OEE ) nedir? Petrol ve kimyasallarda, müşterilere satılan nihai ürünler ayırt edilemez ürünlerdir. Farklı oldukları yer, marjinal kazançları elde etmek için farklı teknoloji kombinasyonlarından yararlandıkları için süreç tasarımıdır.

    Aynısı AI'da da olacak. İleriye dönük olarak, çeşitlilik hüküm sürecek ve en düşük maliyete, en az kesinti süresine ve yeni farklılaştırıcı hizmetler ve uygulamalar sunma becerisine sahip operatörler, işletmelerin ve tüketicilerin gözdesi haline gelecektir.

    Kısacası en iyi altyapı kazanacak. 

Özel çip konsepti

    Ayırt etmenin başlıca yollarından biri, özel yarı iletkenler tarafından etkinleştirilen özel silikon olacaktır - yani, benzersiz IP içeren çipler veya bir uygulama için sıçrama performansı sağlayan özellikler. Farklı, tekil tasarım etrafında inşa edilmiş AI hızlandırıcılarından, belirli bir yazılım ortamı için optimize etmek için ek özel IP, çekirdekler ve ürün yazılımı içeren bir ticari çipe kadar uzanan bir spektrumdur. Odak noktası artık öncelikle yapay zeka hızlandırıcıları gibi daha yüksek değerli çipler olsa da, her çip özelleştirilecek: Örneğin Meta, kısa süre önce, kesinti süresinin etkisini azaltmak için sunucuları ağlara bağlayan nispeten adı duyulmamış bir çip olan özel bir ağ arabirim denetleyicisini ( NIC ) tanıttı.

    Tek bir yüksek bant genişliğine sahip bellek ( HBM ) yığını, veri aktarmak için 2.048 pinli bir arabirim veya XPU başına 8.000'den fazla pin gerektirebilir. Özelleştirme, gücü, pin sayısını önemli ölçüde azaltabilir ve bellek kapasitesini artırabilir. Özel HBM'li XPU'ların bir ila iki yıl içinde olması bekleniyor.

    Özelleştirme, yarı iletken tasarımının her yönünü yeniden düşünmeyi içerecektir. Örneğin bazıları, üst düzey AI hızlandırıcılarında önbellek olarak kullanılan gigabaytlarca yüksek bant genişliğine sahip belleği ( HBM ) yönetmek için temel yongayı ve arayüzleri optimize etmenin yollarını arıyor. Optimizasyon, çip paketinin içindeki belleği potansiyel olarak % 33'e kadar artırabilir, arayüz gücünü % 70 oranında azaltabilir ve mantık işlevleri için mevcut silikon alanını % 25'e yakın artırabilir ( Marvell tahmini ).

    Özel kategori ayrıca, bilgi işlem sistemlerinin boyutunu ve yeteneklerini artırmayı amaçlayan yeni, gelişmekte olan ara bağlantı yongaları sınıflarını da içerir. Günümüzde, sunucular tipik olarak sekiz veya daha az XPU ve/veya CPU içerir ve tüm bileşenler bir rafa kayan alüminyum bir kutu içinde bulunur. Gelecekte, AI sistemleri, XPU'ların, CXL denetleyicilerinin, PCIe retimerlerinin, iletme-alma optik dijital sinyal işlemcilerinin ( DSP'ler ) ve diğer cihazların özelliklerine göre uyarlanmış bir optik motor portföyüyle bağlantılı çeşitli raflara yayılmış depolama ve bellek ile birlikte yüzlerce hızlandırıcı içerecektir.

    Bu cihazların çoğu birkaç yıl önce bile mevcut değildi, ancak hızla büyümesi bekleniyor: The 650 Group'a göre, AI ve bulut sunucularının % 75'i iki yıl içinde PCIe yeniden zamanlayıcıları içerebilir. Bu cihazlar ve sunucular teknoloji standartlarına dayanacak olsa da, mimariler ve tasarımlar buluttan buluta büyük farklılıklar gösterecektir.

Semiler için periyodik tablo

    Ancak, 3nm veya 2nm çipler üretmek için bir platform tasarlamanın 500 milyon dolardan fazlaya mal olabileceği özel yarı iletkenler nasıl yapılır? Büyük dil modellerinin ( LLM'ler ) birkaç ayda bir değiştiği bir pazarda mı? Ve bu teknolojiler, soğuk plaka veya sürükleyici soğutma gibi yeni ortaya çıkan fikirlerle nasıl çalışacak?

    Kulağa ne kadar basit gelse de, temel bileşenlerle başlar. Serileştirici-seri durumdan çıkarıcı ( SerDes ) devreleri, daha önce hiç duymadığınız "dünyanın en önemli teknolojisi" ders kitabıdır. Bu bileşenler, çipler ile anahtarlar ve sunucular gibi altyapı cihazları arasındaki veri akışını kontrol eder. Örneğin bir 800G optik modül, sekiz adet 100G SerDes ile üretilmiştir. Tek bir veri merkezi rafı on binlerce SerDes içerecektir. Bunları ağ oluşturma molekülleri olarak düşünebilirsiniz: Bir bütün olarak sistemin sağlığı üzerinde büyük bir etkiye sahip olan temel yapı taşları. Bitlerin bir SerDes üzerinden iletilmesinde tüketilen pikojoulelerin biraz azaltılması, küresel bir altyapıda önemli ölçüde enerji tasarrufuna dönüşebilir.

    Benzer şekilde, çip paketleme artık çip tasarımında çok büyük bir rol oynamaktadır çünkü bilgi işlem performansını artırmaya devam ederken güç dağıtımını ve veri yollarını düzene sokmak için bir mekanizma sağlar. Bir çipteki gücün % 50'sinden fazlası, çipin içindeki farklı alt sistemler arasındaki verilerin taşınması yoluyla tüketilebilir.

Çip endüstrisi 2.0 mı?

    Gelenek norm haline geldikçe, yeni bir ikilemle de karşı karşıya kalacağız: Bir şirket nasıl özel ürünler sunar ve yine de seri üretimin faydalarından yararlanır? Bugüne kadar, yarı iletken üreticileri çok sayıda küçük bir avuç cihaz üreterek başarılı oldular. "Özel", bir perakendecinin aynı temel süveteri birkaç yeni renkte sunabilmesine benzer şekilde, hızı veya önbellek boyutunu ayarlamak gibi oldukça basit eylemler yapmak anlamına gelirdi.

    İlk adım - ve bunu zaten görüyoruz - özel yarı iletkenlerin geliştirilmesinde yer alan hizmetlerin daha iyi bir tanımı olduğunda gelecek. Bazıları muhtemelen çoğunlukla çip tasarımı ve IP'ye odaklanacak. Yelpazenin diğer ucunda, şirketlerin kaynak bulma ve üretilebilirlik hizmetleri sunduğunu göreceksiniz. Yine de diğerleri belirli cihazlara ve kategorilere odaklanabilir. Yalnızca birkaç seçkin şirket tam hizmet portföyünü sağlayacaktır. Yapay zekanın kendisi de bir rol oynayacak ve tasarım görevleri için gereken süreyi ve maliyeti aylardan çoğu durumda dakikalara indirecektir. Bu da daha fazla müşteriye ve daha fazla çip sınıfına kapı açacaktır.

    Sektör başarılı olacak mı? Elbette. İmkansızı yapmakla ilk kez görevlendirilmiyoruz.

    Raghib Hussain, Marvell Technology de Ürünler ve Teknolojiler Başkanıdır.