NVIDIA, üst düzey çiplerin tedarikini önceden kesti ve Çinli şirketlerin bilgi işlem gücü kırıldı

Orijinal kaynak: Silikon bazlı laboratuvar

Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu

17 Ekim'de ABD Ticaret Bakanlığı Sanayi ve Güvenlik Bürosu (BIS), Çin'in önemli üst düzey çip alımına yönelik kısıtlamaları sıkılaştırarak çiplere yeni bir ihracat yasağı getirdi.

Çin'in üst düzey çip ithalatını kısıtlamak, şüphesiz Çin'in teknoloji endüstrisinin gelişimini kısıtlamaktır. Önceki çalışmalar, bilgi işlem gücü endeksindeki her 1 puanlık artış için dijital ekonominin ve GSYİH'nın sırasıyla ‰ 3.5 ve ‰ 1.8 artacağını göstermiştir.

Bununla birlikte, dış kısıtlamaların sıkılaştırılması, Çin'in trilyon doları geçen bilgi işlem gücü endüstrisinin durgunluğuna neden olmadı. **Çin Bilgi ve İletişim Teknolojileri Akademisi'ne göre, 2021'in sonunda, Çin'in temel bilgi işlem gücü endüstrisinin ölçeği 1,5 trilyon yuan'ı ve ilgili endüstrilerin ölçeği 8 trilyon yuan'ı aştı.

Trilyon dolarlık pazarın arkasında, işletmeler ve hükümetler yapay zeka çağını yakalamak için birlikte çalışıyor.

Bir yandan, ChatGPT'nin piyasaya sürülmesinden bu yana, yerli işletmeler ve araştırma enstitüleri, altı aydan biraz fazla bir süre içinde 130'dan fazla büyük modeli piyasaya sürdü ve bunların arasında önde gelen oyuncular büyük modelleri belirli senaryolara uygulamaya ve patlayıcı uygulamalar oluşturmaya başladı.

Öte yandan, bir bilgi işlem gücü tabanı oluşturmak için yerel yönetimler, akıllı bilgi işlem merkezlerinin inşasına başladılar, büyük veri çağında bilgiyi yüksek hızda ortaya koydular, endüstriyel inovasyonu ve yükseltmeyi teşvik ettiler ve büyük modellerle temsil edilen bilimsel ve teknolojik başarıları arayan işletmelerin maliyetini düşürdüler.

Harici çip ticareti yavaş yavaş soğudu ve dahili bilgi işlem gücü piyasası parladı ve iki buz ve ateş cenneti arasında insanlar yardım edemiyor ama merak ediyor:

Çin'in bilgi işlem gücü endüstrisinin çığır açan savaşı hangi şehri ele geçirdi? Bilgi işlem gücü endüstrisi zinciri nasıl kırılır? Bu süreçte hangi firmalar öncü sorumluluğunu üstlendi?

**01 NVIDIA beslemeyi kesti, geometriyi etkiledi mi? **

"Büyük dil modeli, Çin'deki 1,4 milyar insanın çıkarım isteklerini aynı anda işlemek için temel olarak kullanılırsa, gereken bilgi işlem miktarı, Çin'in veri merkezlerinin toplam bilgi işlem gücünü 3 kat aşar. "

Bu yıl Temmuz ayında Şanghay'da düzenlenen 2023 Dünya Yapay Zeka Konferansı'nda (WAIC), Tsinghua Üniversitesi'nde elektronik mühendisliği profesörü olan Wang Yu, yerel bilgi işlem gücü açığının ölçeğini ortaya çıkardı.

Aslında sadece büyük modeller değil, aynı zamanda 5G, akıllı şehirler ve Nesnelerin İnterneti'ndeki çeşitlendirilmiş uygulamaların popülaritesi de veri üretiminin sürekli hızlanmasını beraberinde getirdi.

IDC, Çin'in akıllı bilgi işlem gücünün ölçeğinin 2026'da 1271EFLOPS'a ulaşacağını ve yıllık %69,45'lik bir bileşik büyüme oranına ulaşacağını tahmin ediyor. 2022 sonu itibariyle, New H3C Group ve Çin Bilgi ve İletişim Teknolojileri Akademisi tarafından derlenen "2023 Akıllı Bilgi İşlem Gücü Geliştirme Beyaz Kitabı", toplam yerli bilgi işlem gücünün yalnızca 180EFLOPS olduğunu gösteriyor. (Not: FLOPS, saniyedeki kayan nokta işlemlerini ifade eder ve 1271EFLOPS, saniyede 1271 exascale işlemi anlamına gelir.) ）

** Bilgi işlem gücü kıtlığının mevcut durumunu çözmek için devlet, bilgi işlem gücü altyapısının inşasını hızlandırmak için tüm bölgeleri desteklemek ve yönlendirmek için art arda bir dizi belge yayınladı. **

Bunlar arasında, Ekim ayında yayınlanan Bilgi İşlem Gücü Altyapısının Yüksek Kaliteli Gelişimi için Eylem Planı, bilgi işlem gücü ölçeğinin 2025'te 300EFLOPS'u aşacağını ve bunun büyük model eğitimi için kullanılabilecek akıllı bilgi işlem gücü oranının %35'e ulaşması gerektiğini açıkça belirtiyor.

Şu anda, hükümet tarafından finanse edilen, plandaki 10.13EFLOPS'un toplam bilgi işlem gücüne karşılık gelen yaklaşık 31 akıllı bilgi işlem merkezi var ve toplam yatırım, yaklaşık 47 milyar yuan'lık bir yatırımla, 105E'nin planlanan toplam akıllı bilgi işlem gücü ölçeğinden hala uzak, 50 akıllı bilgi işlem merkezi ve 2.1EFLOPS'un tek merkezli bilgi işlem gücü ölçeği.

**Aslında, sadece Çin'de değil, aynı zamanda dünyada, bilgi işlem gücü sıkıntısı var. OpenAI verilerine göre, model hesaplama hacminin büyüme hızı ile yapay zeka donanım hesaplama gücünün büyüme hızı arasında 10.000 kat fark var. **

Bilgi işlem gücü sıkıntısı ilk olarak GPU'ların hızla yükselen fiyatına katkıda bulundu. Geçen yılın Aralık ayından bu yana NVIDIA A100'ün fiyatı 5 ayda yaklaşık %40 arttı. Bu yılki yeni H100 daha da paha biçilemez.

Sipariş akışı nedeniyle, en yüksek pazar payına sahip GPU üreticisi NVIDIA'nın teslimat döngüsü bir aydan üç ayın üzerine uzatıldı ve hatta bazı siparişler 2024'e kadar teslim edilemeyebilir. Bunun ana nedeni, çip tedarik zincirinin uzun ve parçalanmış olması ve üretim kapasitesini hızlı bir şekilde genişletmenin imkansız olmasıdır.

**ABD yasağının kısıtlamaları nedeniyle, yerli üreticilerin bilgi işlem gücünü genişletme planlarını uygulamak Google, Meta ve OpenAI'den daha zor. **

Nvidia, yeni yasak turunu duyurmadan önce, Çin pazarına, ara bağlantı hızlarını düşüren amiral gemisi bilgi işlem yongaları A800 ve H800'ün "hadım edilmiş versiyonlarını" sağlayarak kısıtlama kurallarını uyarladı.

Ağustos ayında medya, Baidu, Tencent, Alibaba ve ByteDance gibi şirketlerin Nvidia'dan 5 milyar dolarlık çip sipariş ettiğini bildirdi. Bu miktarın 1 milyar doları, bu yıl teslim edilmesi beklenen A800 için sipariş edildi. Kalan 4 milyar dolarlık sipariş ise 2024'te teslim edilecek.

Bu yasağın açıklanmasından sonra, yeni standardı sınırlamak için ilgili bir gereklilik olarak performans yoğunluğu nedeniyle, A800 ve H800 yongaları, standardı aştığı için de tamamen yasaklanacak.

NVIDIA'nın ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) yaptığı güncellenmiş 8-K dosyasında, ABD hükümetinin NVIDIA'nın A100, A800, H100, H800 ve L40S dahil olmak üzere beş GPU yongasına yönelik yasağın geçerlilik süresini Kasım ayının sonundan itibaren hemen yürürlüğe girecek şekilde ilerlettiği belirtiliyor.

**Yukarıdaki değişiklikler, BAT'ın halihazırda sipariş ettiği yaklaşık 100.000 A800 çipinin teslim edilmeyeceği anlamına geliyor. **

Ancak, yerli bilgi işlem gücü altyapısı çok fazla etkilenmiş görünmüyor. Şu anda, yapım aşamasında olan veya tamamlanan yaklaşık 30 akıllı bilgi işlem merkezi var ve bunların çip tedarikçilerinin %50'sinden fazlası Huawei Ascend.

Daha önce, iFLYTEK başkanı Liu Qingfeng, basın toplantısında Huawei Ascend 910B'nin performansının A100 ile kıyaslanabileceğini söyledi.

**Genel olarak, ABD'nin Çin'e yönelik kısıtlamalarının daha da sıkılaştırılması, bazı İnternet devlerinin büyük modellerinin yinelenmesinin ilerlemesini aşağı çekmiş olsa da, yerel bilgi işlem gücü altyapısı hala istikrarlı bir şekilde ilerliyor. **

Ve çip ithal etmenin zorluğu öngörülebilir gelecekte artmaya devam edeceğinden, tedarik zinciri güvenliği hususları için yerli çip üreticilerinin yeni bir geliştirme fırsatları dalgası başlatması bekleniyor.

02 Bilgi İşlem Gücü Atılımı: Solak Kendi Kendine Araştırma, Sağ El Ekolojisi

Uluslararası pazarda genel olarak tanınan tek GPU üreticileri NVIDIA ve AMD olsa da, bu onlardan başka seçenek olmadığı anlamına gelmez.

**ASIC yongalarıyla karşılaştırıldığında, GPU'lar güçlü çok yönlülük avantajına sahiptir ve çeşitli araştırma alanları için uygundur. Bununla birlikte, çeşitli işletmelere bölünmüş, aslında, yalnızca GPU'yu kullanması gereken ve grafik bilgi işlem gücüne ihtiyaç duymayan büyük model çıkarım yeteneği gibi genel bir bilgi işlem gücü ** vardır.

Bu nedenle, birçok üretici kendi ihtiyaçlarına göre bağımsız araştırma ve geliştirme yoluna girmiştir. **

Örneğin, Alibaba bu yıl Mayıs ayında kendi geliştirdiği çipi Hanguang 800'ü piyasaya sürdü ve bu, 10 CPU'ya eşdeğer bilgi işlem gücüyle o dönemde AI çiplerinde en güçlü performans olduğu söyleniyor; Baidu'nun kendi geliştirdiği bulut tam işlevli yapay zeka çipi Kunlun da 3.0'a yükseltildi ve 2024'te seri üretime geçecek.

Kendi geliştirdiği çip şirketleri arasında en gürültülü olanı şüphesiz yukarıda bahsedilen Huawei'dir.

Son zamanlarda, Huawei ve iFLYTEK tarafından ortaklaşa oluşturulan Spark hepsi bir arada makine yeniden zirveye çıkarıldı.

Kamuya açık bilgilere göre, Xinghuo hepsi bir arada makine, 2.5 PFLOPS'luk FP16 bilgi işlem gücü ile eksiksiz bir dolap çözümü sağlamak için Huawei depolama ve ağını kullanan Kunpeng CPU + Ascend GPU'ya dayanıyor. Buna karşılık, büyük model eğitiminde en popüler olan NVIDIA DGX A100 8-GPU, 5PFLOPS FP16 bilgi işlem gücü üretebilir.

"Wisdom", Pangu ve Xunfei Xinghuo gibi belirli büyük model senaryolarında Ascend 910'un A100 80GB PCIe sürümünü biraz aştığını ve yerli değiştirme elde ettiğini bildirdi. Bununla birlikte, çok yönlülük hala yetersizdir ve GPT-3 gibi diğer modellerin Huawei platformunda sorunsuz çalışabilmeleri için derinlemesine optimize edilmeleri gerekir.

Buna ek olarak, bu yaptırım turunda varlık listesine yeni dahil edilen Moore Thread ve Walltech'in de ilgili GPU tek kart ürünleri var ve bazı göstergeler NVIDIA'ya yakın.

ABD yaptırımlarının etkisine ek olarak, kendi geliştirdiği çipler de NVIDIA'ya olan aşırı bağımlılığı zayıflatabilir, işletmelerin stratejik özerkliğini artırabilir ve bilgi işlem gücü ölçeğini rakiplerin önüne geçirmede öncülük edebilir. **

Bunun bir kanıtı, yaptırımlara tabi olmayan Google, OpenAI ve Apple gibi şirketlerin bile kendi çiplerini geliştirme planlarını başlatmış olmalarıdır.

Artık tek bir tedarikçiye tabi olmamak için bazı sunucu üreticileri de yerli bağımsız inovasyon çipleriyle uyumlu açık bir mimari benimsemeye başladı. **

Örneğin, şu anda yerli sunucuların en yüksek pazar payına sahip olan Inspur Information, büyük bilgi işlem gücü, yüksek ara bağlantı ve güçlü genişleme özelliklerine sahip olduğu söylenen açık bir bilgi işlem mimarisi başlattı.

Buna dayanarak, Inspur üç nesil AI sunucu ürünü piyasaya sürdü, 10'dan fazla çip ortağıyla birden fazla AI bilgi işlem ürününün inişini gerçekleştirdi ve 30'dan fazla AI çipini verimli bir şekilde planlayabilen AIStation platformunu başlattı.

**Nesnel olarak konuşursak, sunucu üreticileri bilgi işlem gücü endüstrisi zincirinde nispeten zayıf bir halkadır, yukarı akış çip satın almak için NVIDIA gibi tekel konumlarına sahip uluslararası devlere ihtiyaç duyar ve aşağı akış, yukarıdan aşağıya pazarlık gücünden yoksun olan G-end ve bulut üreticileridir. **

Dolayısıyla, NVIDIA'nın tek bir çeyrekteki gelirinin rekor seviyeye ulaşarak yıllık %101 artışla 13,51 milyar dolara ulaşmasına ve net kârın yıllık %843 artışla 6,188 milyar dolara yükselmesine rağmen, Inspur'un bu yılın ilk yarısındaki net karının hala kırmızıda olduğunu görebiliriz.

** Trilyon piyasa nakitlerine karşı hayatta kalabilmelerini sağlamak için, sunucu satıcıları değerlerini kanıtlamak için hiçbir çabadan kaçınmıyorlar. Özellikle, sunucuların yüksek kullanılabilirliğini, yüksek performansını ve yüksek verimliliğini sağlamak için AI sunucu kümesi yönetimi ve dağıtım çözümleri sağlar.

Aynı zamanda, üreticiler de söz sahibi olma umuduyla endüstri raporları, standartları ve kılavuzları başlatmak için rekabet ediyor.

Sol elinde kendi geliştirdiği çipler ve sağ elinde açık ekoloji ile yerli bilgi işlem gücü endüstrisi zinciri, aralarında hem rekabet hem de işbirliği ile benzeri görülmemiş karmaşık bir durumda.

Uzun vadede, bilgi işlem gücünün atılımındaki asıl belirleyici faktör, ekolojiyi, yazılımı ve donanımı vb. kapsayan, yukarı ve aşağı oyuncuların zorlukların üstesinden birlikte gelmek için bir delik açmasını gerektiren teknolojidir.

Ancak çipin bağımsız yoluna gerçekten girmeden önce, daha kritik olan, bıçaktaki bilgi işlem gücünün her kuruşunun nasıl kullanılacağıdır, bir dereceye kadar, bu sorunun cevabı aynı zamanda gelecekte 100 milyar pazarını kazanacak oyuncuların ana hatlarına da işaret ediyor. **

03 Bilgi işlem gücünü iyi kullanmak en önemli önceliktir

Bilgi işlem gücünü nasıl iyi kullanacağınızı cevaplamadan önce, başka bir soru hakkında düşünmeniz gerekir: bilgi işlem gücünü iyi kullanmak için nasıl kullanılır?

** Yerli bilgi işlem gücü endüstrisinin karşı karşıya olduğu ikilem temel olarak üç yönlüdür: **

** Birincisi, bilgi işlem gücü eksikliği. **Yüksek kaliteli bilgi işlem gücü kaynakları yetersiz ve dağınıktır, GPU artışları sınırlıdır ve stok ciddi şekilde yetersizdir, bu da büyük model eğitimini daha fazla desteklemek zordur ve yavaş yavaş yeni bir "sıkışmış boyun" sorunu haline gelir.

İkincisi, bilgi işlem gücü pahalıdır. **Bilgi işlem gücü altyapısı, büyük ilk yatırım, hızlı teknoloji yinelemesi ve yüksek inşaat eşiği özelliklerine sahip, varlık ağırlıklı ve sermaye yoğun bir endüstridir ve inşaatı ve işletilmesi, küçük ve orta ölçekli işletmelerin kapsamının çok ötesinde büyük zaman ve sermaye maliyetleri gerektirir.

**Üçüncüsü, bilgi işlem gücüne olan talep çeşitlendirilmiş ve parçalanmıştır ve bilgi işlem gücü kaynaklarının arz ve talebi arasında zaman zaman uyumsuzluklar meydana gelir. **

İlk ikilem çözülüyor, ancak bu bir günlük bir çaba değil, bu nedenle bu aşamada, bilgi işlem gücünü kullanmanın gerçek anlamı, bilgi işlem gücünü daha ucuz hale getirmek ve çeşitlendirilmiş ihtiyaçları karşılayabilmek olmalıdır.

Peki, en yaratıcı hamleler hangi şirketlerde?

** Akıllı bilgi işlem merkezi için tüketimi azaltma ve verimliliği artırma açısından, Alibaba'nın "tüm endüstri bilgi işlem gücü zincirini yeşilleştirme" konsepti dört gözle beklemeye değer. **

Hepimizin bildiği gibi, büyük model eğitiminin enerji maliyeti çok yüksektir. Ancak gerçekte, bu gücün yalnızca %20'si hesaplamanın kendisi için kullanılır ve geri kalanı sunucuyu çalışır durumda tutmak için kullanılır. Google'ın 2023 çevre raporu da bunu doğruluyor. Rapora göre Google, 2022'de veri merkezlerini soğutmak için dünyanın günlük içme suyunun 1/4'üne eşdeğer yaklaşık 5,2 milyar galon su tüketti ve bir buçuk West Lakes'i doldurabilir.

Ant Group ve Çin Bilgi ve İletişim Teknolojileri Akademisi (CAICT), daha fazla genel enerji tasarrufu ve emisyon azaltma etkisi elde etmek için, "uçtan uca yeşil bilgi işlem" kavramını ortaya koyan Bilgi İşlem Gücü Uygulamaları için Bilgi İşlem Yeşillendirmesi Üzerine Beyaz Kitap'ı yayınladı.

Özellikle, uçtan uca yeşil bilgi işlem, güç üretiminden, bilgi işlem gücü üretiminden (akıllı bilgi işlem merkezi üreticileri, donanım üreticileri, bulut satıcıları dahil) bilgi işlem gücü uygulamalarına kadar, inşaatın erken aşamasında işletme sırasındaki enerji tüketim maliyetini dikkate almaktır.

Bir dereceye kadar, geçmişteki enerji kullanımının oranına bağlı olarak, yeşillendirici endüstri zincirinin getirdiği maliyet düşüşü, kısa vadede çip teknolojisinin atılımından daha uygun maliyetli olabilir ve bu da küçük ve orta ölçekli işletmelerin dijital zeka yükseltmesine yardımcı olur.

** Bilgi işlem gücü planlaması seviyesini iyileştirme açısından, Huawei, Alibaba, Tencent, Baidu ve diğer işletmelerin hepsi kendi güçlerine katkıda bulundular, ancak aralarında en uyumlu kurumsal genler hala Huawei'dir. **

Şu anda, Çin'deki en temel bilgi işlem gücü planlama projesi, ilk olarak 2021'de "Ulusal Entegre Büyük Veri Merkezi İşbirlikçi İnovasyon Sistemi Bilgi İşlem Güç Merkezi Uygulama Planı"nda açıkça önerilen ve ulusal bilgi işlem güç ağı sisteminin görevini oluşturmayı amaçlayan "Doğu Veri ve Batı Bilgi İşlem" projesidir.

Doğuda batıda veri depolamak ve işlemek, hem arz tarafında hem de dağıtım tarafında büyük zorluklar ortaya çıkarmaktadır.

Örnek olarak yaygın paket kaybı problemini ele alalım.

Birden çok sunucu aynı anda bir sunucuya çok sayıda paket gönderdiğinde, paket sayısı anahtarın önbellek kapasitesini aşar ve paket kaybı meydana gelir, bu da bilgi işlem ve depolama verimliliğini etkiler.

Bu sorunu çözmek için Huawei, veri merkezi ağ anahtarlarına akıllı algoritmalar ekledi, kuyruk derinliği, bant genişliği verimi, trafik modeli ve diğer boyutlar gibi gerçek zamanlı ağ durumu bilgilerini topladı ve akıllı kayıpsız algoritmalar aracılığıyla ideal kuyruk boru hattını dinamik olarak ayarladı, sonunda simülasyon eğitiminden sonra paket kaybı, yüksek performans ve düşük gecikme süresi dengesi elde etti.

Buna ek olarak, Huawei, ulusal hub düğümlerinin tasarımına ve inşasına katılmak için dağıtılmış uyarlanabilir yönlendirme ve akıllı bulut haritası algoritmaları gibi teknolojileri yeniledi.

Yerli büyük modeller binlerce endüstriyi güçlendirme yolunda giderek daha pratik hale geldikçe, "Çin'in bilgi işlem gücü ikilemi nasıl çözülür" sorusu giderek daha önemli hale gelecektir. Çin'in bilgi işlem gücü endüstrisi zincirinin, İnternet devlerinin kendi geliştirdiği kod çiplerini eklemesi, yerli çiplerle inşa edilen bilgi işlem gücü tabanı ve geçmişte değer verilmeyen yazılım ekolojisinin çimlenmesi gibi birçok değişiklik ürettiğini görebiliriz. Bu değişikliklerin arkasında, Çinli işletmelerin teknik engelleri aşma konusundaki azmi ve kararlılığı var.

** Nesnel olarak konuşursak, teknik güç açısından, yerli oyuncuların birinci sınıf üreticilerden hala belirli bir mesafesi var, ancak tüm hızıyla devam eden NVIDIA'nın bile AI çağının ortaya çıkmasından önce uzun yıllar boyunca yaşam ve ölümün kıyısında gezindiği göz ardı edilemez. **

Şafaktan önceki gece en karanlıktır, ancak güneş ışınları zaten ufuktadır.

Kaynaklar:

AI sunucu kıtlığı gerçeği araştırması: fiyat iki günde 300.000 arttı ve hatta "MSG Kralı" pazara girdi|Wisdom Stuff

• Akıllı bilgi işlem gücü, denizaşırı çok modlu yükseltme, katalizörü karşılamak için bilgi işlem gücü uygulaması üst üste bindirilmiş yeni altyapı | Zheshang Menkul Kıymetler*

Teknoloji Zinciri Ustası, Huawei Ekosistemi | TF Menkul Kıymetler

Eğitim talebi patlaması "bilgi işlem gücü için susuzluk" nasıl çözülür | Netinfo Jilin

• ABD'de çip yasağı şiddetlendi! NVIDIA, Intel veya Sınırlı | 21. Yüzyıl Ekonomi Haberleri*