Özel AWS çipleri oluşturmak için her şeyi yapan Amazon, üretken yapay zekada Microsoft ve Google'ı takip ediyor

Odaklan

• 1 Microsoft ve Google'ın üretken yapay zeka alanında başı çekmesiyle Amazon da arayı kapatıyor. Şirketin, üretken yapay zekayı eğitmek ve hızlandırmak için Austin, Teksas'ta gizlice iki çip tasarladığı bildirildi.
• 2 Amazon, Inentia ve Trainium tarafından geliştirilen iki özel yonga, Amazon Bulut Hizmetleri AWS müşterilerine, büyük dil modellerini eğitmek için tedarik etmesi giderek zorlaşan Nvidia GPU'larına bir alternatif sunuyor.
• 3 AWS'nin bulut bilişimdeki hakimiyeti Amazon için büyük bir avantaj. AWS, 2022'de pazarın %40'ını oluşturan dünyanın en büyük bulut bilgi işlem sağlayıcısıdır.
• 4 Analistler, Amazon'un özel çiplerinin uzun vadede üretken yapay zeka konusunda Amazon'a avantaj sağlayabileceğine inanıyor.

Austin, Teksas'taki sıradan bir ofis binasındaki iki küçük odada, birkaç Amazon çalışanı, üretken yapay zekayı eğitmek ve hızlandırmak için iki tür mikroçip tasarlıyor. Inentia ve Trainium kod adlı iki özel çip, Amazon Web Services müşterilerine büyük dil modellerini eğitmek için Nvidia grafik işlemcilerine bir alternatif sunuyor. Şu anda, Nvidia'nın grafik işlemcilerini tedarik etmek gittikçe zorlaşıyor ve daha pahalı hale geliyor.

AWS CEO'su Adam Selipsky Haziran ayında yaptığı bir röportajda "İster grafik işleme birimleri ister Amazon'un kendi tasarımları olsun, tüm dünya üretken yapay zeka için daha fazla yonga istiyor" dedi. Müşterilerimize herkesin istediği bu yetenek.”

Ancak diğer şirketler daha hızlı hareket etti, daha fazla para harcadı ve yapay zeka patlamasından borç aldı. OpenAI, geçen Kasım ayında ChatGPT'yi başlattığında, Microsoft, patlayıcı yapay zeka sohbet robotunu barındırması nedeniyle büyük ilgi gördü. Microsoft'un OpenAI'ye 13 milyar dolar yatırım yaptığı bildirildi. Microsoft, üretken yapay zeka modellerini hızla kendi ürünlerine ekledi ve Şubat ayında Bing'e entegre etti.

Aynı ay Google, kendi büyük dil modeli olan Bard'ı piyasaya sürdü ve daha sonra OpenAI rakibi Anthropic'e 300 milyon dolar yatırım yaptı.

Bu yılın Nisan ayına kadar Amazon kendi büyük dil modeli Titan'ı duyurdu ve aynı zamanda geliştiricilerin yazılım yeteneklerini geliştirmek için üretken yapay zekayı kullanmalarına yardımcı olmak için Bedrock adlı bir hizmet başlattı.

Gartner başkan yardımcısı ve analisti Chirag Dekate, "Amazon pazarları kovalamaya değil, onları yaratmaya alışkındır. Sanırım uzun zamandır ilk kez dezavantajlı durumda olduğumu görüyorlar ve şimdi yetişmeye çalışıyorum."

Meta ayrıca kısa bir süre önce kendi büyük dil modeli olan ve artık Microsoft Azure genel bulutunda test edilmeye hazır olan açık kaynaklı bir ChatGPT rakibi olan Llama 2'yi piyasaya sürdü.

Çip "Gerçek Farklılaşmayı" temsil eder

Decatur, uzun vadede Amazon'un özel çiplerinin ona üretken yapay zekada bir avantaj sağlayabileceğini söyledi. "Bence asıl fark, sahip oldukları teknik yetenekler, çünkü Microsoft'ta Trainium veya Interentia yok," diye açıkladı.

Resim: AWS, şu anda en büyük AWS çipi olan özel çip Nitro'yu 2013 yılında üretmeye başladı

2013'te AWS sessizce Nitro adlı özel bir donanım parçasıyla özel çipler üretmeye başladı. Amazon, Nitro'nun şu anda en yüksek kapasiteye sahip AWS çipi olduğunu ve her AWS sunucusunda en az bir tane olduğunu ve toplamda 20 milyonun üzerinde kullanım olduğunu açıkladı.

2015 yılında Amazon, İsrail çip girişimi Annapurna Labs'ı satın aldı. Ardından 2018'de Amazon, AMD ve Nvidia gibi devlerin x86 CPU'larına rakip olan İngiliz çip tasarımcısının Arm mimarisine dayanan bir sunucu çipi olan Graviton'u piyasaya sürdü.

Bernstein Research'te kıdemli bir analist olan Stacy Rasgon, "Arm çipleri, toplam sunucu satışlarının %10'unu temsil edebilir ve bunun önemli bir kısmı Amazon'dan gelecek" dedi. aferin."

Ayrıca 2018'de Amazon, yapay zekaya odaklanan çipleri tanıttı. Google, iki yıl önce ilk Tensör İşlemci Birimi'ni (TPU) piyasaya sürdü. Microsoft, AMD ile geliştirdiği yapay zeka çipi Athena'yı henüz duyurmadı.

Amazon'un Austin, Teksas'ta Trainium ve Inferentia'yı geliştirip test ettiği bir çip laboratuvarı vardır. Şirketin ürünlerden sorumlu başkan yardımcısı Matt Wood, iki çipin ne işe yaradığını açıkladı.

"Makine öğrenimi bu iki farklı aşamaya ayrılır. Bu nedenle, makine öğrenimi modellerini eğitmeniz ve ardından bu eğitilen modeller üzerinde çıkarım yapmanız gerekir. AWS'de makine öğrenimi modellerini eğitmenin diğer yollarıyla karşılaştırıldığında, Tradium in The price/ performans oranı yaklaşık %50 iyileştirildi.”

Trainium, 2019'da ikinci nesil Interentia'nın piyasaya sürülmesinin ardından 2021'de piyasaya çıkıyor. Interentia, müşterilerin "düşük maliyetli, yüksek verimli, düşük gecikmeli makine öğrenimi çıkarımı sağlamasına olanak tanır; bu, üretken bir yapay zeka modeline bir ipucu beslediğinizde elde ettiğiniz tüm tahminlerdir, bunların tümü işlenir ve ardından bir cevap," dedi Wood. "

Bununla birlikte, eğitim modelleri söz konusu olduğunda şimdilik, Nvidia'nın GPU'ları hala tartışmasız kral. Temmuz ayında AWS, Nvidia'nın H100'ünü temel alan yeni yapay zeka hızlandırma donanımını tanıttı.

Rasgon, "Geçtiğimiz 15 yılda Nvidia, çipleri etrafında başka hiçbir şirketin sahip olmadığı devasa bir yazılım ekosistemi kurdu. Şu anda yapay zekanın en büyük galibi Nvidia," dedi.

Resim: Amazon'un özel çipleri, soldan sağa Inferentia, Trainium ve Graviton

Amazon bulut bilgi işlem avantajına sahiptir

Ancak AWS'nin bulut bilişimdeki hakimiyeti Amazon için büyük bir avantaj.

"Amazon'un fazladan ilgiye ihtiyacı yok, şirketin zaten çok güçlü bir bulut tabanlı tabanı var. Yapmaları gereken tek şey, değer yaratma hareketlerine doğru genişleyen müşterileri mevcut hale getirmek için üretken yapay zekayı nasıl kullanacaklarını bulmak."

Amazon, Google ve Microsoft arasında üretken yapay zekayı seçerken milyonlarca AWS müşterisi, Amazon'a zaten aşina oldukları ve başka uygulamaları çalıştırıp orada veri depoladıkları için Amazon'a çekilebilir.

AWS Teknolojiden Sorumlu Başkan Yardımcısı Mai-Lan Tomsen Bukovec, "Bu bir hız meselesidir. Bu şirketlerin bu üretken yapay zeka uygulamalarını ne kadar hızlı geliştirebilecekleri, önce AWS'deki verilerle başlamak ve onu ileri sürmek onlara kalmış." sağladığımız bilgi işlem ve makine öğrenimi araçları."

Gartner tarafından sağlanan verilere göre AWS, 2022'de pazarın %40'ını oluşturan dünyanın en büyük bulut bilgi işlem sağlayıcısıdır. Amazon'un faaliyet karı, arka arkaya üç çeyrektir yıllık bazda düşüş gösterse de, ikinci çeyrekte Amazon'un 7,7 milyar dolarlık faaliyet karının %70'ini AWS oluşturuyor. AWS, geçmişte Google Cloud'dan çok daha yüksek işletme marjlarına sahipti.

Ayrıca AWS, üretken yapay zekaya odaklanan, büyüyen bir geliştirici araçları portföyüne sahiptir. AWS veritabanları, analitik ve makine öğreniminden sorumlu başkan yardımcısı Swami Sivasubramanian şunları söyledi: "Saati geri alalım, hatta ChatGPT öncesine. çünkü temel bir hizmeti 2 ila 3 ayda oluşturmak şöyle dursun, yeni bir çipi bu kadar hızlı tasarlayamazsınız.”

Bedrock, AWS müşterilerinin Anthropic, Stability AI, AI21 Labs ve Amazon Titan tarafından geliştirilen büyük dil modellerine erişmesini sağlar. Sivasubramanian, "Tek bir modelin dünyaya hükmedeceğine inanmıyoruz, müşterilerimizin, doğru iş için doğru aleti seçecekleri için, birden fazla satıcının sunduğu son teknoloji modellere sahip olmalarını istiyoruz" dedi.

Resimde: Austin, Teksas'taki AWS Chip Lab'de Amazon çalışanları özel yapay zeka yongaları geliştiriyor

Amazon'un en yeni AI tekliflerinden biri, Temmuz ayında doktorların üretici AI kullanarak hasta ziyaretlerinin özetlerini hazırlamasına yardımcı olmak için başlatılan bir hizmet olan AWS HealthScribe'dir. Amazon'un ayrıca algoritmalar, modeller ve diğer hizmetler sağlayan SageMaker adlı bir makine öğrenimi merkezi vardır.

Bir diğer önemli araç, Amazon'un geliştiricilerin görevleri ortalama yüzde 57 daha hızlı tamamlamasını sağladığını söylediği CodeWhisperer. Geçen yıl Microsoft, kodlama aracı GitHub Copilot'un üretkenliği artırdığını da bildirdi.

Bu yılın Haziran ayında AWS, 100 milyon $'a üretken bir yapay zeka inovasyon merkezinin kurulduğunu duyurdu. AWS CEO'su Selipsky şunları söyledi: "Üretken yapay zeka teknolojisi isteyen birçok müşterimiz var, ancak kendi işleri bağlamında bunun onlar için ne anlama geldiğini tam olarak bilmiyorlar. Bu nedenle, çözümler sunacağız Çözüm mimarları, mühendisleri, stratejistleri, ve veri bilimcileri, onlarla bire bir çalışıyor."

CEO Jassy, ekibin büyük bir dil modeli oluşturmasına bizzat öncülük etti

AWS şimdiye kadar bir ChatGPT rakibi oluşturmak yerine öncelikle araçlar geliştirmeye odaklanırken, yakın zamanda sızan bir dahili e-posta, Amazon CEO'su Andy Jassy'nin aynı zamanda ölçeklenebilir büyük dil modelleri oluşturan yeni bir merkezi ekibi doğrudan denetlediğini ortaya çıkardı.

İkinci çeyrek kazanç çağrısı sırasında Jassy, AWS'nin işinin "önemli bir bölümünün" artık yapay zeka ve desteklediği ve müşterileri arasında Philips, 3M, Old Mutual ve HSBC'nin de bulunduğu 20'den fazla makine öğrenimi hizmeti tarafından yönlendirildiğini söylemişti.

Yapay zekanın patlaması beraberinde bir dizi güvenlik endişesini de getirdi; şirketler, çalışanların kamuya açık büyük dil modelleri tarafından kullanılan eğitim verilerine özel bilgiler koymasından endişe duyuyor.

AWS CEO'su Selipsky, "Konuştuğum kaç tane Fortune 500 şirketinin ChatGPT'yi devre dışı bıraktığını size söyleyemem," dedi. Yaptığınız her şey, hangi modeli kullanırsanız kullanın, kendi izole sanal özel bulut ortamınızda olacaktır. Şifreli olacak, aynı AWS erişim denetimlerine sahip olacak."

Şu anda Amazon, "100.000'den fazla" müşterinin şu anda AWS'de makine öğrenimi kullandığını iddia ederek yalnızca üretken yapay zekaya geçişini hızlandırıyor. Bu, AWS'nin milyonlarca müşterisinin bir kısmı olsa da analistler bunun değişebileceğini söylüyor.

"Bir dakika, Microsoft üretken yapay zekada zaten lider durumda, hadi oraya gidelim, Altyapı stratejimizi değiştirelim, her şeyi Microsoft'a taşıyalım, diyen şirketler görmüyoruz. Halihazırda bir Amazon müşterisiyseniz, muhtemelen Amazon ekosistemi daha geniş." (Metin / Jinlu)