Amazon bulutu, yapay zeka aracı işlevini başlatarak yapay zekayı yalnızca bir sohbet yerine bir asistan haline getiriyor

Kaynak: Kağıt

Muhabir Shao Wen

Amazon Bedrock'un Aracılar özelliği, şirketlerin yalnızca nerede yemek yeneceklerine ilişkin öneriler almak yerine, restoran rezervasyonları yapmak gibi belirli görevleri otomatikleştirebilen yapay zeka uygulamaları oluşturmasına olanak tanıyacak.

"Pek çok insan bu modellere ve modellerin boyutuna o kadar odaklanmış durumda ki, ancak bence asıl önemli olan onlarla nasıl uygulama geliştirileceği ve bugün Aracılar özelliğini piyasaya sürmemizin büyük bir nedeni de bu."

26 Temmuz'da yerel saatle, Amazon Bulut Teknolojisi Veritabanı, Veri Analizi ve Makine Öğrenimi Küresel Başkan Yardımcısı Swami Sivasubramanian New York Zirvesi'nde konuştu.

Amazon Web Services'ın (AWS) yıllık zirvelerinden biri olan New York Zirvesi'nde, üretici yapay zeka etrafında dönen birkaç duyuru yapıldı. Amazon'un bulut teknolojisi veritabanları, veri analitiği ve makine öğreniminden sorumlu küresel başkan yardımcısı Swami Sivasubramanian, "Bu teknoloji bir devrilme noktasına ulaştı" dedi.

26 Temmuz Doğu Saati ile New York Zirvesi'nde AWS, temel modellerin karmaşık görevleri tamamlamasına yardımcı olmak için üretken bir yapay zeka hizmeti olan Amazon Bedrock'un Aracılar (aracılar) işlevini başlattı. Sivasubramanian, "Bu, şirketlerin yalnızca nerede yemek yenileceğine dair öneriler almak yerine, restoran rezervasyonları yapmak gibi belirli görevleri otomatikleştirebilen yapay zeka uygulamaları oluşturmasına olanak tanıyacak" dedi.

Ayrıca AWS, programlama asistanı Amazon CodeWhisperer, hasta ziyaretlerinden sonra klinik kayıtlar oluşturmak için yeni bir akıllı tıbbi hizmet olan Amazon HealthScribe ve bir analiz hizmeti olan Amazon Entity Resolution gibi yeni yapay zeka araçlarını da kullanıma sundu. Aynı zamanda, hızlandırılmış üretken yapay zeka ve yüksek performanslı bilgi işlem uygulamaları için Amazon EC2 P5 bulut sunucularının resmi olarak kullanıma sunulduğunu duyurdu.

Amazon Cloud Technology'de Üretken Yapay Zekadan Sorumlu Küresel Başkan Yardımcısı Vasi Philomin, The Paper ile tüm sürümler arasında en çok endişelendiği ve gurur duyduğu şeyin Temsilciler işlevi olduğunu paylaştı. modellerin boyutu, ancak bence asıl önemli olan, onlardan nasıl uygulama oluşturduğunuz ve bugün Aracılar özelliğini piyasaya sürmemizin büyük bir nedeni de bu."

Yapay Zeka Temsilcisi Yarışması

OpenAI'nin GPT-4'ü veya Meta'nın Llama 2'si gibi üretken AI modelleri güçlüdür, ancak eklentiler gibi ek yardım olmadan kullanıcı için belirli görevleri fiilen otomatikleştiremezler.

Amazon Bedrock, sunuculara yatırım yapmadan Amazon'un bulut teknolojisinin yanı sıra startup'lardan önceden eğitilmiş modeller aracılığıyla üretken yapay zeka uygulamaları oluşturmanın bir yolunu sunar. Amazon Bedrock'un Aracılar özelliği, şirketlerin temel modelleri öğretmek için kendi verilerini kullanmalarına ve ardından görevleri tamamlamak için başka uygulamalar oluşturmalarına olanak tanır. Geliştirici hangi temel modeli kullanacağını seçebilir, bazı talimatlar verebilir ve modelin hangi verileri okuyacağını seçebilir.

Bu, OpenAI'nin yakın zamanda tanıttığı GPT-4 ve ChatGPT eklenti sistemine benzer; bu sistem, modellerin üçüncü taraf API'lerinden ve veritabanlarından yararlanmasına izin vererek kapasitelerini genişletir. Aslında, son zamanlarda, modelleri kurumsal verilerle zenginleştirmek için Bağlamsal Yapay Zeka oluşturma araçları gibi girişimlerle "kişiselleştirilmiş" üretken modellere doğru bir eğilim olmuştur.

Örneğin, bir seyahat şirketi, seyahat önerileri sağlamak için üretken yapay zekayı kullanabilir, ardından kullanıcının seyahat geçmişini ve ilgi alanlarını almak için başka bir aracı (Temsilciler) oluşturabilir, ardından uçuş programlarını bulmak için bir aracı kullanabilir ve son olarak, seçtiğiniz rezervasyon için bir aracı oluşturabilir. uçuş.

Aracılar konusunda hevesli olan tek kişi AWS değil. Nisan ayında, Meta CEO'su Mark Zuckerberg (Mark Zuckerberg) ayrıca yatırımcılara yapay zeka ajanlarını (Agents) "milyarlarca insana yararlı ve anlamlı bir şekilde" ulaştırma fırsatına sahip olduklarını söyledi. Temmuz ayında OpenAI CEO'su Sam Altman, The Atlantic ile yaptığı bir röportajda yapay zeka aracılarına ve bunların en iyi nasıl uygulanabileceğine değindi.

Reuters, Temmuz ayında "otonom" yapay zeka ajanları (Agents) yarışının Silikon Vadisi'ni kasıp kavurduğunu bildirdi. Haziran sonunda 1,3 milyar dolar fon toplayan Inflection AI adında bir girişimden bahsediyor. Bir podcast'teki kurucularına göre şirket, akıl hocası olarak hareket edebilecek veya seyahat gecikmelerinden sonra uçuş kredisi ve otel kazanma gibi görevleri yerine getirebileceğini söylediği kişisel bir asistan geliştiriyor.

26 Temmuz'da Sivasubramanian medyaya verdiği bir röportajda Sony (SONY), Ryanair (Ryanair) ve Sun Life (Sun Life) gibi müşterilerin Amazon Bedrock'u denediğini söyledi. Sivasubramanian, Amazon Bedrock'un "yakında" tüm müşterilerin kullanımına sunulacağını söyledi. Ne zaman olacağını söylemedi ve şirketin öncelikle maliyet tahsisi ve kurumsal kontrolü ele almayı hedeflediğini ekledi.

Amazon Bedrock hizmeti, Amazon Bedrock'un Amazon Titan'ı (AWS'nin kendi temel modeli) yanı sıra stable.ai, AI21Labs ve Anthropic tarafından oluşturulan modelleri sunduğu Nisan ayında başlatıldı.

Bu kez New York zirvesinde AWS, Cohere'in Anthropic ve Stability AI'nin en son temel model sohbet botuna katılarak temel model tedarikçisi olarak eklendiğini duyurdu. Cohere'in komut metni oluşturma modeli, kullanıcı istemlerini takip etmek ve özetler, transkriptler ve konuşmalar döndürmek için eğitilmiştir ve araç ayrıca bilgi çıkarabilir ve soruları yanıtlayabilir.

AWS platformu, Nvidia H100 çipini çağırabilir

New York zirvesinde AWS, Nvidia'nın H100 yongasıyla desteklenen Amazon EC2 P5 bulut sunucularını da tanıttı. Bir bakıma bu, AWS ile Nvidia arasındaki on yılı aşkın işbirliğinde önemli bir kilometre taşıdır.

H100 GPU'nun dikkate değer özelliklerinden biri, büyük dil modellerinde kullanılan önemli bir teknoloji olan Transformer'ın optimizasyonudur. Amazon EC2 P5 bulut sunucuları, üretken yapay zekayı ve yüksek performanslı bilgi işlem uygulamalarını hızlandırmak için 640 GB yüksek bant genişliğine sahip GPU bellek, 3. nesil AMD EPYC işlemciler, 2 TB sistem belleği ve 30 TB yerel NVMe depolama ile 8 NVIDIA H100 GPU sunar.

Amazon EC2 P5, önceki nesil GPU tabanlı bulut sunucularına kıyasla eğitim süresini 6 kata kadar (günlerden saatlere) düşürür. AWS'ye göre bu performans artışı, önceki nesle kıyasla eğitim maliyetlerini %40 oranında azaltacak.

Aslında, 2013'te ilk Amazon Nitro çipinin piyasaya sürülmesinden bu yana AWS, kendi geliştirdiği çiplere ayak basan ilk bulut satıcısıdır. Halihazırda ağ çipleri, sunucu çipleri ve yapay zeka kendi kendine öğrenen makineden oluşan üç ürün grubuna sahiptir. gelişmiş çipler 2023'ün başlarında, amaca yönelik olarak oluşturulmuş (yongalar arasında doğrudan ultra yüksek hızlı bağlantılar aracılığıyla dağıtılmış çıkarımı destekleyebilen) Amazon Inferentia 2 piyasaya sürüldü ve 175 milyara kadar parametreyi destekleyerek onu büyük ölçekli model çıkarımı için güçlü bir rakip haline getirdi.

Ferromin, Nvidia'nın H100 çipini sağlamanın AWS'nin kendi geliştirdiği çipin çekiciliğini azaltacağından endişe duyup duymadığıyla ilgili olarak Pengpai Technology'ye ("Rekabeti memnuniyetle karşılıyoruz. Donanım birkaç yılda bir daha iyi olacak. Bu bir norm. Büyük bir sorun değil mi? şu anda üretken yapay zeka oldukça pahalı, bu yüzden kimse onu üretim iş yüklerine gerçekten koymuyor, herkes hala deneysel aşamada. Onu gerçekten üretim iş yüklerine koyduktan sonra, maliyetin %90'ının üretildiğini anlayacaklar En iyi senaryo, her aramada para kaybetmemeniz, aslında para kazanmanızdır. Bunu başarmak için rekabet etmemiz gerektiğini düşünüyorum.”