Görüntü kaynağı: Sınırsız Yapay Zeka tarafından oluşturulmuştur
Apple kısa süre önce AI geliştiricilerine M3 çipini sağladı ve artık MacBook'larında milyarlarca parametreye sahip büyük modellerle sorunsuz bir şekilde çalışabiliyorlar. Apple, blog gönderisinde şunları söyledi: "128 GB'a kadar RAM desteği, daha önce dizüstü bilgisayarlarda erişilemeyen iş akışlarının kilidini açıyor." "
Şu anda yalnızca 14 inç MacBook Pro M3, M3 Pro ve M3 Max yongalarını desteklerken, 16 inç MacBook Pro yalnızca M3 Pro ve M3 Max yapılandırmalarını destekliyor. Apple ayrıca, geliştirilmiş Neural Engine'in gizliliği korurken güçlü makine öğrenimi (ML) modellerini hızlandırmaya yardımcı olduğunu iddia ediyor.
Geliştiriciler artık en büyük açık kaynaklı LLM'yi (180 milyar parametreli Falcon) 14 inçlik bir dizüstü bilgisayarda düşük kalite kaybıyla çalıştırabilir.
Ancak, bir dizüstü bilgisayarda açık kaynaklı bir LLM çalıştırmak yeni bir şey değildir. Daha önce, AI insanları da M1'i denedi. Invideo'nun kurucu ortağı ve CTO'su Anshul Khandelwal, MacBook'unda (M1 tarafından desteklenen) 65 milyar parametreli açık kaynaklı bir LLM ile deneyler yaptı. Artık haftada bir kez her şeyin değiştiğini söylüyor. "Gelecekte her teknisyenin yerel bir LLM'ye sahip olması uzun bir yol değil" diye ekliyor.
Perplexity.ai'in kurucu ortağı ve CEO'su Aravind Srinivas, MacBook'lar her M1 çipi için FLOP'lar açısından yeterince güçlü olduğunda, herkesin MacBook kullandığı ve yüksek hızlı intranetlerin düzenlendiği büyük kuruluşların düzenlenmesi ve varlıklarını hükümete bildirmeleri gerekeceği konusunda şaka yaptı.
Yapay Zeka İş Yükleri için M3
Apple, M3 serisi yongaların şu anda M2 serisi yongalardan %15 ve M1 serisi yongalardan %60 daha hızlı olduğunu iddia ediyor. Açıkçası, M2 ve M3 arasında performans ve diğer özellikler açısından yalnızca gözle görülür farklılıklar var. Apple'ın en yeni yongaları aynı sayıda çekirdeğe sahiptir, ancak farklı bir performans ve verimlilik çekirdeği dengesine sahiptir (her biri 6 çekirdek, 8 P ve 4 E) ve 32 GB yerine 36 GB'a kadar belleği destekler.
M3 çipi, 128 GB'a kadar birleşik belleği destekleyerek önceki modeller olan M1 ve M2 çiplerine kıyasla kapasiteyi iki katına çıkarıyor. Bu genişletilmiş bellek kapasitesi, büyük dil modellerini ve karmaşık algoritmaları eğitmek ve yürütmek için önemli bellek kaynakları gerektiren AI/ML iş yükleri için özellikle önemlidir.
M3 çip, gelişmiş bir Neural Engine ve genişletilmiş bellek desteğine ek olarak, yeniden tasarlanmış bir GPU mimarisine sahiptir.
Mimari, dinamik önbelleğe alma, ağ gölgeleme ve ışın izlemeyi birleştirerek üstün performans ve verimlilik için özel olarak üretilmiştir. Bu gelişmeler, AI/ML iş yüklerini hızlandırmak ve genel bilgi işlem verimliliğini optimize etmek için özel olarak tasarlanmıştır.
Geleneksel GPU'lardan farklı olarak yeni M3, yerel belleği gerçek zamanlı olarak kullanan, GPU kullanımını iyileştiren ve zorlu profesyonel uygulamaların ve oyunların performansını önemli ölçüde artıran "Dinamik Önbellek" özelliğine sahip bir GPU'ya sahiptir. **
GPU'nun gücü, oyun geliştiricileri ve Photoshop gibi grafik yoğun uygulamaların veya fotoğraflarla ilgili AI araçlarının kullanıcıları için faydalı olacaktır. Apple, M1 serisi yongalardan 2.5 kata kadar daha hızlı olduğunu, donanım hızlandırmalı ızgara gölgelendirmesine sahip olduğunu ve daha düşük güç tüketimi ile performansı artırdığını iddia ediyor.
Apple ve Dünya
AMD, Intel, Qualcomm ve Nvidia gibi diğerleri, kullanıcıların dizüstü bilgisayarlarda ve PC'lerde büyük yapay zeka iş yüklerini çalıştırmasını sağlayan uç yeteneklerini geliştirmeye büyük yatırımlar yaparken Apple yalnız değil.
Örneğin, AMD kısa süre önce x86 Windows dizüstü bilgisayarlar için ilk yerleşik AI motorunu ve sınıfındaki tek entegre AI motorunu içeren AMD Ryzen AI'yı tanıttı.
Intel ise umutlarını 14. nesil Meteor Gölü'ne bağlıyor. En iyi performans ve güç verimliliği dengesini elde etmek için yüksek performanslı çekirdekler ve düşük güçlü çekirdekler gibi farklı çekirdek türlerini karıştırıp eşleştirebilen döşemeli bir mimariye sahip ilk Intel işlemcidir.
Son zamanlarda Qualcomm, Snapdragon X Elite'i de piyasaya sürdü. Şirketin CEO'su Cristiano Amon, karşılaştırılabilir en yüksek performans ve güç tüketiminde %30'luk bir azalma ile Apple'ın M2 Max çipinden daha iyi performans gösterdiğini iddia ediyor. Aynı zamanda NVIDIA, uç kullanım durumlarına yatırım yapıyor ve Arm teknolojisini kullanarak Microsoft'un Windows işletim sistemiyle uyumlu CPU'lar tasarlamak için sessizce çalışıyor.
Yapay zeka geliştiricileri, yerel olarak dil modellerini giderek daha fazla çalıştırıyor ve deniyor ve bu alanın nasıl geliştiğini izlemek gerçekten büyüleyici. Alandaki en son gelişmeler göz önüne alındığında, Apple yavaş ama emin adımlarla AI geliştiricileri için tercih edilen seçenek haline geliyor.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Apple, en büyük açık kaynaklı LLM'yi (büyük dil modeli) çalıştırmak için AI geliştiricilerinin yeni favorisi haline geldi.
Makale kaynağı: AI Ape
Apple kısa süre önce AI geliştiricilerine M3 çipini sağladı ve artık MacBook'larında milyarlarca parametreye sahip büyük modellerle sorunsuz bir şekilde çalışabiliyorlar. Apple, blog gönderisinde şunları söyledi: "128 GB'a kadar RAM desteği, daha önce dizüstü bilgisayarlarda erişilemeyen iş akışlarının kilidini açıyor." "
Şu anda yalnızca 14 inç MacBook Pro M3, M3 Pro ve M3 Max yongalarını desteklerken, 16 inç MacBook Pro yalnızca M3 Pro ve M3 Max yapılandırmalarını destekliyor. Apple ayrıca, geliştirilmiş Neural Engine'in gizliliği korurken güçlü makine öğrenimi (ML) modellerini hızlandırmaya yardımcı olduğunu iddia ediyor.
Geliştiriciler artık en büyük açık kaynaklı LLM'yi (180 milyar parametreli Falcon) 14 inçlik bir dizüstü bilgisayarda düşük kalite kaybıyla çalıştırabilir.
Ancak, bir dizüstü bilgisayarda açık kaynaklı bir LLM çalıştırmak yeni bir şey değildir. Daha önce, AI insanları da M1'i denedi. Invideo'nun kurucu ortağı ve CTO'su Anshul Khandelwal, MacBook'unda (M1 tarafından desteklenen) 65 milyar parametreli açık kaynaklı bir LLM ile deneyler yaptı. Artık haftada bir kez her şeyin değiştiğini söylüyor. "Gelecekte her teknisyenin yerel bir LLM'ye sahip olması uzun bir yol değil" diye ekliyor.
Perplexity.ai'in kurucu ortağı ve CEO'su Aravind Srinivas, MacBook'lar her M1 çipi için FLOP'lar açısından yeterince güçlü olduğunda, herkesin MacBook kullandığı ve yüksek hızlı intranetlerin düzenlendiği büyük kuruluşların düzenlenmesi ve varlıklarını hükümete bildirmeleri gerekeceği konusunda şaka yaptı.
Yapay Zeka İş Yükleri için M3
Apple, M3 serisi yongaların şu anda M2 serisi yongalardan %15 ve M1 serisi yongalardan %60 daha hızlı olduğunu iddia ediyor. Açıkçası, M2 ve M3 arasında performans ve diğer özellikler açısından yalnızca gözle görülür farklılıklar var. Apple'ın en yeni yongaları aynı sayıda çekirdeğe sahiptir, ancak farklı bir performans ve verimlilik çekirdeği dengesine sahiptir (her biri 6 çekirdek, 8 P ve 4 E) ve 32 GB yerine 36 GB'a kadar belleği destekler.
M3 çipi, 128 GB'a kadar birleşik belleği destekleyerek önceki modeller olan M1 ve M2 çiplerine kıyasla kapasiteyi iki katına çıkarıyor. Bu genişletilmiş bellek kapasitesi, büyük dil modellerini ve karmaşık algoritmaları eğitmek ve yürütmek için önemli bellek kaynakları gerektiren AI/ML iş yükleri için özellikle önemlidir.
M3 çip, gelişmiş bir Neural Engine ve genişletilmiş bellek desteğine ek olarak, yeniden tasarlanmış bir GPU mimarisine sahiptir.
Mimari, dinamik önbelleğe alma, ağ gölgeleme ve ışın izlemeyi birleştirerek üstün performans ve verimlilik için özel olarak üretilmiştir. Bu gelişmeler, AI/ML iş yüklerini hızlandırmak ve genel bilgi işlem verimliliğini optimize etmek için özel olarak tasarlanmıştır.
Geleneksel GPU'lardan farklı olarak yeni M3, yerel belleği gerçek zamanlı olarak kullanan, GPU kullanımını iyileştiren ve zorlu profesyonel uygulamaların ve oyunların performansını önemli ölçüde artıran "Dinamik Önbellek" özelliğine sahip bir GPU'ya sahiptir. **
GPU'nun gücü, oyun geliştiricileri ve Photoshop gibi grafik yoğun uygulamaların veya fotoğraflarla ilgili AI araçlarının kullanıcıları için faydalı olacaktır. Apple, M1 serisi yongalardan 2.5 kata kadar daha hızlı olduğunu, donanım hızlandırmalı ızgara gölgelendirmesine sahip olduğunu ve daha düşük güç tüketimi ile performansı artırdığını iddia ediyor.
Apple ve Dünya
AMD, Intel, Qualcomm ve Nvidia gibi diğerleri, kullanıcıların dizüstü bilgisayarlarda ve PC'lerde büyük yapay zeka iş yüklerini çalıştırmasını sağlayan uç yeteneklerini geliştirmeye büyük yatırımlar yaparken Apple yalnız değil.
Örneğin, AMD kısa süre önce x86 Windows dizüstü bilgisayarlar için ilk yerleşik AI motorunu ve sınıfındaki tek entegre AI motorunu içeren AMD Ryzen AI'yı tanıttı.
Intel ise umutlarını 14. nesil Meteor Gölü'ne bağlıyor. En iyi performans ve güç verimliliği dengesini elde etmek için yüksek performanslı çekirdekler ve düşük güçlü çekirdekler gibi farklı çekirdek türlerini karıştırıp eşleştirebilen döşemeli bir mimariye sahip ilk Intel işlemcidir.
Son zamanlarda Qualcomm, Snapdragon X Elite'i de piyasaya sürdü. Şirketin CEO'su Cristiano Amon, karşılaştırılabilir en yüksek performans ve güç tüketiminde %30'luk bir azalma ile Apple'ın M2 Max çipinden daha iyi performans gösterdiğini iddia ediyor. Aynı zamanda NVIDIA, uç kullanım durumlarına yatırım yapıyor ve Arm teknolojisini kullanarak Microsoft'un Windows işletim sistemiyle uyumlu CPU'lar tasarlamak için sessizce çalışıyor.
Yapay zeka geliştiricileri, yerel olarak dil modellerini giderek daha fazla çalıştırıyor ve deniyor ve bu alanın nasıl geliştiğini izlemek gerçekten büyüleyici. Alandaki en son gelişmeler göz önüne alındığında, Apple yavaş ama emin adımlarla AI geliştiricileri için tercih edilen seçenek haline geliyor.