Belki de yapay zekanın büyük modeli gibi bilim ve teknoloji camiasının, hatta birkaç ay içinde tüm toplumun hızla fikir birliğine vardığı bir teknoloji hiç olmadı. Bugün tüm teknoloji devleri ve büyük hükümetler yapay zekanın dünyayı ve her şeyi değiştireceğine neredeyse kesin olarak inanıyor.
Ancak büyük bir fikir birliğinin arkasında hala çok fazla sorun var: Bir yandan bunlar gerçek: iş yerinde ikame, yanlış içeriğin çoğalması ve eşit olmayan kullanım eşikleri, diğer yandan uzun vadeli sorunlar. -insan sanat eserleri terimi.Burada "medeniyete yönelik tehdit" ifade edilmektedir. **"Wired" dergisine göre OpenAI, yapay zeka insanın ekonomik sistemini yok ettiğinde bir finansal belgede bir çıkış mekanizması bile öngördü. **
Bu yılın temmuz ayında, IBM genel merkezinde düzenlenen bir etkinlikte ABD Senatosu Çoğunluk Lideri Chuck Schumer, "en iyi insanları masaya getirmek ve birbirlerinden öğrenmek" için bir dizi yapay zeka konferansı düzenleyeceğini söyledi. , bazı fikir birliğine ve çözümlere varmaya çalışın ve senatörler, personelimiz ve diğerleri sadece dinleyin." ** Sonuçta Schumer, toplantıdaki görüş alışverişlerine dayanarak "Yapay Zeka politikası mevzuatının temelini oluşturmayı" umuyor. **
**İki ay sonra toplantı başladı. **Kapalı toplantıya en iyi teknoloji şirketlerinden 22 katılımcı katıldı. Aralarında OpenAI CEO'su Sam Altman, NVIDIA CEO'su Huang Jenxun ve Google CEO'su Sundar da vardı. Pichai, Meta CEO'su Mark Zuckerberg ve diğerlerinin yanı sıra Microsoft'un kurucusu Bill Gates ve eski Google CEO'su Eric Schmidt, önceki nesil İnternet'in teknoloji liderleri.
Yapay zeka "kontrol edilmeli"
Kimse yapay zekanın muazzam potansiyelini inkar etmeyecek, ancak yapay zekanın riskleri, güvenlik önlemleri, denetimi ve geleceği konusunda hâlâ pek çok fikir birliğine sahip değiliz. Kesin olan tek şey, insanların yapay zekanın barbarca büyümesine tamamen izin veremeyeceğidir. istihbarat.
İlk kapalı toplantıdan ayrıldıktan sonra Tesla, SpaceX ve Neuralink CEO'su Elon Musk, toplantının "tarihi" olduğunu ve yapay zekayı düzenlemek için yeni bir kurum kurma fikrini desteklediğini kamuoyuna açıkladı ve bir kez daha vurguladı. yapay zekanın yarattığı büyük riskler.
Musk, "Yapay zekanın yanlış gitmesinin sonuçları ciddi, bu yüzden reaktif olmak yerine proaktif olmalıyız" dedi ve ekledi: "Sorun aslında uygarlık riskiyle ilgili ve dünyadaki tüm insanlar için potansiyel riskler taşıyor."
Musk, sözde yapay zekanın insan uygarlığına verdiği özel zararın derinlemesine ayrıntısına girmedi; ancak yapay zeka, güç şebekelerinin, su tedarik sistemlerinin ve araç sistemlerinin yönetimi ve kontrolünde daha fazla yer aldığında, hatalar büyük bir riske yol açacaktır. çok fazla sorun var . Bilgisayar bilimcisi ve yapay zeka araştırmacısı Deb Raji de yapay zekanın taraflı kararlarının toplumun her yönünü etkilediğini belirtti.
Dahası, yapay zekaya ilişkin insanlığın uzun süredir devam eden kaygıları da var.
Peki yapay zekanın oluşturduğu riskleri nasıl azaltabilir ve önleyebiliriz? Microsoft Başkanı Brad Smith, özellikle elektrik şebekeleri ve su sistemleri gibi kritik altyapıları yöneten yapay zeka sistemlerinde, yapay zekanın oluşturabileceği büyük risklere karşı bir "acil durum freni" kurmamız gerektiğini öne sürdü. Birçok insanın korktuğu tehditler bilim kurgu malzemesi olarak kalıyor ve yeni bir gerçekliğe dönüşmüyor."**
Brad Smith/Fotoğraf
Smith, tıpkı her binada ve evde bulunan ve gerektiğinde güç sisteminin çalışmasını anında durdurabilen devre kesiciler gibi, insanların bu tür sistemlerden etkilenmemesini sağlamak için yapay zeka sistemlerinin de benzer "acil durum frenlerine" ihtiyaç duyacağına inanıyor.
Tesadüfen, NVIDIA'nın baş bilim adamı ve kıdemli başkan yardımcısı William Dally de bir bilgisayar programı olarak yapay zekanın yol açabileceği hata ve ciddi zarar olasılığının anahtarının "insan katılımında" yattığına, yani insanların programa yerleştirildiğine dikkat çekti. Yapay zeka çalışmalarının temel bağlantılarında yapay zekanın bazı karar verme yetkileri kısıtlanıyor. **
William Daly, fotoğraf/NVIDIA
"Bu yüzden yapay zekayı nasıl konuşlandıracağımıza ve insanları kritik bağlantıya nasıl yerleştireceğimize dikkat ettiğimiz sürece, yapay zekanın kontrolü ele alıp elektrik şebekemizi kapatmadığından veya uçakların gökten düşmesine neden olmadığından emin olabileceğimizi düşünüyorum. "dedi Daly.
**Yapay zeka açık kaynak Pandora'nın kutusu mu olacak? **
Geçen yılın sonunda ChatGPT teknoloji çevrelerinde ilk kez popüler hale geldiğinde, bazı kişiler yapay zeka modellerinin dolandırıcılık gibi kötü niyetli davranışlar için kullanıldığına dair endişelerini dile getirmişti. Açık kaynak "kötüye kullanım" riskini artırıyor gibi görünüyor.
Konferanstaki tartışmalardan biri halk tarafından indirilip değiştirilebilen "açık kaynaklı" yapay zeka modelleri etrafında dönüyordu. Bu modellerin açık kodu, işletmelerin ve araştırmacıların eğitime büyük miktarda para ve kaynak yatırımı yapmadan ChatGPT'nin arkasındakine benzer yapay zeka teknolojisini kullanmalarına olanak tanıyor.
Ancak kötü adamlar, GPT-3.5'ten bu yana açık kaynağı durduran OpenAI de dahil olmak üzere açık kaynaklı yapay zeka sistemlerini de kötüye kullanabilir. OpenAI kurucu ortağı ve baş bilim adamı Ilya Sutskever şunları söyledi: "Birkaç yıl içinde herkes açık kaynaklı yapay zekanın açık kaynak olduğunu görecek İstihbarat akıllıca değildir."
Ilya Sutskever, Jen-Hsun Huang ile GDC'de konuşuyor, fotoğraf/NVIDIA
**Nedeni sorulduğunda şöyle dedi: "Bu modeller çok güçlü ve giderek daha da güçlenecek ve bir noktada birisi isterse bu modellerle çok fazla hasar vermek kolay olabilir." **
Ayrıca DeepMind kurucu ortağı ve Inflection AI CEO'su Mustafa Süleyman da kısa bir süre önce açık kaynağın risklerine değinerek, açık kaynak yapay zekanın temel sorununun "gücün hızlı yayılmasının" olanak sağlayacağına dikkat çekti. tek bir bireyin dünyaya benzeri görülmemiş zararlar verebileceğini ve etki yaratabileceğini belirterek, "Önümüzdeki 20 yıl içinde, saf açık kaynak neredeyse kesinlikle felakete yol açacak." **
Mustafa Süleyman, 图/DeepMind
Ancak Meta açıkça bu ifadelere katılmıyor.**Meta CEO'su Zuckerberg, açık kaynağın "yapay zekayı demokratikleştireceğini, adil rekabete yardımcı olacağını ve bireysel ve kurumsal yeniliği teşvik edeceğini" söyleyerek karşı çıktı. **Fakat aynı zamanda açık kaynak modelinin tehlikeler de getirebileceğini ancak Meta'nın bu teknolojiyi olabildiğince güvenli bir şekilde inşa ettiğini de söyledi.
Yapay zeka açık kaynakla buluştuğunda bu hala açık bir sorudur.
Sonuna yaz
2104 yıl önce, yani Han Hanedanlığı İmparatoru Wu'nun ölümünden yedi yıl sonra, Han sarayı benzeri görülmemiş bir politika istişaresinde bulundu.Temel konulardan biri, İmparator döneminde uygulanan devlete ait tuz ve demir şarap tekeli politikasının kaldırılması ve revize edilmesiydi. Bu amaçla "Altmıştan fazla erdemli ve edebiyatçı"nın yanı sıra imparatorluk sansürü Sang Hongyang gibi hükümet yetkililerine daha sonra "Tuz ve Demir Konferansı" adı verildi. Ancak bu Tuz ve Demir Konferansı esasen Han Hanedanlığı'nın ekonomi politikasının yönünü tartışıyordu.
Temalar farklı olmasına ve çağın ortamı çok farklı olmasına rağmen** ister 2000 yıldan daha uzun bir süre önceki Tuz ve Demir Konferansı olsun, ister mevcut Yapay Zeka İçgörü Forumu olsun, hepimiz çok büyük bir sorunla karşı karşıyayız ve umuyoruz ki Mevzuatın temeli olarak "yetenek grupları" tartışması yoluyla iletişim kurun. **
Resim/Google
Google'ın 25. yıldönümünü kutlayan yakın tarihli bir makalede, mevcut Google CEO'su Sundar Pichai şunu yazdı:
(Google) Bu teknolojilerin toplumumuzu nasıl şekillendireceğine ilişkin önemli tartışmaya katılın ve ardından yanıtları bulmak için birlikte çalışın. Yapay zeka bunun önemli bir parçası. Yapay zekanın insanlara ve topluma fayda sağlama potansiyeli konusunda heyecan duysak da**, tüm erken aşama teknolojiler gibi yapay zekanın da karmaşıklıkları ve riskleri beraberinde getirdiğini biliyoruz. Yapay zekayı geliştirmemiz ve kullanmamız bu riskleri ele almalı ve teknolojinin sorumlu bir şekilde geliştirilmesine yardımcı olmalıdır. **
Birkaç gün sonra Adobe, Cohere, IBM, NVIDIA, Palantir, Salesforce, Scale AI ve Stability'nin de aralarında bulunduğu sekiz şirket, "yapay zeka (AI) teknolojisini sorumlu bir şekilde geliştirmek" için bir anlaşma imzalayan ikinci grup şirket oldu. Çoğu zaman tek bir kişi veya tek bir şirket/hükümet tarafından çözülemeyen sorunlarla karşılaştığımızda "ortak çabaların" değerini anlamamız gerekir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Yapay Zeka Devri'nde küresel yapay zeka devleri Tuz ve Demir Konferansı için bir araya geldiklerinde ne dedi?
Kaynak: Lei Teknolojisi
Belki de yapay zekanın büyük modeli gibi bilim ve teknoloji camiasının, hatta birkaç ay içinde tüm toplumun hızla fikir birliğine vardığı bir teknoloji hiç olmadı. Bugün tüm teknoloji devleri ve büyük hükümetler yapay zekanın dünyayı ve her şeyi değiştireceğine neredeyse kesin olarak inanıyor.
Ancak büyük bir fikir birliğinin arkasında hala çok fazla sorun var: Bir yandan bunlar gerçek: iş yerinde ikame, yanlış içeriğin çoğalması ve eşit olmayan kullanım eşikleri, diğer yandan uzun vadeli sorunlar. -insan sanat eserleri terimi.Burada "medeniyete yönelik tehdit" ifade edilmektedir. **"Wired" dergisine göre OpenAI, yapay zeka insanın ekonomik sistemini yok ettiğinde bir finansal belgede bir çıkış mekanizması bile öngördü. **
Bu yılın temmuz ayında, IBM genel merkezinde düzenlenen bir etkinlikte ABD Senatosu Çoğunluk Lideri Chuck Schumer, "en iyi insanları masaya getirmek ve birbirlerinden öğrenmek" için bir dizi yapay zeka konferansı düzenleyeceğini söyledi. , bazı fikir birliğine ve çözümlere varmaya çalışın ve senatörler, personelimiz ve diğerleri sadece dinleyin." ** Sonuçta Schumer, toplantıdaki görüş alışverişlerine dayanarak "Yapay Zeka politikası mevzuatının temelini oluşturmayı" umuyor. **
**İki ay sonra toplantı başladı. **Kapalı toplantıya en iyi teknoloji şirketlerinden 22 katılımcı katıldı. Aralarında OpenAI CEO'su Sam Altman, NVIDIA CEO'su Huang Jenxun ve Google CEO'su Sundar da vardı. Pichai, Meta CEO'su Mark Zuckerberg ve diğerlerinin yanı sıra Microsoft'un kurucusu Bill Gates ve eski Google CEO'su Eric Schmidt, önceki nesil İnternet'in teknoloji liderleri.
Yapay zeka "kontrol edilmeli"
Kimse yapay zekanın muazzam potansiyelini inkar etmeyecek, ancak yapay zekanın riskleri, güvenlik önlemleri, denetimi ve geleceği konusunda hâlâ pek çok fikir birliğine sahip değiliz. Kesin olan tek şey, insanların yapay zekanın barbarca büyümesine tamamen izin veremeyeceğidir. istihbarat.
İlk kapalı toplantıdan ayrıldıktan sonra Tesla, SpaceX ve Neuralink CEO'su Elon Musk, toplantının "tarihi" olduğunu ve yapay zekayı düzenlemek için yeni bir kurum kurma fikrini desteklediğini kamuoyuna açıkladı ve bir kez daha vurguladı. yapay zekanın yarattığı büyük riskler.
Musk, "Yapay zekanın yanlış gitmesinin sonuçları ciddi, bu yüzden reaktif olmak yerine proaktif olmalıyız" dedi ve ekledi: "Sorun aslında uygarlık riskiyle ilgili ve dünyadaki tüm insanlar için potansiyel riskler taşıyor."
Musk, sözde yapay zekanın insan uygarlığına verdiği özel zararın derinlemesine ayrıntısına girmedi; ancak yapay zeka, güç şebekelerinin, su tedarik sistemlerinin ve araç sistemlerinin yönetimi ve kontrolünde daha fazla yer aldığında, hatalar büyük bir riske yol açacaktır. çok fazla sorun var . Bilgisayar bilimcisi ve yapay zeka araştırmacısı Deb Raji de yapay zekanın taraflı kararlarının toplumun her yönünü etkilediğini belirtti.
Dahası, yapay zekaya ilişkin insanlığın uzun süredir devam eden kaygıları da var.
Peki yapay zekanın oluşturduğu riskleri nasıl azaltabilir ve önleyebiliriz? Microsoft Başkanı Brad Smith, özellikle elektrik şebekeleri ve su sistemleri gibi kritik altyapıları yöneten yapay zeka sistemlerinde, yapay zekanın oluşturabileceği büyük risklere karşı bir "acil durum freni" kurmamız gerektiğini öne sürdü. Birçok insanın korktuğu tehditler bilim kurgu malzemesi olarak kalıyor ve yeni bir gerçekliğe dönüşmüyor."**
Brad Smith/Fotoğraf
Smith, tıpkı her binada ve evde bulunan ve gerektiğinde güç sisteminin çalışmasını anında durdurabilen devre kesiciler gibi, insanların bu tür sistemlerden etkilenmemesini sağlamak için yapay zeka sistemlerinin de benzer "acil durum frenlerine" ihtiyaç duyacağına inanıyor.
Tesadüfen, NVIDIA'nın baş bilim adamı ve kıdemli başkan yardımcısı William Dally de bir bilgisayar programı olarak yapay zekanın yol açabileceği hata ve ciddi zarar olasılığının anahtarının "insan katılımında" yattığına, yani insanların programa yerleştirildiğine dikkat çekti. Yapay zeka çalışmalarının temel bağlantılarında yapay zekanın bazı karar verme yetkileri kısıtlanıyor. **
William Daly, fotoğraf/NVIDIA
"Bu yüzden yapay zekayı nasıl konuşlandıracağımıza ve insanları kritik bağlantıya nasıl yerleştireceğimize dikkat ettiğimiz sürece, yapay zekanın kontrolü ele alıp elektrik şebekemizi kapatmadığından veya uçakların gökten düşmesine neden olmadığından emin olabileceğimizi düşünüyorum. "dedi Daly.
**Yapay zeka açık kaynak Pandora'nın kutusu mu olacak? **
Geçen yılın sonunda ChatGPT teknoloji çevrelerinde ilk kez popüler hale geldiğinde, bazı kişiler yapay zeka modellerinin dolandırıcılık gibi kötü niyetli davranışlar için kullanıldığına dair endişelerini dile getirmişti. Açık kaynak "kötüye kullanım" riskini artırıyor gibi görünüyor.
Konferanstaki tartışmalardan biri halk tarafından indirilip değiştirilebilen "açık kaynaklı" yapay zeka modelleri etrafında dönüyordu. Bu modellerin açık kodu, işletmelerin ve araştırmacıların eğitime büyük miktarda para ve kaynak yatırımı yapmadan ChatGPT'nin arkasındakine benzer yapay zeka teknolojisini kullanmalarına olanak tanıyor.
Ancak kötü adamlar, GPT-3.5'ten bu yana açık kaynağı durduran OpenAI de dahil olmak üzere açık kaynaklı yapay zeka sistemlerini de kötüye kullanabilir. OpenAI kurucu ortağı ve baş bilim adamı Ilya Sutskever şunları söyledi: "Birkaç yıl içinde herkes açık kaynaklı yapay zekanın açık kaynak olduğunu görecek İstihbarat akıllıca değildir."
Ilya Sutskever, Jen-Hsun Huang ile GDC'de konuşuyor, fotoğraf/NVIDIA
**Nedeni sorulduğunda şöyle dedi: "Bu modeller çok güçlü ve giderek daha da güçlenecek ve bir noktada birisi isterse bu modellerle çok fazla hasar vermek kolay olabilir." **
Ayrıca DeepMind kurucu ortağı ve Inflection AI CEO'su Mustafa Süleyman da kısa bir süre önce açık kaynağın risklerine değinerek, açık kaynak yapay zekanın temel sorununun "gücün hızlı yayılmasının" olanak sağlayacağına dikkat çekti. tek bir bireyin dünyaya benzeri görülmemiş zararlar verebileceğini ve etki yaratabileceğini belirterek, "Önümüzdeki 20 yıl içinde, saf açık kaynak neredeyse kesinlikle felakete yol açacak." **
Mustafa Süleyman, 图/DeepMind
Ancak Meta açıkça bu ifadelere katılmıyor.**Meta CEO'su Zuckerberg, açık kaynağın "yapay zekayı demokratikleştireceğini, adil rekabete yardımcı olacağını ve bireysel ve kurumsal yeniliği teşvik edeceğini" söyleyerek karşı çıktı. **Fakat aynı zamanda açık kaynak modelinin tehlikeler de getirebileceğini ancak Meta'nın bu teknolojiyi olabildiğince güvenli bir şekilde inşa ettiğini de söyledi.
Yapay zeka açık kaynakla buluştuğunda bu hala açık bir sorudur.
Sonuna yaz
2104 yıl önce, yani Han Hanedanlığı İmparatoru Wu'nun ölümünden yedi yıl sonra, Han sarayı benzeri görülmemiş bir politika istişaresinde bulundu.Temel konulardan biri, İmparator döneminde uygulanan devlete ait tuz ve demir şarap tekeli politikasının kaldırılması ve revize edilmesiydi. Bu amaçla "Altmıştan fazla erdemli ve edebiyatçı"nın yanı sıra imparatorluk sansürü Sang Hongyang gibi hükümet yetkililerine daha sonra "Tuz ve Demir Konferansı" adı verildi. Ancak bu Tuz ve Demir Konferansı esasen Han Hanedanlığı'nın ekonomi politikasının yönünü tartışıyordu.
Temalar farklı olmasına ve çağın ortamı çok farklı olmasına rağmen** ister 2000 yıldan daha uzun bir süre önceki Tuz ve Demir Konferansı olsun, ister mevcut Yapay Zeka İçgörü Forumu olsun, hepimiz çok büyük bir sorunla karşı karşıyayız ve umuyoruz ki Mevzuatın temeli olarak "yetenek grupları" tartışması yoluyla iletişim kurun. **
Resim/Google
Google'ın 25. yıldönümünü kutlayan yakın tarihli bir makalede, mevcut Google CEO'su Sundar Pichai şunu yazdı:
(Google) Bu teknolojilerin toplumumuzu nasıl şekillendireceğine ilişkin önemli tartışmaya katılın ve ardından yanıtları bulmak için birlikte çalışın. Yapay zeka bunun önemli bir parçası. Yapay zekanın insanlara ve topluma fayda sağlama potansiyeli konusunda heyecan duysak da**, tüm erken aşama teknolojiler gibi yapay zekanın da karmaşıklıkları ve riskleri beraberinde getirdiğini biliyoruz. Yapay zekayı geliştirmemiz ve kullanmamız bu riskleri ele almalı ve teknolojinin sorumlu bir şekilde geliştirilmesine yardımcı olmalıdır. **
Birkaç gün sonra Adobe, Cohere, IBM, NVIDIA, Palantir, Salesforce, Scale AI ve Stability'nin de aralarında bulunduğu sekiz şirket, "yapay zeka (AI) teknolojisini sorumlu bir şekilde geliştirmek" için bir anlaşma imzalayan ikinci grup şirket oldu. Çoğu zaman tek bir kişi veya tek bir şirket/hükümet tarafından çözülemeyen sorunlarla karşılaştığımızda "ortak çabaların" değerini anlamamız gerekir.