Resim kaynağı: Unbounded AI aracı tarafından oluşturulmuştur
Çığır açan yeniliklerin ortaya çıkardığı sorunlarla başa çıkma konusunda çok şey öğrendik.
Yapay zekanın ortaya koyduğu riskler çok büyük görünebilir. Akıllı makineler işlerini elinden alan insanlara ne oluyor? Yapay Zeka Seçim Sonuçlarını Etkileyecek mi? Ya geleceğin yapay zekası artık insanlara ihtiyaç olmadığına karar verir ve bizden kurtulmak isterse?
Bunlar meşru sorular ve ortaya çıkardıkları endişelerin ciddiye alınması gerekiyor. Ancak bu sorunları çözebileceğimize inanmak için iyi nedenlerimiz var: Bu, kontrol edilmesi gereken yeni tehditler getiren büyük bir yeniliğin ilk örneği değil ve bunlarla daha önce karşılaştık.
İster otomobilin icadı, ister kişisel bilgisayarın ve internetin yükselişi olsun, insanlar birçok karışıklığa rağmen daha iyiye giden başka dönüştürücü anlar yaşadılar. İlk arabaların yola çıkmasından kısa bir süre sonra ilk kazalar oldu. Ancak arabaları yasaklamak yerine hız sınırlarını, güvenlik standartlarını, ehliyet gerekliliklerini, alkollü araç kullanma yasalarını ve diğer yol kurallarını benimsedik.
Şimdi başka bir derin dönüşümün, yapay zeka çağının ilk aşamalarındayız. Hız limitleri ve emniyet kemerlerinden önceki belirsizlik çağına benziyor. AI o kadar hızlı değişiyor ki bundan sonra ne olacağı belli değil. Mevcut teknolojinin nasıl çalıştığı, insanların onu nasıl kötü amaçla kullanacağı, yapay zekanın toplumu ve bireyleri nasıl değiştireceği konusunda büyük sorularla karşı karşıyayız.
Böyle anlarda huzursuzluk duymanız doğaldır. Ancak tarih, yeni teknolojilerin ortaya çıkardığı zorlukları ele almanın mümkün olduğunu gösteriyor.
Bir keresinde yapay zekanın hayatımızı nasıl tamamen değiştireceğine dair bir makale yazmıştım. Sağlık, eğitim, iklim değişikliği ve daha pek çok alanda geçmişte zorlu görünen sorunların çözülmesine yardımcı olacaktır. Gates Vakfı bunu bir öncelik haline getirdi ve CEO'muz Mark Suzman geçtiğimiz günlerde yapay zekanın eşitsizliği azaltmadaki rolü hakkındaki düşüncelerini paylaştı.
Gelecekte AI'nın faydalarından daha fazla bahsedeceğim, ancak bu gönderide sık sık duyduğum ve okuduğum, birçoğunu paylaştığım bazı endişelere değinmek ve bunları nasıl gördüğümü açıklamak istiyorum.
Şimdiye kadar AI riskleri üzerine yazılan tüm yazılardan açıkça anlaşılan bir şey, hiç kimsenin tüm cevaplara sahip olmadığıdır. Bir başka açık nokta da, yapay zekanın geleceğinin bazılarının sandığı kadar karamsar, bazılarının sandığı kadar pembe olmadığıdır. Riskler gerçek, ancak yönetilebilecekleri konusunda iyimserim. Bu endişelerin her birini ele alırken, aşağıdaki temalara geri döneceğim:
Yapay zekanın ortaya çıkardığı sorunların birçoğunun tarihsel emsali vardır. Örneğin, eğitim üzerinde çok büyük bir etkisi olacak, ancak onlarca yıl önce elde taşınan hesap makineleri ve daha yakın zamanlarda bilgisayarların sınıflara girmesine izin verecek. Geçmiş başarılardan öğrenebiliriz.
Yapay zekanın getirdiği pek çok sorun da yine yapay zeka yardımıyla çözülebilir.
Eski yasaları uyarlamamız ve yenilerini benimsememiz gerekiyor -- tıpkı mevcut dolandırıcılığı önleme yasalarının çevrimiçi dünyaya uyum sağlaması gerektiği gibi.
Bu yazıda, mevcut veya olası risklere odaklanacağım. Günümüzün özel yapay zekasının aksine, herhangi bir konuyu veya görevi öğrenebilen bir yapay zeka geliştirdiğimizde neler olduğunu tartışmayacağım. Bu noktaya ister önümüzdeki on yılda ister bir yüzyılda ulaşalım, toplumun dikkate alması gereken derin soruları var. Süper zeki bir yapay zeka kendi hedeflerini belirlerse ne olur? Ya insanlarla çatışmaya girerlerse? Süper bir yapay zeka oluşturmalı mıyız?
Ancak, bu uzun vadeli riskler hakkında düşünmek, daha acil riskler pahasına olmamalıdır.
Yapay Zeka Tarafından Oluşturulan Derin Sahtekarlıklar ve Yanlış Bilgiler Seçimleri ve Demokrasiyi Yok Edebilir
Yalanları ve dezenformasyonu yaymak için teknolojinin kullanılması yeni bir şey değil. İnsanlar bunu yüzyıllardır kitaplar ve broşürler aracılığıyla yapıyor. Kelime işlemcilerin, lazer yazıcıların, e-posta ve sosyal ağların ortaya çıkmasıyla bu daha kolay hale geldi.
Yapay zeka, sahte metin sorununu alıp genişletti ve neredeyse herkesin derin sahte olarak bilinen sahte ses ve video oluşturabilmesini sağladı. Çocuğunuzun "Kaçırıldım, lütfen önümüzdeki 10 dakika içinde bu banka hesabına 1.000 dolar gönderin ve polisi aramayın" gibi bir sesli mesaj alırsanız, bunun yaratabileceği korkunç duygusal etki olacaktır. aynı şeyi söyleyen bir e-postadan çok daha güçlü.
Daha geniş bir ölçekte, seçimleri etkilemeye çalışmak için yapay zeka tarafından oluşturulan derin sahtekarlıklar kullanılabilir. Elbette, bir seçimin meşru galibi hakkında şüphe uyandırmak için karmaşık bir teknoloji gerekmez, ancak yapay zeka bunu çok daha kolaylaştıracaktır.
Tanınmış politikacıların sahte görüntülerinin sahte videoları şimdiden ortaya çıktı. Seçim sabahı bir adayın banka soyduğunu gösteren bir videonun internette yayıldığını hayal edin. Yanlıştı ama haber kuruluşlarının ve kampanyanın bunu kanıtlaması saatler aldı. Kaç kişi bu videoyu görüp de son dakikada oylarını değiştirecek? Bu, özellikle yarış sıkıysa, teraziyi değiştirebilir.
Son zamanlarda, OpenAI kurucu ortağı Sam Altman bir ABD Senatosu komitesi önünde ifade verdiğinde, her iki partiden senatörler AI'nın seçimler ve demokrasi üzerindeki etkisi hakkında konuştu. Umarım bu konu herkesin gündeminde olmaya devam eder.
Yanlış bilgilendirme ve derin sahtekarlık sorununu kesinlikle çözmedik. Ama iki şey beni temkinli bir şekilde iyimser yapıyor. Birincisi, insanların hiçbir şeyi göründüğü gibi kabul etmemeyi öğrenme yeteneğine sahip olmalarıdır. Yıllardır, e-posta kullanıcıları, büyük ödüller karşılığında kredi kartı numaralarını paylaşmayı vaat eden Nijeryalı prensler gibi poz veren dolandırıcılıklara bulaşmış durumda. Ama sonunda, çoğu insan iki kez düşünmeyi öğrenir. Aldatmalar daha sofistike hale geldikçe, birçok hedef daha aldatıcı hale geldi. Deepfakes için aynı yeteneği geliştirmemiz gerekiyor.
Umutlu bulduğum bir başka şey de, yapay zekanın derin sahteleri belirlemeye ve derin sahteler yaratmaya yardımcı olabilmesi. Örneğin, Intel bir deepfake detektörü geliştirdi ve devlet kurumu DARPA, videonun veya sesin tahrif edilip edilmediğini belirlemek için teknoloji geliştiriyor.
Yinelemeli bir süreç olacak: Biri kalpazanlığı tespit etmenin bir yolunu bulacak, biri buna nasıl karşı koyacağını anlayacak, biri karşı önlemler geliştirecek vb. Mükemmel olmayacak ama aklımızın ucunda da olmayacağız.
AI, insanlara ve hükümetlere saldırmayı kolaylaştıracak
Bugün, bilgisayar korsanları yazılımda istismar edilebilir bir güvenlik açığı bulmayı umduklarında, bunu "kaba kuvvet" ile yapıyorlar - güvenlik açığı keşfedilene kadar kod yazarak ve potansiyel zayıflıklara saldırıyorlar. Bu, birçok dolambaçlı yolu içerir, bu nedenle zaman ve sabır gerektirir.
Bilgisayar korsanlarıyla savaşmak isteyen güvenlik profesyonelleri de aynısını yapmalıdır. Telefonunuza veya dizüstü bilgisayarınıza yüklediğiniz her yazılım yaması, saatlerce süren aramayı temsil eder.
AI modelleri, bilgisayar korsanlarının daha verimli kod yazmasına yardımcı olarak bu süreci hızlandıracak. Ayrıca, şu anda mevcut olandan daha gelişmiş kimlik avı saldırıları geliştirmek için bir bireyin nerede çalıştıkları ve arkadaşları gibi herkese açık bilgilerinden yararlanabilirler.
İyi haber şu ki, AI iki ucu keskin bir kılıçtır. Devlet ve özel sektördeki güvenlik ekiplerinin, güvenlik açıklarını suçlular bunları istismar etmeden önce bulup düzeltmek için en son araçlara sahip olması gerekir. Yazılım güvenliği endüstrisinin bu alanda halihazırda yaptıkları çalışmaları genişleteceğini umuyorum, bu onların bir numaralı endişesi olmalı.
Elbette bazılarının öne sürdüğü gibi insanların yapay zeka alanındaki yeni gelişmeleri uygulamalarını geçici olarak engellemeye çalışmamamızın nedeni de bu. Siber suçlular yeni araçlar yapmaktan vazgeçmeyecek. Yapay zekayı nükleer silah tasarlamak ve biyoterörizm saldırıları için kullanmak isteyenler durmayacak. Onları durdurma çabalarının aynı hızla devam etmesi gerekiyor.
Küresel düzeyde bununla bağlantılı bir risk de var: diğer devletlere karşı siber saldırılar tasarlamak ve başlatmak için kullanılabilecek yapay zeka alanında bir silahlanma yarışı. Her ülkenin hükümeti, düşman saldırılarını caydırmak için mevcut en güçlü teknolojiye sahip olmak ister. Bu "kimseye öncelik vermeme" motivasyonu, giderek daha tehlikeli hale gelen siber silahlar yaratma yarışını ateşleyebilir. İşler herkes için daha da kötüleşecek.
Bu korkutucu bir fikir ama rehber olarak tarihimiz var. Dünyanın nükleer silahların yayılmasını önleme rejimi ne kadar kusurlu olsa da, benim kuşağımın korkarak büyüdüğü topyekun nükleer savaşı engelledi. Hükümetler, Uluslararası Atom Enerjisi Ajansı'na benzer bir küresel AI ajansı oluşturmayı düşünmelidir.
Yapay zeka insanların işlerini alacak
Yapay zekanın önümüzdeki yıllarda iş üzerindeki ana etkisi, insanların işlerini daha verimli yapmalarına yardımcı olmak olacaktır. İster bir fabrikada ister satış görüşmeleri ve borç hesapları ile ilgilenen bir ofiste çalışıyor olun, bu doğrudur. Sonunda, AI kendini iyi ifade edebilecek, e-posta yazabilecek ve gelen kutunuzu sizin için yönetebilecek. Sadece İngilizce veya başka bir dilde bir istek yazarak, istediğiniz PPT'yi alabilirsiniz.
Şubat makalemde tartıştığım gibi, artan üretkenlik toplum için iyidir. İnsanlara işte ve evde başka şeyler yapmaları için daha fazla zaman verir. Yardımsever insanlara olan ihtiyaç asla bitmeyecek - örneğin öğretmek, hastalara bakmak ve yaşlılara bakmak gibi. Ancak yapay zeka odaklı bir iş yerine geçerken bazı çalışanların desteğe ve yeniden eğitime ihtiyacı var. Bu, hükümetlerin ve işletmelerin işidir, böylece işçiler geride kalmaz - Amerikan imalat işleri kaybolduğunda insanların yaşamlarında meydana gelen türden bir aksama olmadan.
Ayrıca, yeni teknolojilerin işgücü piyasasında önemli değişikliklere yol açmasının ilk kez olmadığını unutmayın. Yapay zekanın etkisinin sanayi devrimi kadar büyük olacağını düşünmüyorum, ancak kesinlikle kişisel bilgisayarın piyasaya sürülmesinin etkisine benzer olacak. Kelime işlem uygulamaları ofis işini ortadan kaldırmadı ama onu sonsuza kadar değiştirdi. İşverenler ve çalışanlar uyum sağlamak zorunda kaldılar ve uyum sağladılar. Yapay zekanın getirdiği dönüşüm engebeli bir geçiş olacak, ancak insanların yaşamlarına ve geçim kaynaklarına yönelik kesintileri azaltabileceğimize inanmak için her türlü neden var.
Yapay zeka önyargılarımızı devralacak ve onları uyduracak
Halüsinasyonlar - bir yapay zeka kendinden emin bir şekilde gerçekle eşleşmeyen iddialarda bulunduğunda - genellikle makine isteğinizi anlamadığı için ortaya çıkar. Bir yapay zekadan aya yapılan bir tatil hakkında kısa bir hikaye yazmasını isteyin, size yaratıcı bir cevap verebilir. Ancak AI'dan Tanzanya seyahat planlarınızı sizin için yazmasını isterseniz, sizi var olmayan bir otele gönderebilir.
Yapay zekanın bir başka riski de insanların belirli cinsiyet, ırk, etnik köken vb. hakkındaki önyargılarını yansıtması ve hatta pekiştirmesidir.
Halüsinasyonların ve yanlılığın neden oluştuğunu anlamak için, günümüzde en yaygın AI modellerinin nasıl çalıştığını bilmek önemlidir. Bunlar, temelde, e-posta uygulamanızın yazmak üzere olduğunuz bir sonraki kelimeyi tahmin etmesine izin veren çok gelişmiş kod sürümleridir: çok büyük miktarda metni tararlar -- bazı durumlarda, web'de bulunan metnin neredeyse tamamını -- ve ardından Çözümlemek için insan dilinde kalıplar bulmak.
AI'ya bir soru sorduğunuzda, kullandığınız kelimelere bakar ve ardından genellikle bu kelimelerle ilişkilendirilen metin parçalarını arar. "Krep için malzemeleri listele" yazarsanız, AI "un, şeker, tuz, kabartma tozu, süt ve yumurta" gibi kelimelerin ifadeyle sık sık geçtiğini fark edebilir. Ardından, bu kelimelerin genellikle geçtiği sıra hakkında bildiklerine dayanarak bir cevap üretir. (Bu şekilde çalışan yapay zeka modelleri, sözde Transformers kullanır. GPT-4 böyle bir modeldir).
Bu süreç, AI'nın neden halüsinasyon görebileceğini veya önyargılı olabileceğini açıklıyor. Sorduğun soruyla veya söylediğin şeyle hiçbir ilgisi yok. AI'ya bir hata yaptığını söylerseniz, "özür dilerim, bir yazım hatası yaptım" diyebilir. Ama bu sadece bir yanılsama, gerçekte hiçbir şey girmiyor. Bunu, "özür dilerim, bir yazım hatası yaptım" ifadesinin insanların genellikle başka biri düzelttikten sonra yazdığı bir ifade olduğunu bilecek kadar metni taradığı için söylüyor.
Benzer şekilde, AI modelleri üzerinde eğitildikleri metne gömülü önyargıları miras alır. Eğer biri doktorlar hakkında çok fazla makale okursa ve makalelerde çoğunlukla erkek doktorlardan bahsedilirse, o zaman cevap çoğu doktorun erkek olduğunu varsayar.
Bazı araştırmacılar halüsinasyonların doğuştan gelen bir sorun olduğunu iddia etse de ben buna katılmıyorum. Yapay zeka modellerinin zamanla gerçeği kurgudan ayırt etmeyi öğrenebileceği konusunda iyimserim. Örneğin, OpenAI bu alanda ümit verici araştırmalar yaptı.
Alan Turing Enstitüsü ve Ulusal Standartlar ve Teknoloji Enstitüsü de dahil olmak üzere diğer gruplar da önyargıyı gidermek için çalışıyor. Bir yaklaşım, insani değerleri ve üst düzey muhakemeyi yapay zekaya dönüştürmektir. Kendini tanıyan insanların çalışma şekline benzer: Belki çoğu doktorun erkek olduğunu düşünüyorsunuz, ancak bu varsayımla bilinçli olarak savaşmanız gerektiğini bilecek kadar bilinçlisiniz. Yapay zeka, özellikle modeller farklı geçmişlere sahip kişiler tarafından tasarlanırsa, benzer şekilde çalışabilir.
Sonunda, AI kullanan herkesin önyargı sorununun farkında olması ve bilgili bir kullanıcı olması gerekir. Bir yapay zekadan taslağını hazırlamasını istediğiniz makaleler önyargı ve olgusal hatalarla dolu olabilir. Yapay zekanın önyargılarını kendiniz kadar incelemeniz gerekir.
Öğrenciler yazmayı öğrenmeyecek çünkü yapay zeka onlar için yapacak
Birçok öğretmen, yapay zekanın öğrencilerle işbirliğini bozacağından endişe ediyor. İnternet bağlantısı olan herkesin iyi bir ilk tez taslağı yazmak için yapay zekayı kullanabileceği bir çağda, bir öğrencinin tezini kendisininmiş gibi teslim etmesini ne engelleyebilir?
Bir makalenin bir insan tarafından mı yoksa bir bilgisayar tarafından mı yazıldığını anlamayı öğrenebilen yapay zeka araçları zaten var, böylece öğretmenler öğrencilerin kendi ödevlerini ne zaman yaptığını anlayabilir. Ancak bazı öğretmenler, öğrencilerini yazılarında yapay zeka kullanmaktan caydırmaya çalışmıyor - aslında onu teşvik ediyorlar.
Ocak ayında, Cherie Shields adlı deneyimli bir İngilizce öğretmeni, Eğitim Haftası'nda sınıfında ChatGPT'yi nasıl kullandığını yazdı. ChatGPT, öğrencilerine yazmaya başlamaktan ana hatları yazmaya kadar her konuda yardımcı olur ve hatta ödevleri hakkında geri bildirim sağlar.
"Öğretmenler, AI teknolojisini öğrencilerin kullanabileceği başka bir araç olarak benimsemeli" diye yazdı. "Bir zamanlar öğrencilere nasıl iyi bir Google araması yapılacağını öğrettiğimiz gibi, öğretmenler de ChatGPT botlarının makale yazmaya nasıl yardımcı olabileceği konusunda net dersler tasarlamalıdır. Yapay zekanın varlığını kabul etmek ve öğrencilerin onu kullanmasına yardımcı olmak, öğretme yöntemimizde devrim yaratabilir." Pek sayılmaz. Her öğretmenin yeni araçları öğrenmek ve kullanmak için zamanı vardır, ancak Cherie Shields gibi eğitimciler, zamanı olanların büyük fayda sağlayacağına dair iyi bir argüman sunar.
Bu bana elektronik hesap makinelerinin popüler olduğu 1970'leri ve 1980'leri hatırlatıyor. Bazı matematik öğretmenleri, öğrencilerin temel aritmetiği öğrenmeyi bırakacağından korktu, ancak diğerleri yeni teknolojiyi benimsedi ve aritmetiğin arkasındaki düşünceye odaklandı.
AI ayrıca yazma ve eleştirel düşünme konusunda da yardımcı olabilir. Özellikle halüsinasyonların ve önyargıların hala sorun olduğu ilk günlerde, eğitimciler yapay zekanın makaleler oluşturmasını ve ardından öğrencilerle bunların doğruluğunu kontrol etmesini sağlayabilir. Finansman sağladığım Khan Academy ve OER Projesi gibi eğitimle ilgili kar amacı gütmeyen kuruluşlar, öğretmenlere ve öğrencilere iddiaların test edilmesine büyük önem veren ücretsiz çevrimiçi araçlar sağlıyor. Gerçeği sahteden ayırmayı bilmekten daha önemli bir beceri yoktur.
Eğitim yazılımının başarı farkını kapatmaya yardımcı olduğundan, daha kötü hale getirmediğinden gerçekten emin olmamız gerekiyor. Bugünün yazılımları öncelikle zaten öğrenmeye motive olmuş öğrencilere yöneliktir. Sizin için bir çalışma planı oluşturabilir, sizi iyi kaynaklara yönlendirebilir ve bilginizi test edebilir. Ancak henüz ilginizi çekmeyen konulara sizi nasıl dahil edeceğini henüz bilmiyor. Bu, geliştiricilerin her türden öğrencinin yapay zekadan yararlanabilmesi için ele alması gereken bir sorundur.
**Sıradaki ne? **
Yararlarını en üst düzeye çıkarırken yapay zekanın risklerini yönetebileceğimiz konusunda iyimser olmak için çok daha fazla nedenimiz olduğuna inanıyorum. Ama hızlı hareket etmemiz gerekiyor.
Hükümetlerin, bu yeni teknolojiyle başa çıkmak için bilinçli kanunlar ve düzenlemeler geliştirmek üzere yapay zeka uzmanlığı geliştirmesi gerekiyor. Yanlış bilgi ve derin sahtekarlıklar, güvenlik tehditleri, iş piyasasındaki değişiklikler ve bunun eğitim üzerindeki etkisi ile uğraşmaları gerekiyor. Sadece bir örnek: Herkesin gördüğü veya duyduğu şeyin sahte olduğunu anlaması için, yasanın deepfake'lerin hangi kullanımlarının yasal olduğunu ve deepfake'lerin nasıl etiketlendiğini netleştirmesi gerekiyor.
Siyasi liderlerin seçmenlerle bilinçli, düşünceli bir diyalog kurabilmeleri gerekir. Ayrıca bu konularda tek başlarına gitmek yerine diğer ülkelerle ne kadar işbirliği yapacaklarına da karar vermeleri gerekiyor.
Özel sektörde yapay zeka şirketlerinin güvenli ve sorumlu bir şekilde çalışması gerekiyor. Bu, insanların mahremiyetini korumayı, yapay zeka modellerinin temel insani değerleri yansıtmasını sağlamayı, olabildiğince çok kişiye fayda sağlamak için önyargıyı en aza indirmeyi ve teknolojinin suçlular veya teröristler tarafından istismar edilmesini önlemeyi içerir. Ekonominin birçok sektöründeki şirketler, kimsenin geride kalmaması için çalışanlarının yapay zeka merkezli bir işyerine geçişine yardımcı olmalıdır. Müşteriler her zaman insanlarla değil yapay zeka ile etkileşime girdiklerini bilmelidir.
Son olarak, herkesi yapay zekanın gelişimine mümkün olduğunca çok dikkat etmeye davet ediyorum. Bu, hayatımızda göreceğimiz en dönüştürücü yenilik ve sağlıklı bir kamuoyu tartışması, herkesin bu teknolojiyi, yararlarını ve risklerini anlamasına bağlı olacaktır. Yapay zekanın faydaları muazzam olacak ve riski kontrol edebileceğimize inanmamızın en iyi nedeni, bunu yapmış olmamızdır.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Bill Gates: Yapay zekanın riskleri gerçek ama yönetilebilir
Yazan: Bill Gates
Kaynak: Gatesnotes
Yapay zekanın ortaya koyduğu riskler çok büyük görünebilir. Akıllı makineler işlerini elinden alan insanlara ne oluyor? Yapay Zeka Seçim Sonuçlarını Etkileyecek mi? Ya geleceğin yapay zekası artık insanlara ihtiyaç olmadığına karar verir ve bizden kurtulmak isterse?
Bunlar meşru sorular ve ortaya çıkardıkları endişelerin ciddiye alınması gerekiyor. Ancak bu sorunları çözebileceğimize inanmak için iyi nedenlerimiz var: Bu, kontrol edilmesi gereken yeni tehditler getiren büyük bir yeniliğin ilk örneği değil ve bunlarla daha önce karşılaştık.
İster otomobilin icadı, ister kişisel bilgisayarın ve internetin yükselişi olsun, insanlar birçok karışıklığa rağmen daha iyiye giden başka dönüştürücü anlar yaşadılar. İlk arabaların yola çıkmasından kısa bir süre sonra ilk kazalar oldu. Ancak arabaları yasaklamak yerine hız sınırlarını, güvenlik standartlarını, ehliyet gerekliliklerini, alkollü araç kullanma yasalarını ve diğer yol kurallarını benimsedik.
Şimdi başka bir derin dönüşümün, yapay zeka çağının ilk aşamalarındayız. Hız limitleri ve emniyet kemerlerinden önceki belirsizlik çağına benziyor. AI o kadar hızlı değişiyor ki bundan sonra ne olacağı belli değil. Mevcut teknolojinin nasıl çalıştığı, insanların onu nasıl kötü amaçla kullanacağı, yapay zekanın toplumu ve bireyleri nasıl değiştireceği konusunda büyük sorularla karşı karşıyayız.
Böyle anlarda huzursuzluk duymanız doğaldır. Ancak tarih, yeni teknolojilerin ortaya çıkardığı zorlukları ele almanın mümkün olduğunu gösteriyor.
Bir keresinde yapay zekanın hayatımızı nasıl tamamen değiştireceğine dair bir makale yazmıştım. Sağlık, eğitim, iklim değişikliği ve daha pek çok alanda geçmişte zorlu görünen sorunların çözülmesine yardımcı olacaktır. Gates Vakfı bunu bir öncelik haline getirdi ve CEO'muz Mark Suzman geçtiğimiz günlerde yapay zekanın eşitsizliği azaltmadaki rolü hakkındaki düşüncelerini paylaştı.
Gelecekte AI'nın faydalarından daha fazla bahsedeceğim, ancak bu gönderide sık sık duyduğum ve okuduğum, birçoğunu paylaştığım bazı endişelere değinmek ve bunları nasıl gördüğümü açıklamak istiyorum.
Şimdiye kadar AI riskleri üzerine yazılan tüm yazılardan açıkça anlaşılan bir şey, hiç kimsenin tüm cevaplara sahip olmadığıdır. Bir başka açık nokta da, yapay zekanın geleceğinin bazılarının sandığı kadar karamsar, bazılarının sandığı kadar pembe olmadığıdır. Riskler gerçek, ancak yönetilebilecekleri konusunda iyimserim. Bu endişelerin her birini ele alırken, aşağıdaki temalara geri döneceğim:
Bu yazıda, mevcut veya olası risklere odaklanacağım. Günümüzün özel yapay zekasının aksine, herhangi bir konuyu veya görevi öğrenebilen bir yapay zeka geliştirdiğimizde neler olduğunu tartışmayacağım. Bu noktaya ister önümüzdeki on yılda ister bir yüzyılda ulaşalım, toplumun dikkate alması gereken derin soruları var. Süper zeki bir yapay zeka kendi hedeflerini belirlerse ne olur? Ya insanlarla çatışmaya girerlerse? Süper bir yapay zeka oluşturmalı mıyız?
Ancak, bu uzun vadeli riskler hakkında düşünmek, daha acil riskler pahasına olmamalıdır.
Yapay Zeka Tarafından Oluşturulan Derin Sahtekarlıklar ve Yanlış Bilgiler Seçimleri ve Demokrasiyi Yok Edebilir
Yalanları ve dezenformasyonu yaymak için teknolojinin kullanılması yeni bir şey değil. İnsanlar bunu yüzyıllardır kitaplar ve broşürler aracılığıyla yapıyor. Kelime işlemcilerin, lazer yazıcıların, e-posta ve sosyal ağların ortaya çıkmasıyla bu daha kolay hale geldi.
Yapay zeka, sahte metin sorununu alıp genişletti ve neredeyse herkesin derin sahte olarak bilinen sahte ses ve video oluşturabilmesini sağladı. Çocuğunuzun "Kaçırıldım, lütfen önümüzdeki 10 dakika içinde bu banka hesabına 1.000 dolar gönderin ve polisi aramayın" gibi bir sesli mesaj alırsanız, bunun yaratabileceği korkunç duygusal etki olacaktır. aynı şeyi söyleyen bir e-postadan çok daha güçlü.
Daha geniş bir ölçekte, seçimleri etkilemeye çalışmak için yapay zeka tarafından oluşturulan derin sahtekarlıklar kullanılabilir. Elbette, bir seçimin meşru galibi hakkında şüphe uyandırmak için karmaşık bir teknoloji gerekmez, ancak yapay zeka bunu çok daha kolaylaştıracaktır.
Tanınmış politikacıların sahte görüntülerinin sahte videoları şimdiden ortaya çıktı. Seçim sabahı bir adayın banka soyduğunu gösteren bir videonun internette yayıldığını hayal edin. Yanlıştı ama haber kuruluşlarının ve kampanyanın bunu kanıtlaması saatler aldı. Kaç kişi bu videoyu görüp de son dakikada oylarını değiştirecek? Bu, özellikle yarış sıkıysa, teraziyi değiştirebilir.
Son zamanlarda, OpenAI kurucu ortağı Sam Altman bir ABD Senatosu komitesi önünde ifade verdiğinde, her iki partiden senatörler AI'nın seçimler ve demokrasi üzerindeki etkisi hakkında konuştu. Umarım bu konu herkesin gündeminde olmaya devam eder.
Yanlış bilgilendirme ve derin sahtekarlık sorununu kesinlikle çözmedik. Ama iki şey beni temkinli bir şekilde iyimser yapıyor. Birincisi, insanların hiçbir şeyi göründüğü gibi kabul etmemeyi öğrenme yeteneğine sahip olmalarıdır. Yıllardır, e-posta kullanıcıları, büyük ödüller karşılığında kredi kartı numaralarını paylaşmayı vaat eden Nijeryalı prensler gibi poz veren dolandırıcılıklara bulaşmış durumda. Ama sonunda, çoğu insan iki kez düşünmeyi öğrenir. Aldatmalar daha sofistike hale geldikçe, birçok hedef daha aldatıcı hale geldi. Deepfakes için aynı yeteneği geliştirmemiz gerekiyor.
Umutlu bulduğum bir başka şey de, yapay zekanın derin sahteleri belirlemeye ve derin sahteler yaratmaya yardımcı olabilmesi. Örneğin, Intel bir deepfake detektörü geliştirdi ve devlet kurumu DARPA, videonun veya sesin tahrif edilip edilmediğini belirlemek için teknoloji geliştiriyor.
Yinelemeli bir süreç olacak: Biri kalpazanlığı tespit etmenin bir yolunu bulacak, biri buna nasıl karşı koyacağını anlayacak, biri karşı önlemler geliştirecek vb. Mükemmel olmayacak ama aklımızın ucunda da olmayacağız.
AI, insanlara ve hükümetlere saldırmayı kolaylaştıracak
Bugün, bilgisayar korsanları yazılımda istismar edilebilir bir güvenlik açığı bulmayı umduklarında, bunu "kaba kuvvet" ile yapıyorlar - güvenlik açığı keşfedilene kadar kod yazarak ve potansiyel zayıflıklara saldırıyorlar. Bu, birçok dolambaçlı yolu içerir, bu nedenle zaman ve sabır gerektirir.
Bilgisayar korsanlarıyla savaşmak isteyen güvenlik profesyonelleri de aynısını yapmalıdır. Telefonunuza veya dizüstü bilgisayarınıza yüklediğiniz her yazılım yaması, saatlerce süren aramayı temsil eder.
AI modelleri, bilgisayar korsanlarının daha verimli kod yazmasına yardımcı olarak bu süreci hızlandıracak. Ayrıca, şu anda mevcut olandan daha gelişmiş kimlik avı saldırıları geliştirmek için bir bireyin nerede çalıştıkları ve arkadaşları gibi herkese açık bilgilerinden yararlanabilirler.
İyi haber şu ki, AI iki ucu keskin bir kılıçtır. Devlet ve özel sektördeki güvenlik ekiplerinin, güvenlik açıklarını suçlular bunları istismar etmeden önce bulup düzeltmek için en son araçlara sahip olması gerekir. Yazılım güvenliği endüstrisinin bu alanda halihazırda yaptıkları çalışmaları genişleteceğini umuyorum, bu onların bir numaralı endişesi olmalı.
Elbette bazılarının öne sürdüğü gibi insanların yapay zeka alanındaki yeni gelişmeleri uygulamalarını geçici olarak engellemeye çalışmamamızın nedeni de bu. Siber suçlular yeni araçlar yapmaktan vazgeçmeyecek. Yapay zekayı nükleer silah tasarlamak ve biyoterörizm saldırıları için kullanmak isteyenler durmayacak. Onları durdurma çabalarının aynı hızla devam etmesi gerekiyor.
Küresel düzeyde bununla bağlantılı bir risk de var: diğer devletlere karşı siber saldırılar tasarlamak ve başlatmak için kullanılabilecek yapay zeka alanında bir silahlanma yarışı. Her ülkenin hükümeti, düşman saldırılarını caydırmak için mevcut en güçlü teknolojiye sahip olmak ister. Bu "kimseye öncelik vermeme" motivasyonu, giderek daha tehlikeli hale gelen siber silahlar yaratma yarışını ateşleyebilir. İşler herkes için daha da kötüleşecek.
Bu korkutucu bir fikir ama rehber olarak tarihimiz var. Dünyanın nükleer silahların yayılmasını önleme rejimi ne kadar kusurlu olsa da, benim kuşağımın korkarak büyüdüğü topyekun nükleer savaşı engelledi. Hükümetler, Uluslararası Atom Enerjisi Ajansı'na benzer bir küresel AI ajansı oluşturmayı düşünmelidir.
Yapay zeka insanların işlerini alacak
Yapay zekanın önümüzdeki yıllarda iş üzerindeki ana etkisi, insanların işlerini daha verimli yapmalarına yardımcı olmak olacaktır. İster bir fabrikada ister satış görüşmeleri ve borç hesapları ile ilgilenen bir ofiste çalışıyor olun, bu doğrudur. Sonunda, AI kendini iyi ifade edebilecek, e-posta yazabilecek ve gelen kutunuzu sizin için yönetebilecek. Sadece İngilizce veya başka bir dilde bir istek yazarak, istediğiniz PPT'yi alabilirsiniz.
Şubat makalemde tartıştığım gibi, artan üretkenlik toplum için iyidir. İnsanlara işte ve evde başka şeyler yapmaları için daha fazla zaman verir. Yardımsever insanlara olan ihtiyaç asla bitmeyecek - örneğin öğretmek, hastalara bakmak ve yaşlılara bakmak gibi. Ancak yapay zeka odaklı bir iş yerine geçerken bazı çalışanların desteğe ve yeniden eğitime ihtiyacı var. Bu, hükümetlerin ve işletmelerin işidir, böylece işçiler geride kalmaz - Amerikan imalat işleri kaybolduğunda insanların yaşamlarında meydana gelen türden bir aksama olmadan.
Ayrıca, yeni teknolojilerin işgücü piyasasında önemli değişikliklere yol açmasının ilk kez olmadığını unutmayın. Yapay zekanın etkisinin sanayi devrimi kadar büyük olacağını düşünmüyorum, ancak kesinlikle kişisel bilgisayarın piyasaya sürülmesinin etkisine benzer olacak. Kelime işlem uygulamaları ofis işini ortadan kaldırmadı ama onu sonsuza kadar değiştirdi. İşverenler ve çalışanlar uyum sağlamak zorunda kaldılar ve uyum sağladılar. Yapay zekanın getirdiği dönüşüm engebeli bir geçiş olacak, ancak insanların yaşamlarına ve geçim kaynaklarına yönelik kesintileri azaltabileceğimize inanmak için her türlü neden var.
Yapay zeka önyargılarımızı devralacak ve onları uyduracak
Halüsinasyonlar - bir yapay zeka kendinden emin bir şekilde gerçekle eşleşmeyen iddialarda bulunduğunda - genellikle makine isteğinizi anlamadığı için ortaya çıkar. Bir yapay zekadan aya yapılan bir tatil hakkında kısa bir hikaye yazmasını isteyin, size yaratıcı bir cevap verebilir. Ancak AI'dan Tanzanya seyahat planlarınızı sizin için yazmasını isterseniz, sizi var olmayan bir otele gönderebilir.
Yapay zekanın bir başka riski de insanların belirli cinsiyet, ırk, etnik köken vb. hakkındaki önyargılarını yansıtması ve hatta pekiştirmesidir.
Halüsinasyonların ve yanlılığın neden oluştuğunu anlamak için, günümüzde en yaygın AI modellerinin nasıl çalıştığını bilmek önemlidir. Bunlar, temelde, e-posta uygulamanızın yazmak üzere olduğunuz bir sonraki kelimeyi tahmin etmesine izin veren çok gelişmiş kod sürümleridir: çok büyük miktarda metni tararlar -- bazı durumlarda, web'de bulunan metnin neredeyse tamamını -- ve ardından Çözümlemek için insan dilinde kalıplar bulmak.
AI'ya bir soru sorduğunuzda, kullandığınız kelimelere bakar ve ardından genellikle bu kelimelerle ilişkilendirilen metin parçalarını arar. "Krep için malzemeleri listele" yazarsanız, AI "un, şeker, tuz, kabartma tozu, süt ve yumurta" gibi kelimelerin ifadeyle sık sık geçtiğini fark edebilir. Ardından, bu kelimelerin genellikle geçtiği sıra hakkında bildiklerine dayanarak bir cevap üretir. (Bu şekilde çalışan yapay zeka modelleri, sözde Transformers kullanır. GPT-4 böyle bir modeldir).
Bu süreç, AI'nın neden halüsinasyon görebileceğini veya önyargılı olabileceğini açıklıyor. Sorduğun soruyla veya söylediğin şeyle hiçbir ilgisi yok. AI'ya bir hata yaptığını söylerseniz, "özür dilerim, bir yazım hatası yaptım" diyebilir. Ama bu sadece bir yanılsama, gerçekte hiçbir şey girmiyor. Bunu, "özür dilerim, bir yazım hatası yaptım" ifadesinin insanların genellikle başka biri düzelttikten sonra yazdığı bir ifade olduğunu bilecek kadar metni taradığı için söylüyor.
Benzer şekilde, AI modelleri üzerinde eğitildikleri metne gömülü önyargıları miras alır. Eğer biri doktorlar hakkında çok fazla makale okursa ve makalelerde çoğunlukla erkek doktorlardan bahsedilirse, o zaman cevap çoğu doktorun erkek olduğunu varsayar.
Bazı araştırmacılar halüsinasyonların doğuştan gelen bir sorun olduğunu iddia etse de ben buna katılmıyorum. Yapay zeka modellerinin zamanla gerçeği kurgudan ayırt etmeyi öğrenebileceği konusunda iyimserim. Örneğin, OpenAI bu alanda ümit verici araştırmalar yaptı.
Alan Turing Enstitüsü ve Ulusal Standartlar ve Teknoloji Enstitüsü de dahil olmak üzere diğer gruplar da önyargıyı gidermek için çalışıyor. Bir yaklaşım, insani değerleri ve üst düzey muhakemeyi yapay zekaya dönüştürmektir. Kendini tanıyan insanların çalışma şekline benzer: Belki çoğu doktorun erkek olduğunu düşünüyorsunuz, ancak bu varsayımla bilinçli olarak savaşmanız gerektiğini bilecek kadar bilinçlisiniz. Yapay zeka, özellikle modeller farklı geçmişlere sahip kişiler tarafından tasarlanırsa, benzer şekilde çalışabilir.
Sonunda, AI kullanan herkesin önyargı sorununun farkında olması ve bilgili bir kullanıcı olması gerekir. Bir yapay zekadan taslağını hazırlamasını istediğiniz makaleler önyargı ve olgusal hatalarla dolu olabilir. Yapay zekanın önyargılarını kendiniz kadar incelemeniz gerekir.
Öğrenciler yazmayı öğrenmeyecek çünkü yapay zeka onlar için yapacak
Birçok öğretmen, yapay zekanın öğrencilerle işbirliğini bozacağından endişe ediyor. İnternet bağlantısı olan herkesin iyi bir ilk tez taslağı yazmak için yapay zekayı kullanabileceği bir çağda, bir öğrencinin tezini kendisininmiş gibi teslim etmesini ne engelleyebilir?
Bir makalenin bir insan tarafından mı yoksa bir bilgisayar tarafından mı yazıldığını anlamayı öğrenebilen yapay zeka araçları zaten var, böylece öğretmenler öğrencilerin kendi ödevlerini ne zaman yaptığını anlayabilir. Ancak bazı öğretmenler, öğrencilerini yazılarında yapay zeka kullanmaktan caydırmaya çalışmıyor - aslında onu teşvik ediyorlar.
Ocak ayında, Cherie Shields adlı deneyimli bir İngilizce öğretmeni, Eğitim Haftası'nda sınıfında ChatGPT'yi nasıl kullandığını yazdı. ChatGPT, öğrencilerine yazmaya başlamaktan ana hatları yazmaya kadar her konuda yardımcı olur ve hatta ödevleri hakkında geri bildirim sağlar.
"Öğretmenler, AI teknolojisini öğrencilerin kullanabileceği başka bir araç olarak benimsemeli" diye yazdı. "Bir zamanlar öğrencilere nasıl iyi bir Google araması yapılacağını öğrettiğimiz gibi, öğretmenler de ChatGPT botlarının makale yazmaya nasıl yardımcı olabileceği konusunda net dersler tasarlamalıdır. Yapay zekanın varlığını kabul etmek ve öğrencilerin onu kullanmasına yardımcı olmak, öğretme yöntemimizde devrim yaratabilir." Pek sayılmaz. Her öğretmenin yeni araçları öğrenmek ve kullanmak için zamanı vardır, ancak Cherie Shields gibi eğitimciler, zamanı olanların büyük fayda sağlayacağına dair iyi bir argüman sunar.
Bu bana elektronik hesap makinelerinin popüler olduğu 1970'leri ve 1980'leri hatırlatıyor. Bazı matematik öğretmenleri, öğrencilerin temel aritmetiği öğrenmeyi bırakacağından korktu, ancak diğerleri yeni teknolojiyi benimsedi ve aritmetiğin arkasındaki düşünceye odaklandı.
AI ayrıca yazma ve eleştirel düşünme konusunda da yardımcı olabilir. Özellikle halüsinasyonların ve önyargıların hala sorun olduğu ilk günlerde, eğitimciler yapay zekanın makaleler oluşturmasını ve ardından öğrencilerle bunların doğruluğunu kontrol etmesini sağlayabilir. Finansman sağladığım Khan Academy ve OER Projesi gibi eğitimle ilgili kar amacı gütmeyen kuruluşlar, öğretmenlere ve öğrencilere iddiaların test edilmesine büyük önem veren ücretsiz çevrimiçi araçlar sağlıyor. Gerçeği sahteden ayırmayı bilmekten daha önemli bir beceri yoktur.
Eğitim yazılımının başarı farkını kapatmaya yardımcı olduğundan, daha kötü hale getirmediğinden gerçekten emin olmamız gerekiyor. Bugünün yazılımları öncelikle zaten öğrenmeye motive olmuş öğrencilere yöneliktir. Sizin için bir çalışma planı oluşturabilir, sizi iyi kaynaklara yönlendirebilir ve bilginizi test edebilir. Ancak henüz ilginizi çekmeyen konulara sizi nasıl dahil edeceğini henüz bilmiyor. Bu, geliştiricilerin her türden öğrencinin yapay zekadan yararlanabilmesi için ele alması gereken bir sorundur.
**Sıradaki ne? **
Yararlarını en üst düzeye çıkarırken yapay zekanın risklerini yönetebileceğimiz konusunda iyimser olmak için çok daha fazla nedenimiz olduğuna inanıyorum. Ama hızlı hareket etmemiz gerekiyor.
Hükümetlerin, bu yeni teknolojiyle başa çıkmak için bilinçli kanunlar ve düzenlemeler geliştirmek üzere yapay zeka uzmanlığı geliştirmesi gerekiyor. Yanlış bilgi ve derin sahtekarlıklar, güvenlik tehditleri, iş piyasasındaki değişiklikler ve bunun eğitim üzerindeki etkisi ile uğraşmaları gerekiyor. Sadece bir örnek: Herkesin gördüğü veya duyduğu şeyin sahte olduğunu anlaması için, yasanın deepfake'lerin hangi kullanımlarının yasal olduğunu ve deepfake'lerin nasıl etiketlendiğini netleştirmesi gerekiyor.
Siyasi liderlerin seçmenlerle bilinçli, düşünceli bir diyalog kurabilmeleri gerekir. Ayrıca bu konularda tek başlarına gitmek yerine diğer ülkelerle ne kadar işbirliği yapacaklarına da karar vermeleri gerekiyor.
Özel sektörde yapay zeka şirketlerinin güvenli ve sorumlu bir şekilde çalışması gerekiyor. Bu, insanların mahremiyetini korumayı, yapay zeka modellerinin temel insani değerleri yansıtmasını sağlamayı, olabildiğince çok kişiye fayda sağlamak için önyargıyı en aza indirmeyi ve teknolojinin suçlular veya teröristler tarafından istismar edilmesini önlemeyi içerir. Ekonominin birçok sektöründeki şirketler, kimsenin geride kalmaması için çalışanlarının yapay zeka merkezli bir işyerine geçişine yardımcı olmalıdır. Müşteriler her zaman insanlarla değil yapay zeka ile etkileşime girdiklerini bilmelidir.
Son olarak, herkesi yapay zekanın gelişimine mümkün olduğunca çok dikkat etmeye davet ediyorum. Bu, hayatımızda göreceğimiz en dönüştürücü yenilik ve sağlıklı bir kamuoyu tartışması, herkesin bu teknolojiyi, yararlarını ve risklerini anlamasına bağlı olacaktır. Yapay zekanın faydaları muazzam olacak ve riski kontrol edebileceğimize inanmamızın en iyi nedeni, bunu yapmış olmamızdır.