Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu
"Teknoloji tembel insanlar tarafından yönlendiriliyor!"
Herkesin bu cümleyi "balık tutarken" veya "düz yatarken" kendilerine bahaneler üretmek için kullandığına inanıyorum.
Buhar makinesinin sanayi devriminden bilgisayarın dijital devrimine kadar, teknolojinin ilerlemesi gerçekten de insanları bazı yönlerden giderek daha düz hale getirdi.
Yeni nesil bir platform olma potansiyeli en yüksek olan yapay zeka teknolojisi, insanları "daha tembel" hale getirecek?
Görünüşe göre evet, ama bu iyi bir haber değil.
Frontiers in Robotics and Artificial Intelligence dergisinde yayınlanan yeni bir araştırmaya göre, insanlar yapay zeka ve makinelerle çalışırken gerçekten "tembel".
Çalışmanın baş yazarı Cymek'e göre, "Takım çalışması hem bir nimet hem de bir lanet olabilir."
Peki, yapay zeka çağında insanlık için en büyük kriz yerini makinelere bırakmak değil, "dejenere olmaya üşenmek" mi?
01 Makine asistanı, bırakın insanlar "gardlarını indirsin"
Makine gibi güçlü bir yardımcı olduğunda, insanoğlunu daha "koca yürekli" hale getirecektir.
Almanya'daki Berlin Teknik Üniversitesi'ndeki araştırmacılar, 42 katılımcıya devre kartlarının bulanık görüntülerini sağladı ve kusurları kontrol etmelerini istedi. Katılımcıların yarısına, uğraştıkları devre kartının "Panda" adlı bir robot tarafından incelendiği ve kusurların işaretlendiği söylendi.
Deney: Simüle Edilmiş Devre Kartlarının Kalite Kontrolü için Görsel Arama Görevi |
Aslında, robot "Panda" deney sırasında kusurların% 94.8'ini tespit etti. Tüm katılımcılara taranan devre kartının aynı 320 görüntüsü verildi ve araştırmacılar katılımcıların hata oranlarına daha yakından baktıklarında, "panda" ile çalışan katılımcıların daha sonra görevde daha az kusura sahip olduklarını buldular çünkü "panda" nın kusurların çoğunu başarıyla işaretlediğini gördüler.
Her iki katılımcı grubu da tahtanın neredeyse tüm yüzeyini inceledi, arama yapmak için zaman harcadı ve çaba düzeylerinin daha yüksek olduğunu değerlendirdi. Sonuç olarak, robotla çalışan katılımcılar ortalama 3.3 kusur buldu ve görevi tek başına tamamlayanlar ortalama 4.23 kusur buldu.
Her iki gruptaki katılımcılar tarafından tespit edilen kusurların ortalama ve standart sapması |
Çalışma, "Bu, katılımcıların robot arkadaşlarıyla çalışırken tahtayı incelemeye daha az özen gösterebileceklerini gösteriyor" dedi. Çalışmamıza katılanlar, devre kartlarını inceleme çabalarını sürdürmüş gibi görünüyordu, ancak incelemenin daha az zihinsel çaba ve örnekleme bilgilerine dikkat edilerek gerçekleştirildiği görülüyor.
Bu, robotun bir parçayı zaten kontrol ettiği ve robotun güvenilirliğini deneyimlediği söylenirse, daha az kusur bulacakları anlamına gelir. Bilinçaltında, "pandaların" kusurları gözden kaçırma olasılığının daha düşük olduğunu ve bunun da "sosyal atalet" etkisine yol açtığını varsayıyorlar.
Bu çalışmanın sonuçları, sıkı kalite kontrolüne dayanan endüstriler için özellikle önemlidir. Yazarlar, muhtemelen robotun doğruluğuna aşırı güvenilmesi nedeniyle insan dikkatinin kısa bir süre gevşemesinin bile güvenliği tehlikeye atabileceği konusunda uyarıyorlar.
Araştırmacı Onnasch, "Daha uzun vardiyalarda, görevler rutin hale geldiğinde ve çalışma ortamı daha az performans izleme ve geri bildirim sağladığında motivasyon kaybı daha fazla olma eğilimindedir. İmalat endüstrisinde, özellikle çifte kontrollerin yaygın olduğu güvenlikle ilgili alanlarda yaygındır ve bu da iş sonuçları üzerinde olumsuz bir etkiye sahip olabilir."
Tabii ki, araştırmacının testinde bazı sınırlamalar vardır. Örneğin, örnek yeterince büyük değildir ve laboratuvarda "sosyal ataleti" simüle etmek zordur çünkü katılımcılar izlendiklerini bilirler. Cymek şöyle açıklıyor: "Ana kısıtlama laboratuvar ortamıdır. İnsan-makine etkileşimindeki güç kaybı sorununun büyüklüğünü anlamak için, laboratuvardan çıkmamız ve hipotezimizi, genellikle robotlarla çalışan deneyimli işçilerle gerçek dünyadaki bir çalışma ortamında test etmemiz gerekiyor."
02 "İnsan-Makine İşbirliği Krizi" Çoktan Meydana Geldi
Aslında, laboratuvarın dışında, insan-makine işbirliğinin neden olduğu "bozulma" gerçek dünyada zaten ortaya çıktı.
Otonom sürüş alanında, tipik olarak otomatik yardımın varlığıyla dikkati dağılan "otomasyon kayıtsızlığı" adı verilen "sosyal atalete" benzer bir fenomen vardır.
Mart 2018'de, ABD'nin Arizona eyaletinde, bir güvenlik görevlisi olan bir Uber sürücüsüz araba, bir bisikletçiye çarptı ve öldürdü. Polis analizi, güvenlik görevlisi yola bakıyor olsaydı, güvenlik görevlisinin kurbanın 12,8 metre önünde durabileceğini ve trajediden kaçınabileceğini buldu.
ABD'de 2018 sürücüsüz ölümler |CNN
Tesla, genellikle kendi kendine sürüşle ilgili kazalar nedeniyle Amerika Birleşik Devletleri'ndeki medyanın ve düzenleyicilerin hedefidir. Tipik bir senaryo, bir Tesla sürücüsünün kendi kendine sürüş özelliğini kullanırken uyuması veya bir oyun oynaması ve ölümcül bir araba kazasına karışmasıdır.
Mevcut yapay zeka çılgınlığında, makinelerin insanların yerini alacağı tahmini gerçeğe giderek yaklaşıyor. Bir taraf makinelerin insanlara hizmet edeceğine inanırken, diğer taraf insanların yanlışlıkla kötü bir şey yaratacağına inanıyor.
Tıp alanında, IBM'in yapay zeka sistemi "Doctor Watson", kanser hastalarına güvenli olmayan ilaç tavsiyeleri verdi. Bu yıl, bir makale, üretken yapay zekanın ABD Tıbbi Lisanslama Sınavının üç bölümünü geçtiğine dikkat çekti. Benzer bir göç hipotezi, eğer yapay zeka gelecekte insanları teşhis eder ve tedavi ederse ve daha sonra insan doktorlar kontrolleri yaparsa, insan doktorların "sosyal atalet" ve "otomatik kayıtsızlık" sorunu olacak mı?
Çalışmanın yazarları şunları kaydetti: "İnsanların ve robotların yeteneklerini birleştirmek açıkça birçok fırsat sunuyor, ancak insan-makine ekiplerinde meydana gelebilecek istenmeyen sürü etkilerini de göz önünde bulundurmalıyız. İnsanlar ve robotlar bir görev üzerinde çalıştığında, bu durum insan ekip arkadaşları için motivasyon kaybına yol açabilir ve sosyal atalet gibi etkileri daha olası hale getirebilir."
Yapay zekanın insan düşüncesini ve yaratıcılığını etkileyebileceği, insan ilişkilerini zayıflatabileceği ve bir bütün olarak gerçeklikten uzaklaşabileceği endişeleri de var. Silikon Vadisi'nin üretken yapay zeka yıldız girişimi Inflection, arkadaş canlısı ve destekleyici bir arkadaş olarak tasarlanan sohbet robotu Pi'yi piyasaya sürdü. Kuruculara göre Pi, insanların yalnızlıkla başa çıkmalarına yardımcı olan bir araçtır ve güvenilecek bir kişi olarak kullanılabilir. Eleştirmenler, insanların gerçek insanlarla etkileşime girmek yerine gerçeklikten kaçmasına izin verdiğini savunuyor.
Şimdi, insanlar ve araçlar arasındaki ilişki yeni bir seviyeye evrildi. İnsanları ev temizliğinden kurtaran süpürücüler ve insanları artık telefon numaralarını yazmak zorunda bırakmayan cep telefonları gibi tüm araçların doğuşu aslında insanları tembelleştirdi.
Ancak yapay zeka teknolojisi ile önceki teknoloji arasındaki fark, düşünme ve seçim işinin daha fazlasının, temelde bir kara kutu olan ve daha çok düşünme özerkliğinin aktarılması gibi olan yapay zekaya verilmesidir. İnsanlar sürüş kararlarını tamamen otonom sürüşe ve tıbbi teşhisleri yapay zeka sistemlerine bıraktığında, potansiyel maliyet, telefon numaralarını hatırlayamamanın maliyetinden tamamen farklı olabilir.
Tarihteki ilk sohbet robotunu geliştiren bilgisayar bilimcisi Joseph Wiesenbaum, bilimi "bağımlılık yapan bir ilaca" benzetti ve bilgisayarları karmaşık insan faaliyetlerine sokmak gibi artan dozlar nedeniyle "kronik bir zehir" haline geldi ve geri dönüşü olmayabilir.
İnsanlar düşünme ve yargılama gücünü makinelere bir tür "referans" olarak verdiğinde, "toplumsal atalet" ve "otomatik kayıtsızlık" şeytanı da içinde pusuya yatabilir ve görevlerin tekrarlanmasıyla kronik bir zehir haline gelebilir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Nerede diz çöktün? İnsanların ve yapay zekanın işbirliği yapmasının tehlikeleri nelerdir?
Orijinal kaynak: Geek Park
Yazar: Xinxin
"Teknoloji tembel insanlar tarafından yönlendiriliyor!"
Herkesin bu cümleyi "balık tutarken" veya "düz yatarken" kendilerine bahaneler üretmek için kullandığına inanıyorum.
Buhar makinesinin sanayi devriminden bilgisayarın dijital devrimine kadar, teknolojinin ilerlemesi gerçekten de insanları bazı yönlerden giderek daha düz hale getirdi.
Yeni nesil bir platform olma potansiyeli en yüksek olan yapay zeka teknolojisi, insanları "daha tembel" hale getirecek?
Görünüşe göre evet, ama bu iyi bir haber değil.
Frontiers in Robotics and Artificial Intelligence dergisinde yayınlanan yeni bir araştırmaya göre, insanlar yapay zeka ve makinelerle çalışırken gerçekten "tembel".
Çalışmanın baş yazarı Cymek'e göre, "Takım çalışması hem bir nimet hem de bir lanet olabilir."
Peki, yapay zeka çağında insanlık için en büyük kriz yerini makinelere bırakmak değil, "dejenere olmaya üşenmek" mi?
01 Makine asistanı, bırakın insanlar "gardlarını indirsin"
Makine gibi güçlü bir yardımcı olduğunda, insanoğlunu daha "koca yürekli" hale getirecektir.
Almanya'daki Berlin Teknik Üniversitesi'ndeki araştırmacılar, 42 katılımcıya devre kartlarının bulanık görüntülerini sağladı ve kusurları kontrol etmelerini istedi. Katılımcıların yarısına, uğraştıkları devre kartının "Panda" adlı bir robot tarafından incelendiği ve kusurların işaretlendiği söylendi.
Aslında, robot "Panda" deney sırasında kusurların% 94.8'ini tespit etti. Tüm katılımcılara taranan devre kartının aynı 320 görüntüsü verildi ve araştırmacılar katılımcıların hata oranlarına daha yakından baktıklarında, "panda" ile çalışan katılımcıların daha sonra görevde daha az kusura sahip olduklarını buldular çünkü "panda" nın kusurların çoğunu başarıyla işaretlediğini gördüler.
Her iki katılımcı grubu da tahtanın neredeyse tüm yüzeyini inceledi, arama yapmak için zaman harcadı ve çaba düzeylerinin daha yüksek olduğunu değerlendirdi. Sonuç olarak, robotla çalışan katılımcılar ortalama 3.3 kusur buldu ve görevi tek başına tamamlayanlar ortalama 4.23 kusur buldu.
Çalışma, "Bu, katılımcıların robot arkadaşlarıyla çalışırken tahtayı incelemeye daha az özen gösterebileceklerini gösteriyor" dedi. Çalışmamıza katılanlar, devre kartlarını inceleme çabalarını sürdürmüş gibi görünüyordu, ancak incelemenin daha az zihinsel çaba ve örnekleme bilgilerine dikkat edilerek gerçekleştirildiği görülüyor.
Bu, robotun bir parçayı zaten kontrol ettiği ve robotun güvenilirliğini deneyimlediği söylenirse, daha az kusur bulacakları anlamına gelir. Bilinçaltında, "pandaların" kusurları gözden kaçırma olasılığının daha düşük olduğunu ve bunun da "sosyal atalet" etkisine yol açtığını varsayıyorlar.
Bu çalışmanın sonuçları, sıkı kalite kontrolüne dayanan endüstriler için özellikle önemlidir. Yazarlar, muhtemelen robotun doğruluğuna aşırı güvenilmesi nedeniyle insan dikkatinin kısa bir süre gevşemesinin bile güvenliği tehlikeye atabileceği konusunda uyarıyorlar.
Araştırmacı Onnasch, "Daha uzun vardiyalarda, görevler rutin hale geldiğinde ve çalışma ortamı daha az performans izleme ve geri bildirim sağladığında motivasyon kaybı daha fazla olma eğilimindedir. İmalat endüstrisinde, özellikle çifte kontrollerin yaygın olduğu güvenlikle ilgili alanlarda yaygındır ve bu da iş sonuçları üzerinde olumsuz bir etkiye sahip olabilir."
Tabii ki, araştırmacının testinde bazı sınırlamalar vardır. Örneğin, örnek yeterince büyük değildir ve laboratuvarda "sosyal ataleti" simüle etmek zordur çünkü katılımcılar izlendiklerini bilirler. Cymek şöyle açıklıyor: "Ana kısıtlama laboratuvar ortamıdır. İnsan-makine etkileşimindeki güç kaybı sorununun büyüklüğünü anlamak için, laboratuvardan çıkmamız ve hipotezimizi, genellikle robotlarla çalışan deneyimli işçilerle gerçek dünyadaki bir çalışma ortamında test etmemiz gerekiyor."
02 "İnsan-Makine İşbirliği Krizi" Çoktan Meydana Geldi
Aslında, laboratuvarın dışında, insan-makine işbirliğinin neden olduğu "bozulma" gerçek dünyada zaten ortaya çıktı.
Otonom sürüş alanında, tipik olarak otomatik yardımın varlığıyla dikkati dağılan "otomasyon kayıtsızlığı" adı verilen "sosyal atalete" benzer bir fenomen vardır.
Mart 2018'de, ABD'nin Arizona eyaletinde, bir güvenlik görevlisi olan bir Uber sürücüsüz araba, bir bisikletçiye çarptı ve öldürdü. Polis analizi, güvenlik görevlisi yola bakıyor olsaydı, güvenlik görevlisinin kurbanın 12,8 metre önünde durabileceğini ve trajediden kaçınabileceğini buldu.
Tesla, genellikle kendi kendine sürüşle ilgili kazalar nedeniyle Amerika Birleşik Devletleri'ndeki medyanın ve düzenleyicilerin hedefidir. Tipik bir senaryo, bir Tesla sürücüsünün kendi kendine sürüş özelliğini kullanırken uyuması veya bir oyun oynaması ve ölümcül bir araba kazasına karışmasıdır.
Mevcut yapay zeka çılgınlığında, makinelerin insanların yerini alacağı tahmini gerçeğe giderek yaklaşıyor. Bir taraf makinelerin insanlara hizmet edeceğine inanırken, diğer taraf insanların yanlışlıkla kötü bir şey yaratacağına inanıyor.
Tıp alanında, IBM'in yapay zeka sistemi "Doctor Watson", kanser hastalarına güvenli olmayan ilaç tavsiyeleri verdi. Bu yıl, bir makale, üretken yapay zekanın ABD Tıbbi Lisanslama Sınavının üç bölümünü geçtiğine dikkat çekti. Benzer bir göç hipotezi, eğer yapay zeka gelecekte insanları teşhis eder ve tedavi ederse ve daha sonra insan doktorlar kontrolleri yaparsa, insan doktorların "sosyal atalet" ve "otomatik kayıtsızlık" sorunu olacak mı?
Çalışmanın yazarları şunları kaydetti: "İnsanların ve robotların yeteneklerini birleştirmek açıkça birçok fırsat sunuyor, ancak insan-makine ekiplerinde meydana gelebilecek istenmeyen sürü etkilerini de göz önünde bulundurmalıyız. İnsanlar ve robotlar bir görev üzerinde çalıştığında, bu durum insan ekip arkadaşları için motivasyon kaybına yol açabilir ve sosyal atalet gibi etkileri daha olası hale getirebilir."
Yapay zekanın insan düşüncesini ve yaratıcılığını etkileyebileceği, insan ilişkilerini zayıflatabileceği ve bir bütün olarak gerçeklikten uzaklaşabileceği endişeleri de var. Silikon Vadisi'nin üretken yapay zeka yıldız girişimi Inflection, arkadaş canlısı ve destekleyici bir arkadaş olarak tasarlanan sohbet robotu Pi'yi piyasaya sürdü. Kuruculara göre Pi, insanların yalnızlıkla başa çıkmalarına yardımcı olan bir araçtır ve güvenilecek bir kişi olarak kullanılabilir. Eleştirmenler, insanların gerçek insanlarla etkileşime girmek yerine gerçeklikten kaçmasına izin verdiğini savunuyor.
Şimdi, insanlar ve araçlar arasındaki ilişki yeni bir seviyeye evrildi. İnsanları ev temizliğinden kurtaran süpürücüler ve insanları artık telefon numaralarını yazmak zorunda bırakmayan cep telefonları gibi tüm araçların doğuşu aslında insanları tembelleştirdi.
Ancak yapay zeka teknolojisi ile önceki teknoloji arasındaki fark, düşünme ve seçim işinin daha fazlasının, temelde bir kara kutu olan ve daha çok düşünme özerkliğinin aktarılması gibi olan yapay zekaya verilmesidir. İnsanlar sürüş kararlarını tamamen otonom sürüşe ve tıbbi teşhisleri yapay zeka sistemlerine bıraktığında, potansiyel maliyet, telefon numaralarını hatırlayamamanın maliyetinden tamamen farklı olabilir.
Tarihteki ilk sohbet robotunu geliştiren bilgisayar bilimcisi Joseph Wiesenbaum, bilimi "bağımlılık yapan bir ilaca" benzetti ve bilgisayarları karmaşık insan faaliyetlerine sokmak gibi artan dozlar nedeniyle "kronik bir zehir" haline geldi ve geri dönüşü olmayabilir.
İnsanlar düşünme ve yargılama gücünü makinelere bir tür "referans" olarak verdiğinde, "toplumsal atalet" ve "otomatik kayıtsızlık" şeytanı da içinde pusuya yatabilir ve görevlerin tekrarlanmasıyla kronik bir zehir haline gelebilir.