"Yapay zekanın sonuçlarından korktukları için genel olarak yapay zekanın sıkı bir şekilde düzenlenmesini isteyen insanlar var. Çünkü diyorlar ki, eğer herhangi biri yapay zekada ustalaşabilirse, yapay zeka ile istedikleri her şeyi yapabilirlerse, o zaman durum şöyle olacak: Olabilir. çok tehlikeli, bu yüzden AI'nın güçlü bir şekilde düzenlenmesi gerekiyor. Buna kesinlikle katılmıyorum."
İnsanların mevcut etik ve yönetişim mekanizmalarını oluşturması uzun zaman aldı. Yapay zekanın insanlar gibi bilinç ve zeka geliştirmesine izin verilirse, insanlar etik ve yönetişim gerekliliklerini nasıl karşılayabilir? Yapay zekada insan müdahalesinin mekanizması nedir?
6 Temmuz'da 2023 Dünya Yapay Zeka Konferansı Şangay'da başladı. 2018 Turing Ödülü sahibi ve Meta AI Temel Yapay Zeka Araştırma Enstitüsü ekibinin baş yapay zeka bilimcisi Yann LeCun, açılış töreninde "çünkü herkes yapay zekayı her şeyi yapmak için kullanabilir. çok tehlikeli olabilir." , bu nedenle yapay zekanın sıkı bir şekilde düzenlenmesi gerekiyor." Uzun vadede, AI platformlarını güvenli, iyi ve kullanışlı hale getirmenin tek yolu, onları açık kaynak yapmaktır.
Yang Likun, yapay zekanın nasıl akıllı ve kontrol edilebilir hale geldiğinden bahsetti. "İnsan seviyesinde yapay zekaya ulaşmanın yolunun daha büyük bir otoregresif LLM (Large Language Model) yapmak ve ardından çok modelli veri testi kullanmak olduğunu düşünüyorsanız, o zaman bu yapay zeka sistemlerinin güvenli olmadığını düşünebilirsiniz. Aslında ben bu sistemin çok zeki olabileceğini düşünmüyorum.Zeki olmalarının yolu aynı zamanda onları kontrol edilebilir hale getirmenin de yolu yani hedef güdümlü yapay zeka kavramı bence.Özünde onlara hedefler vermektir. yerine getirilmesi gerekir.” Yang Likun, “Bu hedeflerden bazıları görev tarafından tanımlanan hedeflerdir, örneğin sistem soruyu yanıtladı mı? Sistem arabanızı çalıştırdı mı? Sistem masayı temizledi mi? Diğer hedefler, kimseyi incitmemek gibi güvenlik çitleri görevi görür.
Yang Likun, bu yapay zeka sistemlerinin yavaş yavaş sızma yoluyla insanları kandırmayacağına veya hükmedemeyeceğine inanıyor. İnsanlar, yapay zekaları insanlara boyun eğmeye zorlamak, onları meraklandırma konusunda dikkatli olmak ve sahip olmamaları gereken kaynaklara erişmelerini sağlamak gibi yapay zekaları dürüst olmaya zorlayan hedefler belirleyebilir. "Dolayısıyla bu sistemlerin tamamen kontrol edilebilir ve manipüle edilebilir olacağını düşünüyorum. Sistemler güvenli olacak şekilde tasarlanabilir ancak bu kolay değil. Bu hedefleri tasarlamak, sistemi güvenli hale getirmek zorlu bir mühendislik mücadelesi olacak."
Ancak Yang Likun, insanların onu baştan iyi tasarlamak zorunda olmadığını, ancak bir fare kadar akıllı bir sistem kurarak başlayabileceklerini, insanların amacının onu iyi bir fare yapmak olduğunu söyledi. "Onları bir kum havuzuna veya simülasyon ortamına koyacağız ve güvenli olduklarından emin olmak istiyoruz, bu önemli bir konu çünkü genel olarak korktukları için yapay zekanın sıkı bir şekilde düzenlenmesini isteyen bazı insanlar var. .Çünkü diyorlar ki, eğer herhangi biri yapay zekayı ele geçirebilirse, yapay zeka ile istedikleri her şeyi yapabilirlerse, o zaman durum çok tehlikeli olabilir, bu nedenle yapay zeka için sıkı bir düzenleme olması gerekir. buna kesinlikle katılıyorum.”
Aksine Yang Likun, uzun vadede yapay zeka platformlarını güvenli, iyi ve pratik hale getirmenin tek yolunun açık kaynak olduğuna inanıyor. Gelecekte herkes yapay zeka asistanları aracılığıyla dijital dünya ile etkileşime girecek ve tüm insani bilgiler bu yapay zeka asistanından geçmek zorunda.Teknoloji birkaç şirketin kontrolündeyse bu iyi bir şey değil. "Geleceğin AI sistemleri, tüm insan bilgisinin bir hazinesi olacak ve eğitilme biçimlerinin çok sayıda kaynağa dayanması gerekiyor. Bu nedenle, gelecekte daha fazla açık kaynaklı LLM ve daha fazla açık kaynaklı AI sistemi göreceğiz."
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Turing Ödülü sahibi Yang Likun: AI platformlarını güvenli, iyi ve pratik hale getirmenin tek yolu açık kaynaktır
Kaynak: Kağıt
Muhabir Zhang Jing
"Yapay zekanın sonuçlarından korktukları için genel olarak yapay zekanın sıkı bir şekilde düzenlenmesini isteyen insanlar var. Çünkü diyorlar ki, eğer herhangi biri yapay zekada ustalaşabilirse, yapay zeka ile istedikleri her şeyi yapabilirlerse, o zaman durum şöyle olacak: Olabilir. çok tehlikeli, bu yüzden AI'nın güçlü bir şekilde düzenlenmesi gerekiyor. Buna kesinlikle katılmıyorum."
İnsanların mevcut etik ve yönetişim mekanizmalarını oluşturması uzun zaman aldı. Yapay zekanın insanlar gibi bilinç ve zeka geliştirmesine izin verilirse, insanlar etik ve yönetişim gerekliliklerini nasıl karşılayabilir? Yapay zekada insan müdahalesinin mekanizması nedir?
6 Temmuz'da 2023 Dünya Yapay Zeka Konferansı Şangay'da başladı. 2018 Turing Ödülü sahibi ve Meta AI Temel Yapay Zeka Araştırma Enstitüsü ekibinin baş yapay zeka bilimcisi Yann LeCun, açılış töreninde "çünkü herkes yapay zekayı her şeyi yapmak için kullanabilir. çok tehlikeli olabilir." , bu nedenle yapay zekanın sıkı bir şekilde düzenlenmesi gerekiyor." Uzun vadede, AI platformlarını güvenli, iyi ve kullanışlı hale getirmenin tek yolu, onları açık kaynak yapmaktır.
Yang Likun, yapay zekanın nasıl akıllı ve kontrol edilebilir hale geldiğinden bahsetti. "İnsan seviyesinde yapay zekaya ulaşmanın yolunun daha büyük bir otoregresif LLM (Large Language Model) yapmak ve ardından çok modelli veri testi kullanmak olduğunu düşünüyorsanız, o zaman bu yapay zeka sistemlerinin güvenli olmadığını düşünebilirsiniz. Aslında ben bu sistemin çok zeki olabileceğini düşünmüyorum.Zeki olmalarının yolu aynı zamanda onları kontrol edilebilir hale getirmenin de yolu yani hedef güdümlü yapay zeka kavramı bence.Özünde onlara hedefler vermektir. yerine getirilmesi gerekir.” Yang Likun, “Bu hedeflerden bazıları görev tarafından tanımlanan hedeflerdir, örneğin sistem soruyu yanıtladı mı? Sistem arabanızı çalıştırdı mı? Sistem masayı temizledi mi? Diğer hedefler, kimseyi incitmemek gibi güvenlik çitleri görevi görür.
Yang Likun, bu yapay zeka sistemlerinin yavaş yavaş sızma yoluyla insanları kandırmayacağına veya hükmedemeyeceğine inanıyor. İnsanlar, yapay zekaları insanlara boyun eğmeye zorlamak, onları meraklandırma konusunda dikkatli olmak ve sahip olmamaları gereken kaynaklara erişmelerini sağlamak gibi yapay zekaları dürüst olmaya zorlayan hedefler belirleyebilir. "Dolayısıyla bu sistemlerin tamamen kontrol edilebilir ve manipüle edilebilir olacağını düşünüyorum. Sistemler güvenli olacak şekilde tasarlanabilir ancak bu kolay değil. Bu hedefleri tasarlamak, sistemi güvenli hale getirmek zorlu bir mühendislik mücadelesi olacak."
Ancak Yang Likun, insanların onu baştan iyi tasarlamak zorunda olmadığını, ancak bir fare kadar akıllı bir sistem kurarak başlayabileceklerini, insanların amacının onu iyi bir fare yapmak olduğunu söyledi. "Onları bir kum havuzuna veya simülasyon ortamına koyacağız ve güvenli olduklarından emin olmak istiyoruz, bu önemli bir konu çünkü genel olarak korktukları için yapay zekanın sıkı bir şekilde düzenlenmesini isteyen bazı insanlar var. .Çünkü diyorlar ki, eğer herhangi biri yapay zekayı ele geçirebilirse, yapay zeka ile istedikleri her şeyi yapabilirlerse, o zaman durum çok tehlikeli olabilir, bu nedenle yapay zeka için sıkı bir düzenleme olması gerekir. buna kesinlikle katılıyorum.”
Aksine Yang Likun, uzun vadede yapay zeka platformlarını güvenli, iyi ve pratik hale getirmenin tek yolunun açık kaynak olduğuna inanıyor. Gelecekte herkes yapay zeka asistanları aracılığıyla dijital dünya ile etkileşime girecek ve tüm insani bilgiler bu yapay zeka asistanından geçmek zorunda.Teknoloji birkaç şirketin kontrolündeyse bu iyi bir şey değil. "Geleceğin AI sistemleri, tüm insan bilgisinin bir hazinesi olacak ve eğitilme biçimlerinin çok sayıda kaynağa dayanması gerekiyor. Bu nedenle, gelecekte daha fazla açık kaynaklı LLM ve daha fazla açık kaynaklı AI sistemi göreceğiz."