Sorumlu Yapay Zekaya Doğru: Çin'de Yapay Zeka Yönetişiminin Eğilimleri ve Beklentileri

Yazar: Cao Jianfeng, Kıdemli Araştırmacı, Tencent Araştırma Enstitüsü

Görsel kaynağı: Unbounded AI tarafından oluşturuldu

21. yüzyıl, dijitalleşme, ağ oluşturma ve zekanın derinlemesine geliştiği bir çağdır. Kilit teknoloji olarak yapay zeka (AI), hayatın her kesiminden büyük ilgi gördü. Son on yıl, derin öğrenme ile temsil edilen AI'nın "altın on yılı" olarak kabul edilir. ** [1] Derin öğrenme sayesinde, yapay zeka alanındaki sinir ağı teknolojisi (Neural Networks), yapay zeka alanındaki hızlı gelişimin "üçüncü baharını" başlatan bir toparlanma başlattı. Bundan önce, 1956'da Dartmouth Konferansı'nda "yapay zeka" kavramı önerildiğinden beri, yapay zeka alanında iki iniş ve çıkış yaşandı. Spesifik olarak, makine öğrenimi algoritmaları, büyük veri, bulut bilgi işlem, yapay zekaya özgü yongalar ve açık kaynaklı yazılım çerçeveleri gibi birçok teknik unsurun yakınsaması ve geliştirilmesi, yapay zeka alanında muazzam ilerlemeyi teşvik etti. yeni bir genel amaçlı teknoloji ve ekonominin ve toplumun akıllı temeli ve ekonominin ve toplumun çeşitli alanlarında yaygın olarak kullanılmakta, yeni ürün ve hizmetler getirmektedir. Algoritma tavsiyesi, AI tarafından üretilen içerik (AIGC) ve tüketici İnternet alanındaki sohbet robotlarından endüstriyel alandaki insansız araçlara, AI tıbbi yazılımına, AI kalite denetimine ve sosyal kamu hizmetlerindeki çeşitli uygun uygulamalara kadar, AI büyük bir etkiye sahiptir. ekonomi üzerinde Yüksek kaliteli sosyal kalkınmanın muazzam değeri gösterilmeye devam ediyor. [2] Kısacası, yeni bir teknolojik devrim ve endüstriyel dönüşüm turuna (dördüncü sanayi devrimi) öncülük eden stratejik bir teknoloji olarak yapay zekanın insan ekonomisini ve toplumu yeniden şekillendirmesi ve üretkenlik, işgücü istihdamı, gelir dağılımı üzerinde büyük bir etkiye sahip olması bekleniyor. küreselleşme vb.

**Bu bağlamda yapay zeka, uluslararası rekabetin yeni odak noktası haline geldi ve dünyanın dört bir yanındaki ülkeler, stratejik komuta yüksekliklerini ve geliştirme fırsatlarını yakalamak için yapay zeka geliştirme stratejileri ve özel politikalar uygulamaya koydu. ** Temmuz 2017'de Çin, "Yeni Nesil Yapay Zeka Geliştirme Planı"nı yayınladı ve yapay zeka ulusal bir strateji düzeyine yükseltildi; Nisan 2018'de AB, AB'yi dünya standartlarında bir yapay zeka merkezi haline getirmeyi amaçlayan bir yapay zeka stratejisi yayınladı ve AI'nın insan odaklı, güvenilir olmasını sağlamak; Şubat 2019'da, AI stratejisini başlatan ve Amerika Birleşik Devletleri'nin AI alanındaki liderliğini güçlendirmeyi amaçlayan "Amerikan AI Planı" yayınlandı; Eylül 2021'de, Birleşik Krallık, Yapay Zeka İçin Birleşik Krallık süper güçlerini inşa etmeyi umarak bir AI stratejisi yayınladı. Çeşitli ülkelerin AI stratejileri incelendiğinde, AI alanındaki uluslararası rekabetin sadece teknolojik yenilik ve endüstriyel ekonomi ile ilgili olmadığını, AI yönetişimi gibi boyutları da içerdiğini görmek zor değil. Algoritma ayrımcılığı, bilgi kozası, haksız AI karar verme, kişisel bilgilerin kötüye kullanılması ve mahremiyet ihlali, AI güvenlik, algoritma kara kutusu, Sorumluluk, teknolojinin kötüye kullanılması (büyük veri öldürme, yapay zeka sahtekarlığı ve sentetik yanlış bilgi gibi), iş ve istihdam etkisi, etik ve ahlaki etki ve diğer risk zorlukları. [3] Bu nedenle, yapay zeka teknolojisinin son on yıldaki hızlı gelişimi ve uygulamasıyla birlikte, yurtiçi ve yurtdışındaki tüm yaşam alanları eş zamanlı olarak yapay zeka yönetişimini destekledi, çoklu yönetişim önlemlerini araştırdı ve mevzuat, etik çerçeveler, standartlar ve sertifikalandırma gibi garanti mekanizmalarını araştırdı. ve sorumlu, Güvenilir ve insan merkezli yapay zeka geliştirmeyi desteklemek için sektördeki en iyi uygulamalar.

Uluslararası bir bakış açısına dayanan bu makale, Çin'in yapay zeka yönetişimi alanında son on yıldaki önemli ilerlemesini sıralıyor, yasaları ve eğilimleri analiz edip özetliyor ve gelecekteki gelişmeleri dört gözle bekliyor. Öngörülebilir gelecekte AI daha yetenekli hale geldikçe, uygulaması ve etkisi her geçen gün derinleşecek, bu nedenle sorumlu AI (Responsible AI) giderek daha önemli hale gelecektir. Sorumlu yapay zekanın ilerlemesi ve uygulanması, makul ve etkili yapay zeka yönetişiminden ayrılamaz. Diğer bir deyişle, sorumlu yapay zekaya doğru ilerlemenin ve yapay zekanın gelecekteki gelişimini sağlamanın tek yolu sağlam bir yapay zeka yönetişimi oluşturmaktır. Bu makalenin gelecekte AI yönetişiminin sürekli olarak geliştirilmesi ve uygulanmasına yardımcı olacağı umulmaktadır.

Yapay Zeka Yönetişiminin Sekiz Eğilimi

Makro strateji ve uygulama politikası, ulusal AI rekabet gücünü artırmak için eş zamanlı olarak geliştirilir

Şubat 2013'te yayınlanan "Nesnelerin İnternetinin Düzenli ve Sağlıklı Gelişimini Teşvik Etmeye Yönelik Kılavuz Görüşler"in "ekonomik ve sosyal akıllı kalkınmayı" öne sürmesinden bu yana, yapay zeka ulusal makro stratejinin görüş alanına girmiş ve önemli bir konu haline gelmiştir. ulusal üst düzey politika belgelerinin Örneğin, 2015 yılında, ""İnternet Plus" Eyleminin Aktif Olarak Teşviki Konusunda Yol Gösterici Görüşler" ilk kez "gelişmekte olan yapay zeka endüstrilerini geliştirmeyi ve geliştirmeyi" önerdi. O zamandan beri, ülke yapay zekaya giderek daha fazla ilgi gösterdi ve temel teknolojilerin kendi kendini kontrol edebilmesini ve yüksek düzeyde teknolojik özgüveni ve kendi kendine yetmeyi teşvik etmesini sağlamak için yapay zekanın stratejik düzeyde geliştirilmesi için konuşlandırmalar yapmaya devam etti. güven (Tablo 1).

İniş politikaları da aynı derecede önemlidir. Yapay zeka, gelişen teknolojilerin ve gelişmekte olan endüstrilerin bir kompleksidir. Yalnızca yapay zeka teknolojisindeki yenilik, sürdürülebilir bir endüstriyel ekolojiye dönüştürüldüğünde ve gerçek ekonomiyle derinden bütünleştiğinde, yeni bir büyüme motoru olarak güçlü rolünü tam olarak oynayabilir. Bu konuda test alanı ve pilot alan gibi ilk-ilk-deneme modeli önemli bir rol oynamaktadır. Bilim ve Teknoloji Bakanlığı, yapay zeka inovasyon ve geliştirme pilot bölgelerinin inşasında kayda değer başarılar elde etti.Ülke, politikada iyi rol oynayan 18 ulusal yeni nesil yapay zeka inovasyon ve geliştirme pilot bölgesinin inşasına onay verdi. araçlar, uygulama modelleri, deneyim ve uygulamalar, rol. 2019'dan bu yana, Sanayi ve Bilgi Teknolojileri Bakanlığı, yapay zeka ile reel ekonominin derin entegrasyonunu teşvik etmek için 11 ulusal yapay zeka inovasyon ve uygulama pilot bölgesinin inşasını onayladı; AI uygulaması ve sanayileşme ve AI ile ekonomik ve sosyal kalkınmanın derin entegrasyonunu sağlamak ve yüksek kaliteli geliştirmeyi daha iyi desteklemek için "veri tabanı + bilgi işlem gücü platformu + sahne açılışı" üçlüsünü kullanın.

Ulusal makro strateji ve uygulama politikalarının sürekli desteği ile Çin'de yapay zeka alanında yenilikçilik ve girişimcilik faaliyetleri artarak devam etmiş, yapay zeka alanında birbiri ardına ulusal laboratuvarlar kurulmuş ve önemli başarılar elde edilmiştir. yapay zeka alanında teknolojik yenilik, endüstriyel uygulama ve yetenek ölçeğinde. . Çin Bilimsel ve Teknolojik Bilgi Enstitüsü tarafından yayınlanan "2021 Küresel Yapay Zeka İnovasyon Endeksi Raporu", mevcut küresel yapay zeka gelişiminin Çin ve ABD liderliğinde genel bir model ve büyük ülkeler arasındaki şiddetli rekabeti gösterdiğini gösteriyor. [4] Çin'in AI gelişimi dikkate değer sonuçlar elde etti.AI inovasyon seviyesi dünyanın ilk kademesine girdi ve Amerika Birleşik Devletleri ile olan fark daha da daraldı. Çin'in süper bilgi işlem merkezleri, AI işletme ölçeği, patent tescil sayısı, yetenek ekibi oluşturma ve bilimsel araştırma gücü dünyaya öncülük ediyor.Gelecekte, AI'nın Çin'in ekonomik büyümesine ve sosyal gelişimine katkısı artmaya devam edecek. PricewaterhouseCoopers tarafından hazırlanan bir araştırma raporu, küresel olarak, 2030 yılına kadar yapay zekanın küresel ekonomiye katkısının 15,7 trilyon ABD dolarına ulaşacağını ve Çin'in yapay zekadan en büyük ekonomik faydayı elde ederek 7 trilyon ABD dolarına ulaşacağını tahmin ediyor, bu da AI'nın Teşvik edeceği anlamına geliyor. Çin'in yaklaşık %26,1'lik GSYİH büyümesi, onu ABD ve Kuzey Amerika'nın takip etmesiyle 3,7 trilyon ABD dolarına ulaşacak. [5]

Bilimsel ve teknolojik etik sistemi sürekli olarak geliştirildi ve yapay zeka inovasyonu için önemli bir garanti haline geldi

Dijital çağda, AI gibi ortaya çıkan dijital teknolojiler, endüstriyel çağdaki teknolojik uygulamalardan farklı benzersizliğe ve karmaşıklığa sahiptir. Temel olarak şunlara yansır: (1) Daha geniş bağlantı, ağ bağlantısı ve veri toplama ve işleme her yerde bulunur; (2) Daha güçlü özerklik, yapay zeka sistemi, çeşitli ürün ve hizmetleri insan müdahalesi olmadan bağımsız çalışacak şekilde yönlendirir; (3) Daha derin opaklık, "algoritmik siyah" AI sisteminin "kutusu" nun anlaşılması ve açıklanması zordur; [6] (4) Yapay zeka tarafından üretilen ve sentezlenen daha yüksek doğruluk, içerik, veri ve sanal dünya gerçeğe yaklaşıyor. Bu nedenle, yapay zeka gibi yeni teknolojilerin uygulanmasından kaynaklanabilecek sosyal ve etik sorunlar, bilim ve teknolojinin etik yönetimine yeni zorluklar getiren ani olma, gizlenme, ölçek ve öngörülemezlik ile giderek daha fazla karakterize ediliyor. Yapay zeka geliştirme ve uygulama sürecinde, bilimsel ve teknolojik etik konularını aynı anda ve hatta önceden dikkate almak giderek daha gerekli ve önemli hale geliyor. [7] Bilimsel ve teknolojik etik sisteminin ayarlanması ve iyileştirilmesi bu nedenle yapay zeka çağında önemli bir konu haline geldi.İnsan etiğine odaklanmaktan teknik etiğe odaklanmak, akıllı aracılara ahlaki kısıtlamalar uygulamak ve bir sistem oluşturmak gerekiyor. dostça dijital sosyal düzen. [8] Ayrıca, bilim ve teknolojide giderek yoğunlaşan küresel rekabetle birlikte, bilim ve teknoloji etiği yalnızca teknolojik güvenlik risklerinin ve zorluklarının önlenmesiyle değil, aynı zamanda ulusal teknolojik rekabet gücünün inşasıyla da ilgilidir.

**Çin Komünist Partisi 18. Ulusal Kongresi'nden bu yana devlet bilim ve teknoloji etiğine giderek daha fazla önem vermeye başlamış, bilim ve teknoloji etiğinin bilimsel ve teknolojik faaliyetlerde uyulması gereken bir değer kriteri olduğunu açıkça belirtmiştir. ve bilim ve teknoloji etiğini, bilimsel ve teknolojik yenilik için önemli bir destek ve garanti olarak üst düzey politika tasarımına dahil etmiştir. ** "Çin Komünist Partisi Merkez Komitesinin Çin Nitelikli Sosyalist Sisteme Bağlı Kalma ve İyileştirme ve Ulusal Yönetim Sisteminin ve Yönetişim Yeteneklerinin Modernizasyonunu Teşvik Etme Kararı" ve "On Dördüncü Beş Yıllık Plan ve Uzun Planın Anahatları" 2035 Yılı Hedefleri” bilim ve teknoloji etiği için üst düzey açılımlar yapmış, bilimsel ve teknolojik etik yönetişim sisteminin iyileştirilmesi ve bilimsel ve teknolojik etik sisteminin iyileştirilmesi gerekmektedir. Şu anda ülke, bilim ve teknoloji etiği sistemini kurmaya ve geliştirmeye ve bilim ve teknolojinin kültürel kavramını ve garanti mekanizmasını sonsuza dek şekillendirmeye devam ediyor. Esas olarak aşağıdaki üç açıdan yansıtılır:

**İlk olarak, ulusal bilim ve teknoloji etiği yönetişim sisteminin inşasına rehberlik etmek, koordine etmek ve teşvik etmekten sorumlu olan Ulusal Bilim ve Teknoloji Etik Komitesini kurun. **Temmuz 2019'da, Merkezi Kapsamlı Derinleştirme Reform Komitesinin Dokuzuncu Toplantısı, Çin'in ulusal bilim ve teknoloji etiği yönetim organizasyonunu resmi olarak kuran "Ulusal Bilim ve Teknoloji Etik Komitesi Oluşturma Planı"nı gözden geçirdi ve onayladı. Mart 2022'de yayınlanan "Bilim ve Teknoloji Etiği Yönetişiminin Güçlendirilmesine İlişkin Görüşler", Ulusal Bilim ve Teknoloji Etik Kurulu'nun yönetim sorumluluklarını daha da açıklığa kavuşturmuştur.

**İkinci olarak, bilim ve teknoloji etiği yönetişiminin uygulanmasını desteklemek için bilim ve teknoloji etiği ile ilgili politikalar ve düzenlemeler yayınlayın. ** Aralık 2021'de revize edilen "Bilimsel ve Teknolojik Gelişme Kanunu"nun öne çıkan özelliklerinden biri de bilim ve teknoloji etiğine ilişkin ilgili hükümlerin eklenmesidir. ve teknolojik etik yönetimi, bilimsel ve teknolojik faaliyetlerin etik incelemesini yapmak ve aynı zamanda bilimsel ve teknolojik araştırma, geliştirme ve uygulama faaliyetlerinin yasal ve etik alt çizgisini netleştirmek. "Bilim ve Teknolojinin Etik Yönetişiminin Güçlendirilmesine İlişkin Görüşler", bilim ve teknolojinin etik yönetişimi için altı ana yönü içeren daha kapsamlı gereksinimler ortaya koymaktadır: genel gereksinimler, ilkeler, sistemler, kurumsal garantiler, inceleme ve denetim, eğitim ve tanıtım, ve bilim ve teknolojinin etik yönetişiminin uygulanması için zemin hazırlar.Uygulama zemin hazırlar. Takip, bilimsel ve teknolojik etik için inceleme yöntemleri, bilimsel ve teknolojik etikte yüksek riskli bilimsel ve teknolojik faaliyetlerin listesi ve alt bölümlere ayrılmış alanlarda bilimsel ve teknolojik etik normları gibi destekleyici düzenlemeleri de formüle edecektir.

**Üçüncü olarak, yapay zeka alanında bilim ve teknolojinin etik yönetişimini vurgulayın. **Ulusal Yeni Nesil Yapay Zeka Yönetişim Meslek Komitesi, sorumlu yapay zekanın geliştirilmesi için etik yönergeler sağlayan "Yeni Nesil Yapay Zeka Yönetişim İlkeleri-Sorumlu Yapay Zeka Geliştirme" ve "Yeni Nesil Yapay Zeka Etiği" ni arka arkaya yayınladı. "Veri Güvenliği Kanunu", "İnternet Bilgi Hizmeti Algoritması Öneri Yönetim Yönetmeliği", "İnternet Bilgi Hizmeti Algoritmalarının Kapsamlı Yönetişiminin Güçlendirilmesine İlişkin Yol Gösterici Görüşler" ve diğer yasa ve yönetmelikler, bilimsel ve teknolojik etik gereklilikleri ve veri ve algoritma yönetim önlemlerini ortaya koymaktadır. faaliyetler. "Bilim ve Teknoloji Etiği Yönetişiminin Güçlendirilmesine İlişkin Görüşler", "14. Beş Yıllık Plan" döneminde yapay zeka, yaşam bilimleri ve tıbbı üç temel alan olarak kabul eder ve özel bilim ve teknoloji etiği normlarının ve kılavuzlarının formüle edilmesini gerektirir, bilim ve teknoloji etiği mevzuatını güçlendirir ve ilgili sektör yöneticilerini zorunlu kılar. Bakanlık, bir bilimsel ve teknolojik etik denetim önlemi başlattı. Yapay zeka alanında teknolojik etiğin düzenlenmesinin gelecekte güçlendirilmesi öngörülebilir. Ayrıca, "Shenzhen Yapay Zeka Sektörü Teşvik Yönetmeliği" ve "Yapay Zeka Sektörü Gelişiminin Teşvikine İlişkin Şanghay Yönetmeliği" gibi yerel düzeydeki mevzuatın her ikisi de, yapay zeka etik yönetişimini, yapay zekanın sağlıklı gelişimini desteklemek için önemli bir garanti olarak görmektedir. endüstri.

**Yukarıdaki analizden, yapay zeka bilim ve teknoloji etiğinin yönetişimi açısından, bilim ve teknoloji etiği yönetimi konusunun sorumluluğunu ana başlangıç noktası olarak almak yönünde önemli bir eğilimin olduğu görülebilir ki bu da benzerdir. İnternet platform denetiminde platform konu sorumluluğuna yapılan vurguya belirli bir benzerlik. **Devletin platformu denetlemesi büyük ölçüde platformun ana sorumluluğunun uygulanması ve sıkıştırılması yoluyla sağlanmaktadır.İnternet alanındaki ilgili mevzuat, olay öncesi, sırası ve sonrasında kapsamlı bir platform yükümlülük sistemi oluşturmuştur.Devlet Piyasa İdaresi Denetleme yayınlandı "İnternet Platformlarında Konu Sorumluluklarının Uygulanmasına Yönelik Kılavuz İlkeler (Yorum Taslağı)", farklı platform türlerinin konu sorumluluklarını iyileştirmeye çalıştı. Hükümetin AI düzenlemesi de benzer bir fikir gösteriyor. Mevcut ilgili politikalar ve düzenlemeler, bilimsel ve teknolojik etik yönetimi konularının sorumluluklarını iyileştirmeye çalışmakta, inovasyon konularının etik kurullar oluşturmasını, bilimsel ve teknolojik etiğin alt çizgisine bağlı kalmasını, bilimsel ve teknolojik etik incelemesi yapmasını, bilimsel ve teknolojik çalışmaları yürütmesini zorunlu kılmaktadır. etik risk izleme, erken uyarı ve değerlendirme ve bilimsel ve teknolojik etik eğitimi yürütme.

İnternet alanında algoritmaların uygulanması, yapay zeka denetiminin temel amacı haline geldi

Algoritma tavsiyesi, algoritma otomatik karar verme, AI derin sentezi ve İnternet alanındaki diğer algoritma uygulamaları, geniş uygulama, yüksek kamuoyu ilgisi ve olumsuz sorunların sürekli olarak vurgulanması gibi faktörler nedeniyle AI alanındaki hükümet denetiminin odak noktası haline geldi. . Son yıllarda devlet, İnternet alanında algoritmaların uygulanmasını aktif olarak düzenlemek için bir dizi yasa ve yönetmelik çıkardı. [9] Devlet İnternet Enformasyon Dairesi ve diğer dokuz daire tarafından yayınlanan "İnternet Bilgi Servisi Algoritmalarının Kapsamlı Yönetişiminin Güçlendirilmesine İlişkin Yol Gösterici Görüşler" nispeten kapsamlı yönetim gereksinimleri ortaya koymaktadır. sistem ve algoritmik bir ekolojik standart kademeli olarak oluşturulacaktır Algoritmik güvenlik kapsamlı yönetişim modeli. Görüş ayrıca, algoritma güvenlik sorumlulukları ve bilimsel ve teknolojik etik incelemesi de dahil olmak üzere kurumsal sorumlulukların güçlendirilmesini vurgulamaktadır.

Algoritma tavsiyesi açısından, "Ağ Bilgi İçeriğinin Ekolojik Yönetişimine İlişkin Yönetmelik", algoritma tavsiye teknolojisi için insan müdahalesini ve kullanıcı kendi kendine seçim mekanizmasını iyileştirmeyi önermektedir. 1 Mart 2022'de yürürlüğe girecek olan "İnternet Bilgi Servisleri İçin Algoritma Önerilerinin Yönetimine İlişkin Yönetmelik", Çin'in algoritma yönetişimine odaklanan ilk mevzuatıdır. Güvenlik riski izleme, algoritma güvenlik değerlendirmesi ve algoritma dosyalama yönetimi, platform şirketlerinin algoritma güvenlik sorumluluğunu daha da güçlendirmiştir. Sektör içerdekileri bunu bir işaret olarak aldı ve 2022'yi algoritma düzenlemesinin ilk yılı olarak adlandırdı.

Algoritmik otomatik karar alma açısından, "Çin Halk Cumhuriyeti Kişisel Bilgileri Koruma Yasası", "Çin Halk Cumhuriyeti E-Ticaret Yasası", "Çevrimiçi Turizm Yönetim Hizmetlerine İlişkin Geçici Hükümler" ve diğer hükümler ilgili algoritma ayrımcılığı, büyük veri aşinalığı vb. ile ilgili hükümler. Meşru algoritma karar verme davranışlarını düzenlemek için, bireylere seçim hakları sağlama, etki değerlendirmeleri yapma ve bireylerin açıklama talep edebilmeleri ve ret haklarından yararlanabilmeleri gibi düzenleme yöntemleri daha iyi olması için önerilmektedir. kişisel hakların korunması ile algoritmaların ticari uygulama faaliyetlerini dengeler.

Yapay zeka derin sentez açısından (esas olarak bilgi içeriğini oluşturmak ve sentezlemek için yapay zeka teknolojisinin kullanımına atıfta bulunur), ilgili mevzuat, yapay zeka derin sentezi teknolojisinin uygulanması için kırmızı çizgiyi aktif olarak tanımlar ve teknolojinin pozitif uygulamasını destekler, örneğin " Ağ Ses ve Görüntü Bilgi Hizmeti Yönetimi Yönetmeliği", "Ağ Bilgi İçeriği Ekolojik Yönetişimi Hakkında Yönetmelik, İnternet Bilgi Hizmeti Algoritma Önerilerinin Yönetimine İlişkin Yönetmelik vb. tümü, yanlış haber bilgileri ve diğer yasa dışı faaliyetler için derin sentez algoritmalarının kullanılmasını yasaklar. . Kasım 2022'de kabul edilen "İnternet Bilgi Hizmetlerinin Derin Sentezinin Yönetimine İlişkin Yönetmelik", geçmiş düzenleyici deneyimleri özetlemekte ve derin sentez hizmet sağlayıcılarının ana sorumluluğu ve derin sentez bilgi içeriğinin yönetimi açısından derin sentez teknolojisinin uygulanmasını kapsamlı bir şekilde düzenlemektedir. Tanımlama, algılama ve tanımlama ve içerik izlenebilirliği gibi gerekli güvenlik önlemleri, derin sentez teknolojisinin uygulanmasının güvenli ve güvenilir olmasını sağlar ve teknolojik yenilik ve geliştirme ile olumlu uygulamaları daha iyi teşvik eder.

Genel olarak, İnternet alanındaki algoritma denetimi, güvenlik ve kontrol edilebilirlik, hak ve menfaatlerin korunması, adalet ve adalet, açıklık ve şeffaflık, kötüye kullanımın önlenmesi gibi birden fazla amacı vurgular.Algoritma uygulama sınıflandırması ve sınıflandırması temelinde, düzenlemeye odaklanır. yüksek riskli algoritma uygulamaları. Algoritma derecelendirme ve sınıflandırma düzenlemesi, Avrupa Birliği Yapay Zeka Yasası'ndaki yapay zeka sistemleri düzenlemesine benzer, farklı düzenleyici gereklilikler. Bu bağlamda, akademik topluluk algoritmik yönetişim araştırmalarına büyük ilgi duymaktadır ve algoritma yorumlama, algoritma etki değerlendirmesi ve algoritma denetimi gibi birçok fikir önermiştir. Gelecekte, algoritmaların uygulanmasının yukarıya doğru ve iyi olduğundan daha iyi emin olmak için, hayatın her kesiminin algoritma denetiminin yöntemlerini ve yönetişim önlemlerini daha fazla keşfetmesi ve iyileştirmesi gerekiyor.

Geleneksel güçlü düzenleyici alanlarda yapay zekanın uygulanmasını teşvik etmek için düzenleyici yenilikleri kullanma

Ulaşım ve tıbbi bakım gibi geleneksel güçlü düzenleyici alanlar için, kendi kendini süren arabalar, insanlı insansız hava araçları (insansız uçan arabalar), yapay zeka tıbbi yazılımları vb. gibi yeni şeylerin karşılaştığı temel sorun, ticari uygulamalarının hala daha büyük zorluklarla karşılaşmasıdır. ve düzenleyici engeller. Bu engeller, yalnızca tüketicinin ve halkın teknolojiye olan güvenini etkilemekle kalmaz, aynı zamanda yenilikçileri ve yatırımcıları da caydırır. Bu nedenle, etkili düzenleyici yenilik, bu yeni şeylerin geliştirilmesi ve uygulanmasının anahtarıdır. Kendi kendine giden arabaları örnek olarak alırsak, kendi kendine giden arabaların ticari uygulaması ancak geleneksel arabaları ve insan sürücüleri düzenlemeyi amaçlayan yasal ve düzenleyici çerçeve reformunun hızlandırılması ve ardından yeni ve etkili bir düzenleyici çerçeve oluşturulmasıyla hızlandırılabilir.

Çin'in politika yapıcıları, düzenleyici yöntemleri ve araçları aktif olarak yeniliyor ve "Düzenleyici Korumalı Alan" (Düzenleyici Korumalı Alan, aşağıdaki girişe bakın), pilot projeler ve tanıtım uygulamaları aracılığıyla yeni yapay zeka uygulamalarını destekliyor ve teşvik ediyor. Kendi kendine giden otomobiller alanında, devlet, kendi kendine giden arabaların yol testi ve gösteri uygulama faaliyetlerini teşvik etmek, desteklemek ve düzenlemek için bir dizi mevzuat ve normatif belge yayınladı, kendi kendine giden güvenlik standartlarının "düzenleyici sanal alanını" keşfedin - araba kullanmak ve kendi kendine giden arabaların standardizasyonunu iyileştirmek Kendi kendine giden araba taşımacılığının güvenliğini sağlamak için yola girmek ve yola çıkmak için geçiş kuralları. Olumlu düzenleyici politikalar nedeniyle Pekin, Şangay, Guangzhou ve Shenzhen gibi yerler kalkınma yaylalarını birbiri ardına ele geçirdi. ; Shenzhen, ülkede "Shenzhen Akıllı Bağlantılı Araçların Yönetimine İlişkin Yönetmelikler ticari uygulamalar için yasal ve düzenleyici bir çerçeve oluşturur. Yapay zeka tıbbi bakım alanında, yapay zeka tıbbi yazılımı, özerklik, öğrenme ve gelişme yetenekleri, sürekli yineleme, algoritma kara kutusu, öngörülemezlik vb. dahil olmak üzere geleneksel tıbbi cihazlardan farklı birçok yeni özelliğe sahip olduğundan, geleneksel onay prosedürlerinin AI tıbbi bakımına etkin bir şekilde uyum sağlayın Yazılım geliştirme ihtiyaçları. Bu amaçla, düzenleyici makamlar, AI tıbbi cihazlarının kayıt beyanı ve onay prosedürlerini ve kullanım yönetimi özelliklerini aktif olarak geliştiriyor ve akıllı tıbbi görüntüleme gibi yardımcı tanı ve tedavi için AI tıbbi yazılımının hızlandırılmış klinik uygulamasını destekliyor; şu anda AI tıbbi Tencent Miying'in yapay zeka destekli glokom tanı yazılımı ve yapay zeka destekli pnömoni tanı sistemi gibi yazılımların her ikisi de üçüncü sınıf tıbbi cihaz kayıt sertifikası ("üç tür sertifika") için onaylanmıştır. Gelecekte, yapay zeka tıbbi uygulamalarının insanların geçim kaynaklarını ve esenliğini daha iyi hale getirebilmesi için, düzenleyici makamların yapay zeka tıbbi yazılımı için kayıt, başvuru ve onay prosedürlerini iyileştirmeye ve optimize etmeye devam etmesi gerekiyor.

Yapay zeka fikri mülkiyet koruma kurallarının keşfini hızlandırın

Yapay zeka tarafından üretilen içerik (AI Tarafından Oluşturulan İçerikler, kısaca AIGC), yapay zekanın gelecekteki gelişim yönünü temsil eden yeni bir yapay zeka sınırı haline geldi. [10] . İnternet alanında AIGC, PGC (profesyonel içerik üretimi) ve UGC'den (kullanıcı içeriği üretimi) sonra gelen içerik üretim şeklidir ve otomatik içerik üretiminde büyük bir değişikliği beraberinde getirir. Şu anda AIGC teknolojisi, metin, resim, ses, video, 3B içerik (3B nesneler, 3B sanal sahneler) vb. dahil olmak üzere çeşitli içerik biçimlerini bağımsız olarak üretebilmektedir. AIGC teknolojisi ve uygulamaları için fikri mülkiyet hakları koruma kuralları bu nedenle kaçınılması mümkün olmayan önemli bir konu haline geldi. içeriği" çözülmesi gereken acil sorunlardır. [11] Bazı yabancı akademisyenler, özel AI fikri mülkiyet koruma kuralları ve uluslararası anlaşmalar oluşturmanın gerekli olduğunu öne sürdüler çünkü AI teknolojisi, yaratıcıların ve mucitlerin yalnızca insan olabileceğine dair mevcut modeli yıkıyor. [12]

Yurt içinde ve yurt dışında, AI tarafından oluşturulan içerik için fikri mülkiyet koruma kuralları aktif olarak araştırılmıştır. Yurtdışında, Birleşik Krallık, Avrupa Birliği, Japonya, Güney Afrika vb., İngiliz "Telif Hakkı, Tasarım ve Patent Yasası"ndaki bilgisayarla üretilen eserlerin koruma hükümleri gibi özel AI fikri mülkiyet koruma kurallarını düşünüyor veya formüle etti. ve Avrupa Birliği'nin "Tek Dijital Pazar Telif Hakkı Yönergesi". "Yapay Zeka teknolojisine dayalı metin ve veri madenciliği telif hakkı istisnaları, vb. Patentler açısından Birleşik Krallık'ın politikası, AI'nın henüz bağımsız olarak icat edecek ve yaratacak kadar gelişmiş olmadığı için, şu anda patent yasasını değiştirmeye gerek olmadığına, ancak teknolojik ilerlemeye yakından dikkat edilmesi ve AI'nın değerlendirilmesi gerektiğine işaret ediyor. patent sorunları zamanında.

Çin'de, Pekin Film Hukuk Bürosu'nun Baidu'nun "Baijiahao" telif hakkı ihlali davasına karşı açtığı davada mahkeme, yalnızca gerçek kişiler tarafından oluşturulan orijinal eserlerin telif hakkı koruması alabileceğine karar vererek yapay zeka tarafından doğrudan ve bağımsız olarak üretilen eserlerin telif hakkını reddediyor. yapay zeka tarafından üretilen içeriğin ilgili hak ve çıkarlarının (rekabet hakları ve çıkarları gibi) rekabet yasaları ve diğer yollarla korunabileceğini belirtmek. Telif hakkı ihlali ve haksız rekabet ihtilafları nedeniyle Shenzhen Tencent Computer System Co., Ltd. - Shanghai Yingxun Technology Co., Ltd. davasında, AI alanında insan-bilgisayar işbirliği gerçeğine dayanan mahkeme, AI yazma yazılımı Dreamwriter'in teknik olarak "üretilen" çalışmalarının yalnızca yaratım olduğuna dikkat çekti.Süreçteki bir bağlantı olarak, davacının barındırdığı çok ekipli ve çok kişili iş bölümünün oluşturduğu genel entelektüel faaliyet yaratılışın temel halkası olup, davaya konu olan makalenin davacı tarafından barındırılan bir tüzel kişi eseri olduğu tespit edilmiştir. Dream yazar vakasının belirlenmesi, AIGC teknolojisinin ve uygulamalarının mevcut gelişimi ile daha uyumludur ve gelecekte AI tarafından üretilen içerik için fikri mülkiyet koruma kurallarının mevzuat yoluyla daha fazla açıklığa kavuşturulması için büyük referans önemine sahiptir. Mevzuat açısından 2020 yılında yeni revize edilen "Çin Halk Cumhuriyeti Telif Hakkı Yasası" açık eser tanımlama yöntemini benimsiyor. AIGC ve diğer yeni teknolojileri sağlayan maddeler Uygulamaların getirdiği yeni nesnelerin korunması kurumsal alan ayırır.

Standartlaştırma yapısı, yapay zeka yönetişiminin önemli bir parçasıdır

**"Ulusal Standardizasyon Geliştirme Taslağı", standardizasyonun ulusal yönetişim sisteminin ve yönetişim yeteneklerinin modernizasyonunu teşvik etmede temel ve öncü bir rol oynadığına işaret etti. Yapay zeka alanı için, yapay zeka standartları yalnızca yapay zekanın (teknik standartlar gibi) gelişimini, ilerlemesini ve geniş uygulamasını desteklemek ve teşvik etmek için önemli bir araç değil, aynı zamanda yapay zeka yönetişiminin (yönetişim gibi) uygulanmasını teşvik etmenin etkili bir yoludur. standartlar, etik standartlar), çünkü AI yönetişim standartları "mevzuatın ve denetimin üstlenilmesi ve teknik uygulamanın yerleştirilmesinde" önemli bir rol oynayabilir. Ayrıca, yapay zeka yönetişimi alanındaki standartlar, mevzuat ve düzenlemelerden daha çevik, esnek ve uyarlanabilirdir. Bu nedenle, yapay zeka yönetişim standartları, yapay zeka teknolojisinin ve endüstrisinin gelişiminde hakim bir yükseklik haline geldi ve uluslararası topluluk uygulama önlemleri önerdi. **Tipik temsilciler arasında Avrupa Birliği'nin güvenilir AI standartları, ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) liderliğindeki AI risk yönetimi, AI ayrımcılık tanımlaması ve diğer yönetişim standartları, Birleşik Krallık'ın AI sertifikası ekosistem geliştirme planı, IEEE'nin AI etik standartları, vb. Uygulama açısından IEEE, sektör için bir AI etik sertifika projesi başlattı; Birleşik Krallık, 5 yıl içinde milyarlarca sterlin değerinde dünya lideri bir AI sertifika endüstrisi geliştirmeyi ve tarafsız bir üçüncü tarafın AI sertifika hizmetlerini geçmeyi umuyor. AI sistemlerinin güvenilirliğini ve uyumluluğunu değerlendirmek ve iletmek için (denetim, etkileme değerlendirmesi, sertifikalandırma dahil).

**Çin, AI alanındaki standardizasyon inşasına büyük önem vermektedir. "Ulusal Standardizasyon Geliştirme Taslağı", AI, kuantum bilgisi ve biyoteknoloji alanlarında standardizasyon araştırması gerektirir. **Son yıllarda, toplumun her kesimi yapay zeka yönetişimi alanında ulusal standartların, endüstri standartlarının, yerel standartların ve grup standartlarının standardizasyonunu desteklemeye devam etti. Örneğin, Ulusal Standardizasyon Yönetim Komitesi, Ulusal Yapay Zeka Standardizasyon Genel Grubunu ve Ulusal Bilgi Teknolojisi Standardizasyon Teknik Komitesi, Yapay Zeka Alt Teknik Komitesini kurdu ve her ikisi de yapay zeka alanında ulusal standartların formülasyonunu teşvik etmeyi amaçlıyor. . Temmuz 2020'de yayınlanan "Ulusal Yeni Nesil Yapay Zeka Standart Sisteminin Oluşturulmasına Yönelik Yönergeler", yapay zeka standartları alanındaki üst düzey tasarıma açıklık getiriyor. Gelecekte, AI alanında teknolojik yenilik ve endüstriyel gelişme için daha fazla garanti sağlamak amacıyla AI yönetişimi ile ilgili standartların daha hızlı formüle edilmesi ve uygulanması gerekmektedir.

Sektör, yapay zeka yönetişimi için öz disiplin önlemlerini aktif olarak araştırır ve sorumlu yenilik ve teknoloji kavramını sonsuza dek uygular

**Etkili yapay zeka yönetişimi, hükümet, işletmeler, endüstri kuruluşları, akademik gruplar, kullanıcılar veya tüketiciler ve halk gibi birden çok konunun ortak katılımını gerektirir. Bunların arasında, teknoloji şirketlerinin özyönetim ve öz disiplin yönetimi, "Önce etik" kavramını uygulamanın önemli bir parçası. **"Önce etik" çağrısının nedeni, büyük ölçüde yapay zekanın hızlı gelişimi karşısında "yasal gecikme" olgusunun giderek daha belirgin hale gelmesinden kaynaklanmaktadır. Yapay zeka alanında, "önce etik" ilk olarak teknoloji şirketlerinin teknolojik etiğin öz disiplin yönetiminde kendini gösterir ve lider şirketlerin en iyi uygulamaları, sorumlu inovasyon ve teknoloji uygulamalarını teşvik ederek genellikle çok iyi bir lider rol oynayabilir. tüm endüstri fikrinde iyilik için.

Endüstri düzeyinde, son yıllarda ilgili araştırma kurumları ve endüstri kuruluşları, şirketlerin AI faaliyetleri için etik rehberlik sağlamak üzere AI etik yönergeleri ve öz disiplin sözleşmeleri vb. önermiştir. Bu konudaki tipik temsilciler, Çin Yapay Zeka Endüstrisi Geliştirme İttifakının (AIIA) "Yapay Zeka Endüstrisi Öz Disiplin Sözleşmesi" ve "Güvenilir AI Operasyon Yönergeleri", Pekin'in "Yapay Zeka Pekin Uzlaşması" ve "Yapay Zeka Uzlaşması"nı içerir. Zhiyuan Yapay Zeka Araştırma Enstitüsü. Endüstri Sorumluluğu Beyanı", Ulusal Bilgi Güvenliği Standardizasyon Komitesi'nin "Ağ Güvenliği Standart Uygulama Yönergeleri-Yapay Zeka Etik Güvenlik Risklerini Önleme Yönergeleri" vb.

Kurumsal düzeyde, yapay zeka teknolojisi inovasyonunun ve endüstriyel uygulamasının ana organı olan teknoloji şirketleri, yapay zekanın sorumlu araştırma, geliştirme ve uygulamasının önemli sorumluluğunu üstlenir. Yabancı ülkelerde, teknoloji şirketleri nispeten olgun deneyimleri keşfetmiş ve yapay zeka etik ilkeleri önermekten, dahili yapay zeka etik yönetişim organizasyonları kurmaktan ve yönetim ve teknik araçlar ve hatta ticari sorumlu yapay zeka çözümleri geliştirmekten çok fazla kaynak biriktirmiştir. [13] . Son yıllarda yerli teknoloji şirketleri, düzenleyici gereklilikleri aktif bir şekilde uygulamış ve ilgili özdenetim önlemlerini araştırmıştır; bunlar arasında başlıca şunlar dahildir: AI etik ilkeleri yayınlamak, dahili AI yönetişim organizasyonları (etik komiteleri gibi) oluşturmak, AI faaliyetleri için etik incelemeler veya güvenlik riski değerlendirmeleri yapmak ve dış dünyaya algoritmaları ifşa etme. birleşik öğrenme olarak), vb.

Küresel AI yönetişim işbirliği ve rekabet bir arada var olur

**Küresel AI rekabeti yalnızca teknoloji ve endüstri arasındaki bir rekabet değil, aynı zamanda yönetişim kuralları ve standartları arasındaki bir rekabettir. **Küresel dijital ekonominin gelişimi, yapay zeka ve veriler için veri akışı, yapay zeka yönetişim çerçevesi vb. gibi yeni uluslararası kurallar oluşturuyor. Son yıllarda, küresel AI yönetişim işbirliği ilerlemeye devam etti. 2019 OECD/G20 AI İlkeleri, ilk küresel AI politika çerçevesidir. Kasım 2021'de Birleşmiş Milletler UNESCO, şu anda en kapsamlı ve geniş çapta fikir birliğine varılan küresel AI politika çerçevesi olan dünyanın ilk AI etik anlaşması "Recommendation on the Ethics of Artificial Intelligence"ı (Recommendation on the Ethics of Artificial Intelligence) kabul etti. , etik etki değerlendirmesi ve AI etik yönetişimini güçlendirmek için diğer mekanizmalar.

Aynı zamanda, Amerika Birleşik Devletleri ve Avrupa, AI politikaları alanındaki liderliklerini güçlendirmek ve küresel AI yönetişim kurallarını ve standartlarını etkilemek için AI politikalarını hızlandırıyorlar. Örneğin, Avrupa Birliği, 2023'te geçmesi beklendiğinde, yapay zeka için kapsamlı, riske dayalı bir düzenleme yolu oluşturacak olan uyumlaştırılmış bir yapay zeka yasası üzerinde çalışıyor. Pek çok uzman, önceki veri gizliliği mevzuatı GPDR'nin küresel teknoloji endüstrisi üzerindeki etkisi gibi, AB Yapay Zeka Yasasının da "Brüksel Etkisini" yapay zeka alanına genişleteceğini tahmin ediyor; bu, AB'nin yapay zeka yönetişimi kurmayı tam olarak umduğu şey. düzenleme yoluyla dünya için. standart. [14] AI mevzuatına ek olarak, Avrupa Konseyi hala dünyanın ilk "Uluslararası AI Sözleşmesini" hazırlıyor. Tıpkı önceki "Siber Suç Sözleşmesi" ve "Gizlilik Sözleşmesi" gibi, hem üye devletler hem de üye olmayan ülkeler katılabilir ve gelecekteki AI'yı onaylayabilir ortak düşünce. [15] Amerika Birleşik Devletleri, teknoloji ve endüstri açısından yapay zeka alanında her zaman küresel bir lider olmuştur ve son yıllarda yapay zeka politikası alanındaki liderliğini aktif olarak yeniden şekillendirmeye başlamıştır. 2020'de kurulan ABD-AB Ticaret ve Teknoloji Konseyi'nin temel görevlerinden biri, yapay zeka yönetişimi konusunda ABD-AB işbirliğini teşvik etmektir. [16] Sonuç olarak, küresel AI rekabeti, 21. yüzyılda teknolojik rekabette büyük bir değişimi temsil ettiği söylenebilecek olan AI politikası ve yönetişimi alanındaki yumuşak güç rekabetini giderek daha fazla vurgulamaktadır.

Son yıllarda Çin, küresel bilim ve teknoloji yönetişimine katılmaya büyük önem verdi, aktif olarak kendi önerilerini ortaya koydu ve daha fazla tanınma ve fikir birliği için çabaladı. Örneğin Çin, küresel dijital yönetişime pozitif enerji katmaya devam eden "Küresel Veri Güvenliği Girişimi"ni ortaya attı. Kasım 2022'de Birleşmiş Milletler Bazı Konvansiyonel Silahlara İlişkin Sözleşmeye Taraf Devletler Konferansı'nda Çin, yapay zekanın etik yönetişiminin güçlendirilmesine ilişkin bir belge sunmuş ve önce etiğe bağlı kalmak, öz disiplini güçlendirmek, yapay zekanın sorumlu kullanımı ve uluslararası işbirliğinin teşvik edilmesi.

ÜÇ NOKTA GÖRÜNÜMÜ

"14. Beş Yıllık Plan ve 2035 Uzun Vadeli Hedeflerin Ana Hatları", "Çin'de Hukukun Üstünlüğünün İnşası (2020-2025)", "Çin'in Etik Yönetişiminin Güçlendirilmesine İlişkin Görüşler" gibi birçok politika ve normatif belge Bilim ve Teknoloji" ve diğer politikalar ve normatif belgeler, yapay zeka yönetişiminin bilim ve teknoloji yönetiminde önemli bir sorun olmaya devam ettiğini göstermektedir. Teknoloji etiğinin temel alanları. Çin'in yapay zeka alanındaki küresel rekabet gücünü daha da artırmak için, Çin'in yalnızca teknoloji ve endüstriyel sert güç geliştirmeye daha fazla dikkat etmesi değil, aynı zamanda yumuşak gücü, özellikle de AI politikası ve yönetişiminde konuşma ve liderlik etme hakkını şekillendirmeye odaklanması gerekiyor. . Çünkü yapay zeka yönetişimi, küresel yapay zeka rekabet gücünün önemli bir parçası haline geldi.

Geçmişe bakıldığında Çin, kalkınma ve güvenliğe eşit önem veren, yenilik ve etiğe paralel olan yapay zeka denetimi ve yönetişimi fikrini açıklığa kavuşturdu.Yenilik ve gelişmeyi desteklerken ve teşvik ederken aynı zamanda güvenliği, güvenilirliği ve kontrol edilebilirliği de sağlıyor. teknoloji uygulamalarından. Gelecekle yüzleşirken, AI'nın sağlam gelişimini desteklemeye devam etmek için hükümetin, endüstrilerin/işletmelerin, araştırma kurumlarının, sosyal kuruluşların, kullanıcıların/tüketicilerin, halkın, medyanın ve diğer paydaşların ortak çabalarından daha iyi yararlanmamız gerekiyor. yönetişim uygulamaları ve yapay zekayı daha iyi hale getirin, ekonomik ve sosyal kalkınmaya fayda sağlayın, insanların geçim kaynaklarını ve refahını iyileştirin ve bilim ve teknolojiyi daha yüksek bir seviyeye taşıyın.

Ayrıca, geçmiş yapay zeka "altın on yılı" insanlara giderek daha güçlü yapay zeka modelleri getirdi ve öngörülebilir gelecekte yapay zeka yalnızca daha güçlü hale gelecek. Bu, AI sosyal ekosistemle etkileşime girdiğinde, olası insani, sosyal ve çevresel etkilerinin önceki herhangi bir teknolojiyi çok aşacağı anlamına gelir. Bu nedenle, AI yönetişiminin birincil görevi, "sorumlu AI" kavramını savunmaya ve uygulamaya devam etmek; Paydaşlar için değer yaratmak ve onların refahını artırmak ve kötüye kullanımı, yanlış kullanımı ve kötü kullanımı önlemektir. Kısacası, etkili yapay zeka yönetişiminin sorumlu yapay zeka uygulamalarının geliştirilmesini desteklemesi ve güvenilir yapay zeka (Güvenilir yapay zeka) yaratması gerekir.

Verileri ve yapay zeka yasal çerçevesini iyileştirmeye devam edin ve hassas ve çevik denetimi teşvik edin

Yapay zekanın sağlıklı ve sürdürülebilir gelişimi, bir yandan makul ve etkin denetimden ayrılamazken, diğer yandan yapay zeka alanında veri temini ve sirkülasyonu ve kullanım düzeyinin sürekli iyileştirilmesi gerekiyor. Aslında, yapay zekanın tıbbi bakım, üretim ve finans gibi birçok alanda geliştirilmesi ve uygulanmasının karşılaştığı temel sorunlardan biri, zor veri toplama, düşük veri kalitesi ve tutarsız veri standartları dahil olmak üzere veri toplama ve kullanma sorunudur. Bu nedenle, gelecekte AI'nın daha da geliştirilmesi, büyük ölçüde verilerin ve AI yasal çerçevesinin sürekli iyileştirilmesine bağlıdır. Birleşik Krallık'ın "Dijital Düzenleme Planı", iyi tasarlanmış düzenlemenin kalkınmayı teşvik etme ve canlı bir dijital ekonomiyi ve toplumu şekillendirmede güçlü bir etkiye sahip olabileceğini, ancak kötü tasarlanmış veya kısıtlayıcı düzenlemenin yeniliği engelleyebileceğini önermektedir. Doğru kurallar, insanların kullandıkları ürün ve hizmetlere güvenmelerine yardımcı olabilir, bu da ürün ve hizmetlerin popülaritesini artıracak ve daha fazla tüketim, yatırım ve yenilik getirecektir. [17] Aynı şey AI için de geçerli.

** Bir yandan, yapay zeka yönetişimi için hassas ve çevik denetimi daha iyi teşvik etmek gerekir. Bu şunları içerir: İlk olarak, farklı AI ürünleri, hizmetleri ve uygulamaları için farklı kurallar benimseyin. **Yapay zeka uygulamaları artık neredeyse her yerde olduğundan, herkese uyan tek bir kuralın, yapay zeka uygulamalarının farklı endüstri ve alanlardaki benzersiz özelliklerine ve bunların bireyler ve toplum üzerindeki etkilerine makul bir şekilde uyum sağlaması zordur. Bu, risk tabanlı bir AI yönetişim politikası çerçevesini benimsememizi gerektiriyor. Örneğin, aynı yapay zeka teknolojisi yalnızca kullanıcının kişisel niteliklerini ve kişisel tercihlerini analiz etmek ve tahmin etmek ve kişiselleştirilmiş içeriği zorlamak için değil, aynı zamanda hastalıkların teşhis ve tedavisine yardımcı olmak için de kullanılabilir; Sınıflandırma ve organizasyon ayrıca kanser tümörlerini tanımlar. Bu uygulamaların risk düzeyi, sonuçların önemi, kişisel ve sosyal etkileri açısından büyük farkları vardır.Yönetmelik gerekliliklerini genel ve herkese uyan bir şekilde ortaya koymak ne bilimsel ne de gerçekçidir. **İkincisi, AI uygulamalarının derecelendirilmesi ve sınıflandırılması temelinde merkezi olmayan ve farklılaştırılmış denetimin benimsenmesini vurgular. **Tıpkı İnternet gibi, AI da çok geniş ve genel amaçlı bir teknolojidir ve birleşik denetim yürütmek için uygun ve zor değildir. Yabancı bir bakış açısından, şu anda yalnızca Avrupa Birliği tüm AI uygulamaları için birleşik ve genel bir düzenleyici çerçeve (AB modeli) oluşturmaya çalışırken, Birleşik Krallık ve Amerika Birleşik Devletleri uygulama senaryolarına ve risklere dayalı olarak endüstrilerin merkezi olmayan denetimini vurgulamaktadır ( Anglo-Amerikan modeli). Birleşik Krallık, ilkeler tarafından yönlendirilmeyi ve AI uygulamalarında inovasyonu teşvik eden denetimi benimsemeyi önermektedir.Temel kavramları şunları içerir: belirli uygulama senaryolarına odaklanmak ve risk derecesine dayalı olarak denetimin orantılılığını ve uyarlanabilirliğini sağlamak; [18] Amerika Birleşik Devletleri her zaman endüstri düzenlemesi ile endüstri öz disiplinini birleştiren bir yönetişim yolunu vurgulamıştır.Örneğin, "AI Bill of Rights Blueprint" yalnızca beş ilke önermekle kalmaz, aynı zamanda endüstri yetkilileri tarafından yönetilen merkezi olmayan düzenleme fikrini de netleştirir. ve uygulama senaryosu odaklı. [19] Çin söz konusu olduğunda, geçmişte AI mevzuatı ve denetimi Anglo-Amerikan modeline daha yakındır, yani algoritma öneri hizmetleri, derin sentez ve otonom sürüş gibi farklı AI uygulamaları için ayrı düzenleyici kurallar formüle edilmiştir. Bu merkezi olmayan ve farklılaştırılmış düzenleyici model, çevik yönetişim ilkelerine uygundur ve yapay zeka teknolojisinin ve uygulamalarının hızlı gelişimi ve yinelemesinin karmaşık özelliklerine daha iyi uyum sağlayabilir. **Üçüncüsü, düzenleyici araç kutusunun sürekli olarak yenilenmesini ve çeşitlendirilmiş düzenleyici girişimlerin benimsenmesini gerektirir. Biri AI "düzenleyici sanal alan". ** Avrupa Birliği'nin AI düzenlemesindeki en önemli girişimlerinden biri, önerilen AI "düzenleyici sanal alan" dır. [20] Düzenleyiciler ve inovasyon konuları arasındaki iletişimi ve işbirliğini desteklemenin ve teşvik etmenin etkili bir yolu olan "düzenleyici korumalı alan", yenilikçi yapay zeka uygulamalarını uyum içinde geliştirmek, test etmek ve doğrulamak için kontrollü bir ortam sağlayabilir. "Düzenleyici korumalı alandan" oluşturulan en iyi uygulamalar ve uygulama yönergeleri, işletmelerin, özellikle küçük, orta ve mikro ölçekli işletmelerin ve yeni kurulan şirketlerin düzenleyici kuralları uygulamalarına yardımcı olacaktır. **İkincisi, AI yönetişim standartları, sertifikalandırma, test etme, değerlendirme, denetim vb. dahil olmak üzere AI yönetişim sosyal hizmetleridir. **Ağ güvenliği alanında, ağ güvenliği sertifikasyonu, testi ve risk değerlendirmesi gibi ağ güvenliği sosyal hizmetleri, düzenleyici gereksinimleri uygulamanın önemli bir yoludur. AI yönetişimi bu yaklaşımdan öğrenebilir. Şu anda Avrupa Birliği, Birleşik Krallık, Amerika Birleşik Devletleri ve IEEE yapay zeka yönetişim sosyal hizmetlerini desteklemektedir. Örneğin IEEE, sektör için yapay zeka etik sertifikasını başlattı; [21] Birleşik Krallık tarafından yayınlanan "Etkili bir AI Sertifikasyon Ekosistemi Kurmak İçin Yol Haritası", tarafsız üçüncü taraf AI sertifikasyon hizmetleri (etki değerlendirmesi, yanlılık denetimi ve uyumluluk denetimi, sertifikalandırma, uyumluluk değerlendirmesi dahil) aracılığıyla dünya lideri bir AI sertifikasyon endüstrisi geliştirmeyi umuyor. , performans testi vb.) AI sistemlerinin güvenilirliğini ve uyumluluğunu değerlendirmek ve iletmek için. Birleşik Krallık, bunun milyarlarca sterlin değerinde yeni bir endüstri olacağına inanıyor. [22] Çin'in sağlam bir AI yönetişim sosyal hizmet sisteminin kurulmasını hızlandırması ve aşağı yönlü AI yönetişim hizmetleri aracılığıyla yukarı yönlü mevzuat ve düzenleme gerekliliklerini daha iyi üstlenmesi ve uygulaması gerekiyor. Ek olarak, politika yönergeleri, sorumluluk güvenli limanları, pilot projeler, demonstrasyon uygulamaları ve olay sonrası hesap verebilirlik gibi düzenleyici yöntemlerin tümü, farklı uygulama senaryolarında önemli bir rol oynayabilir.

**Öte yandan, veri dolaşımı ve kullanımına yönelik yasal çerçevenin iyileştirilmesine hız verilmesi ve yapay zeka alanında veri arz seviyesinin iyileştirilmesine devam edilmesi gerekmektedir. **Birincisi, ulusal düzeyde açık ve paylaşılan kamu verileri için yasal bir çerçeve oluşturmak, veri kalitesi ile veri yönetişim standartlarını birleştirmek ve veri indirmeleri, API arayüzleri, özel bilgi işlem (birleşik öğrenme, güvenli çok taraflı bilgi işlem, güvenli ve güvenilir bilgi işlem ortamları vb.), veri Genel verilerin maksimum açık paylaşımını teşvik etmek için Veri Alanı gibi çeşitlendirilmiş yönetim ve teknik yöntemler. İkincisi, özel bilgi işlem teknolojisi ve sentetik veri teknolojisinin geliştirilmesi ve uygulanmasının önündeki çeşitli engelleri aktif olarak kaldırmaktır. Şu anda, çeşitli verilerin dolaşımında ve kullanımında, birleşik öğrenme gibi özel bilgi işlem teknolojileri giderek daha önemli bir rol oynamaktadır ve "veri kullanılabilir/sayılabilir ve görünmezdir", "veri algoritmayı/değeri değiştirmez" gibi etkiler elde edebilir. hareket eder". Yapay zeka ve büyük veri uygulamalarının geliştirilmesiyle yönlendirilen birleşik öğrenme, gizlilik bilişimi alanındaki ana tanıtım ve uygulama yöntemi olarak şu anda en olgun teknik yoldur. Bir sonraki adımda, stratejik alanlarda veri alanları oluşturarak, gizli bilgi işlem için endüstri standartlarını formüle ederek ve özel bilgi işlem teknolojilerinin uygulanması için yasal yönergeler yayınlayarak birleşik öğrenme gibi özel bilgi işlem teknolojilerinin uygulanmasını ve geliştirilmesini daha iyi destekleyebiliriz.

AI etik yönetişiminin ilkeden uygulamaya geçmesi gerekiyor

Bilimsel ve teknolojik etik yönetişimin kurumsallaşması ve yasallaşmasının gelişmesiyle, bilimsel ve teknolojik etik yönetişimin güçlendirilmesi, bilim ve teknoloji işletmeleri için "seçilmesi gereken" ve "zorunlu sorulardan" biri haline gelmiştir. "Önce etik" kavramı altında, bilim ve teknolojinin etik yönetişiminin gereklilikleri, teknoloji şirketlerinin yapay zeka etik sorunlarıyla olay sonrası iyileştirici önlemler yoluyla başa çıkmayı umut edemeyecekleri, ancak tüm sürece dahil olmaları gerektiği anlamına gelir. Tasarımdan geliştirmeye ve devreye almaya kadar yapay zeka yaşam döngüsü.Bunlar arasında, bilim ve teknoloji etiği yönetiminin ana biriminin sorumluluğunu aktif olarak yerine getirmek ve çeşitli şekillerde bilim ve teknoloji etiği öz disiplinini yenilikçi bir şekilde teşvik etmek yer alır. Genel olarak, son derece teknolojik ve dijital bir toplumda, teknoloji şirketlerinin yapay zeka yönetişimini yasal işler, finans ve risk kontrolü gibi mevcut modüller kadar önemli bir modül olarak kurumsal yönetişim ortamlarına dahil etmeyi düşünmeleri gerekir. Aşağıdaki yönler daha fazla araştırmaya değer:

**Öncelikle, yönetim açısından, bir AI etik risk yönetimi mekanizması oluşturmak gereklidir. **Yapay zeka etik risk yönetiminin, kapsamlı bir şekilde tanımlamak, analiz etmek ve değerlendirmek için tasarım öncesi aşama, tasarım ve geliştirme aşaması, devreye alma aşaması ve bu aşamalar boyunca test ve değerlendirme faaliyetleri dahil olmak üzere yapay zekanın tüm yaşam döngüsü boyunca çalışması gerekir. , yapay zeka etik risklerini yönetin ve yönetin. Bu, kuruluşun etik kurul, etik inceleme süreci ve diğer yönetim araçları gibi ilgili organizasyon yapısını ve yönetim normlarını oluşturmasına bağlıdır. Politika yapıcılar bu bağlamda politika yönergeleri yayınlamayı düşünebilirler.

İkinci olarak, tasarım açısından insan odaklı tasarım anlayışını takip etmek ve "Ethics by Design"** (Ethicsby Design) kavramını uygulamak gerekir. **Etik gömülü tasarım, etik değerlerin, ilkelerin, gereksinimlerin ve prosedürlerin AI, robotik ve büyük veri sistemlerinin tasarımına, geliştirilmesine ve dağıtımına entegre edilmesi anlamına gelir. İşletmelerin, teknisyenler tarafından yönetilen yapay zeka Ar-Ge ve uygulama süreci üzerinde düşünmesi ve yapay zeka Ar-Ge ve uygulama faaliyetlerinin çeşitli arka planına ve katılımına daha fazla önem vermesi gerekiyor. Teknoloji geliştirme ekibine politika, hukuk, etik, toplum, felsefe ve diğer çok disiplinli ve disiplinler arası personeli dahil etmek, etik gereklilikleri teknoloji tasarımı ve geliştirmeye dahil etmenin en doğrudan ve etkili yoludur. Gelecekte, politika yapıcılar deneyim ve dersleri özetlemek ve etik gömülü tasarım için teknik yönergeler, en iyi uygulamalar ve diğer belgeleri yayınlamak için sektörle el ele verebilirler.

**Son olarak, teknoloji açısından, yapay zeka etik sorunlarıyla başa çıkmak ve güvenilir yapay zeka uygulamaları oluşturmak için teknik ve pazar odaklı yaklaşımları keşfetmeye devam etmek gerekiyor. **Biri AI etik aracıdır. Yapay zeka uygulamalarındaki açıklanabilirlik, adalet, güvenlik, mahremiyetin korunması vb. birçok sorun teknolojik yenilikle çözülebilir. Bu konulara odaklanan sektör, bazı yapay zeka etik araçlarını ve yapay zeka denetim araçlarını araştırdı ve bu alandaki gelecekteki çalışmaların daha da geliştirilmesi gerekiyor. İkincisi, AI etik hizmetidir (AIEthicsasa Service). [23] Önde gelen AI etik şirketleri ve AI etik girişimleri, AI etik araçlarına ve hizmetlerine odaklanan sorumlu AI çözümleri geliştirir ve bunları ticari hizmetler olarak sunar. [24] Araştırma ve danışmanlık firması Forrester, giderek daha fazla sayıda yapay zeka teknolojisi şirketinin ve diğer alanlarda yapay zeka uygulayan şirketlerin adil ve şeffaf yapay zeka etik ilkelerini uygulamalarına yardımcı olacak sorumlu yapay zeka çözümleri satın alacağını ve yapay zeka etik hizmetlerinin pazar boyutunun ikiye katlanacağını tahmin ediyor. Üçüncüsü, AI Ethics Bounty gibi teknoloji kitle kaynak kullanımı yöntemleridir. İnternet şirketleri tarafından yaygın olarak kullanılan ağ güvenliği güvenlik açığı ödülü (Bug ödülü), algoritma ayrım ödülü (Algoritmik Önyargı Ödülü) ve diğer teknik kitle kaynak kullanımı yöntemlerine benzer şekilde, AI etik sorunlarını keşfedebilir, tanımlayabilir ve çözebilir, AI denetim araçları geliştirebilir ve güvenilir AI uygulamaları önemli bir rol oynayacaktır. Twitter ve Stanford Üniversitesi gibi bazı yabancı şirketler ve üniversite araştırma kurumları, katılımcıları yapay zeka modellerinde algoritmik ayrımcılığı belirleyecek ve hafifletecek araçlar geliştirmeye çağıran Algoritmik Ayrımcılık Ödül Yarışması ve Yapay Zeka Denetim Yarışması'nı başlattı. Bu teknoloji kitle kaynak kullanımı yöntemleri aracılığıyla AI etik topluluğunu geliştirmek ve güçlendirmek, AI yönetişiminde önemli bir rol oynayacaktır.

Küresel AI yönetişim işbirliğinin derinleşmeye devam etmesi gerekiyor

Daha önce de belirtildiği gibi, küresel AI yönetişimi, insan odaklı, açık ve paylaşılan teknoloji ve kapsayıcı kalkınma kavramlarına uymayan rekabetçi bir durum sunar. Ülkelerin uluslararası yapay zeka yönetişimindeki işbirliğini derinleştirmeye, yapay zeka etiği ve yönetişimi üzerine uluslararası anlaşmaların formüle edilmesini teşvik etmeye, uluslararası bir yapay zeka yönetişim çerçevesi, geniş fikir birliğine sahip standartlar ve normlar oluşturmaya, teknoloji, yetenekler, endüstriler vb. alanlarda alışverişi ve işbirliğini geliştirmeye devam etmesi gerekiyor. ., ve dışlayıcılığa karşı çıkın, teknoloji kapsayıcılığı ve teknolojiyi sonsuza dek teşvik edin ve tüm ülkelerin kapsayıcı gelişimini gerçekleştirin. Çin'in küresel teknoloji yönetişimine derin katılımı, yapay zeka ve veri alanlarında yeni uluslararası kural koyma fırsatlarını yakalamalı, sürekli olarak küresel fikir birliğine uyan yapay zeka yönetişim çözümleri önermeli ve küresel dijital yönetişime Çin bilgeliğini aşılamaya devam etmelidir. AI yönetişimi. Aynı zamanda, uluslararası sesimizi güçlendirmemiz, fikirlerimizi, önerilerimizi ve uygulamalarımızı uluslararası toplumla bütünleştirmemiz, daha fazla tanınma ve fikir birliği için çabalamamız ve sesimizi ve etkimizi artırmamız gerekiyor.

Geleceğe bakıldığında, yapay zeka teknolojisinin sürekli gelişmesiyle yapay zeka giderek daha güçlü hale gelecek ve gelecekte genel yapay zeka (Yapay Genel Zeka, kısaca AGI) ortaya çıkabilir. Genel bir AI, insana eşdeğer bir zeka seviyesine sahip olacak ve bir insanın yapabileceği herhangi bir entelektüel görevi yerine getirebilecektir. Teorik olarak, genel yapay zeka daha yüksek bir zeka seviyesi tasarlayarak büyük bir zeka patlamasına neden olabilir, sözde "tekillik" süper zeka ile sonuçlanır. Mevcut AI uygulamasından gelecekteki AGI'ye, niceliksel değişimden niteliksel değişime bir sıçrama olabilir. Bu, AGI'nin insan işlerini yerinden etmesi, kontrolden çıkması ve hatta insan varlığını tehdit etmesiyle ilgili endişeleri artırdı. Bu nedenle, genel AI'nın gelişimi ve potansiyel güvenlik ve etik sorunları ile ilgili olarak, AI teknolojisinin tüm insanlığın yararına daha kapsayıcı, güvenli, güvenilir ve kontrol edilebilir olmasını sağlamak için dünyanın önceden plan yapması ve birlikte çalışması gerekir.

Bu makale ilk olarak "Journal of Shanghai Normal University (Philosophy and Social Sciences Edition)" dergisinin 4. Sayısı 2023'te yayınlanmıştır