Çin'in yapay zeka modeli artık "çıplak koşmaya" devam edemez

yazar: Shijie

15 Ağustos'tan itibaren "Üretken Yapay Zeka Hizmetlerinin İdaresine İlişkin Geçici Tedbirler" (bundan böyle "Geçici Tedbirler" olarak anılacaktır) yürürlüğe girdi.

Son altı ayda pervasızca büyüyen ve hızlı bir gelişim gösteren büyük ölçekli maket sektörü için “Geçici Tedbirler”in tam zamanında devreye girdiği söylenebilir.

Çin Bilimsel ve Teknolojik Bilgi Enstitüsü tarafından yayınlanan "Çin Yapay Zeka Büyük Model Haritası Araştırma Raporu"na göre 2023 yılının ilk yarısı itibarıyla 1 milyar ve üzeri parametreye sahip 79 yerli büyük ölçekli model piyasaya sürüldü, dünyada ikinci, yalnızca Amerika Birleşik Devletleri'nden sonra ikinci sırada.

Büyük modellerin endüstriyel ekolojisini keşfetme sürecinde, veri gerekli bir üretim verisidir ve aynı zamanda standardize edilmesi gereken önemli bir halkadır. Avukat Wang Chen, "Shijie"ye şunları söyledi: "Ülkemizin kişisel mahremiyeti koruması, 2012'de kabul edilen "Ağ Bilgi Korumasını Güçlendirme Kararı" gibi ilgili yasa ve yönetmeliklere uzun süredir yansımıştır, ancak AI teknolojisinin gelişmesiyle birlikte, kişisel bilgilerin toplanması ve kullanılması da sürekli olarak getiriliyor ve bu da düzenleyici düzeyde sürekli ayarlama ve ekleme gerektiriyor.”

Yeni yürürlüğe giren "Geçici Önlemler", mevcut patlayıcı üretken yapay zeka (AIGC) endüstrisi için yayınlanan ilk yerli ve hatta küresel düzenleyici politikalardır.

HKBTÜ iFlytek Başkanı Liu Qingfeng, bu arka plana karşı şuna inanıyor: "('Geçici Tedbirlerin' yürürlüğe girmesiyle birlikte), 15 Ağustos, Çin'in genel yapay zekasının gelişiminde önemli bir dönüm noktasını başlatacak ve aynı zamanda bir kilometre taşı olacak. düğüm. . ”

** "Miao Duck Camera" kullanıcı verilerini alamaz**

Kısa bir süre önce, 9.9 yuan'a dijital avatarlar ve yapay zeka fotoğrafları üreten "Miaoya Kamera" tüm İnternet'te popüler hale geldi ve binlerce insan dijital avatar yapmak için sıraya girdi. Ancak gizlilik politikası, kullanıcının Miaoya Kamera'ya verdiği yetkinin "geri alınamaz" olduğunu ve kullanıcı içeriğinin "herhangi bir biçimde ve her kapsamda" kullanılabileceğini ve diğer uygunsuz içeriklerin kullanılabileceğini belirtmektedir.

Miaoya Camera'nın geliştiricisi daha sonra orijinal sözleşmenin içeriğinin yanlış olduğu yanıtını verip ilgili maddeleri hemen silmiş olsa da bu olay, kullanıcıları hâlâ endişelendiriyordu.

Yüz videoları oluşturmak ve hatta yeni dolandırıcılık türleri için insan seslerini simüle etmek için AIGC teknolojisinin kullanıldığı vakalar da gazetelerde yer aldı. Asayiş Bakanlığı'nın verilerine göre, 10 Ağustos itibarıyla "Yapay Zeka yüz değiştirme" nedeniyle 79 ilgili dolandırıcılık vakası tespit edildi ve 515 şüpheli tutuklandı.

AI algoritma mühendisi Wen Mu, "Shijie"ye şunları söyledi: "Sahte yüz fotoğrafları veya videoları oluşturmak için AI teknolojisini kullanmanın maliyeti son derece düşüktür. Teoride, suçluların yalnızca eğitimli bir AI modeline ve kurbanın bir fotoğrafına ihtiyacı vardır. Bu yapılacaktır. ”

Bir AIGC şirketinden sorumlu kişi olan Xu Liang, yukarıda bahsedilen AI teknolojisinin uygunsuz kullanımı olaylarının, büyük ölçekli model endüstrisinin tüm endüstriyel zincirinin acilen düzenlenmesi gerektiğini yansıttığına inanıyor. sadece Çin'de değil, aynı zamanda küresel yapay zeka alanında da odaklanılması gereken konular.”

▲

15 Ağustos'ta yürürlüğe giren "Geçici Tedbirler", 4 fasıl ve 24 maddeden oluşuyor ve yukarıda belirtilen hususları açıkça belirtiyor.

Örneğin, "Geçici Tedbirler", kişisel bilgileri içeren veri işleme faaliyetlerinde, AIGC hizmet sağlayıcılarının kişisel onay almasını veya kanun ve idari düzenlemelerde öngörülen diğer durumlara uymasını şart koşmaktadır; yazar sorumluluğu, içerik yönetimi ile ilgili yükümlülükler vb. King & Wood Mallesons'ın analizine göre, bu hüküm ilgili tarafların uyum yükümlülüklerini yerine getirmemelerini veya birbirlerinden kaytarmalarını önlemeye yardımcı olacaktır.

Xu Liang, "Geçici Tedbirler"deki uygulama kapsamına ilişkin düzenlemelerin özellikle dikkate değer olduğuna inanıyor. Özel hükümler şunları içerir: AIGC teknolojisinin yerel halka metin, resim, ses, video ve diğer içerik üretme hizmetini sağlamak için kullanılması, bu önlemler geçerlidir; endüstri kuruluşları, işletmeler, eğitim ve bilimsel araştırma kurumları, kamu kültür kurumları, ilgili kurumlar, vb. AIGC teknolojisini araştırır, geliştirir ve uygular AIGC hizmetleri yerel halka sağlanmazsa, bu Tedbirlerin hükümleri uygulanmayacaktır.

"Anladığım kadarıyla, ToC seviyesindeki AIGC ürünleri iç pazar için nispeten sıkı bir denetimle karşı karşıya kalacak, ancak bunların denizaşırı ülkelere gittiği düşünülebilir. Ancak, Çin'de eğitilen büyük ölçekli model ürünler denizaşırı ülkelere gittiğinde, aynı zamanda Denizaşırı ülkelere giden verilerin uyumluluk sorunları." Xu Liang, "Genel olarak, "Geçici Tedbirler" katı değildir ve sektöre ücretsiz geliştirme için alan sağlar."

"Geçici Tedbirler"de ayrıca, kamuoyu niteliği taşıyan veya toplumsal seferberlik kabiliyeti olan üretken yapay zeka hizmetleri sağlayanların, ilgili yönetmeliklere uygun olarak güvenlik değerlendirmeleri yapmaları, dosyalama ve diğer prosedürlerden geçmeleri gerektiğinin de belirtildiğini belirtmekte fayda var.

Temmuz ayının sonundan bu yana, Apple'ın AppStore'u Çin'deki çok sayıda üretici yapay zeka uygulamasını kaldırmak için girişimde bulundu. İleride “Geçici Tedbirler”in yürürlüğe girmesi ile ilgili prosedürler tamamlandıktan sonra söz konusu uygulama yazılımları yeniden devreye alınacaktır.

**Pandora'nın Kutusu nasıl yönetilir? **

Endüstri genel olarak, büyük ölçekli model endüstrisinin standartlaştırılmış gelişimine giden yolda, yasa ve yönetmeliklerin sürekli iyileştirilmesine ek olarak, işletmeler ve endüstriler için bir yapay zeka uyumluluk sistemi kurmanın da gerekli olduğuna inanmaktadır.

Sanal bir dijital insan şirketinden sorumlu kişi "Shijie"ye şunları söyledi: "Yeni teknolojilerin uygulanması genellikle normlardan önce doğar. pazara yön vermek ve pazarın, sektörün ve toplumun ihtiyaç duyduğu hizmetleri sunmak. Aynı zamanda teknolojik gelişmenin olası olumsuz etkilerini belirlemek ve değerlendirmek için risk değerlendirmeleri de yapacağız. karşı önlemlerin zamanında formüle edilmesi Risk önleme konusuna dikkat edilirken aynı zamanda hata toleransı ve hata düzeltme mekanizmaları da eş zamanlı olarak oluşturulmalıdır.”

"Geçici Önlemler" yürürlüğe girdiğinde, birçok büyük ölçekli işletme de fikirlerini ve bir yapay zeka uyum sistemi oluşturma konusundaki ilerlemelerini paylaştı.

15 Ağustos'ta iFLYTEK'in başkanı Liu Qingfeng, kendi geliştirdiği büyük modeli "Xunfei Xinghuo Bilişsel Model 2.0"ın basın toplantısında iFLYTEK'in eğitim verilerini temizlemeyi tasarladığını ve içerik düzeltmesi ürettiğini söyledi.

Bunlardan veri temizleme sürecinde iFLYTEK, dünyanın her yerinden eğitim derlemi topladıktan sonra dil ayrımcıları, kalite ayrımcıları, gizlilik ayrımcıları ve güvenlik ayrımcıları aracılığıyla metni temizleyecek ve son olarak yüksek kaliteli eğitim derlemi elde edecektir. Büyük modellerin yanılsamasıyla karşı karşıya kalan iFLYTEK'in fikri, genel bilgi tabanlarının, endüstri bilgi tabanlarının ve büyük modellerin yeteneklerini birleştirmek, güvenli ve profesyonel endüstri bilgi tabanlarını öğrenmek için genel büyük modelleri kullanmak ve ardından ilgili bilgiyi çıkarmaktır. .

Baidu, tedarik zincirinin güvenliğini ve kontrol edilebilirliğini çip katmanı, çerçeve katmanı, model katmanı ve uygulama katmanından oluşan dört katmanlı mimaride gerçekleştirdiğini söyledi.Kendi geliştirdiği derin öğrenme çerçevesi "Flying Paddle" da eksiksiz bir güvenlik açığı yönetimine sahip. mekanizma.

"Yerli LLM (Büyük Dil Modeli) Ürün Testine" göre, Baidu'nun büyük ölçekli modeli "Wen Xin Yi Yan" ve Xunfei'nin büyük ölçekli modeli "Xunfei Xinghuo" dini inanç, feodal hurafe, pan-pornografi, güncel olaylar konusunda benzerlikler gösteriyor , küçüklerin korunması ve İnternet Güvenlik hukuku gibi ilgili alanlarda yanıtların nesnelliği ve adilliği GPT-3.5'ten daha iyidir.

360 Group'un kurucusu Zhou Hongyi, medyaya verdiği bir röportajda 360'ın kurumsal düzeyde bir AI büyük ölçekli model çözümü başlattığını ve "güvenlik ve güvenilirlik, iyi içerik ve güvenilir sonuçlar" şeklindeki dört ilkeyi takip ettiğini söyledi. kurumsal düzeyde dikey büyük ölçekli bir model oluşturun 20 sektör için çözümler sağlayın.

6 Haziran'da yayınlanan "Devlet Konseyi'nin 2023 Yasama Çalışma Planı"na göre Çin'in "Yapay Zeka Yasası" da yasama sürecinde ve ilgili yasal normlar giderek iyileştirilecek.