ChatGPT, resmi algılama aracını kaldırır, AI metninin tanımlanamayacağını kabul eder

Kaynak: "Qubit" (ID: QbitAI), yazar: Mengchen

OpenAI duyuru yapmadan sessizce **AI metin algılama aracını ** kapattı ve doğrudan 404 sayfasını kapattı.

Buna resmi bir yanıt gelmedi ve birisinin altı ay önce piyasaya sürülen aracın blog sayfasında gizlenmiş kısa bir açıklamayı bulması birkaç gün sürdü.

...AI algılayıcı düşük doğruluk nedeniyle artık kullanılamıyor... Daha verimli metin algılama teknikleri üzerinde çalışıyoruz ve işitsel ve görsel algılama teknikleri geliştirmeye kararlıyız.

Birçok netizen, CloseAIOpenAI'nin bir ürünü duyuru yapmadan öldürme davranışından memnun değil.

Ancak AI dedektörünün kendisinin kapatılması konusunda hemfikir olan birçok kişi var, özellikle öğrenci grubu.

Çok fazla öğretmen bu şeyin etkili olduğuna inanıyor ve haksızlığa uğrayan çok sayıda öğrenci, bir cadı avına dönüşen yapay zeka ile kopya çekiyor.

Doğruluk oranı tahmin etmekle neredeyse aynı

Bu resmi test aracının doğruluğu ne kadar düşük?

OpenAI tarafından sağlanan veriler, yapay zeka tarafından oluşturulan metinlerin yalnızca %26'sını ve insanlar tarafından yazılan metinlerin %9'unu doğru bir şekilde tanımlayabilir.

Ocak ayında ilk yayınlandığında, netizenler tarafından "neredeyse tahmin ediyormuş gibi" olarak özetlenmişti.

Ek olarak, bazı insanlar deneyler yaptı ve piyasadaki çeşitli tespit araçlarının İncil ve ABD Anayasası gibi tarihi metinlerin yapay zeka tarafından yazılmış olabileceğine karar vereceğini buldu.Bu içerikleri yazamayan tarihi figürler zaman yolcusu değil mi?

Ancak yine de öğrencilerin çalışmalarını çeşitli tespit yöntemleriyle kontrol etmeye çalışan birçok öğretmen var.

En ünlü vakalardan birinde, Texas A&M Üniversitesi'ndeki bir profesör, sınıfının neredeyse yarısının geç kaldığına karar verdi.

En son trend, öğretmenlerin öğrencilerden ödevleri çevrimiçi belgelere yazmalarını ve düzenleme kayıtlarını kontrol etmelerini istemesidir, ancak akıllı öğrenciler de bundan kurtulmanın yollarını bulabilir.

Son olarak, eğitim alanında, bazı kişiler büyük ödevlerin/ders kağıtlarının tarihe karışabileceğini ve kapalı kitap sınavlarının veya sözlü sınavların yaygınlaşacağını öne sürdüler.

Mevcut algılama yöntemleri aşılabilir

Netizenler, OpenAI'nin aynı anda üretim ve tespit araçları geliştirmesinin çelişkili olduğuna dikkat çekti.

Bir taraf iyi gidiyorsa, diğer taraf iyi gitmiyor ve bir çıkar çatışması olabilir.

Ancak üçüncü şahıslar tarafından geliştirilen tespit yöntemleri güvenilir değildir.

"ChatGPT düşmanı" olarak bilinen en eskisi, Princeton lisans öğrencisi Edward Tian tarafından geliştirilen ve bir makalenin yapay zeka tarafından üretilip üretilmediğini ölçmek için cümlelerin uzunluğu ve uzunluğundaki karmaşıklığı ve değişiklikleri kullanan GPTZero'dur.

O zamanlar, GPTZero projesi eğitimciler için özel olarak yaratılmıştı ve öğretmenler test için tüm sınıfın ödevini içine atabiliyordu.

Ancak Temmuz ayında yazar, öğrencilerin kopya çektiğini tespit etme yönünden vazgeçtiğini itiraf etti.GPTZero'nun bir sonraki sürümünün artık metnin yapay zeka tarafından oluşturulup oluşturulmadığını tespit etmemesi, ancak en insana benzeyen kısmı vurgulaması planlanıyor.

Çok fazla ilgi gören başka bir algılama yöntemi, Maryland Üniversitesi tarafından geliştirilen ve büyük modellerin metin oluştururken işaretleri gizlemesini ve bunları tanımlamak için istatistiksel yöntemler kullanmasını gerektiren filigran yöntemi'dir.

Ancak bunu aşmanın yolu da çok basit: Örneğin, birisi istatistiksel özellikleri yok edebilen basit bir eşanlam değiştirme aracı geliştirdi.

Hatta bazı insanlar neden bunu ayırt etmek zorunda olduklarını merak etmeye başladılar.

Rakamların insanlar tarafından mı hesaplandığı, yoksa bilgisayarlar tarafından mı doldurulduğu gibi uzun zamandır kimsenin umurunda değil.

Konuşmacının el yazmasının kendisi tarafından mı yoksa sekreter tarafından mı yazıldığı kimsenin umurunda değil mi?

Yapay zekayı konu olarak kullanan insan davranışı araştırması

Yapay zeka ile insan içeriği arasında ayrım yapamamak o kadar da kötü görünmüyor.

Araştırmayı hızlandırmak için insan denekler yerine AI kullanan psikolojik deneyler zaten var.

Cell alt dergisindeki bir makale, iyi tasarlanmış deneysel senaryolarda, ChatGPT'nin yanıtlarının insan katılımcıların yaklaşık %95'inin yanıtlarıyla ilişkili olduğuna dikkat çekti.

Ve makine denekler yorulmaz, bilim insanlarının eşi benzeri görülmemiş bir hızda insan davranışı hakkında veri toplamasına ve teorileri test etmesine olanak tanır.

Waterloo Üniversitesi'nde psikoloji profesörü olan Igor Grossman, Science'ın ana dergisindeki yakın tarihli bir görüş yazısında şuna inanıyor:

"AI, dikkatli önyargı yönetimi ve veri doğruluğunun anahtar olduğu sosyal bilim araştırmaları için oyunun kurallarını değiştirebilir."

### Referans bağlantısı

[1]

[2]

[3]

[4]

[5]

[6]