Yapay Zekadaki gelişmeler inanılmaz. Hala sınırların nerede olabileceğini ve bir gün bir yapay zeka tarafından yapılan bir yaratımı bir insandan metin veya sanat gibi konularda ayırt etmenin tamamen imkansız olup olmayacağını hala bilmiyoruz.
Birinin ve diğerinin yaratımları arasındaki sınırların bulanıklaşacağı bu hipotez gelene kadar, şimdi yapabileceğimiz bir metnin bir insan tarafından mı yoksa bir yapay zeka tarafından mı yazıldığını bulmaya çalışmaktır.
AI tarafından yazılan metni algıla
OpenAI, girdi içeriğinin ChatGPT gibi yapay zeka araçları kullanılarak oluşturulup oluşturulmadığını algılamaya çalışan bir AI metin sınıflandırıcısı yayınladı. “AI Metin Sınıflandırıcı, uyumlu bir GPT modelidir. bir yapay zekanın bir metin oluşturma olasılığını tahmin eder ChatGPT gibi çeşitli kaynaklardan," yeni bir OpenAI blog gönderisini açıklıyor.
OpenAI, aracı çok sayıda üniversite ve okul bölgesinin, şirketin yapay zeka destekli popüler sohbet robotu ChatGPT'yi yasaklamasından sonra başlattı. tam öğrenci kitap incelemeleri, makaleler yazmak ve hatta ödevleri tamamlamak gibi ödevler. programlama.
İşlem oldukça basittir. adresine gitmeniz yeterlidir. bu doğrulama aracının web sitesi ve oturum açın veya kaydolun (ChatGPT kullanıyorsanız hesabınız yeterli olacaktır). Bundan sonra, doğrulamak istediğiniz metni yapıştırmanız gerekecek ve araç, muhtemelen bir AI veya bir insan tarafından yazılmış olup olmadığını söyleyen bir sonuç döndürecektir.
OpenAI, "%100 güvenilir değil" uyarısında bulunuyor
Eğitimcilerin, öğrencilerin kendilerine verilen ödevlerde kopya çekip çekmediklerini kontrol etmek için bu yeni AI metin doğrulama aracını kullanmaları muhtemel olduğundan, OpenAI bunun akademik sahtekarlığı belirlemek için "tek test" olarak kullanılmaması gerektiği konusunda uyarıyor.
"Sınıflandırıcımız tamamen güvenilir değil. İngilizce metinlerden oluşan bir 'zorluk seti' değerlendirmemizde, sınıflandırıcımız yapay zeka tarafından yazılan metnin %26'sını doğru bir şekilde tanımlar (gerçek pozitifler) "muhtemelen yapay zeka tarafından yazılmış" olarak, insan tarafından yazılan metni yanlış bir şekilde yapay zeka tarafından yazılan %9 olarak etiketlerken (yanlış pozitifler). Sınıflandırıcımızın güvenilirliği genellikle giriş metninin uzunluğu arttıkça artar. Daha önce yayınlanan sınıflandırıcımızla karşılaştırıldığında, bu yeni sınıflandırıcı, en son yapay zeka sistemlerinin metninde önemli ölçüde daha güvenilir."
Ayrıca paylaştıkları bir dizi sınırlama böylece metin sınıflandırıcının kullanımı mümkün olan en etkili şekilde yapılabilir.
- Sınıflandırıcı, kısa metinlerde (1,000 karakterden az) çok güvenilmezdir. En uzun metinler bile bazen sınıflandırıcı tarafından yanlış etiketlenir.
- Bazen sınıflandırıcı, insan tarafından yazılmış metni yanlışlıkla yapay zeka tarafından yazılmış olarak etiketler.
- Sınıflandırıcının yalnızca İngilizce metin için kullanılması önerilir. Diğer dillerde önemli ölçüde daha kötü çalışır ve kodda güvenilmezdir.
- Tahmin edilebilirliği yüksek olan metin güvenilir bir şekilde tanımlanamaz. Örneğin, ilk 1,000 asal sayı listesinin yapay zeka tarafından mı yoksa insanlar tarafından mı yazıldığını tahmin etmek imkansızdır, çünkü doğru cevap her zaman aynıdır.
- AI ile yazılmış metin, sınıflandırıcıyı atlamak için düzenlenebilir. Sınıflandırıcılar, başarılı saldırılara göre güncellenebilir ve yeniden eğitilebilir, ancak tespitin uzun vadeli bir avantajı olup olmadığı net değildir.
- Sinir ağı tabanlı sınıflandırıcıların, eğitim verilerinin dışında yetersiz kalibre edildiği bilinmektedir. Eğitim setindeki metinden çok farklı girdiler için, sınıflandırıcı bazen yanlış bir tahminde bulunacağından oldukça emindir.
