Sophos Akademi

  1. Anasayfa
  2. »
  3. Bilişim ve Teknoloji
  4. »
  5. Yapay Zeka Tespit Yazılımları, Öğrenci Ödevlerindeki İntihalleri Tespit Edebilir mi?

Yapay Zeka Tespit Yazılımları, Öğrenci Ödevlerindeki İntihalleri Tespit Edebilir mi?

Sophos Akademi Sophos Akademi -

Üniversite öğrencileri, birçok profesör tarafından ödevlerini yapay zekaya yazdırmakla ihtam ediliyor. Bazıları için soruşturma açıldı bile. Peki, dijital içeriklerin ChatGPT gibi yapay zeka uygulamaları tarafından yazıldığı kesin olarak tespit edilebilir mi?

Yapay zeka tespit yazılımı; metin, resim, video veya ses gibi  içeriklerin yapay zeka kullanılarak üretilip üretilmediğini belirlemeyi amaçlamaktadır. 2023 yılı itibarıyla bunun ilk örnekleri, metnin yapay zeka tarafından oluşturulup oluşturulmadığını tespit ettiğini iddia eden ve bazen kolejlerde ve üniversitelerde öğrenci intihalini önlemek için kullanılan GPTZero gibi yazılımlardır.

Metin söz konusu olduğunda bu genellikle intihal iddiasını önlemek için yapılır ve genellikle kelimelerin tekrarının, bir metnin yapay zeka tarafından oluşturulduğunu gösteren işaretler olarak tespit edilmesi yoluyla yapılır (yapay zeka halüsinasyonları dahil). Genellikle öğretmenler tarafından öğrencilerini notlayarak, genellikle geçici olarak kullanılırlar. ChatGPT ve benzeri yapay zeka metin üretme yazılımının piyasaya sürülmesinin ardından birçok eğitim kurumu, yapay zekanın öğrenciler tarafından kullanılmasına karşı politikalar yayınladı. Yapay zeka metin algılama yazılımı, iş başvurularını değerlendirenlerin yanı sıra çevrimiçi arama motorları tarafından da kullanılır.

Mevcut dedektörler bazen güvenilmez olabilir ve insanlar tarafından yapılan işleri yapay zekadan kaynaklandığı şeklinde hatalı bir şekilde işaretleyebilir. Diğer durumlarda ise yapay zeka tarafından üretilen çalışmaları tespit etmekte başarısız olabilirler. MIT Technology Review, teknolojinin “insanlar tarafından hafifçe yeniden düzenlenen ve başka sözcüklerle ifade etme aracıyla karartılan ChatGPT tarafından oluşturulan metni almakta zorlandığını” söyledi. Yapay zeka metin algılama yazılımının aynı zamanda anadili İngilizce olmayan kişilere karşı ayrımcılık yaptığı da gösterilmiştir.

Kaliforniya Üniversitesi Davis’ten iki öğrenci, profesörlerinin makalelerini Turnitin adlı bir metin algılama aracıyla tarayarak makalelerin yapay zeka tarafından oluşturulduğunu işaretledikten sonra neredeyse okuldan atılma tehlikesiyle karşı karşıya kaldı. Ancak medyada yer alan haberler ve kapsamlı bir soruşturmanın ardından öğrenciler herhangi bir yanlış yapmaktan aklandı.

Nisan 2023’te, Cambridge Üniversitesi ve Birleşik Krallık’taki Russell Group Üniversitelerinin diğer üyeleri, güvenilmez olduğu yönündeki endişelerini dile getirdikten sonra Turnitin’in yapay zeka metin algılama aracından vazgeçti. Austin’deki Texas Üniversitesi altı ay sonra sistemden çıktı.

Mayıs 2023’te Texas A&M Üniversitesi – Ticaret’ten bir profesör, öğrencilerinin içeriğinin kendileri tarafından yazılıp yazılmadığını tespit etmek için ChatGPT’yi kullandı ve ChatGPT, durumun böyle olduğunu söyledi. Bu nedenle ChatGPT’nin yapay zeka tarafından oluşturulan yazıyı tespit edememesine rağmen sınıfta başarısız olmakla tehdit etti. Sorun nedeniyle hiçbir öğrencinin mezun olması engellenmedi ve (yazılımı kullandığını kabul eden) biri hariç tümü içeriklerinde ChatGPT kullandıkları yönündeki suçlamalardan aklandı.

Metin

AI metin algılamayı atlamak için tasarlanmış bir yazılım mevcuttur. Ağustos 2023’te Taloni ve diğerleri tarafından bir çalışma yürütüldü. AI metin algılamayı test etmek için Magna Græcia Üniversitesi’nde. Çalışma, Originality.ai adlı bir yapay zeka tespit aracını test etti ve GPT-4’ü ortalama %91,3 doğrulukla tespit ettiğini buldu. Ancak testler, GPT-4 metinleri Undetectable.ai aracılığıyla işlendiğinde AI dedektörünün doğruluğunun önemli ölçüde %27,8’e düştüğünü belirtti. Çalışma sonuçları Nature.com ve ResearchGate’teki Eye Journal’da yayınlandı.

Bazı uzmanlar ayrıca dijital filigranlama gibi tekniklerin etkisiz olduğuna, çünkü bunların yanlış pozitifleri tetikleyecek şekilde kaldırılabileceğine veya eklenebileceğine inanıyor.

Görüntü, video ve ses algılama

Yapay zeka tarafından oluşturulan görüntüleri (örneğin, Midjourney veya DALL-E’den kaynaklananlar) tespit etmek için bir dizi sözde yapay zeka görüntü algılama yazılımı mevcuttur. Tamamen güvenilir değiller. Diğerleri video ve ses deepfake’lerini tanımladığını iddia ediyor. Filigranlamanın etkinliği konusundaki tartışmalara rağmen Google DeepMind, bir görüntünün piksellerine insan gözüyle görülmeyen bir dijital filigran yerleştirerek çalışan SynthID adlı bir algılama yazılımını aktif olarak geliştiriyor.

Sonuç olarak bu tür yazılımların güvenilirliği bir tartışma konusudur ve yapay zeka tespit yazılımının eğitimciler tarafından potansiyel olarak yanlış uygulanması konusunda endişeler vardır.

 

Çeviri:  https://chat.openai.com/

Kaynak:  https://en.wikipedia.org/

İlgili Yazılar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir