Sophos Akademi

  1. Anasayfa
  2. »
  3. Bilişim ve Teknoloji
  4. »
  5. Yapay Zekanın da Önyargıları Olabilir!

Yapay Zekanın da Önyargıları Olabilir!

Yeni araştırmalara göre başkalarına karşı bir önyargı geliştirmek, yüksek düzeyde bilişsel bir yetenek gerektirmediğinden zeki makineler tarafından kolaylıkla taklit edilebilir.

Mert Küçükvardar

Cardiff Üniversitesi ve MIT’den bilgisayar bilimi ve psikoloji uzmanları, otonom makinelerden oluşan çeşitli grupların davranışları birbirinden ayırma, kopyalama ve öğrenme yeteneklerini daha etkin kullanması durumunda önyargı geliştirebileceğini ortaya koymuştur. Önyargının, belirli bir kişi ya da grubun bir fikrini şekillendirmesi ya da bir klişeyi biçimlendirmesi bakımından, insan bilişini zorunlu kılan, insana özgü bir fenomen olduğu düşünülebilir. Ancak bu genel inanış değişmek üzere. Her ne kadar bazı bilgisayar algoritmaları yapılan testlerde ırk ayrımcılığı ve cinsiyetçilik gibi bazı önyargılar sergilese de elde edilen kayıtlarından ve insanlar tarafından üretilen diğer verilerden yola çıkan bu araştırma, YZ’nin önyargısız sistemleri kendi başına evrimleştirme olasılığını göstermektedir.

Gözlemlenen önyargı modelleri simülasyonlara dayanıyor

Scientific Reports dergisinde yayınlanmış olan yeni bulgulara göre, araştırmacılar benzer şekilde önyargılara sahip bireyler ve yapay zekâ sistemlerinin etkileşimini bilgisayar ortamında deneyimlemiş ve önyargıları içeren modelleri deneysel simülasyonlarda test etmiştir. Süper bilgisayarlar binlerce simülasyonu ortaya koyarken her bir simülasyon tüm popülasyonda yer alan deneyimleri kopyalayıp yeni stratejiler öğrenmeye başlamıştır.

Araştırmanın eş yazarlarından olan Cardiff Üniversitesi Suç ve Güvenlik Araştırmaları Enstitüsü Bilgisayar Bilimi bölümünden Profesör Roger Whitaker şunları söyledi: “Bu simülasyonları binlerce ve binlerce kez çalıştırarak önyargının nasıl oluştuğunu anlamaya başlıyoruz. Burada önemli olan ön yargının nasıl geliştiği ve onu teşvik eden veya engelleyen koşullar.”

Önyargılara sahip bir yapay zekâ teknolojisi neye benzeyecek?

Profesör Whitaker, “Ayrımcılık yapabilecek ve başkalarını kopyalayabilecek otonom makinelerin gelecekte insan popülasyonunda gördüğümüz önyargılı olaylara karşı duyarlı olabileceğini” söylemektedir. Araştırmacılara göre, gördüğümüz yapar zekâ gelişmelerinin birçoğu özerklik ve kendi kendini kontrol etmeyi içeriyor. Yani cihazların davranışları çevrelerindeki diğer kişiler tarafından etkileniyor. Bunlara en bariz örnek yeni nesil taşıtlar ve nesnelerin interneti olguları. Şuan ki araştırmalar simülasyon içerisinde sürdürülen teorik bir kavrayışa sahip.

Kaynak: https://www.sciencedaily.com  2018/09/18

İlgili Yazılar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir