Yapay zekanın tanımına baktığımızda, insan zihninin gerçekleştirebileceği işlemleri gerçekleştirebilen makine ve yazılımlar olduklarını görüyoruz. Amazon Alexa gibi günlük yaşamımızda gördüklerimizden Google’ın aramalarımızı tahmin eden sistemine kadar pek çok farklı yapay zeka bulunuyor.

Bir yapay zeka uzmanı, acilen ilgilenilmesi gereken bir soruna dikkatleri çekti. Leiden Üniversitesi’nden yapay zeka alanında yardımcı profesör Peter van der Putten, yapay zekada yer alan bir kusuru göz önüne çıkardı.

Yapay zekada önyargı sorunu

Karar vermek genellikle karmaşık bir sürecin sonucu olarak gerçekleşir. Elde edilen tek bir çıktı (alınan karar) olmasına rağmen altta yatan farklı etmenler olabilir. Bu etmenleri değerlendirirken gözlemciler kendi deneyimlerine göre hareket ederler. İşe alım yapan bir kişinin adayları “Benimle aynı okuldan mı?” ya da “Kimler benim okulumdan değil?” diye ayırma yoluna gitmesi bir yanlılık göstergesidir.

Van der Putten de bu noktada yapay zekaların kendi başlarına iyi ya da kötü olmadıklarını söyleyerek konuya dahil oluyor. Yine de insanların önyargılarını ve yanlılıklarını da bu sistemlerin kopyalayabileceğini ifade ediyor. 

Yapay zeka uzmanı ek olarak verilerden dolayı da önyargıların ve hataların sistemlere aktarılabileceğini belirtiyor. Örneğin insan kaynakları için geliştirilen bir yapay zekanın, kadınların yaşadığı mesleki yükselme sorunlarını önyargı olarak kopyaladığı ortaya çıkmıştı. Diğer çalışan verilerinden yola çıkarak eğitilen yapay zeka, daha üst seviyelerde denk adaylarla karşılaştığında kadın adayları reddetmeye yönelmişti.

Yapay zeka önyargıyı öğreniyor

Kuralların ve verilerin kendi içinde barındırdığı önyargı, her zaman için doğrudan isimlendirilemese de istatistiklerle ortaya konabiliyor. Bu istatistiksel yapıyı önceden keşfeden yapay zeka da daha sonra kendi kodunun parçası haline getiriyor. 

Apple’ın kurucularından Steve Wozniak, algoritmaların kadınlara karşı önyargılar geliştirmiş olabileceğini dile getiren bir başka isim olmuştu. Firmanın kredi kartı da kredi özellikleri benzer olan kadın ve erkeklere farklı limitler sunmuştu. 

Uzmanlara göre yapay zeka, onu kurarken kullanılan veri kadar önyargılı ve yanlı oluyor. Bunu engellemek mümkün değil ancak etkisini kontrol edilebilir tutmak mümkün olabiliyor. Yapay zeka yeni verilerle bir şeyler öğrendikçe bizde bir şeyler öğreniyoruz gibi duruyor.

webtekno