Nur Ata Nurcan Yazio: Yapay Zekâ (AI) ve Kodlanmış Önyargı

Artık kişisel verilerin insanların haberleri ve izinleri olmaksızın kaydedildiği, işe alımlarda, banka kredisi ve sigorta başvurularında, prim ve faiz hesaplamada, vize alırken, güvenlik taramalarında, telefon ve internet başvurularında ve başka birçok alanda Yapay Zekâ algoritmalarının kullanıldığı bir çağa girdik. Sosyal medyada ve haber sitelerinde ne okuyacağımıza, televizyonda ne izleyeceğimize yapay zakâ algoritmaları (Ai algorithms) yön veriyor. Bu algoritmalar seçim sonuçlarını dahi etkileme gücüne sahip.

Yapay zekâ temelli algoritmalar kullandıkları verileri eşitsizliği, ayrımcılığı, ırkçılığı, yoksulluğu ve beraberinde getirdiği problemleri çözememiş bir toplumdan elde ediyorlar.  Peki bu algoritmalar verileri ile beslendikleri topluma rağmen ön yargısız ve tarafsız olabiliyorlar mı? 2020 yapımı Netflix belgeseli “Coded Bias” (Kodlanmış önyargı) çeşitli yapay zekâ uygulama örneklerine bakarak bu soruya cevap arıyor.

Siyahi kadın mühendis Joy Buolamwini 2018 yılında MIT’de bir okul projesi için yüz tanıma algoritmaları üzerine yaptığı araştırmada çok çarpıcı bir sonuca ulaşıyor.  Yapay zekâ tabanlı yüz tanıma algoritmaları, sistematik olarak beyaz erkek yüzünü tanıma konusunda kadın, göçmen veya siyahi yüzleri tanıma konusunda olduğundan daha başarılı.  Hatalı eşleştirme oranı beyaz erkekler için yüzde 0.8 civarında iken,  siyahi kadınlar için bu oran yüzde 34.7’lere çıkıyor. Eğer beyaz bir erkek değilseniz, bu tür bir algoritma  yüzünüzü tanımada güçlük çektiği için sizi başka bir profille eşleştirebiliyor veya sizi tanımlayabiliyor. Böyle bir durumda haksız yere suçlanmanız, iş, kredi, sigorta veya vize başvurunuzun geri çevrilmesi mümkün. Üstelik bu tür bir haksızlıkla karşılaştığınızda itiraz etme şansınız da yok.