Yapay Zekâ ve Dijital Politika Merkezi Başkanı Merve Hickok, TBMM Yapay Zekâ Araştırma Komisyonu'nda yaptığı sunumda, yapay zekâ sistemlerinin özellikle koyu tenli insanlara karşı hata yapmaya eğilimli olduğunu belirtti. Hickok, bu sistemlerin yüz tanıma, göz, parmak izi ve yürüyüş analizi gibi alanlarda önyargılı kararlar verebildiğini ve bu durumun ciddi sonuçlar doğurabileceğini vurguladı.

Yapay Zekâ Sistemlerinin Önyargı Sorunu

Hickok, yapay zekâ sistemlerinin kadınlar, yaşlılar, engelliler ve etnik-dini azınlıklar gibi gruplara karşı önyargılı davranabildiğini ifade etti. Özellikle yüz tanıma sistemlerinin koyu tenli bireylerde daha fazla hata yaptığını belirten Hickok, bu hataların güvenlik güçleri tarafından kullanıldığında haksız tutuklamalara yol açabileceğine dikkat çekti. Ayrıca, kontrolsüz kullanılan yapay zekâ sistemlerinin sağlık alanında yanlış tanılara neden olabileceği uyarısında bulundu.

Yapay Zekânın Olumsuz Etkileri

Hickok, yapay zekâ sistemlerinin insan hayatının her alanına dokunduğunu ve bu nedenle kanuni çerçevelere uygun şekilde kullanılması gerektiğini belirtti. Hollanda'da yaşanan bir örneği hatırlatan Hickok, vergi kurumunun kullandığı bir algoritmanın binlerce kişiyi yanlışlıkla vergi kaçakçısı olarak işaretlediğini ve bu durumun ailelerin parçalanmasına kadar giden sonuçlar doğurduğunu aktardı. Benzer skandalların ABD, Avustralya ve Fransa gibi ülkelerde de yaşandığını söyledi.

• Yapay zekâ sistemleri koyu tenli bireylerde daha fazla hata yapıyor.
• Yüz tanıma teknolojileri haksız tutuklamalara neden olabiliyor.
• Kontrolsüz kullanım sağlık alanında yanlış tanılara yol açabiliyor.

Yapay Zekâ Sistemlerinin Yasaklanması Gerekiyor

Hickok, bazı yapay zekâ sistemlerinin insanların yüz, göz, parmak izi ve yürüyüş şekli gibi biyometrik verilerine dayanarak politik, sosyoekonomik ve dini kimliklerle ilgili kararlar verebildiğini belirtti. Özellikle Çin'in Uygur vatandaşları üzerinde kullandığı biyometrik kategorizasyon sistemlerinin insan hakları ihlallerine yol açtığını vurguladı. Hickok, bu tür sistemlerin yasaklanması gerektiğini ve Avrupa Birliği'nin bu yönde adımlar attığını söyledi.

Sonuç olarak, yapay zekâ sistemlerinin insan hayatı üzerindeki etkileri giderek artıyor. Ancak bu sistemlerin önyargı ve hatalara yol açmaması için daha sıkı denetimler ve yasal düzenlemeler gerekiyor. Merve Hickok'un uyarıları, yapay zekâ teknolojilerinin etik ve güvenli bir şekilde kullanılması konusunda önemli bir adım olarak değerlendiriliyor.