ABD merkezli Wired dergisinin yayımladığı makalede, Google, Microsoft ve Perplexity gibi şirketlerin yapay zeka destekli arama motorlarının ırkçı içerikleri yaygınlaştırdığı ortaya konuldu. İngiltere merkezli “Hope Not Hate” grubunun araştırmacısı Patrik Hermansson’ın çalışmalarına dayanarak yapılan incelemede, yapay zeka sistemlerinin beyazların genetik üstünlüğünü savunan yanıtlar ürettiği belirlendi.
Bilişim uzmanı Tolga Mürtezaoğlu, yapay zekanın öğrenme sürecindeki temel sorunlardan birinin, tarafsız davranamaması olduğunu vurguluyor. Öğrendiği bilgiler arasında yer alan ırkçı verileri yansıtan yapay zekanın, algoritmik önyargılara sebep olduğu öne sürülüyor. Örneğin, siyahi kadınların yüz tanıma algoritmaları tarafından doğru tanınmaması gibi durumlar, yapay zekanın önyargılı davrandığını ortaya koyuyor.
Mürtezaoğlu, yapay zekanın sağlık sektöründe de önyargılı sonuçlar verebileceğine dikkat çekiyor. Bazı teşhis algoritmalarının siyahi hastaların semptomlarını hafife aldığını belirtiyor. Ayrıca yapay zeka sistemlerinin zaman zaman “halüsinasyon” yaşayarak yanlış bilgileri doğru kabul ettiği örneklerle destekleniyor.
Yapay zeka, internetteki yanlış ve ırkçı bilgileri kullanarak kararlar verebiliyor. Mürtezaoğlu, bazı yapay zeka modellerinin Afrika ülkelerinin zekâ seviyelerini yanlış şekilde gösterdiğini ifade ederken, sorumluluğun bu yanlış bilgileri öğreten sistemlerde olduğunu vurguluyor.
Yapay zekanın önyargıları ve yanlı tutumları, teknolojinin güvenilirliğini zedeleyebilir. Bu nedenle, algoritmaların adil ve tarafsız çalışmasını sağlamak adına Algorithmic Justice League gibi inisiyatifler önem taşıyor. Ancak, yapay zekanın erken aşamada hayatımıza girmesi ve rekabet baskısının yarattığı etik sorunlar, gelecekte daha büyük problemlere yol açabilir.
