Lancet Digital Health'te yayımlanan çalışmada mamografi görüntüsü, göğüs röntgeni ve tomografi gibi görüntüleri kullanan makine öğrenim modelleri analiz edildi. Araştırma ekibi ilk olarak yapa zeka sistemini söz konusu görüntülerle eğitti. Bunlarda hastaların ırkları da yazıyordu. Daha sonra ırkların belirtilmediği görüntü kümeleri gösterildi. Modellerin çoğunda yapay zeka sistemi, insanların ırkını yüzde 95 ila yüzde 99 arasında doğru tahmin etti. Radyologlar aynı şekilde ırkı yüzde 50 doğrulukla belirleyebiliyor. Uzmanlar, yapay zekanın bunu nasıl yapabildiğini bilmiyor ancak ten rengini belirleyen pigment olan melaninle ilgisi olmasından şüpheleniyor.
MELANİN SEVİYESİ BELİRLEYİCİ
Araştırmacılar, sistemin daha koyu renklerin daha yüksek seviyede melanin içerdiğini tespit ettiğini ve bu bilgiyi ırk tahmin etmede kullanabileceğini söylüyor.
UZMANLAR ENDİŞELİ
Araştırmacılar ırkı doğru tahmin edip buna dayalı olarak farklı sonuçlar veren algoritmaların ortaya çıkmasından endişeleniyor.