Memurlar tarafından kullanılan yüz tanıma teknolojisi, Williams’ı binlerce dolar değerindeki bir saati çalan bir şüpheli sanıyordu.
Sistem, şüphelinin bulanık CCTV görüntüsünü Williams’a bağladı ve bu, yapay zeka tabanlı teknolojinin kullanımına bağlı bilinen ilk sahte tutuklama vakasına işaret ediyor.
“ÇOCUKLARINIZI GÖRMEDEN EVİNİZE GELİYORLAR VE SİZİ TUTUKLUYORLAR”
Williams bu deneyimi anlatıyor “sinir bozucu”dedi ki;
“Yanlış bir şey yapmadığınızı bildiğinizi düşünün… Daha arabadan inip eşinizle vedalaşamadan veya çocuklarınızı göremeden evinize gelip sizi tutuklayacaklar.”
45 yaşındaki Williams, 30 saat gözaltında tutulduktan sonra serbest bırakıldı ve Detroit Polis Departmanı’na karşı, tazminat ve şüphelileri tespit etmek için yüz tanıma yazılımı kullanımının yasaklanması talebiyle devam eden bir dava açtı.
ABD’NİN YAPAY ZEKALARI BİLE IRKÇIDIR
ABD’de bilinen altı hatalı tutuklama vakasının olduğu ve mağdurların tamamının siyahi olduğu belirtildi. Yapay zeka gerçek dünya bilgileri üzerine eğitildiğinden toplumdaki ırksal önyargıları yansıtır.
ABD hükümeti tarafından 2019’da yayınlanan bir araştırma, yüz tanıma teknolojisinin siyah insanları beyaz insanlara göre 10 ila 100 kat daha fazla yanlış tanımladığını ortaya çıkardı.
Bunun nedeni teknolojinin ağırlıklı olarak beyazların bilgi kümeleri üzerine eğitilmiş olmasıdır.
Bunun nedeni, diğer ırklardan insanların neye benzedikleri hakkında çok fazla bilgiye sahip olmaması ve dolayısıyla hata yapma olasılıklarının daha yüksek olmasıdır.
Sheffield merkezli bir start-up olan Mindtech’in eser yönetimi başkan yardımcısı Chris Longstaff, gerçek dünyadaki bilgi setlerinin, verilerin nereden alındığı nedeniyle doğası gereği önyargılı olduğunu söyledi:
“Bugün piyasadaki yapay zeka çözümlerinin çoğu, ister YouTube, ister Tik Tok, Facebook ya da tipik sosyal medya sitelerinden biri olsun, internetten alınan verileri kullanıyor.”söz konusu.
YAPAY ZEKA İNSANLARI AYIRT ETMEKTE ZORLUK YAPAR
ABD işgücü piyasası rakamları ülkedeki fast food çalışanlarının çoğunun beyaz olduğunu gösterse de, yapay zeka tarafından üretilen ” fast food çalışanları” Fotoğrafların büyük çoğunluğu daha koyu ten rengine sahip insanları gösteriyordu. Şirket, eğitim tekliflerini çeşitlendirmek için çalıştığını söyledi.
Detroit Polis Departmanı sözcüsü, yüz tanıma teknolojisini kullanmanın katı kuralları olduğunu ve rastgele bir eşleşmenin sadece rastgele bir eşleşme olmadığını söyledi. “soruşturma ipucu”Böyle gördüğünü ve şüphelinin suç işlediğine dair hiçbir delilin bulunmadığını söyledi:
“Yüz tanımanın etik kullanımını sağlamak için, canlı veya kayıtlı videoda kullanımın yasaklanması, denetleyici gözetim ve yazılımın kullanımına ilişkin Polis Komiserleri Kuruluna haftalık ve yıllık raporlama gibi bir dizi kontrol ve denge mevcuttur. ”
