ABD'de yaşayın 45 yaşındaki Robert Williams, çalıntı saat hırsızlığıyla ilgili bir soruşturmada yapay zeka tabanlı yüz tanıma teknolojisi tarafından yanlış teşhis edilmesinin ardından 30 saat gözaltında kaldı.

Memurlar tarafından kullanılan yüz tanıma teknolojisi Williams'ı binlerce dolar değerinde saat çalan bir şüpheliyle karıştırdı.

Sistem, şüphelinin bulanık bir CCTV görüntüsünü Williams ile ilişkilendirerek, yapay zeka tabanlı teknolojinin kullanımı nedeniyle bilinen ilk yanlış tutuklama vakası olarak kabul edildi.

-Evine gelip tutukladılar- Williams, bu deneyimin 'çileden çıkarıcı' olduğunu söyledi "Yanlış bir şey yapmadığınızı bildiğinizi düşünün... Ve siz daha arabadan inip eşinizle vedalaşmadan ya da çocuklarınızı göremeden evinize gelip sizi tutukluyorlar.

45 yaşındaki Williams, 30 saat gözaltında tutulduktan sonra serbest bırakıldı ve Detroit polis departmanına karşı tazminat ve şüphelileri tanımlamak için yüz tanıma yazılımının kullanılmasının yasaklanması talebiyle devam etmekte olan bir dava açtı.

-Yapay zeka ırkçı iddiası- ABD'de bilinen altı haksız tutuklama vakasının olduğu ve tüm vakalarda mağdurların siyahi olduğu belirtildi. Yapay zeka, gerçek dünya verileri üzerinde eğitildiği için toplumdaki ırksal önyargıları yansıtmaktadır. ABD hükümetinin 2019 yılında yayınladığı bir araştırma, yüz tanıma teknolojisinin siyahları beyazlara kıyasla 10 ila 100 kat daha fazla yanlış tanımladığını ortaya koydu.

Bunun nedeni, teknolojinin ağırlıklı olarak beyaz veri kümeleri üzerinde eğitilmiş olmasıdır. Bunun nedeni, diğer ırklardan insanların neye benzediği hakkında çok fazla bilgiye sahip olmaması, dolayısıyla hata yapma olasılığının daha yüksek olmasıdır.

Sheffield merkezli bir start-up olan Mindtech'in ürün yönetiminden sorumlu başkan yardımcısı Chris Longstaff, gerçek dünya veri setlerinin, verilerin nereden alındığı nedeniyle doğası gereği önyargılı olduğunu söyledi: "Bugün, piyasadaki yapay zeka çözümlerinin çoğu, YouTube, Tik Tok, Facebook veya tipik sosyal medya sitelerinden biri olsun, internetten kazınan verileri kullanıyor" dedi.

-İnsanları ayırt etmekte zorluk yaşıyor- Bloomberg'in bu yılın başlarında Stability AI'nın görüntü oluşturucusunu kullanarak yaptığı bir deneye göre, ABD işgücü piyasası rakamları ülkedeki fast food çalışanlarının çoğunun beyaz olduğunu gösterse de, yapay zeka tarafından oluşturulan "fast food çalışanları" görüntülerinin büyük çoğunluğu daha koyu ten rengine sahip insanları gösterdi. Şirket, eğitim verilerini çeşitlendirmek için çalıştığını söyledi.

Detroit polis departmanından bir sözcü, yüz tanıma teknolojisini kullanmanın katı kuralları olduğunu ve herhangi bir eşleşmeyi yalnızca bir "soruşturma ipucu" olarak gördüğünü ve bir şüphelinin suç işlediğinin kanıtı olmadığını söyledi: Yüz tanımanın etik bir şekilde kullanılmasını sağlamak üzere, canlı veya kaydedilmiş videolarda kullanımın yasak olması, amir gözetimi ve yazılımın kullanımına ilişkin olarak Polis Komiserleri Kurulu'na haftalık ve yıllık raporlama yapılması gibi bir dizi kontrol ve denge mekanizması mevcuttur.