Yüz Tanıma Yazılımı Tutuklanmasına Yol Açtı. Çok Yanlıştı

CARRONNE SAWYER ALDIKocası Alonzo’yu hapisten çıkarmak için bir haftalık izin. Polis onun Baltimore yakınlarında bir otobüs şoförüne saldırdığını ve akıllı telefonunu çaldığını iddia ettiği sırada, onun kanepede uyuduğunu biliyordu. Ancak yüz tanıma yazılımı kullanan bir istihbarat analisti, polis kayıtlarının gösterdiğine göre, onu otobüsteki CCTV görüntülerinde görülen şüpheliyle olası bir eşleşme olarak etiketlemiş ve bir memur bunu doğrulamıştı.

Carronne, bir karakolda ve yazılımın önerdiği eşleşmeyi onaylayan kocasının eski şartlı tahliye memuruyla yaptığı görüşmede, kızının yakın zamanda telefonunda çektiği fotoğraflardaki ayrıntılara dikkat çekti. Kocasının videodaki şüpheliden daha uzun olduğunu, sakallı olduğunu ve dişlerinin arasında boşluklar olduğunu açıkladı. Yürürken sağ ayağı dışarı fırlıyor, bu saldırının video görüntülerinde görmediği bir şey.

“Kocam 54 yaşında dedim. Bu adam bizim oğlumuz olabilir gibi görünüyor,” diyor Carronne. Alonzo, dokuz gün hapis yattıktan sonra nihayet serbest bırakıldığını, bu süre zarfında karısının Gladys Knight saygı gösterisini ve berberlik işini kaçırdığını ve güvence altına aldığı bir inşaat sözleşmesini tamamlayamadığını söylüyor. Carronne, “Tüm işi yapıp ortalıkta koşturabildiğim için minnettarım, çünkü yapmasaydım, yapmadığı bir şey için hâlâ orada oturuyor olurdu,” diyor. Sawyers’ın çilesi 2022 baharında gerçekleşti ancak daha önce bildirilmedi.

Alonzo’nun serbest bırakıldığı sıralarda, otobüs olayının kurbanı, suçlama belgelerine göre, videodaki şüpheli olarak başka bir adamı, Sawyer’dan 7 inç daha kısa ve 20 yaşından daha genç olan Deon Ballard’ı teşhis etti. Ballard’ın annesi ve onu tutuklayan bir polis memuru kimliğini doğruladı, bir belge gösteriyor ve Ballard Nisan ayında yargılanacak.

Maryland Transit İdaresi Polisi, tekrarlanan yorum taleplerine yanıt vermedi ve eyaletin Baltimore İlçesi başsavcısı yardımcısı John Cox, Ballard ve Sawyer’ın aynı suçtan tutuklandığını doğrulamayı reddetti. WIRED, otobüs olayıyla ilgisi olmayan bir suçlamayla Maryland hapishanesinde yatmakta olan Alonzo Sawyer ile konuşamadı.

Alonzo Sawyer davası, yüz tanıma yanlış tanımlamayı içeren soruşturmaların ardından tutuklanan masum insanların yalnızca bir avuç bilinen örneğine ekleniyor – hepsi Siyah erkeklerdi. 2019 ve 2020’de üç dava gün ışığına çıktı ve  geçen ay Georgia’da ikamet eden Randal Reid’in, bir yargıcın kendisini Louisiana’daki tasarımcı cüzdanlarının hırsızlıklarıyla ilişkilendiren bir tutuklama emrini geri çekmesinin ardından hapisten salıverildiği bir dava daha ortaya çıktı.

Carronne Sawyer, polisin yüz tanıma özelliğini kullanmasını kısıtlamak için önerilen bir yasayı desteklemek üzere konuşmak için Maryland Eyalet Evi’ni görüntülü sohbet yoluyla arayarak, kocasının bu ayki deneyimini hatırladı. Teknoloji, ABD’de büyük ölçüde düzensizdir, ancak  son yıllarda bir dizi yerel kısıtlama ve hatta yasaklama geçirilmiştir .

Bu politikalara yol açan tartışmalar genellikle, ifade özgürlüğü ve protestolar üzerindeki caydırıcı etkiler veya beyaz olmayan topluluklara karşı orantısız bir şekilde kullanılan gözetleme araçlarının sonuçları gibi, polisin yüz algoritmalarını kullanmasından kaynaklanan zararlara ilişkin tartışmalara odaklandı. Baltimore’da Sawyer’ın durumu, teknolojiyi kısıtlamanın nedenlerini daha somut bir şekilde hatırlattı.

Baltimore County’nin Maryland eyalet senatörü Charles Sydnor, Alonzo Sawyer’ın 2022 sonbaharındaki davasını öğrenmesinin, geçen yıl bir versiyonun geçememesinin ardından yüz tanımayı düzenleyen önerilen yasa tasarısının senato versiyonunu yeniden uygulamaya koymasına ilham verdiğini söylüyor. Sydnor, “Yalnızca Maryland’de değil, aynı zamanda arka bahçemde, benim yetki alanımda,” diyor. “Kanımca kolluk kuvvetlerinden bazılarının, adam dokuz gün içinde serbest bırakıldı, yani sistem çalışıyor. Yüz tanıma, masum insanları hapse atan soruşturmaları başlatıyorsa, bir sorun var demektir.”

Sydnor yıllardır yüz tanımaya korkuluklar koymaya çalışıyor. 2020’de, teknolojinin eyalet ve yerel yönetim kullanımına bir yıllık bir moratoryum koyacak bir yasa tasarısı çıkardı. O yıl sonra gün ışığına çıkmaya başlayan yüz tanıma yazılımı tarafından yapılan yanlış maçlardan sonra Siyah erkeklerin yanlış tutuklanması, yenilenmiş bir aciliyet duygusu getirdi.

Yüz tanıma sistemlerinin koyu tenli insanları yanlış tanımlama geçmişi vardır  ve Baltimore sakinlerinin yüzde 60’ından fazlası kendilerini Siyah olarak tanımlamaktadır. Sydnor, haklarını korumak için düzenlemeleri yürürlüğe koyma konusunda acil bir ihtiyaç duyduğunu söylüyor. Teknolojinin bir yasağın pratik olamayacak kadar yaygın olduğu sonucuna vardıktan sonra, yüz tanıma konusunda bir yasağın altında kalan kısıtlamalar önermeye yöneldi.

Sydnor’un önerdiği yasa tasarısı ve  Maryland yasama meclisinin diğer meclisi olan Delegeler Meclisi’nde sunulan eşdeğeri, polisin yüz tanıma kullanımını şiddet içeren suçlar, insan kaçakçılığı veya “kamu güvenliği veya ulusal güvenliğe yönelik devam eden tehdit” içeren vakalarla sınırlayacak . Ayrıca, polisin yalnızca ehliyet ve sabıka fotoğrafı veritabanlarında yüz eşleşmeleri aramasını kısıtlayarak, sosyal medya da dahil olmak üzere web’den milyarlarca yüz görüntüsünü kazıyan Clearview AI girişimininki gibi sınırsız hizmetleri devre dışı bırakacaklardı  .

Tasarılar ayrıca, polisin teknolojiyi nasıl kullandığını ayrıntılı olarak açıklayan yıllık raporları, bir algoritma tarafından seçilen bir listeden olası eşleşmeleri seçen insan analistleri için yeterlilik testlerini ve polisin tutuklama yapmak için sadece bir yüz tanıma eşleşmesinin ötesinde kanıtlara sahip olmasını gerektiriyor.

Sydnor, önerilen tasarının Alonzo Sawyer’ınki gibi bir sonraki davayı engellemeyebileceğini kabul ediyor, ancak yine de daha iyi sonuçlara yol açacağını umuyor. “Bu yasa tasarısı bir uzlaşma olarak sunuldu. Kesinlikle olmasını istediğim kadar güçlü değil,” diyor Sydnor. “[Yüz tanıma] kullanmayı bırakmayacaklar. Yerinde bir şey olmadığı sürece, onu düzensiz kullanmaya devam edecekler.”

Önerilen Maryland faturaları, eyalet milletvekillerinin savcılar ve kamu savunucuları, kolluk kuvvetleri ve ACLU ve Masumiyet Projesi gibi sivil özgürlükler gruplarıyla görüştüğünü gören bir çalışma grubunun girdileriyle geliştirildi.

Maryland Kamu Savunucusu Ofisi’nin adli tıp bölümünde avukat olan Andrew Northrup, Maryland’in yüz tanıma düzenlemesini tartışmak için eşsiz bir yer olduğunu söylüyor. Kâr amacı gütmeyen Vera Adalet Enstitüsü tarafından 2021’de yapılan bir analize göre Baltimore, ABD’deki 72 büyük şehir arasında polise kişi başına daha fazla para harcadığı ve uzun bir gözetleme geçmişine sahip olduğu için Baltimore’a ” gözetim teknolojisi için bir petri kabı” diyor.  polislikte teknoloji.

Baltimore’da Freddie Gray’in 2015’teki ölümünün ardından yapılan protestolar sırasında yüz tanıma da dahil olmak üzere müdahaleci gözetleme teknolojisinin kullanılması, eski Temsilciler Meclisi Gözetim ve Reform Komitesi başkanı Elijah Cummings’in konuyu Kongre’de sorgulamasına yol  açtı . Ve 2021’de Baltimore Şehir Meclisi,  polisin değil kamu ve özel aktörlerin yüz tanıma kullanımına Aralık ayında sona eren bir yıllık bir moratoryum koyma kararı aldı.

Northrup, bu ay Carronne Sawyer tarafından ele alınan Delegeler Meclisi Yargı Komitesi duruşmasında yasa tasarısı ve yeterlilik testi gerekliliği lehinde konuştu. Teknolojinin kullanımı daha yaygın hale geldikçe, kötü yüz tanımanın yanlış mahkumiyetlerin ana kaynağı olarak kötü görgü tanığı kimliğinin yerini alabileceği konusunda uyardı. Northrup, çoğu insanın bir algoritma tarafından desteklendiğinde bile yabancıları tanımakta kötü olduğunu söylüyor.

Maryland polisi ve savcılarını temsil eden kuruluşlar, çalışma grubu aracılığıyla yasa tasarısının oluşturulmasına katıldılar, ancak yine de muhalefetlerini dile getirdiler. Yargı Komitesi duruşmasında Maryland Polis Şefleri Derneği başkanı Russ Hamill, Alonzo Sawyer’ın başına gelenlerin korkunç olduğunu söyledi, ancak yasa tasarısına karşı konuştu. Yüz tanımanın kullanılabileceği vaka türlerini çok sıkı bir şekilde kısıtladığını söyledi ve ayrıca polisin arama yapabileceği fotoğraf veritabanları üzerindeki sınırlamalarından şikayet etti.

Washington DC yakınlarındaki bir kentsel bölge olan Montgomery County’de polis kaptanı olan Nick Picerno da tasarının bu bölümlerinin kanun yaptırımını engelleyeceğini söyledi. Departmanındaki memurların daha önce teknolojiyi kapı zili kamerasına yakalanan uygunsuz bir teşhir zanlısını ve bir TikTok videosunda çocuk istismarı kurbanını tespit etmek için kullandığını söyledi. Teklifin, ateşli silah bulundurma, çocuk pornografisi, aile içi şiddet ve hayvanlara eziyet dahil olmak üzere daha birçok suç kategorisinde hem şüphelileri hem de tanıkları tespit etmek için yüz tanıma kullanımına izin verecek şekilde değiştirilmesini istedi.

Baltimore’da bir kamu avukatı olan Deborah Levi, duruşmada, kamuya açık kayıt taleplerinin yalnızca Baltimore Polis Departmanının 2022’de 800’den fazla yüz tanıma kullandığını gösterdiğini söyledi. Bir vakada polis, elinde silah tutan bir kişinin Instagram fotoğrafını inceledi. yüz tanıma yazılımı, ardından eşleşme olarak önerilen kişinin adresi için bir çalınmama emri sağladı, dedi.

Carronne Sawyer, yüz tanımanın “kesin kimlik tespiti için tek temel teşkil etmeyebileceği” şartının kocasının durumunda bir fark yaratacağına inandığı için önerilen yasayı destekliyor. Yaşadığı çilenin polisin yanında hissettiklerini değiştirdiğini ve yargı sürecine olan inancını ortadan kaldırdığını söyleyerek, onu toplumun Maryland’de tartışılmakta olan bu tür düzenlemelere acilen ihtiyaç duyduğuna ikna etti.

“Kocamın yaşamak zorunda olduğu şeyleri başka kaç kişinin yaşadığını ve onlar için savaşacak kimsenin olmadığını düşünüyorum” diyor. “Yüz tanıma ve kolluk kuvvetlerinin durum tespiti yapmaması nedeniyle yapmadıkları bir şey için şu anda kaç kişi hapiste oturuyor?”

Maryland eyaleti yasama meclisi Nisan ayında tatil yapıyor ve Ocak 2024’e kadar tekrar toplanamayacak. Önerilen yasa tasarıları bu tarihe kadar geçmezse, polisin yüz tanıma özelliğini kullanması eyalette en az bir yıl daha denetimsiz kalacak.