Ocak 2020'de Robert Williams, yüz tanıma teknolojisinin onu bir suçlu olarak tanımlaması nedeniyle Detroit hapishanesinde 30 saat geçirdi. Maç hatalıydı ve Bay Williams dava açtı.
Cuma günü, Bay Williams, Detroit polisinden, haksız yere tutuklanmasına ilişkin yasal anlaşmanın bir parçası olarak reform yapma taahhüdünü aldı. Şehir, Bay Williams'ı temsil eden Amerikan Sivil Özgürlükler Birliği'nin yeni ulusal standart olması gerektiğini söylediği yüz tanıma teknolojisinin polis tarafından kullanımına ilişkin yeni kuralları kabul etti.
Bay Williams, “Bunun işleri doğru yönde ilerleteceğini umuyoruz” dedi.
Bay Williams, hatalı yüz tanıma nedeniyle haksız yere tutuklandığı kanıtlanan ilk kişiydi. Ama o sonuncu değildi. Detroit polisi, yüz tanıma başarısızlığı nedeniyle aralarında sekiz aylık hamileyken araba hırsızlığıyla suçlanan bir kadının da bulunduğu en az iki kişiyi daha tutukladı.
Ülke çapındaki kolluk kuvvetleri, suçları videoya kaydedilen suçluları tespit etmek için yüz tanıma teknolojisini kullanıyor. Michigan'da yazılım, bilinmeyen bir yüzü, sabıka fotoğrafları veya ehliyet fotoğraflarından oluşan bir veritabanındaki yüzlerle karşılaştırıyor. Diğer bölgelerde polis, sosyal medya sitelerindeki ve halka açık internetteki fotoğrafları tarayan Clearview AI gibi araçları kullanıyor.
Detroit'te kabul edilen yeni önemli kurallardan biri, yüz tanıma teknolojisiyle kimliği belirlenen kişilerin görüntülerinin, suçla ilişkilendirildiğini gösteren başka bir kanıt olmadığı sürece artık fotoğraf dizisinde bir görgü tanığına gösterilemeyeceğidir.
Michigan ACLU'nun avukatı Phil Mayor, “'Fotoğraf çek ve onu yan yana koy' yaklaşımı sona erecek” dedi. “Bu anlaşma, Detroit Polis Departmanını, yüz tanıma teknolojisini en çok belgelenen suiistimalciden, kullanımına ilişkin katı kurallara uyma konusunda ulusal bir lidere dönüştürüyor.”
Polis, yüz tanıma teknolojisinin suçları çözmek için etkili bir araç olduğunu söylüyor ancak San Francisco, Austin, Texas ve Portland, Oregon dahil bazı şehirler ve eyaletler gizlilik kaygıları ve ırksal önyargılar nedeniyle bu teknolojinin kullanımını geçici olarak yasakladı. Detroit Polis Departmanı bilgi teknolojisi direktörü Stephen Lamoreaux, polis departmanının “teknolojiyi kamu güvenliği için anlamlı şekillerde kullanmakla çok ilgilendiğini” söyledi. Detroit'in “şu anda ülkedeki en katı politikalara sahip olduğunu” iddia etti.
Nasıl yanlış gidiyor
Bay Williams, 2018 yılında işlediği bir suçun ardından tutuklandı. Bir adam, güvenlik kamerası tarafından filme alınırken Detroit şehir merkezindeki bir butikten beş saat çaldı. Bir hırsızlık önleme şirketi görüntüleri Detroit polisine sağladı.
Williams'ın davası kapsamında açıklanan belgelere göre, adamın yüzünün ehliyet fotoğrafları ve sabıka fotoğraflarıyla karşılaştırılması sonucunda sistemin güvenilirliğine göre sıralanmış 243 fotoğraf ortaya çıktı ve gözetleme videosunda aynı kişinin kimliği belirlendi. Bay Williams'ın eski bir ehliyet fotoğrafı listede dokuzuncu sıradaydı. Aramayı yapan kişi onu en iyi eş olarak değerlendirdi ve Detroit polis dedektifine bir rapor gönderdi.
Soruşturmacı, mağazanın gözetleme videosunu sağlayan güvenlik görevlisine gösterdiği “altılı fotoğraf dizisine” (bir ızgarada altı kişinin fotoğrafları) Bay Williams'ın resmini dahil etti. Bay Williams'ın butikteki adama en yakın kişi olduğunu kabul etti ve bu da onun hakkında tutuklama emri çıkarılmasına yol açtı. Saatler çalındığında bir otomotiv tedarikçisindeki masasında oturan Bay Williams, geceyi hapiste geçirdi ve parmak izleri ve DNA'sı alındı. Perakende dolandırıcılığıyla suçlandı ve kendisini savunması için bir avukat tutmak zorunda kaldı. Savcı sonuçta davayı düşürdü.
Başkalarının onun kaderine maruz kalmaması için teknolojiyi yasaklamak umuduyla 2021'de Detroit'e dava açtı. Geçen yıl Detroit polisinin Porcha Woodruff'u yüz tanıma konusundaki zayıf bir eşleşmenin ardından araba hırsızlığı ve soygunla suçladığını öğrendiğinde üzüldüğünü söyledi. Polis Bayan Woodruff'u çocuklarını okula hazırlarken tutukladı. Ayrıca şehre dava açtı; süreç halen devam ediyor.
Williams, yüz tanıma teknolojisine atıfta bulunarak “Bu çok tehlikeli” dedi. “Olumlu bir faydasını görmüyorum”
Yeni kurallar
Yüz tanıma teknolojisinin hatalı tutuklamaya yol açtığı bilinen yedi vakanın üçünden Detroit polisi sorumlu. (Diğer vakalar Louisiana, New Jersey, Maryland ve Teksas'ta meydana geldi.) Ancak Detroit yetkilileri, yeni kontrollerin daha fazla suiistimali önleyeceğini söyledi. Ve şu anda yalnızca saldırı, cinayet ve haneye tecavüz gibi ciddi suçlarda kullanılan teknolojinin suçları çözme potansiyeli konusunda iyimserler.
Detroit polis şefi James White, hatalı tutuklamalardan “insan hatasını” sorumlu tuttu. Subaylarının teknolojinin sağladığı ipuçlarına çok fazla güvendiklerini söyledi. Onun muhakemesi kusurluydu, makinenin değil.
Bu ay yürürlüğe giren yeni direktifin bu konuda yardımcı olması amaçlanıyor. Yeni kurallara göre polis, artık yalnızca yüz tanıma yöntemine dayanarak bir kişinin yüzünü görgü tanığına gösteremeyecek.
“Yan yanaşma için yeterli gerekçenin bulunmasından önce bir tür ikincil, ilgisiz destekleyici kanıtın olması gerekir” dedi Detroit Polis Departmanından Bay Lamoreaux. Örneğin polis, fiziksel bir benzerliğin ötesinde, bir kişinin telefonundan veya DNA kanıtlarından konum bilgisine ihtiyaç duyacaktır.
Departman aynı zamanda fotoğraf dizilişlerini yürütme biçimini de değiştiriyor. Bir kişiyi tanımlamanın daha adil bir yöntemi olarak kabul edilen, çift-kör sıralama yöntemi olarak adlandırılan yöntemi tanıtıyor. Ana şüpheliyi tanımayan bir polis memuru, bir tanığa “altılı paket” sunmak yerine fotoğrafları birer birer sunuyor. Ve bu listede kişinin yüz tanıma sisteminin bulduğundan farklı bir fotoğrafı yer alıyor.
Polis aynı zamanda yüz aramasının yapıldığını ve aranan yüzün görüntü kalitesini de açıklamalıdır; güvenlik kamerası ne kadar grenliydi? Şüphelinin yüzü ne kadar iyi tanınabilir? – çünkü düşük kaliteli bir görüntü daha az güvenilir sonuçlar üretir. Ayrıca, otomatik sistem tarafından görüntülenen fotoğrafın yaşını ve veritabanında eşleşme olarak görünmeyen kişinin başka fotoğraflarının bulunup bulunmadığını da açıklaması gerekir.
Detroit polis şefi yardımcısı Franklin Hayes, yeni tedbirlerin gelecekte yanlış kimlik tespitlerini önleyeceğine olan güvenini dile getirdi.
Hayes, “Örneğin tek yumurta ikizleri konusunda hâlâ ters gidebilecek birkaç şey var” dedi. “Asla asla diyemeyiz ama bunun şimdiye kadarki en iyi hareket tarzımız olduğuna inanıyoruz.”
Michigan Eyalet Üniversitesi'nde bilgisayar bilimi profesörü ve yüz tanıma teknolojisi uzmanı Arun Ross, Detroit'in politikasının harika bir başlangıç noktası olduğunu ve diğer kurumların da bunu benimsemesi gerektiğini söyledi.
Ross, “Bireysel hakları ve mahremiyeti çiğnemek istemiyoruz ama aynı zamanda suçun yaygınlaşmasını da istemiyoruz” dedi.
Ne kadar yardımcı oluyor?
Görgü tanıklarının kimliğini tespit etmek hassas bir iştir ve polis, kameraların ve yüz tanımanın kusurlu insan hafızasından daha güvenilir olduğu sonucuna varmıştır.
Polis Şefi White geçen yıl yerel milletvekillerine yüz tanıma teknolojisinin “16 katilin sokaklardan temizlenmesine” yardımcı olduğunu söyledi. Daha fazla bilgi istendiğinde polis departmanı yetkilileri bu vakalarla ilgili ayrıntılı bilgi vermedi.
Bunun yerine, departmanın teknolojideki başarısını göstermek için polis memurları, bir adamın benzin istasyonunda benzin döküp ateşe verdiğini gösteren gözetleme videosunu oynattı. Yüz tanıma teknolojisi kullanılarak kimliğinin belirlendiğini ve aynı akşam tutuklandığını söylediler. Daha sonra suçunu kabul etti.
Detroit polisi, yüz tanıma aramalarını izleyen ve bunun kullanımına ilişkin haftalık raporları bir denetim kuruluna sunan az sayıda kurumdan biri. Son yıllarda, yılda ortalama 100'den fazla arama gerçekleştirildi ve bu aramaların yaklaşık yarısı potansiyel sonuç döndürdü.
Departman, bahşişin onaylanıp onaylanmadığını değil, yalnızca ne sıklıkta bahşiş aldığını kaydeder. Bununla birlikte, bir polis sözcüsüne göre kendisi de 300.000 dolar alan Bay Williams'la yapılan anlaşmanın bir parçası olarak, teknolojinin 2017'deki ilk kullanımına kadar uzanan yüz tanıma aramalarını gözden geçirmesi gerekiyor. Yüz eşleştirme dışında destekleyici delillerin çok az olduğu veya hiç bulunmadığı kişilerin tutuklandığı ek vakalar tespit edilirse, bakanlığın ilgili savcıyı bilgilendirmesi gerekir.
Michigan Üniversitesi'ndeki bir teknoloji araştırma merkezinin yöneticisi Molly Kleinman, yeni korumaların umut verici göründüğünü ancak şüpheci olmaya devam ettiğini söyledi.
“Detroit olağanüstü polis denetimine tabi bir şehir. Her yerde kameralar var” dedi. “Eğer tüm bu gözetleme teknolojisi gerçekten dediğini yapsaydı, Detroit ülkedeki en güvenli şehirlerden biri olurdu.”
Yeni yönergeleri onaylayan düzenleyici kurum olan Polis Komiserleri Kurulu üyesi Willie Burton, bunları “doğru yönde atılmış bir adım” olarak nitelendirdi. Ancak polisin yüz tanıma teknolojisini kullanmasına karşı çıkmaya devam etti.
Burton, “Teknoloji henüz orada değil” dedi. “Bir yanlış tutuklama çok fazla ve Detroit'te bunlardan üçü durdurulması için bir tehlike işareti olmalı.”
Cuma günü, Bay Williams, Detroit polisinden, haksız yere tutuklanmasına ilişkin yasal anlaşmanın bir parçası olarak reform yapma taahhüdünü aldı. Şehir, Bay Williams'ı temsil eden Amerikan Sivil Özgürlükler Birliği'nin yeni ulusal standart olması gerektiğini söylediği yüz tanıma teknolojisinin polis tarafından kullanımına ilişkin yeni kuralları kabul etti.
Bay Williams, “Bunun işleri doğru yönde ilerleteceğini umuyoruz” dedi.
Bay Williams, hatalı yüz tanıma nedeniyle haksız yere tutuklandığı kanıtlanan ilk kişiydi. Ama o sonuncu değildi. Detroit polisi, yüz tanıma başarısızlığı nedeniyle aralarında sekiz aylık hamileyken araba hırsızlığıyla suçlanan bir kadının da bulunduğu en az iki kişiyi daha tutukladı.
Ülke çapındaki kolluk kuvvetleri, suçları videoya kaydedilen suçluları tespit etmek için yüz tanıma teknolojisini kullanıyor. Michigan'da yazılım, bilinmeyen bir yüzü, sabıka fotoğrafları veya ehliyet fotoğraflarından oluşan bir veritabanındaki yüzlerle karşılaştırıyor. Diğer bölgelerde polis, sosyal medya sitelerindeki ve halka açık internetteki fotoğrafları tarayan Clearview AI gibi araçları kullanıyor.
Detroit'te kabul edilen yeni önemli kurallardan biri, yüz tanıma teknolojisiyle kimliği belirlenen kişilerin görüntülerinin, suçla ilişkilendirildiğini gösteren başka bir kanıt olmadığı sürece artık fotoğraf dizisinde bir görgü tanığına gösterilemeyeceğidir.
Michigan ACLU'nun avukatı Phil Mayor, “'Fotoğraf çek ve onu yan yana koy' yaklaşımı sona erecek” dedi. “Bu anlaşma, Detroit Polis Departmanını, yüz tanıma teknolojisini en çok belgelenen suiistimalciden, kullanımına ilişkin katı kurallara uyma konusunda ulusal bir lidere dönüştürüyor.”
Polis, yüz tanıma teknolojisinin suçları çözmek için etkili bir araç olduğunu söylüyor ancak San Francisco, Austin, Texas ve Portland, Oregon dahil bazı şehirler ve eyaletler gizlilik kaygıları ve ırksal önyargılar nedeniyle bu teknolojinin kullanımını geçici olarak yasakladı. Detroit Polis Departmanı bilgi teknolojisi direktörü Stephen Lamoreaux, polis departmanının “teknolojiyi kamu güvenliği için anlamlı şekillerde kullanmakla çok ilgilendiğini” söyledi. Detroit'in “şu anda ülkedeki en katı politikalara sahip olduğunu” iddia etti.
Nasıl yanlış gidiyor
Bay Williams, 2018 yılında işlediği bir suçun ardından tutuklandı. Bir adam, güvenlik kamerası tarafından filme alınırken Detroit şehir merkezindeki bir butikten beş saat çaldı. Bir hırsızlık önleme şirketi görüntüleri Detroit polisine sağladı.
Williams'ın davası kapsamında açıklanan belgelere göre, adamın yüzünün ehliyet fotoğrafları ve sabıka fotoğraflarıyla karşılaştırılması sonucunda sistemin güvenilirliğine göre sıralanmış 243 fotoğraf ortaya çıktı ve gözetleme videosunda aynı kişinin kimliği belirlendi. Bay Williams'ın eski bir ehliyet fotoğrafı listede dokuzuncu sıradaydı. Aramayı yapan kişi onu en iyi eş olarak değerlendirdi ve Detroit polis dedektifine bir rapor gönderdi.
Soruşturmacı, mağazanın gözetleme videosunu sağlayan güvenlik görevlisine gösterdiği “altılı fotoğraf dizisine” (bir ızgarada altı kişinin fotoğrafları) Bay Williams'ın resmini dahil etti. Bay Williams'ın butikteki adama en yakın kişi olduğunu kabul etti ve bu da onun hakkında tutuklama emri çıkarılmasına yol açtı. Saatler çalındığında bir otomotiv tedarikçisindeki masasında oturan Bay Williams, geceyi hapiste geçirdi ve parmak izleri ve DNA'sı alındı. Perakende dolandırıcılığıyla suçlandı ve kendisini savunması için bir avukat tutmak zorunda kaldı. Savcı sonuçta davayı düşürdü.
Başkalarının onun kaderine maruz kalmaması için teknolojiyi yasaklamak umuduyla 2021'de Detroit'e dava açtı. Geçen yıl Detroit polisinin Porcha Woodruff'u yüz tanıma konusundaki zayıf bir eşleşmenin ardından araba hırsızlığı ve soygunla suçladığını öğrendiğinde üzüldüğünü söyledi. Polis Bayan Woodruff'u çocuklarını okula hazırlarken tutukladı. Ayrıca şehre dava açtı; süreç halen devam ediyor.
Williams, yüz tanıma teknolojisine atıfta bulunarak “Bu çok tehlikeli” dedi. “Olumlu bir faydasını görmüyorum”
Yeni kurallar
Yüz tanıma teknolojisinin hatalı tutuklamaya yol açtığı bilinen yedi vakanın üçünden Detroit polisi sorumlu. (Diğer vakalar Louisiana, New Jersey, Maryland ve Teksas'ta meydana geldi.) Ancak Detroit yetkilileri, yeni kontrollerin daha fazla suiistimali önleyeceğini söyledi. Ve şu anda yalnızca saldırı, cinayet ve haneye tecavüz gibi ciddi suçlarda kullanılan teknolojinin suçları çözme potansiyeli konusunda iyimserler.
Detroit polis şefi James White, hatalı tutuklamalardan “insan hatasını” sorumlu tuttu. Subaylarının teknolojinin sağladığı ipuçlarına çok fazla güvendiklerini söyledi. Onun muhakemesi kusurluydu, makinenin değil.
Bu ay yürürlüğe giren yeni direktifin bu konuda yardımcı olması amaçlanıyor. Yeni kurallara göre polis, artık yalnızca yüz tanıma yöntemine dayanarak bir kişinin yüzünü görgü tanığına gösteremeyecek.
“Yan yanaşma için yeterli gerekçenin bulunmasından önce bir tür ikincil, ilgisiz destekleyici kanıtın olması gerekir” dedi Detroit Polis Departmanından Bay Lamoreaux. Örneğin polis, fiziksel bir benzerliğin ötesinde, bir kişinin telefonundan veya DNA kanıtlarından konum bilgisine ihtiyaç duyacaktır.
Departman aynı zamanda fotoğraf dizilişlerini yürütme biçimini de değiştiriyor. Bir kişiyi tanımlamanın daha adil bir yöntemi olarak kabul edilen, çift-kör sıralama yöntemi olarak adlandırılan yöntemi tanıtıyor. Ana şüpheliyi tanımayan bir polis memuru, bir tanığa “altılı paket” sunmak yerine fotoğrafları birer birer sunuyor. Ve bu listede kişinin yüz tanıma sisteminin bulduğundan farklı bir fotoğrafı yer alıyor.
Polis aynı zamanda yüz aramasının yapıldığını ve aranan yüzün görüntü kalitesini de açıklamalıdır; güvenlik kamerası ne kadar grenliydi? Şüphelinin yüzü ne kadar iyi tanınabilir? – çünkü düşük kaliteli bir görüntü daha az güvenilir sonuçlar üretir. Ayrıca, otomatik sistem tarafından görüntülenen fotoğrafın yaşını ve veritabanında eşleşme olarak görünmeyen kişinin başka fotoğraflarının bulunup bulunmadığını da açıklaması gerekir.
Detroit polis şefi yardımcısı Franklin Hayes, yeni tedbirlerin gelecekte yanlış kimlik tespitlerini önleyeceğine olan güvenini dile getirdi.
Hayes, “Örneğin tek yumurta ikizleri konusunda hâlâ ters gidebilecek birkaç şey var” dedi. “Asla asla diyemeyiz ama bunun şimdiye kadarki en iyi hareket tarzımız olduğuna inanıyoruz.”
Michigan Eyalet Üniversitesi'nde bilgisayar bilimi profesörü ve yüz tanıma teknolojisi uzmanı Arun Ross, Detroit'in politikasının harika bir başlangıç noktası olduğunu ve diğer kurumların da bunu benimsemesi gerektiğini söyledi.
Ross, “Bireysel hakları ve mahremiyeti çiğnemek istemiyoruz ama aynı zamanda suçun yaygınlaşmasını da istemiyoruz” dedi.
Ne kadar yardımcı oluyor?
Görgü tanıklarının kimliğini tespit etmek hassas bir iştir ve polis, kameraların ve yüz tanımanın kusurlu insan hafızasından daha güvenilir olduğu sonucuna varmıştır.
Polis Şefi White geçen yıl yerel milletvekillerine yüz tanıma teknolojisinin “16 katilin sokaklardan temizlenmesine” yardımcı olduğunu söyledi. Daha fazla bilgi istendiğinde polis departmanı yetkilileri bu vakalarla ilgili ayrıntılı bilgi vermedi.
Bunun yerine, departmanın teknolojideki başarısını göstermek için polis memurları, bir adamın benzin istasyonunda benzin döküp ateşe verdiğini gösteren gözetleme videosunu oynattı. Yüz tanıma teknolojisi kullanılarak kimliğinin belirlendiğini ve aynı akşam tutuklandığını söylediler. Daha sonra suçunu kabul etti.
Detroit polisi, yüz tanıma aramalarını izleyen ve bunun kullanımına ilişkin haftalık raporları bir denetim kuruluna sunan az sayıda kurumdan biri. Son yıllarda, yılda ortalama 100'den fazla arama gerçekleştirildi ve bu aramaların yaklaşık yarısı potansiyel sonuç döndürdü.
Departman, bahşişin onaylanıp onaylanmadığını değil, yalnızca ne sıklıkta bahşiş aldığını kaydeder. Bununla birlikte, bir polis sözcüsüne göre kendisi de 300.000 dolar alan Bay Williams'la yapılan anlaşmanın bir parçası olarak, teknolojinin 2017'deki ilk kullanımına kadar uzanan yüz tanıma aramalarını gözden geçirmesi gerekiyor. Yüz eşleştirme dışında destekleyici delillerin çok az olduğu veya hiç bulunmadığı kişilerin tutuklandığı ek vakalar tespit edilirse, bakanlığın ilgili savcıyı bilgilendirmesi gerekir.
Michigan Üniversitesi'ndeki bir teknoloji araştırma merkezinin yöneticisi Molly Kleinman, yeni korumaların umut verici göründüğünü ancak şüpheci olmaya devam ettiğini söyledi.
“Detroit olağanüstü polis denetimine tabi bir şehir. Her yerde kameralar var” dedi. “Eğer tüm bu gözetleme teknolojisi gerçekten dediğini yapsaydı, Detroit ülkedeki en güvenli şehirlerden biri olurdu.”
Yeni yönergeleri onaylayan düzenleyici kurum olan Polis Komiserleri Kurulu üyesi Willie Burton, bunları “doğru yönde atılmış bir adım” olarak nitelendirdi. Ancak polisin yüz tanıma teknolojisini kullanmasına karşı çıkmaya devam etti.
Burton, “Teknoloji henüz orada değil” dedi. “Bir yanlış tutuklama çok fazla ve Detroit'te bunlardan üçü durdurulması için bir tehlike işareti olmalı.”