Šéf detroitskej polície pracuje na zmene zásad týkajúcich sa používania softvéru na rozpoznávanie tváre po údajnom neoprávnenom zatknutí a zadržaní tehotnej detroitskej ženy začiatkom tohto roka. Prípad poukazuje na jedno z nespočetných nebezpečenstiev, ktoré prináša zvýšené spoliehanie sa na umelú inteligenciu.
Šéf detroitskej polície James White oznámil plán zmien po tom, ako bola 16. februára o 7.50 h ráno zatknutá 32-ročná Porcha Woodruffová na základe obvinení z lúpeže a krádeže auta, informovala agentúra Associated Press. Woodruffová bola v tom čase v ôsmom mesiaci’ tehotenstva so svojím tretím dieťaťom.
“Moje dve deti museli byť svedkami zatknutia svojej matky,” povedala.
Woodruffová povedala, že jej deti “stáli tam a plakali, keď ma odvádzali,” a že sa obáva, že stres zo zatknutia a následných hodín vo väzení mohol byť pre jej nenarodené dieťa škodlivý alebo dokonca smrteľný.
Policia identifikovala Woodruffovú ako subjekt po tom, čo použila technológiu rozpoznávania tváre na vypátranie možných podozrivých v prípade krádeže auta z 29. januára.
Dôstojníčka pridelená k prípadu, LaShauntia Oliverová z oddelenia komerčných krádeží áut Detroitského policajného zboru (DPD), získala záznam z kamerového systému na čerpacej stanici BP po tom, ako zistila, že mobilný telefón ukradnutý pri krádeži auta tam bol vrátený, Government Technology reported.
Fotografia ženy, ktorá telefón vrátila, bola následne v súlade s pravidlami oddelenia predložená softvéru DPD’na rozpoznávanie tváre.
Odborná publikácia o informačných technológiách Tech Republic opisuje kontroverzný softvér ako “biometrický nástroj, ktorý analyzuje črty tváre osoby’s cieľom porovnať alebo potvrdiť jej identitu” prostredníctvom “umelej inteligencie a strojového učenia na skenovanie každej tváre a porovnávanie jej jedinečných identifikátorov s databázou obrázkov.”
Šéf White vo svojom vyhlásení uviedol, že detroitské policajné oddelenie’vďaka “technológii získalo vyšetrovaciu stopu, čo je presne to, čo malo urobiť.”
Podľa neho však následná ľudská detektívna práca bola nekvalitná, keďže softvér “vytvoril 73 možností, kto je podozrivý”, a vyšetrovateľ riadne nepokračoval v preverovaní rôznych stôp.
Podľa Whitea majú policajti “urobiť množstvo vecí, aby sa uistili, že vyšetrovacia stopa je možno váš podozrivý.” V tomto prípade sa podľa neho “nezdá, že by k tomu došlo.”
Michiganská pobočka ľavicovej Americkej únie občianskych slobôd (ACLU) podala žalobu na americký súd.S. District Court for the Eastern District of Michigan v mene Woodruffa’
V marci podľa žaloby prokuratúra okresu Wayne’odložila prípad, pretože obeť sa nedostavila na súd.
Prokuratúra uviedla, že Woodruffovo’zatknutie bolo “primerané na základe faktov,” uviedla agentúra AP —, ale náčelník White povedal, že policajti už nebudú môcť používať obrázky zo softvéru na rozpoznávanie tváre pri fotografovaní.
Podľa Whitea Woodruffovo’zatknutie “vyplynulo, otvorene a bohužiaľ, zo zlého vyšetrovania.” Povedal, že vznáša obvinenia, aby “zabezpečil, že sa niečo také už nikdy nestane.”Zmeny, ktoré preskúma Detroitská policajná rada komisárov, budú zahŕňať požiadavku, aby dvaja kapitáni posudzovali zatykače vytvorené po použití softvéru na rozpoznávanie tváre, a povinnosť získať ďalšie dôkazy nad rámec vyšetrovacích stôp získaných z tejto technológie.
“Je to“obzvlášť ťažké, keď hovoríte“o niekom, kto bol v ôsmom mesiaci“ tehotenstva, takže s tým súcitíme,” povedal White. “Uznávame, že sa musíme zlepšiť a za túto chybu sa bude niesť zodpovednosť.”
Nie je to pritom’prvý prípad údajne nesprávneho zatknutia, ktorý vyvolal kontrolu používania softvéru na rozpoznávanie tváre pri vyšetrovaní trestných činov. Len v Detroite sa vyskytli ďalšie dva takéto prípady.
Štúdia z roku 2022 upozorňujúca na možnosť, že softvér na rozpoznávanie tváre môže viesť k neoprávnenému zatýkaniu, uvádza, že “rozpoznávanie tváre sa používalo ako pravdepodobný dôvod na zatýkanie” bez použitia potvrdzujúcich dôkazov.
“V mnohých prípadoch vo viacerých jurisdikciách sa ľudia ocitli vo väzení a čelili obvineniam z trestných činov len na základe vyhľadávania podľa rozpoznávania tváre; na potvrdenie totožnosti podozrivého sa nevyhľadávali žiadne iné dôkazy””, uvádza sa v správe.
Analýza štúdie, ktorú zverejnila právnická spoločnosť Georgetown Law zvýraznené hodnotenie, že tak, ako sa “v súčasnosti používa pri vyšetrovaní trestných činov, je rozpoznávanie tváre pravdepodobne nespoľahlivým zdrojom dôkazov totožnosti.”
Krem vážnych obáv z falošne pozitívnych výsledkov pri vyšetrovaní trestných činov vyvoláva používanie tejto technológie kontroverzie kvôli obavám o súkromie osôb a rôznorodým škodám, ktoré môžu vzniknúť v dôsledku úniku údajov, upozornil Tech Republic. Technológia bola tiež široko kritizovaná ľavicou za to, že prináša nadmerný počet falošne pozitívnych výsledkov v prípade černochov a iných ľudí tmavšej pleti.
Napriek týmto obavám sa používanie biometrickej technológie celosvetovo zvyšuje, keďže sa predpokladá, že systémy umelej inteligencie (AI) budú čoraz bežnejšie.
Vlani španielska polícia oznámila, že zavádza nástroj na automatické rozpoznávanie tváre, a kanadský premiér Justin Trudeau povedal, že Kanada zvažuje mandát, ktorý by od cestujúcich v leteckej doprave vyžadoval, aby pred nástupom do lietadla poskytli “digitálne cestovné doklady,” vrátane biometrických údajov z rozpoznávania tváre.
V USA, Medzinárodné letisko Miami (MIA) tiež vlani oznámilo, že vybavuje svoje nástupné brány biometrickou technológiou rozpoznávania tváre v rámci “najväčšej implementácie biometrických údajov v ktorejkoľvek krajine USA.USA.”
Steven Mosher, prezident Inštitútu pre výskum obyvateľstva, povedal pre LifeSiteNews, že táto rušivá biometrická detekčná technológia pripomína podobné nástroje, ktoré vo veľkom používa čínsky’komunistický režim.
“Ja, napríklad, nechcem žiť v hi[gh]-tech digitálnej diktatúre, akú vidíme v Číne, kde je každý sledovaný počas celého dňa na sledovacích kamerách, nehovoriac o jeho vlastných telefónoch,” povedal Mosher.
“Už sme k tomu nebezpečne blízko,” dodal a tvrdil, že Spojené štáty musia zaviesť “prísne zákony o ochrane súkromia”, aby nás “ochránili pred takýmto rušivým vládnym dohľadom.”