Федералното бюро за разследване на САЩ (ФБР) е извършило десетки хиляди търсения с разпознаване на лица, използвайки софтуер от външни доставчици през последните години.И все пак само 5 процента от 200-те агенти с достъп до технологията са преминали тридневния курс на обучение на бюрото как да я използват, разкрива доклад на Службата за отчетност на правителството (GAO).Бюрото няма политика за използване на разпознаване на лица, за да защити поверителността, гражданските права или гражданските свободи.

Законодателите и други, загрижени за разпознаването на лица казаха, че е необходимо адекватно обучение за технологията и как да се тълкува нейният резултат, за да се намалят неправилната употреба или грешките, въпреки че някои експерти казват, че обучението може да приспи правоприлагащите органи и обществото да мислят, че разпознаването на лица представлява нисък риск.

След фалшивия арест на Робърт Уилямс близо до Детройт през 2020 г. в САЩ се появиха множество случаи на арести, след като модел за разпознаване на лица погрешно идентифицира човека. Алонзо Сойер, за чиито изпитания стана известно тази пролет, прекара девет дни в затвора за престъпление, което не е извършил.

Липсата на обучение за разпознаване на лица във ФБР излезе наяве в доклад на GAO, в който се разглеждат мерките за защита, действащи в случаите, когато федералните правоприлагащи органи използват технологията. Докладът е съставен по искане на седем членове на Конгреса от Демократическата партия.

Авторът на доклада и директор на GAO за вътрешна сигурност и правосъдие Грета Гудуин съобщава в имейл, че не е открила доказателства за фалшиви арести поради използване на системата за разпознаване на лица от федералните правоприлагащи органи.

Представител на ФБР отказа да отговори на въпроси относно доклада на GAO за тази статия.

В доклада на GAO основно внимание се отделя върху инструментите за разпознаване на лица, създадени от търговски и нестопански организации. Това означава, че не се занимава със собствената платформа за разпознаване на лица на ФБР, която GAO преди това критикува за лоша защита на поверителността. Министерството на правосъдието на САЩ получи нареждане от Белия дом миналата година да разработи най-добри практики за използване на разпознаване на лица и да докладва всички промени в политиката, които произтичат от това.

Външните инструменти за разпознаване на лица, използвани от ФБР и други федерални правоприлагащи органи, обхванати от доклада, са създадени от такива компании, като Clearview AI, която е събрала милиарди снимки на лица от интернет, за да обучи своята система за разпознаване на лица, и Thorn, организация с нестопанска цел, която се бори със сексуалниятрафик чрез прилагане на разпознаване на лица за идентифициране на жертви и трафиканти на секс от изображения на комерсиалния секс пазар в интернет.

ФБР е на първо място сред федералните правоприлагащи агенции, проверени от GAO за мащаба на използването на разпознаване на лица. Повече от 60 000 търсения са извършени от седем агенции между октомври 2019 г. и март 2022 г. Над половината са направени от агенти на ФБР, около 15 000 с помощта на Clearview AI и 20 000 с помощта на Thorn.

Нито един от съществуващите закони не изисква служителите на федералните правоприлагащи органи да преминат обучение, преди да използват разпознаване на лица или да следват определени стандарти при използване на разпознаване на лица в криминално разследване.

Според доклада, Министерството на правосъдието планира да издаде политика за граждански права и граждански свободи при разпознаване на лица, но все още не е определена дата за планирано изпълнение. В него се казва, че служители на Министерството на правосъдието в някакъв момент през 2022 г. са обмисляли актуализиране на политиката си, за да позволят само съвпадение при лицево разпознаване, за да оправдаят искане за заповед за обиск.

Търгоските инструменти за разпознаване на лица, използвани от ФБР и други федерални агенции, се опитват да съпоставят снимка на заподозрян или жертва с изображения на лица в бази данни, които могат да съдържат милиони изображения. След като софтуерът предложи списък с възможни съвпадения, хората решават кого да подложат на по-нататъшно разследване.

Според доклад на Националния институт за стандарти и технологии, моделите за разпознаване на лица, създадени от търговски доставчици в САЩ, погрешно идентифицират американци от азиатски произход и жени с тъмна кожа в по-висок процент от останалата част от населението.

Въпреки че правителствените оценки на разпознаването на лица продължават да показват подобрения в идентифицирането на хора в различни демографски групи, продължават да се извършват и фалшиви арести, често в резултат от неизправна технология и лоша разследваща работа от страна на полицейски служители, и почти изключително с участието на чернокожи мъже. Наскоро се появиха новини за Порча Уудръф, която е била арестувана по грешка, въпреки факта, че е била видимо бременна, за разлика от заподозряната, видяна на запис от охранителна камера.

Погрешното идентифициране от страна на свидетел или служител на реда също може да доведе до фалшив арест. Изследванията показват, че хората като правило лошо разпознават други хора, които не познават, и особено лошо разпознават хора от различна раса. Качеството на снимката и разликата във времето между снимка от сондата и снимка в базата данни също могат да повлияят на резултатите.

ФБР от години е подложено на натиск от правителството и законодателите да защити по-добре правата на жителите на САЩ от възможностите на разпознаването на лица. GAO започна да призовава ФБР да оцени точността и последиците за поверителността на своя вътрешен софтуер за разпознаване на лица през 2016 г. Той поднови тези призиви през 2019 г., когато двупартийни законодатели също притиснаха ФБР да засили предпазни мерки.

През 2022 г. комисия на Конгреса инструктира Министерството на правосъдието да създаде политика за етичното използване на лицево разпознаване, но агенцията все още не е приложила такава политика на практика.

През същата година президентът Джо Байдън подписа изпълнителна заповед, нареждаща на отдела да възложи проучване на Националната академия на науките за въздействието на разпознаването на лица върху неприкосновеността на личния живот, гражданските права и гражданските свободи. Освен това се изисква Министерството на правосъдието да се включи в междуведомствен процес за разработване на най-добрите практики за използване на разпознаване на лица от правоприлагащите органи.

Снеха Реванур, основателка на Encode Justice, младежка организация с нестопанска цел, която иска да се въведе мораториум върху използването на разпознаване на лица от правоприлагащите органи казва, че технологията може да бъде пренебрегната на фона на неотдавнашното вълнение и страх относно генеративния AI като ChatGPT. „Изключително важно е да не оставяме недовършена работа около проблеми като разпознаване на лица“, казва тя. Реванур казва, че федералният мораториум върху технологията ще осигури време за проучване какви видове политики за обучение и използване биха могли да намалят ефективността на инструмент за наблюдение, който може да наруши гражданските права.

Автор: Хари Джонсон

Източник: wired.com

Превод и редакция: Opposition