Британски полицай е обект на наказателно разследване по подозрения, че е използвал генеративен изкуствен интелект за фалшифициране на доказателствени материали по няколко дела. Случаят е първи по рода си във Великобритания и повдига нови въпроси за ролята на AI в работата на правоохранителните органи.
Според информация на Би Би Си властите в графство Дербишър разследват полицейски служител, за когото се твърди, че е използвал генеративен AI за създаване на доказателствени материали по редица случаи.
Името на служителя не се съобщава. Той не е арестуван, но е временно отстранен от работа до приключването на разследването. То се води съвместно от полицията на Дербишър и Кралската прокуратура.
През последните години полицейски служби по света ускориха внедряването на технологии с изкуствен интелект. Очакванията са те да помогнат за по-бързи разследвания и по-висока разкриваемост на престъпленията. Успоредно с това обаче се увеличават и случаите на погрешни арести, свързани със системи за лицево разпознаване.
Новият случай показва друга потенциална опасност. Вместо да доведе до грешно идентифициране на заподозрян, технологията може да е била използвана за "създаване" на доказателства.
AI генерира "халюцинации"
Случаят излиза наяве само дни след като новосъздаденият британски център PoliceAI публикува препоръки към полицейските служители да не използват генеративен изкуствен интелект при подготовката на съдебни показания. Причината е склонността на тези системи да генерират неверни или измислени факти, известни като "халюцинации".
Досега са известни случаи, при които AI е попадал в полицейски доклади заради небрежност. Един от най-куриозните примери идва от щата Юта, където автоматично генериран текст е описал как полицейски служител се е превърнал в жаба.
Според наблюдатели сериозността на разследването в Дербишър подсказва, че този случай вероятно не е резултат от обикновена грешка или некритично използване на AI инструмент.
По-скоро той напомня на инцидент от миналата година в американския щат Мейн, когато полицаи публикуваха снимки от акция срещу наркотици, за които впоследствие се появиха съмнения, че са били манипулирани с помощта на генеративен изкуствен интелект.
Ако го няма при нас, значи не се е случило
