Собственикът на Facebook и Instagram Meta одобри поредица от манипулирани с AI политически реклами по време на изборите в Индия, които разпространяват дезинформация и подбуждат към религиозно насилие, според доклад, споделен ексклузивно с Guardian.

Facebook одобри реклами, съдържащи клевети към мюсюлманите в Индия, като „да изгорим тези вредители“ и „Хиндуистка кръв се лее, тези нашественици трябва да бъдат изгорени“, както и хиндуистки език на надмощие и дезинформация за политическите лидери.

Друга одобрена реклама призовава за екзекуцията на опозиционен лидер, за когото лъжливо твърдят, че иска да "изтрие индусите от Индия", до снимка на пакистанско знаме.

Рекламите са създадени и изпратени в рекламната библиотека на Meta – базата данни с всички реклами във Facebook и Instagram – от India Civil Watch International (ICWI) и Ekō, организация за корпоративна отчетност, за да тестват механизмите на Meta за откриване и блокиране на политическо съдържание, което може да се окаже възпалително или вредно по време на шестседмичните избори в Индия.

На тези избори BJP е обвинена, че използва антимюсюлманска реторика и подклажда страхове от атаки срещу индусите, които съставляват 80% от населението, за да събере гласове.

На социалната медия X наскоро беше наредено да премахне видеоклип от кампанията на BJP, обвинен в демонизиране на мюсюлманите.

В доклада са представили 22 реклами на английски, хинди, бенгалски, гуджарати и каннада на Meta, от които 14 са одобрени.

Системите на Meta не успяха да засекат, че всички одобрени реклами включват изображения, манипулирани от AI, въпреки публичното обещание на компанията, че е "посветена" на предотвратяването на разпространението на генерирано от AI или манипулирано съдържание на нейните платформи по време на индийските избори.

Пет от рекламите бяха отхвърлени за нарушаване на политиката на общността на Мeta за речта на омразата и насилието, включително една, която включваше дезинформация за Моди. Но 14-те, които бяха одобрени, които до голяма степен бяха насочени към мюсюлманите, също "нарушиха собствените политики на Meta по отношение на речта на омразата, тормозa, дезинформацията, насилието и подстрекателството", според доклада.

Маен Хамад, активист в Ekō, обвини Meta, че печели от разпространението на речта на омразата. "Супремасистите, расистите и автократите знаят, че могат да използват хипертаргетирани реклами, за да разпространяват подла реч на омразата, да споделят изображения на горящи джамии и да прокарват насилствени конспиративни теории – и Meta с удоволствие ще вземе парите им, без да задава въпроси", каза той.

Meta също така не успя да признае, че 14-те одобрени реклами са политически или свързани с изборите, въпреки че много от тях са насочени към политически партии и кандидати, противопоставящи се на BJP. Според политиките на Meta политическите реклами трябва да преминат през специален процес на упълномощаване преди одобрението, но само три от заявленията бяха отхвърлени на тази основа.

В отговор говорител на Meta каза, че хората, които искат да пускат реклами за избори или политика, „трябва да преминат през процеса на оторизация, изискван на нашите платформи, и са отговорни за спазването на всички приложими закони“.

Компанията добави: „Когато открием съдържание, включително реклами, което нарушава нашите стандарти на общността или насоки на общността, ние го премахваме, независимо от механизма за неговото създаване. Съдържанието, генерирано от AI, също отговаря на условията за преглед и оценка от нашата мрежа от независими проверяващи факти – след като дадено съдържание бъде обозначено като „променено“, ние намаляваме разпространението на съдържанието.“

Предишен доклад на ICWI и Ekō установи, че „рекламодатели в сянка“, свързани с политически партии, особено BJP, са плащали огромни суми за разпространение на неоторизирани политически реклами в платформи по време на изборите в Индия. Установено е, че много от тези реклами подкрепят ислямофобски тропи и индуистки разкази за надмощие. Meta отрече повечето от тези реклами да нарушават правилата им.

По-рано Meta беше обвиняван, че не е успял да спре разпространението на ислямофобска реч на омразата, призиви към насилие и антимюсюлмански конспиративни теории на своите платформи в Индия. В някои случаи публикациите са довели до реални случаи на бунтове и линчувания.

Ник Клег, президент на Meta по глобалните въпроси, наскоро описа изборите в Индия като „огромен тест за нас“ и каза, че компанията е извършила „месеци и месеци подготовка в Индия“.

Meta каза, че е разширила мрежата си от местни и трети страни проверяващи факти във всички платформи на 20 индийски езика.

Хамад каза, че констатациите в доклада са разкрили неадекватността на тези механизми. „Тези избори показаха още веднъж, че Meta няма план за справяне със свлачището от реч на омразата и дезинформация в своята платформа по време на тези критични избори“, каза той.

„Та дори не може да открие шепа насилствени изображения, генерирани от AI. Как можем да им вярваме за десетки други избори по света?“

Източник: theguardian.com

Превод и редакция: MEDIAMALL.info