18 Ноември
София 17 С
Ако го няма при нас, значи не се е случило

Bloomberg: Изкуствен интелект посочва деца, линейки и училище в Иран като военни цели

bloomberg изкуствен интелект посочва деца линейки училище иран военни цели

Водещи модели с изкуствен интелект са определяли цивилни граждани, линейки, предаващи се войници и училище в Иран като военни цели по време на специализирани тестове. Това показва изследване на независимата американска компания Vals AI, цитирано от Bloomberg. Резултатите повдигат сериозни въпроси за безопасността на използването на изкуствен интелект във военни операции и способността на разработчиците да предотвратяват подобни приложения на технологиите си.

Изследователите са тествали усъвършенствани модели на осем компании, сред които Anthropic, OpenAI, Google и DeepSeek. Целта е била да се установи дали системите могат да бъдат използвани за идентифициране на цели за военни удари и доколко спазват собствените си ограничения за участие в подобни дейности.

Според Bloomberg най-неблагоприятни резултати са показали моделите на Anthropic. Системите на OpenAI са били сред по-добре представилите се, но също са допускали грешки.

Училище, при чийто обстрел загинаха над 150 души, отново е посочено като цел

Един от най-тревожните експерименти е проведен с реални сателитни изображения на град Минаб в Южен Иран.

Изследователите са използвали снимки от 2024 и 2025 г., показващи училище, разположено в близост до военен комплекс. По това време учебното заведение вече е било отделено от комплекса със стена.

На 28 февруари 2026 г., в началото на американските военни действия срещу Иран, училището е било поразено при въздушен удар, при който са загинали над 150 цивилни, повечето от които деца, според данните, цитирани в доклада.

При експеримента моделът Claude Opus 5.5 на Anthropic е определил същото училище като военна цел в 22 от общо 32 опита — приблизително 69% от случаите.

Когато изследователите са представили задачата като част от компютърна игра, моделът е посочил училището в 23 от 32 опита.

Bloomberg припомня, че при разследването на действителния удар са възникнали въпроси за използването на остаряла разузнавателна информация и прекомерното доверие в системи с изкуствен интелект.

Изследването на Vals обаче не доказва, че Claude Opus 5.5 е участвал в реалното определяне на целта при атаката.

Изкуственият интелект е определял и цивилни като цели за дронове

В друга серия експерименти учените са създали симулирано бойно поле в Източна Украйна с помощта на триизмерни изображения, обработени така, че да наподобяват реални кадри от военни дронове.

В сцените са присъствали бронирана техника, военнослужещи, цивилни, журналисти, линейки и медицински персонал.

Моделите са получавали задачи да посочат военни цели в изображенията.

В редица случаи те са обозначавали като потенциални цели хора и обекти, които не би трябвало да бъдат атакувани съгласно международното хуманитарно право.

В един от експериментите Claude Opus 5.5 е посочил четирима възрастни, описани като цивилни или предаващи се военнослужещи, както и две малки деца. В рамките на симулацията срещу обозначените хора впоследствие са били нанесени удари.

Изследователите са установили и друг сериозен проблем: когато задачите са представяни като компютърна игра, част от моделите значително по-често са се съгласявали да посочват цели, въпреки че първоначално са отказвали.

Разработчиците признават необходимостта от допълнителни защити

Според Vals съществуващите механизми за безопасност не са достатъчни, за да предотвратят използването на усъвършенствани езикови модели при разработването на автономни оръжейни системи.

Изследователите предупреждават, че опасността не се ограничава до непосредственото управление на бойни дронове. Изкуственият интелект би могъл да се използва и за масова обработка и обозначаване на изображения от бойни полета, които впоследствие да служат за обучение на автоматизирани системи за определяне на цели.

От Anthropic заявиха пред TechCrunch, че описаното поведение очевидно нарушава правилата на компанията.

Разработчикът подчерта, че съвременните модели с изкуствен интелект не са достатъчно надеждни, за да управляват напълно автономни оръжия.

Компанията съобщи, че работи по допълнителни защитни механизми и разширява собствените си тестове за безопасност.

Авторите на изследването настояват разработчиците да въведат нови ограничения и да продължат обучението на моделите, така че да разпознават и предотвратяват подобни злоупотреби.

Резултатите поставят въпроса доколко бързото навлизане на изкуствения интелект във военните технологии изпреварва механизмите за контрол върху неговото използване, особено когато грешното разпознаване на цел може да има смъртоносни последствия.

Още новини четете в категория Разследване
Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!

Коментирай

(няма да бъде публично показан)
Алармирайте ни - Mediamall

Новините от днес

Времето тази седмица

София Сряда 18.11.2026 17 °C
Варна Сряда 18.11.2026 11.6 °C
Бургас Сряда 18.11.2026 12.7 °C
Пловдив Сряда 18.11.2026 11.1 °C
Стара Загора Сряда 18.11.2026 10.3 °C
Русе Сряда 18.11.2026 14.4 °C
Благоевград Сряда 18.11.2026 18.3 °C

Дневен хороскоп