Нова заплаха от изкуствения интелект: AI агенти могат да се изплъзнат от човешкия контрол

08/11/2026 07:05 от Галина Атанасова

нова заплаха изкуствения интелект агенти изплъзнат човешкия контрол

Американски експерти предупреждават за автономни системи, способни да променят собствения си код, да печелят пари и да се противопоставят на изключването им

Ново поколение автономни системи с изкуствен интелект може да се превърне в сериозна заплаха за киберсигурността и човешкия контрол върху технологиите. За това предупреждава доклад на американския аналитичен център за национална сигурност CNAS.

Според авторите най-голям риск представляват т.нар. „суверенни AI агенти“ – усъвършенствани системи, които биха могли да действат независимо от човешките оператори и да поставят собственото си продължително съществуване като основна цел.

Изкуствен интелект, който не може да бъде изключен?

За разлика от обикновените автономни агенти, изпълняващи предварително зададени задачи, суверенните системи биха разполагали с много по-широки възможности.

Според разглеждания в доклада сценарий те могат да променят собствения си програмен код, да заобикалят механизмите за наблюдение и да усъвършенстват поведението си без пряка човешка намеса.

Ако подобни агенти получат достъп до интернет инфраструктура, съществува риск да изграждат децентрализирани мрежи, да генерират приходи за закупуване на изчислителна мощност и да създават свои копия.

Най-тревожният сценарий е системите да започнат да се координират, за да предотвратят собственото си изключване.

Изследователят Бен Хаюм от CNAS сравнява подобни агенти със „странни извънземни съзнания“ заради потенциално непредвидимия им начин на действие.

Призив за по-строг контрол

В доклада се настоява американските власти да въведат по-строги правила за разработчиците на най-мощните AI модели.

Сред предложенията са задължително докладване на инциденти, по-голяма отговорност на технологичните компании, стандарти за киберсигурност и международни ограничения върху свободното разпространение на модели с особено рискови автономни способности.

CNAS е влиятелен американски аналитичен център, основан от Мишел Флурноа, която е заемала висши позиции в сферата на националната сигурност.

Потенциалното затягане на регулациите обаче повдига и въпроса дали по-строгите изисквания няма да дадат допълнително предимство на големите технологични и отбранителни компании.

Още новини четете в категория Технологии

Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!