Anthropic алармира: AI е на ръба да излезе извън контрол

06/06/2026 17:48 от Милена Михайлова

anthropic алармира ръба излезе извън контрол

Според доклад на Anthropic е нужна глобална координация между водещите технологични компании

Компанията за изкуствен интелект Anthropic призова за въвеждане на глобална пауза в разработването на най-напредналите AI системи, след като според нея последните модели започват да показват признаци за потенциално излизане извън човешки контрол, съобщава Франс прес.

Базираната в Сан Франциско компания, оценявана на близо 1 трилион долара (около 965 млрд.), вече се нарежда сред водещите играчи в сектора и изпреварва OpenAI по редица показатели, включително приходи. Anthropic разработва семейство облачни модели с изкуствен интелект.

„Смятаме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния ИИ, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията“, се посочва в последния доклад на компанията.

От Anthropic подчертаха, че реална пауза може да бъде постигната единствено ако големите компании в различни държави – най-вече в САЩ и Китай – се съгласят едновременно да спрат разработките при проверими правила.

Предложението на Anthropic вероятно ще срещне сериозен отпор както във Вашингтон, така и в Силициевата долина.

Причината е опасението, че всяко забавяне в развитието на изкуствения интелект може да даде стратегическо предимство на Китай в глобалната технологична надпревара.

Въпреки това президентът на САЩ Доналд Тръмп заяви, че е обсъждал възможност за сътрудничество с Китай по теми, свързани с безопасността на изкуствения интелект.

Освен това Тръмп подписа указ, който дава на американските власти 30 дни за предварителна проверка на най-мощните AI модели преди тяхното пускане на пазара.

От Anthropic предупредиха, че вече се наблюдава ускоряване, при което AI подпомага самото си развитие, създавайки обратна връзка, която може да доведе до т.нар. „рекурсивно самоусъвършенстване“ – процес, при който системите започват да се подобряват самостоятелно с минимална човешка намеса.

Според Anthropic ролята на човека в процеса на развитие на AI вече постепенно намалява на всеки следващ етап.

Още новини четете в категория Технологии

Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!