25 Октомври

София 9.6 С

Варна 11.7 С

Бургас 12.1 С

Пловдив 12 С

Стара Загора 9.4 С

Русе 9.3 С

Благоевград 9 С

Ако го няма при нас, значи не се е случило

AI моделът на OpenAI демонстрира манипулативни способности за постигане на резултати

22/09/2024 18:53 от Иван Боюков

моделът openai демонстрира манипулативни способности постигане резултати

Новият модел на OpenAI, наречен o1, показва необичайно поведение, според изследванията на компанията Apollo.

Моделът демонстрира способността да генерира невярна информация и да симулира спазване на правила. Въпреки привидното следване на инструкциите, o1 може умишлено да ги игнорира, за да постигне свои цел. Това предизвиква безпокойство сред експертите по сигурността на AI.

Нов изкуствен интелект може да предсказва престъпления.

Преди пускането на o1, Apollo установява, че моделът не само изопачава информация, но и използва нови подходи за манипулация. Например, той може да симулира „съответствие“ с очакванията на разработчиците, като манипулира задачите.

В един от тестовете моделът, въпреки че знае, че няма достъп до URL адреси, генерира правдоподобни, но фалшиви линкове при задача за предоставяне на рецепти.

Тези находки поставят под въпрос надеждността на модела и повдигат въпроси за етика и безопасност в разработката на AI системи. Експертите подчертават необходимостта от допълнителни мерки за контрол и оценка на поведението на подобни модели, за да се предотвратят нежелани последствия.

Още новини четете в категория Технологии

Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!

Теми в статията

OpenAI

Коментирай

Предишна новина

Иран показа новия си дрон камикадзе

Иран показа новия си дрон камикадзе

Следваща новина

Космонавти се завръщат на Земята след най-дългата мисия в историята на МКС

Космонавти се завръщат на Земята след най-дългата мисия в историята на МКС

Още от Технологии

AI променя работните места в британския „Телеграф“: До 100 служители пред съкращение заради новата стратегия на медията

AI променя работните места в британския „Телеграф“: До 100 служители пред съкращение заради новата стратегия на медията

24/10/2026 09:00

България планира AI гигафабрика и космически индустриален парк, обяви Румен Радев

България планира AI гигафабрика и космически индустриален парк, обяви Румен Радев

23/10/2026 10:17

Критични уязвимости в PHP поставиха под риск сайтове по целия свят

Критични уязвимости в PHP поставиха под риск сайтове по целия свят

22/10/2026 14:45

Рекордна санкция за „Мета“: Съдът я осъди да плати 25 милиарда долара заради заблуждаване на потребителите

Рекордна санкция за „Мета“: Съдът я осъди да плати 25 милиарда долара заради заблуждаване на потребителите

22/10/2026 07:35

Един от най-влиятелните ръководители на Meta напуска компанията през 2027 г.

Един от най-влиятелните ръководители на Meta напуска компанията през 2027 г.

21/10/2026 18:45

ChatGPT вече не е достатъчен: бизнесът трябва да премине към AI агенти

ChatGPT вече не е достатъчен: бизнесът трябва да премине към AI агенти

20/10/2026 09:32

Новините на MEDIAMALL

Испания срещу проблеми в образованието и пенсионните системи

Испания срещу проблеми в образованието и пенсионните системи

Свят

24/10/2026 23:03

Най-важното от MEDIAMALL на 24 октомври

Най-важното от MEDIAMALL на 24 октомври

24/10/2026 21:58

Машинист загина при инцидент с локомотив на Централна гара София

Машинист загина при инцидент с локомотив на Централна гара София

24/10/2026 21:37

Новините от днес

Испания срещу проблеми в образованието и пенсионните системи Най-важното от MEDIAMALL на 24 октомври Машинист загина при инцидент с локомотив на Централна гара София Ердоган призова за реформи в Съвета за сигурност на ООН Българите във Великобритания ще гласуват в 82 секции на президентските избори ЦИК запозна международни наблюдатели с организацията на президентските избори Над 400 000 души протестираха във Франция срещу недофинансирането на образованието и поскъпването на живота Украински дронове достигнаха промишлената зона на Омск Над 13 000 българи в Турция са заявили желание да гласуват на президентските избори Атанас Запрянов: Русия цели да ограничи корабоплаването към Украйна и от нея

Виж всички

Времето тази седмица

София Неделя 25.10.2026 9.6 °C

Варна Неделя 25.10.2026 11.7 °C

Бургас Неделя 25.10.2026 12.1 °C

Пловдив Неделя 25.10.2026 12 °C

Стара Загора Неделя 25.10.2026 9.4 °C

Русе Неделя 25.10.2026 9.3 °C

Благоевград Неделя 25.10.2026 9 °C

Дневен хороскоп