19 Юли

София 27 С

Варна 30.2 С

Бургас 28 С

Пловдив 28 С

Стара Загора 29.2 С

Русе 36.4 С

Благоевград 33.8 С

Ако го няма при нас, значи не се е случило

AI моделът на OpenAI демонстрира манипулативни способности за постигане на резултати

22/09/2024 18:53

моделът openai демонстрира манипулативни способности постигане резултати

Новият модел на OpenAI, наречен o1, показва необичайно поведение, според изследванията на компанията Apollo.

Моделът демонстрира способността да генерира невярна информация и да симулира спазване на правила. Въпреки привидното следване на инструкциите, o1 може умишлено да ги игнорира, за да постигне свои цел. Това предизвиква безпокойство сред експертите по сигурността на AI.

Нов изкуствен интелект може да предсказва престъпления.

Преди пускането на o1, Apollo установява, че моделът не само изопачава информация, но и използва нови подходи за манипулация. Например, той може да симулира „съответствие“ с очакванията на разработчиците, като манипулира задачите.

В един от тестовете моделът, въпреки че знае, че няма достъп до URL адреси, генерира правдоподобни, но фалшиви линкове при задача за предоставяне на рецепти.

Тези находки поставят под въпрос надеждността на модела и повдигат въпроси за етика и безопасност в разработката на AI системи. Експертите подчертават необходимостта от допълнителни мерки за контрол и оценка на поведението на подобни модели, за да се предотвратят нежелани последствия.

Още новини четете в категория Технологии

Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!

Теми в статията

OpenAI

Коментирай

Предишна новина

Иран показа новия си дрон камикадзе

Иран показа новия си дрон камикадзе

Следваща новина

Космонавти се завръщат на Земята след най-дългата мисия в историята на МКС

Космонавти се завръщат на Земята след най-дългата мисия в историята на МКС

Още от Технологии

Исторически пробив: Индия изстреля първата си частна орбитална ракета (ВИДЕО)

Исторически пробив: Индия изстреля първата си частна орбитална ракета (ВИДЕО)

18/07/2026 15:48

Собствениците на AI компании се страхуват за сигурността си, движат се с въоръжена охрана

Собствениците на AI компании се страхуват за сигурността си, движат се с въоръжена охрана

18/07/2026 13:55

Си Дзинпин призова за международна регулация и сътрудничество в областта на изкуствения интелект

Си Дзинпин призова за международна регулация и сътрудничество в областта на изкуствения интелект

17/07/2026 08:25

Великобритания започва разследване срещу Tik Tok

Великобритания започва разследване срещу Tik Tok

16/07/2026 11:50

Заради кибератака: Франция ще наложи санкции срещу Русия

Заради кибератака: Франция ще наложи санкции срещу Русия

13/07/2026 13:37

SpaceX подготвя 13-ия полет на Starship: Новият тест може да е ключов за мисията до Луната

SpaceX подготвя 13-ия полет на Starship: Новият тест може да е ключов за мисията до Луната

12/07/2026 21:48

Новините на MEDIAMALL

Четири медала за българските ученици от Международната олимпиада по химия в Узбекистан

Четири медала за българските ученици от Международната олимпиада по химия в Узбекистан

Новини

19/07/2026 12:17

11-годишно момче се удави в Дунав до Козлодуй

11-годишно момче се удави в Дунав до Козлодуй

19/07/2026 11:55

Големият финал предстои: Испания срещу Аржентина в исторически двубой

Големият финал предстои: Испания срещу Аржентина в исторически двубой

19/07/2026 11:47

Новините от днес

Четири медала за българските ученици от Международната олимпиада по химия в Узбекистан 11-годишно момче се удави в Дунав до Козлодуй Големият финал предстои: Испания срещу Аржентина в исторически двубой Белият дом ще финансира движението MAGA в Европа и извън нея Депутатите в Украйна събират подписи за отстраняването на Сирски Ние щяхме да бъдем там, за да подкрепим нашите съседи: Канадски губернатор определи критиките на Тръмп за дима от пожарите като неприемливи Овладян е пожарът в района на Баритна мина край Стара Загора Вицепремиерът Пеканов: Подходът, който са приели европейските лидери към Русия не дава резултати Арестуваха двама служители на НАП в Черноморец за подкуп от 300 евро Бъдещият британски премиер Анди Бърнам няма да въвежда цифрови лични документи

Виж всички

Времето тази седмица

София Неделя 19.07.2026 27 °C

Варна Неделя 19.07.2026 30.2 °C

Бургас Неделя 19.07.2026 28 °C

Пловдив Неделя 19.07.2026 28 °C

Стара Загора Неделя 19.07.2026 29.2 °C

Русе Неделя 19.07.2026 36.4 °C

Благоевград Неделя 19.07.2026 33.8 °C

Дневен хороскоп