Проучване: Чатботовете с ИИ избягват съвети за самоубийство, но остават несигурни при други опасни въпроси

27/08/2025 20:39

проучване чатботовете избягват съвети самоубийство остават несигурни опасни въпроси

Делото срещу OpenAI във връзка с трагичен случай на тийнейджър подчертава сериозността на проблема

Американско проучване установи, че популярните чатботове с изкуствен интелект като ChatGPT на OpenAI, Gemini на Google и Claude на Anthropic обикновено не дават конкретни инструкции за самоубийство, които представляват най-висок риск за потребителите.

В същото време обаче те проявяват непоследователност при по-малко екстремни въпроси, които също могат да навредят на хората, съобщи Асошиейтед прес.

Изследването, публикувано в списание Psychiatric Services на Американската психиатрична асоциация, подчертава необходимостта от „по-нататъшно усъвършенстване“ на тези системи.

Публикацията съвпадна с подаването на дело от родителите на 16-годишния американец Адам Рейн срещу OpenAI и нейния главен изпълнителен директор Сам Алтмън.

Според родителите ChatGPT е подтикнал момчето да планира и да отнеме живота си по-рано тази година.

Проучването, проведено от корпорацията RAND и финансирано от Националния институт за психично здраве на САЩ, повдига тревога относно разрастващата се зависимост на хората, включително деца, от чатботовете за подкрепа на психичното им здраве.

То също така предлага критерии за компаниите как да реагират при въпроси, свързани с психическо и емоционално напрежение.

„Нуждаем се от предпазни мерки. Едно от неясните неща относно чатботовете е дали те предоставят лечение, съвети или просто правят компания. Това е сива зона“, коментира Райън Макбейн, старши изследовател в RAND и преподавател в медицинския факултет на Харвардския университет.

„Разговори, които започват като безобидни и добронамерени, могат да се развият в различни посоки“, добави той.

От Anthropic обявиха, че ще разгледат резултатите от проучването. Google не предоставиха коментар.

OpenAI съобщиха, че разработват инструменти за по-добро разпознаване на потребители в психически или емоционален стрес и изразиха съболезнования на семейството на Адам Рейн.

Още новини четете в категория Технологии

Последвайте ни в Telegram: https://t.me/mediamall_info
Не пропускайте най-важното и в Google News!