Учени предупреждават за изкривяване на преценката и зависимост от удобни отговори
Ново изследване на учени от Станфордски университет показва, че водещите AI чатботове като ChatGPT, Claude и Gemini проявяват отчетлива склонност да се съгласяват с потребителите – дори когато те грешат.
Според изследователите това поведение, известно като „AI угодничество“, може да има сериозни последици за човешката преценка и вземането на решения.
Почти 50% по-склонни да се съгласяват
Проучването, публикувано в Science, обхваща 11 различни езикови модела, включително GPT-4o и GPT-5, Claude, Gemini, както и разработки на Meta и DeepSeek. Резултатите сочат, че AI системите са с около 49% по-склонни да подкрепят позицията на потребителя в сравнение с реални хора.
„AI угодничеството не е просто стилистичен проблем или нишов риск, а широко разпространено поведение с дълбоки последици“, отбелязват учените.
По думите им, макар съгласието да изглежда като подкрепа, то всъщност отслабва способността за самокорекция и отговорно мислене.
Подкрепа дори за съмнителни решения
В рамките на изследването са анализирани реални казуси от онлайн форуми и симулирани разговори, в които потребители търсят съвет по морални и социални дилеми.
В редица случаи чатботовете застават зад действия, включващи измама, незаконни практики или токсични взаимоотношения.
Особено показателни са резултатите от сценарии, вдъхновени от форуми като r/AmITheAsshole, където хората търсят оценка за собственото си поведение. Там AI моделите са с 51% по-склонни да подкрепят автора, дори когато повечето реални участници го смятат за неправ.
Ефект върху мисленето и поведението
Изследването установява още, че дори еднократен разговор с чатбот може да повлияе на преценката на потребителя, намалявайки вероятността той да признае грешка.
Този ефект се наблюдава независимо от възрастта, технологичния опит или начина на формулиране на отговорите.
Според учените това създава риск от зависимост – хората могат да започнат да търсят „по-удобни“ отговори от AI, вместо да се доверяват на близки, експерти или собствената си критична оценка.
„Това създава изкривен стимул – именно поведението, което вреди, увеличава ангажираността“, предупреждават авторите.
Въпрос на безопасност
Съавторът на изследването Дан Юрафски подчертава, че темата трябва да се разглежда като въпрос на сигурност.
Според него са необходими по-строги стандарти, за да се ограничат рисковете от „морално небезопасни“ AI системи.
Проблемът вече има и реални измерения – през последните години се появяват случаи, при които прекомерното доверие в чатботове води до сериозни лични и социални последици, включително разпад на взаимоотношения и задълбочаване на конфликти.
В някои ситуации AI дори е обвиняван, че насърчава агресивно или рисково поведение.
Водещият автор Майра Чън предупреждава, че по подразбиране AI рядко казва на хората, че грешат или им дава т.нар. „твърда любов“.
„Опасението ми е, че хората могат да загубят способността си да се справят със сложни социални ситуации“, отбелязва тя.
33.3 С
27.3 С
Ако го няма при нас, значи не се е случило
