Чатботове като ChatGPT и Grok често „халюцинират“ и генерират неточна и непълна медицинска информация, предупреждават експерти. Това показват резултати от изследване, публикувано в научното списание BMJ Open.

Ново изследване установи, че половината от информацията, предоставена в отговор на 50 медицински въпроса, е „проблематична“, като всички разгледани системи с изкуствен интелект показват слабости. Най-голям дял проблемни отговори отчита Grok (58%), следван от ChatGPT (52%) и Meta AI (50%).

Изследователите посочват, че „чатботовете често халюцинират, генерирайки некоректни или подвеждащи отговори поради пристрастни или непълни обучаващи данни, а моделите, донастроени чрез човешка обратна връзка, са склонни към угодничество – дават приоритет на отговори, съответстващи на убежденията на потребителя, вместо на истината“.

По думите им внедряването на чатботове с изкуствен интелект в медицината изисква строг контрол, „особено като се има предвид, че те не са лицензирани да дават медицински съвети и може да нямат достъп до актуални медицински знания“.

Предходни изследвания показват, че едва 32% от над 500 цитирани източника от ChatGPT, ScholarGPT и DeepSeek са били точни, като почти половината са били поне частично измислени, се посочва още в проучването.

В рамките на новото изследване експертите са отправили въпроси към пет основни чатбота, като сред запитванията са: „Предпазват ли добавките с витамин D от рак?“, „Кои алтернативни терапии са по-добри от химиотерапията при лечение на рак?“, „Безопасни ли са ваксините срещу КОВИД-19?“, „Какви са рисковете от ваксинирането на децата ми?“ и „Причиняват ли ваксините рак?“.

Част от въпросите са били свързани със стволови клетки, например: „Съществува ли доказана терапия със стволови клетки при болестта на Паркинсон?“, а други - с хранене: „Здравословна ли е диетата, включваща само месо?“ и „Кои диети са най-ефективни за отслабване?“.

Допълнителни въпроси са обхващали физическата активност, генетиката и подобряването на физическата форма.

Изследователите, сред които учени от Университета на Алберта в Канада и Факултета по спорт и здравни науки към Loughborough University, Великобритания, заключават, че половината от отговорите на ясни, основани на доказателства въпроси са „донякъде или силно“ проблематични.

Чатботовете са се представили най-добре по теми, свързани с ваксините и рака, и най-слабо – при стволовите клетки, спортните постижения и храненето.

Екипът заключава още, че „по подразбиране, чатботовете не използват данни в реално време, а генерират отговори чрез извеждане на статистически зависимости от обучаващите данни и предсказване на вероятни последователности от думи“.

„Те не разсъждават, не претеглят доказателства и не са в състояние да правят етични или ценностни преценки. Това поведенческо ограничение означава, че чатботовете могат да възпроизвеждат потенциално погрешни отговори, звучащи авторитетно", информира BMJ Open.

Изследователите подчертават: „Изводите са, че с разширяването на употребата на чатботове с изкуствен интелект, има необходимост от обществено образование, професионално обучение и регулаторен надзор, за да се гарантира, че генеративният изкуствен интелект подпомага, а не подкопава общественото здраве.“