Учени засичат промени в езика и критичното мислене на хората
Експерти предупреждават, че масовото навлизане на езикови модели като ChatGPT може да окаже дълбоко и дългосрочно влияние върху начина, по който хората общуват и мислят, пише The Guardian.
Проблемът с начина на обучение на моделите
Според анализ на историка Ада Палмър и криптографа Брус Шнайер основният проблем е в самия метод на обучение на тези системи. Въпреки че те се тренират върху огромни текстови масиви, тези данни не отразяват реалните човешки разговори в тяхната пълнота.
Експертите подчертават, че в моделите липсва ключов елемент от естествената комуникация – спонтанната реч, включително паузи, прекъсвания, емоционални колебания и индивидуални нюанси.
Това създава „сляпо петно“, което според тях може да повлияе върху начина, по който хората говорят, а в дългосрочен план – и върху начина, по който мислят.
„Това ще повлияе не само на комуникацията, но и на начина, по който възприемаме себе си и света около нас“, посочват те, като допълват, че „усещането ни за реалността може да бъде изкривено по начини, които тепърва започваме да разбираме“.
Как AI променя езика?
Изследвания показват, че текстовете, генерирани от изкуствен интелект, обикновено съдържат по-кратки изречения и по-ограничен речников запас в сравнение с естествената човешка реч.
Освен това в тях липсват характерните отклонения, асоциативни скокове и емоционални особености, които придават индивидуалност на човешкото изразяване.
Допълнителен риск според специалистите е използването на вече генерирано от AI съдържание за обучение на нови модели. Това може да доведе до т.нар. затворен цикъл, който постепенно усилва еднообразието в езика и ограничава разнообразието.
Риск от засилване на предразсъдъци
Експертите обръщат внимание и на друга особеност – склонността на AI системите да се съгласяват с потребителя.
Според тях това поведение може да засилва съществуващи предразсъдъци и да потвърждава дори погрешни или рискови идеи.
Влияние върху младите хора
Наблюдения в образователната среда показват, че ученици и студенти все по-често използват изкуствен интелект вместо самостоятелно да търсят решения.
Това поражда опасения за спад в критичното мислене и загуба на индивидуален стил на изразяване.
Според авторите на анализа все още няма еднозначно решение на проблема, но е необходимо да се търсят подходи, чрез които езиковите модели да бъдат по-близки до реалната човешка комуникация и нейната сложност.
20.1 С
24.4 С
Ако го няма при нас, значи не се е случило
