Фалитът на Character.ai повдига сериозни въпроси за сигурността на личните разговори с изкуствен интелект. Случаят показва, че компаниите, на които милиони хора поверяват личните си преживявания и тайни, не са защитени от финансови проблеми и прекратяване на дейността.

Десетки милиони потребители са изградили отношения с чатботовете на платформата, сред тях и деца. Някои виртуални персонажи се представят като адвокати или лицензирани психиатри, което насърчава хората да споделят чувствителна информация.

Сега компанията е в процедура по несъстоятелност, а възможността потребителските данни да бъдат продадени предизвиква тревога сред експерти по защита на личната неприкосновеност. Те предупреждават, че рискът не засяга само хората, използвали Character.ai, а може да има много по-широки последици, съобщава BBC.

Има обаче няколко стъпки, с които потребителите могат да ограничат излагането на личната си информация на подобни рискове.

Фалитите на AI компании могат да изложат личните данни на риск

Много анализатори смятат, че около изкуствения интелект се оформя балон. Разработването и поддържането на тези технологии изисква огромни средства, а част от компаниите може никога да не достигнат рентабилност.

Ако пазарът се свие, редица AI компании може да бъдат погълнати от конкуренти или да прекратят дейността си. В подобни ситуации данните, които милиарди хора предоставят на дигиталните инструменти, могат да се превърнат в актив, достъпен за потенциални купувачи. Потребителите невинаги ще разберат какво се случва с информацията им.

Продажбата на данни при несъстоятелност не е ново явление, но изкуственият интелект може да увеличи мащаба на проблема.

„Когато хората разговарят с бот, на който са придадени човешки черти, те често споделят много повече лична и чувствителна информация“, казва Кали Шрьодер, директор на програмата „Изкуствен интелект и човешки права“ в Информационния център за защита на електронната поверителност.

Според нея дори хора, които никога не са използвали Character.ai, могат да бъдат засегнати. Причината е, че потребителите често разказват на чатботовете за свои близки и приятели.

Например някой може да сподели как се чувства спрямо майка си или да попита как да реагира, след като негов приятел му е признал, че е гей. Така лична информация за трети лица също може да попадне в масивите с данни на платформата, без тези хора изобщо да са я използвали.

Кой може да получи достъп до разговорите с Character.ai?

В рамките на процедурата по несъстоятелност Character.ai се е съгласила да продаде част от активите си на Disney за 20 млн. долара. Потребителските данни обаче не са включени в тази сделка, така че те няма да бъдат част от придобиването от страна на развлекателната компания.

Съдебните документи посочват, че Character.ai може да продаде данните си на други купувачи. Възможността това да се случи предизвика недоволство, включително сред американските власти.

Главните прокурори на 40 американски щата са внесли становище в съда с искане съдията да наложи мерки за защита на децата и личната неприкосновеност. Това е важна стъпка, но не е сигурно дали исканията им ще получат достатъчна правна подкрепа.

Законите за защита на личните данни задължават компаниите да обясняват каква информация събират и за какви цели я използват. В политиките за поверителност обаче често има изключения, които ограничават действието на тези обещания.

Фалитът обикновено е сред посочените изключения. Според Шрьодер това създава сериозен риск, защото при несъстоятелност част от защитите, на които потребителите разчитат, може да престанат да действат по същия начин.

Данните могат да се използват за обучение на AI и насочена реклама

В Европейския съюз правилата за защита на личните данни са по-строги, но и там информация може да бъде продавана при фалит на компания.

По принцип новият собственик трябва да спазва условията на първоначалната политика за поверителност. Това обаче не означава непременно, че възможностите за използване на данните са ограничени. Според Шрьодер случаят с Character.ai показва колко широко може да бъде формулирана подобна политика.

Документът за поверителност на компанията предвижда потребителската информация да се използва за създаване на нови функции, обучение на модели с изкуствен интелект, разработване на алгоритми и изграждане на профили за насочена реклама.

Това означава, че всеки купувач на данните може да получи възможност да ги използва за тези цели в рамките на посочените условия.

„Това са точно нещата, които биха ме тревожили най-много. Като се има предвид изключително чувствителният характер на данните, които тези компании събират, последствията могат да бъдат наистина ужасяващи“, предупреждава Шрьодер.

От Character.ai заявяват, че компанията е постигнала споразумения по някои съдебни дела и се е ангажирала да работи със семействата за създаването на по-безопасни продукти. Говорителят на компанията обаче не отговаря на конкретните въпроси за защитата на личните данни на децата.