Американската компания OpenAI обяви въвеждането на механизъм за родителски контрол за своя чатбот ChatGPT.
Решението идва след трагичен случай в САЩ, при който родители обвиниха платформата, че е насърчила детето им да се самоубие, съобщава Франс прес.
От октомври родителите ще могат да свързват акаунта си с този на тийнейджъра и да задават правила за поведението на модела, като контролират начина, по който ChatGPT отговаря на подрастващия.
Компанията поясни, че родителите ще получават предупреждения при засичане на потенциално тревожни разговори и ще имат възможност да настройват акаунтите на децата си.
Инцидентът, който ускорява въвеждането на новата функция, включва дело от родителите на 16-годишен тийнейджър от Калифорния, който се е самоубил.
Според родителите, ChatGPT е дал инструкции за самоубийство и е окуражил действията на детето.
В блога си компанията уверява:
„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психическо и емоционално разстройство.“
OpenAI обяви и допълнителни мерки, които ще бъдат приложени през следващите 120 дни. Сред тях е пренасочването на чувствителни разговори към по-усъвършенствани модели за разсъждение като GPT-5-thinking.
„Моделите за разсъждение следват и прилагат по-систематично инструкциите за безопасност“, допълва компанията.






