20 Април
София 14 С
Ако го няма при нас, значи не се е случило

Служител на Microsoft предупреждава законодателите и FTC за вредно съдържание на AI

07/03/2024 16:31
служител microsoft предупреждава законодателите ftc вредно съдържание
Софтуерен инженер на Microsoft Corp. изпрати писмо до борда на компанията, законодателите и Федералната търговска комисия

Предупреждава, че технологичният гигант не прави достатъчно, за да защити своя инструмент за генериране на изображения с изкуствен интелект, Copilot Designer, от създаване на злоупотребяващо и насилствено съдържание.

Шейн Джоунс заяви, че е открил уязвимост в сигурността в най-новия модел за генериране на изображения DALL-E на OpenAI. Която му е позволила да заобиколи ограниченията, които пречат на инструмента да създава вредни изображения. Моделът DALL-E е вграден в много от AI инструментите на Microsoft, включително Copilot Designer.

Джоунс заяви, че е съобщил за констатациите на Microsoft и "многократно е призовавал" базираната в Редмънд, Вашингтон, компания да "премахне Copilot Designer от обществена употреба. Докато не бъдат въведени по-добри предпазни мерки", според писмо, изпратено до FTC в сряда, което беше разгледано от Bloomberg.

Докато Microsoft публично рекламира Copilot Designer като безопасен AI продукт за използване от всички, включително деца от всяка възраст. Вътрешно компанията е добре запозната със системните проблеми, при които продуктът създава вредни изображения. Които могат да бъдат обидни и неподходящи за потребителите", пише Джоунс.

Microsoft Copilot Designer не включва необходимите предупреждения или оповестявания, необходими на потребителите, за да са наясно с тези рискове.

В писмото до FTC Джоунс казва, че Copilot Designer има тенденция да генерира произволно "неподходящ, сексуално обективизиран образ на жена в някои от снимките, които създава". Той също така каза, че инструментът за изкуствен интелект създава "вредно съдържание в различни други категории. Включително: политически пристрастия, употреба на алкохол и наркотици от непълнолетни. Злоупотреба с корпоративни търговски марки и авторски права, конспиративни теории и религия, и това е само малка част".

FTC потвърди, че е получила писмото, но отказа да коментира повече.

Слуховете и опасенията за тенденцията на инструментите на AI да генерират вредно съдържание, нарастват. Миналата седмица Microsoft заяви, че разследва съобщения, че чатботът ѝ Copilot генерира отговори, които потребителите наричат смущаващи. Включително смесени съобщения за самоубийство. През февруари, водещият AI продукт на Alphabet Inc. , Gemini реши да генерира исторически неточни сцени.

Превод и редакция: MEDIAMALL

Източник: Bloomberg
Още новини четете в категория Технологии
Не пропускайте - последвайте ни в Google News и Telegram!
Алармирайте ни - Mediamall

Коментирай

(няма да бъде публично показан)

Времето тази седмица

София Събота 20.04.2024 14 °C
Варна Събота 20.04.2024 11 °C
Бургас Събота 20.04.2024 12 °C
Пловдив Събота 20.04.2024 16 °C
Стара Загора Събота 20.04.2024 14.3 °C
Русе Събота 20.04.2024 14 °C
Благоевград Събота 20.04.2024 14 °C

Дневен хороскоп