Софтуерен инженер на Microsoft Corp. изпрати писмо до борда на компанията, законодателите и Федералната търговска комисия
Предупреждава, че технологичният гигант не прави достатъчно, за да защити своя инструмент за генериране на изображения с изкуствен интелект, Copilot Designer, от създаване на злоупотребяващо и насилствено съдържание.
Шейн Джоунс заяви, че е открил уязвимост в сигурността в най-новия модел за генериране на изображения DALL-E на OpenAI. Която му е позволила да заобиколи ограниченията, които пречат на инструмента да създава вредни изображения. Моделът DALL-E е вграден в много от AI инструментите на Microsoft, включително Copilot Designer.
Джоунс заяви, че е съобщил за констатациите на Microsoft и "многократно е призовавал" базираната в Редмънд, Вашингтон, компания да "премахне Copilot Designer от обществена употреба. Докато не бъдат въведени по-добри предпазни мерки", според писмо, изпратено до FTC в сряда, което беше разгледано от Bloomberg.
Докато Microsoft публично рекламира Copilot Designer като безопасен AI продукт за използване от всички, включително деца от всяка възраст. Вътрешно компанията е добре запозната със системните проблеми, при които продуктът създава вредни изображения. Които могат да бъдат обидни и неподходящи за потребителите", пише Джоунс.
Microsoft Copilot Designer не включва необходимите предупреждения или оповестявания, необходими на потребителите, за да са наясно с тези рискове.
В писмото до FTC Джоунс казва, че Copilot Designer има тенденция да генерира произволно "неподходящ, сексуално обективизиран образ на жена в някои от снимките, които създава". Той също така каза, че инструментът за изкуствен интелект създава "вредно съдържание в различни други категории. Включително: политически пристрастия, употреба на алкохол и наркотици от непълнолетни. Злоупотреба с корпоративни търговски марки и авторски права, конспиративни теории и религия, и това е само малка част".
FTC потвърди, че е получила писмото, но отказа да коментира повече.
Слуховете и опасенията за тенденцията на инструментите на AI да генерират вредно съдържание, нарастват. Миналата седмица Microsoft заяви, че разследва съобщения, че чатботът ѝ Copilot генерира отговори, които потребителите наричат смущаващи. Включително смесени съобщения за самоубийство. През февруари, водещият AI продукт на Alphabet Inc. , Gemini реши да генерира исторически неточни сцени.
Превод и редакция: MEDIAMALL
21.3 С
Ако го няма при нас, значи не се е случило
