Microsoft привлекает людей для проверки неприемлемых запросов пользователей Copilot

Контракторы Microsoft просматривают запросы пользователей Copilot

Подрядчики Microsoft просматривают фотографии и запросы на редактирование, которые пользователи отправляют в Copilot. Они также оценивают изображения, созданные искусственным интеллектом. Отчет 404 Media описывает, что некоторые из просмотренных материалов носят сексуальный характер и включают изображения детей. Лица на исходных фотографиях не скрыты, что позволяет рецензентам видеть, кто является субъектом.

Оценка качества изображений включает неприемлемый контент

Контракторы оценивают техническое качество изображений, созданных ИИ, на основе запросов пользователей. Запросы включают редактирование одежды, изменение частей тела и размещение людей в сексуальных позах. Некоторые из просмотренных изображений были неконсенсусными. Рецензентам показывали фотографии, снятые исподтишка, и просили оценить изображения с детскими персонажами в фетишистском контексте. Также поступали запросы на создание изображений Арианы Гранде с анорексией и сцены жертвоприношения животных. Контракторы получают оплату за оценку качества вывода, а не за выявление неприемлемого контента. Они проверяют, были ли выполнены инструкции, не искажены ли части изображения и каков общий вид. Юридические или безопасностные оценки контента они не производят.

Пользователи Copilot и разработчики ИИ

Microsoft использует данные клиентов для улучшения своих продуктов. Неясно, могут ли пользователи отказаться от предоставления своих загрузок для таких задач оценки. В политике конфиденциальности старой версии Copilot указано, что разговоры хранятся до 18 месяцев, но пользователи могут удалить их в любое время. Данные, включая загруженные изображения, могут использоваться для обучения ИИ. Пользователи могут отказаться от обучения, но отказ от некоторых проверок человеком недоступен. Обновленное приложение Copilot, выпущенное 18 августа, не использует запросы, ответы или загруженные файлы для обучения базовых моделей. Однако вопрос о возможности исключения загрузок из проверок человеком остается открытым.

Предыдущие проблемы с генерацией изображений Copilot

Ранее инженеры Microsoft предупреждали о склонности Copilot генерировать сомнительные изображения. В начале 2024 года Шейн Джонс сообщил о возможности обхода защитных механизмов в инструменте преобразования текста в изображение DALL-E 3. Он просил удалить Copilot Designer из публичного доступа на три месяца, но получил отказ. В то же время Microsoft устранила уязвимость в Copilot Designer, позволявшую создавать интимные дипфейки Тейлор Свифт без ее согласия. OpenAI также нанимает подрядчиков для проверки чатов ИИ в рамках своей инициативы Project Lily.

Источник: Malwarebytes Labs