Скрытая угроза в ИИ-художнике DALL-E 3: Инженер Microsoft выявил серьезную уязвимость

Создано 2 Февраль, 2024 • Про Искусственный интеллект • 231 просмотров

В мире технологий безопасность является первостепенным вопросом, особенно когда речь идет о таких инновационных продуктах, как искусственный интеллект.

Недавно инженер Microsoft обнаружил серьезную уязвимость в ИИ-художнике DALL-E 3, что вызвало бурную реакцию в социальных сетях и привлекло внимание к вопросам приватности и цифровой этики.

Ситуация обострилась после того, как в интернете начали появляться фотореалистичные изображения популярной певицы Тейлор Свифт интимного характера, созданные с помощью DALL-E 3. Инженер, обнаруживший уязвимость, решил не оставлять проблему без внимания и выступил с публичным призывом отозвать DALL-E 3 с рынка, опубликовав свой пост в LinkedIn.

Однако реакция Microsoft на разглашение информации оказалась неоднозначной. С сотрудником быстро связался его начальник, который передал требование юридического отдела компании немедленно удалить публикацию. При этом обоснование таких действий должно было быть предоставлено позже. Такой ответ вызывает вопросы относительно прозрачности и ответственности разработчиков ИИ.

OpenAI, компания, разработавшая DALL-E 3, заявила, что она "изучила обращение инженера сразу после того, как оно поступило". В официальном комментарии утверждается, что описанный инженером метод якобы не позволяет обходить встроенные средства безопасности. Несмотря на это, общественность остается в недоумении, насколько можно доверять таким заявлениям и какова реальная степень защищенности продуктов на базе ИИ.

Этот случай поднимает важные вопросы о том, как компании должны реагировать на обнаружение уязвимостей в их продуктах и какие меры они готовы предпринять для защиты конечных пользователей.