ИИ-редактор изображений Cutout.pro допустил утечку пользовательских данных

Инструменты на основе искусственного интеллекта, такие как ChatGPT или DALL-E от OpenAI , привлекли внимание множества пользователей Интернета. Однако мало кто задумывается о последствиях для безопасности загрузки текста или изображений в такие инструменты.

Исследовательская группа Cybernews обнаружила, что Cutout.pro, платформа визуального дизайна на основе искусственного интеллекта, долгое время пропускала пользовательский контент через открытый сервер ElasticSearch, на котором не было настроено шифрование или система аутентификации. Доступ к пользовательским данным мог получить любой желающий.

Как сообщается, Cutout.pro допустила утечку 22 миллионов записей имён пользователей, а также внушительной части библиотеки изображений, созданных с помощью инструментов компании. Общий объём скомпрометированных данных составил около 9 гигабайт. Кроме того, в утечке также содержалась информация о количестве виртуальной внутрисервисной валюты пользователей, а также ссылки на корзины Amazon S3, где хранились сгенерированные изображения.

«Создание изображений ИИ всё ещё находится в зачаточном состоянии, и случай Cutout.pro демонстрирует, как погоня за трендами в сочетании с поспешной реализацией продукта может привести к серьезным проблемам безопасности», — говорят исследователи.

Раскрытие данных пользователей угрожает их конфиденциальности. Злоумышленники вполне были способны получить доступ к медиафайлам, загруженным в качестве референса для ИИ-обработки. В их числе могут быть личные фотографии пользователей, предназначенные для частного использования.

Как сообщают исследователи CyberNews, если бы разработчики сервиса не сделали резервную копию данных, злоумышленники могли бы при желании удалить все ранее сгенерированные в сервисе изображения, без возможности восстановления.

Бизнес-клиентам Cutout.pro рекомендуется тщательно проверить устройства, которые были связаны с API -интерфейсами Cutout.pro. А обычным пользователям — изменить свои учётные данные в сервисе.