Бесплатно Экспресс-аудит сайта:

23.09.2022

В наборе данных для обучения ИИ найдены частные медицинские фотографии

В конце прошлой недели художница из Калифорнии под псевдонимом Lapine обнаружила в популярном фотоархиве LAION-5B, предназначенном для обучения искусственного интеллекта, свои медицинские фотографии. При этом девушка утверждает, что не давала согласия на публикацию.

Lapine нашла фотографии на сайте под названием Have I Been Trained, который позволяет художникам узнать, есть ли их работы в наборе данных LAION-5B. Вместо текстового поиска на сайте, девушка загрузила свою недавнюю фотографию, используя функцию обратного поиска изображений. В результате художница обнаружила, что в базе находятся её медицинские фотографии.

У Lapine генетическое заболевание под названием конгенитальный дискератоз, которое влияет на кожу, кости, зубы и вызывает ороговение слизистых оболочек. В 2013 году Lapine проходила комплекс процедур по восстановлению контуров лица после многочисленных операций на челюсти и полости рта. Хирург, проводивший процедуры, попросил тогда девушку позволить сделать фотографии до начала процедур и после.

В 2018 году хирург умер от рака. Девушка считает, что после смерти врача кто-то получил доступ к его фотографиям и опубликовал их, а позже они оказались в базе данных.

Lapine не захотела публично раскрывать свою личность, однако с помощью записей и фотографий, предоставленных девушкой, журналисты издания Ars Technica подтвердили, что в наборе данных LAION есть ее медицинские изображения. Кроме того, во время поиска они нашли ещё тысячи других медицинских фотографий в базе, публикация которых может нарушать этические и юридические нормы, а компании используют их для обучения ИИ и не подозревают об этом.