Алгоритм Twitter для автоматической обрезки фотографий предпочитает стройняшек

В мае нынешнего года компания Twitter заявила о прекращении использования алгоритма для автоматической обрезки фотографий на базе искусственного интеллекта, который, как оказалось, отдавал предпочтение белым и женским лицам. Недавно компания даже запустила необычную программу выплаты вознаграждения исследователям, обнаружившим «алгоритмические предубеждения» на платформе. Программа работает по тому же принципу, что и bug bounty по поиску уязвимостей.

В рамках новой программы выяснилось, что тот же самый алгоритм, предназначенный для выявления наиболее важных элементов в изображениях при их обрезке, дискриминирует людей на фотографиях по возрасту и весу и предпочитает тексты на английском и других европейских языках.

Как обнаружил студент магистратуры Федеральной политехнической школы Лозанны (Швейцария) Богдан Кулинич, алгоритм Twitter для автоматической обрезки фотографий отдает предпочтение стройным молодым людям. В ходе исследования с помощью дипфейк-технологий исследователь автоматически генерировал различные лица и на них тестировал алгоритм для обрезки изображений.

Открытие Кулинича также подтвердил старший научный сотрудник компании BNH Патрик Холл (Patrick Hall).

«В общем, чем стройнее, моложе и женственнее фотография, тем больше у нее шансов быть одобренной», - завил Холл.

По словам исследовательницы безопасности из OpenAI Ариэль Герберт-Восс, обнаруженные в алгоритме предубеждения отображают предубеждения людей, предоставляющих данные для обучения модели искусственного интеллекта. Сообщения участников новой программы Twitter показывают, как тщательный анализ алгоритма может помочь командам устранить проблемы с их моделями ИИ.

В сентябре 2020 года студент из Канады обратил внимание на то, как алгоритм Twitter обрезает фотографии. По идее, алгоритм должен оставлять на фото лица людей, тексты и животных. Однако, как оказалось, на фотографиях, где были изображены несколько человек, он отдавал предпочтение европеоидным и женским лицам, отрезая остальных. Вскоре обнаружилось, что алгоритм демонстрирует предубеждения по гендерному и расовому признакам.