Магистр Федеральной политехнической школы Лозанны Богдан Кулинич выяснил, что алгоритм сети микроблогов «Твиттер» в редактуре изображений более благосклонно относится к фотографиям молодых, стройных и белых людей, чем к снимкам темнокожих и полных.
Богдан Кулинич занял первое место в организованном самой компанией Twitter конкурсе на выявление когнитивных искажений в алгоритме. Компания уже пообещала исправить недочет.
Весной собственное расследование компании показало, что алгоритм имеет тенденцию вырезать темнокожие лица. В результате она пересмотрела способ механической обработки изображений, заявив, что кадрирование лучше всего выполняется вручную людьми.
Ранее то, как изображения будут обрезаться на превью в микроблогах сети, отбирал алгоритм. Но когда на одном изображении оказывались два лица, пользователи обнаружили, что при предварительном просмотре кадрирование предпочитало белые лица, скрывая темнокожие.
Эта закономерность оказалась верна и для снимков бывшего президента США Барака Обамы, и американского сенатора-республиканца Митча Макконнелла, а также для фото бизнесменов, принадлежащих к разным этническим группам.
Собственный последующий анализ работы алгоритма показал предубеждение на 4% в пользу белых.
Конкурс наград за выявление неточностей сети был запущен в июле. Twitter — не единственный IT-гигант, практикующий подобные инициативы.
Вручая первый приз, представитель компании Twitter сообщил, что алгоритмические модели усиливают существующие в обществе предубеждения, касающиеся широко принятых представлений о красоте.
Второй приз получил проект «Искусственный интеллект Halt», созданный группой сотрудниц Университета Торонто. Они продемонстрировали, что алгоритм обрезания изображений в «Твиттере» еще сильнее маргинализирует пожилых и людей с инвалидностью.
Третий приз достался основательнице правозащитно-программистского проекта Taraaz Рое Пакзад. Она выявила, что алгоритм с большей вероятностью обрезал арабский текст на мемах, чем английский.
