Алгоритм «Твиттера» предпочитает фото молодых, стройных и белых

Магистр Федеральной политехнической школы Лозанны Богдан Кулинич выяснил, что алгоритм сети микроблогов «Твиттер» в редактуре изображений более благосклонно относится к фотографиям молодых, стройных и белых людей, чем к снимкам темнокожих и полных.

алгоритм твиттера

Богдан Кулинич занял первое место в организованном самой компанией Twitter конкурсе на выявление когнитивных искажений в алгоритме. Компания уже пообещала исправить недочет.

Весной собственное расследование компании показало, что алгоритм имеет тенденцию вырезать темнокожие лица. В результате она пересмотрела способ механической обработки изображений, заявив, что кадрирование лучше всего выполняется вручную людьми.

Ранее то, как изображения будут обрезаться на превью в микроблогах сети, отбирал алгоритм. Но когда на одном изображении оказывались два лица, пользователи обнаружили, что при предварительном просмотре кадрирование предпочитало белые лица, скрывая темнокожие.

Эта закономерность оказалась верна и для снимков бывшего президента США Барака Обамы, и американского сенатора-республиканца Митча Макконнелла, а также для фото бизнесменов, принадлежащих к разным этническим группам.

Собственный последующий анализ работы алгоритма показал предубеждение на 4% в пользу белых.

Конкурс наград за выявление неточностей сети был запущен в июле. Twitter — не единственный IT-гигант, практикующий подобные инициативы.

Вручая первый приз, представитель компании Twitter сообщил, что алгоритмические модели усиливают существующие в обществе предубеждения, касающиеся широко принятых представлений о красоте.

Второй приз получил проект «Искусственный интеллект Halt», созданный группой сотрудниц Университета Торонто. Они продемонстрировали, что алгоритм обрезания изображений в «Твиттере» еще сильнее маргинализирует пожилых и людей с инвалидностью.

Третий приз достался основательнице правозащитно-программистского проекта Taraaz Рое Пакзад. Она выявила, что алгоритм с большей вероятностью обрезал арабский текст на мемах, чем английский.

Оцените статью
Успех в Жизни