Успех в Жизни
Назад

Алгоритм "Твиттера" предпочитает фото молодых, стройных и белых

Опубликовано: 02.09.2022
0
32

Магистр Федеральной политехнической школы Лозанны Богдан Кулинич выяснил, что алгоритм сети микроблогов "Твиттер" в редактуре изображений более благосклонно относится к фотографиям молодых, стройных и белых людей, чем к снимкам темнокожих и полных.

алгоритм твиттера

Богдан Кулинич занял первое место в организованном самой компанией Twitter конкурсе на выявление когнитивных искажений в алгоритме. Компания уже пообещала исправить недочет.

Весной собственное расследование компании показало, что алгоритм имеет тенденцию вырезать темнокожие лица. В результате она пересмотрела способ механической обработки изображений, заявив, что кадрирование лучше всего выполняется вручную людьми.

Ранее то, как изображения будут обрезаться на превью в микроблогах сети, отбирал алгоритм. Но когда на одном изображении оказывались два лица, пользователи обнаружили, что при предварительном просмотре кадрирование предпочитало белые лица, скрывая темнокожие.

Эта закономерность оказалась верна и для снимков бывшего президента США Барака Обамы, и американского сенатора-республиканца Митча Макконнелла, а также для фото бизнесменов, принадлежащих к разным этническим группам.

Собственный последующий анализ работы алгоритма показал предубеждение на 4% в пользу белых.

Конкурс наград за выявление неточностей сети был запущен в июле. Twitter - не единственный IT-гигант, практикующий подобные инициативы.

Вручая первый приз, представитель компании Twitter сообщил, что алгоритмические модели усиливают существующие в обществе предубеждения, касающиеся широко принятых представлений о красоте.

Второй приз получил проект "Искусственный интеллект Halt", созданный группой сотрудниц Университета Торонто. Они продемонстрировали, что алгоритм обрезания изображений в "Твиттере" еще сильнее маргинализирует пожилых и людей с инвалидностью.

Третий приз достался основательнице правозащитно-программистского проекта Taraaz Рое Пакзад. Она выявила, что алгоритм с большей вероятностью обрезал арабский текст на мемах, чем английский.

Поделиться
Похожие записи
Комментарии:
Комментариев еще нет. Будь первым!
Имя
Укажите своё имя и фамилию
E-mail
Без СПАМа, обещаем
Текст сообщения
Отправляя данную форму, вы соглашаетесь с политикой конфиденциальности и правилами нашего сайта.