Украинец выявил «расистскую» ошибку в Twitter. Компания заплатила ему $3 500

Автор:
Ангелина Шеремет
Дата:

Компания Twitter заплатила $3 500 украинцу, аспиранту швейцарского университета EFPL Богдану Кулиничу за найденный баг в работе соцсети. Он обнаружил, что алгоритм обрезки изображений Twitter отдает предпочтение молодым людям, стройным фигурам и светлой коже.

Об этом сообщает The Guardian и украинское издание AIN.ua

Этот вывод знаменует собой успешное завершение первой в истории «награды за алгоритмические ошибки» в Twitter. Кулинич продемонстрировал предвзятость в алгоритме, который во время превью фокусируется на наиболее «интересных» частях изображений.

Как Кулинич доказал предвзятость? Он сначала искусственно сгенерировал изображения людей с различными характеристиками, а затем пропустил их через алгоритм обрезки Twitter, чтобы увидеть, на чем фокусируется программа. Он также «размножил» изображения людей, однако у них был разный тон кожи, комплекция и возраст. И таким образом Кулинич показал, что алгоритм фокусируется на более молодых, стройных и светлокожих людях.

Пример «размножения» фото.

GitHub / bogdan-kulynych / saliency_bias

Twitter давно использует автоматическую обрезку изображений, чтобы они не занимали слишком много места в основной ленте, и чтобы в одном твите можно было показывать несколько изображений. Соцсеть раскритиковали в 2020 году из-за этого алгоритма обрезки изображений после того, как пользователи заметили, что он регулярно фокусируется на белых людях и обрезает изображение темнокожих людей — и даже на белых собаках, обрезая черных. Например, во время превью этого твита отображается только светлый пес, однако, если развернуть изображение, окажется, что там есть еще и черный. Или в этом твите во время превью показывается светлокожий сенатор Митчелл Макконнелл, но после развертывания фото окажется, что там еще есть темнокожий Барак Обама.

Тогда компания сначала извинилась: «Наша команда провела тест на предвзятость и не нашла доказательств расовой или гендерной предвзятости. Но из этих примеров ясно, что нам нужно провести более глубокий анализ». Однако в более глубоком исследовании собственные исследователи Twitter обнаружили лишь очень небольшую предвзятость в пользу белых и женских лиц.

Этот инцидент подтолкнул компанию запустить программы, в рамках которой исследователям заплатили бы $3 500 за найденный баг в алгоритме обрезки изображений.