Компанія Twitter заплатила $3 500 українцю, аспіранту швейцарського університету EFPL Богдану Кулиничу за виявлений баг у роботі соцмережі. Він виявив, що алгоритм обрізки зображень Twitter віддає перевагу молодим людям, струнким фігурам та світлішій шкірі.
Про це повідомляє The Guardian та українське видання AIN.ua
Цей висновок знаменує собою успішне завершення першої в історії «нагороди за алгоритмічні помилки» у Twitter. Кулинич продемонстрував упередженість в алгоритмі, який під час превʼю фокусується на найбільш «цікавих» частинах зображень.
Як Кулинич довів упередженість? Він спочатку штучно згенерував зображення людей з різними характеристиками, а потім пропустив їх через алгоритм обрізки Twitter, щоб побачити, на чому фокусується програма. Він також «розмножив» зображення людей, однак у них був різний тон шкіри, статура та вік. І таким чином Кулинич показав, що алгоритм фокусується на більш молодих, струнких і світлошкірих людях.
Приклад «розмноження» фото.
GitHub / bogdan-kulynych / saliency_bias
Twitter давно використовує автоматичну обрізку зображень, щоб вони не займали занадто багато місця в основний стрічці, і щоб в одному твіті можна було показувати кілька зображень. Соцмережу розкритикували у 2020 році через цей алгоритм обрізки зображень після того, як користувачі помітили, що він регулярно фокусується на білих людях та обрізає зображення темношкірих людей — і навіть на білих собаках, обрізаючи чорних. Наприклад, під час превʼю цього твіту відображується тільки світлий пес, однак, якщо розгорнути зображення, виявиться, що там є ще і чорний. Або в цьому твіті під час превʼю показується світлошкірий сенатор Мітчелл Макконнелл, але після розгортання фото виявиться, що там ще є темношкірий Барак Обама.
Тоді компанія спочатку вибачилася: «Наша команда провела тест на упередженість і не знайшла доказів расової або гендерної упередженості. Але з цих прикладів ясно, що нам потрібно провести більш глибокий аналіз». Однак у більш глибокому дослідженні власні дослідники Twitter виявили лише дуже невелику упередженість на користь білих і жіночих обличь.
Цей інцидент підштовхнув компанію запустити програми, у рамках якої дослідникам заплатили б $3 500 за виявлений баг в алгоритмі обрізки зображень.
- У травні Twitter почала тестувати платну підписку Blue, яка буде коштувати 2,99 долара на місяць. Також зʼявилася функція грошових пожертвувань.
- 20 травня Twitter відновила в своїй соцмережі верифікацію акаунтів. Її прибрали в листопаді 2017 року після підтвердження профілю ультраправого активіста і організатора маршу «Обʼєднаних правих» у Шарлоттсвіллі. Він закінчився загибеллю 3 людей.