Однажды в ноябре одна из участниц эксперимента, назовём её Мишель, решила сменить в своём профиле LinkedIn пол на мужской и имя на Майкл. Эксперимент назывался #WearthePants и был направлен на проверку гипотезы о том, что новый алгоритм LinkedIn может быть предвзят по отношению к женщинам.
В последние месяцы многие активные пользователи LinkedIn заметили снижение вовлечённости и охватов своих публикаций. Это совпало с внедрением платформой новых моделей машинного обучения, которые должны помогать показывать более полезный контент.
Мишель, имеющая более 10 000 подписчиков и регулярно пишущая посты для своего мужа с примерно 2 000 подписчиков, отметила, что у них обоих приблизительно одинаковое количество просмотров постов, несмотря на существенную разницу в аудитории. Единственным значимым различием был пол.
Другие участницы эксперимента, такие как Марилynn Джойнер, тоже сменили пол в профиле и заметили резкий рост показателей — её охваты выросли на 238% всего за день.
В то же время LinkedIn заявляет, что их алгоритмы не используют демографические данные, включая пол, для определения видимости контента. Однако эксперты по социальным алгоритмам считают, что явного сексизма нет, но возможно присутствие скрытых предубеждений.
Алгоритм учитывает множество факторов, включая поведение пользователя и стиль взаимодействия с контентом. Например, изменение имени и фотографии — лишь одна из множества переменных, которые могут влиять на приоритетность публикаций.
Эксперимент #WearthePants начался с инициативы двух предпринимательниц, которые попросили мужчин опубликовать тот же контент и сравнили результаты. Женские аккаунты часто показывали значительно меньшие охваты, несмотря на большую аудиторию.
Исследователи отмечают, что большинство моделей искусственного интеллекта обучены на данных с человеческими предубеждениями, что может приводить к скрытым формам дискриминации. При этом конкретные детали работы алгоритмов остаются закрытыми.
Некоторые пользователи считают, что алгоритм теперь больше ценит ясность, понимание и ценность в постах, нежели количество лайков или время публикации. Это усложняет понимание точных причин изменений в охватах.
Многие пользователи, независимо от пола, выражают недовольство и непонимание новых правил работы алгоритма. Некоторые отмечают значительное снижение охватов, другие — их рост, что связано с тематикой и целевой аудиторией.
В целом, несмотря на усилия платформы сделать алгоритм более справедливым, остаётся много неясностей и вопросов. Пользователи требуют большей прозрачности, но компании традиционно скрывают детали работы своих алгоритмов, чтобы избежать их манипуляций.
