Лиз Келли из Twitter признал, что компании «необходимо провести дополнительный анализ», чтобы устранить расовые предубеждения в рамках используемого алгоритма. Как сообщает Engadget, все это происходит после предложенного эксперимента. TwitterАлгоритм отдает приоритет фотографиям на основе расовых предубеждений.
Потенциально внесение изменений в его алгоритмы – последнее, что нужно сделать. Twitter нужды на своей тарелке прямо сейчас. Учитывая, насколько занята компания решением вопросов, связанных с выборами, дополнительные сложности – не то, что им нужно.
Twitter, объявила о дополнительных мерах безопасности для политических счетов, чтобы обезопасить их в преддверии выборов. Компания вместе с Google также начала использовать новые методы, чтобы попытаться бороться с дезинформацией на своих платформах.
Twitterалгоритм может быть предвзятым на расовой почве
Twitter утверждает, что ему все еще нужно проделать дополнительную работу, чтобы лучше понять недостатки алгоритма. Оригинальный эксперимент, проведенный инженером-криптографом Тони Арьери, сопровождался фотографиями Барака Обамы и Митча МакКоннелла.
Было обнаружено, что Twitter казалось, исключительно подчеркивал лицо МакКоннелла, что привело к обвинениям в расовой предвзятости. Обама появился только тогда, когда Алерчи перевернул цвета.
Другие провели дополнительные исследования и эксперименты для дальнейшего изучения этой проблемы. Они перевернули имена и порядок фотографий, но это, похоже, не имело никакого эффекта. Высококонтрастная улыбка также не повлияла на расстановку приоритетов.
Однако ученый по имени Мэтт Блейз обнаружил, что использованное приложение действительно немного изменилось. Его исследование показало, что TweetDeck был более нейтральным и официальным Twitter приложение.
Twitter сделать больше работы по расследованию алгоритмических расовых предубеждений
Келли сказал это Twitter перед этим проверил алгоритм на предмет расовой предвзятости. Она сказала, что в то время компания «не нашла доказательств». Однако после всех этих обвинений ситуация, похоже, изменилась.
Она сказала это Twitter откроет бы открытый исходный код своих алгоритмов исследования. Идея в том, чтобы помочь другим «просмотреть и воспроизвести».
Нет никакой гарантии, что Google сможет решить эту проблему. Тем не менее, он демонстрирует вполне реальные проблемы алгоритмической расовой предвзятости. В этом случае это могло бы вытеснить одних людей из поля зрения и удержать в нем других.
Forturntley, эта проблема наконец-то была замечена, однако, если она не может быть исправлена, то Twitter сталкивается с реальной проблемой. Надеюсь, компания сможет найти обходной путь или исправить, чтобы сделать алгоритм более естественным и сбалансированным.