Facebook почти удвоил удаление насильственного контента в первом квартале

Социальная сеть Facebook, принадлежащая компании Meta, с прошлого квартала почти удвоила количество случаев, когда на платформе удаляется насильственный контент. Компания заявила, что за первые три месяца 2022 года она удалила 21,7 миллиона сообщений в Facebook, изображающих или подстрекающих к насилию. Для сравнения, в четвертом квартале 2021 года Facebook удалил только 12,4 миллиона сообщений по тем же критериям.

Meta поделилась данными об удалении насильственного контента в рамках своего ежеквартального отчета о соблюдении стандартов сообщества.

Meta заявила, что ее алгоритмы удалили более 98% контента, нарушающего правила, без вмешательства человека. Удаление контента также было в Instagram, хотя и незначительно. Платформа удалила 2,7 миллиона сообщений в первом квартале 2022 года, тогда как в четвертом квартале 2021 года эта цифра составляла 2,6 миллиона.

Компания поделилась данными об удалении контента в рамках своего ежеквартального отчета о прозрачности, также известного как отчет о соблюдении стандартов сообщества (через Engadget). Meta заявила, что резкое увеличение числа случаев удаления насильственного контента на Facebook произошло из-за расширения ее «технологии упреждающего обнаружения».

Отчет о прозрачности Meta появился через несколько дней после того, как Facebook подвергся критике за медленное удаление контента, связанного с расистской массовой стрельбой в супермаркете в Буффало, штат Нью-Йорк. В течение нескольких часов в Facebook продолжали появляться несколько копий расстрела. По сообщению The Washington Post, одним постом поделились более 46 000 раз, прежде чем он был удален.

Сайты социальных сетей несут огромную ответственность за ограничение распространения насильственного контента до того, как он охватит слишком много людей. Но недавние события показывают, что платформам Meta предстоит проделать большую работу в этом отношении.

Meta признала некоторые проблемы с удалением насильственного контента, пока не стало слишком поздно

Вице-президент по вопросам честности в Meta Гай Розен признал некоторые ограничения компании в разговоре с журналистами. «Одна из проблем, с которыми мы сталкиваемся на подобных мероприятиях, заключается в том, что люди создают новый контент, новые версии, новые внешние ссылки, чтобы попытаться обойти наши правила. [and] уклониться от нашего исполнения», — сказал Розен.

«Как и в любом инциденте, мы собираемся продолжать учиться совершенствовать наши процессы, совершенствовать наши системы, чтобы мы могли обнаруживать, что мы можем быстрее удалять нарушающий контент в будущем».

В отчете Meta также содержится информация о сообщениях, удаленных случайно. Компания заявила, что отменила удаление 756 000 постов в Facebook, изначально помеченных как насильственные. Далее Meta заявила, что «работает над разработкой надежных измерений ошибок», хотя и не предоставила никаких подробностей.