Бывший глава службы безопасности Ваишнави Джаякумар заявила, что компании разрешалось допускать до 16 нарушений, связанных с торговлей людьми в целях сексуальной эксплуатации, прежде чем аккаунт пользователя был заблокирован. Это означает, что только после 17-го нарушения аккаунт пользователя мог быть приостановлен. По словам Джаякумар, такой высокий порог предупреждений необычен для отрасли.
В материалах суда, раскрывающих внутренние документы компании, утверждается, что игнорировала проблемы, повышающие вовлечённость пользователей, вместо того чтобы обеспечивать безопасность. Например, компания не предоставляла пользователям специального способа сообщать о материалах с сексуальным насилием над детьми. Когда Джаякумар подняла этот вопрос, ей ответили, что создание такой системы будет слишком трудоёмким.
В 2019 году рассматривала возможность по умолчанию делать аккаунты подростков закрытыми, чтобы защитить их от нежелательных сообщений, но отказалась от этой идеи, поскольку команда, отвечающая за рост, сочла, что это негативно повлияет на вовлечённость. Только в прошлом году компания начала переводить аккаунты подростков в закрытый режим.
Также внутренние исследования показали, что скрытие количества лайков снижает негативные чувства у пользователей, однако компания отказалась от этой инициативы из-за опасений ухудшения ключевых метрик. Аналогично, в 2020 году вернула бьюти-фильтры, несмотря на данные о том, что они способствуют развитию дисморфии тела у молодых девушек, потому что удаление фильтров могло снизить вовлечённость.
Компания сталкивается с растущим давлением со стороны регулирующих органов и судебных исков, связанных с безопасностью детей в социальных сетях. В одном из крупнейших судебных процессов против , TikTok, Google и Snapchat десятки школьных округов и родителей обвиняют платформы в создании «кризиса психического здоровья» из-за их «зависимых и опасных» сервисов.
