Теперь существует определенный алгоритм, который присваивает некоторый рейтинг каждой картинке, которая размещается в социальной сети. Таким образом администрация будет определять, есть ли там опасный контент. Данный контент не попадет в новостную ленту, его не будет находить поиск, либо же его полностью заблокируют. Также технология может анализировать тексты, размещенные на картинке.
Если картинка определяется как опасная, то ее могут передать на проверку модераторам.
С помощью этого механизма можно установить случаи мошенничества, спам, оказание нелегальных услуг, противоправные действия и детскую порнографию.
Отдельный алгоритм помогает вычислить суицидальный контент и так называемые «группы смерти». Если пользователь загружает ту или иную картинку или использует определенный тэг, то сервис заблокирует страницу и потребует сообщить о причинах размещения публикации.
