Прежде всего под запрет попадает контент, созданный с помощью искусственного интеллекта или машинного обучения, который может менять лица и голоса людей — дипфейки.
Кроме того, видео удалят, если выяснится, что оно отредактировано неочевидным для среднего пользователя способом, из-за которого тот может подумать, что человек сказал слова, которых на самом деле он не говорил.
Facebook отмечает, что сегодня видео с дипфейками можно встретить в интернете редко, но эта технология развивается и «представляет значительный вызов для нашей отрасли и общества».
Эти меры станут подготовкой соцсети к предстоящим выборам президента США осенью 2020 года. В компании подчеркнули, что не станут удалять контент, если он является пародией или сатирой. Проверкой контента займутся 50 независимых компаний, они смогут распознать больше 40 языков.