В работе представлен обобщенный подход к оценке рисков в задаче выявления и блокирования деструктивного контента в социальных сетях, позволяющий вводить дополнительные метрики для оценки значений параметров, связанных с передаваемым сообщением. Представлены структура типовой системы выявления и блокирования деструктивного контента в социальных сетях, место в ней системы оценки рисков и обобщенный алгоритм ее работы. Задействование системы оценки рисков теоретически позволяет сократить количество обращений к модератору, используя значения показателей доверия для отправителя, осуществлять стратификацию и агрегацию категорий деструктивного контента в зависимости от уровня его угрозы, а также контролировать возраст целевой аудитории, являющейся адресатом направляемого сообщения.