Лаборатория № 11 «Интеллектуализации дискретных процессов и систем управления»

Олег Петрович Кузнецов

Лаборатория № 11 является одной из старейших в Институте. Здесь работали выдающиеся учёные: проф. М.А. Айзерман (руководил лабораторией до 1963 г.), проф. Э.М. Браверман, проф. Л.А. Залманзон, проф. Л.И. Розоноэр, проф. А.А. Таль (руководил лабораторией в 1963–1991 гг.). С 1991 по 2019 гг. заведующим лабораторией являлся доктор технических наук, профессор, председатель Научного cовета Российской ассоциации искусственного интеллекта Олег Петрович Кузнецов. В настоящее время лабораторией руководит доктор физико-математических наук Л.Ю Жилякова. В составе лаборатории – 9 сотрудников, в том числе 3 доктора и 4 кандидата наук.

На протяжении многих лет в лаборатории велись разработки принципов построения и технической реализации систем промышленной пневмоавтоматики. За работу «Разработка и внедрение Универсальной системы элементов промышленной пневмоавтоматики (УСЭППА) и создание на её основе приборов системы «Старт»» сотрудники лаборатории М.А. Айзерман, Т.К. Берендс, Т.К. Ефремова, А.А. Тагаевская, А.А. Таль в 1964 г. получили Ленинскую премию. Разработки на основе применения элементов УСЭППА привели к созданию систем управления на различных промышленных объектах с участием сотрудников Института.  По результатам этих работ опубликовано 5 монографий. Заметный след в развитии отечественной пневмоавтоматики оставили работы Л.А. Залманзона по разработке теоретических и практических основ струйной техники. Его творческое наследие включает 7 монографий по этой проблеме.

В конце 70-х гг. сотрудники, занимавшиеся проблемами пневмоавтоматики, перешли в лаб. № 2, и лаб. № 11 переключилась на исследование дискретных систем и процессов управления и их теоретических моделей – конечных автоматов и сетей Петри.

А.А. Таль в 60-х гг. разработал анкетный подход к синтезу конечных автоматов. В 70-е гг. В.А. Буевич, Н.Н. Иванов, Г.И. Михайлов, В.В. Руднев, А.А. Таль создали средство описания конечно-автоматных множеств, использующее формальные исчисления Поста. А.А. Таль и С.А. Юдицкий разработали методы структурного описания сетей Петри. В 80-х гг. с приходом в лабораторию сотрудников лаб. № 3 (О.П. Кузнецов, А.К. Григорян, А.В. Марковский, Л.Б. Шипилина) активизировались работы по созданию языков логического управления. Разработанный этой группой язык ЯРУС-2 использован в программном обеспечении серийно выпускавшихся в 80-е гг. станков с ЧПУ.

В последние 10 лет основным научным направлением лаб. № 11 является разработка теории и методов интеллектуализации дискретных систем и процессов управления. В разное время проводились исследования в следующих областях: 1) сетевые представления знаний, 2) сетевые представления объектов и процессов, 3) искусственный интеллект и когнитивные науки; 4) групповое поведение роботов; 5) моделирование нейронных сетей; 6) моделирование и анализ социальных сетей. 

1. Сетевые представления знаний

К наиболее распространённым сетевым представлениям знаний относятся представления ситуаций, основанные на линейных и нечётких когнитивных картах, и представления на основе онтологий.

Направление, использующее когнитивные карты для поддержки принятия решений в слабоструктурированных ситуациях и называемое когнитивным анализом ситуаций, в последние десятилетия активно развивается. Большой интерес к нему проявляют организации социально-политической сферы. Это объясняется тем, что в слабоструктурированных ситуациях, характерных для этой сферы, не сформулирована система понятий, основные параметры являются не количественными, а качественными и получены не на основе объективных измерений, а путём опроса экспертов. В таких ситуациях не удаётся использовать подходы традиционной теории принятия решений, опирающейся на методы количественных оценок чётко сформулированных альтернатив; принятию решений предшествует работа по структурированию ситуации, то есть созданию её модели.

Онтологические представления знаний отличаются от других вариантов семантических сетей серьёзным фундаментом – как теоретическим (дескриптивная логика), так и технологическим (стандарты, языки, программные среды). Они служат для формализованного описания предметных областей и активно используются в современных информационных системах.

1.1. Моделирование конфликтных ситуаций на основе линейных когнитивных карт (С.Г. Куливец)

Предложен подход к моделированию конфликтных ситуаций, объединяющий методы теории игр и когнитивного анализа ситуаций. Построены модели взаимодействия агентов для двух случаев, когда представления агентов о ситуации: а) совпадают и заданы одной линейной когнитивной картой; б) не согласованы и заданы различными когнитивными картами. Для каждой модели предложен метод поиска решения в виде равновесия Нэша в чистых стратегиях. Получены оценки границ устойчивости параметров когнитивной карты, в пределах которых стратегия игрока не меняется. Результаты анализа проиллюстрированы на примере исследования конфликта интересов России и Норвегии в Баренцевом море.

В 2013 г. построено решение для повторяющейся игры на когнитивной карте в виде равновесия Нэша для случая, когда время окончания игры является общим знанием. Решение ищется как равновесие Нэша в чистых стратегиях. Для его поиска задача рассматривается как две задачи максимизации двух линейных функций (эти задачи можно решать отдельно в силу линейности целевых функций агентов) и решается рекуррентными уравнениями динамического программирования.

1.2. Моделирование процессов образования коалиций на основе нечётких когнитивных карт (А.А. Кулинич)

Коалиция считается устойчивой, если любому участнику невыгодно её покидать. Устойчивость коалиции достигается таким дележом выигрыша коалиции, который лишает игроков мотиваций к выходу из коалиции. Традиционный подход теории кооперативных игр исходит из сильных допущений о полной информированности, рациональности и интеллектуальности игроков, что не позволяет использовать этот подход для создания коалиций в условиях неопределённости. В лаб. № 11 разработана модель формирования коалиции, основанная на модели объекта управления, представленной нечёткой когнитивной картой, и нечётких экспертных оценках целей и стратегий игроков, участвующих в конфликте.

Предложены три критерия устойчивости коалиции:
  –  критерий взаимной полезности участников при объединении их ресурсов для достижения общей цели;
  –  критерий когнитивного диссонанса, характеризующий степень дисбаланса взаимных полезностей;
  –  критерий привлекательности игрока для коалиции.

На их основе разработаны рекомендации для игрока, принимающего решение при выборе сторонников для создания устойчивой коалиции. Для него лучшими сторонниками по коалиции являются игроки, у которых значения возможности достижения цели и эффективность достижения цели близки к его показателям. В этом случае все игроки коалиции имеют приблизительно равную взаимную полезность, эффективность достижения цели и, следовательно, минимальные значения когнитивных диссонансов.

1.3. Онтологический подход к управлению знаниями в научных организациях (К.В. Крюков, О.П. Кузнецов, В.С. Суховеров)

Предложен подход к задаче определения компетентности научных сотрудников на основе соотнесения терминологии их публикаций с терминами онтологии предметной области. Предметная область научного знания представляется в виде онтологии с двумя типами вершин: вершины-темы и вершины-термины. Вершины-темы образуют основной каркас дерева и связаны между собой отношением тема-подтема. Вершина-термин связана ровно с одной темой отношением тема-термин; предполагается, что все нижележащие вершины наследуют этот термин. Определяется понятие профиля для двух основных объектов задачи: профиль документа (публикации), характеризующий релевантность документа темам предметной области, и профиль сотрудника, характеризующий компетентность сотрудника в тех или иных темах предметной области.

Предложена формула, оценивающая релевантность документа конкретной теме онтологии. При этом учитывается 3 параметра: 1) общее количество упоминаний основных терминов темы в документе; 2) часть документа (объём), в которой встречались основные термины темы; 3) разнообразие терминологии темы (число различных терминов) в документе. Аналогично вычисляется релевантность группы документов. Профиль документа – это вектор его релевантностей всем темам онтологии. Профиль компетентностей сотрудника – это вектор релевантностей его статей всем темам предметной области.

Вычисленные компетентности можно использовать для подбора экспертов в различных областях научной деятельности (рецензентов, оппонентов и т.д.).

В 2013–2015 гг. разработаны онтология и словарь наук об управлении, в 2017 г. разработана первая версия программной системы, успешно опробованная на массиве статей в журнале «Автоматика и телемеханика». К началу 2019 г. разработана система определения компетенций сотрудников Института на основе базы публикаций сотрудников.

2. Сетевые представления объектов и процессов

2.1. Разработка теории ресурсных сетей (Л.Ю. Жилякова, О.П. Кузнецов)

Модель «ресурсная сеть» была предложена О.П. Кузнецовым в 2009 г. Это ориентированный взвешенный граф; в вершинах, имеющих неограниченную емкость, находится  однородный ресурс. Веса рёбер обозначают их пропускные способности – максимальное количество ресурса, которое может пройти по ребру за один такт дискретного времени. На каждом такте вершины распределяют ресурс в исходящие ребра по двум разным правилам с пороговым переключением. Если количество ресурса превосходит сумму весов исходящих ребер, в каждую смежную вершину передаётся ресурс, равный пропускной способности соответствующего ребра. В противном случае вершина отдаёт весь свой ресурс, разделив его между всеми ребрами пропорционально их пропускным способностям. Суммарное количество ресурса не меняется.

О.П. Кузнецовым описан частный случай (полная однородная сеть): сеть задана полным графом с петлями, все ребра имеют одинаковые пропускные способности. На этом простом примере продемонстрированы основные свойства, присущие произвольной ресурсной сети: устойчивость при малом ресурсе, зависимость от начальных условий при большом ресурсе, наличие интегральной характеристики сети – порогового значения ресурса, разделяющего малые и большие значения.

Л.Ю. Жиляковой получены следующие результаты, позволяющие практически полностью описать поведение ресурсных сетей и обобщённые в двух монографиях:
  –  Проведена классификация сетей по структуре их графов (регулярные, циклические и поглощающие сети) и по соотношению входных и выходных пропускных способностей. Исследован пороговый характер смены правил функционирования сети и разработаны методы нахождения предельных состояний и потоков в каждом классе сетей.
  –  Введено понятие потенциальных аттракторов – вершин, которые при определённых начальных состояниях способны притягивать к себе существенную часть ресурса. Найден критерий аттрактивности вершин.
  –  Описаны колебательные процессы в циклических сетях при малых ресурсах. При больших ресурсах в циклической сети всегда существуют предельное состояние и предельный поток.
  –  Исследованы поглощающие ресурсные сети. В них порогового значения ресурса не существует; предельное состояние при любом суммарном ресурсе зависит от начального состояния линейно.
  –  Для регулярных сетей с несколькими потенциальными аттракторами и поглощающих сетей с несколькими стоками сформулированы прямая и обратная задачи управления; показано, что они сводятся к задаче квадратичной оптимизации с выпуклой целевой функцией.
  –  На основе ресурсной сети разработана модель распространения загрязняющих веществ в водной среде.
  –  Предложена модификация модели – сеть с ограничениями на ёмкость вершин-аттракторов. При достижении ресурсом заданного ограничения аттракторы насыщаются, и излишки ресурса переходят в множество других вершин – вторичных аттракторов. Эти вершины определяются топологией сети. Поведение сетей с ограничениями на аттракторы сложнее, чем поведение сети без ограничений.

Описан алгоритм функционирования сети с ограничениями на аттракторы.

Доказано существование второго порогового значения суммарного ресурса, при достижении которого происходит насыщение вторичных аттракторов. Описаны 4 интервала значений суммарного ресурса, на которых сеть демонстрирует различное поведение.

2.2. Методы рефлексивного формирования топологии беспроводной сети (Н.И. Базенков)

Беспроводные ad hoc сети – это сети, образованные автономными беспроводными передатчиками без дополнительной инфраструктуры. Такие сети используются в военных и спасательных операциях, для сбора данных на промышленных объектах, для экологического мониторинга. Узлы такой сети обычно работают от автономных аккумуляторов, поэтому для них очень важны методы обеспечения энергоэффективности. Задача формирования топологии заключается в том, чтобы, с одной стороны, назначить каждому узлу такую мощность, которая обеспечивает связность сети, а с другой – минимизировать суммарную мощность узлов.

Поскольку в ad hoc сетях отсутствует единый центр управления, использование централизованных алгоритмов невозможно. Приходится рассматривать распределённые алгоритмы, когда каждый узел стремится максимизировать локальную целевую функцию. Одним из перспективных подходов к созданию таких алгоритмов является теоретико-игровой подход, при котором задача формирования топологии сети формулируется как некооперативная игра. В этой игре узлы сети являются агентами (игроками), а функции полезности агентов учитывают две цели: поддержание связности сети и минимизацию мощности.

В литературе известен алгоритм «наивного наилучшего ответа». В лаб. № 11 предложен рефлексивный алгоритм двойного наилучшего ответа, при использовании которого агент прогнозирует возможную реакцию соседей на свои действия. Это позволяет выбирать более эффективные действия за счёт увеличения объёма вычислений. Разработаны два варианта алгоритма формирования сети. В первом алгоритме узлы используют двойной наилучший ответ до тех пор, пока все узлы не перестанут изменять свои мощности. После остановки полученная сеть не всегда является связной, поэтому узлы переключаются на обычный наилучший ответ и завершают формирование сети. Во втором алгоритме узел использует наивный наилучший ответ, если может улучшить с его помощью свою полезность. Если улучшение полезности невозможно, узел переключается на двойной наилучший ответ. Сходимость алгоритмов доказана аналитически, их эффективность продемонстрирована в численных экспериментах.

3. Искусственный интеллект и когнитивные науки (О.П.Кузнецов)

Цель исследований этого направления – выявить различия в механизмах обработки информации между компьютером и мозгом. Эта проблема важна и для когнитивных наук, изучающих работу мозга, и для искусственного интеллекта, занимающегося разработкой интеллектуальных систем. Дело в том, что многие задачи, связанные с обработкой информации, мозг решает эффективнее, чем компьютер. Краткий список некоторых таких задач выглядит так:
  –  быстрая обработка образов: категоризация, узнавание в разных ракурсах на основе сходства (а не тождества);
  –  целостное, «гештальтное» восприятие; восстановление целого по части; быстрое узнавание несходства («что-то не так»);
  –  определение релевантности, отделение существенного от несущественного;
  –  быстрый доступ к нужному содержанию (ассоциативный поиск);
  –  быстрые рассуждения на основе схем (а не формальной логики).

Малая эффективность решения этих задач компьютером (при том, что скорости компьютерных процессов в миллионы раз выше скоростей процессов мозга) говорит о том, что механизмы обработки информации в мозге принципиально другие. Поэтому необходим поиск подходов к построению моделей, близких к процессам мозга и отличающихся как от алгоритмических символьных моделей, на которых основано большинство известных интеллектуальных технологий, так и от современных моделей нейронных сетей, которые имеют простую архитектуру, мало похожую на сложную архитектуру мозга.

В начале 2000-х гг. в лаб. № 11 были разработаны две модели обработки и хранения образной информации. Эти модели основаны на голографическом подходе, который понимается не как традиционный физический, а как информационный принцип. О.П. Кузнецовым предложена оригинальная модель псевдооптических нейронных сетей (ПНС), обладающих голографическими эффектами. В них информация передаётся с помощью аналоговых сигналов, имеющих волновую природу, а запись и считывание (восстановление) происходят по голографическим принципам. Л.Б. Шипилина разработала инструментальные средства для моделирования ПНС. Машинные эксперименты показали, что в ПНС возможна эффективная организация быстрых процессов узнавания и восстановления образов, а также высокая устойчивость к повреждениям. А.В. Марковский разработал квазиголографический метод распределённого цифрового кодирования изображений, допускающий восстановление изображений при повреждении значительной части его поверхности. Этот метод позволяет так закодировать цифровое изображение, что оно восстанавливается даже при утрате значительной части его поверхности (до 90 % и выше). Результаты работы могут быть использованы для устранения помех при передаче графической документации по сетям связи, а также для защиты графической информации.

В 2012–2015 гг. были проведены исследования по двум ветвям направления, связанного с когнитивными науками. Исследования первой ветви относятся к проблеме когнитивной семантики и опираются на концепцию Дж. Лакоффа, представляющую собой проект решения двух проблем: категоризации и семантики. В основе концепции лежит тезис о том, что когнитивные структуры и механизмы человека существенно зависят от его сенсорных механизмов, а также физического и социального опыта. Важную роль в этой концепции играют понятия гештальта и образно-схематических структур, на которые опирается объяснение механизмов понимания и быстрых рассуждений. Отметим, что описанная выше модель ПНС может стать перспективным подходом к моделированию гештальта.

Вторая ветвь исследований относится к изучению и развитию разделов математики динамических сетей, связанных с распространением активности. Эти исследования могут оказаться весьма полезными при развитии известной в нейробиологии концепции коннектома, ориентированной на структурирование и формализацию огромных массивов экспериментальных данных, накопленных нейрофизиологами за последние десятилетия.

Раскрытие принципов, на которых основаны информационные процессы мозга, должно привести к прорыву в интеллектуальных технологиях.

4. Групповое поведение роботов (А.А.Кулинич)

4.1. Социальные модели формирования и функционирования команд роботов с реактивной архитектурой

В 2016–2018 гг. были исследованы вопросы коллективного поведения роботов на основе критериев, сформулированных в социальных теориях поведения людей в малых социальных группах. Это теория взаимной полезности Дж. Хоманса, позволяющая моделировать мотивации образования команд, и теория когнитивного диссонанса Л. Фестингера, позволяющая моделировать устойчивость команды через мотивации выхода роботов из команды. Были предложены следующие критерии командного поведения роботов: возможность самостоятельного достижения цели; взаимная полезность; взаимный когнитивный диссонанс. На основе этих критериев построены математические модели командного поведения роботов с реактивной архитектурой и предложены алгоритмы стайного поведения роботов, а также алгоритмы поведения «ленивых» и эгоистичных роботов.

1.2. Модели формирования и функционирования команд интеллектуальных роботов с BDI (belief-desire-intention) архитектурой

Основной особенностью предложенных моделей образования команд интеллектуальных роботов является модель представления среды функционирования роботов в виде вложенных подпространств системы «Группа роботов - Среда», которые образуют решётку классов состояний среды функционирования, каждому из которых присвоено имя-символ. Структуризация пространства состояний и её символьное представление формально определяет качественную онтологию предметной области – концептуальный каркас среды. Разработана математическая модель интеллектуального робота с BDI архитектурой, все элементы архитектуры которого описаны в терминах имен классов состояний, представленных в концептуальном каркасе. На основе этой модели предложен алгоритм построения концептуального каркаса множеством роботов на основе обмена информацией об имеющихся у них ресурсах. Этот алгоритм позволяет представить убеждения (знания), желания (цели) каждого робота в терминах согласованных всеми роботами имён классов состояний концептуального каркаса. Сформулированы условия командной работы роботов, реализация которых поддерживается разработанными протоколами обмена между агентами информацией об их убеждения и целях, условиях совместной работы и координации действий. Предложенные модели, алгоритмы и архитектуры исследовались на имитационных моделях и показали свою корректность.

5. Моделирование нейронных сетей

5.1. Моделирование биологических нейронных сетей (О.П.Кузнецов, Н.И.Базенков, Б.Б.Болдышев, Л.Ю.Жилякова, С.Г.Куливец)

В 2015 г. совместно с коллективом нейробиологов из Института биологии развития РАН была начата работа по созданию дискретных моделей химических (трансмиттерных) взаимодействий между нейронами в биологических нервных системах. В 2016–2017 гг. была предложена первая версия дискретной модели химических взаимодействий. Нейроны в этой модели находятся в едином внеклеточном пространстве (ВКП). Когда нейрон активен, он выделяет в ВКП некоторое специфическое вещество-трансмиттер. Нейроны разнородны в двух отношениях: а) каждый нейрон выделяет определённый вид трансмиттеров и имеет рецепторы, чувствительные к определённому типу трансмиттеров; б) каждый нейрон имеет один из трёх типов электрической активности: осциллятор (периодически генерирует пачки спайков); реактивный нейрон (нейрон Маккаллока-Питтса – активен, только когда его возбудили извне); тонический нейрон (активен всё время, пока его не тормозят). Взаимодействия нейронов происходят через ВКП и не являются синаптическими: трансмиттер, выделенный каким-то нейроном, действует на все нейроны, которые имеют чувствительные к нему рецепторы, то есть является широковещательным сигналом. При этом воздействие трансмиттера на рецептор может быть возбуждающим или тормозящим, в зависимости от типа рецепторов. С нейробиологической точки зрения нейроны вместе с ВКП образуют нейронный ансамбль, в отсутствие внешних воздействий генерирующий ритмическую активность. Этот ансамбль можно представить сетью, в которой ориентированная связь от нейрона А к нейрону В существует, если А выделяет трансмиттер, к которому чувствительны рецепторы нейрона В.

В 2018 г. была разработана новая, асинхронная версия модели, которая в большей степени соответствует биологическим реалиям. В ней введено понятие мембранного потенциала, который изменяет свое значение под действием трансмиттеров, существующих в ВКП. Нейрон активен, когда значение потенциала превышает некоторое значение, называемое порогом. Вектор активностей нейронов называется внешним состоянием нейронной системы. Скорость изменения мембранного потенциала является суммой двух скоростей: эндогенной скорости, зависящей от типа нейрона, и экзогенной скоростью, зависящей от концентрации трансмиттеров, к которым чувствительны рецепторы данного нейрона.

Нейроны функционируют в непрерывном времени, в котором происходят события. Событиями являются: изменение состояния любого нейрона; появление в ВКП нового трансмиттера; дискретное изменение концентрации существовавшего трансмиттера. События – это точки на непрерывной шкале времени, которая разбивается событиями на такты. Внутри такта никаких событий не происходит. Различие эндогенных скоростей у разных нейронов приводит к асинхронности нейронных взаимодействий и к значительной вариабельности длительностей тактов дискретной последовательности. Предложен алгоритм вычисления поведения модели и его программная реализация.

5.2. Разработка теории стационарных ансамблей (О.П.Кузнецов, С.Г.Куливец)

В 2015–2016 гг. была предложена и исследована модель стационарного нейронного ансамбля, которая строится на основе известной пороговой сети из обычных нейронов Маккаллока-Питтса. Такая сеть называется стационарным ансамблем, если она способна удерживать свое единичное состояние (состояние, когда все её нейроны активны) при отсутствии внешних воздействий. Основной результат, полученный в этом исследовании, заключается в доказательстве необходимых и достаточных условий, при которых нейронная сеть является стационарным ансамблем.  В 2017–2018 гг. разработана программная среда для построения моделей сети формальных нейронов, расчёта их поведения, обнаружения ансамблей, сетей из ансамблей и просмотра графа состояний каждого из ансамблей, представленного как граф состояний автомата.

В программе реализованы:
  –  просмотр графа сети формальных нейронов (заданного матрицей смежности),
  –  расчёт последовательности состояний сети для заданного начального состояния, поиск ансамблей в сети,
  –  анализ влияния входов ансамбля на состояние ансамбля.

6.   Исследование процессов в социальных сетях (Д.А. Губанов, Л.Ю. Жилякова, Н.И. Базенков)

Олег Иванович Авен

В 2018 г. к лаб. № 11 была присоединена лаб. № 32 интеллектуальных информационных технологий для систем управления. Эту лабораторию в 1968 г. создал д.т.н., проф. (впоследствии – член-корреспондент АН СССР) О.И. Авен. Тогда она занималась разработкой научных основ и методов построения автоматизированных систем управления организаци¬онными комплексами. С 1992 г. заведующим лаб. № 32 (уже под новым названием) стал к.т.н. Л.И. Микулич.

Леонид Ильич Микулич

С 1968 по 1992 г. лаборатория под руководством О.И. Авена принимала участие в крупных общесоюзных проектах по созданию АСУ «Металл», АСУ «Интурист» и АСУ «Морфлот».

В последние годы в лаб. № 32 были начаты и активно развивались исследования по разработке теории и методов интеллектуального анализа информационных процессов в сетевых и мультиагентных структурах.

Д.А. Губанов, сотрудник бывшей лаб. № 32, более 10 лет назад первым в Институте начал заниматься исследованиями социальных сетей.

За последние 5 лет получены следующие результаты:
  –  разработаны математические модели и методы анализа онлайновых социальных сетей, в том числе акциональная модель распространения действий в онлайновых социальных сетях (совместно с А.Г. Чхартишвили), а также основанные на ней методы расчёта влияния пользователей онлайновых социальных сетей и методы кластеризации пользователей онлайновых социальных сетей;
  –  разработаны методы поиска сообществ и влиятельных агентов в социальных сетях на основе языковых игр (совместно с Л.И. Микуличем и Т.С. Наумкиной);
  –  предложены методы извлечения и анализа терминологических структур предметных областей (совместно с Д.А. Новиковым);
  –  разработаны алгоритмы и программы анализа онлайновых социальных сетей, в том числе для выявления активных групп и сообществ, для расчёта влиятельности пользователей и оценки уязвимости пользователей к информационным воздействиям, для выявления инициаторов обсуждений в сети;
  –  разработаны алгоритмы и программы извлечения и анализа терминологических структур из текстов заданной предметной области;
  –  проведены исследования информационных процессов в реальных онлайновых социальных сетях (Facebook, VKontakte);
  –  предложена модель распространения активности в сети с разными типами агентов и активностей (совместно с Л.Ю. Жиляковой).

Исследования лаб. № 11 в последние 5 лет были поддержаны 5 грантами РФФИ, из которых 3 гранта продолжаются в 2019 г., и двумя программами ОЭММПУ РАН.