Р.В. Мещеряков «Управление безопасностью в киберфизических системах». Часть 1

Лаборатория №80 «Киберфизических систем» занимается изучением взаимодействия физических и цифровых систем, систем человек-робот и различными аспектами управления такими системами.
В первой части видео доктор технических наук, заведующий лабораторией №80 “Киберфизических систем», профессор РАН Р. В. Мещеряков подробно рассказывает о кибербезопасности – одном из важнейших аспектов управления такими системами.

       «У нас в лаборатории укрупненно одно большое направление – киберфизической системы. Они рассматриваются с различных сторон зрения: кибербезопасность, обеспечение функционирования, передача достоверности и обоснования. В том числе мы занимаемся интернетом вещей и аутентификацией пользователей. Можно подменить отправителя, заменить получателя.. Мы занимается тем, чтобы избежать коллизий. Большинство киберфизических систем рассматриваются с перспективой на робототехнические средства. Как должны общаться между собой роботы? Как должны общаться роботы с человеком? Можно ли управлять с помощью силы мысли? Можно ли управлять ими с помощью силы жестов, направлений и прочее? Где и как они функционируют?
     Куча математических задач. Византийскую проблему никто не решил. Работа различного средств, которые функционируют в одной среде. Все мы фильмы смотрим, достаточно жестокие, где робот ненароком убивает человека. Каким образом сделать так, чтобы не допустить этого? Каким образом, например, должны взаимодействовать катающиеся роботы с летающими? Как можно передать информацию? Кто должен быть крайним? Что делать в случае выхода робота из рабочего состояния? Как организовать серию роботов, чтобы обеспечить непрерывную доставку грузов? Как это представить человеку, чтобы он смог это всё обрабатывать? Каждый человек должен понимать, как он управляет и зачем.      
     В перспективе и фантасты, и не только, говорят, что хорошо было бы, чтобы был один оператор, который сказал бы, что надо сделать. А дальше всё пошло бы как по маслу. И эти роботы киберфизической системы, которые функционируют в одной среде, взаимодействовали бы между собой и выполняли бы свои задачи.
     Мы не ограничиваемся только теми роботами, которые летают и ползают. Есть водная среда. Есть и биоморфные роботы, есть роботы, которые общаются между собой. Все эти направления развиваются у нас в лаборатории. Также как и представление данных, и их актуальная обработка.
     Нейросеть – это направление, которое для нас является рутинным. Мы используем этот инструмент, чтобы определять, например, какие эмоции у человека, как с ним можно общаться; как определить, какую команду он хочет сейчас сделать, какую он сделает потом.
     Мне, как технарю, более интересно рассматривать, как существуют технические системы. Но, естественно, мы  никуда не можем уйти от живых систем, потому что мы с вами существуем в живом мире. И существует направление внутри киберфизических систем – передача управляющих воздействий между людьми – социальных систем.
     Всё это соединяясь и определяет безопасность функционирования этих систем, относится к направлению cybersecurity или кибербезопасность.
     Что такое цифровая среда? У нас есть некоторый объект, который управляется. Например, автономный автомобиль. Как он существует? Как мы должны со-существовать с ними, с теми, которые функционируют у нас с вами в городе?
     В настоящее время активно используется понятие так называемого умного автономного автомобиля. Или это умный город, или умная среда. Алгоритм управления функционирования этого технического объекта должен быть безопасным по отношению не только к окружающий среде. Этот беспилотный автомобиль должен не только не сбить человека, но и выполнить все свои функции. Что значит безопасно? Информация должна быть доставлена к заданному промежутку времени. То есть информация функционирует в системе реального времени. Мы не должны получать эту информацию позже, чем она нам необходима.
         Мы должны также видеть всю окружающую среду и понимать, как она взаимодействует с этим автомобилем, как она взаимодействует с дорогой, с дождем, с ночью, с туманом и так далее. Это те алгоритмы управления, которые обеспечены гарантиями безопасности. Первое, что я сказал, информация является доступной, то есть она доходит в определенный промежуток времени к определенному нами заданному элементу, который её обрабатывает и выполняет задание. Информация не изменяется по ходу. То есть, если автомобиль, его система технического зрения, его радар, его видеокамера увидели, что дорогу перебегает, например, собака или переходит пожилой человек или бежит ребенок за мячиком, то в систему управления должна прийти именно эта информация, а не то, что там лежит кучка чего-то или пролетает листик бумаги, которые не опасны для автомобиля.
         Следующее. Это конфиденциальность. То есть информация, которая защищается, не должна выходить за пределы контролируемого нами объекта. Никто не должен быть в состоянии ни перехватить эту информацию, ни внести какую-то информацию к нам внутрь. Она является конфиденциальной, достоверной и доступной во все элементы времени.
     Конечно же, свойств гораздо больше, но, как правило, всё ограничивается внутри. Кроме того, могут быть не только умышленные воздействия, когда кто-то взламывает наш автомобиль, меняет алгоритм его движений. Например, вместо того, чтобы автомобиль останавливался перед знаком «Стоп», он бы, наоборот, увеличивал бы скорость. Это могут быть такого рода воздействия, которые приносят искажение.  Но могут произойти и случайные сбои.
     Те алгоритмы управления, которые функционируют внутри автомобиля, они должны самоопределять, происходит ли нештатная ситуация или не происходит. В случае, если произошел такой сценарий, который не предусмотрен, автомобиль должен либо остановиться, либо предпринять действия, которые безопасны для окружающих.
     Я считаю, что это отдельная наука. Потребность в специалистах такого рода очень высока. Одно дело, когда ты просто обрабатываешь информацию, находишь эффективные методы переработки, быстрое решение, кратчайший поиск с меньшими ресурсами.  Это одно направление, которое относится к понятию эффективности обработки информации. В кибербезопасности во главу угла ставится другой критерий – безопасность. Опять же она тесно связана со специалистами и по управлению, и по информационным технологиям, по другим смежным наукам. Это, в том числе, и мехатроника, и электроника, и новые материалы, которые должны учитывать всю  совокупность знаний для того, чтобы правильно не только описать, а поставить даже задачи этим специалистам. Информация должна быть защищена, а система управления функционировать как должно, а не так, как кому-то представляется интересным или полезным.»