УПРАВЛЕНИЕ РИСКАМИ НАРУШЕНИЯ БЕЗОПАСНОСТИ КРИТИЧЕСКИ ВАЖНЫХ ОБЪЕКТОВ

В статье представлен метод управления рисками нарушения безопасности критически важных объектов национальной инфраструктуры в условиях неопределенности.

Ключевые слова: критически важный объект, риск, управление рисками, остаточная неопределенность, энтропия.

 

RISK MANAGEMENT SECURITY BREACHES OF CRITICAL FACILITIES

Tsygichko V.N.

Doctor of Technical Sciences, professor, chief researcher at the Institute of System Analysis RAS

 

 

The paper presents a method of controlling the security risks of critical national infrastructure facilities in the face of uncertainty.

Keywords: critical facilities, risk, risk management, residual uncertainty, entropy.

Во всех развитых странах, в том числе и в России, законодательно закреплены положения, предусматривающее создание систем обеспечения безопасности (СОБ) критически важных объектов (КВО) национальной инфраструктуры на основе управления рисками [6].

Управление рисками – это процессы, связанные с идентификацией, анализом рисков и принятием решений, которые включают минимизацию отрицательных последствий наступления рисковых событий.

Проблеме управления рисками, методам анализа и оценки рисков в различных сферах человеческой деятельности посвящена обширная научная библиография [1], [6]. Созданы и внедрены в практику автоматизированные системы управления рисками, например, на транспорте [3]. Вместе с тем проблема создания общей теории и надежных методов получения количественных оценок величин риска нарушения безопасности КВО остается открытой. Истоки этой проблемы лежат в сложности и многогранности самого феномена понятия «риск».

Риск – это прогностическая категория, характеризующая одну из важных сторон механизма деятельности социума в условиях естественной неопределенности состояния природной, техногенной и социальной среды. Любая целенаправленная деятельность человека связана с возможностью появления непредвиденных обстоятельств и случайных событий, которые могут привести к нежелательным результатам. Поэтому прежде чем действовать человек оценивает свои шансы на успех и неудачу.

В наиболее общем виде риск можно определить как оценку человеком последствий реализации возможных альтернатив его решений по достижению поставленной цели в условиях неопределенности. Другими словами, риск – это выбор (принятие решения) в условиях неопределенности.

Понятие риск и его природа тесно связаны с конкретными сферами человеческой деятельности. Это обстоятельство породило множество форм рисковых ситуаций, множество определений риска и множество его классификаций по различным основаниям, но у них имеется одно объединяющее их общее свойство. Все возможные виды рисковых ситуаций характеризуются двумя составляющими – возможностью наступления неблагоприятного события и его последствиями.

В настоящее время в качестве общепринятой меры риска принято сочетание двух показателей – вероятности наступления неблагоприятного события Р и величины ущерба от его реализации Y .

При выборе стратегии деятельности в рисковой ситуации в качестве обобщенного показателя Q часто используют произведение вероятности наступления события риска на величину ущерба вследствие его реализации

Q=PY.

Разрешение любой рисковой ситуации представляет собой поиск приемлемого компромисса между желанием получить наибольшую выгоду В как результата деятельности, вероятностью наступления события риска P, возможными последствиями наступления события риска (величиной ущерба) Y, затратами на уменьшение риска R1 и последствий его реализации R2, которые уменьшают выгоду. По существу это более сложный аналог известной задачи «эффективность-стоимость».

Все перечисленные параметры рисковой ситуации взаимозависимы и могут быть представлены выражением  где: DB –конечная величина выгоды.

DB = B - R1 (Y ) - R2 (P) ,

Субъект деятельности должен выбрать приемлемое для него сочетание значений переменных рисковой ситуации. В качестве критерия для сравнения различных альтернатив решения может быть использован обобщенный показатель Q=PY.

Приведенная абстрактная конструкция в каждой сфере деятельности интерпретируется по-своему.

Рассмотрим наиболее простой пример – выбор стратегии при игре в рулетку.

Условия игры:

– для игры выделена определенная сумма;

– выигрыш зависит от величины ставки;

– вероятности выпадения всех номеров одинаковы и известны играющему.

Прежде всего, игрок решает ключевой вопрос играть или не играть. Если он решил рискнуть, то должен выбрать один из возможных вариантов компромисса.

Первый вариант – поставить все деньги на один номер с намерением получить максимальный выигрыш.

Вероятность проигрыша максимально велика. Последствие – потеря всех денег.

Второй вариант – уменьшить риск проигрыша, распределив деньги на несколько номеров. В этом случае возможный выигрыш уменьшается пропорционально числу выбранных номеров. Выиграть может только один номер, остальные ставки проигрываются. Количество номеров выбирается из условия, что возможный выигрыш одного номера больше чем суммарный проигрыш остальных выбранных номеров. В противном случае игра теряет смысл. Последствие проигрыша – потеря всех денег.

Третий вариант – если играть не на все деньги, то при проигрыше часть денег останется, т.е. последствие проигрыша будет меньше чем в первом и втором вариантах.

Играющий должен сам выбрать вариант стратегии, т.е. приемлемый компромисс в соответствии со своими целями, предпочтениями и решимостью идти на риск ради большего выигрыша.

Рассмотренная схема компромисса в той или иной форме присуща любой экономической и финансовой деятельности. Например, планирование работы предприятия в условиях неустойчивого спроса, рискованные инвестиции, игра на бирже и т.д. Во всех этих схемах компромисса параметром управления рисками являются расходы на уменьшение риска и последствий реализации рисковых событий.

В терминах рассмотренной обобщенной схемы компромисса могут  быть интерпретированы и задачи обеспечения безопасности КВО национальной инфраструктуры, однако эта интерпретация должна учитывать особенности данной сферы деятельности и присущие ей возможные ситуации рисков.

Под риском нарушения безопасности КВО понимается вероятность реализации потенциальных угроз критическим элементам его инфраструктуры при существующей системе защиты.

В международной и отечественной практике в качестве показателя достаточности защиты КВО принята допустимая величина риска нарушения его безопасности.

Во всех критических инфраструктурах существуют типы КВО относительно простые, с точки зрения обеспечения их безопасности. К ним относятся: здания, инженерные сооружения, мосты, тоннели и другие объекты. Для этих типов КВО допустимые величины рисков и требования их безусловного выполнения законодательно закреплены в ГОСТ и других нормативных документах. Кроме того, для каждого такого КВО законодательно определены нормативы ресурсов, сил и средств, предназначенных для предупреждения террористических угроз и ликвидации последствий чрезвычайных ситуаций. Задание этих показателей и нормативов однозначно определяет параметры рассмотренной выше схемы компромисса и тем самым разрешает рисковые ситуации для этих типов КВО.

Другим официально закрепленным способом разрешения неопределенности рисковых событий является категорирование КВО по степени ожидаемого ущерба от возможной реализации угроз нарушения их безопасности [4]. На сегодняшний день все КВО национальной инфраструктуры законодательно распределены по категориям и за каждой категорией объектов закреплены требования по обеспечению безопасности  [5].

Однако для большей части КВО, с присущей им чрезвычайно сложной функциональной структурой и технологией, выбор стандартной допустимой величины риска нарушения безопасности практически невозможен.

В каждом конкретном случае при создании и совершенствовании систем защиты таких КВО необходимо, в условиях высокой степени неопределенности, искать компромисс между величиной риска нарушения безопасности, ценой ущерба, стоимостью системы обеспечения безопасности (СОБ), включающей мероприятия по предупреждению и ликвидации последствий ЧС, при условии, что мероприятия СОБ не повлияют на ключевые характеристики функционирования объекта. Поиск таких компромиссов и составляет существо процесса управления рисками нарушения безопасности КВО.

Управление рисками нарушения безопасности КВО предназначено для решения двух основных задач – синтеза СОБ КВО и оценки уязвимости КВО при существующей системе защиты.

Решение задачи синтеза СОБ может быть представлено следующей последовательностью:

– представление КВО как объекта защиты – определение уязвимостей;

–   выявление и анализ потенциальных угроз препятствующих нормальному функционированию объекта – формирование модели угроз;

– формирование профиля защиты;

–принятие решения – выбор наиболее рациональной альтернативы состава СОБ.

Выбор наиболее рациональной альтернативы состава СОБ, т.е. по существу формирование стратегии защиты КВО, определяется критерием и численными значениями ограничений параметров рисковой ситуации, заданными принятой схемой компромисса. На практике в зависимости от сложившейся ситуации применяют одну из двух схем разрешения рисковой ситуации КВО.

Если цена ущерба от реализации хотя бы одной угрозы недопустимо велика, то определяется и нормативно закрепляется значение допустимого риска нарушения безопасности КВО и решается задача – найти состав СОБ минимальной стоимости обеспечивающий величину риска нарушения безопасности КВО не больше допустимого и не влияющего на нормальное функционирование объекта.

Если стоимость СОБ ограничена, то решается задача – определить состав СОБ заданной стоимости обеспечивающий минимум риска нарушения безопасности КВОи не влияющего на нормальное функционирование объекта.

Задача оценки уязвимости сводится к определению величины риска нарушения безопасности КВО при существующей системе защиты, выявлению несоответствий требованиям обеспечения безопасности объекта и формированию рекомендаций по устранению выявленных недостатков.

Оценка риска, т.е. прогноз вероятности реализации угроз и их последствий, составляет самую сложную задачу в представленной выше процедуре принятия решений по обеспечению безопасности КВО. В зависимости от специфических особенностей КВО, видов угроз и возможных ситуаций риска оценка риска может быть представлена одной из трех канонических постановок задач прогнозирования социально-экономических процессов [8].

При оценке риска наиболее сложной задачей является прогнозирование времени  и места возможной реализации угроз. Эта неопределенность разрешается принятием двух постулатов:

– угроза обязательно реализуется в течение жизненного цикла объекта;

– угроза реализуется в наиболее слабо защищенном месте объекта.

В соответствии с этими постулатами система безопасности должна строиться на основе принципа равной достаточной защищенности всех критических элементов  КВО  от  всех потенциальных угроз и способов их возможной реализации [10]. Нарушение этого принципа часто ведет к трагическим последствиям, например, таким как события на атомной электростанции Фукусима 1, случившимся в результате непредвиденного цунами. Все наши дальнейшие построения основываются на этих постулатах.

Если информация, необходимая для принятия решения известна, то оценки рисков нарушения безопасности КВО могут  быть рассчитаны регулярными методами[3], [9]. Однако чаще всего информации, необходимой для прямого расчета риска нарушения безопасности КВО, недостаточно или она отсутствует. Ниже предлагается подход, позволяющий получить оценки рисков нарушения безопасности КВО при недостатке или отсутствии информации об источниках риска.

Информация необходимая для принятия решения может характеризоваться двумя взаимосвязанными показателями – количеством I, например, в битах, и неопределенностью, выраженной через энтропию Э.

Каждая составляющая информационной структуры решения представляет собой набор количественных или качественных параметров.

Неопределенность информации выражается в том, что действительные (истинные) значения параметров неизвестны. Можно определить только интервалы l, содержащие возможные значения этих параметров.

Для каждого решения объективно существует допустимая точность задания информации, т.е. минимальные интервалы b значений параметров, обеспечивающих необходимую подробность описания управляемого процесса.

Если информация о каком-либо параметре отсутствует, то интервал l будет содержать все возможные значения этого параметра, т.е. l будет совпадать с интервалом его определения supl=l. В другом крайнем случае, если вся информация о том или ином параметре известна, то интервал его возможных значений l будет совпадать с допустимым интервалом точности l= b. При полной информации интервалы l и b превращаются в точку. В реальной практике управления принимающий решение всегда имеет какую-либо информацию о возможных значениях интересующих его параметров, т.е. имеет место некоторая промежуточная ситуация, когда l находится в интервале supl>l >b.

Введение допустимого интервала точности b позволяет перевести континуальное множество числовых значений параметров управляемого процесса в ограниченное конечное множество. Это дает возможность использовать формулу К. Шеннона для описания неопределенности решения.

Процедура принятия решения представляет собой итеративный процесс последовательного разрешения неопределенности информации, т.е. уменьшения интервалов  l возможных значений параметров, составляющих исходную информацию.

Введем следующую аксиоматику.

Аксиома 1. Каждому количеству информации о любом параметре, необходимом для принятия решения, может быть однозначно сопоставлен некоторый минимальный интервал l, содержащий истинное значение этого параметра.

Аксиома 2. Истинное значение любого параметра, необходимого для принятия решения, с равной вероятностью находится в любой точке интервала l.

Аксиома 3. Длина минимального интервала lистинного значения любого параметра, необходимого для принятия решения, есть невозрастающая функция количества информации о данном параметре.

Пусть на каждый момент  процедуры  принятия  решения  для всех  параметров j Î J составляющих информацию, определены допустимые интервалы точности задания численных значений b Î B и интервалы возможных значений l j Î L ,  где: L – область возможных решений.

Разобьем интервалы   возможных значений параметров l j   вектора L на участки длиной bj . Каждый интервал содержит N j участков l j 

Вероятность попадания численного значения j параметра в Kj   участок интервала l j обозначим   Pк ,

где:Kj=1–Nj.

В силу независимости компонент вектора L полная энтропия неполноты информации согласно К. Шеннону запишется

Назовем ЭП – полной энтропией решения. Величина полной энтропии решения ЭП  определяется вектором допустимого интервала точности B и областью возможных состояний управляемого объекта L. Уменьшение B при L = const увеличивает энтропию, и наоборот. В процессе принятия решений B обычно не меняется, а L уменьшается, что ведет к уменьшению энтропии. Величина P    в выражении (2) – это вероятность того, что j-й параметр из информации, необходимой для принятия решения, примет значение из Kj   участка интервала lj.

В общем случае P    имеет вероятностный смысл. Однако законы распределения истинных значений j параметров управляемого процесса в выбранных интервалах L, как правило, неизвестны. В большинстве случаев эксперты не имеют оснований для предпочтения одних значений параметров другим. В этой ситуации вводится естественное допущение о том, что распределение истинных значений параметров подчиняется равномерному закону. Тогда вероятность определится формулой

и выражение, определяющее полную энтропию решения, примет вид

Предлагаемый подход к практической оценке неопределенности информации носит универсальный характер и может быть применен и к качественным показателям, не имеющим количественной меры. Например, если при формировании СОБ не может быть отдано предпочтение ни одной из выдвинутых альтернатив ее структуры и состава, то неопределенность выбора может быть представлена выражением

где: n – число рассматриваемых альтернатив.
Информация, необходимая для принятия решений, может быть условно разделена на три основные группы.

К первой группе отнесем информацию, заранее накопленную в системе управления и потенциально готовую к использованию в процессе принятия решений. Эта информация может содержать сведения обо всех составляющих информационной структуры решения.

Неопределенность заранее накопленной информации характеризуется ее неполнотой, неполной достоверностью и неполным соответствием содержанию решения. Кроме того, информация может быть трудно доступной, и нет времени на ее полный сбор и обработку.

Обозначим неопределенность заранее накопленной информации Эпот.

Вторая группа составляет информацию, получаемую в процессе принятия решения. Эта информация включает оперативную информацию, получаемую непосредственно в процессе принятия решения, и новую информацию, генерируемую путем логико-аналитической переработки всей известной информации с использованием, если это возможно и нужно, математических методов и моделей предметной области.

В принятой терминологии вторая группа информации формирует область возможных  значений параметров L = {lj}. Обозначим неопределенность информации, разрешаемой логическими методами Эт .

К третьей группе отнесем информацию, которая не может быть получена какими-либо объективными

методами. Неопределенность этой информации разрешается волевым решением. Таким образом, при реализации процедуры принятия решения всегда остается неопределенность, разрешаемая путем субъективного выбора. Назовем эту неопределенность остаточной неопределенностью решения – Э ост.

На основании изложенного полная энтропия решения Эп может быть представлена суммой

Эп = Эпот + Эт + Э ост                                   (6)

Составляющие полной энтропии не являются независимыми, так как получение информации одной группы позволяет генерировать информацию других групп. Однако на каждый определенный момент процесса принятия решения объективно существуют неопределенности всех групп, что и отражено в выражении (6).

Рассмотрим зависимость неопределенности Эп от трех главных факторов – количества информации I, начальной неопределенности решения Эн и времени T=[0,T], выделенного на принятие решения.

Процесс разрешения неопределенности можно условно разделить на два взаимосвязанных подпроцесса.

Первый – это цепь логических операций обработки исходной информации, позволяющих сделать объективные выводы об интервале, содержащем истинные значения параметров, определяющих решение.

Второй – выбор значения этих параметров из объективно определенного интервала. Последний осуществляется волевым решением, основанным на опыте и интуитивно-логическом понимании закономерностей и тенденций управляемого процесса.

Основной закономерностью процесса разрешения неопределенности Эп является зависимость величины интервалов, содержащих истинное значение параметров от величины объективной информации I  об этих параметрах.

Чем меньше информации, тем шире интервалы, т.е. область возможных значений параметров решения L, тем выше роль субъективных факторов в принятии решения, и наоборот. В случае полного отсутствия объективной информации об управляемом процессе область возможных значений параметров L совпадает с областью их определения supL.

В общем виде зависимость степени разрешения неопределенности решения от количества объективной информации представлена на Рисунке 1.

Здесь I=0 – полное отсутствие информации. Iпор – это то минимальное (пороговое) количество исходной информации, ниже которого никаких суждений по поводу принимаемого решения сделать нельзя. Iпред – максимальное количество информации, которое может быть использовано при принятии решения, когда ее дальнейшее накопление не уменьшает область возможных значений параметров L. I' – величина заранее накопленной информации. Каждому количеству заранее накопленной информации соответствует величина начальной неопределенности решения Эн .

Зависимость степени разрешения неопределенности субъективного выбора от количества информации подчиняется тем же закономерностям, которые свойственны первому подпроцессу принятия решений, что и отражено на Рисунке 1. Вид функции Эп = f(I) для одного и того же решения существенно зависит от величины начальной неопределенности Эн, характеризующей уровень знаний в области обеспечения безопасности КВО.

Проведенный на основе шенноновского подхода анализ информационных аспектов принятия решений позволяет в качестве универсальной  меры риска возможной реализации потенциальных угроз безопасности КВО принять остаточную энтропию решения ост .

Неопределенности различных этапов принятия решений по обеспечению безопасности КВО определяются разными факторами и не зависят друг от друга, поэтому полная остаточная энтропия решения может быть представлена их суммой

КВО как объект защиты представляется перечнем критических элементов его функциональной структуры (структуры уязвимостей), повреждение которых приводит к возникновению на объекте ЧС. Для относительно простых объектов структура уязвимостей может быть точно определена их конструктивными особенностями. Например, мост может быть представлен двумя уязвимостями – опорами и перекрытием. Других уязвимостей нет, т.е. неопределенность его представления как объекта защиты Э1 =0.

Для КВО с большой и сложной функциональной структурой, например, таких как: аэропорты, атомные электростанции, объекты промышленности, оснащенные автоматизированными системами управления на основе ИКТ и т.п., формирование полного перечня критических элементов составляет серьезную проблему. Опыт показывает, что проведение самых тщательных исследований не дает гарантии выявления всех уязвимостей сложных технологических объектов, т.е. для таких объектов всегда существует неопределенность структуры уязвимостей Э1        ¹ 0 . Это означает, что на объекте существуют уязвимости не обеспеченные индивидуальной защитой. Однако определить вероятность не обнаружения одной или нескольких уязвимостей сложного объекта чаще всего не представляется возможным, поскольку определение погрешности методов выявления уязвимостей само по себе составляет сложную проблему. Это касается, прежде всего, объектов киберпространства, в котором ежедневно фиксируются кибератаки новых вирусов, способных выявлять узкие места и взламывать защиту компьютерных информационно-коммуникационных систем. На практике эта неопределенность разрешается путем выбора средств и мероприятий общего характера, снижающих возможность воздействия на все известные и неизвестные уязвимости. Например, создание внешнего ограждения и системы видеонаблюдения для предупреждения проникновения на объект, системы распределения и контроля доступа, программы распознавания кибератак  и  т.п. В  этом  случае энтропия неполноты информации  о  структуре уязвимостей определяется эффективностью средств и мероприятий по защите объекта в целом и может быть представлена выражением

Неопределенность модели угроз Э2

Для большинства КВО, не использующих в процессе своего функционирования информационно- коммуникационные технологии, построение модели угроз не представляет большой проблемы. Напротив, для КВО, использующих ИКТ, это чрезвычайно актуальная и сложная задача. По статистике лаборатории Касперского в 2014 году было зафиксировано 6,2 млрд вредоносных атак на компьютеры и мобильные устройства. Каждые 12 секунд появляется новый вирус. 71% предприятий и организаций в Европе и Америке подверглись успешной кибератаке, несмотря на то, что на большинстве этих объектов полностью выполнялись требования по обеспечению информационной безопасности[2].

Ежегодно публикуемые статистические данные об общем количестве кибератак и числе успешных из них позволяют оценить неопределенность модели киберугроз КВО с помощью выражения

Идентификация и меры нейтрализации человеческого фактора как источника угрозы – одна из наиболее актуальных и до сих пор не нашедших удовлетворительного решения проблем обеспечения безопасности КВО, требующая специального рассмотрения.

Все угрозы безопасности КВО, связанные с деятельностью человека, можно разделить на три больших группы – внешние, внутренние и ошибки, связанные с неверным выбором стратегии обеспечения безопасности КВО. Внешние угрозы это террористические и криминальные действия, направленные на нарушение безопасности КВО. К внутренним угрозам отнесем противоправные действия и ошибки персонала КВО и СОБ КВО.

Для разрешения неопределенности внешней угрозы, как правило, используются гарантированные оценки, т.е. считается что потенциальный нарушитель информирован обо всех уязвимостях объекта, хорошо подготовлен профессионально и обладает полным набором методов, средств и способов реализации угрозы. Исходя из этой гарантированной оценки, строится система защиты КВО от террористических и криминальных угроз. Наиболее опасными и трудно идентифицируемыми являются внутренние угрозы безопасности КВО. Статистика ЧС на КВО показывает, что большинство техногенных катастроф и аварий происходит по вине персонала объектов. Проблеме учета человеческого фактора в обеспечении безопасности различных сфер деятельности посвящено большое количество исследований, на основе которых разработаны правовые положения, инструкции и рекомендации, как общие для всех опасных объектов, так и отраслевые и объектовые [1], [7]. Активно разрабатываются и внедряются технические и организационные средства контроля и предупреждения противоправных действий и ошибок персонала. Однако до настоящего момента невыработано каких-либо регулярных методов количественной оценки рисков возможного нарушения безопасности со стороны персонала КВО. Здесь чаще всего приходится пользоваться экспертными оценками. Это, прежде всего, относится к оценке эффективности средств физической защиты, организационных мероприятий и мер  предотвращения неправильного выбора стратегии защиты КВО. Один из возможных подходов к учету человеческого фактора при оценке эффективности СОБ дан в нашей работе [9]. Полученные с помощью этого метода оценки рисков нарушения безопасности со стороны персоналов КВО и СОБ позволяют вычислить величину остаточной энтропии выбранных мер по нейтрализации человеческого фактора по формуле

Предложенный подход к оценке рисков нарушения безопасности при недостатке информации позволяет реализовать рассмотренные выше схемы разрешения компромисса рисковых ситуаций и может служить инструментом для анализа эффективности состава защитных средств СОБ и выбора рациональной стратегии защиты КВО.

Статья подготовлена при поддержке гранта РФФИ № 15-07-01796.

 

 

Список литературы

1.     Бехман Г., Горохов В.Г. Социально-философские и методологические проблемы обращения с технологическими рисками в современном обществе (Дебаты о технологических рисках в современной западной литературе) // Вопросы философии.–2012. – №7. – С. 120–132.

2.     Лаборатория Касперского, антивирусные программы // www.kasperski.ru

3.     Кононов А.А., Стиславский А.Б., Цыгичко В.Н. Управление рисками нарушения транспортной безопасности. – М.: АС-Траст, 2008. – 210 с.

4.     Методические рекомендации по категорированию объектов науки, промышленности, энергетики и жизнеобеспечения по степени их потенциальной опасности и диверсионно-террористической уязвимости. Прил. 5 к протоколу заседания Федеральной антитеррористической комиссии от 12 октября 2004 года № 14.

5.     Распоряжение Правительства РФ от 23.03.2006 №411 рс «Об утверждении перечня критически важных объектов Российской Федерации».

6.     Цыгичко В.Н., Черешкин Д.С. Безопасность критически важных объектов транспортного комплекса. LAP LAMBERT AcademicPublishing. 2014. – 220 с.

7.     Смолян Г.Л., Солнцева Г.Н. Человеческий фактор как угроза транспортной безопасности // Труды ИСА РАН.–2014. – Т. 64. –Вып.3. – С.81–90.

8.     Цыгичко В.Н. Прогнозирование социально-экономических процессов/ Предисл. Д.М. Гвишиани. Изд.3-е. перераб. и доп. – М.: Книжный дом «ЛИБЕРКОМ», 2009. – 240 с.

9.     Цыгичко В.Н. Руководителю о принятии решений / Предисл. В.А. Лефевра. Изд. 3-е перераб и доп.– М.: КАСАНД, 2010.–352 с.

10. Цыгичко В.Н., Черешкин Д.С. Некоторые методологические проблемы создания автоматизированных систем обеспечения безопасности критически важных объектов транспортной инфраструктуры // Труды ИСА РАН. 2013. –Спецвып. –С. 5–21.