Аннотация и ключевые слова
Аннотация (русский):
Рассматривается задача априорного выбора наиболее приемлемого метода решения конкретной задачи или совокупности задач защиты информации на основе оценки и анализа входных параметров задач и сравнения этих характеристик с параметрами различных методов оптимизации. Предложена процедура выбора, опирающаяся на предварительное формирование таблиц соответствия. Сформированы возможные начальные варианты указанных таблиц.

Ключевые слова:
методы оптимизации, задачи защиты информации, степень приемлемости, таблицы соответствия
Текст
Введение Проблема выбора эффективных методов анализа реальных практических ситуаций является актуальной в условиях рыночных отношений и, особенно, при возникновении нетипичных либо динамически изменяющихся ситуаций. При относительной стабильности условий функционирования системы методы принятия решений остаются практически неизменными. Однако необходимость выбора эффективных решений в условиях нестабильности системы часто является более важной, более актуальной задачей, чем обеспечение ее функционирования в устоявшихся, относительно неизменных условиях. В настоящее время активно развивается ряд направлений, нацеленных на поддержку процесса принятия решений систем в условиях нетиповых ситуаций, в частности методы искусственного интеллекта, Data Mining. В данной работе предлагается процедура выбора наиболее приемлемого метода решения конкретной задачи на основе использования оценочных функций, зависящих от априорных параметров конкретных задач и каждого из рассматриваемых методов. Данный подход позволяет при возникновении нетиповой ситуации только на основе сравнения входных параметров ситуации выбрать априори наиболее приемлемый метод. В дальнейшем в процессе эксплуатации системы, по мере накопления опыта и самообучения, можно найти более приемлемый метод для той же ситуации. Данная работа продолжает исследования [1, 2]. Близкие задачи применительно к системам защиты информации (ЗИ) рассмотрены в [3, 4]. Классификация методов поиска решений Ниже, говоря о методах поиска решений, будем подразумевать методы поиска оптимальных решений (ПОР). Данное требование не всегда соответствует требованиям по поиску решений на практике, поскольку «цена» получения оптимального решения может оказаться неприемлемо высокой. Поэтому на практике чаще всего ограничиваются «рациональным» решением, т. е. решением, которое достаточно близко к оптимальному и в то же время не требует больших усилий на его нахождение и реализацию. Сходные по структуре процессы управления и связанные с ними задачи тяготеют к одним и тем же методам ПОР. Поэтому для проведения анализа степени соответствия разных методов или группы методов ПОР для оптимизации различных процессов в системах управления (СУ) следует исходить из структуризации и разбиения различных процессов СУ в автоматизированных системах обработки данных (АСОД) на классы однородных процессов, и чем более однородными будут процессы, входящие в один и тот же класс, тем более однотипными будут методы, используемые для их оптимизации. Структуризация всех процессов в СУ в значительной степени зависит от специфических особенностей объекта управления и самой СУ. В частности, применительно к системам защиты информации подобная структуризация выполнена в [3, 4]. В процессе структуризации выявляют три уровня однородности указанных процессов в зависимости от степени их однородности: классы однородных процессов, объединяемые в рамках отдельных функций управления); макрозадачи, возникающие при привязке каждой из функций к отдельным этапам жизненного цикла объекта; классы задач (КЗ), получаемые при адаптации отдельных макрозадач к конкретным компонентам и элементам объекта управления. Таким образом, процессы, соответствующие одному и тому же КЗ, будут более однородными по сравнению с процессами, соответствующими одной и той же макрозадаче и, тем более, одной и той же функции управления. Отметим, что на следующем этапе для каждого конкретного КЗ формируются классы конкретных задач, уточняющие КЗ с учетом особенностей конкретного компонента, характера имеющихся данных и по другим факторам. Если для каждого конкретного КЗ сформировать совокупность всех моделей, формализующих эту задачу, то это позволит наиболее точно описать множество методов, требуемых для решения каждой задачи, поскольку на уровне конкретных моделей относительно просто установить степень приемлемости различных методов для реализации этой модели. Однако в рамках данной работы проведение подобных исследований не представляется возможным ввиду их большого объема. Проведем сопоставительный анализ применимости различных классов методов ПОР для оптимизации процессов в СУ на наиболее высоком уровне разбиения этих процессов на классы однородных – на уровнях функций управления. Исследование рассматриваемых задач на других уровнях (макрозадач и КЗ) может быть проведено аналогично. Более того, аналогичная схема решения рассматриваемой задачи может быть реализована и при детализации методов ПОР, а именно при рассмотрении вместо классов методов ПОР различных групп методов или отдельных методов. Рассмотрим вначале функции управления ЗИ. Для этого вначале, исходя из результатов проведенного в [4] анализа факторов, которые определяют качественные особенности процесса решения КЗ, выбирается следующая совокупность характеристик (факторов) для сравнения: 1. Степень полноты имеющейся информации и ситуации принятия решения (ПолнИнф). 2. Качество этой информации с точки зрения возможностей ее эффективной обработки для выработки решения (КачИнф). 3. Уровень неопределенности относительно последствий принятых решений (НеопрПрог). 4. Степень участия человека в процессе выработки и принятия решения (УчЧел). 5. Грубость структуры модели, отображающей ситуацию принятия решений; выражается, в частности, в размерности соответствующего КЗ (ГрубМод). 6. Сложность численной оценки значений всех параметров, входящих в модель ситуации принятия решений (СложМод). 7. Точность результатов (ТочнРез). Применительно к функциям управления необходимо характеризовать каждую из функций по тому, насколько каждый из этих факторов имеет место при ее реализации. Применительно к методам ПОР необходимо охарактеризовать каждый из методов по тому, насколько он чувствителен к каждому из факторов, а именно насколько качественна и полна должна быть входная информация для применимости методов, насколько чувствителен метод к неопределенностям в постановке задачи, насколько велико участие человека в реализации метода, насколько грубость и сложность модели задачи являются препятствием для получения приемлемого решения на основе рассматриваемого метода и какова в среднем точность результатов, получаемых на основе рассматриваемого метода. В качестве примера рассмотрим процессы, непосредственно связанные с защитой информации. В соответствии с [3, 4] выделяются следующие функции управления ЗИ: 1. Предупреждение условий, порождающих дестабилизирующее воздействие (ДВ) (функция ПУ). 2. Предупреждение проявления дестабилизирующего фактора (ДФ) (функция ПП). 3. Обнаружение проявившихся ДФ (ОП). 4. Предупреждение воздействия ДФ на информацию (ПВ). 5. Обнаружение воздействия ДФ на информацию (ОВ). 6. Локализация воздействия ДФ на информацию (ЛВ). 7. Ликвидация воздействия ДФ на информацию (ЛП). 8. Планирование (Пл). 9. Оперативно-диспетчерское управление (ОДУ). 10. Календарно-плановое руководство (КПР). 11. Обеспечение повседневной деятельности (ОПД). Далее рассматриваются следующие методы ПОР. 1. Классические методы поиска экстремума (КлМ). 2. Методы математического программирования (МП). 3. Методы поиска оптимальных процессов нулевого порядка (МОП). 4. Методы стохастического поиска (СП). 5. Теоретико-игровые методы (ТИМ). 6. Методы имитационного моделирования (ИМ). 7. Методы имитационно-аналогового моделирования (ИАМ), опирающиеся на сходство законов, описывающих совершенно разные процессы. 8. Методы нестрогой математики (НМ). 9. Формально-эвристические методы (ФЭП). 10. Неформально-эвристические методы (НЭП). 11. Управление продуктивным мышлением (УПМ). 12. Экспертные методы (ЭМ). Описание общей процедуры оценки взаимной приемлемости методов и функций управления Опишем общую структуру процедуры оценки взаимной приемлемости различных классов методов ПОР и функций управления на примере процессов ЗИ, поскольку для этих процессов сформировано относительно полное множество функций управления. Так как рассматриваемая задача оценки является неструктурированной, то участие человека в процессе ее проведения является совершенно необходимым. Однако непосредственное экспертное оценивание степени взаимной приемлемости различных классов методов ПОР и функций управления является весьма затруднительным ввиду многогранности сравниваемых элементов в рассматриваемом их разрезе, необходимости взаимной согласованности значений оценок для всех пар классов методов и функций управления. Поэтому при проведении подобной экспертной процедуры качество окончательных оценок будет весьма невысоким. В связи с этим ниже предлагается четырехступенчатая оценка искомых показателей, в которой вначале на основе экспертного анализа оцениваются совокупности более простых показателей, генетически связанных с требуемыми, далее, на основе их формализованной обработки, строится промежуточная таблица коэффициентов взаимной приемлемости различных пар классов методов ПОР и функций управления ЗИ – таблицы соответствия, а затем полученная таблица вновь предъявляется экспертам для ее окончательного уточнения и корректировки. Приведем полное описание указанной процедуры. Предлагаемая процедура оценки степени приемлемости каждого из рассматриваемых классов методов ПОР для оптимизации конкретной функции управления ЗИ состоит из следующих этапов: 1. Для каждой функции управления экспертно оценивается по пятибалльной шкале, насколько каждый из перечисленных факторов типичен и важен для рассматриваемой функции управления ЗИ (т. е. насколько часто и широко этот фактор встречается и должен быть учтен при ее реализации). Проставленная оценка степени важности фактора для рассматриваемой функции управления может интерпретироваться как среднее число случаев (из пяти случаев реализации рассматриваемой функции), когда соответствующий фактор имеет место и его необходимо учесть при оптимизации на основе рассматриваемого класса методов. 2. Для каждого класса методов ПОР экспертно по пятибалльной шкале оценивается, насколько наличие соответствующих факторов в процессе оптимизации является препятствием для получения приемлемого решения на основе рассматриваемого метода. 3. Перенумеруем все рассматриваемые факторы, функции управления ЗИ и классы методов ПОР в том порядке, в каком они перечислены выше, и пусть есть полученная на этапе 1 оценка степени i-го фактора для j-й функции управлении, а – полученная на этапе 2 оценка степени приемлемости методов ПОР из k-го класса для адекватной и эффективной обработки, охвата с помощью рассматриваемого метода i-го фактора (). Тогда в качестве оценки меры приемлемости методов из k-го класса для оптимизации j-й функции управлении предлагается величина , (1) где (2) а есть минимально допустимая относительная точность результата. Предлагается взять = 0,55. 4. Результирующая таблица величин предъявляется экспертам для анализа и корректировки полученных значений на основе их попарного сравнения. Таблица, полученная в результате корректировки, является искомой. Обозначим ее элементы через . Чем больше величина , тем более приемлемы методы k-го класса по своим возможностям для оптимизации j-й функции управлении. Формула (1) выписана на основе следующих вероятностных соображений. Оценим вначале вероятность того, что решение некоторой задачи оптимизации в j-й функции управления при помощи методов k-го класса в условиях наличия и нежелательного проявления i-го фактора оказывается успешным. Для этого введем в рассмотрение следующее событие: {i-й фактор проявления при решении задачи j-й функции управлении}; {задача успешно решена с помощью методов из j-го класса в условиях проявления i-го фактора}; {в процессе оптимизации используются методы k-го класса}; и пусть и есть соответственно случайная величина относительной ошибки при использовании k-го класса и относительной ошибки, допускаемой при решении некоторого КЗ в процессе реализации j-й функции управлении. Тогда оцениваемая вероятность (обозначим ее через ) равна: . Мы воспользовались независимостью событий , и их независимостью от случайных величин , . Исходя из приведенных выше интерпретаций величин и , заключаем, что в качестве оценок для величин и можно взять величины и . Получим теперь оценку вероятности . Анализ распределений характеристик Отметим: с достаточно большой точностью можно считать, что случайные величины и распределены экспоненциально. Действительно, точность некоторой задачи по ЗИ определяется требуемой точностью осуществления мероприятий и реализацией соответствующих функций ЗИ (т. е. для реализации которых и решается реализуемая задача). В свою очередь, точность реализации этих мероприятий по ЗИ определяется интенсивностью и характером ДВ, для противодействия которым и осуществляются рассматриваемые мероприятия. Таким образом, чем интенсивнее ДВ, тем выше должна быть точность решения соответствующих задач по ЗИ. Пусть есть величина относительного отклонения решения , полученного в результате решения КЗ, от реально наиболее оптимального решения в соответствующей ситуации принятия решения, т. е. , и С – объем ресурсов, требуемых для реализации решения , т. е. связанных с реализацией мероприятий по ЗИ. Тогда можно считать, что ожидаемая величина перерасхода средств при реализации решения (вместо ) будет иметь порядок С·. Считая затраты средств на противодействия ДВ пропорциональными интенсивности t соответствующего ДВ, т. е. , заключаем, что точность должна быть такова, чтобы величина перерасхода по крайней мере не превосходила некоторой заданной малой величины. Таким образом, произведение точности результата на интенсивность соответствующих ДВ можно считать постоянной величиной в ситуациях, когда интенсивность t достаточно велика, т. е. , где – некоторая константа. Как отмечалось в [4], процессы возникновения ДВ хорошо аппроксимируются пуассоновскими процессами. Поэтому можно считать: вероятность того, что величина интенсивности ДВ находится в интервале при равна , где – некоторая константа. Тогда, ввиду сказанного выше, вероятность того, что в решаемом КЗ (используемом при реализации j-й функции управления) потребуется точность 1/t (точнее, принадлежащая интервалу при равна: , где – константа. При точность выбираем 1/. Исследуем теперь возможное распределение случайной величины . Каждый метод ПОР предназначен для соответствующего преобразования определенных исходных данных, которые характеризуют ситуацию принятия решения. Обычно эта ситуация характеризуется значительно большим числом характеристик, чем те, которые используются в методе ПОР. Можно предположить, что степень близости решения, полученного на основе некоторого метода ПОР, к реально наиболее оптимальному решению в решающей степени зависит от степени близости набора исходных данных, используемых при реализации методов ПОР, и полного набора показателей, характеризующих ситуацию принятия решения. Будем считать эту зависимость прямо пропорциональной. Далее, основное содержание исходных данных составляют показатели различных ДВ или тесно связанные с ними характеристики, и, как отмечалось выше, эти показатели (ДВ) с большой степенью точности распределены экспоненциально для большинства ДВ [3]. Кроме того, совокупный эффект от многих неучтенных (второстепенных) показателей хорошо моделируется суммами редких регенерирующих процессов, которые, в силу теоремы Григелиониса [5], хорошо аппроксимируются экспоненциальными распределениями. Таким образом, если разница между использованными при решении исходными данными и всеми данными, характеризующими ситуацию принятия решения, в какой-либо подходящей выбранной метрике равна t (точнее, принадлежит интервалу ), то приведенные выше эмпирические рассуждения позволяют преположить, что точность решения будет иметь порядок , и вероятность такого события равна , где и – некоторые константы. Отсюда выводим: где – константа. На основе полученных соотношений выводим: После преобразований . После замены переменной в последнем интеграле получаем где ; ζ – случайная величина с плотностью распределения x > 0, а М – знак математического ожидания. Так как функция в целом мало меняется в области z > D, то можно приблизительно заменить на . Нетрудно проверить, что , на основании чего выводим (напомним, что d = D + 1): . Найдем величины и . По аналогии с предположениями, используемыми при реализации методов математической статистики, можно считать, что требования получения точных результатов при решении КЗ эквивалентны тому, что относительная точность результата равна 0,95. Тогда, исходя из содержательного смысла, можно записать соотношение , где . Отсюда следует: . Далее, т. к. распределено экспоненциально, то, исходя из смысла показателей r7k, выводим, т. е.. Подставив полученные соотношения для и, получаем: ; . Численные оценки показателей Результаты оценок показателей и результирующая показателей приведены в табл. 1–4. Дадим некоторые пояснения по заполнению указанных таблиц. Наибольшее значение показателя типичности для фактора ПолнИнф соответствует тем функциям управления, для реализации которых имеется информация в наибольшем объеме. Такой функцией является прежде всего функция ЛП, т. к. в результате ДВ все последствия (а значит, и требуемые для реализации функции ЛП исходные данные) обычно известны. Наименьшее значение показателей ПолнИнф соответствует функции ПУ, когда часто не известно даже множество всех потенциально возможных источников ДВ. Аналогичным образом оценивается показатель типичности для КачИнф. Наибольшее значение показателя типичности для фактора НеопрПрог соответствует функции ПУ, когда часто нет достаточно ясной картины механизма формирования и проявления предполагаемых ДВ, и, следовательно, возможность и характер проявления этих ДВ весьма неопределенны. Наиболее типично участие человека (при реализации всех функций управления) в процессе ликвидации последствий ДВ, поэтому величина показателя типичности для фактора УчЧел максимальна для функции ЛП. Наименее типично участие человека для функции ОВ, осуществляемой в значительной степени в автоматизированном режиме (значение соответствующего показателя типичности минимально). Для фактора ГрубМод наибольшее значение показатель типичности имеет для функции ПУ, т. к. в том случае общая картина относительно ДВ часто весьма неопределенна и использование моделей, достаточно полно охватывающих требуемые взаимосвязи в соответствующей ситуации, реально не представляется возможным или не повышает качество конечных результатов. Наиболее строгие требования к уровню охвата моделями всех взаимосвязей в системе присутствует в функции ОВ ввиду ее значительной автоматизированности, что связано с ее важностью для процесса ЗИ, поэтому значение показателя типичности для этой функции в случае фактора ГрубМод имеет минимальное значение. Для фактора СложМод наименьшее значение показателя типичности имеет функция ОПД, когда моделируемые ситуации и требования к полноте моделирования достаточно просты. В силу тех же соображений, что и в случае фактора ГрубМод, наибольшее значение показателя типичности для фактора СложМод имеет место для функции ОВ. Таблица 1 Таблица оценок показателей типичности для различных факторов и классов методов ПОР Методы ПОР ПолнИнф КачИнф НеопрПрог УчЧел ГрубМод СложМод ТочнРез КлМ 2 5 2 5 1 4 5 МП 1 5 2 4 1 3 5 МОП 3 4 3 4 2 2 4 СП 2 3 3 3 2 2 4 ТИМ 3 5 4 2 4 1 3 ИМ 2 2 3 1 3 2 2 ИАМ 4 4 1 4 3 4 3 НМ 4 1 1 4 4 3 2 ФЭП 5 5 2 5 5 5 1 НЭП 5 5 4 5 2 4 5 УПМ 4 4 4 4 3 3 3 ЭМ 3 4 5 5 5 5 1 Относительно заполнения таблицы показателей приемлемости для различных факторов и классов методов ПОР отметим следующее: чем более формализованы методы и соответствующие им модели, тем более полная и качественная информация требуется для их реализации, менее возможен учет и охват неопределенностей в постановках задач, менее существенно участие человека в процессе поиска, содержательнее и важнее модели КЗ. Укажем, что показатели фактора ТочнРаз выполнялись с учетом существующих оценок точности для ряда классов методов (в частности, [2]). Таблица 2 Таблица оценок показателей типичности для различных факторов и функций управления ЗИ Методы ПОР ПолнИнф КачИнф НеопрПрог УчЧел ГрубМод СложМод ТочнРез ПУ 1 1 5 4 5 4 2 ПП 2 2 3 3 3 4 4 ОП 3 3 2 2 2 4 5 ПВ 4 4 2 2 1 4 3 ОВ 4 4 2 1 1 5 5 ЛВ 4 4 1 3 2 2 3 ЛП 5 5 1 5 3 3 4 Пл 3 2 4 2 3 4 4 ОДУ 4 3 2 4 2 4 5 КПР 4 3 3 4 4 3 3 ОПД 4 3 4 3 4 1 1 Таблица 3 Таблица оценок показателей приемлемости для различных факторов и классов методов ПОР Методы ПОР ПолнИнф КачИНф НеопрПрог УчЧел ГрубМод СложМод ТочнРез КлМ 1 1 1 1 1 5 1 МП 1 2 1 1 2 4 1 МОП 1 1 1 1 2 3 1 СП 2 2 2 1 3 3 0,95 ТИМ 3 3 3 2 4 4 0,9 ИМ 3 4 3 3 3 4 0,85 ИАМ 4 4 4 3 4 4 0,8 НМ 4 5 4 4 4 3 0,75 ФЭП 4 5 5 4 4 3 0,75 НЭП 5 4 5 4 5 2 0,7 УПМ 4 5 5 5 5 1 0,65 ЭМ 5 5 5 5 5 1 0,6 Результирующая табл. 4 позволяет провести анализ эффективности использования различных методов ПОР при реализации разных функций управления ЗИ. Таблица 4 Оценка степени важности различных классов методов оптимизациидля разных функций управления ЗИ Методы ПОР КлМ МП МОП СП ТИМ ИМ ИАМ НМ ФЭП НЭП УПМ ЭМ ПУ 1,18 1,44 1,31 1,27 1,21 1,38 1,48 1,52 1,52 1,67 1,89 1,04 ПП 1,26 1,53 1,36 1,30 1,26 1,41 1,52 1,49 1,48 1,51 1,82 1,78 ОП 1,34 1,67 1,62 1,54 1,41 1,39 1,37 1,28 1,24 1,21 1,18 1,13 ПВ 1,11 1,58 1,61 1,51 1,43 1,44 1,49 1,53 1,47 1,50 1,61 1,57 ОВ 1,41 1,57 1,56 1,48 1,28 1,21 1,24 1,31 1,36 1,34 1,44 1,40 ЛВ 1,38 1,42 1,32 1,19 1,14 1,38 1,47 1,41 1,24 1,27 1,34 1,19 ЛП 2,01 2,11 1,71 1,32 1,22 1,84 1,69 1,14 1,25 1,18 1,06 1,04 Пл 1,24 1,38 1,44 1,59 1,14 1,58 1,54 1,19 1,18 1,23 1,29 1,17 ОДУ 1,96 2,17 2,21 1,61 1,11 1,39 1,36 1,21 1,22 1,18 1,14 092 КПР 1,04 1,20 1,17 1,16 1,21 1,17 1,37 1,18 1,16 1,17 1,21 1,37 ОПД 0,62 0,78 0,68 0,64 0,78 0,81 0,75 0,71 0,74 0,93 0,76 0,75 В частности, исходя из табл. 4, можно выписать следующие две цепочки соответствий между перечисленными выше классами ПОР и функциями управления ЗИ. 1. Каждый из перечисленных классов методов ПОР представляет наибольший интерес при реализации следующих функций управления: КлМ МП МОП СП ТИМ ИМ ИАМ НМ ФЭП НЭП ЭМ УПМ ПП ОДУ ОДУ ОДУ ПВ ЛП ЛП ПВ ПУ ПУ ПУ ПУ 2. Для каждой функции управления ЗИ наибольший интерес представляют следующие классы методов ПОР: ПУ ПП ОП ПВ ОВ ЛВ ЛП Пл ОДУ КПР ОПД УПМ ЭМ МП МОП МП ИАМ МП СП МОП ИАМ ЭМ Отметим, что табл. 4 позволяет количественно оценить степень относительной эффективности использования различных классов методов ПОР для реализации разных функций управления ЗИ. Величины , приведенные в табл. 4, могут быть использованы при решении задач метаоптимизации [2], где необходимо положить . Отметим, что вместо использованной выше процедуры большой группы параметров и эти показатели можно оценить лингвистическими переменными с последующей их численной интерпретацией путем реализации экспертных процедур. Выбор конкретной экспертной процедуры требует дополнительного анализа. Получающиеся при таком подходе значения параметров могут быть использованы также для уточнения значений, приведенных выше в таблицах. Отметим также, что значения в таблицах могут динамически уточняться и изменяться по мере эксплуатации системы на основе реальных данных по использованию различных методов и (или) результатов экспериментов. Заключение В работе исследованы вопросы, связанные с процедурой использования методов ПОР для решения различных задач оптимизации в сфере защиты информации. Важным достоинством приведенной процедура является ее априорный характер, что позволяет использовать ее в нетипичных и непредусмотренных ситуациях. Описанные методы могут быть совершенно аналогичным образом использованы и в других сферах деятельности, при условии наличия структурированной классификационной структуры функций управления либо классов задач или задач управления. Приведенная процедура может быть включена в состав систем поддержки принятия решений. Одним из важных направлений дальнейших исследований в данном направлении является разработка систем апостериорного уточнения приведенных оценок на основе процедур самообучения и анализа практического опыта использования системы.
Список литературы

1. Попов Г. А., Попова Е. А. Оценка степени соответствия метода решения задачи ее априорным характеристикам // Вестн. Астрахан. гос. техн. ун-та. Сер.: Управление, вычислительная техника и информатика. – 2012. – № 1. – С. 62–68.

2. Попов Г. А., Попова Е. А. Процедура оценки эффективности методов оптимизации // XXIII Междунар. науч. конф. ММТТ-23. – Саратов, 2010. – Т. 2. – С. 148–151.

3. Герасименко В. А., Попов Г. А., Таирян В. И. Основы оптимизации в системах управления. – Деп. в ВИНИТИ, № 213-В89, 1989. – 497 с.

4. Герасименко В. А. Защита информации в автоматизированных системах обработки данных. Т. 1. – М.: Энергоатомиздат, 1994. – 400 с.

5. Гнеденко Б. В., Коваленко А. Н. Теория массового обслуживания. – М.: МЦМНО, 2006. – 470 с.