Аннотация и ключевые слова
Аннотация (русский):
Объектом исследования является процесс обнаружения вредоносной информации в социальных сетях и глобальной сети. Предложен подход к верификации (определению) параметров математической модели случайного процесса обнаружения вредоносной информации с недостоверно, неточно (противоречиво) заданными исходными данными. Подход основан на использовании стохастических уравнений состояния и наблюдения, базирующихся на управляемых цепях Маркова в конечных разностях. При этом верификация ключевых параметров математической модели такого типа - элементов матрицы одношаговых переходных вероятностей - осуществляется путем использования экстраполирующей нейронной сети. Это позволяет учесть и компенсировать недостоверность исходных данных, присущую случайным процессам поиска и обнаружения вредоносной информации, а также повысить достоверность принятия решений по оцениванию и категоризации цифрового сетевого контента для обнаружения и противодействия информации такого класса.

Ключевые слова:
математическая модель, вредоносная информация, параметр модели, нейронная сеть, матрица связей, вероятности перехода, состояние параметра, оценивание
Текст
Математические модели сложных процессов, в том числе и процесса обнаружения вредоносной информации (ВИ), нуждаются в большом количестве априорных (исходных) данных об этих процессах. Именно эти данные лежат в основе параметров адекватных математических моделей такого класса. При этом под параметрами модели процесса принято понимать физические величины (их количественные или качественные данные, значения), характеризующие те или иные существенные свойства этого процесса, описываемые в рамках модели. Вместе с тем в подавляющем числе случаев эти данные являются слабо формализуемыми, качественными, экспертными, неточными (противоречивыми). Это связано с многообразием аспектов ВИ, циркулирующей в социальных сетях и сети Интернет [1, 2]. В последние годы для обработки таких данных, наряду с иными методами, все чаще используются экстраполирующие нейронные сети (ЭНС), способные с высокой точностью аппроксимировать слабо формализуемые, зачастую недостоверные, неточные (противоречивые) данные, приводя их к виду, пригодному для достоверного и адекватного моделирования сложных процессов [3]. Моделирование процесса обнаружения ВИ осуществляется в интересах построения интеллектуальных систем аналитической обработки цифрового сетевого контента, предназначенных для поиска и противодействия нежелательной, противоправной, а в целом - вредоносной информации. Применение ЭНС для верификации, определения параметров математической модели процесса обнаружения ВИ целесообразно и актуально. Это позволит адекватно математически описать эти параметры с точки зрения качественных и количественных субъективных оценок. При этом должны быть определены весовые коэффициенты (синаптические веса) и весовые отношения, должны быть формализованы, определены неточные (противоречивые) данные с помощью ЭНС-верификации. Качество верификации, определения параметров математической модели процесса обнаружения ВИ растет по мере увеличения объема накопленных данных и знаний [3, 4]. Использование ЭНС позволяет автоматически накапливать эмпирические знания о свойствах процесса обнаружения ВИ и принимать решения, опираясь на накопленные данные и знания. Анализ релевантных работ Приложения ЭНС используются в таких задачах верификации [3, 4], где традиционные вероятностные и иные методы определения параметров модели малоэффективны в силу неопределенности, например из-за неполноты и противоречивости данных параметров. Но различия в уровнях неопределенности не позволяют однозначно верифицировать реальные признаки ВИ, что затрудняет прямое применение данных методов для этого класса задач. В статье [5] рассмотрена адаптивная экстраполяция состояний процессов с использованием рекуррентных нейронных сетей. Но такой подход требует рассмотрения вспомогательных параметров экстраполяции, а это не всегда возможно. В интересах идентификации и верификации состояния нелинейных объектов моделирования иногда используют многослойные нейронные сети [6, 7]. Но они не гарантируют высокой точности определения параметров, точности их идентификации и верификации. В работе [8] изложен расширенный подход к нейросетевой идентификации и верификации. Но этот комплекс методов, иногда называемый нейрокомпьютингом, применим для моделирования квазистационарных процессов, что сужает область его применения. Работы [9, 10] посвящены способу, который позволяет моделировать сложные процессы с использованием нейро-нечетких схем анализа с нечеткими связями. Но этот способ очень сложный для математического описания и трудоемкий. Для нашего случая, когда необходимо верифицировать параметры математической модели процесса поиска ВИ, определение недостоверно, неточно (противоречиво) заданных исходных данных для моделирования этого случайного процесса сводится к тривиальной задаче классификации. Это задача классификации параметров математической модели с помощью экстраполирующего нейросетевого алгоритма. Этот подход известен, прост и используется в задачах распознавания и верификации параметров телекоммуникационных сетей [11]. Теоретическая часть Процедуру экстраполирующей нейросетевой верификации рассмотрим на примере определения ключевых параметров математической модели процесса поиска ВИ - значений элементов матрицы одношаговых переходных вероятностей (ОПВ) для различных состояний параметра данного процесса. Состояние параметра - понятие, обозначающее множество устойчивых значений этого параметра. Их может быть несколько либо большое множество. Состояние параметра характеризуется тем, что описывает переменные свойства этого параметра, при этом состояние какого-либо параметра процесса устойчиво до тех пор, пока процесс не реализуется, ведь сам процесс - это последовательная смена состояний параметров, его описывающих. В основу аналитических моделей смены состояний процесса обнаружения ВИ положено описание свойств данного процесса в математических терминах. Из анализа возможных подходов к моделированию стохастических процессов такого класса следует, что наиболее общим математическим языком описания процесса обнаружения ВИ как объекта исследования является язык теории множеств и функциональных пространств. В нашей статье рассмотрен подход к верификации параметров математической модели такого процесса как к формализованному описанию движения процесса обнаружения ВИ в пространстве состояний, причем данное движение является функцией времени (дискретного). Известные работы [12, 13], посвященные синтезу математических моделей для дискретных по состоянию и непрерывных по времени случайных процессов, позволяют формулировать унифицированные модели процесса обнаружения ВИ на основе управляемых цепей Маркова в форме разностных стохастических уравнений. Это связано с рядом факторов. Аналитическое описание процесса обнаружения ВИ, аналитическая взаимосвязь отдельных показателей ВИ в общем случае динамического, вероятностного, нелинейного и нестационарного процесса обнаружения связаны с необходимостью задания многомерных функций либо плотностей распределения вероятностей значений параметров (показателей) процесса обнаружения ВИ на интервале функционирования. Математическое описание, с учетом расширения размерности, в этом случае затруднительно. Вместе с тем марковские модели процессов обладают высокой универсальностью. При этом сочетание теории марковских процессов с теорией переменных состояния открывает широкие возможности для исследования, причем применение марковских моделей к реальным процессам, происходящим в сложных системах, обладает целым рядом преимуществ. Это возможность представления в рамках марковских процессов как дискретных, так и непрерывных процессов, которые характеризуются как гауссовскими, так и негауссовскими распределениями вероятностей, с учетом как линейного, так и нелинейного характера их изменения. Кроме того, путем расширения связности («памяти») процесса и его размерности (например, переход к вложенным цепям Маркова) заведомо немарковские процессы могут быть математически корректно сведены к более сложным марковским. Можно рассматривать возможность построения аналитических, вероятностно-временных моделей смены состояний параметров процесса обнаружения ВИ как математических моделей смены состояний показателей ВИ на основе марковских последовательностей. Это означает, что можно добиться требуемой степени адекватности вероятностно-временных свойств процесса обнаружения ВИ при сокращении размерности их математического описания. Для построения аналитической, вероятностно-временной модели в интересах верификации параметров процесса обнаружения ВИ, учитывающей динамический и вероятностный характер, нестационарность этого процесса, воспользуемся аппаратом управляемых цепей Маркова, описываемых в форме разностных стохастических уравнений. В работах [12, 13] доказано, что все известные классы марковских случайных процессов могут быть сведены к эквивалентным им (с точностью до допустимой ошибки моделирования по времени и по состоянию) цепям Маркова. Опишем множество состояний параметров процесса обнаружения ВИ с помощью аппарата управляемых цепей Маркова, представленных в виде разностных стохастических уравнений, и аппарата теории переменных состояния. Тогда разностные стохастические уравнения (уравнения состояния и наблюдения), описывающие динамику смены дискретных состояний любого j-го недостоверно, неточно (противоречиво) заданного параметра процесса обнаружения ВИ (например, для девяти состояний), в форме управляемых цепей Маркова будут иметь вид где - вектор недостоверно, неточно (противоречиво) заданных значений j-го параметра процесса обнаружения ВИ; - N-мерная (в нашем случае N = 9) транспонированная матрица-строка возможных недостоверно, неточно (противоречиво) заданных значений j-го параметра процесса обнаружения ВИ; - вспомогательный вектор-индикатор состояния j-го недостоверно, неточно (противоречиво) заданного параметра процесса обнаружения ВИ; - девятимерная матрица недостоверных (неточных, противоречивых) наблюдений за динамикой смены состояний процесса обнаружения ВИ ; - вектор значений приращения индикаторов состояния параметра процесса обнаружения ВИ; - значение вектора вспомогательных индикаторов состояния j-го недостоверно, неточно (противоречиво) заданного параметра на предыдущем такте (шаге) t процесса обнаружения ВИ; - вектор наблюдения за состоянием j-го недостоверно, неточно (противоречиво) заданного параметра процесса обнаружения ВИ; - вектор шумов наблюдения за динамикой смены состояний процесса обнаружения ВИ; - транспонированная матрица недостоверно, неточно (противоречиво) заданных одношаговых вероятностей перехода j-го параметра процесса обнаружения ВИ из t-го в (t + 1)-е состояние, учитывающая внешние и управляющие воздействия (control) - c(t). В нашем случае в качестве примера, для проверки и демонстрации работоспособности и инвариантности модели, взяты 9 состояний параметра - 9 устойчивых значений j-го параметра процесса обнаружения ВИ. В отличие от традиционно используемых в моделях и задачах анализа состояний объектов 2-х («хорошо» (работает) и «плохо» (не работает)) или 3-х упрощенных состояний («отлично» (значения параметра удовлетворяют требованиям), «удовлетворительно» (значения «на грани») и «плохо» (значения параметра не удовлетворяют требованиям)) использованы 9 состояний. Например, по аналогии: «превосходно», «отлично», «очень хорошо», «хорошо», «средний результат», «удовлетворительно», «неудовлетворительно», «плохо» и «отвратительно/очень плохо». Верификация элементов матрицы ОПВ составляет главную особенность разработки модели процесса обнаружения ВИ. Верификация осуществляется с помощью экстраполирующего нейросетевого алгоритма. Этот алгоритм предназначен для преобразования слабо формализуемых, зачастую недостоверно, неточно (противоречиво) заданных исходных данных к виду, пригодному для достоверного и адекватного моделирования процесса обнаружения ВИ. Он может быть реализован на основе типовой ЭНС с двумя и более слоями. Пример построения ЭНС с двумя слоями представлен на рис. 1. Рис. 1. Пример структуры двухслойной ЭНС для верификации элементов матрицы ОПВ В двухслойной сети нейроны входного слоя SA (a1, …, an) отвечают за ввод вектора исходных данных , а нейроны выходного слоя SB (b1, …, bq) описывают верифицированную корреляционную зависимость вероятности перехода из одного состояния в другое, т. е. элементы вектора с учетом матрицы связей (весов) . Процесс верификации (определения) элементов матрицы ОПВ с помощью экстраполирующего нейросетевого алгоритма (например, для девяти состояний j-го параметра процесса обнаружения ВИ) имеет ряд аспектов. В типовой ЭНС используются когнитивные карты для каждого из возможных состояний. Эти состояния традиционно задаются специальными матрицами связей. Матрица связей (матрица синаптических весов) состоит из элементов, определяющих важность, «вес» связи, идущей от каждого i-го к каждому j-му (в нашем примере от 1-го ко 2-му, … , 9-му) элементу ЭНС. Так, для девяти состояний параметра процесса обнаружения ВИ матрица связей имеет вид По входным векторам, характеризующим зависимость переходных вероятностей в строке матрицы ОПВ, формируются элементы этих матриц связей. Элементы матрицы связей формируются на первом этапе обучения ЭНС на основе мнений эксперта, поступающих на входной слой нейронной сети. При этом ЭНС - типовая двухслойная нейронная сеть с прямым распространением информации. В соответствии с этапами верификации (определения) элементов матрицы ОПВ с помощью экстраполирующего нейросетевого алгоритма каждый элемент kji(t) характеризует одну строку матрицы ОПВ. Этот элемент описывает корреляционную зависимость вероятности перехода из одного состояния в другое, взаимосвязь j-й вероятности перехода и i-й вероятности перехода на t-м такте (шаге) процесса обнаружения ВИ. Экспериментальная часть Рассмотрим на конкретном примере процедуру верификации (определения) ключевого параметра математической модели - элементов матрицы ОПВ. Физическая сущность примера заключается в задании условных исходных данных (начальных векторов, характеризующих мнения экспертов) и пошаговых вычислениях верифицированных значений вероятностей перехода параметра процесса обнаружения ВИ из состояния в состояние. Значений, в которых неточно (противоречиво) сформулированные исходные данные (знания) о механизме и условиях перехода параметра процесса обнаружения ВИ из состояния в состояние, путем корректных математических нейросетевых процедур модифицированы к виду, пригодному для параметрического контент-анализа на наличие ВИ. Именно поэтому в качестве примера, для проверки и демонстрации работоспособности алгоритма нейросетевой верификации, взяты условные значения количества возможных состояний и количества экспертов (девять) и начальные значения элементов вектора, характеризующего мнения этих экспертов. Первый этап эксперимента - формирование матрицы связей. Для девяти состояний параметра процесса обнаружения ВИ должны быть заданы 9 матриц весов. При формировании первой строки матрицы ОПВ осуществляется верификация (определение) вероятности перехода из первого состояния во второе, третье, четвертое, пятое, шестое, седьмое, восьмое, девятое состояние и вероятности остаться в первом состоянии. В этом случае вектор, характеризующий мнение первого эксперта о зависимости переходных вероятностей в первой строке матрицы ОПВ, записывается как (1, 0, 1, -1, -1, 0, 0, 1, -1). (1) Выражение (1) - формальная запись логико-математического утверждения «Возрастание вероятности нахождения в первом состоянии и вероятности остаться в нем p11(t) приводит к повышению вероятности перехода из первого в третье состояние p13(t) и к повышению вероятности перехода из первого в восьмое состояние p18(t). Это приводит к понижению вероятности перехода из первого в четвертое p14(t), пятое p15(t) и из первого в девятое состояния p19(t). А по влиянию изменений вероятности перехода из первого во второе p12(t), шестое p16(t) и седьмое p17(t) состояния мнение эксперта отсутствует». Если положительному значению элемента вектора соответствует положительное значение другого элемента вектора , эту взаимосвязь между ними обозначают как положительную. Взаимосвязь обозначают отрицательной, если положительному значению элемента вектора соответствует отрицательное значение другого элемента этого вектора. Количественная характеристика взаимосвязи представляет собой сумму по модулю всех значений, описывающих взаимосвязь переходных вероятностей в матрице ОПВ. Приняв выражение (1) за исходное условие для работы экстраполирующего нейросетевого алгоритма, можно получить когнитивную карту для ЭНС и соответствующую ей матрицу связей, характеризующую, например, мнение первого эксперта о возможной взаимосвязи вероятностей перехода параметра процесса обнаружения ВИ из состояния в состояние Элементы этой матрицы получены на основе анализа мнения первого эксперта о зависимостях вероятностей перехода параметра процесса обнаружения ВИ из какого-либо состояния в любое другое состояние. Они характеризуют, например, для первой строки матрицы [0, 0, 2, -2, -2, 0, 0, 2, -2], что положительному значению 1-го и 8-го элементов вектора соответствует неопределенный «вес» вероятности остаться в первом состоянии, невысокий положительный «вес» = 2 (из 9 возможных) вероятности перейти в 3-е и 8-е состояния; отрицательному значению 4-го, 5-го и 9-го элементов вектора соответствует невысокий отрицательный «вес» = -2 (из -9 возможных) вероятности перейти из 1-го в 4-е, в 5-е и в 9-е состояния, а по 2-му, 6-му и 7-му состоянию мнение первого эксперта неопределенное. Цифра может изменяться от -9 до 9 (9 - число экспертов и состояний), показывая «глубину» положительной или отрицательной взаимосвязи состояний, «вес убежденности» эксперта. Когнитивные карты и матрицы связей K2(t), K3(t), …, K9(t), характеризующие мнение восьми других привлекаемых экспертов, определяются аналогично. Работа ЭНС предусматривает, что когнитивные карты экспертов объединяются в суммарную когнитивную карту. Эти когнитивная карта и матрица весов объединяют в себе коллективное мнение всех привлекаемых экспертов о корреляционных зависимостях вероятностей перехода параметра процесса обнаружения ВИ из состояния в состояние, суммарная матрица описывается выражением , где J = 9 - количество экспертов (отдельных матриц связей), принимающих участие в верификации (определении) элементов матрицы ОПВ и характера связей между ними. Объединенная матрица отражает противоречивые мнения всех экспертов о корреляционных зависимостях вероятностей перехода параметра процесса обнаружения ВИ из состояния в состояние. Поэтому она содержит не только элементы 1 и -1, но и 0. Это позволяет более полно отражать причинно-следственные зависимости между состояниями параметра процесса обнаружения ВИ. Объединенные когнитивные карты и матрицы весов для остальных строк матрицы ОПВ определяются аналогично. Нейросетевая верификация на основе ЭНС включает ряд этапов. Блок-схема нейросетевого алгоритма верификации значений вероятностей перехода параметра процесса обнаружения ВИ из состояния в состояние предложена на рис. 2. Рис. 2. Блок-схема нейросетевого алгоритма верификации значений элементов девяти строк матрицы ОПВ Рассмотрим подробно этапы верификации (определения) ключевого параметра математической модели - элементов матрицы ОПВ - с помощью обычной двухслойной ЭНС [6, 7]. Данный экстраполирующий нейросетевой алгоритм верификации предназначен для определения значений параметров моделирования и экстраполяции в интересах оценивания эффективности обнаружения ВИ. Вначале выполняется активизация входного слоя ЭНС, т. е. приведение нейронов входного слоя в начальные состояния. Затем происходит начальная инициализация нейронов второго слоя, затем приведение нейронов входного слоя ЭНС к состоянию нейронов второго слоя: Затем следует вычисление новых состояний нейронов второго слоя для всех по формуле (2) где ξ - ступенчатая функция активации. Повторение вычислений (2) продолжается до тех пор, пока ЭНС не достигнет стабильного состояния. Проверка (достигла или не достигла ЭНС стабильного состояния) осуществляется путем сравнения состояний нейронов второго слоя на предшествующем t-м и очередном (t + 1)-м такте. При достижении ЭНС стабильного состояния происходит суммирование значений весовых коэффициентов (3) Элементы вектора (3) характеризуют верифицированные весовые коэффициенты корреляционной связи значений вероятностей переходов параметра процесса обнаружения ВИ для одной строки матрицы ОПВ. Корреляционная суммарная матрица весов формируется на их основе. Очередной шаг нейросетевой верификации - вычисление значений вероятностей перехода параметра процесса обнаружения ВИ из первого состояния во второе p12(t), третье p13(t), четвертое p14(t), пятое p15(t), шестое p16(t), седьмое p17(t), восьмое p18(t), девятое p19(t) состояние и вероятности остаться в первом состоянии p11(t). Для этого используется квадратичная метрика, применяемая к смещенным значениям суммарных весовых коэффициентов [11]. Итоговый шаг нейросетевой верификации - повторение выполнения шагов алгоритма до тех пор, пока не будут определены элементы во всех остальных j-х строках матрицы ОПВ. При этом выходной вектор второго слоя на каждом t-м такте работы ЭНС последовательно принимает ряд значений состояний. Эти состояния определяются на основе выражения (2) и для нашего примера будут равны Пример показывает, что ЭНС достигает стабильного состояния уже на 4-м шаге. Аналогичным образом получаем выходные векторы 2-го слоя ЭНС для входных векторов, которые характеризуют корреляционные зависимости между вероятностью нахождения в первом состоянии, и возможностью остаться в нем и вероятностями перехода из 1-го в 3-е, в 4-е, в 5-е, 6-е, 7-е, 8-е и 9-е состояния. Выходные векторы 2-го слоя ЭНС содержат элементы Данные результаты характеризуют суммарную предпочтительность преобладания значений одной вероятности перехода параметра процесса обнаружения ВИ из состояния в состояние по отношению к другой. Тогда значения элементов суммарного вектора весовых коэффициентов равны Этап нормировки в задаче верификации (определения) ключевого параметра математической модели - элементов матрицы ОПВ - с помощью ЭНС является обязательным. Он позволяет избавиться от отрицательных значений весов, сохраняя их пропорциональную зависимость. В итоге получаем значения вероятностей перехода заданного j-го параметра (qj) обнаружения ВИ из состояния в состояние. Это вероятности перехода параметра qj процесса обнаружения ВИ из первого состояния во второе p12(t), третье p13(t), четвертое p14(t), пятое p15(t), шестое p16(t), седьмое p17(t), восьмое p18(t), девятое состояние p19(t) и вероятность остаться в первом состоянии p11(t), т. е. элементы первой строки матрицы ОПВ Остальные значения ключевого параметра математической модели - значения вероятностей перехода недостоверно, неточно (противоречиво) заданного параметра qj процесса обнаружения ВИ (т. е. элементы второй, третьей, четвертой, пятой, шестой, седьмой, восьмой и девятой строк матрицы ОПВ - могут быть верифицированы (определены) аналогично. Заключение Таким образом, предложен подход к определению параметров математической модели случайного процесса обнаружения ВИ с недостоверно, неточно (противоречиво) заданными исходными данными. Этот подход основан на использовании стохастических уравнений состояния и наблюдения, базирующихся на управляемых цепях Маркова в конечных разностях. Общая идея работы - использовать совместно экспертные подходы и нейронную сеть для снижения уровня неопределенности при формировании элементов матрицы ОПВ в интересах моделирования процесса обнаружения ВИ для прогнозирования состава и значений элементов данных матриц по имеющимся априорным данным. При этом верификация (определение) ключевых параметров математической модели такого типа - элементов матрицы одношаговых переходных вероятностей - осуществляется путем использования экстраполирующей нейронной сети. Это позволяет учесть и компенсировать недостоверность исходных данных, присущую случайным процессам обнаружения вредоносной информации, а также повысить достоверность принятия решений по оцениванию и категоризации цифрового сетевого контента для обнаружения и противодействия информации такого класса.
Список литературы

1. Kotenko I. V., Saenko I. B., Chechulin A. A., Desnitsky V. A., Vitkova L. A., Pronoza A. A. Monitoring and counteraction to malicious influences in the information space of social networks // Proceedings The 10th Social Informatics conference (SocInfo2018) (Saint-Petersburg, September 25-28, 2018). Saint-Petersburg, 2018. Part II. Lecture Notes in Computer Science. V. 11186, Springer. P. 159-167.

2. Kotenko I. V., Saenko I. B., Chechulin A. A. Protection against information in eSociety: using Data Mining methods to counteract unwanted and malicious data // Digital Transformation and Global Society. Second International Conference, DTGS 2017 (Saint-Petersburg, June 21-23, 2017). Revised Selected Papers. Communications in Computer and Information Science (CCIS). Saint-Petersburg, 2017. V. 745. P. 170-184.

3. Kosko B. Neural Networks and Fuzzy Systems: A Dynamical Systems Approach to Machine Intelligence. Englewood Cliffs: Prentice-Hall, 1992. 346 p.

4. Kriesel D. A Brief Introduction to Neural Networks. Cambridge: Cambridge Press, 2010. 226 p.

5. Parlos A. G., Menon S. K., Atiya A. F. An algorithmic approach to adaptive state filtering using recurrent neural networks // IEEE Trans. Neural Networks. 2001. V. 12. N. 6. P. 1411-1432.

6. Rojas R. Neural Networks. Berlin: Springer-Verlag, 1996. 453 p.

7. Muller B., Reinhardt J., Strickland M. T. Neural networks: an introduction. Springer, 1995. 306 p.

8. Anderson J. A., Rosenfeld E. Neurocomputing: Foundation of Research. Cambridge, Mass: MIT Press, 1988. 267 p.

9. Nesteruk G. Ph., Kupriyanov M. C. Neural-fuzzy systems with fuzzy links // Proc. of the VI-th Int. Conference SCM’2003. Saint-Petersburg: StPSETU «LETI», 2003. V. 1. P. 341-344.

10. Kotenko I. V., Parashchuk I. B., Omar T. K. Neuro-fuzzy models in tasks of intelligent data processing for detection and counteraction of inappropriate, dubious and harmful information // 2nd International Scientific-Practical Conference Fuzzy Technologies in the Industry (FTI 2018) (Ulyanovsk, October 23-25, 2018). Ulyanovsk, 2018. P. 116-125.

11. Parashchuk I. B. System Formation Algorithm of Communication Network Quality Factors using Artificial Neural Networks // 1st IEEE International Conference on Circuits and System for Communications (ICCSC’02). Saint-Petersburg: SPbGTU, 2002. P. 263-266.

12. Stewart N. E., Thomas G. K. Markov processes // Probability and Mathematical Statistics. New York: John Wiley & Sons Inc., 1986. P. 214-234.

13. Bini D., Latouche G., Meini B. Numerical Methods for Structured Markov Chains. New York: Oxford University Press, 2005. 215 p.