МЕТОД ПРЕОБРАЗОВАНИЯ СЕМАНТИЧЕСКОЙ СЕТИ ДЛЯ АВТОМАТИЗАЦИИ ОЦЕНИВАНИЯ РЕШЕНИЯ ЗАДАЧ ПО ПРОГРАММИРОВАНИЮ В ПРОЦЕССЕ ЭЛЕКТРОННОГО ОБУЧЕНИЯ
Авторы:
1.
Санкт-Петербургский национальный исследовательский университет информационных технологий механики и оптики
(факультет Программной инженерии и компьютерной техники, Магистрант)
Россия
Россия
2.
Национальный исследовательский университет ИТМО
(канд. техн. наук, доцент; доцент факультета программной инженерии и компьютерной техники)
Россия
Россия
Тип:
Статья
Страницы:
с 7
по 17
Статус:
Опубликован
Получено:
21.10.2020
Одобрено:
21.10.2020
Опубликовано:
21.10.2020
Классификаторы:
УДК 30 Теория, методология и методы общественных наук в целом. Социография
Язык материала:
русский
Ключевые слова:
автоматизация, алгоритмы машинного обучения, семантическая сеть, программный код, алгоритм BFS, числовой вектор
Аннотация (русский):
Представлен метод преобразования семантической сети понятий, получаемой для программного кода в N-мерный вектор. Предложенный метод позволит автоматизировать определение используемых алгоритмов при решении задач по программированию в процессе электронного обучения. Метод включает оригинальные алгоритмы построения и преобразования семантической сети. Для определения алгоритма в программном коде находится шаблон этого алгоритма, представленный в виде подграфа абстрактных понятий языка в семантической сети, построенной на основе данного кода. Поиск алгоритма с помощью сравнения подграфа сети с шаблонной сетью позволили выявить алгоритм BFS с заданной точностью: порог отсечения для выходов перцептрона равен 0,85, из расчета точности однослойного перцептрона при классификации базы MNIST, равной 88 %, что подтверждает эффективность разработанного метода и требует дальнейших исследований с применением методов машинного обучения для поиска оптимального значения координат узлов семантической сети и шаблонов алгоритмов.
Представлен метод преобразования семантической сети понятий, получаемой для программного кода в N-мерный вектор. Предложенный метод позволит автоматизировать определение используемых алгоритмов при решении задач по программированию в процессе электронного обучения. Метод включает оригинальные алгоритмы построения и преобразования семантической сети. Для определения алгоритма в программном коде находится шаблон этого алгоритма, представленный в виде подграфа абстрактных понятий языка в семантической сети, построенной на основе данного кода. Поиск алгоритма с помощью сравнения подграфа сети с шаблонной сетью позволили выявить алгоритм BFS с заданной точностью: порог отсечения для выходов перцептрона равен 0,85, из расчета точности однослойного перцептрона при классификации базы MNIST, равной 88 %, что подтверждает эффективность разработанного метода и требует дальнейших исследований с применением методов машинного обучения для поиска оптимального значения координат узлов семантической сети и шаблонов алгоритмов.
Ключевые слова:
автоматизация, алгоритмы машинного обучения, семантическая сеть, программный код, алгоритм BFS, числовой вектор
автоматизация, алгоритмы машинного обучения, семантическая сеть, программный код, алгоритм BFS, числовой вектор
Введение
При обучении языкам программирования возникает задача оценки качества обучения.
Во-первых, необходимо оценивать качество решения поставленных задач при условии, что раз-личные решения выдают одинаковый результат. Во-вторых, требуется оценивать степень усво-ения материала обучаемыми как вероятность применения полученных знаний для решения за-дач, похожих на учебные, но не идентичных им. Это достаточно актуально, когда обучение осуществляется с применением дистанционных технологий и электронного обучения с большим числом обучаемых, т. к. в этом случае процесс проверки учебных заданий достаточно трудоемок и занимает много времени. Поэтому автоматизация оценки качества решения задач по про-граммированию является актуальной задачей, требующей реализации.
Одной из основных задач при автоматизации процесса проверки программного кода для некоторой задачи по программированию является определение участков кода, представляющих собой алгоритм, необходимый для решения задачи. После определения алгоритма в программ-ном коде можно замерить различные метрики данного решения либо оценить количество «из-лишних» объектов и действий, а также оценить связность участка кода с остальным кодом.
Методы машинного обучения обеспечивают наилучшим образом решение поставленной задачи исследований. «При решении задачи машинного обучения в большинстве случаев ис-пользуется индивидуальный подход. Человек, решающий эту задачу, на основе своего опыта выбирает определенный алгоритм, настраивает его параметры» [1, с. 20].
Основные трудности заключаются в невозможности прямой обработки кода данными ал-горитмами. Большинство алгоритмов машинного обучения работают с данными, представляе-мыми в N-мерных векторах евклидова пространства. Таким образом, необходимо построить отображение множества взаимосвязанных команд программы во множество точек N-мерного пространства. При этом должны выполняться следующие условия:
– близкие по смыслу действия и объекты языка (например, несколько условий или не-сколько функций) ставятся в соответствие близким точкам в N-мерном пространстве;
– размерность пространства, вмещающего итоговое преобразование кода, не должна зависеть от размера кода, иначе будет невозможно сравнивать коды со значительной разницей в размере;
– мера занимаемого пространства для различных решений должна стремиться к значениям одного порядка, иначе при нормировании входных данных возможна потеря информации
о близости понятий, представленной в виде расстояния между точками.
Преобразование программы во множество N-мерных точек обеспечивается семантической сетью, которая представляет собой ориентированный граф. «Проблема поиска решения в базе знаний сводится к задаче поиска фрагмента сети, соответствующего некоторой подсети, отража-ющей поставленный запрос к базе» [2, с. 23]. По сети можно осуществить поиск, используя зна-ния о смысле отношений и операции: сопоставление с образцом, поиск, замена, взятие копии.
Алгоритм построения семантической сети
В работе «Модели представления знаний» [3] рассматриваются три этапа построения се-мантической сети:
1. Определить абстрактные объекты и понятия предметной области, необходимые для ре-шения поставленной задачи. Оформить их в виде вершин.
2. Задать свойства для выделенных вершин, оформив их в виде вершин, связанных с ис-ходными вершинами атрибутивными отношениями.
3. Задать связи между вершинами, используя функциональные, пространственные, коли-чественные, логические, временные, атрибутивные отношения.
Абстрактными объектами предметной области могут выступать обобщенно понимаемые конструкции языка программирования С++: функции, типы данных, переменные и их виды,
а также условия и циклы. Например, на рис. 1 представлен вариант подграфа базовых понятий предметной области языка С++.
Рис. 1. Подграф сети абстрактных объектов предметной области
Свойства выделенных понятий можно определить как конкретные реализации команд
в языке программирования: функции, переменных, условий, типов данных и циклов. Используя приведенный подграф, можно описать объявление переменной и контейнера в функции main() на языке С++ (рис. 2).
Рис. 2. Структура семантической сети
В качестве связей между вершинами предлагается использовать отношения реализации абстрактных понятий – IsA (отношение принадлежности к классу), для элементов, входящих
в программный блок (например, блок функции main) использовать отношение часть–целое,
а также отношения вызова или использования объектов (например, вызов функции, использова-ние переменной как аргумента).
Таким образом, для преобразования программного кода в семантическую сеть разобьем код на действия построчно (строку определим как набор команд, заканчивающийся специализи-рованным символом: точкой с запятой, фигурной скобой, круглой скобкой для операторов цикла и условия). Узлы данной сети отображают команды программного кода (например, объявление переменной или проверка условия). Узел определяется используемыми для этого действия сопутствующими элементами программы (например, используемыми в условии переменными) и вложенными действиями, как, например, функция определяется командами, выполняемыми при вызове функции (телом функции). Данный способ был реализован на практике с использо-ванием языка Java, что позволяет получать семантическую сеть по коду. Приведем пример для кода, представленного ниже:
int main ( )
{
int a;
a = 0;
double b;
if (a > 5) a = 6;
else b = 6;
}
Получена сеть по коду, приведенному выше, представленная на рис. 3.
Рис. 3. Структура полученной семантической сети
Названия узлов в данной сети включают стандартные типы данных – int, double; названия переменных – a, b; названия функций – main; условная точка входа – start; принимаемые значе-ния – value0, value1; блоки условия: condition_1 – ветвление номер 1, if_1_0 – блок номер 0 типа «если условие истинно» оператора ветвления номер 1, else_block_1_1 – блок номер 1 типа «ина-че» оператора ветвления номер 1; абстрактные понятия: variable – переменная, type – тип, basic_variable – базовая переменная (переменные, не являющиеся указателями, массивами, кон-тейнерами, структурами или объектами иного составного типа данных), function – функция, user_function – функция, написанная пользователем, condition_types – виды операторов ветвле-ния, if-else – оператор ветвления если–иначе; ребра могут представлять связи: ISA – является, AKO (A Kind Of) – отношение подкласс/разновидность, has_part – является частью, assigment – принимает значение, take – имеет аргументом, has_type – имеет тип, return – возвращает значе-ние, impliment – включает (например, все действия в теле функции по отношению к функции являются включенными в нее).
Для отображения принадлежности таких понятий, как массив и переменные, к одному ба-зовому классу (массив и одиночная переменная имеют большее сходство, чем массив и функ-ция), в данную сеть добавляются узлы-понятия предметной области.
Построение семантической сети для алгоритма
Хорошим примером для задачи определения алгоритма являются задачи по олимпиадному программированию. Такие задачи могут быть решены с применением различных подходов, так же как и сама реализация одного и того же алгоритма может различаться в соответствии со стилистикой программиста. Естественно предположить, что каждый алгоритм имеет свои уни-кальные конструкции. Это может быть использование определенных контейнеров, методов об-хода, функций и др., которые можно обобщить, абстрагировать и создать некий «шаблон» алго-ритма в виде семантической сети. Данная сеть строится по аналогичному принципу, описанно-му выше, но не содержит конкретных понятий (например, конкретных переменных). При нали-чии шаблонов для возможных алгоритмов среди них выбирается тот, который в наибольшей степени соответствует подсети исследуемого кода. При этом программный код не может состо-ять только из алгоритма, например, также необходимы ввод-вывод данных. Для решения про-блемы наличия иных действий в задаче, помимо самого алгоритма решения, возможно разделить задачу на несколько алгоритмов (например, ввод, поиск ответа, вывод) и оценивать каждый из них в отдельности.
Способ создания шаблона может варьироваться. Одним из вариантов является автомати-ческая генерация шаблона на основе большого количества тестовых данных – примеров про-грамм/алгоритмов. Однако такой подход достаточно трудозатратен из-за необходимости раз-метки данных (примеров программ), при этом далеко не всегда имеется обширная база данных решений задачи. Представим метод ручного создания шаблона для алгоритма BFS.
Очень часто в задачах на алгоритм поиска в ширину BFS требуется найти наиболее эф-фективное решение, например минимальный путь. Далее рассматривается модифицированный алгоритм BFS, где вместо окраски узлов используется информация о том, посещался ли данный узел. Хранится данная информация с помощью высчитываемого расстояния от стартового узла до узла, рассматриваемого на данной итерации алгоритма. Таким образом, вместе с обходом графа одновременно вычисляется минимальное расстояние до узла. Без предварительного со-здания необходимых массивов иерархию шагов, которая отражает вложенность действий в про-грамме, можно представить следующим образом [4]:
1. Инициализация буфера FIFO начальным значением.
2. Запуск цикла, завершающего свою работу только после того, как буфер FIFO будет пуст.
2.1. Взятие очередного узла из буфера FIFO.
2.2. Удаление очередного узла из буфера FIFO.
2.3. Запуск цикла по обходу соседей полученного из буфера узла.
2.3.1. Сравнение расстояния в целевом узле (соседе полученного из буфера узла) и рас-стояния в полученном узле плюс расстояние от текущего узла до целевого узла.
2.3.1.1. При срабатывании условия в буфер FIFO добавляется целевой узел [4].
По данному алгоритму разработана сеть для определения алгоритма BFS, представленная на рис. 4.
Рис. 4. Сеть алгоритма BFS
В данной сети отсутствуют некоторые связи. Например, «Целевой узел» не имеет отно-шения «включен» с каким-либо узлом. Данное отношение подразумевает иерархическую под-чиненность в коде. Отсутствие иерархических связей создает устойчивость относительно места объявления переменной. Присутствуют и обобщения, например, не указаны однозначно методы, используемые контейнеры и цикл. Узел «Текущий узел» имеет обобщенный тип данных
и является обобщенной переменной. Все это позволяет обеспечить устойчивость к различным реализациям алгоритма. Полученная сеть устойчива к порядку выполнения команд (например,
к различному порядку объявления переменных), поскольку в ней учитывается только иерархи-ческая связь между командами.
Преобразование семантической сети в численный вектор
Для обработки семантической сети с помощью алгоритмов машинного обучения необхо-димо поставить в соответствие данной сети некоторый N-мерный вектор. Для этого поставим
в соответствие каждому узлу в сети некоторый вектор. Данный вектор описывает узел через его отношения с другими узлами семантической сети, в соответствии с ребрами, которыми они со-единены друг с другом. Тогда вся сеть будет описываться набором векторов – таблицей. Данная таблица является двумерным массивом, а задача преобразования двумерного массива в одно-мерный достаточно тривиальна.
Сама семантическая сеть является промежуточным результатом разбиения кода на блоки и необходима для построения отношений между различными объектами программы (например, вложенность или использование в качестве аргумента переменных), с помощью которых и будет происходить разбиение кода на блоки. Данные отношения необходимы не только для иерархического упорядочивания команд (функция main(), ее блоки и блоки блоков можно пред-ставить как иерархически подчиненные друг другу команды), но и для сохранения связей с объ-ектами вне программного блока (например, переменная, используемая в цикле, может быть объ-явлена вне него). Если разделять код исключительно по указанному иерархическому принципу, значимые связи между объектами программы могут быть утрачены. Сама сеть представляется
в виде списков смежных вершин.
Еще одной сложностью использования семантической сети программного кода напрямую является громоздкость ее графического представления. Даже для незначительного участка кода, приведенного выше (код для рис. 3), получаемая сеть весьма объемна (см. рис. 3). При этом в общем случае сеть будет иметь множество пересечений ребер и узлов при отрисовке в реализованном программном обеспечении, что требует ручного смещения узлов
в графическом отображении сети. Таким образом, таблица также выполняет роль представления сети в удобочитаемом формате.
Для преобразования семантической сети в вышеописанную таблицу можно воспользо-ваться модифицированным способом перекрестного поиска (поиска в ширину). Поиск будет запускаться из центрального узла для данного модуля программы/подсети (например, из узла функции main ()). Получим для каждого узла список пар «отношение-узел», отражающих путь до ближайшего узла с заданным свойством.
Формально алгоритм получения таблицы из семантической сети можно представить сле-дующим образом:
1. Выбрать стартовый узел сети для поиска в ширину.
2. Определить для каждого узла его соседей в соответствии с его связями: поиск в ширину распространяется по направленным ребрам, передавая в качестве аргумента предыдущие узлы, затронутые поиском, и их ребра.
3. Для каждого узла на основании его соседей строится двумерный массив, где количество элементов равно количеству видов ребер; сами элементы представляют собой набор узлов, яв-ляющихся соседними с данным узлом.
4. Полученные вектора для узлов сети разбиваются по типу (контейнеры, циклы, условия и т. п.).
5. Массивы соседей записываются друг под другом, образуя таблицу, блоками, получен-ными на предыдущем этапе.
Ниже в качестве примера в таблицу преобразован простейший пример алгоритма BFS:
vector>graph(nodeCount, vectorr(0));
vectorarr(nodeCount, 1e6);
arr[startPoint] = 0;
queueq;
q.push(startPoint);
while (!q.empty())
{
int current = q.front();
q.pop();
for (int i = 0; i < graph[current].size(); i++)
{
int next = graph[current][i];
if (arr[next] > arr[current] + 1)
{
arr[next] = arr[current] + 1;
q.push(next);
}
}
}
Полученная семантическая сеть кода не приводится по причине ее объемности. Получен-ная таблица (без абстрактных понятий) представлена ниже (табл.).
Таблица, получаемая из семантической сети
Типы действий (сегмент) Имя ISA Является_частью Включает
Объявление
контейнеры graph контейнер vector vector –
arr контейнер vector int –
q контейнер queue int –
Циклы while_1 цикл пока очередь_1 –
for_1 цикл for graph while_1
Условия if_1 ординарное условие arr, next, current while_1
Действия
с переменными current присваивание front_1 while_1
next присваивание graph, current while_1
arr[] присваивание arr, next, current while_1
Вызов функций pop_1 метод контейнера queue – while_1
push_1 метод контейнера queue next while_1
front_1 метод контейнера queue – while_1
Для сохранения связности сети некоторые операторы, не входящие в модуль (подсеть), все равно присутствуют в таблице. Для упрощения вычислений отношения имеют тип, присваи-вание и аргумент. Однако это может уменьшить качество преобразования сети в таблицу (уменьшается количество передаваемой информации).
Для перехода к числовому вектору каждому узлу ставится в соответствие число на коор-динатной оси. При этом близкие по смыслу понятия (например, две функции или две перемен-ные) группируются, т. е. должны иметь координаты в окрестности некоторой общей точки. Например, все действия с переменными имеют координаты в окрестности точки 100, а все вы-зовы функций – координаты в окрестности точки 1 000. Переход к координатам необходим, по-скольку в общем случае структура сети неизвестна, а это означает, что неочевидна возможность покраса графа (нумерование узлов графа) таким образом, чтобы сгруппировать узлы по смыслу понятий, которые они отображают. Общий алгоритм для получения координат не выработан, координаты подбирались эмпирически. Итоговый числовой вектор является последовательным набором всех значений таблицы.
Полученные значения координат для узлов сети подставляются в таблицу в те ячейки,
в которых записаны имена узлов, поставленных в соответствие данным координатам. Есте-ственно, что в ячейке может содержаться несколько узлов (например, для условия if_1 имеется 3 узла, связанных отношением «является частью» – if(arr[next] > arr[current] + 1)), в таком случае значение ячейки равняется среднему арифметическому подставляемых координат (один из воз-можных способов объединить получаемые значения). В итоге будет получена таблица соответ-ствия узлов сети некоторому числовому вектору. Данная таблица определяет узел через его со-седей. Для шаблонов алгоритмов можно построить схожие сети, за исключением того, что
в таблице будут присутствовать только абстракции и обобщения.
Для унификации порядка строк в таблице она разбивается на сегменты по типу узла (вы-полняемого действия (см. табл., колонка «Типы действий (сегмент)»). Чтобы решить задачу различного количества строк в двух сравниваемых таблицах (шаблонной и исследуемой), таб-лицы-шаблоны для алгоритмов можно дополнить пустыми строчками в каждом сегменте (огра-ниченного количества) – таким образом определяется размер входного вектора N для алгоритма машинного обучения. Например, на каждый сегмент таблицы выделяется пять строк, три из ко-торых заполнены, а остальные пустые, и если в алгоритме присутствуют дополнительные опе-раторы циклов, условий или тому подобное, шаблон все равно может быть сопоставим с тести-руемым образцом – лишние операторы образца займут места пустых строчек в таблице. Это позволяет отсечь модули со слишком большим количеством операторов (модули, состоящие из нескольких алгоритмов), поскольку в данных таблицах будет сбиваться порядок сегментов при превышении требуемого размера таблицей исследуемого кода: таблица урезается без учета по-рядка сегментов.
Получаемая таблица (шаблон) уникальна для каждой задачи. Ее структура формируется как преподавателем напрямую при выделении алгоритмов в задаче (например, ввод, получение ответа, вывод), так и косвенно путем «обучения» нейронной сети на идеальном решении: на идеальном решении строятся семантическая сеть и таблица, которые и используются для оценки решений обучающихся. При этом преподаватель может признавать корректным решением несколько алгоритмов и создать для каждого из них отдельный перцептрон.
Существует проблема определения порядка строк в сегменте таблицы, выбора сопостав-ляемых строк при неравном количестве пустых и заполненных строк в таблице. Используемым решением в данном исследовании является заполнение пустых строк имеющимися строчками до совпадения количества заполненных строк.
Метод определения алгоритма
Чтобы выявить алгоритм в исследуемом программном коде, необходимо выявить участок кода, соответствующий шаблону искомого алгоритма. Поскольку шаблон алгоритма является идеальной моделью, можно воспринимать алгоритм в коде как зашумленный образ. Поскольку вышеописанная таблица рассматривается как шаблон, идеальный образ, а исследуемые про-граммы как зашумленный образец, для определения алгоритма использовался однослойный перцептрон. Сравнение различных видов нейронных сетей не проводилось.
Процесс обучения для однослойного перцептрона представляет собой присваивание ко-эффициентам перцептрона W значений числового вектора полученного шаблона для искомого алгоритма – обучение в традиционном смысле не проводится, коэффициенты каждого перцеп-трона равны значениям числового вектора таблицы шаблона, который отображает данный пер-цептрон. В качестве функции активации используется сигмоида вида
f
Схема используемого однослойного перцептрона приведена на рис. 5.
Рис. 5. Схема перцептрона
Шаблон алгоритма запоминается через настройку весов, где j – номер перцептрона;
i∈[0, N]. Исследуемый программный код подается на входы x_i в виде N-мерного вектора. Каж-дый перцептрон формирует выходное значение y_k, где k – количество перцептронов в слое. Выходное значение y_k характеризует степени схожести поступившего на вход программного кода с занесенным в перцептрон шаблоном [5].
Для решения вопроса поиска конкретного участка кода, соответствующего шаблону, исследуемый код рекурсивно разбивается на составные блоки, каждый из которых сверяется с шаблоном. Например, сначала на вход однослойного перцептрона подается весь код основной функции main (семантическая сеть в виде N-мерного вектора), затем из кода исключается объявление основной функции (содержание функции, т. е. набор команд, определяющий ее, остается). Полученный код разбивается на блоки по принципу вложенности (цикл и его тело, условие и его тело
и т. п., одиночные операторы могут пропасть, как это описано выше). Далее, полученные блоки по отдельности сравниваются с шаблоном с помощью однослойного перцептрона. Затем каждый из блоков разбивается на новые блоки путем удаления связывающих их команд, и весь процесс повторяется, пока код не будет разбит на одиночные команды. При достижении определенного порогового значения выходным значением однослойного перцептрона можно говорить о наличии алгоритма в участке кода, который был подан на вход однослойного перцептрона.
В понятиях сети данный подход можно представить как разбиение сети на подсети. Узел, представляющий функцию main(), а также все последующие узлы, образующие программный блок (например, циклы или условия), можно определить как «центральные» узлы. Потомки узла определяются как узлы, соединенные с данным узлом отношением включения (например, узел определения main соединен отношениями включения с узлами команд, содержащихся в функ-ции main). Тогда на каждой итерации рекурсии исключается очередной центральный узел сети, а его потомки становятся новыми центральными узлами и образуют со своими потомками под-сети для очередной итерации рекурсии.
В итоге после обработки исследуемого кода, создания на его основе семантической сети
и обработки данной сети однослойным перцептроном с рекурсивным разбиением сети на подсе-ти выходные значения однослойного перцептрона образуют массив соответствий. В полученном массиве каждой подсети семантической сети исходного программного кода (блоку программного кода) соответствует некоторый алгоритм с некоторой степенью схожести, равной выдаваемому на выходе перцептрона значению.
Следует отметить, что шум может нести информацию о неэффективном использовании переменных, лишних действиях и прочих ошибках логического характера. Одним из направлений модификации алгоритма является выделение, обработка и распознавание шума в получаемых сетях.
Заключение
Поиск алгоритма с помощью сравнения подграфа сети с шаблонной сетью позволил вы-явить алгоритм BFS с заданной точностью: порог отсечения для выходов перцептрона равен 0,85 из расчета точности однослойного перцептрона при классификации базы MNIST равной
88 % [6]. В данном случае предполагается схожесть задач – распознавание зашумленных образов по заданному шаблону.
Однако база данных, используемая при тестировании созданного на основе изложенного алгоритма программного обеспечения, не является полной. Вероятна неустойчивость получен-ного алгоритма к различным вариантам решения. Способом решения данной проблемы может быть автоматическая настройка значений координат и автоматическое создание шаблонов алго-ритмов. Для реализации данной задачи необходимо создать значительную базу решений.
В рамках проведенного исследования предложен метод по преобразованию сети понятий, получаемой для программного кода, в N-мерный вектор. Предложенный метод позволит авто-матизировать определение используемых алгоритмов при решении задач по программированию. Возможным направлением будущих исследований является применение методов машинного обучения для поиска оптимального (дающего наилучшие результаты определения алгоритма) значения координат узлов семантической сети и шаблонов алгоритмов.
1. Невоструев К. Н. Обзор литературы по методам машинного обучения (machine learning) // КИО. 2014. № 4. С. 19-26.
2. Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. СПб.: Питер, 2001. 394 с.
3. Родзин С. И., Родзина О. Н. Модели представления знаний. Практикум по курсу «Системы искусственного интеллекта»: учебн. пособие. Таганрог: Изд-во ЮФУ, 2014. 151 с.
4. Обход в ширину // Сайт вики-конспектов Университета ИТМО. URL: https://neerc.ifmo.ru/wiki/index.php?title=Обход_в_ширину (дата обращения: 20.03.2020).
5. Осовский С. Нейронные сети для обработки информации / пер. с пол. И. Д. Рудинского. М.: Фи-нансы и статистика, 2002. 344 с.
6. MNIST (База данных). URL: https://ru.wikipedia.org/wiki/MNIST_(%D0%B1%D0%B0%D0%B7%D0%B0_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85)#cite_note-Multideep-8 (дата обращения: 14.02.2020).
