Использование логических методов для анализа решений нейронной сети

В данной работе предлагается метод интерпретации решений нейронных сетей, основанный на использовании булевого интегро-дифференциального исчисления. Этот метод позволяет исследовать логику принятия решений нейронными сетями и определить наиболее важные признаки, влияющие на их решения. Метод может быть применен для задач классификации, особенно в случаях, когда каждый признак может быть представлен как k-значная переменная. В работе рассматриваются локальная и глобальная интерпретации решений. На первом этапе происходит связывание каждого входного вектора с соответствующим выходом нейронной сети. Затем путем решения булевого уравнения находятся логические функции, которые адекватно отражают входные данные и соответствующие им выходы. На втором этапе глобальной интерпретации строятся функции, объединяющие ранее найденные логические функции. Этот выбор функций основывается на их способности наиболее точно отражать решения нейронной сети и исследуемой области. Полученная функция обладает интерпретируемостью, модифицируемостью и способностью представлять полное множество решений, соответствующих заданному запросу. Она также выделяет наиболее значимые признаки для каждого решения. В работе рассматривается практическая реализация метода на примере нейронной сети, обученной на основе структуры и входных данных, состоящих из ответов на анкетные вопросы, с выходным узлом, предсказывающим диагноз. Параллельно с разработкой нейронной сети строится интерпретационная модель, которая позволяет выявить наиболее важные признаки для каждого диагноза на основе решений нейронной сети. Кроме того, в случаях с пограничными решениями, когда нейронная сеть предоставляет только одно возможное решение, интерпретационная модель способна найти все возможные решения с заранее заданной точностью, что помогает избежать ошибок в принятии решений.

1. Шибзухов З.М. Корректные алгоритмы агрегирования операций. Распознавание образов и анализ изображений. 2014;24:377–382.

2. Аверкин А.Н., Ярушев С.А. Обзор исследований в области разработки методов извлечения правил из искусственных нейронных сетей. Известия РАН. Теория и системы управления. 2021;6:106–121.

3. Ashley I., Naimi Laura B., Balzer Multilevel generalization: an introduction to super learning. European Journal of Epidemiology. 2018;33:459–464.

4. Haoxiang W., Smith S. Big data analysis and perturbation using a data mining algorithm. Journal of Soft Computing Paradigm. 2021;3-01:19–28.

5. Ribeiro, M. T., Singh, S., Guestrin C. "Why should I trust you?": Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. 2016:1135-1144.

6. Joe K, Vijesh, Jennifer S. Raj User Recommendation System Dependent on Location-Based Orientation Context. Journal of Trends in Computer Science and Smart Technology. 2021;3-01:4–23.

7. Grabisch M., Marichal J-L., Mesiar R., Pap E. Aggregation Functions. Cambridge, Cambridge University Press; 2009. (Encyclopedia of Mathematics and its Applications).

8. Yang F, Yang Zh, Cohen W. Differentiable learning of logical rules for reasoning in the knowledge base. Advances in the field of neural information processing systems. 2017;3:2320–2329.

9. Lyutikova L.A. Construction of a Logical-Algebraic Corrector to Increase the Adaptive Properties of the ΣΠ-Neuron. Journal of Mathematical Sciences. 2021;253:539–546.

10. Дюкова Е.В., Журавлев Ю.И., Прокофьев П.А. Методы повышения эффективности логических корректоров. Машинное обучение и анализ данных. 2015;11-1:1555–1583.