<?xml version="1.0" encoding="UTF-8"?>
<article article-type="research-article" dtd-version="1.3" xml:lang="ru" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:noNamespaceSchemaLocation="https://metafora.rcsi.science/xsd_files/journal3.xsd">
  <front>
    <journal-meta>
      <journal-id journal-id-type="publisher-id">moitvivt</journal-id>
      <journal-title-group>
        <journal-title xml:lang="ru">Моделирование, оптимизация и информационные технологии</journal-title>
        <trans-title-group xml:lang="en">
          <trans-title>Modeling, Optimization and Information Technology</trans-title>
        </trans-title-group>
      </journal-title-group>
      <issn pub-type="epub">2310-6018</issn>
      <publisher>
        <publisher-name>Издательство</publisher-name>
      </publisher>
    </journal-meta>
    <article-meta>
      <article-id pub-id-type="doi">10.26102/2310-6018/2024.46.3.016</article-id>
      <article-id pub-id-type="custom" custom-type="elpub">1634</article-id>
      <title-group>
        <article-title xml:lang="ru">Языковые модели и онтологии, угрозы безопасности в распределенной системе</article-title>
        <trans-title-group xml:lang="en">
          <trans-title>Language models and ontologies, security threats in distributed system</trans-title>
        </trans-title-group>
      </title-group>
      <contrib-group>
        <contrib contrib-type="author">
          <name-alternatives>
            <name name-style="eastern" xml:lang="ru">
              <surname>Донских</surname>
              <given-names>Никита Игоревич</given-names>
            </name>
            <name name-style="western" xml:lang="en">
              <surname>Donskikh</surname>
              <given-names>Nikita Igorevich</given-names>
            </name>
          </name-alternatives>
          <email>89046747920@mail.ru</email>
          <xref ref-type="aff">aff-1</xref>
        </contrib>
      </contrib-group>
      <aff-alternatives id="aff-1">
        <aff xml:lang="ru">Финансовый университет при Правительстве Российской Федерации</aff>
        <aff xml:lang="en">Financial University under the Government of the Russian Federation</aff>
      </aff-alternatives>
      <pub-date pub-type="epub">
        <day>01</day>
        <month>01</month>
        <year>2026</year>
      </pub-date>
      <volume>1</volume>
      <issue>1</issue>
      <elocation-id>10.26102/2310-6018/2024.46.3.016</elocation-id>
      <permissions>
        <copyright-statement>Copyright © Авторы, 2026</copyright-statement>
        <copyright-year>2026</copyright-year>
        <license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/">
          <license-p>This work is licensed under a Creative Commons Attribution 4.0 International License</license-p>
        </license>
      </permissions>
      <self-uri xlink:href="https://moitvivt.ru/ru/journal/article?id=1634"/>
      <abstract xml:lang="ru">
        <p>Исследования в области больших языковых моделей (Large Language Models) и систем обработки естественного языка (Natural Language Processing) активизировались из-за появления новых, латентных и серьезных рисков, например, нарушений процессов генерации вывода, вредоносных запросов в автоматическом режиме. Разрабатываются синергетические сценарии применения больших языковых моделей. Основная гипотеза, учитываемая в данном исследовании – возможность страховки (с заданной вероятностью) от генерации запрещенного контента и его «подмешивания» к пользовательскому запросу, учет онтологических свойств и связей для улучшения качества поиска в практических задачах, например, с помощью библиотеки онтологий. Использованы методы анализа-синтеза, моделирования-прогнозирования, экспертно-эвристические, теории вероятностей и принятия решений. Основные результаты статьи: 1) аналитика по проблемам применения больших языковых моделей в достижении устойчивости в инфраструктуре системы (предложена таблица ключевых методов); 2) предложена языковая модель устойчивости сетевой инфраструктуры на основе оценок распределений при подмешивании слов, в которой использован байесовский метод; 3) предложена и исследована аналогичная языковая модель на основе экспертно-эвристического подхода к оценке рисков (неопределенностей в системе), в частности, с использованием информационно-энтропийного подхода. Исследование можно развивать, усложняя модели (гипотезы) и «глубину» учета рисков.</p>
      </abstract>
      <trans-abstract xml:lang="en">
        <p>Research in the field of large language models and natural language processing systems has intensified due to the emergence of new, latent and serious risks, for example, violations of the output generation processes, malicious requests in automatic mode. Synergistic scenarios for large language models are being developed. The main hypothesis taken into account in this study is the possibility of insurance (with a given probability) from the generation of prohibited content and its "mixing" with the user query, taking into account ontological properties and connections to improve the quality of search in practical tasks, for example, using an ontology library. Methods of analysis-synthesis, modeling-forecasting, expert-heuristic, probability theory and decision-making were used. The main results of the article: 1) analytics on the problems of applying large language models in achieving stability in the system infrastructure (a table of key methods was proposed); 2) a language model of network infrastructure stability based on estimates of distributions when mixing words is proposed, which uses the Bayesian method; 3) a similar language model was proposed and studied on the basis of an expert-heuristic approach to assessing risks (uncertainties in the system), in particular, using an information-entropy approach. Research can be developed by complicating models (hypotheses) and the "depth" of risk accounting.</p>
      </trans-abstract>
      <kwd-group xml:lang="ru">
        <kwd>большие языковые модели</kwd>
        <kwd>устойчивость</kwd>
        <kwd>риски</kwd>
        <kwd>информационная безопасность</kwd>
        <kwd>управление</kwd>
      </kwd-group>
      <kwd-group xml:lang="en">
        <kwd>large language models</kwd>
        <kwd>resilience</kwd>
        <kwd>risks</kwd>
        <kwd>information security</kwd>
        <kwd>governance</kwd>
      </kwd-group>
      <funding-group>
        <funding-statement xml:lang="ru">Исследование выполнено без спонсорской поддержки.</funding-statement>
        <funding-statement xml:lang="en">The study was performed without external funding.</funding-statement>
      </funding-group>
    </article-meta>
  </front>
  <back>
    <ref-list>
      <title>References</title>
      <ref id="cit1">
        <label>1</label>
        <mixed-citation xml:lang="ru">Liu Y., Deng G., Li Y. et al. Prompt Injection attack against LLM-integrated Applications. URL: https://doi.org/10.48550/arXiv.2306.05499 [Accessed 14th June 2024].</mixed-citation>
      </ref>
      <ref id="cit2">
        <label>2</label>
        <mixed-citation xml:lang="ru">Martínez Torres J., Iglesias Comesaña C., García-Nieto P.J. Review: machine learning techniques applied to cybersecurity. International Journal of Machine Learning and Cybernetics. 2019;10(10):2823–2836. https://doi.org/10.1007/s13042-018-00906-1</mixed-citation>
      </ref>
      <ref id="cit3">
        <label>3</label>
        <mixed-citation xml:lang="ru">Кузьминов И.Ф., Бахтин П.Д., Тимофеев А.А. и др. Современные технологии обработки естественного языка для решения задач стратегической аналитики. Искусственный интеллект и принятие решений. 2020;(1):3–16. https://doi.org/10.14357/20718594200101</mixed-citation>
      </ref>
      <ref id="cit4">
        <label>4</label>
        <mixed-citation xml:lang="ru">Мударова Р.М., Намиот Д.Е. Противодействие атакам типа инъекция подсказок на большие языковые модели. International Journal of Open Information Technologies. 2024;12(5):39–48.</mixed-citation>
      </ref>
      <ref id="cit5">
        <label>5</label>
        <mixed-citation xml:lang="ru">Юргель В.Ю. Сложности моделирования естественного языка. Вестник науки и образования. 2019;(23-1):12–14.</mixed-citation>
      </ref>
      <ref id="cit6">
        <label>6</label>
        <mixed-citation xml:lang="ru">Fang H., Fang G., Yu T., Li P. Efficient Greedy Coordinate Descent via Variable Partitioning. In: 37th Conference on Uncertainty in Artificial Intelligence (UAI 2021): Proceedings, 27–30 July 2021, Toronto, Canada, USA. PMLR; 2021. pp. 547–557.</mixed-citation>
      </ref>
      <ref id="cit7">
        <label>7</label>
        <mixed-citation xml:lang="ru">Chen X., Zhang N., Xie X. et al. KnowPrompt: Knowledge-aware Prompt-tuning with Synergistic Optimization for Relation Extraction. In: WWW '22: Proceedings of the ACM Web Conference 2022, 25–29 April 2022, Lyon, France. New York: Association for Computing Machinery; 2022. pp. 2778–2788. https://doi.org/10.1145/3485447.3511998</mixed-citation>
      </ref>
      <ref id="cit8">
        <label>8</label>
        <mixed-citation xml:lang="ru">Фридман А.Я. Онтология проектирования ситуационных цифровых двойников для моделирования структурной безопасности индустриально-природных комплексов. Онтология проектирования. 2024;14(1):29–41. https://doi.org/10.18287/2223-9537-2024-14-1-29-41</mixed-citation>
      </ref>
      <ref id="cit9">
        <label>9</label>
        <mixed-citation xml:lang="ru">Dauphin Y.N., Fan A., Auli M., Grangier D. Language Modeling with Gated Convolutional Networks. In: 34th International Conference on Machine Learning: Proceedings, 6–11 August 2017, Sydney, Australia. 2017. pp. 933–941.</mixed-citation>
      </ref>
      <ref id="cit10">
        <label>10</label>
        <mixed-citation xml:lang="ru">Kaziev M.V., Medvedeva L.B., Tyutrin N.O., Khizbullin F.F., Takhumova V.O. Improvement and modeling of the company's activity based on the innovative KPI system. Journal of Fundamental and Applied Sciences. 2018;10(5S):1406–1415.</mixed-citation>
      </ref>
    </ref-list>
    <fn-group>
      <fn fn-type="conflict">
        <p>The authors declare that there are no conflicts of interest present.</p>
      </fn>
    </fn-group>
  </back>
</article>