автор: Варыгин Андрей Олегович
Студент
ФГБОУ ВО «Кубанский государственный университет»
Применение методов искусственного интеллекта для защиты информации: системный анализ и ключевые вызовы
УДК: 004.056
ББК: 32.816 + 32.97
Применение методов искусственного интеллекта для защиты информации: системный анализ и ключевые вызовы
Автор:
Варыгин А.О.
ФГБОУ ВО «КубГУ»
г. Краснодар, Россия
DOI: 10.5281/zenodo.18456472
ORCID: 0009-0001-9439-8341
АННОТАЦИЯ
В статье проводится системный анализ применения технологий искусственного интеллекта (ИИ) в сфере защиты информации. Рассматриваются основные направления использования ИИ: для обнаружения киберугроз (вторжений, вредоносного ПО, аномалий), анализа уязвимостей, управления идентификацией и доступом, а также для автоматизации процессов реагирования на инциденты (SOAR). Особое внимание уделяется машинному обучению и глубокому обучению как ключевым технологическим драйверам. В рамках системного анализа выявлены сильные и слабые стороны внедрения ИИ, проанализированы взаимосвязи с существующими системами безопасности. Статья также акцентирует ключевые вызовы и риски, связанные с применением ИИ в этой области: проблему «черного ящика» и объяснимости решений, необходимость в качественных данных и их конфиденциальности, уязвимость самих ИИ-моделей к атакам (adversarial attacks), а также этические и правовые вопросы. Делается вывод о том, что ИИ становится неотъемлемым компонентом современного кибербезопасного ландшафта, однако его эффективное и безопасное применение требует
преодоления указанных вызовов путем развития гибридных систем, методов Explainable AI (XAI) и создания соответствующей нормативно-правовой базы. Ключевые слова: искусственный интеллект, кибербезопасность, защита информации, машинное обучение, обнаружение угроз, анализ уязвимостей, adversarial attacks, объяснимый ИИ (XAI), системный анализ.
The application of artificial intelligence methods for information security: a systematic analysis and key challenges
Author:
Varygin A.O.
Kuban State University
Krasnodar, Russia
DOI: 10.5281/zenodo.18456472
ORCID: 0009-0001-9439-8341
ABSTRACT
The article provides a systematic analysis of the application of artificial intelligence (AI) technologies in the field of information security. The main areas of AI use are considered: for cyber threat detection (intrusions, malware, anomalies), vulnerability analysis, identity and access management, as well as for automating incident response processes (SOAR). Special attention is paid to machine learning and deep learning as key technological drivers. As part of the systematic analysis, the strengths and weaknesses of AI implementation are identified, and the interrelationships with existing security systems are analyzed. The article also highlights key challenges and risks associated with the use of AI in this area: the «black box» problem and the explainability of decisions, the need for high-quality data and its confidentiality, the vulnerability of AI models themselves to attacks (adversarial attacks), as well as ethical and legal issues. It is concluded that AI is becoming an integral component of the modern cybersecurity landscape, but its
стр. 2 из 9
effective and secure application requires overcoming these challenges through the development of hybrid systems, Explainable AI (XAI) methods, and the creation of an appropriate regulatory framework.
Keywords: artificial intelligence, cybersecurity, information security, machine learning, threat detection, vulnerability analysis, adversarial attacks, explainable AI (XAI), systematic analysis.
- Введение
Современный цифровой ландшафт характеризуется экспоненциальным ростом объема данных, увеличением сложности информационных систем и изощренностью киберугроз. Традиционные, правила-ориентированные (signature-based) системы безопасности зачастую не справляются с нулевыми атаками (zero-day), целевыми и многоэтапными угрозами (APT – Advanced Persistent Threat). В этом контексте технологии искусственного интеллекта (ИИ), и в первую очередь машинное обучение (МО), предлагают парадигмальный сдвиг – переход от реагирования на известные угрозы к прогнозированию и обнаружению неизвестных аномалий на основе анализа паттернов поведения.
Цель данной статьи – провести системный анализ применения методов ИИ для защиты информации, выделив ключевые направления, преимущества, системные взаимосвязи и, что наиболее важно, фундаментальные вызовы, стоящие перед исследователями и практиками в данной области. Актуальность темы обусловлена повсеместным внедрением ИИ-решений в продукты кибербезопасности и одновременным использованием ИИ злоумышленниками.
- Системный анализ применения ИИ в защите информации: основные направления
Системный подход позволяет рассмотреть ИИ не как изолированный инструмент, а как подсистему, интегрированную в общую архитектуру безопасности, взаимодействующую с другими компонентами (SIEM, базы
стр. 3 из 9
данных угроз, средства аутентификации) и внешней средой (поток событий, действия злоумышленников).
2.1. Обнаружение и классификация угроз
Это наиболее развитое направление, где ИИ демонстрирует наибольшую эффективность.
1) Обнаружение вторжений (IDS/IPS). Модели МО (например, изолирующий лес, SVM, нейронные сети) анализируют сетевой трафик и логи систем, выявляя отклонения от нормального (baseline) поведения. Это позволяет обнаруживать атаки, не имеющие известного сигнатурного шаблона.
2) Анализ вредоносного ПО (Malware Detection). Глубокое обучение (сверточные и рекуррентные нейронные сети) применяется для статического анализа бинарных файлов (рассматривая их как изображения или последовательности) и динамического анализа поведения в песочнице (sandbox).
3) Обнаружение фишинга и мошенничества. NLP-модели анализируют текст электронных писем, веб-страниц и сообщений, определяя стилистические и семантические признаки фишинга. МО также выявляет аномальные финансовые транзакции в режиме реального времени.
2.2. Анализ уязвимостей и управление ими
ИИ используется для:
1) приоритизации уязвимостей. Модели анализируют данные об уязвимостях (CVE), контекст системы (критичность актива, экспозицию в сети) и даже дискуссии в даркнете для прогнозирования вероятности эксплуатации и потенциального ущерба, помогая SOC-командам сосредоточиться на самых опасных угрозах.
2) автоматизированное тестирование на проникновение. ИИ агенты могут имитировать действия хакера, исследуя систему и находя новые, недокументированные векторы атаки.
2.3. Управление идентификацией и доступом (IAM)
стр. 4 из 9
∙ Поведенческая биометрия и непрерывная аутентификация. МО создает поведенческий профиль пользователя (манера печати, скорость движения мыши, паттерны активности), постоянно проверяя его соответствие. Любое отклонение может инициировать запрос повторной аутентификации.
2.4. Автоматизация реагирования на инциденты (SOAR)
ИИ выступает мозговым центром платформ SOAR (Security Orchestration, Automation and Response).
1) Корреляция событий. Анализ тысяч алертов от разных систем, отсев ложных срабатываний и выделение реальных инцидентов. 2) Автоматизация рутинных действий. После подтверждения инцидента ИИ-система может самостоятельно выполнять сценарии реагирования: изоляция зараженного хоста, блокировка вредоносного IP адреса, отзыв учетных данных.
- Системные преимущества и сильные стороны
Интеграция ИИ в систему защиты информации привносит следующие системные качества.
1) Адаптивность. МО-модели могут постоянно обучаться на новых данных, адаптируясь к эволюции тактик злоумышленников.
2) Масштабируемость. Способность обрабатывать и анализировать большие данные (Big Data) в объемах, недоступных человеку-аналитику. 3) Скорость и предиктивность. Обнаружение угроз в реальном времени и прогнозирование потенциальных атак на основе анализа тенденций. 4) Снижение нагрузки на аналитиков. Автоматизация рутинных задач позволяет экспертам по безопасности сосредоточиться на стратегических и сложных инцидентах.
- Ключевые вызовы и системные риски
Несмотря на потенциал, внедрение ИИ в критически важную сферу безопасности сопряжено с серьезными вызовами, которые требуют системного осмысления.
стр. 5 из 9
4.1. Проблема «черного ящика» и объяснимости (Explainable AI – XAI)
Многие сложные модели, особенно глубокого обучения, не предоставляют понятного человеку обоснования своих решений. В контексте безопасности это неприемлемо. Аналитик SOC не может слепо доверять решению заблокировать важный бизнес-процесс без понимания причин. Развитие XAI – направление, направленное на создание интерпретируемых и доверяемых моделей, – становится обязательным условием для оперативного применения ИИ.
4.2. Качество данных, конфиденциальность и смещение (Bias) 1) Качество данных. Эффективность МО напрямую зависит от качества и репрезентативности обучающих данных. Неполные, несбалансированные или устаревшие данные приводят к некорректным и необъективным прогнозам.
2) Конфиденциальность. Для обучения моделей часто требуются чувствительные данные (логи аутентификации, содержимое пакетов). Необходимо применять методы, обеспечивающие приватность, такие как дифференциальная приватность (differential privacy) или федеративное обучение (federated learning), когда модель обучается на децентрализованных данных без их централизации.
3) Смещение (Bias). Модель может унаследовать скрытые предубеждения, содержащиеся в данных (например, чаще флажить активность сотрудников из определенного отдела как аномальную), что приведет к дискриминационным или неэффективным решениям.
4.3. Уязвимость самих ИИ-моделей к атакам (Adversarial Attacks) Это один из самых серьезных технических вызовов. Противник может целенаправленно манипулировать входными данными, чтобы обмануть модель. 1) Adversarial Examples. Внесение незаметных для человека изменений в изображение или образец вредоносного ПО, чтобы модель классифицировала его неправильно.
стр. 6 из 9
2) Отравление данных (Data Poisoning). Внесение в обучающую выборку специально сконструированных данных, которые «ломают» модель на этапе обучения, снижая ее точность или внедряя уязвимости. Защита ИИ-моделей от таких атак (Adversarial Machine Learning) – активно развивающаяся область исследований.
4.4. Этические и правовые вызовы
1) Автономность и ответственность. Кто несет ответственность, если автономная ИИ-система заблокировала легитимную транзакцию или, наоборот, пропустила атаку, причинившую ущерб? Необходимо четкое регулирование.
2) Прозрачность и аудит. Требования к прозрачности алгоритмов, используемых в критической инфраструктуре. Возможность независимого аудита моделей безопасности.
3) Двойное использование. Технологии ИИ для защиты могут быть обращены в инструменты для создания автоматизированных и умных систем кибератак (например, для генерации фишинговых писем или адаптивного вредоносного ПО).
4.5. Операционные и ресурсные сложности
Внедрение и поддержка ИИ-систем требуют высококвалифицированных специалистов (data scientists, ML-инженеры), значительных вычислительных ресурсов для обучения и инференса, а также интеграции в сложную legacy инфраструктуру многих организаций.
- Перспективы и направления развития
Для преодоления указанных вызовов развитие будет идти по следующим направления.
1) Гибридные системы. Комбинация сигнатурных методов, экспертных систем и МО для повышения надежности и объяснимости. 2) Развитие XAI и Adversarial ML. Создание устойчивых и одновременно интерпретируемых моделей.
стр. 7 из 9
3) Стандартизация и регулирование. Разработка международных и национальных стандартов, этических кодексов и законов, регулирующих применение ИИ в безопасности (инициативы вроде EU AI Act).
4) Совместная защита (Collaborative Defense). Создание безопасных экосистем для обмена анонимизированными данными об угрозах и моделями между организациями без нарушения конфиденциальности.
- Заключение
Искусственный интеллект перестал быть просто перспективной технологией в области защиты информации, превратившись в ее критически важный компонент. Системный анализ показывает, что ИИ значительно усиливает возможности по обнаружению, анализу и реагированию на киберугрозы, добавляя системам безопасности адаптивность, скорость и интеллект.
Однако эффективное и, что более важно, безопасное и ответственное внедрение ИИ невозможно без осознанного преодоления ключевых вызовов. Проблемы «черного ящика», уязвимости моделей к adversarial-атакам, этические дилеммы и потребность в качественных данных являются системными рисками, требующими междисциплинарных усилий исследователей, разработчиков, регуляторов и практиков кибербезопасности.
Будущее лежит не в слепом замещении традиционных методов ИИ, а в построении сбалансированных, гибридных, объяснимых и регулируемых систем, где искусственный интеллект выступает мощным усилителем человеческого экспертного потенциала в непрекращающейся борьбе за сохранение конфиденциальности, целостности и доступности информации.
Список литературы
- Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение. – М.: ДМК Пресс, 2018. – 652 с.
стр. 8 из 9
- Шумский С.А., Якунин К.А. Нейросетевые методы в защите информации // Информационные технологии и безопасность. – 2020. – № 4(35). – С. 45-58.
- Боуз Р., Пал С.К. Принципы распознавания образов. Машинное обучение и прогнозирование. – М.: Техносфера, 2017. – 480 с. 4. Кривошеев М.И., Петренко С.А. Кибербезопасность и искусственный интеллект: вызовы и возможности // Труды СПИИРАН. – 2021. – Т. 20, № 6. – С. 1245-1270.
- Хинтон Д., Лекун Й., Бенджио И. Глубокое обучение // В мире науки. – 2018. – № 10. – С. 28-37.
- Осипов А.В., Соколов И.В. Adversarial Machine Learning: атаки на системы машинного обучения и методы защиты // Вестник компьютерных и информационных технологий. – 2019. – № 11(185). – С. 3-12.
- Рекомендации ИСО/МЭК 27001:2022. Информационные технологии. Методы обеспечения безопасности. Системы менеджмента информационной безопасности. Требования.
- Рашба Э.И. Системы обнаружения вторжений, основанные на методах машинного обучения // Известия ЮФУ. Технические науки. – 2019. – № 7(204). – С. 110-125.
- Ясницкий Л.Н. Введение в искусственный интеллект. – М.: Академия, 2018. – 176 с.
- Чжоу Ч. Машинное обучение. – СПб.: Питер, 2021. – 336 с. 11. Apruzzese G., Colajanni M., Ferretti L., et al. On the Effectiveness of Machine and Deep Learning for Cyber Security // 2018 10th International Conference on Cyber Conflict (CyCon). – IEEE, 2018. – P. 371-390.
- Anderson, R. Security Engineering: A Guide to Building Dependable Distributed Systems. – Wiley, 2021. – 1408 p.
стр. 9 из 9
