Анализ ИИ-атак для ВКР: архитектура защиты и метрики эффективности

Новый отчёт ZDNet подчёркивает знакомую закономерность: бизнес хочет использовать ИИ внутри, но путь к этой цели не всегда очевиден. Каждый второй security-лидер признаёт, что его организация не готова к атакам с использованием искусственного интеллекта. Это не страх ради хайпа — промпт-инъекции, отравление данных и автоматизированный фишинг уже бьют по компаниям. Для студента технического вуза такая новость — отличная возможность выбрать по-настоящему живую тему ВКР: не пересказ учебника, а проектирование решения, которое закроет реальную потребность.

Три темы для ВКР на основе кейса с ИИ-атаками

1. Разработка модуля обнаружения атак на LLM-сервисы

Актуальность: из отчёта следует, что 50% специалистов не готовы отражать ИИ-атаки — значит, нужны инструменты, которые можно встроить в контур существующей системы.

Цель: спроектировать и протестировать модуль, который детектирует аномальные промпты и подозрительный вывод модели.

Задачи:

• Классифицировать векторы атак по MITRE ATLAS;
• Разработать алгоритм фильтрации входящего трафика;
• Реализовать прототип модуля на Python (или Java);
• Провести нагрузочное тестирование и оценить точность.

Структура: Глава 1 — анализ угроз и обзор существующих решений; Глава 2 — архитектура и алгоритмы работы модуля; Глава 3 — тестирование, метрики и экономическая оценка.

2. Сравнительный анализ фреймворков для оценки защищённости ИИ-систем

Актуальность: прежде чем строить защиту, нужно понять, по каким стандартам её проверять. Неготовность лидеров часто связана не с отсутствием инструментов, а с непониманием методологии.

Цель: выбрать и обосновать фреймворк для пентеста ИИ-приложений в рамках конкретной компании.

Задачи: изучить NIST AI RMF, MITRE ATLAS, OWASP Top 10 for LLM Applications; определить критерии сравнения; провести эксперимент на тестовом стенде; сформулировать рекомендации.

Структура: Глава 1 — обзор фреймворков; Глава 2 — методика сравнения и критерии эффективности; Глава 3 — результаты эксперимента, выбор и внедрение.

3. Проектирование безопасной архитектуры интеграции корпоративной LLM-платформы

Актуальность: большинство компаний хотят внедрить ИИ, но не знают, как вписать его в существующий ИT-контур безопасно. Статья прямо говорит об этом разрыве.

Цель: разработать архитектурное решение с применением Zero Trust и контейнеризации.

Задачи: сформировать модель угроз; спроектировать сегментацию сети и политики доступа; реализовать прототип на Kubernetes; настроить мониторинг с OpenTelemetry и алертинг.

Структура: Глава 1 — теоретический анализ рисков ИИ; Глава 2 — архитектура и схемы информационных потоков; Глава 3 — внедрение, тестирование и оценка экономической выгоды.

Аналитическая глава: обосновываем актуальность и выбираем стек

В разделе 1.1 диплома можно смело ссылаться на отчёт ZDNet: «Половина security-лидеров не готовы к ИИ-атакам». Это сильный аргумент в пользу того, что выбранная тема важна. Дальше нужно показать, какие подходы уже существуют. Для этого удобно использовать сравнительную таблицу — она хорошо ложится в параграф «Обзор существующих решений».

Проектная часть: от статьи к техническим требованиям

Авторы ZDNet предлагают четыре действия для подготовки к ИИ-атакам. В дипломе эти действия удобно перевести в функциональные требования. Например:

• «Провести инвентаризацию ИИ-активов» — в дипломе это становится модулем учёта моделей и их версий;
• «Внедрить нулевое доверие» — проектируем архитектуру с минимизацией привилегий;
• «Усилить мониторинг» — настроить сбор метрик и алертов, используя OpenTelemetry и векторные БД;
• «Обучить персонал» — оформить как раздел по организационно-техническим мероприятиям.

Для второй главы диплома обязательно нужны схема архитектуры и диаграммы последовательностей. Не забудьте, что в пояснительной записке схема должна соответствовать ГОСТ 19.701 или IDEF0, если это требует кафедра. Обратите внимание: если работа выполняется по направлению «Информационная безопасность», нужно ссылаться на ГОСТ Р 56546-2015 и ISO/IEC 27001 при описании системы защиты.

Тестирование и метрики: как доказать эффективность

В третьей главе диплома студенты часто «забывают» про измеримые показатели. А защитная комиссия в первую очередь спрашивает: «Почему ваше решение лучше?» Поэтому закладывайте метрики заранее. Для детектора ИИ-атак основными будут precision / recall / F1-score. Плюс — время реакции на инцидент и количество ложных срабатываний.

Если тема связана с архитектурой и восстановлением после атак, добавьте метрики RTO (целевое время восстановления) и RPO (допустимая потеря данных). Например: «Разработанное решение позволяет снизить RTO с 8 часов до 1,5 часа, что сокращает финансовые потери на X рублей». Такие цифры сразу видно, они усиливают практическую значимость работы.

Для нагрузочного тестирования нужно сгенерировать датасет промптов: нормальные запросы и атакующие промпты. Можно использовать открытые наборы данных, например, из репозиториев MITRE, или собрать своими руками. Главное — указать методику в тексте и приложить результаты в виде таблиц и графиков.

Чему вы научитесь в процессе

Вы прокачаете навыки, которые реально требуют на стажировках: умение обосновать выбор технологического стека, спроектировать архитектуру микросервиса, развернуть его в Kubernetes и настроить мониторинг. Это заметно выделяет диплом на фоне типовых «расчётно-графических работ». Плюс вы научитесь оформлять техническую документацию по ГОСТ 34.602 — ТЗ и пояснительную записку, что тоже оценивается.

Частые вопросы студентов

Источник: 1 in 2 security leaders say they're not ready for AI attacks - 4 actions to take now (опубликовано 2026-03-24)