Опубликовано: 10.05.2026 | Источник: MIT Technology Review

AI в военных системах: как избежать иллюзии контроля в дипломной работе

Поддомен: AI/ML
Роль: Data/ML-инженер

Семантический анализ (выполнен)

• Primary keyword: дипломная работа по искусственному интеллекту в обороне
• LSI-запросы: explainable AI (XAI), human-in-the-loop, модельная интерпретация, метрики доверия к ИИ, архитектура автономных систем, ГОСТ Р 57968-2017 (ИИ), ISO/IEC 25010 (качество ПО), OWASP Top 10 for AI, OpenTelemetry, C4-моделирование
• Вопросы студентов:
  1. Как доказать, что ИИ-система безопасна, если она "чёрный ящик"?
  2. Где взять реальные данные для модели, связанной с обороной?
  3. Как оформить архитектуру ИИ-системы по ГОСТ?
  4. Какие метрики считать в главе 3 — точность или что-то другое?
  5. Можно ли использовать публичные модели (например, Claude, Mythos) в дипломе?
• Ключевые сущности: ISO/IEC 25010, OWASP AI Security & Privacy Guidelines, OpenTelemetry, C4-модель, ГОСТ Р 57968-2017

Выбранная структура: B

Введение → Основная часть (объединённая с темами) → FAQ → Чек-лист → Ошибки → CTA → Эксперт → Источник

---

Введение

В статье MIT Technology Review за 2026 год поднимается тревожный вопрос: иллюзия «человека в контуре» при использовании ИИ в военных системах. Пентагон формально соблюдает правила контроля, но на деле операторы не понимают, как принимаются решения. Это не просто этическая дилемма — это системная уязвимость. Для студентов, пишущих ВКР в сфере ИИ, это сигнал: если вы работаете с автономными системами, ваша задача — не просто построить модель, а доказать, что она интерпретируема, контролируема и безопасна. Иначе ваша работа будет выглядеть как теоретическая утопия. В этой статье покажу, как интегрировать тренд в диплом, не скатываясь в философию, а делая акцент на архитектуре, метриках и защите.

---

Основная часть: как вписать ИИ в оборону в дипломную работу

Статья даёт два мощных кейса: сомнения в происхождении неандертальской ДНК и критика «человека в контуре» при применении ИИ в войне. Первый — метафора: даже очевидные на первый взгляд выводы могут быть ошибочными из-за структуры данных. Второй — прямой вызов: автономные системы требуют не контроля, а прозрачности.

Вот как это использовать в ВКР.

Тема 1: Разработка архитектуры ИИ-системы с объяснимым выводом (XAI)

• Актуальность: как показано в статье, «человек в контуре» бессилен, если не понимает логику ИИ. Без XAI система становится рискованной.
• Цель: создать модель с интерпретируемыми решениями для сценария автоматизированного анализа угроз.
• Задачи:
  1. Проанализировать методы XAI (LIME, SHAP, attention maps).
  2. Разработать архитектуру с встроенной интерпретацией (например, гибридную: нейросеть + правила).
  3. Реализовать прототип на Python (например, классификация угроз по данным с дронов).
  4. Оценить метрики интерпретируемости и точности.
• Структура:
  • Глава 1 — Анализ XAI, обзор ГОСТ Р 57968-2017, требования ISO/IEC 25010 к надёжности.
  • Глава 2 — Проектирование архитектуры (C4-диаграмма), выбор стека (PyTorch, Captum, Streamlit).
  • Глава 3 — Тестирование: сравнение SHAP и LIME, оценка метрик (точность, F1, время интерпретации).

Тема 2: Оценка рисков ИИ-систем в условиях ограниченного контроля

• Актуальность: статья указывает, что люди не понимают, «что думает машина». Это прямой риск — особенно в обороне.
• Цель: разработать методику оценки рисков автономных ИИ-систем при частичной передаче решений.
• Задачи:
  1. Изучить кейсы из статьи (Anthropic vs Pentagon, Mythos).
  2. Адаптировать OWASP AI Security & Privacy Guidelines под военные сценарии.
  3. Построить матрицу рисков (вероятность/влияние) с учётом человеческого фактора.
  4. Предложить контрмеры: мониторинг, аудит, fallback-режимы.
• Структура:
  • Глава 1 — Анализ угроз, обзор нормативов (включая военные стандарты).
  • Глава 2 — Моделирование сценариев (BPMN: «обнаружение угрозы → ИИ анализирует → оператор подтверждает»).
  • Глава 3 — Оценка эффективности контрмер (например, снижение ложных срабатываний на 20%).

Тема 3: Сравнительный анализ ИИ-моделей для стратегического принятия решений

• Актуальность: Alibaba выпустила «Happy Oyster» — world model. Это показывает, что ИИ переходит от анализа к прогнозированию. Но, как и в случае с неандертальской ДНК, нужно отличать корреляцию от причинности.
• Цель: сравнить современные world models по способности моделировать причинно-следственные связи.
• Задачи:
  1. Выбрать модели: Happy Oyster, Mythos (если доступна), Claude, Gemini.
  2. Создать сценарии тестирования (например, «что будет, если отключить Starlink?»).
  3. Оценить качество выводов (по шкале: корреляция / причинность / логическая цепочка).
  4. Предложить архитектуру сценарного анализа с ИИ-поддержкой.
• Структура:
  • Глава 1 — Теория причинности в ИИ, обзор world models.
  • Глава 2 — Проектирование тестовых сценариев, выбор метрик (например, Causal Faithfulness Score).
  • Глава 3 — Эксперимент, анализ результатов, рекомендации по использованию в ВС.

Как оформить архитектуру: C4-модель и диаграммы

Не рисуйте «облако с надписью ИИ». Используйте C4-модель — это соответствует ГОСТ и покажет глубину проработки.

Контекст (C1): система взаимодействует с дронами, оператором, базой угроз. Покажите границы системы.

Контейнеры (C2): выделите модули: «ИИ-анализ», «XAI-интерфейс», «система аудита», «fallback-режим».

Компоненты (C3): внутри ИИ-анализа — «детектор аномалий», «классификатор угроз», «модуль интерпретации».

Код (C4): покажите пример реализации (например, SHAP-объяснение).

import shap
import torch

# Пример: объяснение решения модели
explainer = shap.Explainer(model)
shap_values = explainer(X_sample)
shap.plots.waterfall(shap_values[0])

Какие метрики считать в главе 3?

Не ограничивайтесь accuracy. Для ИИ в обороне важны:

• Точность (F1-score) — базовая метрика.
• Время принятия решения — критично в бою.
• Метрики интерпретируемости: SHAP consistency, LIME stability.
• Надёжность (ISO/IEC 25010): fault tolerance, recoverability.
• Риск ошибки: вероятность ложного срабатывания (FP rate).

Пример таблицы для главы 3:

Где взять данные?

Да, военные данные закрыты. Но есть выход:

• Симуляции: используйте OpenAI Gym, CARLA (для дронов), или создайте синтетические данные.
• Публичные датасеты: MSTAR (радарные изображения), UAVDT (видео с дронов), COCO с фильтром по военной тематике.
• Кейсы из статьи: Starlink outage, Alibaba Happy Oyster — можно использовать как сценарии.

В дипломе укажите: «Данные синтетические, но репрезентативны для реальных условий» — это соответствует ГОСТ Р 57968-2017.

---

Чему вы научитесь

• Проектировать архитектуру ИИ-систем с учётом интерпретируемости и безопасности.
• Оформлять диаграммы по C4 и BPMN, соответствующие требованиям нормоконтроля.
• Рассчитывать метрики не только точности, но и доверия к модели.
• Работать с ограниченными данными, используя симуляции и публичные источники.
• Обосновывать выбор решений через призму ISO/IEC 25010 и OWASP AI.

---

FAQ

Можно ли использовать закрытые модели (Mythos, Claude) в дипломе?

Да, но только в сравнительном анализе. Укажите: «Оценка проводилась на основе публичных отчётов, документации и API (если доступно)». Это соответствует академическим нормам.

Как защититься от замечаний о «недостатке практики»?

Покажите прототип: даже если это Jupyter Notebook с 200 строками кода, это лучше, чем «теоретическая модель». Добавьте скриншоты интерфейса, логи, графики метрик.

Как оформить схему архитектуры по ГОСТ?

Используйте UML или C4. Главное — подписи, легенда, масштаб. Сохраните как .png с разрешением 300 dpi. В приложении укажите: «Рисунок А.1 — Архитектура ИИ-системы».

Нужно ли писать код на C++ или хватит Python?

Для ВКР хватит Python. Главное — логика, воспроизводимость, комментарии. Если в вузе требуют C++, сделайте обёртку или укажите: «Прототип реализован на Python, промышленная версия — на C++».

---

Источник: The Download: bad news for inner Neanderthals, and AI warfare’s human illusion (опубликовано 2026-04-17)