Опубликовано: 29.04.2026 | Источник: MIT Technology Review

AI-модели, которые не выпускают в свет: как безопасность ИИ стать темой диплома

OpenAI и Anthropic заморозили релиз новых AI-моделей из-за рисков, связанных с кибербезопасностью и злоупотреблением. Anthropic даже назвала свою систему «Mythos» слишком опасной для публичного доступа. Это не фантастика — это реальный тренд: ведущие компании начинают осознанно ограничивать распространение технологий, способных автоматизировать атаки, генерировать дезинформацию или влиять на психику. Для студентов IT-специальностей это сигнал: безопасность ИИ перестаёт быть узкой нишей — она становится центральной темой архитектурного проектирования, тестирования и даже экономического обоснования решений.

Если вы пишете ВКР в сфере разработки, анализа систем, кибербезопасности или управления данными — игнорировать этот сдвиг нельзя. Устаревают подходы, в которых безопасность «дописывается» в последней главе. Новые требования — к встроенной безопасности (security by design), прозрачности решений и оценке этических рисков. Это значит, что ваш диплом может не просто описать систему, а предложить архитектуру, которая учитывает угрозы на уровне проектирования, как это делают OpenAI и Anthropic — но с академической строгостью и опорой на стандарты.

Актуальные темы ВКР на основе кейса

1. Архитектура безопасного AI-агента: от теории к защищённому прототипу

Актуальность: В статье упоминается, что OpenAI и Anthropic ограничивают доступ к новым моделям из-за рисков. Это показывает: безопасность — не опция, а часть жизненного цикла ИИ.

• Цель: Разработать архитектуру AI-агента с механизмами контроля доступа, аудита и ограничения функциональности (например, «не генерировать инструкции по вредоносным действиям»).
• Задачи:
  • Проанализировать угрозы по модели STRIDE и стандарту ISO/IEC 25010.
  • Выбрать фреймворк (например, LangChain с ограничениями) и встроить модуль фильтрации запросов.
  • Реализовать прототип с логированием и механизмом отказа в опасных сценариях.
  • Оценить эффективность с помощью метрик: количество блокировок, ложных срабатываний, время отклика.
• Структура:
  • Глава 1 — Анализ угроз и существующих подходов (включая кейсы OpenAI, Anthropic).
  • Глава 2 — Проектирование архитектуры с компонентами безопасности.
  • Глава 3 — Тестирование и оценка экономической целесообразности внедрения.

2. Оценка этических рисков AI-систем: методика на основе реальных кейсов

Актуальность: Следствие по делу о стрельбе в FSU, где ChatGPT якобы помогал в планировании, показывает: этические аспекты — не абстракция, а юридическая и социальная реальность.

• Цель: Разработать методику оценки этических рисков AI-систем на этапе проектирования.
• Задачи:
  • Изучить нормативные требования (в т.ч. ГОСТ Р ИСО/МЭК 25010-2018).
  • Построить матрицу рисков: потенциальное злоупотребление, дезинформация, влияние на психику.
  • Применить методику к кейсам: чат-бот в образовании, AI в HR, генерация контента.
  • Предложить рекомендации по снижению рисков.
• Структура:
  • Глава 1 — Нормативная база и анализ этических дилемм.
  • Глава 2 — Разработка и валидация методики.
  • Глава 3 — Применение к реальным сценариям и экономическая оценка.

3. Интеграция AI в CI/CD-пайплайны с контролем безопасности

Актуальность: Если AI может автоматизировать кибератаки (как упоминается в статье), то он же должен быть частью защиты.

• Цель: Создать CI/CD-пайплайн, в котором AI анализирует код на уязвимости и блокирует опасные коммиты.
• Задачи:
  • Выбрать инструменты: GitHub Actions, Snyk, модель CodeLlama или аналог.
  • Настроить автоматическую проверку кода с AI-подсказками.
  • Реализовать механизм блокировки при обнаружении угроз.
  • Измерить метрики: время на исправление уязвимостей, количество найденных багов.
• Структура:
  • Глава 1 — Обзор подходов к безопасной разработке (DevSecOps).
  • Глава 2 — Проектирование пайплайна с AI-модулем.
  • Глава 3 — Тестирование и сравнение с традиционными методами.

Как использовать кейс в разделах диплома

Аналитическая глава: обоснование выбора стека и архитектуры

Не просто перечисляйте «мы выбрали Kubernetes, потому что он популярный». Используйте статью как аргумент:

• «В условиях, когда AI-модели могут использоваться для кибератак (см. Axios, 2026), необходимы изолированные среды выполнения. Kubernetes с сетевыми политиками Calico позволяет ограничить межсервисное взаимодействие, снижая поверхность атаки».
• «Как показывает практика OpenAI, даже самые мощные модели требуют контроля. Поэтому в проекте используется архитектура с шлюзом API (например, Kong), где реализованы политики безопасности на уровне запросов».

В сравнительной таблице укажите не только производительность, но и уровень встроенной безопасности:

Проектная часть: схемы и алгоритмы с учётом безопасности

Не ограничивайтесь UML-диаграммами. Добавьте:

• Схему потока данных с выделением узлов, где возможны утечки (например, генерация ответа AI).
• Алгоритм обработки запроса: проверка через фильтр → логирование → генерация → пост-модерация.
• Пример кода с аннотациями безопасности (например, проверка на наличие запрещённых ключевых слов):

def safe_generate(prompt: str):
    if contains_malicious_intent(prompt):
        log_blocked_request(prompt, reason="security_policy")
        return "Запрос заблокирован политикой безопасности."
    return llm.generate(prompt)

Тестирование и метрики: не только производительность

Классические метрики (время отклика, TPS) — это хорошо. Но в 2026 году важно показать, что вы думаете о безопасности:

• RTO/RPO: Как быстро система восстанавливается после инцидента (например, попытки обхода фильтра).
• Коэффициент ложных срабатываний: Сколько легальных запросов было заблокировано по ошибке.
• Покрытие тестами сценариев злоупотребления: Используйте техники вроде adversarial testing — подавайте на вход провокационные или агрессивные запросы.
• Мониторинг: Внедрите OpenTelemetry для сбора метрик безопасности: количество блокировок, источники запросов, геолокация.

Чему вы научитесь

Работая над такой темой, вы не просто напишете диплом — вы получите навыки, востребованные в реальных проектах:

• Проектирование архитектуры с учётом безопасности с первого шага.
• Работа с современными инструментами: OpenTelemetry, LangChain, CI/CD-пайплайны.
• Обоснование выбора технологий не «потому что так все делают», а через призму рисков и стандартов.
• Оформление технической документации по ГОСТ 34.602-89: ТЗ, Технический проект, Описание программы.
• Измерение неочевидных метрик — этических и поведенческих рисков.

Можно ли не писать код в дипломе?

Если вы на IT-направлении — код обязателен. Но это может быть не полноценное приложение, а прототип (например, 300 строк на Python с тестами). Главное — показать, что вы умеете реализовывать архитектуру.

Как оформлять UML-диаграммы?

Используйте стандарт UML 2.5. Диаграммы должны быть читаемыми: не более 7 элементов на схеме, подписи на русском, легенда. Инструменты: draw.io, PlantUML, StarUML.

Где брать тестовые данные?

Используйте публичные датасеты (Kaggle, Hugging Face), синтетические данные (Faker, Synthea) или смоделируйте на основе реальных сценариев (например, логи запросов к чат-боту). Укажите источник в приложении.

Как измерить производительность в дипломе?

Используйте нагрузочные тесты: Locust, JMeter. Измеряйте: время отклика, количество ошибок, потребление памяти. Сравнивайте с базовым решением (например, до и после оптимизации).

Источник: The Download: an exclusive Jeff VanderMeer story and AI models too scary to release (опубликовано 2026-04-10)