Опубликовано: 03.10.2026 | Источник: SecurityLab (RSS)

Система выявления ИИ-дезинформации в ВКР: от датасета до метрик качества

Новость от 26 марта 2026 года о том, что нейросети целый год «кормили» аудиторию сфабрикованными политическими нарративами, — это не просто сюжет про выборы. Для выпускника ИТ-направления это готовый кейс: массовая генерация синтетического текста ломает старые методы модерации контента. Классические фильтры по ключевым словам и ручная проверка не справляются с объёмом. Значит, появляется спрос на автоматические детекторы, классификаторы достоверности и пайплайны факт-чекинга. Если вы хотите, чтобы ваша ВКР выглядела современно и защищалась на конкретных метриках, — этот материал для вас. Разберём, как превратить тренд из статьи в структуру диплома, набор задач и понятные результаты.

Три темы ВКР, которые вырастают прямо из этой новости

Тема 1. Автоматизированный факт-чекинг политических заявлений на базе трансформерных моделей

Актуальность. Статья прямо описывает ситуацию, когда генеративные модели производят утверждения быстрее, чем редакции успевают их проверять. Классический ручной факт-чекинг не масштабируется — нужен программный конвейер.

Цель: разработать модуль, который принимает текстовое утверждение, находит подтверждающие или опровергающие источники и выдаёт оценку достоверности с объяснением.

• проанализировать существующие подходы (retrieval-augmented, классификационные, графовые);
• собрать и разметить корпус утверждений на русском языке;
• обучить и сравнить модели классификации;
• оценить качество по precision, recall и F1.

Структура: Глава 1 — обзор методов NLP и стандартов оценки качества ПО; Глава 2 — проектирование архитектуры сервиса и схемы данных; Глава 3 — эксперименты, метрики и расчёт ресурсов на развёртывание.

Тема 2. Платформа мониторинга распространения синтетического медиаконтента

Актуальность. Помимо текста, ИИ генерирует видео и аудио. Платформа должна отслеживать всплески публикаций, кластеризовать источники и подсвечивать координированное поведение.

Цель: построить систему потоковой обработки, которая собирает публикации, классифицирует их по признаку синтетичности и визуализирует динамику.

• спроектировать потоковый конвейер приёма данных;
• реализовать детекторы текстовых и медиа-признаков;
• настроить хранилище и агрегацию метрик;
• провести нагрузочное тестирование на пиковых объёмах.

Структура: Глава 1 — анализ архитектурных паттернов потоковой обработки и стандарта ISO/IEC 25010; Глава 2 — проектирование брокера сообщений, сервисов и хранилища; Глава 3 — стресс-тесты, замеры задержек, экономика эксплуатации.

Тема 3. Оценка доверия к источнику в новостных агрегаторах

Актуальность. Когда один и тот же ложный тезис расходится по десяткам площадок, важно не просто опознать текст, но и понять, кто его «разгоняет». Это уже задача про репутационные графы.

Цель: разработать модель скоринга источников на основе истории публикаций и связей между ними.

• собрать граф цитирований и перепостов;
• формализовать признаки доверия;
• построить и обучить скоринговую модель;
• валидировать результат на исторических данных.

Структура: Глава 1 — теория графов, метрики центральности, обзор аналогов; Глава 2 — архитектура графовой БД и API; Глава 3 — сценарии валидации, точность ранжирования, внедрение.

Аналитическая глава: как обосновать выбор стека, а не просто перечислить технологии

Первая глава диплома часто превращается в свалку определений. Не делайте так. Отталкивайтесь от проблемы из статьи: скорость генерации ложного контента выше скорости ручной проверки. Каждое техническое решение должно отвечать на вопрос «какой именно участок конвейера оно закрывает».

Оформляйте сравнение со ссылкой на ГОСТ 34.602-89 — это техническое задание, в котором фиксируются требования к системе. Многие комиссии смотрят именно на то, умеете ли вы связать требования из ТЗ с архитектурными решениями.

Проектная часть: схемы, алгоритмы и интеграция

Что должно быть на схемах

Как минимум — контекстная диаграмма (кто пользователи, что на входе и выходе), диаграмма компонентов и схема последовательности для основного сценария «поступила публикация → получена оценка достоверности». Не рисуйте UML ради UML: каждая диаграмма должна защищаться одной фразой.

Пример псевдокода конвейера проверки утверждения

def verify_claim(text):
    # 1. Извлекаем проверяемое утверждение
    claim = extract_claim(text)
    # 2. Ищем релевантные источники
    docs = search_index.search(claim, top_k=10)
    # 3. Классифицируем отношения источник-утверждение
    labels = model.predict_pairs(claim, docs)
    # 4. Агрегируем решение
    return aggregate(labels, weights=source_trust(docs))

Такой фрагмент в приложении к диплому выглядит убедительнее, чем абстрактное «применялись методы машинного обучения». Покажите, что вы понимаете порядок шагов и точку, где принимается решение.

Тестирование и метрики: чем вы будете доказывать работоспособность

Здесь чаще всего проваливаются. «Система работает» — не результат. Результат — числа и условия их получения. Минимальный набор:

• Качество модели: precision, recall, F1 по каждому классу, матрица ошибок.
• Производительность: среднее и 95-й процентиль времени обработки одной публикации.
• Надёжность: поведение при недоступности внешнего источника, восстановление после сбоя.
• Наблюдаемость: метрики через OpenTelemetry, дашборд с ключевыми показателями.

Если в вашей ВКР нет ни одной измеримой метрики, защита превращается в пересказ теории. Опирайтесь на ISO/IEC 25010 — там есть готовые категории качества (производительность, надёжность, удобство), к которым удобно «привязать» свои замеры.

Чему вы научитесь на такой теме

• проектировать многосервисную архитектуру и обосновывать выбор каждого компонента;
• работать с NLP-пайплайнами и оценивать качество моделей на реальных данных;
• строить сценарии нагрузочного тестирования и интерпретировать 95-й процентиль;
• оформлять техническую документацию в соответствии с ГОСТ 34 и ГОСТ 19;
• увязывать технические решения с экономикой внедрения — это отдельные баллы на защите.

Частые вопросы студентов

Насколько сложно собрать датасет для обучения модели?

Сложно, но выполнимо. Начните с открытых русскоязычных наборов и дополните их ручной разметкой 300–500 примеров. В дипломе важно описать методику разметки и согласованность между разметчиками.

Обязательно ли писать рабочий код?

Смотря на требования кафедры. В инженерных ВКР прототип почти всегда ожидается. Достаточно работающего MVP: конвейер обработки, базовая модель, сохранение результатов.

Как оформлять UML и схемы архитектуры?

Придерживайтесь единой нотации во всей работе. Компонентные и контекстные диаграммы удобно делать в PlantUML — они легко правятся и корректно печатаются. Подпишите на каждой схеме, какую задачу она иллюстрирует.

Где брать тестовые данные, если нет доступа к соцсетям?

Используйте открытые новостные архивы, публичные датасеты, а также синтетические примеры, сгенерированные самостоятельно и помеченные как таковые. В главе с тестированием обязательно укажите источник и ограничения выборки.

Источник: Хаос на выборах и потеря доверия. ИИ и массовая дезинформация навсегда изменили политику (опубликовано 2026-03-26)