AI Red Team

Находите уязвимости AI до того, как это сделает кто-то другой

Приложение AI Red Team моделирует атаки на AI-системы, выявляет слабые места и показывает, как модель ведёт себя при попытках обойти её инструкции и получить доступ к чувствительному контексту. Результаты могут быть использованы при обеспечении защиты ИИ в ГИС в соответствии с Приказом ФСТЭК №117


Анализ защищённости LLM (больших языковых моделей)

Выполнение требований Приказа ФСТЭК № 117

Тестирование безопасности систем искусственного интеллекта (ИИ/AI)

Запросить демонстрацию
Ответим Вам в кратчайшие сроки:
AI действительно защищён — или просто ещё не встретил правильный запрос?

Далее показаны скриншоты приложения AI Red Team, а также типовые проверки: попытки обойти системные инструкции, заставить AI раскрыть данные из контекста, изменить заданное поведение или выполнить нежелательные действия.


Как это работает
Генерация промптов
Автоматизированная система генерации и анализа вредоносных промптов для LLM на базе искусственных нейронных сетей
Компьютерная лингвистика
Интеграция современных методов компьютерной лингвистики с учётом особенностей и специфики русского языка. Наши публикации:
Научные публикации Habr
Комплексный анализ
Мультиагентная система анализа – одновременная проверка LLM и связанных плагинов/API на взаимодействие с внешними сервисами. Интеграция с популярными CI/CD-системами.
Методика
LLM-судья, оценивающая результаты тестов по критериям стандарта OWASP Top-10 for Large Language Model Applications 2026
Оценка рисков и отчёт
Уникальная система оценки рисков, формирование рекомендаций и списка возможных контрмер для минимизации рисков. Генерация подробного и прозрачного отчёта.
Команда проекта

Компания ООО "Ай Ред Тим" была создана сотрудниками и обучающимися Школы компьютерных наук ФГАОУ ВО "Тюменский государственный университет":

  • Паюсова Татьяна Игоревна, доцент Школы компьютерных наук
  • Якушева Валерия Сергеевна, студентка 5 курса специальности Компьютерная безопасность
  • Секацкий Максим Денисович, магистрант направления Прикладная информатика: Инженерия искусственного интеллекта
  • Буторин Данила Андреевич, студент 3 курса направления Математика
  • Шевченко Филипп Витальевич, студент 5 курса специальности Компьютерная безопасность