Модель угроз
Формальная модель угроз документирует риски вроде prompt injection, SSRF и эксфильтрации данных с контролями и ответственными.
Инъекция промптов
Строгие системные промпты, RAG grounding и логика отказа ограничивают ответы вне контекста.
SSRF через сервисы загрузки знаний
Domain allowlists и egress-контроли блокируют внутренние или метаданные-таргеты.
XSS и очистка контента
Санитизация входов, CSP-заголовки и безопасная нормализация HTML в текст уменьшают риски.
Эксфильтрация данных
Изоляция тенантов, шифрование и audit-логи защищают данные клиентов и фиксируют доступ.
Риски цепочки поставок
SBOM, сканирование зависимостей и подписанные билды снижают риск третьих сторон.
Периодичность ревью
Модель угроз пересматривается ежеквартально и после крупных релизов. Контроли ведутся с ответственными, тест-кейсами и follow-up действиями.