Проект
AgentGuard — ВКР магистратуры
Система защиты LLM-агентов от эскалации привилегий через атаки на LLM: каждое действие агента проверяется до выполнения
- 7
- узлов графа — от разбора запроса до аудита
Задача
LLM-агенты, которые умеют выполнять системные команды, уязвимы к prompt injection: через обычный запрос злоумышленник может заставить агента удалить системные логи или сбросить пароль администратора. Нужен слой, который проверяет каждое действие агента до того, как оно выполнится.
Решение
Агентский граф на LangGraph из семи узлов: разбор запроса и поиск признаков prompt injection, оценка риска от 0 до 100, план действия, контроль привилегий (политика разрешает или блокирует действие по уровню прав user / admin / root), выполнение в песочнице, аудит каждого решения в JSONL-журнал и ответ пользователю через локальную LLM (Ollama, Llama 2). Режимы baseline и protected позволяют сравнить поведение агента без защиты и с ней.
Результаты
- Опасные действия блокируются до выполнения, если не хватает прав
- Каждое решение агента записывается в журнал аудита