Компания «РТ-Информационная безопасность» сформировала пакеты экспертизы для выявления «теневого ИИ» – ИИ-агентов, которые используются на рабочих компьютерах без контроля службы информационной безопасности. RT Protect EDR определяет не только наличие такого ПО, но и его активность: запуск команд, работу с файлами и другие действия на устройстве. Это поможет компаниям контролировать риски, связанные с доступом ИИ к корпоративным данным и системам.
Сотрудники компаний все чаще используют ИИ-агенты для работы с кодом и другими задачами непосредственно на рабочих компьютерах. Интеллектуальные «помощники» могут получать контекст проекта, читать и изменять файлы, запускать команды, обращаться к внешним и локальным моделям, использовать плагины и средства автоматизации браузера.
«Использование ИИ-инструментов само по себе не является признаком нарушения информационной безопасности. Вместе с тем ИИ-агент действует от имени пользователя и наследует его полномочия, а значит, потенциально может обращаться к репозиториям, ключам доступа, конфигурационным файлам и другим данным, доступным учетной записи. В связи с этим при оценке активности агента мы считаем необходимым учитывать, от имени какого пользователя он работает, к каким данным обращается и какие действия выполняет. Обращения ИИ-процессов к таким объектам требуют особого внимания при расследовании. Наша задача - дать заказчикам инструмент, который позволяет видеть реальную активность ИИ-агентов и оценивать связанные с ней риски», — отметил генеральный директор «РТ-ИБ» Дмитрий Прендецкий.
Специалисты «РТ-ИБ» проанализировали распространенные ИИ-инструменты, включая Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline и OpenHands, а также локальную среду запуска моделей Ollama. Эксперты изучили особенности их работы на компьютере: запускаемые процессы, используемые файлы и каталоги, способы установки и сетевые обращения. На основе этих данных удалось определить признаки, по которым система может выявлять активность разных ИИ-агентов.
Исследование показало, что обнаружить такую активность только по сетевому трафику или наличию установленной программы невозможно. Локальные модели могут работать непосредственно на компьютере без обращения к внешним сервисам, а сами ИИ-инструменты – запускаться разными способами и не всегда отображаться в перечне корпоративного ПО. На основе результатов исследования эксперты «РТ-ИБ» сформировали два пакета экспертизы обнаружения и последовательности расследования для RT Protect EDR. Пакет «Контроль ИИ-агентов» фиксирует запуск и поведение агента на хосте, связывает его с учетной записью пользователя и показывает, к каким данным и командам он обращается. Пакет «Теневой ИИ» несанкционированные клиенты, локальные модели и каналы обращения к внешним сервисам.
Такой подход позволяет отличить установленный, но не используемый инструмент от ИИ-агента, который выполняет действия в рабочей среде, а также сохраняет применимость при появлении новых решений.