Infosecurity (ГК Softline) вывела на рынок комплекс услуг по безопасности искусственного интеллекта
Infosecurity «Софтлайн Решения» (ГК Softline) объявляет о запуске нового направления услуг по безопасности систем искусственного интеллекта. Новая практика объединяет техническую экспертизу в области кибербезопасности и подходы к управлению ИИ, помогая компаниям безопасно внедрять, использовать и масштабировать решения на базе искусственного интеллекта.
Искусственный интеллект становится неотъемлемой частью бизнес-процессов компаний. Организации используют ИИ для автоматизации операций, анализа данных, разработки программного обеспечения, клиентского обслуживания и поддержки принятия решений. Вместе с новыми возможностями появляются и новые вызовы: утечки конфиденциальной информации через ИИ-сервисы, теневое использование нейросетей сотрудниками, уязвимости LLM-приложений, ошибки моделей, отсутствие единых процессов управления ИИ и распределения ответственности.
В ответ на растущий запрос бизнеса на безопасное применение технологий искусственного интеллекта Infosecurity запустила комплексное направление по безопасности ИИ-систем. Компания предлагает услуги по оценке зрелости практик защиты искусственного интеллекта, оценке рисков безопасности ИИ-систем, Red Teaming LLM-приложений, внедрению процессов LLMSecOps, разработке корпоративного фреймворка управления безопасностью ИИ, а также подготовке к сертификации по международному стандарту ISO/IEC 42001.
Оценка зрелости позволяет определить текущий уровень развития процессов управления и защиты ИИ в компании, выявить ключевые пробелы и сформировать дорожную карту развития. Оценка рисков помогает определить наиболее критичные угрозы с учетом архитектуры, используемых моделей и бизнес-контекста организации.
Одним из наиболее востребованных направлений новой практики является Red Teaming LLM-приложений. В рамках работ пентестеры Infosecurity тестируют ИИ-системы на устойчивость к актуальным угрозам, включая промпт-инъекции, обход механизмов защиты, утечки данных через модели и другие сценарии атак, описанные в OWASP Top 10 for LLM Applications.
Для организаций, которые активно внедряют искусственный интеллект в процессы разработки и эксплуатации, эксперты компании помогают выстраивать подходы LLMSecOps, интегрируя требования безопасности в жизненный цикл ИИ-систем. Дополнительно заказчики могут разработать корпоративный фреймворк управления ИИ, включающий роли, процессы, внутренние политики и требования к использованию искусственного интеллекта в компании.
Отдельным направлением является подготовка к сертификации по стандарту ISO/IEC 42001 - первому международному стандарту, устанавливающему требования к системе менеджмента искусственного интеллекта. Эксперты Infosecurity помогают организациям оценить готовность к сертификации, выстроить необходимые процессы и подготовить к успешному прохождению внешнего аудита.
«Сейчас компании сталкиваются с необходимостью не только внедрять искусственный интеллект, но и обеспечивать его безопасное использование. При этом риски ИИ существенно отличаются от традиционных угроз информационной безопасности и требуют отдельного подхода к управлению. Новое направление позволит нашим заказчикам выстроить комплексную систему управления безопасностью ИИ - от оценки рисков и тестирования до внедрения процессов и подготовки к сертификации», - отметил Алексей Чуриков, руководитель департамента кибербезопасности бизнеса Infosecurity «Софтлайн Решения» (ГК Softline).
Новое направление услуг ориентировано на организации, использующие или планирующие использовать технологии искусственного интеллекта в корпоративных системах, клиентских сервисах, аналитике данных, разработке программного обеспечения и других бизнес-процессах.