ТрансТелеКом представил комплексный подход к защите корпоративного ИИ
Руководитель Департамента услуг по информационной безопасности АО «Компания ТрансТелеКом» Александр Малявкин выступил на международной научно-практической конференции «PRO//Движение.Транспортные системы управления», которая проходит в Нижнем Новгороде с 18 по 20 августа. Мероприятие объединяет ведущих экспертов в области железнодорожного транспорта для обсуждения актуальных трендов и презентации новых технологических решений.
В ходе панельной сессии, посвященной применению технологий искусственного интеллекта на железнодорожном транспорте, Компания ТрансТелеКом представила доклад «Информационная безопасность ИИ». Выступление эксперта было посвящено рискам использования ИИ-систем и эффективным методам защиты от связанных с этим угроз – от утечки конфиденциальной информации и несанкционированных действий ИИ-агентов до нарушений требований законодательства. Особое внимание спикер уделил недостаточности классических средств защиты, которые не способны анализировать семантику пользовательских запросов (промптов) на естественном языке и ответов нейросети. Для решения этой проблемы докладчик предложил многоуровневую стратегию защиты, включающую сетевой, инструментальный, модельный и текстовый уровни, а также внедрение специализированных решений, которые уже имеются на рынке, таких как LLM Firewall и AI Secure Gateway.
В качестве практических шагов при внедрении корпоративного ИИ был представлен чек-лист, охватывающий этапы от аудита системы и проверки данных до внедрения инструментов контроля доступа и ограничения действий ИИ-системы и регулярного тестирования защищенности платформ ИИ.
«Искусственный интеллект стремительно проникает во все сферы бизнеса, и транспортная отрасль – не исключение. Но вместе с новыми возможностями он приносит и новые риски. Наша задача – не запрещать ИИ, а задавать адекватные стандарты безопасности использования, встраивать его в отраслевые экосистемы и процессы так, чтобы ИИ стал мощным инструментом и драйвером устойчивого развития», – заключил Александр Малявкин.