Яндекс подтвердил безопасность всех генеративных моделей семейства Alice AI
Яндекс впервые получил международный сертификат ответственной разработки ISO/IEC 42001 для всех моделей семейства Alice AI. Независимый аудит на соответствие стандарту прошли процессы создания и внедрения Alice AI LLM, Alice AI ART и Alice AI VLM — языковой, картиночной и мультимодальной генеративных моделей Яндекса. Ранее Яндекс стал первой компанией в России, получившей этот сертификат.
Аудит затронул все аспекты управления ИИ в Яндексе, включая обучение сотрудников правилам ответственной разработки и внедрение готовых моделей. Проверка подтвердила, что данные пользователей всех моделей семейства Alice AI защищены по требованиям стандарта, а возможные ошибки и аномалии непрерывно отслеживаются. Команды мониторят качество и этичность ответов моделей, в том числе с учётом обратной связи от пользователей.
В ходе аудита эксперты убедились, что Яндекс взвешенно подходит к оценке этических, юридических и социальных рисков, связанных с развитием ИИ, а также обеспечивает прозрачность всех этапов жизненного цикла разработки и эксплуатации нейросетей — от сбора данных для обучения до мониторинга и поддержки.
Alice AI LLM — большая языковая модель, которая умеет создавать и редактировать тексты, переводить с одного языка на другой, отвечать на вопросы пользователя и так далее. Она встроена в чат с Алисой AI, Поиск и другие сервисы Яндекса. Alice AI VLM — мультимодальная модель, которая умеет работать с текстом и изображениями одновременно. Она лежит в основе Умной камеры, Поиска по архивам, Live-режима в приложении «Алиса AI» и прочих сервисов. Alice AI ART — картиночная модель, которая создаёт и редактирует изображения по запросу пользователя, например в чате с Алисой AI или Шедевруме. Кроме того, Alice AI LLM и Alice AI ART доступны на платформе для разработки ИИ-приложений и агентов Yandex AI Studio — процессы предоставления моделей внешним клиентам также прошли аудит на соответствие международному стандарту.
В 2025 году Яндекс впервые в России получил сертификат ISO/IEC 42001 — тогда проверку проходила базовая языковая модель YandexGPT. Принципы, которых Яндекс придерживается при разработке и использовании ИИ, опубликованы на специальной странице. В июне 2026 года компания представила отчёт об ИИ-технологиях в кибербезопасности (PDF), где в том числе рассказала о подходе к безопасности собственных нейросетей. Также Яндекс является сооснователем и участником Альянса в сфере ИИ — в 2024 году участники Альянса подписали декларацию об ответственной разработке и использовании сервисов на основе генеративного искусственного интеллекта.