Главная компания по безопасности ИИ случайно выложила в сеть свой закрытый код

Anthropic, которые инвестируют существенные деньги в безопасность искусственного интеллекта, сами выложили в открытый доступ исходный код ключевого продукта Claude Code. Одна из, вероятно, самых громких утечек эпохи ИИ произошла без участия хакеров, шпионов или кибератак. По словам компании, причиной стала ошибка при публикации релиза: вместе с программой в открытый доступ попал служебный файл для отладки, через который можно было восстановить исходный код. Использовался ли в процессе публикации ИИ, компания не говорит.

Пользователи оперативно скачали пакет, в котором лежали все исходники. В сеть утёк код работы сервиса: логика, скрытые функции, архитектура управления ИИ-агентами и неанонсированные проекты. Учитывая, что Claude Code считается одним из лучших инструментов для программистов по качеству работы, компания невольно сделала очень щедрый подарок конкурентам, которые вряд ли замедлят им воспользоваться. При этом важно отметить, что веса модели или данные клиентов не утекли.

Потери шире, чем от потенциального копирования подходов конкурентами. Для Anthropic это удар по репутации: компания старательно строила образ одержимой безопасностью лаборатории, которой можно доверить корпоративные данные. Теперь стартап, нацеленный на крупные корпоративные контракты и работу с государством, вынужден отвечать на вопросы рынка и политиков о своей надёжности как подрядчика. Пока ИИ-компании обсуждают экзистенциальные угрозы, моделируют сценарии ядерной эскалации и думают о далёком будущем, реальные угрозы по-прежнему возникают в самых скучных и рутинных процессах.