Конец игры в этику: Бигтех и Пентагон строят военный ИИ без тормозов
Многолетняя игра в этичный ИИ потихоньку заканчивается. Мы наблюдали этот процесс последовательно — сначала OpenAI убрала обещание не использовать ИИ в военных целях (после чего официально «заколлабилась» с Пентагоном). За ними, не отставая, то же сделал Google. Насчёт xAI Маска вообще нет уверенности, что они когда-то занимали себя подобными этическими вопросами. И вот эта постепенная спайка ИИ-компаний с американским ВПК подходит к логичному финалу: до конца января нейросети Grok и Gemini, по заявлением новоиспечённого министра войны США, будут интегрированы в работу Пентагона на всех уровнях.
Во время выступления Пита Хегсета на базе SpaceX Starbase были и другие заявления, не менее интересные. Он подтвердил, что армии больше не нужны соевые модели, чья «идеология», то бишь заложенный набор ценностей, мешает наводить ракеты на противника. Вот так отсутствие цензуры и моральных принципов неожиданно стало преимуществом перед конкурентами.
Этим ведомство не ограничилось — своей главной метрикой они считают так называемую deployment velocity, то бишь скорость, с которой происходит интеграция всех новых продуктов и их обновлений. Условно говоря, внедить Gemini 4 надо успеть в течение 30 дней после её выхода, а любое сопротивление на местах будет подавлено.
Кремниевой долине это нужно, конечно, не из-за щемящего сердце патриотизма, а из-за обильного урожая госконтрактов, которые растут вокруг Пентагона и его структур. Palantir Питера Тиля и другие стартапы уже доказали, что софт может быть не менее ликвидным, чем реальное вооружение. А вот рисков меньше — если танк в итоге должен поехать и даже, в идеале, где-то кого-то убить справиться с каким-то противником, то с ИИ спроса нет никакого. Ему достаточно просто быть.
Бигтех потому с готовностью согласился на роль подрядчиков в создании War Data Platform. Ведомство не стало выбирать одного поставщика, а просто разложило яйца по разным корзинам: вся братия из OpenAI, Google, Anthropic и xAI получили по 200 миллионов долларов. OpenAI работает в каких-то закрытых прототипах, Gemini назначили лицом платформы GenAI.mil для офисных приложений, ну а Grok Илона Маска интегрируют во внутренние сети и базы данных. Опрометчиво — сказали бы мы, но речь про Пентагон, потому скатертью дорожка.
Зачем, наверное думаете вы, Пентагон делает ставку на капризную и непредсказуемую технологию, особенно учитывая проблему галлюцинаций и рисков безопасности? Всё ради развития — могли ответить бы мы, если бы не обнаружили среди инвесторов упомянутых здесь компаний упомянутые здесь же лица. В семейном портфеле Пита Хегсета лежат пакеты акций Alphabet, Microsoft и Amazon (от которых он формально начал избавляться после назначения). У вице-президента Вэнса откуда-то взялись акции оборонных стартапов вроде Anduril и связи с Питером Тилем. Да и главный «куратор» ИИ в Белом доме Дэвид Сакс пришел из венчурного технологического бизнеса. Ну а Маск уже очень давно оседлал волну госконтрактов и умеет жить на них как никто другой. Разумеется, всё совершенно законно. На этом фоне даже как-то неловко вспоминать, что речь идёт об армии.