Google готовит отдельный чип для Gemini

Google разрабатывает серверный процессор Frozen v2, созданный специально для запуска Gemini. По данным The Information, его могут начать использовать в 2028 году. Компания рассчитывает сократить задержки и расход энергии за счёт того, что чип будет изначально приспособлен к устройству её главной ИИ-модели. По внутренним оценкам, он сможет выдавать в шесть–десять раз больше токенов на единицу энергии, чем современные TPU, однако готового процессора и официальных результатов тестов пока нет.

Frozen v2 родился из Frozen, в котором Google хотела закрепить в процессоре ещё и веса Gemini. От этой идеи отказались, чтобы чип не устаревал после каждого крупного обновления модели. В новой версии чипа часть повторяющихся операций хотят заложить непосредственно в схему процессора, чтобы он выполнял их быстрее и тратил меньше энергии. Веса модели останутся загружаемыми, поэтому Google сможет обновлять Gemini без замены оборудования. Однако при серьёзной перестройке архитектуры преимущества такого чипа могут исчезнуть – либо компании придётся разрабатывать новое поколение.

Собственные TPU изначально создавались ради скорости и эффективности. Для быстрых ответов в поиске, перевода или отдельных инструментов обработки фотографий можно использовать более лёгкие модели, и для их запуска как раз пригодятся оптимизированные чипы. Эта тихая кремниевая революция (/articles/67678/) уже помогла Google снизить стоимость инференса, а Frozen v2 делает следующий шаг – теперь под Gemini хотят приспособить не только программное обеспечение, но и саму схему процессора. Похожую задачу решает разработанный OpenAI Jalapeño (/articles/75090/), хотя он сохраняет возможность запускать другие языковые модели.

На фото – чип Ironwood