Samsung хочет ускорить обмен данными в ИИ-чипах в восемь раз

Samsung показала концепт zHBM – нового типа памяти для ИИ-ускорителей. Сейчас модули HBM обычно стоят рядом с процессором, а компания предлагает разместить их прямо над ним. Короткие соединения должны ускорить обмен данными и снизить энергопотребление. Samsung рассчитывает получить до восьмикратного прироста на уровне интерфейса по сравнению с HBM5, более чем десятикратную плотность и втрое лучшую энергоэффективность.

Между ускорителем и памятью появится отдельный слой, куда заказчики смогут добавлять собственную управляющую логику. Это позволит адаптировать конструкцию под конкретные нейросети и серверы. Пока zHBM существует только в виде концепта: Samsung не показала рабочих образцов, результатов испытаний и сроков выпуска.

Вместе с ней компания представила zNAND-O – несколько кристаллов флеш-памяти, сложенных друг на друга и соединённых вертикальными контактами. Такая память должна работать быстрее обычных SSD и хранить рядом с ускорителем большие модели и другие данные. Это особенно актуально сейчас, когда дефицит и подорожание памяти становятся одним из главных ограничений для ИИ-инфраструктуры, а производители ищут способы расширять её даже через шину PCI.