Huawei представила самый мощный в мире ИИ-процессор Ascend 910

Компания Huawei официально анонсировала самый мощный в мире ИИ-процессор — Ascend 910, а также универсальную вычислительную платформу MindSpore, подходящую для любых сценариев использования искусственного интеллекта.

«С момента анонса нашей стратегии развития в области искусственного интеллекта в октябре прошлого года мы значительно продвинулись вперед, — заявил Эрик Сюй (Eric Xu), действующий исполнительный директор Huawei. — Мы четко следуем разработанному плану, начиная с исследовательской работы и заканчивая выпуском продуктов. Мы обещали выпустить комплексный набор решений ИИ, подходящих для любых сценариев использования, и мы сдержали свое обещание, выпустив Ascend 910 и MindSpore. Это выводит Huawei на новый уровень в реализации стратегии развития искусственного интеллекта».

Ascend 910: больше вычислительной мощности, чем у любого другого нейронного процессора в мире

Ascend 910 — это новый процессор на базе искусственного интеллекта, входящий в серию чипсетов Ascend-Max компании Huawei. Huawei обнародовала плановые спецификации процессора в ходе главного мероприятия компании в 2018 году — конференции Huawei Connect. Спустя год непрерывных разработок появился процессор Ascend 910. Результаты тестирования показывают, что процессор достиг плановых показателей производительности и при этом потребляет значительно меньше энергии, чем планировалось изначально.

Производительность Ascend 910 — 256 терафлопс для операций с плавающей запятой (FP16). Для операций с целыми числами (INT8) производительность процессора составляет 512 терафлопс. Несмотря на такую невероятную производительность, максимальное потребление энергии Ascend 910 составляет всего 310 Вт, что существенно ниже плановых значений (350 Вт).

«Ascend 910 работает намного эффективнее, чем мы ожидали, — утверждает Эрик Сюй. — Без сомнения, он обладает большей вычислительной мощностью, чем любой другой ИИ-процессор в мире».

Ascend 910 предназначен для обучения моделей искусственного интеллекта. Использование Ascend 910 и MindSpore в типичной учебной сессии ResNet-50 позволяет обучать модели ИИ примерно в два раза быстрее по сравнению с другими распространенными картами обучения на базе TensorFlow.

Huawei планирует продолжить инвестиции в процессоры на базе искусственного интеллекта и выпустить на рынок больше разнообразных и доступных по цене, адаптируемых вычислительных технологий для широкого спектра применения (например, периферийные вычисления, вычисления в транспортных средствах для автономного вождения и обучение ИИ).

MindSpore: универсальная вычислительная платформа, которая позволяет разрабатывать ИИ-приложения для любых сценариев.

Вычислительные платформы для искусственного интеллекта имеют критически важное значение для облегчения разработки ИИ-приложений, их распространения, повышения их доступности и безопасности.

В 2018 году Huawei обозначила три критерия, которым должна отвечать разрабатываемая ИИ-платформа.

  • Простота разработки — это существенно сокращает продолжительность и стоимость обучения.
  • Эффективность — должно использоваться наименьшее количество ресурсов с максимально возможной энергоэффективностью.
  • Адаптируемость к любым сценариям использования — включая устройства, периферийные и облачные вычисления.

MindSpore является одной из важных вех в достижении этих целей. Поскольку защита конфиденциальности приобретает все большее значение, необходимой становится поддержка всех сценариев использования для обеспечения безопасного и широко распространенного искусственного интеллекта. Это ключевой элемент в структуре MindSpore, поэтому платформу можно легко адаптировать к различным условиям развертывания. MindSpore подойдет для любых сред — больших и малых — вне зависимости от бюджета ресурсов.

MindSpore помогает обеспечить конфиденциальность пользователя, поскольку имеет дело только с переменной и модельной информацией, которая уже была обработана. Платформа не обрабатывает сами данные, поэтому конфиденциальная информация пользователя эффективно защищена даже при использовании в кросс-сценариях. Кроме того, MindSpore имеет встроенную технологию защиты моделей, чтобы гарантировать их надежность и безопасность.

Платформа ИИ MindSpore адаптируется к любым сценариям использования с любыми устройствами, периферийными и облачными средами, а также обеспечивает взаимодействие между ними по требованию. Ее базовая концепция «Алгоритм ИИ как код» позволяет разработчикам с легкостью разрабатывать передовые ИИ-приложения и быстрее обучать свои модели.

В обычной нейронной сети для обработки естественного языка (NLP) MindSpore использует на 20% меньше строк основного кода, чем ведущие платформы на рынке, что помогает разработчикам повысить ее эффективность не менее чем на 50%.

Благодаря инновациям в области инфраструктуры, а также совместной оптимизации MindSpore и процессоров Ascend, решение Huawei позволяет разработчикам более эффективно осуществлять сложные вычисления, связанные с искусственным интеллектом, а также удовлетворяет потребность в разнообразных вычислительных мощностях для различных сфер применения. Это позволяет добиться более высокой производительности и более эффективного выполнения задач. Помимо процессоров Ascend, MindSpore также поддерживает графические, центральные и другие типы процессоров.

Представляя MindSpore, Эрик Сюй подчеркнул стремление компании Huawei создать более надежную и динамичную экосистему искусственного интеллекта.

«MindSpore выйдет с открытым кодом в первом квартале 2020 года. Мы хотим достичь широкого внедрения искусственного интеллекта и помочь разработчикам делать именно то, что они умеют лучше всего».

Создавая по-настоящему повсеместный ИИ

Прежде чем объявить о выпуске Ascend 910 и MindSpore, Эрик Сюй напомнил о стратегии Huawei в области искусственного интеллекта:

  • Инвестиции в исследования ИИ: развивать фундаментальные возможности машинного обучения в области компьютерного зрения, обработки естественного языка, принятия решений, формирования выводов и т.д. Пристальное внимание уделяется:
    - эффективности использования данных и энергии (т. е. использование меньшего количества данных, снижение объемов вычислений и энергопотребления),
    - безопасности и надежности,
    - автоматизации/автономной работе.
  • Создание комплексного набора решений ИИ
    - возможность адаптации ко всем сценариям, включая как автономную, так и совместную работу устройств, периферийных и облачных сред
    - значительные и доступные вычислительные мощности.
    - эффективная и простая в использовании ИИ-платформа с полным набором сервисов.
  • Помощь в развитии талантов и создание открытой экосистемы: масштабное сотрудничество учеными кругами, представителями отраслей и партнерами по всему миру
  • Совершенствование имеющегося портфеля продуктов: внедрение характерного для ИИ мышления и методов в существующие продукты и решения с целью повышения их ценности и конкурентоспособности
  • Повышение эффективности работы: использовании ИИ для автоматизации повторяющихся задач с большими объемами данных с целью повышения эффективности и качества работы.

Портфель решений компании Huawei в области ИИ охватывает все сценарии развертывания, включая открытые и частные облачные среды, периферийные вычисления, устройства IoT и потребительские устройства. Портфель представляет собой комплексный набор решений: процессоры Ascend IP и микропроцессоры, платформа для внедрения микропроцессоров CANN, платформа для обучения и формирования выводов MindSpore, а также платформа для внедрения приложений под названием ModelArts.

Huawei считает искусственный интеллект современной технологией общего назначения, сравнивая ее с железными дорогами и электричеством в XIX веке и компьютерами, автомобилями и Интернетом в XX-ом. Компания считает, что ИИ рано или поздно найдет свое применение во всех отраслях экономики.

По мнению Эрика Сюй, искусственный интеллект все еще находится на раннем этапе своего развития: необходимо устранить определенные пробелы, прежде чем технологии искусственного интеллекта станут по-настоящему универсальными. Стратегия Huawei в области развития ИИ как раз и ориентирована на устранение таких пробелов и ускоренное внедрение этих технологий в глобальном масштабе. В частности, Huawei планирует изменения по следующим десяти направлениям.


  1. Предложение более мощных вычислительных инструментов, которые позволят сократить срок обучения сложных моделей от нескольких дней и месяцев до считанных минут или даже секунд.
  2. Предложение более экономичных и разнообразных вычислительных инструментов. На сегодняшний день вычислительных инструментов мало, и они дорого стоят, что существенно тормозит развитие технологий ИИ.
  3. Формирование универсального набора технологий ИИ, который будет отвечать самым разным потребностям компаний, обеспечивая при этом надежную защиту конфиденциальных данных пользователей. Такой набор технологий позволит применять ИИ практически в любом сценарии, а не только в открытых облачных средах.
  4. Инвестиции в базовые алгоритмы ИИ. Алгоритмы будущего должны уметь эффективно работать с данными — то есть, обеспечивать те же результаты при использовании меньшего объема данных. Они также должны обеспечивать энергоэффективность и достигать тех же результатов с использованием меньшей вычислительной мощности и более низком энергопотреблении;
  5. Использование MindSpore и ModelArts для автоматизации развития искусственного интеллекта, что позволит снизить зависимость от человеческого фактора.
  6. Дальнейшее совершенствование алгоритмов моделей для разработки технологии ИИ промышленного класса, которые будут надежно работать не только в лабораторных, но и в реальных условиях.
  7. Разработка системы с обратной связью в реальном времени, которая обеспечит обновление моделей, что в свою очередь позволит корпоративным приложениям ИИ постоянно поддерживать оптимальное состояние.
  8. Максимально эффективное использование возможностей ИИ за счет синергии с другими технологиями, такими как облако, IoT, граничные вычисления, блокчейн, большие данные и базы данных.
  9. Сделать искусственный интеллект основным рабочим инструментом разработчиков приложений и специалистов по ИКТ, предоставив им единую платформу разработки на основе комплексного портфеля технологий ИИ. Сегодня лишь высококвалифицированные эксперты способны работать с искусственным интеллектом.
  10. Увеличение инвестиций в открытую экосистему ИИ и формирование пула талантливых молодых специалистов нового поколения в сфере ИИ, что позволит удовлетворить растущий спрос на специалистов, обладающих навыками работы с искусственным интеллектом.

Повсеместное внедрение Ascend 310 и ModelArts

В ходе Huawei Connect 2018 компания Huawei представила свою стратегию развития ИИ и комплексный универсальный портфель технологий ИИ (в том числе процессор ИИ Ascend 310 и ModelArts), который обеспечивает полный набор сервисов по разработке и обучению моделей.

Ascend 310 — первая коммерческая система искусственного интеллекта Huawei на чипе (System on a Chip, SoC) серии Ascend-Mini. Потребляя всего 8 Вт мощности, Ascend 310 обеспечивает 16 Терафлопс при вычислении с целочисленной точностью (INT8) и 8 Терафлопс для вычислений с половинной точностью (FP16), что делает его самой мощной системой ИИ на чипе для граничных вычислений. Кроме того, Ascend 310 оснащен 16-канальным видеодекодером FHD.

С момента выхода на рынок Ascend 310 уже получил широкое распространение и используется в рамках самых разных продуктов и облачных сервисов. Например, решение Huawei Mobile Data Center (MDC), в котором применяется Ascend 310, многие ведущие автоконцерны устанавливают на рейсовые автобусы, автомобили на новых источниках энергии и беспилотные автомобили.

Ускоритель и сервер серии Atlas на базе Ascend 310 сегодня интегрированы в десятки решений для данной отрасли (например, «умный транспорт» и «умная сеть»), в разработке которых принимало участие множество партнеров.

Ascend 310 также обеспечивает поддержку облачных сервисов Huawei, таких как анализ изображений, оптическое распознавание текста и интеллектуальный анализ видеоданных. Для этих сервисов разработано более 50 API-интерфейсов. В настоящее время ежедневное число обращений к API превысило 100 миллионов, и эта цифра предположительно увеличится до 300 миллионов к концу 2019 года. Более 100 компаний уже используют Ascend 310 для разработки собственных алгоритмов ИИ.

Huawei ModelArts предоставляет сервисы разработки моделей, которые охватывают все этапы от сбора данных и создания модели до ее обучения и развертывания. Сегодня более 30 000 разработчиков ежедневно выполняют свыше 4 000 задач обучения с помощью ModelArts (то есть, в общей сложности 32 000 часов обучения). 85 % таких задач связаны с обработкой визуальной информации, 10 % предполагают обработку аудиоданных, а 5 % относятся к машинному обучению.

В Ascend 910 и MindSpore компания Huawei реализовала все ключевые компоненты своего комплексного универсального портфеля технологий ИИ. «Мы идем вперед согласно намеченному плану. Мы обещали выпустить комплексный набор решений ИИ, подходящих для любых сценариев использования, и мы это сделали», — говорит Эрик Сюй. Выпуск этих решений ознаменовал собой новый этап в развитии Huawei.

В завершение своей презентации Эрик Сюй добавил, что Huawei планирует представить также и другие революционные продукты в ходе предстоящей конференции Huawei Connect 2019, которая пройдет с 18 по 20 сентября в Шанхае. Компания Huawei и ее партнеры постоянно работают над тем, чтобы повысить доступность технологий ИИ, сделать их применение повсеместным и помочь людям и компаниям максимально эффективно использовать все преимущества цифровых технологий.