HPE анонсировала суперкомпьютерное решение для генеративного искусственного интеллекта
Пользователи получают доступ к специализированному программному обеспечению. С ним проводить обучение и выполнять настройку моделей будет намного проще. Предусмотрена и возможность разработки приложений разного типа и назначения.
Также покупатель может приобрести суперкомпьютер, пользоваться сетями, хранилищами для размещения любых объемов данных. Охлаждение суперкомпьютеров — жидкостное. Компания гарантирует предоставление потребителям всех необходимых услуг, позволяющих использовать все возможности ИИ.
Решение для обучения и последующей настройки моделей, проведения сложных и масштабных вычислений, разработки приложений от HPE базируется на специализированном программном обеспечении. Внимания заслуживает и интеграция с технологией HPE Cray. А ее с самым быстрым суперкомпьютером, выведенным на рынок, объединяет общая архитектура, основанная на чипах NVIDIA Grace Hopper GH200.
Все обозначенные выше преимущества гарантируют, что пользователи получают доступ к решениям для самых сложных и масштабных задач. Например, можно обучать модели: большого языка (LLM) и рекомендаций глубокого обучения (DLRM).
В качестве успешного варианта использования нового суперкомпьютерного решения можно назвать обучение модели Llama 2. Ее отличительные особенности — открытый исходный код и необходимость обрабатывать более 70 млрд критериев самого разного вида. На ее настройку потребовалось всего 3 минуты. В результате собственник смог существенно уменьшить время окупаемости проекта. Благодаря использованию технологий NVIDIA и суперкомпьютеров от HPE в сочетании с необходимым ПО производительность системы в целом повышается в 2-3 раза.
Для настройки моделей ИИ пользователи получают в свое распоряжение несколько мощных программных инструментов. Они же незаменимы при разработке приложений разного назначения:
- Среда разработки машинного обучения HPE. Представляет собой платформу для обучения машинных моделей. С ней можно минимизировать временной отрезок, необходимый для обучения модели и ее развертывания для реального использования. Предусмотрена возможность интеграции с действующими платформами аналогичного назначения. Также можно существенно упростить вопросы подготовки данных для обучения моделей.
- NVIDIA AI Enterprise. С ним клиенты получают доступ к лучшим системам ИИ, могут решать вопросы, связанные с обеспечением безопасности данных, управляемостью процессов. Можно пользоваться моделями, уже прошедшими обучение, программными инструментами для обучения и настройки промышленных моделей.
- Пакет HPE Cray Programming Environment. С ним можно не просто подготовить код, но и отладить его в мелочах, протестировать и портировать.
В качестве базы для решения выбрана система HPE Cray EX2500. Класс — экзафлопсный. Разработчики использовали чипы NVIDIA GH200 Grace Hopper. В рамках одной системы можно объединять тысячи GPU — графических процессоров. Все узлы системы можно использовать в рамках единой рабочей нагрузки, чтобы максимально быстро окупить вложения в разработку модели ИИ.
Внимания заслуживает и такое предложение от HPE, как Slingshot Interconnect. Это — вычислительная сеть с максимально возможной производительностью, построенная на принципах Ethernet. С ней можно поддерживать рабочие нагрузки даже экзафлопсного класса. И снова базой стала технология HPE Cray. За счет этого система получает производительность выше, чем у аналогов.
Потребности в обработке больших массивов данных растут. Повышаются рабочие нагрузки, а с ними и объем хранилищ, мощность суперкомпьютеров. Эксперты говорят о том, что к 2028 году ЦОДы будут потреблять до 20 ГВт электроэнергии. На практике это означает, что проблема повышения энергоэффективности будет все более актуальной. В противном случае ЦОДы скоро станут основным источником выбросов CO2 в атмосферу. HPE уделяет самое пристальное внимание вопросам повышения энергоэффективности, в том числе за счет использования систем с жидкостным охлаждением. Если сопоставлять с суперкомпьютерами на воздушном охлаждении, то преимущество на каждый кВт составляет 20% и более. Потребление электроэнергии снижается на 15%.
На сегодняшний день HPE является лидером в вопросах производства и запуска суперкомпьютеров, работающих на жидкостном охлаждении. Современные технологии позволяют не только быстро и эффективно отводить тепло, но и минимизировать потребление электроэнергии даже при обучении самых сложных моделей с ИИ. С HPE можно разрабатывать приложения любого типа и назначения, обучать и внедрять машинные модели с десятками миллиардов параметров. И все это — с максимальной энергоэффективностью.