Dell совместно AMD расширяет свою экосистему Generative AI Solutions

Компании во всем мире уже смогли оценить возможности сервера Dell PowerEdge XE9680. Теперь планируется, что его неотъемлемой компонентой станут ускорители AMD Instinct MI300X, который только значится в планах на вывод на рынок. С ним системы искусственного интеллекта будут работать еще быстрее и продуктивней. Это относится в частности к большим языковым моделям или LLM.

После того как PowerEdge XE9680 будет дополнен MI300X, пользователи получат доступ к следующим техническим возможностям:

• 8 графических процессоров MI300X. Объем памяти каждого из них 192 ГБ, а пропускная способность будет доведена до 5,3 ТБ/с (HBM3);
• когерентная емкость высокопропускной памяти (HBM3) всего сервера составит 1,5 ТБ;
• общая производительность FP16 — свыше 21 петафлопс.

Разработчики системы полагают, что возможностей нового PowerEdge XE9680 будет достаточно для обучения даже самых сложных моделей с множеством параметров. При этом собственно ЦОД будет достаточно компактным. Одновременно можно говорить о снижении стоимости владения центром обработки данных, что в современных условиях является существенным конкурентным преимуществом.

Концерн Dell не планирует ограничиваться только использованием AMD MI300X Instinct Accelerator при реализации своих решений. В планах значится дальнейшее развитие линейки Dell Generative AI Solutions. Предполагается, что бизнесу из самых разных сфер деятельности в дальнейшем будет проще работать с генеративным искусственным интеллектом или GenAI.

В качестве базы для нового проекта от Dell выбраны открытые платформы AMD ROCm. Пользователи получат доступ к новому продукту от Dell уже в следующем году. С ним все желающие смогут создавать собственные большие языковые модели, работать с генеративным искусственным интеллектом.

Собственно AMD ROCm объединяет не только стеки драйверов и инструментов для разработки моделей, но и API, код которого открыт для внесения изменений. Все эти возможности позволяют существенно расширить сферу применения ускорителей Instinct от AMD. Как следствие, работать в области генеративного искусственного интеллекта будет проще. Этому способствуют высокая производительность, широкие возможности в части интеграции с иными системами и компактные размеры оборудования.

Сервер PowerEdge XE9680 имеет сразу несколько преимуществ перед аналогами от иных производителей. Он отличается повышенной производительностью. При этом достаточно прост в эксплуатации, а данные находятся под надежной защитой.

Для работы с PowerEdge XE9680 предназначено ПО Dell Open Manage Enterprise и CloudIQ. В первом случае упрощается развертывание инфраструктуры генеративного ИИ. Второй вид ПО позволяет получать доступ к данным вне зависимости от того, где находится пользователь. Внимание заслуживает и наличие функции восстановления данных после кибератак. В базовом варианте доверие является нулевым, что делает работу с системой еще более безопасной.

PowerEdge XE9680 построена на базе AMD Instinct. Здесь установлены сразу восемь ускорителей MI300X. За счет этого систему можно линейно масштабировать при необходимости. Доступно и распределенное обучение моделей генеративного ИИ. Задержки с подготовкой ответа и выводом становятся минимальными благодаря использованию Global Memory Interconnec (xGMI). В результате пользователь получает доступ к кластеру серверов Dell с графическими процессорами MI300X. Объединение происходит на базе Ethernet.

Концерн Dell вступил в Консорциум Ultra Ethernet (UEC). Приоритетом компании является разработка и внедрение сетей на базе действующих стандартов. При разработке решений для генеративного ИИ в Dell Technologies исходят из постулатов открытого подхода. Это относится и к обработке данных, и к их хранению, и к организации инфраструктуры.

Оценить возможности Dell PowerEdge XE9680 на базе ускорителей MI300X от AMD пользователи смогут уже в первые месяцы 2024 года.