Кабель Dell XE9680

Кабель Dell XE9680 — исполнение сервера Dell PowerEdge XE9680, восьмипроцессорной GPU-платформы Dell для задач искусственного интеллекта. Корпус форм-фактора 6U вмещает восемь ускорителей NVIDIA H200 SXM и весь набор системных узлов, обслуживающих их работу: пару процессоров Intel Xeon Scalable, слоты оперативной памяти DDR5 и отсеки для накопителей. Платформа новая, поставляется в базовой заводской комплектации.

Каждый из восьми ускорителей NVIDIA H200 несёт 141 ГБ памяти HBM3e, суммарный объём видеопамяти платформы достигает 1128 ГБ. Такой объём позволяет размещать в памяти GPU крупные модели целиком, без выгрузки весов на диск или в оперативную память хоста, что напрямую влияет на скорость обучения и инференса. Вычислительная мощность связки ускорителей выражается в пропускной способности тензорных ядер: 15 832 TFLOPS на форматах BF16 и FP16, 7 912 TFLOPS на TF32, 536 TFLOPS на FP64, 31 664 TFLOPS на FP8 и 31 664 TOPS на INT8.

Процессорная часть — два Intel Xeon Scalable 4-го или 5-го поколения, у процессоров 5-го поколения число ядер доходит до 64 при тепловом пакете до 350 Вт. Оперативная память набирается модулями DDR5 ECC RDIMM в 32 слотах DIMM, суммарная емкость доходит до 4 ТБ. Такой объём системной памяти нужен, чтобы процессоры успевали готовить и подавать данные восьми ускорителям без простоя по вводу-выводу.

Дисковая подсистема собирается по одной из двух схем: до восьми накопителей формата 2.5 дюйма с интерфейсом NVMe, SAS или SATA либо до шестнадцати накопителей формата E3.S NVMe, в обоих случаях суммарная емкость доходит до 122,88 ТБ. Выбор схемы зависит от требуемой плотности и скорости обмена с накопителями и определяется конфигурацией конкретной поставки.

Основные характеристики

• Форм-фактор: 6U
• Тип: Новые
• Видеокарта (GPU): 8 × NVIDIA H200 SXM, 141 ГБ HBM3e на каждой
• Общий объем видеопамяти (VRAM): 1128 ГБ
• Производительность BF16/FP16 (Tensor Core): 15 832 TFLOPS
• Производительность TF32 (Tensor Core): 7 912 TFLOPS
• Производительность FP64 (Tensor Core): 536 TFLOPS
• Производительность FP8 (Tensor Core): 31 664 TFLOPS
• Производительность INT8 (Tensor Core): 31 664 TOPS
• Процессор (CPU): 2× Intel Xeon Scalable 4-го/5-го поколения, до 64 ядер и 350 Вт на 5-м поколении
• Оперативная память: до 4 ТБ DDR5 ECC RDIMM, 32 слота DIMM
• Тип оперативной памяти: DDR5 ECC REG
• SSD накопители: до 8× 2.5" NVMe/SAS/SATA (до 122,88 ТБ) либо до 16× E3.S NVMe (до 122,88 ТБ)
• Основная задача: обучение моделей, инференс, дообучение моделей, RAG-системы, анализ данных, научные расчёты (HPC)

Где применяется

• Обучение крупных языковых моделей: суммарный объём HBM3e и высокая пропускная способность тензорных ядер позволяют обучать модели с большим числом параметров на одном узле
• Инференс и RAG-системы: восемь ускорителей с общей памятью 1128 ГБ обслуживают запросы к развёрнутым моделям и системам поиска с дополнением контекста
• Дообучение моделей: платформа подходит для донастройки готовых моделей под отраслевые и корпоративные датасеты
• Научные расчёты и анализ данных: сочетание процессоров Intel Xeon и ускорителей H200 закрывает задачи HPC, где нужна и универсальная, и параллельная вычислительная мощность

Специалисты Азияторга подберут точную конфигурацию сервера Dell PowerEdge XE9680 под задачу, предложат аналог при необходимости и рассчитают срок поставки из Китая. Заявку можно отправить на prom@tkasiatorg.ru.