Сервер Dell PowerEdge XE9680 — рэковая платформа высотой 6U для обучения и инференса больших моделей, построенная вокруг восьми GPU-модулей NVIDIA H200 SXM с памятью HBM3e. Два процессора Intel Xeon Scalable четвёртого поколения и до 4 ТБ оперативной памяти дополняют ускорители, поэтому сервер рассчитан на нагрузки, где узким местом становится не сеть или диск, а вычислительная и графическая память.
Восемь модулей NVIDIA H200 SXM по 141 ГБ HBM3e памяти каждый дают суммарно 1128 ГБ видеопамяти на один сервер — этого достаточно, чтобы держать в памяти GPU крупные языковые модели без постоянной выгрузки весов на диск. Заявленная производительность на тензорных ядрах — 15 832 TFLOPS на BF16/FP16, 31 664 TFLOPS на FP8, 7 912 TFLOPS на TF32, 536 TFLOPS на FP64 и 31 664 TOPS на INT8; такой разброс режимов позволяет использовать один и тот же сервер и для обучения моделей, и для инференса с более низкой точностью вычислений.
Процессорная часть — до двух Intel Xeon Scalable 4-го поколения на сокете LGA4677, до 56 ядер и 112 потоков на процессор. Оперативная память — 32 слота DDR5 ECC RDIMM со скоростью до 4800 МТ/с и максимальным объёмом 4 ТБ. Под данные предусмотрена корзина на 8 накопителей 2.5" NVMe/SAS/SATA либо на 16 накопителей формата E3.S NVMe, суммарной ёмкостью до 122,88 ТБ; за RAID отвечает контроллер H965i на 24 Гбит/с с 8 ГБ кэша и уровнями 0, 1, 5, 6 и 10, а системный раздел можно вынести на отдельную пару M.2-накопителей.
Питание сервера обеспечивают до шести блоков по 2800 Вт — запас мощности рассчитан на одновременную работу восьми GPU и двух процессоров под полной нагрузкой. Охлаждение воздушное, вес в зависимости от комплектации — от 70,19 до 107 кг, габариты — 482 × 1008,77 × 263,2 мм. Управление построено на iDRAC9 с контроллером жизненного цикла, iDRAC Direct и Redfish API, а из операционных систем сервер поддерживает Canonical Ubuntu Server LTS, Red Hat Enterprise Linux и SUSE Linux Enterprise Server.
Основные характеристики
- Процессор: до 2 × Intel Xeon Scalable 4-го поколения, сокет LGA4677, до 56 ядер / 112 потоков
- Оперативная память: до 4 ТБ DDR5 ECC RDIMM, 32 слота, до 4800 МТ/с
- GPU: 8 × NVIDIA H200 SXM, 141 ГБ HBM3e (1128 ГБ суммарно)
- Производительность BF16/FP16: 15 832 TFLOPS
- Производительность FP8: 31 664 TFLOPS
- Производительность FP64: 536 TFLOPS
- Накопители: до 8 × 2.5" NVMe/SAS/SATA или до 16 × E3.S NVMe, до 122,88 ТБ
- RAID-контроллер: H965i, 24 Гбит/с, 8 ГБ кэша, RAID 0/1/5/6/10
- Блоки питания: до 6 × 2800 Вт
- Сетевой интерфейс: встроенный BCM5720, 2 × 1 Гбит/с
- Управление: iDRAC9, iDRAC Direct, iDRAC RESTful API с Redfish
- Охлаждение: воздушное
- Форм-фактор: 6U, 482 × 1008,77 × 263,2 мм
- Вес: 70,19–107 кг в зависимости от комплектации
Где применяется
- Обучение больших языковых и мультимодальных моделей: восемь GPU H200 с общей памятью 1128 ГБ HBM3e
- Инференс и дообучение моделей: режимы FP8 и INT8 для ускорения вывода без потери приемлемой точности
- RAG-системы и анализ данных: большой объём оперативной памяти и NVMe-хранилища для быстрого доступа к данным
- Научные расчёты (HPC): режим FP64 для задач, требующих полной точности вычислений
Чтобы подобрать Dell PowerEdge XE9680 под конкретную конфигурацию GPU и памяти или найти аналог, специалисты «Азияторга» уточнят наличие и рассчитают срок поставки. Заявку можно направить на server@tkasiatorg.ru.
Работаем с юридическими лицами и индивидуальными предпринимателями. Порядок простой: вы присылаете перечень позиций или задачу, мы подбираем оборудование, проверяем совместимость и готовим коммерческое предложение с ценой и сроком.
После согласования спецификации выставляем счёт и заключаем договор. Позиции, которых нет в наличии, везём под заказ — срок подтверждаем до оплаты, а не после.
Если точной позиции нет или она снята с производства, предлагаем аналог и показываем, чем он отличается по параметрам. Заявки принимаем на server@tkasiatorg.ru.
Основная форма расчёта — безналичный перевод на расчётный счёт по счёту, выставленному после согласования спецификации. Работаем по договору, с НДС.
Цена указана в рублях и пересчитана по курсу Центрального банка на день расчёта, без скрытых наценок. Курс фиксируется в счёте: если между выставлением счёта и оплатой курс изменился, пересчёт согласовывается отдельно.
Порядок оплаты зависит от суммы и срока поставки: возможны предоплата, частичная предоплата с оплатой остатка перед отгрузкой или оплата по факту готовности партии. Комплект документов — счёт, договор, спецификация, УПД — оформляется в полном объёме.
Сетевое и серверное оборудование поставляется под заказ напрямую от производителей и со складов в Китае. Срок зависит от наличия позиции у поставщика и объёма партии: складские позиции обычно занимают от двух до четырёх недель с учётом консолидации и таможенного оформления, позиции под заказ у производителя — дольше. Точный срок подтверждаем в ответе на заявку.
Доставка по России — транспортными компаниями до терминала или до двери, по согласованию. Отгрузка возможна одной партией или частями, если часть номенклатуры готова раньше.
Для расчёта стоимости доставки нужны перечень позиций с количеством и город получателя — расчёт готовим вместе с коммерческим предложением.
На поставляемое оборудование распространяется гарантия производителя. Гарантийный срок и условия указываются в спецификации к договору.
Перед отгрузкой партия проходит проверку: сверяем маркировку и комплектность с заказанным, контролируем целостность упаковки. По запросу предоставляем фотографии партии до отправки.
Помогаем с подбором аналога, если позиция снята с производства или недоступна в нужный срок, и объясняем разницу по параметрам. Вопросы по гарантии и сервису — на server@tkasiatorg.ru.
