Эти серверы подготовлены к локальной работе c генеративными моделями, в частности — с DeepSeek. Выбор DeepSeek обусловлен открытостью, масштабируемостью и готовностью ИИ-модели к использованию на практике. На ее базе возможно развернуть сервисы с надежной защитой ключевых данных, настроить системы и сценарии работы с учетом специфики отрасли — промышленность, здравоохранение, логистика, банкинг и др. Несмотря на общую сложность технологического стека и стремительного обновления моделей ИИ, серверное решение «Гравитон» с DeepSeek оптимизировано и готово к высокопроизводительной работе.
Технические характеристики новых серверов:
- до 3 двухслотовых GPU-карт или 6 однослотовых GPU-карт,
- до 2 lntel Xeon Scalable 4-го и 5-ого поколения,
- оперативная память до 8 Тб,
- до 27 SFF HDD горячей замены, полное количество накопителей — до 29 модулей,
- корпус высотой 2U обладает эффективной системой вентиляции, которая обеспечит работу оборудования под высокими нагрузками,
- совместимость РЕД ОС и РОСА «Хром».
Сервер «Гравитон» С2122ИУ обеспечивает несколько вариантов экономичных решений с использованием операций с плавающей запятой FP16. Это позволяет значительно повысить точность по сравнению с INT8, снижая уровень ошибок при генерации длинных текстов, мультимодальном выводе, создании изображений и т.д.
За консультацией обращайтесь:
Кирилл Иванов K.Ivanov@treolan.ru
Кирилл Никитин K.Nikitin@treolan.ru