В программно-аппаратном комплексе Скала^р для ИИ используется Deckhouse Kubernetes Platform

ПАК Скала^р для обучения и инференса больших моделей использует Deckhouse Kubernetes Platform как основу оркестрации инфраструктуры.

Программно-аппаратный комплекс Скала^р разработан для обучения и инференса больших языковых и генеративных моделей. В нём применяется российская платформа управления контейнерами Deckhouse Kubernetes Platform от компании «Флант». Она работает как основа для оркестрации всей инфраструктуры — от хранилищ данных до графических ускорителей.

Deckhouse Kubernetes Platform управляет модульной архитектурой комплекса. Все компоненты — процессоры, сети, GPU, системы хранения — работают как единый вычислительный кластер. Это позволяет эффективно запускать ресурсоёмкие задачи ИИ, не разбивая нагрузку на изолированные части. Для масштабирования выбран 400G Ethernet. Он обеспечивает минимальные задержки, близкие к уровням InfiniBand, что критично для производительности при обучении и инференсе.

Антон Юдин, начальник отдела разработки аппаратного обеспечения Скала^r, рассказал, что интеграция требовала ручной адаптации: «Пришлось “учить” компоненты правильно взаимодействовать друг с другом. Без этого система не работала стабильно». В частности, понадобилось настраивать взаимодействие между RedOS и Deckhouse Kubernetes Platform, чтобы MLOps-платформа запускалась без сбоев.

Мы делаем Kubernetes предсказуемым — без лишних настроек, просто и надёжно. Deckhouse Kubernetes Platform уже включает всё, что нужно для запуска сложных нагрузок: безопасность, обновления, масштабирование, в том числе для задач с использованием GPU. То, что её выбрали для ИИ-системы уровня Скала^р, — подтверждает: платформа справляется там, где важны и производительность, и стабильность.

Александр Подмосковный, менеджер продукта по направлению ML/AI компании «Флант»

Все программные компоненты комплекса — включая Deckhouse Kubernetes Platform, операционную систему RedOS и собственные решения для мониторинга — сертифицированы и включены в реестры Минцифры и Минпромторга. Это позволяет использовать Скала^р в государственных и корпоративных системах, где требуется соответствие нормативным требованиям.

Источник : Коммерсантъ