Microsoft выпустила свои новейшие виртуальные машины Azure, оптимизированные для суперкомпьютеров с искусственным интеллектом, серии ND H200 v5.
По мере того, как ландшафт искусственного интеллекта быстро развивается, потребность в масштабируемой и высокопроизводительной инфраструктуре продолжает расти в геометрической прогрессии. Клиенты Microsoft полагаются на инфраструктуру Azure AI для разработки инновационных решений на основе искусственного интеллекта, поэтому компания предоставляет новые облачные суперкомпьютерные кластеры искусственного интеллекта, построенные на виртуальных машинах Azure серии ND H200 v5 (ВМ). Эти виртуальные машины теперь общедоступны и адаптированы для работы с растущей сложностью современных рабочих нагрузок искусственного интеллекта, от обучения базовых моделей до генеративного вывода.
Одним из наиболее интересных аспектов ND H200 v5 является его способность устранять узкое место, вызванное тем, что вычислительные возможности графических процессоров растут гораздо быстрее, чем емкость и пропускная способность подключенной памяти. Виртуальные машины серии ND H200 v5 обеспечивают значительное увеличение емкости и пропускной способности высокоскоростной памяти (HBM), что позволяет графическим процессорам быстрее получать доступ к параметрам модели. Это приводит к сокращению общей задержки приложений, что крайне важно для приложений реального времени, таких как интерактивные агенты.
Кроме того, виртуальные машины ND H200 v5 могут размещать более сложные большие языковые модели (LLM) в памяти одной виртуальной машины. Это устраняет необходимость запуска распределенных заданий на нескольких виртуальных машинах, повышая производительность и снижая сложность.
Наконец, ND H200 v5 поставляется с предварительной интеграцией со службами Azure, такими как Azure Batch, Azure Kubernetes Service, Azure OpenAI Service и Azure Machine Learning. Эта интеграция упрощает для компаний начало работы с новыми виртуальными машинами, что делает их привлекательным вариантом для организаций, стремящихся использовать возможности суперкомпьютеров с искусственным интеллектом.
