EDSFF E3.S модуль памяти на базе кэш-когерентного интерфейса CXL для серверов c искусственным интеллектом от Innodisk


Тайбэй, 4 сентября 2024 - компания Innodisk анонсировала свой первый модуль памяти CXL (Compute Express Link) используемый в серверах с применением искусственного интеллекта и облачных дата-центров.

Но для начала коротко рассмотрим, что собой представляет технология CXL и зачем она нужна.

Compute Express Link – это кэш-когерентный интерфейс, позволяющий повысить эффективность работы вычислительных систем, особенно с ускорителями.

Основная задача CXL — разделение памяти и вычислений.

Традиционно память была тесно связана с CPU или GPU, что ограничивало возможность масштабирования памяти независимо от вычислений. В CXL - память может быть отделена от вычислений, объединена в пул и распределена между несколькими вычислительными узлами. Это означает, что память можно масштабировать независимо от вычислений, что позволяет более эффективно применять ресурсы и повышать производительность. Еще одним вариантом использования CXL является обеспечение сверхмалой задержки при передаче данных между вычислительными узлами. Высокоскоростное межсоединение CXL может использоваться для подключения нескольких серверов или рабочих станций, позволяя им взаимодействовать друг с другом с очень низкой задержкой и общей памятью, задействуя единый пул. 

CXL работает по трем основным протоколам:

  • Протокол CXL.io основывается на PCIe 5.0 (и PCIe 6.0 после версии CXL 3.0)  - применяется для инициализации, установки соединения, распознавания и создания списка устройств и регистрового доступа с использованием некогерентных загрузок/сохранений.

  • Протокол CXL.cache определяет взаимодействие между хостом (обычно центральным процессором) и устройством (таким как модуль памяти CXL или ускоритель). Он позволяет подключенным CXL-устройствам кэшировать память хоста.

  • Протокол CXL.memory/ CXL.mem обеспечивает хост-процессору прямой доступ к памяти подключенных устройств аналогично тому, как процессор использует выделенную память накопителя или память видеокарты/ускорителя.

Устройства CXL бывают трех типов: Тип 1 (CXL.io + CXL.cache), Тип 2 (CXL.io + CXL.cache+CXL.mem) и Тип 3 (CXL.io + CXL.mem). Поддержка протокола CXL.io считается обязательной для всех типов.

Тип 1 можно представить как ускоритель типа сетевой карты, имеющий прямой доступ к памяти хоста.
Тип 2 – это ускоритель графического типа со своей памятью, при этом GPU имеет доступ к хост-памяти, а хост-процессор – к памяти GPU.
Тип 3 — основная цель – предоставлять пространство CXL-памяти хост-процессору.

CXL имеет несколько версий:
 
CXL 1.1. Работает в системных топологиях под управлением хост-процессора, где CXL внедрен внутрь системы.

 
Версия CXL 2.0 уже получает опцию CXL-коммутирования. Возможность CXL-коммутирования и создания пулов памяти предоставляет нескольким хостам и устройствам подключаться коммутатору, после чего устройства могут «привязываться», целиком или в виде виртуальных логических блоков, к разным хостам. Отмечается, что в случае установки четырёх модулей CXL в сервер каждый из которых по 64 Гбайт, а также несущей на борту восемь DIMM по 128 Гбайт, общий объем памяти может быть увеличен на четверть, а общая пропускная способность — на 40 %.

CXL 3.0 позволяет использовать несколько устройств типа 1 и типа 2 на каждый корневой порт CXL.
Кроме того он добавляет многоуровневую коммутацию, помогая реализовывать структуры устройств с топологиями, отличными от древовидных, такими как сетка, кольцо или сплайн/лист.

Innodisk CXL 2.0 ES.3 2T



При разработке CXL модуля компания Innodisk постаралась объединить все самые современные технологии в одном корпусе.
 
CXL Innodisk использует технологию Типа 3 (CXL.mem & CXL.io) версии 2.0
 
Устройство оснащено коннектором 2C (84 пин).

edsff-pcie-lanes-connector-vertical-02.png

Для достижения реализации интерфейса CXL компания Innodisk интегрировала в свой модуль форм фактор E3.S 2T на основе стандарта EDSFF.

image.png
 
Главная особенность данного модуля представляет собой поддержку пропускной способности в 32 ГБ/с и скорость передачи данных до 32 ГТ/с через интерфейс PCIe Gen5 x8 обеспечивая максимально быструю обработку информации.
 
Емкость модуля составляет 64 ГБ пятого поколения (DDR5).
 
Температура эксплуатации от 0 °C до 70°C.
 
Поставки данного модуля памяти планируется начать в первом квартале 2025 года.

Оставить заявку