SanDisk планирует заменить стеки HBM памятью HMF с более высокой емкостью

Команда инженеров SanDisk разработала решение для замены дорогостоящих стеков памяти HBM (High Bandwidth Memory) на более привлекательную память HMF (High Bandwidth Flash), которая предлагает значительно больший объем при сопоставимой пропускной способности.

Как объясняет компания, новый тип памяти обеспечивает до 16 раз большую емкость при тех же затратах. Например, если ускоритель с 8 стеками HBM предлагает 192 Гбайта памяти, то с памятью HMF объем увеличится до 4096 Гбайт.

У HMF много общего с HBM, за исключением того, что это Flash-память, а не DRAM. Из-за этого задержки при обращении будут выше, но для задач ИИ важнее пропускная способность, которая останется на том же уровне благодаря параллельному доступу к нескольким массивам для увеличения скорости и уменьшения времени доступа.

SanDisk предлагает использовать новую память для работы с уже обученными нейросетями и утверждает, что установка стеков HMF рядом с графическим кристаллом на интерпозер потребует минимальных изменений протокола. В будущих поколениях компания планирует увеличить объем каждого стека и скорость чтения данных, а также улучшить энергоэффективность.

Источник