Компания SanDisk, которая вскоре станет независимой, отделившись от Western Digital, предложила способ многократного увеличения объёма памяти ИИ-ускорителей. Как сообщает ресурс ComputerBase.de, речь идёт о замене HBM (High Bandwidth Memory) на флеш-чипы с высокой пропускной способностью HBF (High Bandwidth Flash).

На первый взгляд, идея может показаться абсурдной, поскольку флеш-память NAND значительно медленнее DRAM, которая служит основой HBM. Но, по заявлениям SanDisk, архитектура HBF позволяет обойти ограничения, присущие традиционным NAND-изделиям, что сделает память нового типа пригодной для применения в ИИ-ускорителях. При этом HBF планируется использовать прежде всего для задач инференса, а не обучения моделей ИИ.

С каждым новым поколением HBM растёт объём памяти, которым оснащаются ИИ-карты: у современных ускорителей AMD и NVIDIA он достигает 192 Гбайт. Благодаря внедрению HBF компания SanDisk рассчитывает увеличить показатель в 8 или даже 16 раз при сопоставимой цене. Компания предлагает две схемы использования флеш-памяти с высокой пропускной способностью: одна предусматривает полную замену HBM на HBF, а другая — совмещение этих двух технологий.

Источник изображений: ComputerBase.de

В качестве примера SanDisk приводит GPU со 192 Гбайт памяти HBM, которая разделена на восемь стеков по 24 Гбайт. В случае HBF каждый такой стек сможет иметь ёмкость 512 Гбайт. Таким образом, при полной замене HBM ускоритель сможет нести на борту 4 Тбайт памяти: это позволит полностью загрузить большую языковую модель Frontier с 1,8 трлн параметров размером 3,6 Тбайт. В гибридной конфигурации можно, например, использовать связку стеков 2 × HBM плюс 6 × HBF, что в сумме даст 3120 Гбайт памяти.

Архитектура HBF предполагает монтаж кристаллов NAND друг над другом поверх логического кристалла. Вся эта связка располагается на интерпозере рядом с GPU, CPU, TPU или SoC — в зависимости от предназначения конечного изделия. Обычная флеш-память NAND приближается к DRAM по пропускной способности, но не может сравниться с ней по времени доступа. SanDisk предлагает решить проблему путём разделения HBF на массив областей с большим количеством линий данных: это позволит многократно увеличить скорость доступа.

SanDisk разработала архитектуру HBF в 2024 году под «влиянием ключевых игроков в области ИИ». В дальнейшие планы входят формирование технического консультативного совета, включающего партнёров и лидеров отрасли, и создание открытого стандарта. Впрочем, есть и другие методы увеличения объёма памяти ускорителей. Один из них — использование CXL-пулов.

Western Digital сообщила финансовые результаты за II квартал 2025 финансового года, завершившийся 27 декабря 2024 года. Выручка компании составила $4,29 млрд, превысив результат аналогичного периода предыдущего финансового года на 41 % и на 5 % показатель предыдущего квартала при консенсус-прогнозе аналитиков $4,26 млрд. Как отметил ресурс Blocks & Files, это уже выручка Western Digital растёт уже шестой квартал подряд.

Скорректированная прибыль (Non-GAAP) на акцию за II финансовый квартал равняется $1,77, что немного ниже ожиданий Уолл-стрит в $1,78 на акцию. Прибыль (GAAP) компании составила $594 млрд или $1,63 на разводнённую акцию, тогда как годом ранее у компании были убытки в размере $287 млрд или $0,93 на разводнённую акцию.

Облачный сегмент принёс компании 55 % от общего дохода в размере $2,35 млрд, что на 6 % больше последовательно и на 119 % больше по сравнению с прошлым годом. Как сообщает компания, последовательный рост был обусловлен увеличением поставок Nearline HDD, в то время как объёмы поставок флеш-накопителей снизились. Клиентские и потребительские решения принесли соответственно $1,17 млрд (27 % от общего дохода, рост год к году на 4 %) и $0,77 млрд (18 %, снижение год к году на 8 %).

Источник изображений: Western Digital

Выручка от продаж HDD составила $2,41 млрд, что на 76 % больше год к году, а поставки флеш-накопителей принесли компании $1,88 млрд (рост на 13 %). Генеральный директор Western Digital Дэвид Гекелер (David Goeckeler) сообщил в ходе отчёта о финансовых результатах: «В то время как наш бизнес по выпуску жёстких дисков демонстрирует устойчивый рост, особенно в сегменте корпоративных дисков большой ёмкости, наш сегмент флеш-памяти сталкивается с временными препятствиями из-за ценового давления».

Всего компания поставила 13,5 млн жёстких дисков (рост год к году на 22 %), в том числе 9,3 млн единиц для облачных платформ, 2,1 млн единиц клиентских решений и столько же из категории потребительских продуктов. Средняя цена накопителя составила $172, тогда как годом ранее она равнялась $122.

Western Digital отметила, что достигла рекордных отгрузок дисков Nearline в экзабайтах и рекордных доходов на рынке ЦОД. «Мы работаем в среде, где спрос на нашу продукцию превышает предложение», — сообщил Гекелер. По его словам, рынок SSD столкнулся с трудностями на фоне краткосрочного переизбытка предложения в сочетании с сокращением запасов клиентами. Он выразил мнение, что рынок флеш-памяти «в настоящее время находится в паузе в середине цикла».

Western Digital прогнозирует выручку в текущем квартале ниже оценок Уолл-стрит, поскольку ожидает снижения спроса со стороны облачных и корпоративных клиентов. В III квартале компания ожидает получить выручку в диапазоне от $3,75 до $3,95 млрд — рост на 11,4 % в годовом исчислении в среднем значении. Согласно консенсус-прогнозу аналитиков, опрошенных LSEG, этот показатель должен составить $4 млрд. Также компания ожидает, что скорректированная прибыль на акцию (Non-GAAP) будет находиться в диапазоне от $0,90 до $1,20, что ниже оценки аналитиков в размере $1,47 на акцию.

К концу марта компания разделится на фирмы Western Digital и SanDisk. Исполнительный вице-президент по глобальным операциям Ирвинг Тан (Irving Tan), который будет гендиректором Western Digital, занимающейся только HDD, заявил, что перспективы бизнеса остаются позитивными. «Будут квартальные колебания, поскольку мы поддерживаем клиентов в сроках развёртываний, а также уравновешиваем ограниченность спроса и предложения, которая у нас есть. Вот действительная причина небольшого спада в III квартале», — подчеркнул он.

«Мы видим, что перспективы Nearline по-прежнему здоровы… мы ожидаем, что квалификация наших новых 32-Тбайт SMR и 24-Тбайт CMR будет завершена где-то в I квартале [2025] календарного года», — добавил Тан. Seagate также получила значительную выручку от продаж накопителей облачным провайдерам и тоже ожидает снижение показателей бизнеса в текущем квартале.