В этом году в России значительно увеличились инвестиции разработчиков вычислительной техники в развитие ИИ-оборудования, пишет «Коммерсантъ» со ссылкой на данные участников рынка. По оценкам экспертов, на разработку сервера с ИИ с постановкой на производство уходит в среднем 100 млн руб.

В консорциуме АНО «Вычислительная техника» (АНО ВТ, объединяет 33 разработчика вычислительной техники, в том числе «Аквариус», Yadro, ГК «Элемент» и др.) сообщили о росте объёма инвестиций в оборудование для ИИ на 40 %. По данным консорциума, доля вложений в это направление в финансировании разработок составила в этом году 14,2 %, а выпуск ИИ-оборудования увеличился на 10,5 %. Как ожидают в АНО ВТ, в течение трех лёт на оборудование для ИИ будет приходиться в среднем 23,7 % выручки разработчиков электроники.

О 40-процентном росте инвестиций в разработку серверов для ИИ сообщили и в Fplus. На данный момент компания разработала четыре модели ИИ-серверов, которые будут внесены в реестр Минпромторга. В Kraftway тоже отметили увеличение инвестиций в оборудование для ИИ в 2024 году. Компания планирует в 2025 году больше инвестировать в разработку и производство СХД для нейросетей, поскольку с развитием ИИ уже со следующего года к этому оборудованию, как ожидается, возникнет серьёзный интерес.

Источник изображения: Fplus

В компании «Гравитон» сообщили о разработке нескольких платформ для ИИ, которые появятся на рынке в 2025 году. По данным компании, за девять месяцев 2024 года спрос госкомпаний на ИИ-серверы вырос вдвое. В НТЦ «Модуль» отметили значительный рост интереса к своей продукции, в том числе, к ИИ-серверам, и рассказали о планах увеличить в следующем году выпуск собственных нейроускорителей в различном исполнении.

Юлихский исследовательский центр (FZJ) в Германии объявил о достижении важного рубежа в рамках проекта JUPITER (Joint Undertaking Pioneer for Innovative and Transformative Exascale Research) по созданию европейского экзафлопсного суперкомпьютера. Введён в эксплуатацию JETI — второй модуль этого НРС-комплекса.

Напомним, контракт на создание JUPITER заключён между Европейским совместным предприятием по развитию высокопроизводительных вычислений (EuroHPC JU) и консорциумом, в который входят Eviden (подразделение Atos) и ParTec. Суперкомпьютер JUPITER создаётся на базе модульного дата-центра, за строительство которого отвечает Eviden.

Система JUPITER получит, в частности, энергоэффективные высокопроизводительные Arm-процессоры SiPearl Rhea1 с HBM. Кроме того, в состав машины входят узлы с NVIDIA Quad GH200, а общее количество суперчипов GH200 Grace Hopper составит почти 24 тыс. Узлы объединены интерконнектом NVIDIA Mellanox InfiniBand.

Запущенный модуль JETI (JUPITER Exascale Transition Instrument) обладает FP64-производительностью 83,14 Пфлопс, тогда как пиковый теоретический показатель достигает 95 Пфлопс. С такими результатами эта машина попала на 18-ю строку нынешнего рейтинга мощнейших суперкомпьютеров мира TOP500. В составе JETI задействованы в общей сложности 391 680 ядер. Энергопотребление модуля равно 1,31 МВт. Отмечается, что JETI обеспечивает примерно одну двенадцатую от общей расчётной производительности машины JUPITER. Попутно JETI занял шестое место в рейтинге энергоэффективных систем Green500.

Источник изображения: Eviden

Ожидается, что после завершения строительства суммарное быстродействие JUPITER на операциях обучения ИИ составит до 93 Эфлопс, а FP64-производительность превысит 1 Эфлопс. Затраты на создание комплекса оцениваются в €273 млн, включая доставку, установку и обслуживание НРС-системы.

ПАО «ВымпелКом» (бренд «билайн») сообщает о запуске в Санкт-Петербурге специализированной лаборатории для тестирования отечественного телекоммуникационного оборудования. Ожидается, что появление этой площадки поможет ускорить процесс импортозамещения на рынке связи.

Выбор Северной столицы России для создания лаборатории обусловлен территориальной близостью к подразделениям ключевых отечественных производителей телекоммуникационной техники. Благодаря этому, как ожидается, новая площадка поможет снизить сроки ввода нового оборудования в эксплуатацию.

Лаборатория будет осуществлять деятельность по нескольким направлениям. Одно из них — собственно испытания различных видов телеком-устройств, включая базовые станции. При этом особое внимание будет уделяться проверке качества аппаратуры, её функциональности и изучению преимуществ перед импортными аналогами. Результаты тестирования помогут повысить эффективность совместного использования техники разных поставщиков.

Источник изображения: «билайн»

Кроме того, лаборатория займётся обучением инженеров «билайна» работе с отечественным оборудованием. Речь идёт о подготовке специалистов в области установки, настройки и запуска телеком-объектов. На площадке также могут моделироваться нештатные ситуации и отрабатываться способы устранения проблем.

Как отмечает заместитель генерального директора ПАО «ВымпелКом», руководитель технического блока Валерий Шоржин, запуск лаборатории обеспечит дополнительную гибкость в развитии сети компании. При этом замена импортного оборудования на российское, как предполагается, упростит процесс обслуживания инфраструктуры, избавив от необходимости закупки зарубежной техники.

Компания Iceotope анонсировала сервер KUL AI, предназначенный для поддержания самых требовательных рабочих нагрузок ИИ. Новинка базируется на аппаратной платформе Gigabyte G293, интегрированной с высокоэффективной гибридной СЖО Iceotope Precision Liquid Cooling, сочетающей прямое жидкостное охлаждение с погружным охлаждением в одном шасси.

Известно, что в сервере применяются процессоры Intel Xeon. Установлены восемь ускорителей. Устройство имеет аккредитацию NVIDIA Certified-Solutions. Оно оптимизировано по конструкции для жидкостного охлаждения на основе диэлектрических теплоносителей. Утверждается, что благодаря системе Iceotope Precision Liquid Cooling сервер KUL AI обеспечивает бесперебойную и надёжную работу при поддержании оптимальной температуры. При этом достигается защита критически важных компонентов и сводится к минимуму частота отказов даже во время интенсивных и продолжительных ИИ-нагрузок.

Устройство имеет размеры 121 × 53 × 13,5 см и весит 99 кг. В набор интерфейсов в зависимости от варианта исполнения входят до четырёх сетевых портов 10Gb RJ-45 и QSFP28 или SFP28, порты USB 3.2 Type-A, аналоговый разъём D-Sub и коннектор 1Gb RJ-45. Говорится о практически бесшумной работе и герметичном исполнении. По заявлениям разработчика, новинка идеально подходит для чувствительных к задержкам периферийных вычислений, включая среды с экстремальными условиями эксплуатации.

Источник изображения: Iceotope

«KUL AI позволяет организациям развёртывать ИИ везде, где это необходимо, открывая новые возможности в плане операционной эффективности и инноваций даже в самых сложных IT-средах», — заявляет Iceotope.

Российский производитель вычислительной техники «Гравитон» объявил о выходе сервера С2252ИУ на аппаратной платформе Intel. Новинка, как утверждается, подходит для широкого спектра задач, включая хранение данных, работу с системами виртуализации, приложениями ИИ и пр.

Устройство выполнено в форм-факторе 2U с габаритами 763 × 447 × 87 мм. Применена материнская плата «Урал» на наборе логики Intel С741 с возможностью установки двух процессоров Xeon Emerald Rapids или Xeon Sapphire Rapids в исполнении LGA 4677 с показателем TDP до 350 Вт. Доступны 32 слота для модулей оперативной памяти DDR5 суммарным объёмом до 8 Тбайт.

Во фронтальной части расположены отсеки для 25 SSD формата SFF с интерфейсом SATA/SAS с возможностью горячей замены. Кроме того, могут быть установлены два аналогичных накопителя в тыльной зоне. Есть также два коннектора для SSD формата M.2 2280/22110 с интерфейсом PCIe 4.0 x4.

Источник изображения: «Гравитон»

Сервер располагает контроллером BMC Aspeed AST2600, выделенным сетевым портом управления 1GbE RJ-45, двумя портами USB 3.0, последовательным портом, аналоговым интерфейсом D-Sub. Доступны два слота для карт расширения PCIe 5.0 х16 и четыре слота для карт PCIe 5.0 х8 (плюс опционально два слота PCIe 4.0 х8). В системе охлаждения задействованы четыре вентилятора диаметром 80 мм с поддержкой горячей замены. Питание обеспечивают два блока мощностью до 2000 Вт с сертификатом 80 Plus Platinum.

Обеспечивается совместимость с Astra Linux, Red OS, BaseALT и ROSA. По заявлениям «Гравитона», сервер подходит для банков, страховых компаний, а также организаций других отраслей, где используется большое количество данных. Устройство внесено в Реестр российской промышленной продукции Минпромторга России. Гарантия производителя — три года.

Хотя инвестиционные компании всё больше озабочены доступностью электроэнергии и надёжностью снабжения дата-центров, подавляющее большинство из них уверены, что вложения в сектор ЦОД будут расти в ближайшие годы из-за высокого спроса на ИИ и облачные технологии. Соответствующие данные предоставила юридическая компания DLA Piper, сообщает The Register.

Операторы ЦОД всё чаще сталкиваются с дефицитом энергии при желании расширить инфраструктуру или построить новые объекты. Отчёт DLA Piper свидетельствует, что 98 % инвесторов-респондентов обеспокоены доступностью и надёжностью поставок электричества, но, тем не менее, ожидают дальнейшего роста финансирования проектов дата-центров, в том числе за счёт заёмных средств.

Отчёт составлен на базе исследования, проводившегося компанией TMT Finance в прошлом квартале, которая опросила 176 топ-менеджеров из экосистемы ЦОД, в том числе из компаний, связанных с финансированием, консалтингом и непосредственно управлением. По мнению экспертов, в 2024 году рынок дата-центров составит около $300 млрд, а среднегодовой темп роста (CAGR) — 10 %. К 2029 году рынок вырастет до $483,15 млрд. Впрочем, некоторые отраслевые эксперты ожидают роста более чем на 50 % 97 % респондентов сообщили, что именно ИИ стал драйвером спроса на инфраструктуру ЦОД, в основном для систем машинного обучения и обработки естественного языка. Оставшиеся 3 % ожидают, что рост останется на прежнем уровне или даже упадёт.

Источник изображения: Vilmantas Bekesius / Unsplash

В DLA Piper подчёркивают, что коммунальные компании США буквально завалены запросами на электроэнергию для участков, где планируется строить ЦОД, но многие запросы не смогут быть выполнены до 2030-х годов. От инвесторов в подобные объекты часто требуют крупных авансовых невозвратных платежей, а также юридических обязательств использовать эту энергию. Кроме того, застройщиков заставляют платить авансом за имеющую критическое значение инфраструктуру, такую как подстанции. Вполне вероятно, что подобные требования начнут распространяться и на другие регионы за пределами США.

Недавно к схожим выводам пришла консалтинговая компания Bain & Company, предупредившая, что американским энергетикам нужно готовиться к буму ИИ ЦОД и заранее наращивать мощности, иначе в ближайшие годы спрос превысит предложение. Согласно некоторым другим прогнозам, к 2030 году расходы жителей США на электричество могут вырасти на 70 %, если не принять срочные меры по увеличению энергомощностей и развитию энергетической инфраструктуры.

В DLA Piper описали некоторые стратегии решения энергетических проблем. В краткосрочной перспективе ожидается неизбежное нормирование мощностей, также упоминаются временные ограничения на количество новых проектов для эффективного управления доступными ресурсами. В качестве защиты от перебоев с поставками могут стать долгосрочные договоры с поставщиками коммунальных услуг.

Источник изображения: Joshua Hoehne / Unsplash

В долгосрочной перспективе ожидаются инвестиции в дополнительные энергетические мощности для рынка ЦОД — та же атомная энергетика становится всё более популярной среди инвесторов. Достаточно вспомнить, что соответствующими проектами активно занимаются AWS, Microsoft, Google и Oracle.

70 % респондентов считают, что проблемы устойчивых поставок энергии и воды в ЦОД будут расти, как и внимание регуляторов к отрасли. Операторам и прочим заинтересованным сторонам необходимо рассмотреть возможность инвестиций в экотехнологии и прозрачные механизмы отчётности.

Хотя отрасли, вероятно, грозит энергетический кризис, в отчёте упоминается, что перспективы для инвесторов и посредников «весьма благоприятны» благодаря устойчивому спросу на ИИ, облачные сервисы и сопутствующие технологии. При этом, как считают в компании, наличие достаточных и надёжных источников питания должно стать «глобальным приоритетом».

О дефиците энергии эксперты заявляли неоднократно. Так, CBRE минувшим летом подчёркивала, что нехватка энергии ограничивает рост ЦОД, подстёгиваемый ИИ, а ещё в мае DigitalBridge объявила, что энергия для ЦОД закончится через два года. Некоторые готовы даже импортировать «зелёное» электричество. Наконец, в Gartner сообщали, что дефицит энергии ограничит возможности 40 % ИИ ЦОД уже к 2027 году.

Компания International Data Corporation (IDC) обнародовала свежий прогноз по глобальному рынку инфраструктур для приложений ИИ. Отрасль переживает стремительный рост, что обусловлено активным внедрением ИИ и машинного обучения в самых разных сферах.

Аналитики учитывают отгрузки серверов и СХД для задач ИИ. По оценкам, в I полугодии 2024-го продажи соответствующего оборудования достигли в денежном выражении $31,8 млрд. Это на 37 % больше по сравнению с показателем за аналогичный период 2023 года. При этом основную часть выручки обеспечили ИИ-серверы — приблизительно 89 % в общем объёме затрат.

В исследовании отмечается, что в I половине 2024 года инфраструктура ИИ, развёрнутая в облачных и общедоступных средах, обеспечила 65 % от суммарных продаж. Операторы ЦОД и гиперскейлеры вкладывают значительные средства в расширение своих мощностей.

Источник изображения: IDC

На серверы с ИИ-ускорителями пришлось 58 % от общих расходов на серверную инфраструктуру ИИ, а рост в годовом исчислении зафиксирован на уровне 63 %. IDC прогнозирует, что к 2028 году затраты на ИИ-серверы превысят 60 % от суммарных расходов в соответствующем сегменте. При этом показатель CAGR (среднегодовой темп роста в сложных процентах) прогнозирует в размере 19 % на протяжении пяти лет. Сегмент СХД в I полугодии 2024-го показал рост на 36 % в годовом исчислении, при этом 56 % расходов пришлось на облачные развёртывания.

США лидируют на мировом рынке ИИ-инфраструктур с долей почти 50 %. Далее следуют Китай (23 %), Азиатско-Тихоокеанский регион (16 %) и EMEA (10 %). В течение следующих пяти лет, как прогнозирует IDC, Азиатско-Тихоокеанский регион будет демонстрировать показатель CAGR около 20 %, США — 16 %, EMEA — 13 %, Китай — 11 %. К 2028 году, как ожидается, мировые расходы на инфраструктуру ИИ достигнут $107 млрд, при этом серверы, развёрнутые в облачных средах, обеспечат 75 % выручки. 

На прошлой неделе китайские технологические гиганты объявили о выпуске чипа для поддержки технологии Global Scheduling Ethernet, предназначенной для сетевого протокола, который должен обеспечить запуск приложений ИИ и других требовательных рабочих нагрузок, сообщил ресурс The Register. Как полагает ресурс, China Mobile является движущей силой этой технологии, поскольку ещё в 2023 году она опубликовала описание технической структуры GSE Ethernet.

Цель китайского проекта совпадает с задачей, поставленной консорциумом Ultra Ethernet Consortium (UEC) — оптимизировать Ethernet для приложений ИИ и HPC. В UEC входят Intel, AMD, HPE, Arista, Broadcom, Cisco, Meta✴ и Microsoft. Протокол Ethernet создавался без учёта сегодняшних рабочих нагрузок и при его использовании сложно организовать пути для трафика, перемещающегося по очень большим и загруженным сетям, что приводит к высоким задержкам.

Источник изображения: China Mobile Communications Research Institute

В «Белой книге» China Mobile указаны похожие задачи, которые возможно решить с помощью таких методов, как контейнеры пакетов фиксированного размера и «динамическая глобальная очередь планирования», которая не привязана к физическим портам, но учитывает состояние порта целевого устройства перед организацией оптимального соединения с использованием таких способов, как многопутевая доставка (multi-path spraying). Кстати, UEC тоже считает перспективным этот способ.

На прошлой неделе китайские СМИ сообщили, что в разработке чипа, который делает GSE Ethernet реальностью, участвовало более 50 провайдеров облачных услуг, производителей оборудования, производителей микросхем и университетов внутри и за пределами Китая. Согласно сообщениям, можно предположить, что GSE Ethernet уже развёрнут в кластере из тысячи серверов в ЦОД China Mobile, где он, по-видимому, обеспечил существенное улучшение производительности сети во время обучения большой языковой модели.

Если Китай решил создать и использовать собственную версию Ethernet для некоторых приложений — и его крупные технологические компании готовы её применять — это означает, что членам UEC будет сложнее ориентироваться на китайский рынок (и страны, где доминируют китайские поставщики), пишет The Register. А несколько лет назад Huawei предложила отказаться от TCP/IP в пользу разработанного ей стека New IP.

Группа «Т-Технологии» намерена построить сеть собственных дата-центров. Пресс-служба компании сообщает, что первый этап строительства завершится уже к 2027 году, и заработают два первых ЦОД. Ожидается, что к 2031 году объекты выйдут на полную мощность, ёмкость каждого составит 50 МВт и 100 тыс. серверов. О намерении Т-Банка строить собственные ЦОД сообщалось ещё в середине ноября.

Структура рассчитывает войти в «Топ-5» компаний России по мощности ЦОД в корпоративном сегменте рынка. Сеть ЦОД станет базой для развития и обеспечения работы экосистемы головной структуры, выделяя мощности для ресурсоёмких задач, таких как хранение и обработка данных более 50 млн клиентов банка. Наличие собственных ЦОД даст возможность «Т-Технологиям» усилить позиции в сфере ИИ — компании более не смогут помешать внешние ограничения и она сможет развиваться даже в условиях дефицита вычислительных мощностей.

Каждый день приложениями Т-экосистемы пользуются более 14 млн человек, половина из более 500 тыс. запросов клиентов приходится на автоматизированные консультации в чатах, говорится в пресс-релизе. Новые ЦОД помогут развитию перспективных направлений, запуск которых состоялся в текущем году — речь идёт о «вселенной ИИ-ассистентов», помогающих в самых разных сферах, от путешествий, до инвестиций, рекламы для бизнес-клиентов и пр.

Источник изображения: Artem Labunsky/unsplash.com

В компании сообщают, что новые ЦОД позволят «объединить арендованные мощности с собственными» — будет предоставлено более 7 тыс. мест для серверов и оборудования. При этом собственная инфраструктура, в отличие от универсальных типовых продуктов, позволит точнее учитывать потребности бизнеса и создавать специальные IT-решения. Ожидается, что Т-Банк станет первым из банков планеты, применяющих гибридную технологию охлаждения с прямым фрикулингом (direct free air cooling). Благодаря этому снизится как энергопотребление, так и ущерб окружающей среде. При этом показатель PUE составит 1.15 при среднемировом уровне 1,6.

Наконец, строительство собственных дата-центров даст возможность «Т-Технологиям» сэкономить 26 млрд руб. только до 2030 года, после чего ежегодная экономия будет составлять по 10 млрд руб. из-за отказа от аренды чужой инфраструктуры и объединения собственных и арендованных площадей. Строительство ЦОД в особых экономических зонах (ОЭЗ) даст возможность экономить на закупках оборудования и содействовать развитию IT-инфраструктуры в регионах.

Источник изображения: Т-Банк

По словам вице-президента Т-Банка Вячеслава Цыганова, выделяемое ЦОД тепло будет использоваться для отопления окружающей городской застройки. Кроме того, наличие собственных современных ЦОД позволит увеличить эффективность оказания услуг, повысить их качество и обеспечить стабильное развитие соответствующей сферы. Ранее сообщалось, что Сбербанку и Т-Банку всё труднее найти энергию для строительства дата-центров.

Над созданием собственных ЦОД работают и другие российские банки. По мнению экспертов, для развития ИИ и других IT-технологий организациям нужны дата-центры с высокой энергоэффективностью, способные использовать высоконагруженные стойки (от 22 кВт). На отечественном рынке таких предложений сейчас нет, поэтому достаточно богатые компании сами строят ЦОД под свои задачи, передают «Известия». Также отмечается, что банки всё в большей степени превращаются в IT-бизнес, от которого при этом требуется защита данных клиентов.

Согласно оценкам аналитиков DIGITIMES Research, глобальные поставки серверов в III квартале 2024 года выросли на 4,3 % по сравнению с предыдущим кварталом, превзойдя предыдущие прогнозы, но из-за высоких показателей базового периода поставки в IV квартале, как ожидается, последовательно снизятся.

Крупнейшие провайдеры облачных услуг (CSP) США продолжили наращивать закупки серверов общего назначения следующего поколения в III квартале. Большинство CSP также увеличили закупки высокопроизводительных ИИ-серверов по сравнению с предыдущим кварталом, отметили в DIGITIMES Research. Вместе с тем поставки в количественном выражении не оправдали ожиданий, поскольку клиенты сделали упор на закупки ИИ-серверов, отличающихся гораздо более высокой ценой.

DIGITIMES Research прогнозирует снижение в IV квартале мировых поставок серверов на 5,2 % по сравнению с III кварталом из-за высокой базы в связи с активными закупками серверов облачными провайдерами из США и ожидаемого начала поставок суперускорителей NVIDIA GB200 NVL72, что должно привести к замедлению темпов поставок серверов общего назначения. Серверные бренды и китайские CSP также снизят динамику поставок в IV квартале, и обе группы, как ожидается, столкнутся с более значительным последовательным снижением поставок по сравнению с конкурентами в сфере облачных услуг из США.

Источник изображения: Microsoft

DIGITIMES Research отметила, что общий рынок серверов продолжил восстановление в III квартале 2024 года, при этом CSP из США, такие, как Meta✴, Microsoft и Amazon, ускорили внедрение новых платформ, что привело к росту их совокупных поставок на 13 % по сравнению с предыдущим кварталом.

Вместе с тем американские серверные бренды — за исключением Dell — столкнулись со спадом поставок в III квартале, что привело к общему снижению поставок на 1,1 % за прошедшие три месяца. Спад в первую очередь связан с более консервативным в сравнении с гиперскейлерами подходом предприятий к инвестициям в ИТ, не связанным с ИИ, что привело к сокращению закупок серверов общего назначения.

Как ожидает DIGITIMES Research, в IV квартале 2024 года CSP из США в основном зафиксируют резкий последовательный спад поставок, за исключением Meta✴ и Microsoft, которые, как ожидается, продолжат начавшиеся в предыдущем квартале закупки новых серверов, что приведёт к небольшому росту поставок за квартал. Относительно устойчивые закупки Meta✴ и Microsoft позитивно отразятся на росте показателей их ключевых тайваньских партнёров по производству серверов, Wiwynn и Foxconn.

Состояние глобальной экономики в IV квартале останется неопределённым, что повлияет на инвестиции предприятий, сообщила DIGITIMES Research. Поскольку экономика Китая также замедляется, американские бренды и китайские CSP могут столкнуться в последние три месяца 2024 года с резким сокращением заказов.