Сейчас во многих странах Азии, Ближнего Востока, Европы и в США наблюдается всплеск интереса к внедрению ИИ, что вызвало резкий рост расходов на вычислительные мощности, пишет The Wall Street Journal. Правительства стран увеличивают бюджеты и используют различные рычаги для стимулирования локальных компаний и транснациональных корпораций к строительству новых ЦОД и модернизации существующих с целью развития собственных ИИ-технологий и обучения больших языковых моделей (LLM) на языках и данных граждан своей страны.

Этот тренд ресурс WSJ объясняет стремлением стран к большей стратегической самостоятельности на фоне растущей напряжённости между США и Китаем, сосредоточенной на технологиях, а также намерением защитить национальную культуру и национальную безопасность в связи с бурным развитием ИИ-технологий.

В прошлом месяце NVIDIA сообщила, что так называемые инициативы в области суверенного ИИ, как ожидается, принесут её в этом году почти $10 млрд, тогда как в прошлом году это направление не было для неё доходным. Из $26 млрд выручки NVIDIA за прошлый квартал почти половина поступила от крупных компаний, занимающихся облачными вычислениями, которые арендуют доступ к её чипам.

Новое направление сулит выгоду NVIDIA и другим американским технологическим компаниями, занятым в сфере строительства и эксплуатации ЦОД, и ищущим новые источники роста, поскольку спрос частного сектора на ИИ-технологии может снизиться.

Источник изображения: NVIDIA

Глава NVIDIA Дженсен Хуанг (Jensen Huang, на фото выше) в последние месяцы провёл немало встреч с правительственными чиновниками разных стран, чтобы убедить их в необходимости инвестиций в ИИ со стороны государства. В сентябре прошлого года он встречался с премьер-министром Индии Нарендрой Моди, в декабре — с премьер-министрами Японии и Сингапура. В этом году он провёл встречи с официальными лицами ОАЭ и Канады. и побывал на Тайване.

Среди крупнейших спонсоров суверенного ИИ — Сингапур, чей национальный суперкомпьютерный центр оснащается новейшими чипами NVIDIA, а государственная телекоммуникационная компания Singtel в сотрудничестве с NVIDIA занята расширением своего парка ЦОД в Юго-Восточной Азии. Страна также стала инициатором создания LLM для языков Юго-Восточной Азии.

В свою очередь, Канада планирует выделить $1,5 млрд в рамках суверенной вычислительной стратегии для стартапов и исследователей, а в Японии после визита Хуанга объявили о планах инвестировать в этом году около $740 млн в наращивание вычислительной мощности для разработки ИИ для нужд страны.

Аналогичные инициативы нашли поддержку Европе. Например, во Франции и Италии телекоммуникационные компании создают ИИ-суперкомпьютеры с чипами NVIDIA для разработки LLM с поддержкой национальных языков. Кения в прошлом месяце подписала с Microsoft и поддерживаемой ОАЭ компанией G42, занимающейся ИИ, соглашение о строительстве в стране ЦОД стоимостью $1 млрд на геотермальной энергии с целью обучения ИИ-модели непосредственно на суахили и английском языке.

Источник изображения: NVIDIA

«Правительствам теперь нужны суверенные облака для инфраструктуры ИИ и конфиденциальных данных, а американские технологические компании стремятся помочь в их создании», — говорит Ну Векслер (Nu Wexler), бывший сотрудник по связям с общественностью в Google, Meta✴ и Twitter (нынешней X).

Китай также стремится занять позиции на рынке суверенного ИИ. Он предлагает строительство ЦОД и возможности ИИ африканским странам, включая Египет. Но китайские ИИ-чипы пока уступают по производительности ускорителям NVIDIA и других американских компаний, что часто делает США предпочтительным поставщиком, несмотря на экспортные ограничения, отметил WSJ.

По мнению аналитиков, тренд на развитие суверенного ИИ может стать для NVIDIA спасительным кругом, когда наступит сокращение закупок ИИ-чипов со стороны основной группы клиентов технологических компаний, таких как Microsoft, Amazon и Google.

Глава Supermicro Чарльз Лян (Charles Liang) ожидает, что 30 % стоек, которые компания поставит в следующем году, будут оснащены СЖО. Как передаёт The Register, компания теперь способна выпускать до 1 тыс. стоек с СЖО ежемесячно и готова отправлять их клиентам всего через 2–4 недели после получения заказа, хотя ранее сроки поставок такого оборудования могли составлять от четырёх месяцев до одного года.

Уже в этом году 15 % отгруженных компанией стоек будут оснащены СЖО, а в 2025 году этот показатель удвоится. По словам Ляна, настал звёздный час СЖО, хотя за предыдущие 30 лет эта технология смогла завоевать только 1 % рынка. Естественно, взрывной рост связан активным освоением генеративного ИИ, который требует всё большего количества всё более плотно упакованных ускорителей, для которых TDP на уровне 1 кВт становится нормой.

Источник изображения: Supermicro

DLC-системы Supermicro позволяют добиться плотности 80–100 кВт на стойку. При этом Лян снова повторяет всё те же тезисы, что звучали уже не раз. Так, СЖО позволят частично избавиться от не слишком подходящего при таких TDP воздушного охлаждения, сэкономить место в стойках, повысить общую «продуктивность» и энергоэффективность ЦОД, а значит — ещё больше приблизиться к идеалам устойчивого развития и экологичности индустрии в целом.

Компания готовит 4U-платформы с СЖО для HGX B200, но предложит и 10U-вариант с воздушным охлаждением. Также стоит ожидать «воздушную» систему на базе HGX B100 и собственную реализацию GB200 NVL72. А чтобы удовлетворить растущий спрос на свои серверы, компания к концу году откроет в Малайзии новый завод, способный выпускать до 5 тыс. полностью укомплектованных стоек каждый месяц.

Компания IDC обнародовала свежий прогноз по глобальному рынку публичных облачных сервисов и ПО. По мнению аналитиков, затраты в соответствующих сегментах будут быстро расти на фоне стремительного развития ИИ и систем обеспечения информационной безопасности.

Согласно прогнозам, в 2024 году объём отрасли публичных облаков и софта достигнет $222 млрд. Компании, как отмечается, всё чаще используют облачные среды в связи с их гибкостью, масштабируемостью и экономической эффективностью. Внедрение облачных сервисов стимулируется благодаря растущему спросу на решения для анализа больших данных, кибербезопасности и ИИ.

По оценкам IDC, к 2027 году расходы на публичные облачные сервисы поднимутся до $219,3 млрд. При этом затраты на локальные платформы и другие сервисы составят ещё около 30 % от этой суммы, или приблизительно $65,8 млрд. Среди наиболее быстрорастущих направлений названы софт и инфраструктурные сервисы (+19,4 % в 2023 году), телекоммуникации (+16,6 %), ретейл (+16,1 %), образовательная сфера (+15,6 %) и банковский сектор (+14,6 %).

Источник изображения: IDC

Аналитики отмечают, что с географической точки зрения одним из наиболее активно развивающихся станет Азиатско-Тихоокеанский регион. Здесь величина CAGR (среднегодовой темп роста в сложных процентах) в плане расходов на публичные облачные сервисы и ПО в течение ближайших лет ожидается на уровне 14,2 %. Это подчёркивает «стратегическую направленность региона на цифровую трансформацию и технологические инновации».

Среди факторов, сдерживающих внедрение облачных платформ, аналитики называют опасения по поводу безопасности данных, сетевые ограничения, отсутствие внутреннего опыта, желание контроля над IT-инфраструктурой и вопросы, связанные с первоначальными затратами. Поставщики услуг решают эти проблемы, повышая уровень защиты, улучшая сетевую инфраструктуру, предлагая обучение и поддержку, предоставляя гибридные/мультиоблачные варианты использования и внедряя гибкие модели ценообразования.

В 2023 году, по оценкам Gartner, объём глобального рынка ИИ-чипов достиг приблизительно $53,66 млрд. В дальнейшем ожидается стремительный рост данной отрасли. Так, в 2024-м затраты могут увеличиться на треть — до $71,25 млрд, а в 2025-м достигнут $91,96 млрд.

Отмечается, что в 2024 году расходы на ИИ-ускорители для серверов составят приблизительно $21 млрд. К 2028-му, прогнозируют аналитики, затраты в этом сегменте поднимутся до $33 млрд. Gartner подчёркивает, что на сегодняшний день все основные гиперскейлеры, включая AWS, Google, Meta✴ и Microsoft, инвестируют в разработку собственных ИИ-чипов.

Источник изображения: pixabay.com

Так, AWS предлагает ИИ-ускорители Trainium2 и Inferentia2. Google выпустила изделия Cloud TPU v5p и v5e и уже готовит TPU v6. Microsoft представила Maia 100, а Meta✴ намерена активно внедрять собственные ИИ-ускорители Artemis. Хотя разработка ИИ-чипов обходится дорого, использование специально созданных решений может повысить эффективность работы ЦОД и снизить затраты на предоставление пользователям услуг на основе ИИ.

Источник: Gartner

Gartner прогнозирует, что поставки ПК с возможностями ИИ достигнут 22 % от общего объёма продаж в 2024 году. А к концу 2026-го 100 % новых компьютеров корпоративного класса будут оснащаться нейропроцессорным модулем (NPU) для ускорения ИИ-задач. Ожидается, что в 2024 году выручка от продаж ИИ-чипов для вычислительной электроники составит $33,4 млрд, или 47 % от общего объёма рынка. На ИИ-изделия для автомобильной электроники придётся $7,1 млрд, для бытовой электроники — $1,8 млрд.

Руководитель DigitalBridge Марк Ганзи (Marc Ganzi) выступил с чрезвычайно пессимистичным прогнозом. По данным Datacenter Dynamics, он уверен, что энергия для дата-центров закончится уже через два года — значительно раньше, чем прежде считали в самой компании.

Американская DigitalBridge владеет ЦОД и инвестирует в инфраструктуру по всему миру. На её долю приходится более 60 дата-центров и 20 интерконнект-хабов на 30 региональных рынках, а также модульная ЦОД-платформа для периферийных вычислений.

Выступление главы бизнеса состоялось в ходе отчёта о финансовых показателях I квартала 2024 года. По словам Ганзи, энергия будет исчерпана в ближайшие 18–24 месяца. Ранее он был более оптимистичен — на мероприятии Berlin Infrastructure Conference руководитель DigitalBridge заявлял, что электричество для ЦОД закончится только через пять лет.

Источник изображения: American Public Power Association/unsplash.com

По его мнению, в американских сетях остался резерв менее 7 ГВт и менее 3 ГВт — в Европе. Проблема даже не только и не столько в производстве энергии, сколько в её передаче и распределении, поскольку допустимая ёмкость сетей электропередач ограничена. При этом бизнесмен подчеркнул, что разрешение на новую линию электропередач или подстанцию гораздо сложнее получить, чем, например, на вышку мобильной связи.

В DigitalBridge сообщают, что к концу 2023 года компания зарезервировала доступ к более 5 ГВт, а сейчас идёт строительство 2 ГВт ёмкостей. При расходах по $10 млн за МВт, компания ожидает, что капитальные издержки в грядущие годы составят $20 млрд. Также Ганзи добавил, что DigitalBridge намерена построить объекты ёмкостью 3 ГВт при сотрудничестве с Silver Lake для удовлетворения спроса на ИИ и облачную инфраструктуру.

Ранее Ганзи заявлял, что потенциал рынка ЦОД для генеративных облачных ИИ-решений, кабелей и другого оборудования имеет ёмкость в 38 ГВт и сотни миллионов долларов. Компания намерена обучать ИИ-модели с низкой задержкой с использованием ЦОД, расположенных недалеко от существующих «зелёных» энергомощностей, т.е. ветряных, солнечных, газовых и гидроэлектростанций.

Например, принадлежащий DigitalBridge оператор ЦОД — компания Switch использует преимущественно ветряную и солнечную энергию, активно применяются и гидроресурсы. Ганзи назвал искусственный интеллект частью решения проблемы энергетики, по его словам, ИИ будет внедряться для оптимизации дата-центров DigitalBridge.

Компания TrendForce обнародовала прогноз по мировому рынку SSD корпоративного класса на основе флеш-памяти QLC NAND (четыре бита информации в ячейке). Аналитики полагают, что спрос на такие накопители будет быстро расти на фоне стремительного развития рынка ИИ.

TrendForce выделяет две основные причины повышения интереса к решениям QLC со cтороны операторов облачных платформ и дата-центров, ориентированных на ИИ. Это высокая скорость чтения данных и улучшенная совокупная стоимость владения по сравнению с HDD.

Отмечается, что в случае с корпоративными HDD сейчас применяются устройства вместимостью преимущественно 20–24 Тбайт, тогда как QLC SSD обеспечивают ёмкость до 64 Тбайт. Таким образом, достигается значительная экономия места для размещения накопителей в стойках ЦОД. Кроме того, сокращается энергопотребление, благодаря чему снижаются затраты на поддержание работы СХД. При этом SSD на базе QLC позволяют эффективно решать ИИ-задачи, связанные с инференсом, когда производится интенсивное чтение информации, а не запись.

Источник изображения: TrendForce

В настоящее время только Solidigm и Samsung имеют сертифицированные продукты QLC. По оценкам, в IV квартале 2023 года Samsung занимала приблизительно 45 % рынка SSD корпоративного класса, а Solidigm/SK hynix  — 32%. Ещё около 10 % пришлось на Micron, 8 % — на Kioxia, 4 % — на Western Digital. В связи с ростом заказов на продукты QLC компания Solidigm планирует расширить производство 144-слойных чипов флеш-памяти во II половине 2024 года. Samsung, которая пока специализируется на 176-слойных изделиях и не имеет серьёзных конкурентов, извлекает выгоду из ограниченного предложения QLC SSD высокой ёмкости.

TrendForce прогнозирует, что поставки серверных SSD на базе QLC в плане общей ёмкости достигнут 30 Эбайт в 2024 году, увеличившись в четыре раза по сравнению с 2023-м. При этом ожидается рост контрактных цен на SSD корпоративного класса на 23–28 % в I четверти 2024 года (в квартальном исчислении), на 20–25 % во II четверти и на 5–10 % в III четверти года.

В ближайшие годы ожидается стремительный рост спроса китайских дата-центров на воду по мере развития ИИ-технологий. Datacenter Dynamics сообщает, что в новом докладе гонконгской НКО China Water Risk (CWR) сделана оценка потребления этого ценного для дата-центров ресурса — оно вырастет более чем в два раза в следующие шесть лет.

CWR рассчитывает, что потребление воды китайскими ЦОД сегодня составляет 1,3 млрд м³ ежегодно, но к 2030 году увеличится до 3 млрд м³. Организация отмечает, что Китайская академия экологического планирования (China Academy of Environmental Planning, CAEP) ранее выяснила, что число стоек в КНР достигло 5,4 млн шт. в 2021 году, то выросло на 27 % год к году, а к 2030 году оно составит уже 11,3 млн. Общее потребление воды местными ЦОД в 2020 году было неизвестно, но эксперты посчитали, что оно держалось приблизительно на уровне 300 млн м³.

Источник изображения: Jani Brumat/unsplash.com

Как указывают в докладе CWR, китайские IT-гиганты должны принять экстренные меры для того, чтобы стать «водно-положительными» или хотя бы «водно-нейтральными». Китай активно развивает индустрию ЦОД в западной части страны, хотя именно здесь преобладают обширные засушливые области, где удобно размещать солнечные электростанции, но где дефицит воды может оказаться катастрофическим.

Более того, водоснабжение может даже ухудшиться несмотря на рост спроса из-за неспособности своевременно реагировать на стихийные бедствия, а также рост «хронических рисков» вроде простой нехватки водных ресурсов и роста уровня моря. Хотя некоторые IT-гиганты начали планировать модернизацию, многие ещё не разработали никаких стратегий для уменьшения рисков. Впрочем, даже те, кто готовятся, могут столкнуться с проблемами из-за ускоренного глобального потепления — ранее принятые меры были недостаточно хороши.

Источник изображения: CWR

В CWR утверждают, что только 32 % китайских стоек находятся в богатых водой регионах, 46 % — в чрезвычайно сухих местах. Как минимум 41 % стоек расположен в регионах с частыми засухами и 28 % — в зонах, где нередко случаются наводнения. А как минимум пятая часть находятся в Цзянсу, Шанхае и Тяньцзине, которые часто страдает и от того, и от другого.

Конкуренция за воду в регионах уровня Dry 10 будет только расти и запросы ЦОД могут оказаться не в приоритете — поскольку в водных ресурсах нуждается сельское хозяйство, жилые дома и промышленность. В Китае ещё не утверждены стандарты эффективности водопользования (Water Usage Effectiveness, WUE), но власти на местах пытаются внедрять свои собственные требования. Например, шанхайское руководство рекомендует WUE на уровне 1.4.

Источник изображения: CWR

Как свидетельствуют публикации ограниченных данных, Baidu и Xiaomi увеличили своё водопотребление в 2021 году на 23 % и 53 % соответственно, а Tencent подняла потребление ресурса на 31 % в 2022 году. При этом China Mobile, наоборот, сократила потребление на 17 %.

CWR рекомендует местным операторам начать формулировать стратегию управления водными ресурсами и добиваться «водно-положительных» результатов. Также НКО предлагает переключиться с на другие, не столь водно-интенсивные технологии охлаждения, требующие меньше воды на единицу выручки, особенно в локациях с дефицитом воды, хотя иногда это это может привести к ухудшению показателей PUE. Стоит отметить, что проблема внедрения экобезопасных технологий актуальна, как никогда. Появилась информация о массовых закупках Китайским бизнесом ресурсоёмких серверов для ИИ-вычислений.

Synergy Research Group опубликовала результаты нового исследования, согласно которому количество крупных дата-центров, управляемых гиперскейлерами, превысило в начале 2024 года отметку в 1000 штук. В конце 2023 года число таких ЦОД составляло 992 единицы.

Как отметили в Synergy Research Group, всего четыре года потребовалось для того, чтобы общая ёмкость ЦОД гиперскейлеров удвоилась, поскольку их количество растёт наряду с увеличением средней ёмкости дата-центра. По данным аналитической компании, на США по-прежнему приходится 51 % мировой ёмкости, измеряемой в МВт критической ИТ-нагрузки, а на Европу и Китай — около трети.

Источник: Synergy Research Group

Согласно прогнозу Synergy Research Group, общая ёмкость ЦОД гиперскейлеров в ближайшие четыре года вновь удвоится. Хотя ежегодно будет появляться около 120–130 ЦОД гиперскейлеров, рост ёмкости будет во всё большей степени будет обусловлен ещё большим увеличением мощности новых ЦОД. Основной причиной такого роста будет расширение использования технологий генеративного ИИ. У Synergy Research Group есть информация о 440 объектов, которые находятся на разных стадиях планирования, разработки или оснащения.

Исследование основано на анализе работы ЦОД 19 крупнейших мировых компаний, предоставляющих облачные и интернет-услуги, включая крупнейших операторов SaaS, IaaS, PaaS, поиска, социальных сетей, электронной коммерции и игр.

Больше всего ЦОД у ведущих провайдеров облачных услуг Amazon, Microsoft и Google. Помимо большого количества ЦОД в США, каждая из них также имеет дата-центры во многих странах по всему миру. В совокупности на эти компании приходится 60 % общей ёмкости ЦОД гиперскейлеров. За ними в рейтинге следуют Meta/Facebook, Alibaba, Tencent, Apple, ByteDance и другие менее крупные игроки.

Компания Gartner обнародовала скорректированный прогноз по глобальному рынку IT-технологий на 2024 год. Аналитики полагают, что отрасль покажет рост приблизительно на 8,0 %. Если в 2023-м затраты составили $4,69 трлн, то в нынешнем году они достигнут $5,06 трлн.

Аналитики учитывают расходы на дата-центры, электронные устройства, ПО корпоративного класса, IT-сервисы и телекоммуникационные сервисы. В 2023 году суммарный рост затрат в обозначенных сегментах оказался на отметке 3,8 % по отношению к предыдущему году. В 2024-м темпы роста увеличатся, что объясняется, в частности, стремительным внедрением генеративного ИИ.

По направлению ЦОД специалисты Gartner прогнозируют увеличение расходов с $236,18 млрд в 2023 году до $259,68 млрд в 2024-м. Таким образом, ожидается рост примерно на 10,0 %. Говорится, что в 2024 году на системы для задач ИИ придётся около 60 % всех расходов гиперскейлеров на закупку серверов. Ещё $1,04 трлн принесёт ПО корпоративного класса. Годом ранее на этот сектор пришлось $914,69 млрд. Рост в годовом исчислении ожидается на уровне 13,9 %.

Источник изображения: Gartner

По направлению IT-сервисов затраты, по мнению экспертов Gartner, поднимутся на 9,7 % — с 1,39 трлн до $1,52 трлн. Телекоммуникационные сервисы покажут прибавку на уровне 4,3 % — с $1,49 трлн до $1,55 трлн. В сфере электронных устройств затраты достигнут $687,94 млрд против $664,03 млрд в 2023 году, что соответствует росту на 3,6 %.

Энергокомпании США прогнозируют рост спроса на электричество, вызванный взрывным развитием рынков ЦОД и генеративного ИИ. По данным Datacenter Dynamics, многие из поставщиков энергии в стране сегодня пересматривают капитальные затраты с учётом растущего спроса со стороны дата-центров.

Как сообщили аналитики Reuters, девять из десяти энергоснабжающих компаний США связывают рост клиентской базы и спрос на электричество с индустрией дата-центров, тогда как в прошлом году среди них лишь две учитывали вероятный рост ЦОД в своих прогнозах. По словам Newton Investment Management, рост индустрии ожидается более быстрый, чем в предыдущие десятилетия. А рост востребованности энергии вызывает опасение, что генерирующих мощностей попросту не хватит. Более того, по мнению некоторых экспертов, рост производства энергии не успевает за ростом ЦОД вообще.

Источник изображения: Casey Horner/unsplash.com

Так, Southern Co рассчитывает, что ЦОД будут способствовать ежегодному росту продаж энергии на 6 % в 2025–2028 гг., хотя ранее ожидалось, что прирост составит лишь 1–2 %. Филиал Power Business в Джорджии, вероятно, будет расти на беспрецедентные 9 % ежегодно. А в Morgan Stanley предполагают, что использование электроэнергии дата-центрами в глобальном масштабе вырастет втрое, с менее 15 ТВт∙ч в 2023 году до 46 ТВт∙ч в 2024 году.

Наконец, McKinsey предрекает спрос на электроэнергию для IT-оборудования в ЦОД США на уровне 50+ ГВт к 2030 году. В прошлом году она предполагала, что он достигнет только 35 ГВт к концу десятилетия. Общее потребление электричества в США должно значительно вырасти. Во многом не только из-за ЦОД, но и из-за развития электротранспорта. Всего, по оценкам BofA Global Research, к 2030 году спрос вырастет на 15 % до 70 ГВт.

Источник изображения: Lawrence Berkeley National Laboratory

Как считают в Национальной лаборатории Лоуренса Беркли (Lawrence Berkeley National Laboratory), ёмкость новых проектов, желающих подключиться к сетям, выросла с 2000 ГВт в 2022 году до 2600 ГВт в 2023-м. При этом потенциальная мощность новых энергопроектов за последние три года взлетела на 90 %. Из них 80 % приходится на новые типы энергии. Правда, как признают в лаборатории, большинство заявленных проектов так и не были реализованы в 2023 году, успешных инициатив — не более 20 %.

Тем временем регуляторы обеспокоены возможным ростом нагрузки на электросети, увеличением углеродных выбросов и другими вероятными проблемами, связанными с развитием ЦОД. Например, законотворцы в Джорджии проголосовали за отмену налоговых льгот для дата-центров, заявив, что те не создают достаточно рабочих мест для существенного развития экономики, зато возлагают непосильную нагрузку на местные энергокомпании.