Спрос на CPU-мощности в ключевых китайских облаках Alibaba Cloud и Tencent Cloud выровнялся и теперь клиентов больше интересуют ИИ-ускорители, сообщает The Register. Рост спроса на предложения, связанные с ИИ, зарегистрировала и Lenovo.

На прошлой неделе Alibaba и Tencent опубликовали квартальную отчётность, выручка Alibaba Cloud выросла год к году на 6 % до $3,7 млрд. Tencent не раскрывает показатели гиперскейл-сегмента, но отмечает рост спроса на облачные сервисы, благодаря чему квартальные показатели подразделения Business Services выросли год к году на «десятки процентов».

Представитель Tencent объявил инвесторам, что бизнес по аренде ИИ-ускорителей переживает настоящий бум. Впрочем, абсолютные показатели достаточно скромные в сравнении с американским рынком, поскольку у КНР меньше хорошо финансируемых ИИ-стартапов. По некоторым данным, местные стартапы часто располагают $1–$2 млрд, тогда как в США объём инвестиций может достигать и $10–$90 млрд. Tencent в любом случае не теряет клиентов даже на фоне замещения CPU на GPU.

В Alibaba сообщают, что спрос на ИИ-продукты и связанные технологии очень большой, причём он всё ещё далёк от удовлетворения. Для Alibaba Cloud во II половине 2024 года прогнозируется двузначный рост в процентах и большая часть выручки придётся на ИИ-продукты. При этом в Alibaba констатируют, что спрос на традиционные вычисления в облаке на базе классических процессоров ограничен, большая часть роста связана именно с ИИ-продуктами на основе ускорителей.

Источник изображения: Growtika/unsplash.com

В Lenovo тоже сообщили, что в подразделении Infrastructure Solutions Group (ISG) зарегистрирован рекордный рост выручки до $3,2 млрд — это на 65 % выше год к году, частично благодаря спросу на ИИ-решения, причём и на базе обычных серверов, и на базе систем с ИИ-ускорителями. Инвесторам объявили, что оживлённые вложения в ИИ-инфраструктуру и улучшение поставок ускорителей помогут компании вырасти.

Пока же ISG отчиталась о квартальных убытках в объёме $37 млн. Впрочем, это лучше, чем $60,4 млн убытков в аналогичном квартале прошлого года и $97 млн в прошлом квартале. В ходе отчёта экспертов заинтересовало, почему рост выручки на 65 % не привёл к прибыльности соответствующего бизнеса. В самой компании обещают дальнейшую оптимизацию бизнеса в соответствии с требованиями эры гибридных и ИИ-вычислений. Другими словами, не исключены увольнения и/или сокращение продуктовых линеек.

Alibaba Group Holding Limited сообщила финансовые результаты II квартала 2024 года, закончившегося 30 июня. Выручка компании выросла год к году на 4 % до ¥243,2 млрд ($33,5 млрд). Чистая прибыль (GAAP) составила ¥24,0 млрд ($3,3 млрд) или ¥1,24 ($0,17) на акцию, что на 27 % и 26 % меньше по сравнению с прошлым годом соответственно, в основном из-за снижения доходов от операций и обесценивания инвестиций.

Скорректированная чистая прибыль (Non-GAAP) за квартал составила ¥40,7 млрд ($5,6 млрд), что на 9 % меньше результата за II квартал 2023 года. Скорректированная разводнённая прибыль на акцию (Non-GAAP) составила ¥2,05 ($0,28) — снижение год к году на 5 %.

Источник изображений: Alibaba

Облачное подразделение Cloud Intelligence Group увеличило выручку на 6 % — с ¥25,1 млрд во II квартале 2023 года до ¥26, 5 млрд ($3,7 млрд) в отчётном. EBITA подразделения облачных вычислений выросла на 155 % в годовом исчислении до ¥2,3 млрд ($322,15 млн). Было отмечено, что в основном рост показателей был достигнут благодаря ИИ-услугам.

Гендиректор Alibaba Эдди Ву (Eddie Wu) сообщил, что во II половине 2024 года Alibaba Cloud покажет двузначный рост в процентах, причём большая его часть будет обеспечена за счёт решений ИИ. «Среди наших клиентов наблюдается очень, очень высокий спрос на ИИ и продукты, связанные с ИИ», — отметил он, добавив, что «спрос всё ещё далёк от удовлетворения». Ву сообщил, что, если рассматривать отрасль в целом, спрос на традиционные облачные вычисления на базе CPU относительно ограничен, и большая часть роста сейчас достигается благодаря разработке продуктов ИИ на базе GPU/ускорителей.

Гендиректор подчеркнул, что во II квартале рост выручки от реализации продуктов, связанных с ИИ, исчислялся трёхзначными числами в процентах. Он сообщил, что фирменные большие языковые модели (LLM) Alibaba получают всё более широкое распространение. В этом году Alibaba Cloud также выступила в качестве основного поставщика облачных услуг для Олимпийских игр, предоставив облачные вычисления и ИИ-услуги для Olympic Broadcasting Services (OBS).

Ву сообщил, что компания продолжит инвестировать в ИИ высокими темпами «в течение следующих нескольких кварталов». В этом году Alibaba снизила стоимость своих облачных сервисов, причём в некоторых случаях снижение для китайских клиентов составило 55 %, что позволило ей вернуть клиентов, ушедших ранее к конкурентам, таким как Tencent, JD.com и Baidu.

Облачная платформа Yandex Cloud запустила сервис для хранения, обработки и трансляции видео Cloud Video.

Cloud Video разработан на базе видеоплатформы «Яндекса», которую компания развернула в 2016 году для использования во внутренних продуктах. В основу сервиса положены платформа для хранения и обработки больших объёмов данных YTsaurus, СУБД Yandex Managed Service for ClickHouse и собственное масштабируемое S3-хранилище. Cloud Video способен выдерживать высокие нагрузки с минимальной задержкой за счёт собственного CDN, который обеспечивает быструю доставку контента пользователям. Предусмотрена возможность интеграции с другими сервисами Yandex Cloud.

Как устроен сервис Yandex Cloud Video (источник изображения: yandex.cloud/services/video)

Yandex Cloud Video поддерживает все популярные форматы видеофайлов. В сервисе доступны плеер собственной разработки и транскодинг — корректировка качества видео в зависимости от скорости интернета пользователя. Кроме этого, в Cloud Video пользователь по запросу может подключать функцию перевода в режиме реального времени и добавлять автоматически генерируемые субтитры.

В Cloud Video компания может самостоятельно управлять доступом к контенту. Например, предоставлять видео только для корпоративного использования внутри организации. Также можно анализировать статистику просмотров пользователей и визуализировать данные с помощью Yandex DataLens. Сервис уже доступен бесплатно в режиме технического тестирования и предоставляется ограниченному числу пользователей по запросу.

Облачное подразделение Huawei Technologies рассматривает Азиатско-Тихоокеанский регион (АТР) как потенциально огромный рынок для своих ИИ-решений. Как сообщает SCMP, облачные сервисы компании в регионе за последние четыре года выросли в 20 раз несмотря на американские санкции.

По словам представителя Huawei Cloud Жаклин Ши (Jacqueline Shi), следующим шагом компании в регионе станет предоставление всеобъемлющих ИИ-решений. В их числе облачный сервис Ascend Cloud, платформа для ИИ-разработки ModelArts и разработанная самой Huawei большая языковая модель (LLM) Pangu. Компания уже сотрудничает со службой прогнозов погоды в Таиланде над внедрением Pangu, также работая с другими отраслями, например — финансовой.

Источник изображения: Jovan Vasiljević/unsplash.com

План экспансии в АТР демонстрирует намерения компании диверсифицировать денежные поступления и привлечь больше зарубежных клиентов на фоне роста интереса к генеративным ИИ-решениям во многих отраслях. По словам Ши, регион является для компании одним из крупнейших рынков облачных вычислений, именно здесь Huawei в первую очередь запускала некоторые облачные продукты, вроде DBaaS — до того, как предложить их по всему миру.

В мае 2024 года Huawei запустила первый в Египте публичный облачный сервис в Каире, одновременно запустив LLM для арабского языка. В сентябре прошлого года Huawei запустила ЦОД в столице Саудовской Аравии Эр-Рияде для обеспечения страны и других государств Ближнего Востока, Северной Африки и Центральной Азии публичными облачными сервисами.

По данным Canalys, сегодня компания считается вторым по величине провайдером облачных сервисов в материковом Китае, отставая только от облачного подразделения Alibaba Group. Согласно отчётам Huawei, облачные вычисления стали одним из сильнейших векторов роста компании в 2023 году, выручка год к году выросла на 21,9 % до ¥55,29 млрд ($7,6 млрд).

Облачная ИИ-платформа Ascend строится на разработанных самой компанией процессорах и фреймфорках, это позволяет преодолевать американские санкции, ограничивающие доступ КНР к полупроводникам и технологиям американского происхождения. В материковом Китае чипы семейства Huawei Ascend теперь служат альтернативой ускорителям NVIDIA, поставки которых в Китай ограничены.

Это не единственные инициативы Huawei, связанные с облачными решениями. Недавно компания представила сетевой монитор, способный быстро найти даже отдельный неисправный чип в целом дата-центре, а на днях появилась информация о том, что Huawei готовит к выпуску ИИ-ускоритель Ascend 910C способный конкурировать с NVIDIA H100.

В Huawei Cloud разработали собственный сверхточный инструмент сетевого мониторинга RD-Probe для обслуживания для своих облачных регионов. По данным The Register, он способен выявить проблемы, которые человек заметить не способен.

В докладе Huawei и представители Пекинского университета ссылаются на данные Amazon: лишь внутри одного облачного региона AWS имеется 10⁸⁷ возможных путей передачи данных и 10¹⁷⁶ — между регионами. В ЦОД Huawei Cloud используются более 100 тыс. коммутаторов и миллион серверов. Мониторинг всей этой инфраструктуры является чрезвычайно сложной задачей.

Источник изображения: Shivendu Shukla/unsplash.com

RD-Probe отслеживает состояние всех L2-портов во всей сетевой фабрике. Исследователи отмечают, что традиционно осуществляется именно мониторинг L3, что не даёт полной картины состояния сети. При этом инструмент Huawei воспринимает коммутаторы как «чёрные ящики» и не полагается исключительно на их внутреннюю телеметрию, благодаря чему легко интегрируется с уже существующей архитектурой системы мониторинга.

Инструмент сначала проводит зондирование случайным образом, потом — детерминированным. Подобная двухэтапная схема обеспечивает максимальное покрытие сети при проверках и вместе с тем не нагружает её. Для генерации трафика выделен кластер из 16 узлов, каждый из которых имеет неназванный восьмиядерный процессор с частотой 2,80 ГГц и 64 Гбайт оперативной памяти. Полученные данные в потоковом режиме обрабатывают 48 узлов (16-ядерный CPU и 32 Гбайт RAM).

Источник изображения: Huawei

Через месяц после начала использования RD-Probe в Huawei Cloud было найдено множество незамеченных ранее проблем. Конечно, большинство касалось небольших сбоев и эпизодических потерь пакетов, зато выявили их до того, как могли серьёзно пострадать пользователи. Например, инструмент помог определить сбойный чип в коммутаторе ядра сети, из-за которого периодически отбрасывался входящий трафик, но при этом отчёты об ошибках не генерировались. Также была выявлена ошибка в балансировке нагрузки, сбойное SerDes-подключение и проблема с некоторыми BGP-маршрутами.

Исследователи Huawei выразили удовлетворение тем, что RD-Probe улучшило покрытие мониторингом сети с 80,9 % до 99,5 %. В скором времени решение планируется применить в других облачных регионах Huawei. При этом авторы доклада подчёркивают, что RD-Probe оценивает только внутренний трафик и не может фильтровать сбои на серверной стороне. Отмечается, что ручной мониторинг не даёт таких хороших результатов.

VK объявила неаудированные финансовые результаты II квартала и I полугодия 2024 года. Выручка компании за II квартал увеличилась год к году на 21 % до 36,4 млрд руб., а за I полугодие — на 23 % до 70,2 млрд руб.

Основным источником роста VK в I полугодии была онлайн-реклама, выручка от которой увеличилась на 20 % год к году до 42,0 млрд руб. А самым быстрорастущим по-прежнему является сегмент «Технологии для бизнеса» (VK Tech), выручка которого в I полугодии увеличилась на 49,4 % год к году до 4,5 млрд руб.

Источник изображений: VK

Как и в I квартале 2024 года, в I полугодии основными драйверами роста выручки VK Tech были облачные сервисы платформы VK Cloud с ростом на 62,2 % год к году и коммуникационные решения VK Workspace, продемонстрировавшие рост выручки в 2,2 раза.

Как сообщает компания, в отчётном квартале VK Cloud запустила решение для построения платформ разработки ПО — Dev Platform и облачный сервис Cloud Desktop для создания виртуальных рабочих мест — Cloud Desktop. Также в платформе VK Cloud в Казахстане стали доступны CDN и решение для аварийного восстановления ИТ-инфраструктуры и данных Disaster Recovery. Кроме того, линейку решений Tarantool пополнила распределенная система очередей сообщений Tarantool Queue Enterprise и был открыт доступ к коробочной версии платформы VK People Hub Talent.

За I полугодие выручка сегмента «Экосистемные сервисы и прочие направления», включающего сервис «Облако Mail.ru», составила 11,2 млрд руб., увеличившись год к году на 13,9 %.

Средняя месячная аудитория «Облака Mail.ru» в России за II квартал составила 22 млн пользователей, средняя дневная аудитория — 2,6 млн. За три месяца пользователи загрузили в «Облако Mail.ru» более 7,8 млрд файлов. Компания сообщила, что всем пользователям сервиса стали доступны все функции генеративной нейросети без ограничений. Также была реализована функциональность с распознаванием лиц для крупных фестивалей и мероприятий: в рамках VK Fest 2024 сразу после мероприятия пользователи сервиса получили более 234 тыс. фотографий в свои персональные облачные пространства.

МКПАО «Яндекс» объявило неаудированные финансовые результаты за II квартал 2024 года, закончившийся 30 июня. Как сообщается, за отчётный период выручка компании выросла более чем на треть (37 %) до 249,3 млрд руб. с 182,1 млрд руб. годом ранее. При этом скорректированный показатель EBITDA вырос на 56 % до 47,6 млрд руб., составив 19,1 % от выручки.

Во II квартале «Яндекс» сработала с убытками, составившими 31,7 млрд руб., тогда как годом ранее у неё была чистая прибыль в размере 22,5 млрд руб. Вместе с тем показатель скорректированной прибыли компании составил 22,7 млрд руб. (рост год к году — 45 %).

Источник изображений: «Яндекс»

Численность основного персонала компании выросла на 16 % до 26 701 чел., что связано с увеличением темпов найма в «Поисковом портале», «Облачных сервисах», а также в «Плюсе и развлекательных сервисах».

В сегменте «Прочих бизнес-юнитов и инициатив», который включает облачную платформу Yandex Cloud, выручка компании увеличилась на 57 % до 21,9 млрд руб. Вместе с тем убыток по скорректированному показателю EBITDA вырос на 117 % до 14,1 млрд руб., а рентабельность скорректированного показателя EBITDA равна –64,1 % (–17,7 п.п. год к году).

В 2024 году «Яндекс» планирует увеличить выручку на 38–40 % год к году. Скорректированный показатель EBITDA за год должен составить в пределах 170–175 млрд руб. Также сообщается, что совет директоров рассмотрит вопрос о выплате первых дивидендов в размере 80 руб. на обыкновенную акцию.

VK Cloud объявила о запуске решения, которое автоматизирует развёртывание необходимой инфраструктуры для размещения привычных сервисов «1С», что позволит крупным и средним компаниям с сотнями и тысячами активных пользователей ускорить миграцию системы в облако.

VK Cloud предоставляет отказоустойчивую гибкую инфраструктуру, которая поддерживает высокую производительность систем «1С», обеспечивая быструю и стабильную работу высоконагруженных приложений «1С» даже при пиковых нагрузках во время сдачи бухгалтерской отчётности или сезона высоких продаж, говорится в пресс-релизе. При этом можно оперативно корректировать объём используемых вычислительных ресурсов, что позволяет снижать издержки на содержание и обслуживание собственного серверного оборудования и ПО, повышая эффективность владения.

Источник изображения: cloud.vk.com

При необходимости компании могут подключить на платформе VK Cloud решение для аудита производительности сервисов «1С» и своевременного реагирования на отклонения в их работе — ПО «Алькир» компании Digilabs. Сообщается, что инфраструктура VK Cloud соответствует требованиям 152-ФЗ по высшему уровню защищённости (УЗ-1), стандартам ГОСТ Р 57580, ISO и PCI DSS.

Директор по продукту VK Cloud и лидер бизнес-сегмента SaaS VK Tech отметил, что новый сервис VK Cloud упростил миграцию высоконагруженных систем «1С» в облако, а также сделал работу с ними более комфортной: «Специализированный кластер “1С” разворачивается в автоматизированном режиме и обеспечивает стабильную работу приложений. Облачная модель позволяет автоматически и в режиме реального времени масштабировать инфраструктуру, обеспечивая надёжную защиту информации. Кроме того, облако позволяет перевести капитальные затраты на поддержание IT-инфраструктуры в операционные и гибко ими управлять».

NVIDIA приобрела стартап, помогающий ИИ-разработчикам найти среди предложений облачных провайдеров наиболее подходящий по соотношению цена/качество доступ к ускорителям. Как сообщает портал CRN, это уже четвёртая заметная покупка NVIDIA с начала года. Представитель NVIDIA подтвердил, что сделка по приобретению Brev.dev действительно состоялась, но сумму и условия сделки не сообщил.

Brev.dev предоставляет платформу для создания, обучения и внедрения ИИ-моделей в облаках. Целью Brev.dev, по словам самого стартапа, является поиск простейшего способа использования ускорителей для разработчиков систем ИИ и машинного обучения. Сотрудничество с NVIDIA обеспечит выполнение этой миссии, с комбинацией максимально возможно производительной аппаратной составляющей с самым передовым программным обеспечением.

На сайте Brev.dev официальными партнёрами стартапа названы NVIDIA, Intel и AWS. Там же говорится, что платформа служит единым интерфейсом для взаимодействия AWS, Google Cloud Platform, Fluidstack и прочими облаками с ИИ-ускорителями. Это позволяет разработчикам искать подходящие инстансы на основе их цены и доступности. Хотя NVIDIA поставляет GPU и ИИ-ускорители облачным провайдерам более десяти лет, в последние годы компания уделяет немало внимания расширению собственного бизнеса в сфере облачных инфраструктур.

Источник изображения: NVIDIA

В прошлом году компания запустила сервис DGX Cloud, который развёрнут в облачной инфраструктуре других провайдеров и на собственных мощностях и ИИ-суперкомпьютерах. Ранее в этом году NVIDIA купила ещё два стартапа для развития возможностей DGX Cloud. В конце апреля компания анонсировала покупку израильского стартапа Run:ai, занимающегося решениями для оркестрации ИИ-инфраструктур. Его планируется интегрировать в DGX Cloud, а также с DGX- и HGX-серверами. По имеющимся данным, покупка Run:ai обошлась в $700 млн.

Практически одновременно с Run:ai компания приобрела ещё один израильский стартап — Deci, предлагающий ПО, способное на любом железе ускорить инференс ИИ-моделей, сохраняя точность данных. Сделку, по слухам, оценили приблизительно в $300 млн. Наконец, месяц назад NVIDIA купила калифорнийский стартап Shoreline.io, основанный бывшим управленцем AWS — компания разрабатывает ПО для автоматического устранения проблем в инфраструктуре ЦОД. По некоторым данным, команда Shoreline присоединилась к DGX Cloud, а покупка обошлась в $100 млн.

В 2023 году треть российских компаний (33 %) увеличили ИТ-бюджет, большей частью инвестировав в найм IT-специалистов и обновление ПО и лицензий, указано в исследовании State of DevOps Russia, проведённом компанией «Экспресс 42» при участии Deckhouse, Yandex Cloud, Head Hunter, AvitoTech, Т-Банк, JUG Ru Group и OTUS.

В опросе приняли участие более 4 тыс. ИТ-специалистов из российских компаний, чья деятельность связана с разработкой, тестированием и эксплуатацией ПО. Почти половина участников опроса (44 %) сообщила, что их компании стали чаще применять технологии ИИ для оптимизации работы ПО и DevOps-процессов.

В частности, разработчики применяют алгоритмы машинного обучения для автоматизации тестирования кода, выявления аномалий в данных, управления конфигурациями систем и инцидентами. При этом 47 % участников опроса отметили, что использование ИИ-технологий позволило повысить эффективность работы.

Источник изображения: Yandex Cloud

Использование облачных платформ позволяет не только оптимизировать разработку с ПО, но и повысить соответствие требованиям регулятора в области информационной безопасности — так считает половина респондентов. Также 41 % опрошенных отметили повышение прозрачности работы с данными при использовании облачных платформ.