NVIDIA выпустила новые ускорители GB300 и B300 всего через шесть месяцев после выхода GB200 и B200. И это не минорное обновление, как может показаться на первый взгляд — появление (G)B300 приведёт к серьёзной трансформации отрасли, особенно с учётом значительных улучшений в инференсе «размышляющих» моделей и обучении, пишет SemiAnalysis. При этом с переходом на B300 вся цепочка поставок меняется, и от этого кто-то выиграет, а кто-то проиграет.

Конструкция вычислительного кристалла B300 (ранее известного как Blackwell Ultra), изготавливаемого с использованием кастомного техпроцесса TSMC 4NP. Благодаря этому он обеспечивает на 50 % больше Флопс (FP4) по сравнению с B200 на уровне продукта в целом. Часть прироста производительности будет получена за счёт увеличения TDP, достигающим 1,4 кВт и 1,2 кВт для GB300 и B300 HGX соответственно (по сравнению с 1,2 кВт и 1 кВт для GB200 и B200). Остальное повышение производительности связано с архитектурными улучшениями и оптимизациями на уровне системы, такими как динамическое распределение мощности между CPU и GPU.

Кроме того, в B300 применяется память HBM3E 12-Hi, а не 8-Hi, ёмкость которой выросла до 288 Гбайт. Однако скорость на контакт осталась прежней, так что суммарная пропускная способность памяти (ПСП) по-прежнему составляет 8 Тбайт/с. В качестве системной памяти будут применяться модули LPCAMM. Разница в производительности и экономичности из-за увеличения объёма HBM намного больше, чем кажется. Усовершенствования памяти имеют решающее значение для обучения и инференса больших языковых моделей (LLM) в стиле OpenAI O3, поскольку более длинные последовательности токенов негативно влияют на скорость обработки и задержку.

Источник изображения: NVIDIA

На примере обновления H100 до H200 хорошо видно, как память влияет на производительность ускорителя. Более высокая ПСП (H200 — 4,8 Тбайт/с, H100 — 3,35 Тбайт/с) в целом улучшила интерактивность в инференсе на 43 %. А большая ёмкость памяти снизила объём перемещаемых данных и увеличила допустимый размер KVCache, что увеличило количество генерируемых токенов в секунду втрое. Это положительно сказывается на пользовательском опыте, что особенно важно для всё более сложных и «умных» моделей, которые могут приносить больше дохода с каждого ускорителя. Валовая прибыль от использования передовых моделей превышает 70 %, тогда как для отстающих моделей в конкурентной open source среде она составляет менее 20 %.

Источник изображения: TrendForce

Однако одного наращивания скорости и памяти, как это делает AMD в Instinct MI300X (192 Гбайт), MI325X и MI355X (256 Гбайт и 288 Гбай соответственно), мало. И дело не в том, что забагованное ПО компании не позволяет раскрыть потенциал ускорителей, а в особенности общения ускорителей между собой. Только NVIDIA может предложить коммутируемое соединение «все ко всем» посредством NVLink. В GB200 NVL72 все 72 ускорители могут совместно работать над одной и той же задачей, что повышает интерактивность, снижая задержку для каждой цепочки размышлений и в то же время увеличивая их максимальную длину. На практике NVL72 — единственный способ увеличить длину инференса до более чем 100 тыс. токенов и при этом экономически эффективный, говорит SemiAnalysis. По оценкам, GB300 NVL72 обойдётся заказчиками минимум в $7,5 млн, тогда как GB200 NVL72 стоил порядка $3 млн.

Компания YADRO объявила о приёме заявок на демонстрационное тестирование четырёхпроцессорных серверов V240 G3 в форм-факторе 2U. Образцы, успешно протестированные в лаборатории, передадут до конца декабря одному из ключевых технологических партнеров. С января 2025 года YADRO начнет предоставлять демонстрационные платформы заказчикам на основе полученных запросов, сообщает пресс-служба компании.

Выход первых четырёхпроцессорных серверов YADRO был анонсирован на конференции «Цифровая индустрия промышленной России» (ЦИПР-2024) в Нижнем Новгороде в мае 2024 года. Там был показан инженерный концепт новинки.

Новые серверы YADRO V240 G3 обеспечат максимальную производительность благодаря четырём процессорам с поддержкой до 240 ядер и 16 Тбайт оперативной памяти. В модели доступно до 28 отсеков для SFF-накопителей, что обеспечивает гибкость настройки хранилища и высокую скорость ввода-вывода благодаря полной поддержке NVMe. Оптимизация TCO достигнута за счёт объединения вычислительных ресурсов двух двухпроцессорных серверов в единую компактную систему в форм-факторе 2U.

Источник изображения: YADRO

Четырёхсокетные серверы YADRO V240 G3 предназначены для работы с наиболее ресурсоёмкими приложениями с высокими требованиями к вычислительным ресурсам: для виртуализации, высоконагруженных СУБД, аналитических и ERP-систем, электронной коммерции и банковских систем, а также обработки больших данных. Решение призвано стать оптимальным выбором для крупных финтех-компаний, бизнесов из сферы телекома, транспорта и логистики, промышленности и нефтегазовой индустрии. Все они ежедневно выполняют многопоточную обработку данных.

По словам директора по продуктам YADRO Павла Егорова, серверы с четырьмя сокетами сегодня востребованы в различных отраслях, где требуются мощные вычислительные ресурсы. Они подходят для выполнения самых ресурсоемких задач в корпоративных и облачных системах, связанных с критическими данными, высокой нагрузкой и вертикальным масштабированием. По его словам, необходимо также отметить эффективную обработку пиковых нагрузок, которые гибко распределяются между процессорами, обеспечивая стабильность работы и сокращая время выполнения сложных задач.

Входящее в группу МТС подразделение МТС Web Services (MWS) поделилось результатами исследования, посвящённого российскому рынку IT. В материале «Перспективы ИТ-рынка 2024» сообщается, что в 2019–2023 гг. он рос в среднем на 19 % ежегодно, а в 2023 году его объём составил 2,7 трлн руб. В 2024 году он, как ожидается, вырастет на 22 % до 3,3 трлн, а его доля в ВВП страны вырастет с 1,2 % до 1,8 %. В 2019 году объём российского IT-рынка составлял всего 1,4 трлн руб.

В основе методологии исследования — анализ выручки ста крупнейших IT-компаний России. Это позволяет эффективно оценить как размер, так и структуру рынка с точки зрения известных реалий. Оценивалась структура рынка, объём его сегментов, сравнивались российский и мировой IT-рынки, делался прогноз вертикалей и сегментов по 2024 год включительно.

Крупнейшей вертикалью по итогам 2024 года станет программное обеспечение (Software) — если в прошлом году на него приходилось 41 % рынка, то в 2024 году придётся уже 44,3 %. Это связано с сокращением доли вертикалей аппаратного обеспечения (22,7 % против 24,3 % соответственно) и IT-сервисов — 33 % в 2024 году против 34,7 % в 2023-м.

Источник изображения: Anastassia Anufrieva/unsplash.com

В абсолютных величинах вертикаль ПО выросла с 420 млрд руб. в 2019 году до 1,1 трлн в 2023, а в текущем должна достигнуть 1,5 трлн руб. Вертикали аппаратного обеспечения и IT-сервисов росли на уровне 14 % с 2019 года. Для Hardware показатели в 2019, 2023 и 2024 гг. составили 380,2/649,9/743,5 млрд руб., для IT-Services — 549,9/929,6 млрд руб. в 2019 и 2023 гг. и 1,1 трлн в 2024-м.

При этом рынок IT в России растёт быстрее, чем в мире в целом. Как прогнозируют в MWS, по итогам уходящего года доля рынка IT в ВВП РФ вырастет на 0,27 п.п., а в мировой эконоике рост составит лишь 0,13 п.п. Правда, в мировой экономике доля IT вырастет до 2,62 %, что значительно выше российских 1,6 %. Впрочем, если в 2019 году российская доля на общемировом рынке IT составляла 1,1 %, в 2023 году — 1,2 %, то в 2024 она вырастет до 1,3 %.

Истчоник изображения: Towfiqu barbhuiya/unsplash.com

Облачный рынок РФ в сегментах IaaS и PaaS рос с 2019 по 2023 гг. в среднем на 42 % в год (с 31,4 до 127,3 млрд руб. соответственно), а в 2024 году он, вероятно, вырастет на 32 % до 168,1 млрд руб. Основная доля рынка приходится на IaaS (83 %), тогда как на PaaS — всего 17 %. Наиболее востребованы ИИ-облака (AI Cloud), на которые в 2024 году придётся от 80 млрд руб. Среднегодовые темпы прироста с 2024 по 2028 гг. составят более 40 %, причём свыше 80 % соответствующего сегмента рынка в уходящем году пришлось на вертикаль Hardware, а прочее — на Software и IT-Services (в целом Managed Services). Эксперты ожидают, что пропорция не изменится и в будущем.

По 30 % в год прирастает и рынок кибербезопасности России. Если в 2019 году он составлял 159,6 млрд руб., то в 2023 и 2024 гг. — 453,4 и почти 600 млрд руб. соответственно. На вертикаль Software в 2024 году из этих средств придётся 273,6 млрд руб., Hardware — 113,2 млрд руб. и 206,6 млрд руб. — на IT-Services.

В целом MWS отмечает качественный рост по всем ключевым направлениям — IT-бизнес в целом адаптировался к новым реалиям и активно развивает собственные решения, в том числе в совместных проектах с «дружественными» зарубежными вендорами. А многие компании планируют выход на IPO.

Новейшее исследование Omdia показывает, что быстрый рост спроса на кастомные ИИ-ускорители Google (TPU) формирует особый тренд. Не исключено, что он станет достаточно сильным для того, чтобы начать процесс, способный прекратить доминирование NVIDIA на рынке ускорителей, сообщает Omdia.

Результаты III квартала компании Broadcom, чьё подразделение Semiconductor Solutions выполняет аутсорс-заказы Google, Meta✴ и некоторых других IT-гигантов, дают по-новому взглянуть на рынок ускорителей. В частности, они позволяют оценить покупательские тенденции и косвенно получить информацию, которая обычно скрывается. Например, как много кастомных процессоров покупает Google.

Глава Broadcom Хок Тан (Hock Tan) неоднократно пересматривал планы выручки от ИИ-полупроводников, в этом году компания намерена заработать $12 млрд. Исходя из этого ожидается, что на TPU Google придётся от $6 млрд (близко к текущим оценкам Omdia) до $9 млрд, в зависимости от распределения выручки между вычислительными и сетевыми решениями. В сумму целиком входит и выручка от чипов Meta✴ MTIA. В следующем году у Broadcom, вероятно, появится и загадочный третий заказчик. Им может стать Apple, которая сейчас активно использует для обучения моделей именно TPU.

Источник изобраджения: Google

По словам экспертов Omdia, даже с учётом того, что соотношение выручки от вычислительных и сетевых устройств точно не определено, поставки TPU даже «по нижней границе» в $6 млрд свидетельствуют о росте достаточно быстром, чтобы впервые отвоевать часть доли рынка у NVIDIA. По оценкам TechInsights, в 2023 году поставки TPU достигли 2 млн шт., а ускорителей NVIDIA для ЦОД — 3,8 млн шт.

Стоит отметить, что выручка бизнеса Google Cloud Platform продолжает расти как часть выручки Google, при этом растёт и рентабельность подразделения. Это может свидетельствовать о том, что инстансы на основе TPU выступают драйверами роста Google Cloud и являются высокоприбыльными продуктами. В середине ноября Google и NVIDIA показали первые результаты TPU v6 и B200 в ИИ-бенчмарке MLPerf Training, где ускорители продемонстрировали неоднозначные результаты в разных сравнениях.

Оператор ЦОД Equinix совместно с Dell Technologies предложил частные ИИ-облака на базе Dell AI Factory. Использование комплекса Dell AI Factory with NVIDIA в ЦОД IBX позволяет комбинировать различные продукты, решения и сервисы на нейтральной площадке, где клиенты смогут безопасно и экономически эффективно объединить ресурсы публичных облаков, колокейшн-объектов, а также собственных облачных и локальных инфраструктур.

Dell AI Factory with NVIDIA включает серверы Dell PowerEdge XE9680 с ускорителями NVIDIA, Ethernet-решения NVIDIA Spectrum-X и BlueField-3, а также СХД Dell PowerScale F710. Кроме того, будут доступны и 4U-серверы PowerEdge XE9680L, поддерживающие до восьми новейших ускорителей NVIDIA Blackwell. Решение будет доступно в более чем 260 ЦОД Equinix IBX.

В Equinix объявили, что намерены обеспечить клиентов передовой ИИ-инфраструктурой, отвечающей самым высоким стандартам производительности, безопасности и надёжности, а сотрудничество с Dell и NVIDIA позволит использовать максимум ресурсов систем генеративного ИИ, сохраняя контроль над данными и поддерживая собственные корпоративные цели достижения экоустойчивости.

Источнки изображения: Dell

Наличие площадок Equinix в более 70 мегаполисах мира, время бесперебойной работы 99,999 %, масштабируемость проектов и сотрудничество с тысячами сетей и провайдеров, а также обеспечение ЦОД на 96 % возобновляемой энергией (100 % на ключевых рынках) в сочетании с платформой Dell AI Factory with NVIDIA, которая уже доступна в ЦОД Equinix в большинстве регионов мира, позволит заказчикам повысить удобство, безопасность и экологичность работы с генеративным ИИ.

В настоящее время деятельность крупных компаний связана с использованием больших объёмов данных, для структурирования и управления которыми требуются эффективные и надёжные в работе СУБД. А для их администрирования и мониторинга используются специальные инструменты, такие как Платформа Tantor российской компании «Тантор Лабс» (входит в «Группу Астра»).

В связи с уходом с локального рынка зарубежных вендоров растёт популярность отечественного ПО, обеспечивающего цифровизацию инфраструктуры на основе импортонезависимых технологий. Платформа Tantor, позволяющая вести администрирование и мониторинг корпоративных баз данных, поможет компаниям в решении задач миграции благодаря совместимости с СУБД на базе PostgreSQL различных вендоров.

PostgreSQL является одной из самых популярных в мире СУБД с открытым исходным кодом. Не так давно вышла 17-я версия PostgreSQL, получившая по сравнению с предыдущей множество улучшений и нововведений. В её подготовке приняли участие и специалисты «Тантор Лабс», показавшей самую высокую активность среди российских компаний в ходе международных мероприятий, касающихся работы над Postgres 17.

Источник изображений: «Тантор Лабс»

Платформа Tantor обладает полным набором функций для работы с СУБД в простом графическом интерфейсе с предоставлением информации в максимально удобном виде. Решение отличается простотой эксплуатации, а также высокой производительностью, надёжностью и отказоустойчивостью.

Снижение рисков простоя и потери данных достигается за счёт мониторинга ключевых метрик и конфигурируемой системы предупреждения о неисправностях, которая сможет доставить ответственному специалисту подробную информацию о неполадках быстро и надёжно. Также Платформа обладает инструментарием для регламентного обслуживания, который позволяет своевременно или по расписанию обслужить СУБД и оптимизировать её работу.

Соблюдение требований безопасности обеспечивается благодаря поддержке защищённого подключения к СУБД, расширенному контролю за пользовательскими учётными записями, в том числе синхронизацией с репозиториями, а также другими механизмами защиты, такими как анонимайзер чувствительных данных.

Платформа Tantor упрощает ведение разработки за счёт использования визуального профайлера SQL-запросов для оперативного выявления проблемных мест, сбора статистики планов выполнения запросов для оптимизации приложений, работающих с БД, и ещё целого ряда инструментов, которые помогут разработчику выявить проблему своевременно.

С выходом в октябре обновления Tantor 5.0 Платформа получила новые инструменты для разработчиков и администраторов баз данных, а также улучшение функциональности. В частности, встроенная база данных была обновлена до версии Tantor Special Edition 16, что повысило безопасность и скорость работы Платформы. Были добавлены инструменты «Браузер БД» для работы со схемой данных БД непосредственно из интерфейса и уже упомянутый «Анонимайзер» для обезличивания и маскирования данных, модуль управления параметрами с поддержкой сохранения конфигурации СУБД для дальнейшего использования на других экземплярах СУБД.

Кроме того, в интерфейсе Платформы появилась тёмная тема оформления, были добавлены новые API-методы Datasets и фильтрация экземпляров, а также новый вид таблиц с возможностью настройки с учётом своих предпочтений для более комфортной работы.

«Платформа Tantor 5.0 предлагает расширенные аналитические возможности и гибкость в настройке, что делает её незаменимым инструментом для разработчиков и администраторов, стремящихся идти в ногу со временем в области работы с данными», — отметил Вадим Яценко, глава «Тантор Лабс», добавив, что существенные нововведения будут способствовать росту эффективности работы пользователей.

Компания «ТС Интеграция», дочерняя структура многопрофильного IT-холдинга Т1, по сообщению газеты Коммерсантъ», пытается через суд взыскать почти $3,5 млн с ООО «МКТ» — учредителя IT-поставщика «Марвел-дистрибуция». Спор связан с договором на поставку продуктов американской корпорации Fortinet, которая специализируется на ПО и сервисах в области информационной безопасности.

Говорится, что в сентябре 2019 года Т1 и «Марвел-дистрибуция» заключили рамочный договор на поставку кодов активации софта, блоков обработки данных и модулей Fortinet. Эти решения Т1 затем поставляла банку ВТБ. Однако 7 марта 2022-го Fortinet объявила о прекращении техподдержки своих продуктов в РФ.

«ТС Интеграция» требует от ООО «МКТ» $2,9 млн плюс $536 тыс. в качестве процентов за «пользование чужими денежными средствами». В августе 2024 года суд первой инстанции отказал Т1 в удовлетворении требований, апелляция также встала на сторону «Марвел-дистрибуции». В результате, «ТС Интеграция» подала кассационную жалобу: её рассмотрение намечено на 24 января 2025-го.

Источник изображения: unsplash.com / Tingey Injury Law Firm

Как отмечают эксперты, из-за специфики поставленного товара суды посчитали, что ни истец, ни ответчик не являются сторонами лицензионного соглашения. Отмечается также, что продукты были поставлены истцу в надлежащем качестве и в оговорённые в договоре сроки. А приостановление работы компании-правообладателя Fortinet в России «не служит основанием для вывода о ненадлежащем качестве поставленного товара». Таким образом, претензии Т1 отклонены.

По словам экспертов, в России на сегодняшний день нет однозначно сформированной практики по данной категории дел. Например, в отдельных случаях суд может удовлетворить требования истцов, ссылаясь на то, что уход иностранного производителя из РФ не освобождает компанию от выполнения своих обязательств по договору поставки. В целом, с 2022 года в российских судах было инициировано около 100 подобных разбирательств.

Российский сервис для управления бизнесом «Битрикс24» представил ИИ-модель собственной разработки BitrixGPT 4x, призванную упростить пользователям работу с ежедневными задачами.

Как показала внутренняя аналитика «Битрикс24», бизнес стал чаще использовать нейросети. Наибольший интерес к использованию нейросетей отмечен у крупных компаний с большим количеством сотрудников, в которых автоматизировать процессы сложнее, а уровень рутины выше.

Для оптимизации работы 57,5 % порталов в них регулярно используют ИИ для расшифровки звонков, составления резюме разговора и заполнения карточек в CRM. И хотя бы раз нейросети в работе попробовали 80 % порталов, пишет CNews со ссылкой на представителей «Битрикс24».

Наиболее популярным инструментом в «Битрикс24» является «Чат с CoPilot», который помогает пользователям в решении различных задач: от написания seo-текстов и писем до анализа кода и составлением стратегии. Им пользуются в 58 % случаев. 48 % порталов используют «Чат с Copilot» более 15 дней в месяц.

Источник изображения: «Битрикс24»

Модель BitrixGPT доступна в коробочной версии продукта. В 2025 году она станет доступна для облачных порталов «Битрикс24», а также будет моделью по умолчанию в CoPilot. Пользователи также смогут по-прежнему воспользоваться GigaChat, YandexGPT, и подключить партнёрское или собственное решение.

На заводе «НПО «ЦТС» (входит в холдинг GS Group) в Калининградской области начался серийный выпуск IP-видеокамер и коммутаторов доступа. Заказчиком выступает Qtech — российский разработчик сетевого, телекоммуникационного и IT-оборудования для операторов связи, государственных структур и корпоративных сетей.

В общей сложности по заказу Qtech будет изготовлено 4200 IP-видеокамер. Это уличные всепогодные решения серии MiR, предназначенные для систем охранного и технологического видеонаблюдения. Устройства, включенные в реестр Минпромторга, могут использоваться в рамках программы импортозамещения государственными ведомствами, учреждениями, госкорпорациями и предприятиями ВПК.

Отмечается, что в рамках контрактного производства на заводе выполняется сборка электронных модулей с использованием технологии поверхностного и выводного монтажа, а также осуществляются установка элементов в корпус, тестирование и изготовление упаковки. Сборка одной камеры занимает всего две минуты. 1 тыс. устройств уже отгружена компании Qtech, а оставшуюся часть заказа планируется выполнить до конца января 2025 года. Кроме того, заказчику поставлены 2000 коммутаторов.

Источник изображения: GS Group

«Наработанные компетенции и современное оборудование позволяют держать высокий темп производства. Мы можем собирать сложные технические устройства и устанавливать в миниатюрное изделие сразу четыре платы, а не одну, как делается обычно», — отметил генеральный директор «ЦТС».

В марте 2024-го GS Group объявила об инвестициях в размере 182 млн руб. в развитие производства завода «ЦТС». Тогда говорилось, что модернизация позволит втрое увеличить скорость монтажа серверных и материнских плат и повысить производительность труда на 30 %.

Проектом предусмотрено использование новейших устройств оптической инспекции на базе ИИ. Эти системы отвечают за проверку SMT-монтажа при нанесении припойной пасты, правильность установки компонентов и монтаж компонентов после пайки. Технология позволяет сократить время подготовки производства плат с 24 часов до получаса. Модернизация предприятия предполагает выполнение всего процесса пайки материнских плат в азотной среде, что помогает сократить количество дефектов до минимальных значений. Для пайки выводных компонентов служат длиннобазовые печи, повышающие качество монтажа больших серверных плат.

Сенатор Артем Шейкин, по сообщению газеты «Коммерсантъ», направил в Минцифры России письмо с просьбой возобновить работу над законопроектом от 2022 года о регулировании деятельности дата-центров. Речь, в частности, идёт о внедрении отечественных стандартов по строительству и сертификации таких объектов.

В письме Шейкина говорится о законопроекте о внесении изменений в ФЗ «О связи» в части регулирования деятельности ЦОД. Документ был принят Госдумой в первом чтении около трёх лет назад, но затем отправился на доработку: возникли вопросы в том числе в отношении определения ЦОД в законодательстве как «сооружения связи с комплексом систем».

Как отмечает Шейкин, описанная в законе модель регулирования отрасли дата-центров необходима в свете активного импортозамещения. Кроме того, по мнению автора письма, в России требуется собственная система сертификации в области ЦОД. Дело в том, что российские коммерческие дата-центры сейчас проходят западную сертификацию Uptime Institute: при этом проектные документы и другая чувствительная информация отправляются в США. Сенатор заявляет, что использование ЦОД, сертифицированных по иностранным стандартам, и отсутствие собственной системы защиты «делают нашу инфраструктуру уязвимой для кибератак, шпионажа и утечки конфиденциальной информации».

Источник изображения: unsplash.com / Scott Rodgerson

Госдума РФ рассчитывала принять изменения в закон «О связи», которые придадут дата-центрам официальный статус, ещё до конца 2023 года. Документом предусмотрена классификация ЦОД для определения уровня надёжности инженерной инфраструктуры. Это позволит отделять дата-центры от любых других помещений, в которых размещается IT- и телеком-оборудование.

Участники рынка в целом согласны с тем, что в России необходимо ввести регулирующие законы в сфере ЦОД, а также внедрить отечественную сертификацию. Предполагается, что аттестацией дата-центров займутся уполномоченные организации, прошедшие квалификационный отбор и получившие аттестацию в Минцифры на ограниченный период времени.