Hewlett Packard Enterprise (HPE) и NVIDIA представили платформу NVIDIA AI Computing by HPE — портфель совместно разработанных решений для ускорения внедрения генеративного ИИ.

Ключевым в портфеле является предложение HPE Private Cloud AI. Как указано в пресс-релизе, это первое в своём роде комплексное решение, которое обеспечивает самую глубокую на сегодняшний день интеграцию вычислительных технологий, сетей и ПО NVIDIA с хранилищем, вычислительными ресурсами и облачной платформой HPE GreenLake. Решение предоставляет предприятиям любого размера возможность быстрой и эффективной разработки и развёртывания приложений генеративного ИИ.

Решение HPE Private Cloud AI с новой функцией OpsRamp AI Copilot, которая позволяет повысить эффективность ИТ-операций и обработки рабочих нагрузок, включает в себя облачную среду самообслуживания с полным управлением жизненным циклом. Оно доступно в четырёх конфигурациях (Small, Medium, Large и Extra Large) для поддержки рабочих нагрузок ИИ различной сложности.

Источник изображения: SiliconANGLE

HPE Private Cloud AI также поддерживает инференс, точную настройку моделей и их дообучение посредством RAG с использованием собственных данных. Решение сочетает в себе средства контроля конфиденциальности, безопасности, прозрачности и управления данными, в том числе средства ITOps и AIOps. AIOps использует машинное обучение и анализ данных для автоматизации и улучшения ИТ-операций. ITOps включает в себя ряд инструментов, обеспечивающих бесперебойное функционирование ИТ-инфраструктуры организации.

Источник изображения: The Next Platform

Конфигурация HPE Private Cloud AI Small, предназначенная для инференса, включает от четырёх до восьми ускорителей NVIDIA L40S, до 248 Тбайт дискового пространства и 100GbE-подключение в стойке мощностью 8 кВт. Конфигурация Medium, предназначенная для инференса и RAG, включает до 16 ускорителей NVIDIA L40S, до 390 Тбайт дискового пространства и 200GbE-подключение в стойке мощностью 17,7 кВт.

Источник изображения: The Next Platform

Конфигурации Large и Extra Large предлагают дополнительные возможности по обработке нагрузок ИИ и ML, а также тонкой настройке ИИ-модели. Конфигурация Large включает до 32 ускорителей NVIDIA H100 NVL, до 1,1 Пбайта дискового пространства и 400GbE-интерконнект в двух стойках мощностью 25 кВт каждая. В свою очередь, конфигурация Extra Large включает до 24 ускорителей NVIDIA GH200 NVL2, до 1,1 Пбайта дискового пространства и 800GbE-интeрконнект в двух стойках мощностью 25 кВт каждая.

Стойки могут управляться клиентом самостоятельно или обслуживаться HPE. Каждая конфигурация может работать как автономное локальное решение ИИ или в составе гибридного облака. Используется программная платформа NVIDIA AI Enterprise, включающая микросервисы инференса NIM. Её дополняет ПО HPE AI Essentials.

Кроме того, поддержку новых ускорителей NVIDIA получили три аппаратные платформы:

• базовая модель HPE ProLiant Compute DL384 Gen12 с NVIDIA GH200 NVL2 предназначена для заказчиков, использующих достаточно крупные ИИ-модели или RAG.
• сервер среднего уровня HPE ProLiant DL380a Gen12 включает до восьми ускорителей NVIDIA H200 NVL и подходит тем, кому нужна гибкость в масштабировании рабочих нагрузок генеративного ИИ;
• топовая модель HPE Cray XD670 с узлами на базе восьми ускорителей NVIDIA H200 NVL называется идеальной для разработки LLM.

HPE также объявила, что её облачная платформа HPE GreenLake for File Storage прошла сертификацию Nvidia DGX BasePOD и валидацию хранилища NVIDIA OVX, HPE Private Cloud AI, а также анонсированное оборудование будут доступны этой осенью за исключением платформы Cray XD670 на базе NVIDIA H200 NVL, который поступит в продажу этим летом. А после станут доступны и решения на базе Blackwell.

Военно-морские силы США успешно реализовали пилотный проект, предусматривающий подключение военных кораблей к облачным сервисам. По данным Datacenter Dynamics, работоспособность концепции, предусматривающей передачу в облако терабайт данных ежедневно, изучили на примере авианосца «Авраам Линкольн».

Облачный проект Flank Speed Edge с тысячами пользователей — это одно из расширений проекта Flank Speed, предусматривающего совместную работу в облаке многих представителей военного и государственного аппарата. Возможность масштабной передачи данных обеспечена спутниковыми сервисами Proliferated Low Earth Orbit (P-LEO). Находящиеся на низкой околоземной орбите спутники могут общаться в том числе и друг с другом.

Источник изображения: Clint Davis/Public Domain

В ходе пилотного проекта ВМС организовали спутниковое соединение гигабитного класса — возможна передача 3–5 Тбайт данных ежедневно. Например, можно использовать IP-телефонию, передавать данные в целях обучения, для медицинских сервисов, снабжения. При этом отмечается, что в случае необходимости все эти сервисы могут быть отключены без потери функциональности корабля. Вся спутниковая инфраструктура вместе с набортной сетью Wi-Fi может управляться всего тремя моряками. Проект также позволяет обновлять бортовое ПО без необходимости захода в порт.

Отмечается, что иногда высокоскоростные соединения необходимо отключать, поскольку P-LEO обеспечивает безопасную передачу только не особенно секретных данных. При этом инфраструктура разработана таким образом, что способна использовать многочисленные механизмы подключения, включая военную группировку SATCOM и Starlink. Дополнительно ВМС внедряют систему Flank Speed Edge на береговых объектах, испытывающих трудности с традиционными вариантами подключения, включая, например, штаб-квартиру Пятого флота США в Бахрейне.

В ходе недавнего отчёта о доходах председатель Oracle Ларри Эллисон (Larry Ellison) поднял вопрос о возможности использования микро-ЦОД на кораблях и даже подводных лодках. По его словам, скоро компания сможет обеспечить работу полноценного облака Oracle Cloud всего на шести стойках половинной высоты, которые можно разместить где угодно — в том числе на подводных и надводных кораблях. По мнению Эллисона, такое не может предложить никакая другая компания. При этом все облака Oracle идентичны и поддерживают все сервисы Oracle, отличаясь только масштабом.

Облачный гигант Microsoft намерен инвестировать €6,69 млрд ($7,16 млрд) в постройку в северо-восточном испанском регионе Арагон новых дата-центров. Reuters сообщает, что эта область Испании становится одним из ключевых вычислительных хабов на территории Европы.

По данным региональных властей, американский инвестор подал заявку на получение разрешения на строительство дата-центров вблизи испанской Сарагосы — ранее о вероятном возведении новых ЦОД недалеко от города уже сообщали местные СМИ. Как сообщают представители местного самоуправления, реализация проекта растянется на 10 лет. Ранее Microsoft анонсировала инвестиции в ЦОД на $2,1 млрд., а на днях был запущен первый облачный регион Azure в Мадриде.

Вероятно, Microsoft намерена угнаться за главным конкурентом — AWS, также имеющей планы на Арагон. Только в прошлом месяце облачное подразделение Amazon объявило о намерении вложить в строительство ЦОД в регионе €15,7 млрд в течение 10 лет. В AWS утверждают, что ЦОД компании будут полностью питаться за счёт возобновляемой энергии, благо в провинции постоянно дуют сильные ветры.

Источник изображения: Gerard Albanell / Unsplash

Сарагоса считается пятым по величине городом Испании и давно стала крупным логистическим и транспортным хабом, удачно расположенным между Мадридом и Барселоной, крупнейшими городскими агломерациями страны. Кроме того, город находится в самом центре коридора, связывающего Пиренейский полуостров с Францией и другими странами Европы.

По прогнозам IDC, новая облачная и ИИ-инфраструктура в Испании пополнит ВВП страны на €10,7 млрд и будет способствовать появлению 77 тыс. новых рабочих мест в 2024–2030 гг.

Стартап Quantum Machines, разработчик систем управления квантовыми компьютерами, открыл Израильский центр квантовых вычислений (Israeli Quantum Computing Center, IQCC). Площадка, создание которой было частично профинансировано правительством страны, располагается в Тель-Авивском университете. По словам основателей, это первый в мире центр, располагающий квантовыми компьютерами разных типов, которые интегрированы с системой NVIDIA DGX Quantum, HPC-инфраструктурой и облаком.

Источник изображений: Quantum Machines

Приоритетный доступ со скидкой получат исследовательские организации Израиля, но в целом центр будет открыт для компаний со всего света. Как говорят создатели, IQCC — это лучший в мире полигон для создания новых технологий в области квантовых вычислений, а открытая архитектура площадки позволяет регулярно проводить обновления и упрощает дальнейшее масштабирование возможностей и вычислительных мощностей.

Сейчас в IQCC установлены 21-кубитный компьютер Galilee от Quantware на сверхпроводящих кубитах (ещё один такой же используется в качестве тестовой платформы) и фотонный компьютер Negev от ORCA (8 кумод). Системы управляются контроллерами OPX1000 от самой Quantum Machines. HPC-инфраструктура представлена DGX A100, четырьмя GH200 и 128 vCPU на базе AMD EPYC 9334 (Genoa). Дополнительные ресурсы можно арендовать в облаке AWS.

Для Galilee и Negev доступна интеграция с DGX Quantum, платформой для гибридных квантово-классических вычислений, которая была создана NVIDIA и Quantum Machines и впервые в мире развёрнута именно в IQCC. Управлять компьютерами и разрабатывать ПО можно с использованием Qiskit, QUA, OpenQASM3, QBridge, а также Classiq. К системе организован облачный доступ. В ближайшие месяцы в IQCC будут развёрнуты ещё несколько квантовых компьютеров и QPU.

Компании Phantom Space и Assured Space Access договорились о сотрудничестве для создания облачного сервиса в космосе. По данным Datacenter Dynamics, облако Phantom Cloud будет служить резервным хранилищем данных для сторонних космических аппаратов и упростит передачу информации на Землю.

В рамках соглашения Assured Space разработает и построит телекоммуникационное оборудование для 66 спутников группировки Phantom Cloud. Партнёры будут совместно работать над созданием, запуском и эксплуатацией новой группировки. В результате предполагается сформировать сеть, к которой смогут получать доступ другие спутники для трансляции данных на Землю в режиме реального времени. В соцсети X сообщалось, что облако Phantom Cloud должно стать «AWS для космоса», обеспечивая M2M-коммуникации и комбинируя соответствующие услуги с вычислениями и облачным хранилищем на орбите.

Источник изображения: Phantom Space

Более того, по словам одного из основателей и главы Phantom Space Джима Кантрелла (Jim Cantrell), который участвовал в создании SpaceX, компании хотят обеспечить базовую функциональность наземных телекоммуникационных станций непосредственно в космосе. Предполагается, что проект станет дополнением группировки Starlink, но его участники будут уделять приоритетное внимание межмашинным коммуникациям, а не людей.

По некоторым данным, Phantom Space на сегодня привлекла $27,7 млн инвестиций. Помимо разработки спутников она создаёт и космические аппараты, способные нести грузы различных типов.

Идея не вполне уникальна. Космос привлекает всё большее внимание операторов ЦОД и облачных компаний. Например, в марте сообщалось, что Lumen Orbit намерена развернуть над Землёй сеть собственных ЦОД, а стартап Aethero намерен стать «Intel или NVIDIA в космической индустрии», создавая защищённые от экстремальных условий компьютеры.

Облачная платформа Amazon Web Services (AWS) объявила о выделении $230 млн на поддержку стартапов по всему миру, которые специализируются на разработках в области генеративного ИИ. В частности, продолжится развитие глобальной программы AWS Generative AI Accelerator.

Отмечается, что молодые компании, особенно находящиеся на ранней стадии развития бизнеса, смогут получить поддержку AWS, в том числе наставничество и обучение, для дальнейшего развития технологий ИИ и машинного обучения. Основная часть указанной суммы будет выделена в виде кредитов на использование облачной инфраструктуры Amazon.

Что касается инициативы AWS Generative AI Accelerator, то она была запущена в апреле 2023 года. Цель программы заключается в том, чтобы вывести перспективные стартапы в области генеративного ИИ по всему миру на новый уровень. В рамках второй фазы инициативы на поддержку молодых компаний будет предоставлено около $80 млн. Заявки на участие в AWS Generative AI Accelerator будут приниматься до 19 июля 2024-го.

Источник изображения: pixabay.com

Стартапы могут использовать кредиты AWS для доступа к вычислительным мощностям, платформам хранения, а также к ИИ-ускорителям Trainium и Inferentia2, которые предлагают экономичный и энергоэффективный вариант работы с ИИ-моделями. Кроме того, кредиты можно использовать для доступа к набору инструментов Amazon SageMaker.

AWS Generative AI Accelerator определит лучшие стартапы на ранней стадии, которые используют генеративный ИИ для решения сложных задач в таких областях как финансовые услуги, здравоохранение и биологические науки, СМИ и развлечения, бизнес, экология и пр. Перспективные проекты получат до $1 млн в виде кредитов AWS. Кроме того, компаниям будут предоставляться технические и бизнес-консультации. AWS объявит выбранные стартапы 10 сентября, а сама программа поддержки начнётся 1 октября.

Microsoft снова прибегнет к помощи Oracle для того, чтобы помочь OpenAI расширить вычислительные мощности. По данным The Register, компания арендует ИИ-мощности у Oracle Cloud Infrastructure (OCI). Microsoft уже вложила в OpenAI огромные средства и, по некоторым данным, владеет почти половиной компании, но, похоже, ресурсов Azure не хватает для того, чтобы ИИ-стартап смог свободно расти.

В ходе последнего квартального отчёта Oracle заявлялось, что компания скоро построит «очень-очень большой дата-центр», около половины которого будет использовать Microsoft. Предполагается, что в нём будет использовано немало ускорителей NVIDIA с СЖО, предназначенных в первую очередь для обучения ИИ-моделей. ИИ-инфраструктура Oracle второго поколения будет существенно производительней первого и спрос на неё будет велик, говорит Oracle.

Так, OCI Supercluster сможет объединить до 64 тыс. суперускорителей NVIDIA Blackwell GB200 посредством RDMA-интерконнекта с ультранизкой задержкой и получит высокопроизводительные хранилища. Суперкластером помимо Microsoft будут пользоваться Adept, Modal, MosaicML, NVIDIA, Reka, Suno, Together AI, Twelve Labs и xAI — Илон Маск (Elon Musk) уже объявил о готовности потратить $10 млрд на облачные серверы Oracle. При этом Oracle предлагает собственный сервис OCI Generative AI, который является конкурентом Azure OpenAI.

Источник изображения: Pawel Nolbert/unsplash.com

Первые слухи о взаимном использовании облачных ресурсов Microsoft и Oracle появились год назад. Впоследствии Microsoft действительно арендовала ускорители NVIDIA у Oracle. Кроме того, компании стали значительно ближе к другу к другу — Oracle разместила свои комплексы Exadata в Azure. Аналогичное решение вскоре появится и в Google Cloud Platform — сервис последней Cross-Cloud Interconnect будет доступен в 11 облачных регионах OCI, а до конца 2024 года должен стартовать проект Oracle Database@Google Cloud.

В последнем квартале быстрее всего у Oracle росла выручка от облачных сервисов лицензионной поддержки. В компании заявляют о крупнейших контрактах в истории на фоне спроса на обучение ИИ-моделей и рекордных уровнях продаж сервисов OCI. При этом клиенты переходят от разовых закупок на многолетнее облачное обслуживание, чего Oracle и добивалась. Обязательства компании (RPO) уже достигли $98 млрд.

В ближайшем будущем Oracle будет наращивать производительность ИИ-инфраструктуры, чтобы клиенты могли пользоваться актуальными моделями, и строить всё больше крупных дата-центров. Ёмкость некоторых ЦОД приблизится к 1 ГВт. По слухам, Microsoft и OpenAI в марте 2024 года изучали возможность строительства кампуса на 5 ГВт за $100 млрд. Кроме того, как считается, Microsoft является одним из крупнейших заказчиков CoreWeave. Прямо сейчас Microsoft стремительно наращивает ёмкость своих ЦОД и ежемесячно вводит в строй по пять ИИ-суперкомпьютеров.

Amazon анонсировала появление нового облачного региона AWS на Тайване в начале 2025 года и намерение вложить миллиарды долларов в развитие бизнеса на острове. В блоге компании сообщается, что регион AWS Asia Pacific в Тайбэе будет на момент запуска состоять из трёх зон доступности и обеспечит островным клиентам возможность хранить и обрабатывать данные непосредственно на территории Тайваня.

Каждая из зон доступности будет физически независима от других, но при этом будет находиться достаточно близко для того, чтобы обеспечить низкую задержку, и в то же время — достаточно далеко для того, чтобы инцидент в одной зоне не повлиял на работу другой. Каждая зона будет размещаться в нескольких ЦОД и получит независимые источники воды и электричества. Зоны доступности будут связаны широкополосной высокоскоростной связью по высоконадёжному оптоволокну. Поддерживаются возможность синхронной репликации информации в зонах доступности.

Источник изображения: Thomas Tucker/unsplash.com

AWS инвестирует в бизнес на Тайване и поддерживает местных клиентов более 10 лет, для чего сформированы специальные команды разного назначения, от разработчиков до консультантов. Также имеется пара периферийных узлов Amazon CloudFront и возможность подключаться к глобальной инфраструктуре AWS. Можно будет получить доступ к любым другим регионам AWS кроме тех, что находятся в Пекине и Нинся — с помощью Chief Telecom и Chunghwa Telecom. Данные, ранее передававшиеся просто по общедоступным каналам, теперь отправляются с помощью частной сети AWS.

Также на Тайване можно будет воспользоваться семейством решений AWS Outposts на собственных объектах или периферийных локациях. Локальные зоны в Тайбэе обеспечивают работу приложений, требующих задержки для конечных пользователей менее 10 мс.

Компания объявила, что инвестирует в обучение студентов, местных разработчиков и технических и иных специалистов, а также новое поколение руководителей IT-отрасли при посредничестве проектов AWS Academy, AWS Educate и AWS Skill Builder. С 2017 года AWS обучила в регионе АТР-Япония более 8 млн человек, в том числе более 100 тыс. на Тайване.

Сегодня AWS работает над созданием облачных регионов в Японии, Малайзии, Мексике, Новой Зеландии, Саудовской Аравии, в Таиланде и над европейским суверенным облаком AWS European Sovereign Cloud. Всего компания управляет 105 зонами доступности в 33 облачных регионах по всему миру, планируется создать ещё 21 зону доступности и 7 регионов (включая Тайваньский).

Клиенты AWS на Тайване всё активнее переходят в облака компании, часто используя регионы AWS по всему миру, новый регион обеспечит ещё меньшую задержку и использование передовых технологий вроде генеративного ИИ и Интернета вещей. Немаловажно, что создавать и хранить контент можно будет именно на Тайване.

В числе клиентов — крупнейший на острове телеком-провайдер Chunghwa Telecom, разработчик и издатель онлайн-игр Gamania Group, сумевшая благодаря AWS снизить время принятия критических решений и сократить время выпуска новых игр. KKCompany Technologies представляет собой группу, создающую музыкальную стриминговую платформу, способную применять ИИ-алгоритмы, в целом компания специализируется на ИИ, мультимедийных технологиях и цифровых консалтинговых сервисах для компаний на Тайване и в Японии. Имеется немало и других клиентов, готовых доверить свои цифровые ресурсы AWS.

Облачная платформа Amazon Web Services (AWS) сообщила о доступности инстансов Elastic Compute Cloud (EC2) U7i, оптимизированных для резидентных (in-memory) баз данных. В основу положены кастомизированные процессоры Intel Xeon поколения Sapphire Rapids.

Утверждается, что по сравнению с инстансами EC2 High Memory предыдущего поколения экземпляры U7i обеспечивают на 135 % более высокую вычислительную производительность и на 115 % большую производительность памяти. При этом пропускная способность EBS-томов увеличена в 2,5 раза.

Инстансы поддерживают подключение до 128 томов EBS gp2/gp3 или io1/io2. Каждый том io2 Block Express может иметь размер до 64 ТиБ и обеспечивать производительность до 256 тыс. IOPS со скоростью до 32 Гбит/с. Все конфигурации включают 896 vCPU, а объём оперативной памяти варьируется от 12 288 до 32 768 ГиБ. Благодаря системе AWS Nitro вся память доступна для использования. Пропускная способность EBS составляет 60 Гбит/с у младшей версии и 100 Гбит/с у всех остальных. Пропускная способность сети — соответственно 100 и 200 Гбит/с.

Источник изображения: AWS

Среди поддерживаемых ОС названы Amazon Linux, Red Hat Enterprise Linux, SUSE Linux Enterprise Server, Ubuntu и Windows Server. Говорится о возможности работы с крупными СУБД, в частности, SAP HANA, Oracle и SQL Server.

Инстансы EC2 U7i были представлены в качестве предварительной версии в ноябре 2023 года. Теперь они доступны для клиентов в американских регионах AWS US East (Северная Вирджиния) и US West (Орегон), а также в Азиатско-Тихоокеанском регионе (Сеул, Сидней). Позднее в текущем году будут запущены более мощные инстансы с увеличенной вычислительной производительностью.

Корпорация Microsoft, по сообщению ресурса Datacenter Dynamics, открыла свой первый облачный регион в Испании. Площадка ЦОД располагается в Мадриде: она будет обслуживать коммерческих и государственных заказчиков, предоставляя в том числе услуги в области ИИ.

Регион получил название Spain Central. Он создан в рамках масштабного проекта, предусматривающего инвестиции в размере $2,1 млрд в развитие облачной и ИИ-инфраструктуры в Испании. Речь идёт не только о строительстве новых дата-центров, но и о цифровой трансформации государственного и коммерческого сегментов в целом.

Источник изображения: Microsoft

Spain Central будет предоставлять различные сервисы в области вычислений, хранения информации, анализа данных, повышения кибербезопасности, генеративного ИИ и пр. О намерении использовать платформу уже заявили Abanca, Aciturri, Banc Sabadell, Banco Santander, Bankinter, BBVA, CaixaBank и многие другие компании и организации.

Партнёры Microsoft, включая Accenture, Capgemini, DXC Technology, Fujitsu, Minsait, KPMG, Kyndryl, NTT Data, SEIDOR и Telefónica Tech, присоединились к стратегической программе Strategic Partner Program, которая направлена на цифровую трансформацию испанских организаций. В частности, планируется перенос рабочих нагрузок клиентов на платформу Spain Central.

«Новый ЦОД-регион Microsoft обеспечит передовые и безопасные решения в области ИИ для заказчиков в Испании и других странах Европы», — отметил Хосе Луис Эскрива (José Luis Escrivá), министр цифровой трансформации Испании.

Microsoft активно развивает облачную инфраструктуру. Корпорация недавно сообщила о планах вложить $1,7 млрд в облака и ИИ в Индонезии. Аналогичные проекты Microsoft реализует в Таиланде и во Франции. Кроме того, редмондский гигант готовится к экспансии в Азиатско-Тихоокеанском регионе. Microsoft также создаёт суверенное облако для государственных органов ОАЭ.