Сейчас во многих странах Азии, Ближнего Востока, Европы и в США наблюдается всплеск интереса к внедрению ИИ, что вызвало резкий рост расходов на вычислительные мощности, пишет The Wall Street Journal. Правительства стран увеличивают бюджеты и используют различные рычаги для стимулирования локальных компаний и транснациональных корпораций к строительству новых ЦОД и модернизации существующих с целью развития собственных ИИ-технологий и обучения больших языковых моделей (LLM) на языках и данных граждан своей страны.

Этот тренд ресурс WSJ объясняет стремлением стран к большей стратегической самостоятельности на фоне растущей напряжённости между США и Китаем, сосредоточенной на технологиях, а также намерением защитить национальную культуру и национальную безопасность в связи с бурным развитием ИИ-технологий.

В прошлом месяце NVIDIA сообщила, что так называемые инициативы в области суверенного ИИ, как ожидается, принесут её в этом году почти $10 млрд, тогда как в прошлом году это направление не было для неё доходным. Из $26 млрд выручки NVIDIA за прошлый квартал почти половина поступила от крупных компаний, занимающихся облачными вычислениями, которые арендуют доступ к её чипам.

Новое направление сулит выгоду NVIDIA и другим американским технологическим компаниями, занятым в сфере строительства и эксплуатации ЦОД, и ищущим новые источники роста, поскольку спрос частного сектора на ИИ-технологии может снизиться.

Источник изображения: NVIDIA

Глава NVIDIA Дженсен Хуанг (Jensen Huang, на фото выше) в последние месяцы провёл немало встреч с правительственными чиновниками разных стран, чтобы убедить их в необходимости инвестиций в ИИ со стороны государства. В сентябре прошлого года он встречался с премьер-министром Индии Нарендрой Моди, в декабре — с премьер-министрами Японии и Сингапура. В этом году он провёл встречи с официальными лицами ОАЭ и Канады. и побывал на Тайване.

Среди крупнейших спонсоров суверенного ИИ — Сингапур, чей национальный суперкомпьютерный центр оснащается новейшими чипами NVIDIA, а государственная телекоммуникационная компания Singtel в сотрудничестве с NVIDIA занята расширением своего парка ЦОД в Юго-Восточной Азии. Страна также стала инициатором создания LLM для языков Юго-Восточной Азии.

В свою очередь, Канада планирует выделить $1,5 млрд в рамках суверенной вычислительной стратегии для стартапов и исследователей, а в Японии после визита Хуанга объявили о планах инвестировать в этом году около $740 млн в наращивание вычислительной мощности для разработки ИИ для нужд страны.

Аналогичные инициативы нашли поддержку Европе. Например, во Франции и Италии телекоммуникационные компании создают ИИ-суперкомпьютеры с чипами NVIDIA для разработки LLM с поддержкой национальных языков. Кения в прошлом месяце подписала с Microsoft и поддерживаемой ОАЭ компанией G42, занимающейся ИИ, соглашение о строительстве в стране ЦОД стоимостью $1 млрд на геотермальной энергии с целью обучения ИИ-модели непосредственно на суахили и английском языке.

Источник изображения: NVIDIA

«Правительствам теперь нужны суверенные облака для инфраструктуры ИИ и конфиденциальных данных, а американские технологические компании стремятся помочь в их создании», — говорит Ну Векслер (Nu Wexler), бывший сотрудник по связям с общественностью в Google, Meta✴ и Twitter (нынешней X).

Китай также стремится занять позиции на рынке суверенного ИИ. Он предлагает строительство ЦОД и возможности ИИ африканским странам, включая Египет. Но китайские ИИ-чипы пока уступают по производительности ускорителям NVIDIA и других американских компаний, что часто делает США предпочтительным поставщиком, несмотря на экспортные ограничения, отметил WSJ.

По мнению аналитиков, тренд на развитие суверенного ИИ может стать для NVIDIA спасительным кругом, когда наступит сокращение закупок ИИ-чипов со стороны основной группы клиентов технологических компаний, таких как Microsoft, Amazon и Google.

В ходе конференции Worldwide Developer Conference (WWDC), состоявшейся в понедельник, компания Apple упомянула о том, что её серверы на собственных чипах и ОС используются для новых ИИ-сервисов Apple Intelligence. Как отмечает The Register, прямо компания не говорила ни о CPU, ни об ОС и никогда не подтверждала слухи об ИИ-серверах собственной разработки, но отсылки ко всем этим компонентам оказались разбросаны по презентациям на WWDC.

Новые функции завязаны на Apple Private Cloud Compute — серверную экосистему, где IT-гигант применяет большие ИИ-модели, которые справляются с некоторыми задачами намного лучше, чем компактные модели на пользовательских устройствах. В компании отмечают, что Private Cloud Compute использует мощные и безопасные кастомные серверы в своих ЦОД. Также упоминается термин «вычислительный узел», но нет точных данных о том, является ли он синонимом слова «сервер».

Источник изображения: Apple

Подчёркивается, что облачные мощности используют те же аппаратные технологии обеспечения безопасности, что и, например, iPhone, включая Secure Enclave и Secure Boot. Машины используют новую защищённую ОС на базе iOS и macOS, где отсутствуют некоторые административные компоненты. К минимуму свели даже телеметрию, обычно критически важную для поддержания работы облака. Другими словами, доступ к данным получит только пользователь, доступа не будет даже у системных администраторов.

Если в ряде случаев возможностей смартфона или планшета будет не хватать для конкретной ИИ-задачи, Apple будет определять, какой необходимый минимум данных нужен для решения задачи и отправлять их в зашифрованным виде в облаке. В облаке для каждой такой задачи будет создавать зашифрованный же анклав, который после обработки данных и отправки результата пользователю (тоже с шифрованием) будет полностью удалён. Другими словами, исходные фото, видео и другой контент никогда не будут покидать устройства пользователя, а их отслеживание и расшифровка весьма проблематичны.

Уже сейчас в своих облаках Arm-чипы AWS, Google, Oracle и Microsoft. По соотношению цена/производительность они нередко лучше, чем чипы Intel или AMD, во всяком случае при решении некоторых задач, в том числе инференса, поэтому вполне логично, если к таким же решениям прибегнет и Apple.

Cerebras Systems и Aleph Alpha объединятся для разработки суверенных ИИ-решений в интересах армии Германии, сообщает Datacenter Dynamics. Работы альянса будут вестись совместно с компанией BWI GmbH, государственным поставщиком ИТ-услуг, принадлежащим Министерству обороны Германии. Aleph Alpha развернет первый в Европе ИИ-суперкомпьютер Cerebras CS-3 в своем дата-центре Alpha ONE.

«Мы считаем, что партнёрство [с Aleph Alpha] позволит создать совершенно новые архитектуры ИИ-моделей, которые могут быть полезны правительствам и предприятиям по всему миру», — сказал глава Cerebras, отметив, что работа с новыми моделями будет безопасной и защищённой, но не уточнив, что именно под этим подразумевается.

Источник изображения: Cerebras

Aleph Alpha основана в 2019 году для создания моделей генеративного ИИ в рамках концепции «суверенитета данных». ЦОД Alpha ONE был запущен в 2022 году в кампусе GovTech в Германии и используется для исследований и разработки ИИ-приложений как предприятиями государственного сектора, так и частными. Здесь Cerebras и Aleph Alpha будут вместе создавать базовые и мультимодальные модели, а также и новые архитектуры ИИ-моделей с использованием CS-3. В основе Cerebras CS-3 лежит ИИ-ускоритель WSE-3 размером с целую кремниевую пластину. Он содержит 4 трлн транзисторов, 900 тыс. ядер и 44 Гбайт SRAM, а его производительность составляет 125 Пфлопс в разреженных FP16-вычислениях.

Amazon Web Services (AWS) намерена потратить €7,8 млрд ($8,47 млрд) на создание в Европе, в частности, в Германии суверенной облачной инфраструктуры до 2040 года. По данным Datacenter Dynamics, первый суверенный облачный регион AWS разместится в земле Бранденбург, запуск планируется к концу 2025 года.

По данным представителя подразделения Sovereign Cloud, инвестиции укрепят намерение предоставить клиентам наиболее передовые решения, отвечающие за обеспечение суверенитета облака. Кроме того, компания активно инвестирует в местные кадры и инфраструктуру.

В компании рассчитывают, что проект ежегодно обеспечит в Германии занятость, эквивалентную 2800 рабочих мест — речь идёт о строителях, специалистах поддержки инфраструктуры, инженерах, телеком-специалистах и других экспертах. Понадобятся и высококлассные сотрудники, которые будут работать над управлением суверенным облаком на постоянной основе: программисты, системные разработчики и архитекторы облачных решений.

Источник изображения: Roman Kraft/unsplash.com

По словам представителя властей Бранденбурга, высокопроизводительная, надёжная и безопасная инфраструктура является важнейшим элементом цифровизацию экономики. В последние годы местные власти взяли курс на инвестиции в современную и устойчивую инфраструктуру ЦОД, это усиливает позиции Бранденбурга в роли бизнес-хаба.

Впервые AWS заявила о намерении построить европейский суверенный облачный регион European Sovereign Cloud в октябре 2023 года. Также о планах построить в Бранденбурге кампус ёмкостью 300 МВт сообщала в сентябре того же года Virtus Data Centres. У Google облачный регион в Бранденбурге уже есть, а Oracle запустила облачный сервис EU Sovereign Cloudво Франкфурте (Германия) и Мадриде (Испания).

Microsoft и Google располагают суверенными облачными регионами в Евросоюзе, но продвигают свои сервисы при посредничестве партнёров. В 2021 году Orange и Capgemini основали французскую облачную компанию Bleu для продажи сервисов Microsoft Azure, в январе 2024 года Bleu объявила, что работа начнётся в конце года. Google тем временем сотрудничает в Германии с T-Systems и с Thales во Франции, а также с Proximus в Бельгии и Люксембурге. По некоторым данным Google считает чрезвычайно важной свою программу доверенного облачного партнёрства и рассчитывает захватить в Евросоюзе и Азии рынок суверенных облаков объёмом в $100 млрд.

Ключевые компании Евросоюза, включая Airbus, Deutsche Telecom, Orange и ещё 15 местных игроков подвергли острой критике проект схемы сертификации в области кибербезопасности в ЕС (CCS). По данным Datacenter Dynamics. Новый механизм работает на руку американским гиперскейлерам, упрощая им участие в облачных тендерах региона.

В числе прочих компаний, подписавших письмо есть EDF, OVHcloud, Ionos, Exoscale, Telecom Italia, Aruba (IT), Dassault Systems, Capgemini и Eutelsat. Компании уже обратились с совместным письмом к руководству ЕС и высокоранговым чиновникам Еврокомиссии, подчёркивая, что последнюю версию проекта необходимо отклонить, поскольку та не обеспечивает суверенности облаков. Ранее проект предусматривал, что желающие участвовать в конкурсах на поставку облачных сервисов обязаны быть независимы от зарубежных законов стран, не являющихся членами Евросоюза.

Источник изображения: Guillaume Périgois/unsplash.com

В первую очередь новый вариант может упростить жизнь гиперскейлеров вроде Amazon, Microsoft и Google, которым более не потребуется создавать совместные предприятия с европейскими бизнесами для хранения и обработки персональных данных в случае, если новый вариант проекта всё-таки одобрят. Пока на облачном рынке ЕС доминируют американские игроки. Местные бизнесы давно жалуются на злоупотребления положением на рынке. Microsoft даже вела переговоры с ассоциацией облачных провайдеров ЕС CISPE после того, как та выразила озабоченность вероятным вытеснением с рынка малых игроков.

Представители европейского бизнеса подчёркивают, что включение в число обязательных условий в виде наличия штаб-квартир в Европе и контроля со стороны ЕС критически важно для того, чтобы ограничить доступ к европейским данным по требованию иностранных законов. Например, речь идёт об американском Законе об облаках (US Cloud Act) или китайском «Законе о национальной разведке» (National Intelligence Law). Кроме того, бизнес требует поощрять рассмотрение клиентами из ЕС местных облачных продуктов вроде Gaia-X. Без таких требований закон серьёзно ударит по суверенным облачным решениям в Европе, которые или уже доступны, или ещё разрабатываются.

Vultr, крупнейший в мире частный облачный провайдер, объявил о запуске суверенного и частного облаков — платформ Sovereign Cloud и Private Cloud, которые ориентированы на государственных заказчиков, исследовательские учреждения и предприятия, работающие с критически важными данными.

Отмечается, что значительная часть облачных рабочих нагрузок в мире в настоящее время управляется ограниченным количеством поставщиков услуг, дата-центры которых сосредоточены в определённых географических регионах. Это вызывает обеспокоенность по поводу цифрового суверенитета и контроля над данными среди правительств ряда стран — особенно в Европе, на Ближнем Востоке, в Латинской Америке и Азии.

Источник изображения: Vultr

Вместе с тем предприятиям приходится соблюдать всё больше правил, регулирующих сбор, хранение и использование данных. Согласно исследованию Accenture, примерно 50 % европейских руководителей высшего звена считают суверенитет данных главным вопросом при выборе поставщиков облачных услуг. Причём более трети респондентов сообщили, что их компании стремятся переместить от 25 % до 75 % информации, рабочих нагрузок или активов в суверенное облако. Платформы Sovereign Cloud и Private Cloud как раз и призваны удовлетворить этот спрос.

Новые сервисы предоставляют доступ к облачной инфраструктуре, гарантируя при этом, что критически важные данные и операции остаются в пределах национальных границ, а обработка осуществляется в соответствии с местными законодательными требованиями. При этом Vultr предоставляет клиентам доступ к вычислительным ресурсам на базе современных GPU и средствам ИИ. Утверждается, что благодаря сотрудничеству с поставщиками телекоммуникационных услуг, такими как Singtel, а также с другими партнёрами и правительствами по всему миру Vultr может развёртывать локальные облака в любом регионе.

Источник изображения: Vultr

Кроме того, Vultr обеспечивает технологическую независимость на базе изолированной физической инфраструктуры, управление которой находится под непосредственным контролем клиента и не связано с центральной системой Vultr. В целом, платформы Vultr Sovereign Cloud и Private Cloud гарантируют, что данные хранятся локально, не передаются за пределы национальных границ и используются строго по назначению.

Нужно отметить, что суверенные облачные сервисы развёртывают и многие другие провайдеры и операторы дата-центров. Так, в сентябре 2023 года о планах по созданию суверенного облака в ОАЭ объявила корпорация Microsoft. Oracle в июне 2023-го запустила суверенную облачную платформу EU Sovereign Cloud, предназначенную специально для Европейского союза. По заявлениям Oracle, создание суверенных облаков также заказали семь государств, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию. Кроме того, суверенное облако для Европы анонсировала компания Amazon. А Orange и Capgemini запустят во Франции суверенное облако Bleu на базе решений Microsoft.

Компании Oracle и Palantir объявили о заключении партнёрского соглашения, в рамках которого планируется развитие безопасных облачных сервисов и ИИ-систем для государственных организаций и корпоративных заказчиков по всему миру. Предполагается, что совместное предложение поможет клиентам максимизировать ценность своих данных и повысить эффективность работы.

В рамках соглашения распределённое облако и ИИ-инфраструктура Oracle будут использоваться в сочетании с платформами ИИ и ускорения принятия решений Palantir. Вместе с тем Palantir перенесёт рабочие нагрузки своей платформы Foundry в Oracle Cloud Infrastructure (OCI). Отмечается, что Foundry позволяет переосмыслить то, как используются данные, а также устраняет барьеры между внутренним управлением и внешним анализом информации.

По условиям подписанного договора, Palantir обеспечит возможность развёртывания своих систем Gotham и Artificial Intelligence (AI) в распределённом облаке Oracle. Речь идёт о публичных и выделенных регионах Oracle Cloud, европейском суверенном облаке Oracle EU Sovereign Cloud, инфраструктурной платформе Oracle Alloy, гособлаке Oracle Government Cloud, инфраструктуре Oracle Roving Edge, а также изолированных регионах Oracle для оборонных заказчиков и спецслужб.

Источник изображения: Oracle

Платформа Palantir AI, как отмечается, позволяет организациям использовать возможности больших языковых моделей (LLM) в своих корпоративных сетях и интегрировать ИИ в основные операции с максимальной безопасностью. Решение предназначено для объединения разрозненных источников данных, логических активов и прочих ресурсов в единую операционную среду.

В целом, как утверждается, партнёрство Oracle и Palantir позволит организациям использовать облачные сервисы и системы ИИ с соблюдением стандартов суверенитета и безопасности. Стороны намерены совместно предоставлять и поддерживать широкий спектр услуг.

Oracle и NVIDIA объявили о расширении сотрудничества для предоставления суверенного ИИ клиентам по всему миру — программно-аппаратные решения обеих компаний позволят правительствам и предприятиями формировать ИИ-фабрики, говорится в пресс-релизе. Облачные сервисы Oracle используют ряд платформ NVIDIA, включая аппаратную инфраструктуру и программную платформу NVIDIA AI Enterprise, в том числе недавно анонсированные микросервисы вывода NVIDIA NIM.

Такие ИИ-фабрики позволят развернуть облачные сервисы, работающие локально и размещённые в безопасных кампусах на территории страны или организации. Сочетание полнофункциональной ИИ-платформы NVIDIA с корпоративным ИИ-инструментами Oracle, которые можно развернуть в выделенном регионе OCI, позволит получить современное ИИ-решение с повышенным уровенем контроля, защиты и безопасности. По словам Oracle, компания является единственным гиперскейлером, способным предоставлять ИИ-решения и полноценные облачные услуги локально и в любом месте.

Oracle также задействует чипы NVIDIA Blackwell (GB200 и B200) в OCI Supercluster и OCI Compute. OCI Supercluster станет значительно быстрее благодаря новым bare metal-инстансам, RDMA-сети со сверхмалой задержкой и высокопроизводительному хранилищу. В OCI появятся и сервисы NVIDIA NIM и CUDA-X, а также NVIDIA NeMo Retriever.

Источник изображения: NVIDIA

Наконец, в DGX Cloud on OCI станут доступны инстансы на базе суперускорителей GB200 NVL72 для работы с LLM с триллионами параметров. Полный кластер DGX Cloud будет включать более 20 тыс. ускорителей GB200, интерконнект NVLink 5 и сеть NVIDIA InfiniBand XDR.

Принятый в Евросоюзе Общий регламент по защите данных (General Data Protection Regulation, GDPR) привёл к тому, что местные компании стали хранить и обрабатывать меньше информации. Согласно выводам американского Национального бюро экономических исследований (National Bureau of Economic Research, NBER), из-за новых правил, регулирующих обработку конфиденциальных данных, управление такими сведениями стало значительно дороже, передаёт The Register.

Регламент GDPR, принятый в 2016 году и вступивший в силу в 2018 году, затрагивает деятельность более 20 млн компаний в десятках стран. Его вынуждены соблюдать и многие бизнесы, обрабатывающие данные граждан стран Евросоюза за его пределами, что имеет определённые экономические последствия.

Источник изображения: Headway/unsplash.com

В докладе Data, Privacy Laws and Firm Production: Evidence from the GDPR бюро NBER проанализировало затраты на облачные вычисления, ссылаясь на предыдущие исследования. Например, соответствие GDPR обходится от $1,7 млн для малого и среднего бизнеса до $70 млн для крупных организаций. Больше всего новые правила затронули компании в Евросоюзе. По данным NBER, они сократили объём хранения информации на 26 % и обработку данных на 15 % в сравнении со аналогичными бизнесами в США.

Для того, чтобы соответствовать требованиям GDPR, компаниям Евросоюза пришлось принять меры, в среднем ведущие к 20 % удорожанию обработки данных. Для бизнесов, где работа с информацией ведётся особенно интенсивно, рост оказался ещё больше: в секторе ПО рост составил 24 %, тогда как в секторе производства и услуг он не превышает 18 %. Увеличилась и стоимость получения информации, хотя и не в таком масштабе, как стоимость хранения и обработки — на 4 %. Это объясняется тем, что вычисления теперь обходятся дороже.

Авторы исследования воздерживаются от выводов о том, стоит ли обеспеченная GDPR конфиденциальность затраченных средств. Они подчеркнули, что в работе не указываются преимущества в области защиты пользователей от введения в действие регламента. Ранее исследователи других ведомств и организаций пришли к выводам, что для них введение новых мер защиты как правило в итоге выгодно, но может оказать негативное влияние в некоторых случаях.

Корпорация Oracle и телекоммуникационная компания Du, по сообщению ресурса Datacenter Dynamics, подписали соглашение о партнёрстве с целью создания в ОАЭ суверенной облачной платформы. Ожидается, что новый сервис будет функционировать в соответствии с требованиями по обработке данных, которые действуют на территории названного государства.

Du, ранее известная как Emirates Integrated Telecommunication Company, управляет или ведёт деятельность в пяти дата-центрах в ОАЭ, два из которых открылись в 2021 году. Это площадки Dubai Silicon Oasis, Meydan Dubai, IMPZ Equinix, Kizad Abu Dhabi и Masdar City Abu Dhabi.

Источник изображения: Oracle

В свою очередь, Oracle оперирует двумя облачными регионами в ОАЭ. Это расположенная в Дубае площадка UAE East, которая была запущена в сентябре 2020 года. Второй регион — UAE Central в Абу-Даби, начавший обслуживать клиентов в ноябре 2021 года. У Oracle также есть облачные регионы в соседней Саудовской Аравии.

Отмечается, что суверенное облако в ОАЭ предоставит партнёрам и клиентам большую свободу выбора в плане создания, развёртывания и использования облачных сервисов. Речь идёт в том числе о заказчиках из государственного сектора.

Нужно отметить, что в сентябре 2023 года о планах по созданию суверенного облака в ОАЭ объявила корпорация Microsoft. Партнёром в рамках данного проекта выступает компания G42, предположительно тесно связанная со спецслужбами государства. Вместе с тем Oracle в июне 2023-го запустила суверенную облачную платформу EU Sovereign Cloud, предназначенную специально для Европейского союза. По заявлениям Oracle, создание суверенных облаков также заказали семь государств, включая Японию, Италию, Саудовскую Аравию, Бангладеш и Новую Зеландию.