Прошедший на прошлой неделе в Париже международный саммит AI Action Summit, посвящённый вопросам развития ИИ, запомнится не только анонсом проекта ЕС InvestAI Initiative с бюджетом €200 млрд, призванного сократить отставание Европы от США и Китая в развитии ИИ, но и также созданием «Коалиции за устойчивый ИИ» (Coalition for Sustainable AI), в которую войдут ведущие компании рынка ИИ, в том числе операторы ЦОД, поставщики и разработчики микросхем.

Как сообщает Data Center Dynamics, коалиция объявила, что будет стремиться согласовывать разработку ИИ (как аппаратного, так и программного обеспечения) с экологическими аспектами. Новая коалиция входит в состав «Коалиции за цифровую экологическую устойчивость» (CODES), созданной в 2021 году. Основателями Coalition for Sustainable AI стали Франция, ООН и Международный союз электросвязи (ITU).

К новой коалиции присоединились операторы дата-центров Data4, Verne, EcoDataCenter, Equinix, Sepia Infrastructure и Telehouse, а также провайдеры облачных услуг OVHcloud и IBM. Также её членами стали NVIDIA с AMD и Schneider Electric, Philips, Eviden, Orange, Mistral. Примечательно, что среди участников нет ни одного гиперскейлера, равно как и американских разработчиков ИИ OpenAI и Anthropic. Зато есть многочисленные НПО и высшие учебные заведения, а также правительства Франции, Великобритании, Чили, Кипра, Дании, Финляндии, Германии, Индии, Италии, Кении, Южной Кореи, Марокко и Норвегии.

Источник изображения: Verne Global

Стремительное развитие инфраструктуры ИИ резко увеличило энергопотребление сектора ЦОД, и отрасль вынуждена использовать даже уголь для питания заметно возросших вычислительных мощностей, используемых для обучения всё более крупных ИИ-моделей, что подчёркивает актуальность вопросов защиты экологии при дальнейшем росте рынка ИИ.

В преддверии саммита президент Франции Эммануэль Макрон (Emmanuel Macron) объявил о французском ответе на американский ИИ-мегапроект Stargate с частными инвестициями на €109 млрд. Также Франция выразила готовность выделить на создание гигантского ИИ-кластера 1 ГВт атомной энергии.

AMD объявила о подписании соглашения о намерениях с французским Комиссариатом по атомной энергии и альтернативным источникам энергии (CEA) с целью совместной работы над созданием передовых технологий, компонентов и системных архитектур, которые определят будущее ИИ-вычислений.

Сотрудничество позволит использовать сильные стороны обеих организаций в разработке энергоэффективных систем и технологий для вычислительной инфраструктуры следующего поколения, необходимых для поддержки самых ресурсоёмких в мире рабочих ИИ-нагрузок в различных областях — от энергетики до медицины.

AMD и CEA планируют провести в 2025 году симпозиум, посвящённый будущему ИИ-вычислений, который соберёт европейских и глобальных разработчиков технологий, стартапы, суперкомпьютерные центры, университеты и политиков с целью укрепления сотрудничества в разработке современных вычислительных технологий ИИ.

В CEA отметили, что сотрудничество с AMD является значительным шагом на пути к укреплению международного партнёрства в области HPC, позволяя объединить экспертные знания мирового уровня для удовлетворения растущих потребностей в обслуживании ИИ-нагрузок. В свою очередь, в AMD подчеркнули, что в сотрудничестве с CEA и ведущими французскими инженерами компания стремится приблизить передовые исследования в области ИИ к реальным приложениям, развивая системные архитектуры, которые отвечают требованиям будущих рабочих нагрузок, одновременно расширяя возможности для совместных исследований и разработок США и Франции.

Источник изображения: AMD

Большая часть электроэнергии во Франции производится АЭС, что позволяет обеспечивать внутренние потребности, а также поставлять излишки за рубеж. Франция рассматривает это как ключевой фактор для привлечения инвесторов, стремящихся развивать инфраструктуру энергоёмких ЦОД в стране. По словам президента Франции Эммануэля Макрона (Emmanuel Macron), это позволит разместить в стране 20 % всех ЦОД в мире. В понедельник Макрон объявил, что объём частных инвестиций в ИИ-сектор страны составит в ближайшие несколько лет около €109 млрд.

Малайзия и Сингапур содписали соглашение, предусматривающее создание особой экономической зоны Johor-Singapore Special Economic Zone (JS-SEZ). Оно должно укрепить сотрудничество и взаимные инвестиции между Джохором и Сингапуром, использовав их близость для общего роста, как это было с Шэньчжэнем и Гонконгом, сообщает DigiTimes. Площадь JS-SEZ составит 3,5 тыс. км². В ОЭЗ партнёры намерены в течение пяти лет привлечь 50 инвестиционных проектов.

Малайзия рассчитывает, что ОЭЗ позволит создать около 100 тыс. рабочих мест и к 20230 году начнёт приносить MYR260 млрд ($57,78 млрд). Инвестиции ожидаются преимущественно со стороны сингапурских компаний, которые увидели для себя новые возможности для роста. Впрочем, компании подчёркивают необходимость расширения благоприятных для бизнеса политик в рамках новой экономической зоны, включая упрощение бюрократических процедур, расширение налоговых льгот и развитие инфраструктуры.

Уникальное географическое положение Сингапура и его особый экономический ландшафт привели к созданию стратегии Singapore+1, поощряющей бизнесы открывать азиатско-тихоокеанские штаб-квартиры именно в Сингапуре, а производство и прочие виды деятельности переносить в близлежащие регионы вроде Джохора (Малайзиия) и Батама (Индонезия). Такой подход приобрёл особое значение в отраслях, требующих земли, например, для строительства ЦОД, поскольку в самом Сингапуре острый дефицит свободных площадей, энергии и природных ресурсов.

Источник изображения: Ishan @seefromthesky/unsplash.com

В 2019–2022 гг. сингапурские власти приостановили развитие новых дата-центров. За это время Джохор успешно привлёк 50 проектов ЦОД. Реализовать проекты в Сингапуре до сих пор непросто, а Джохор становится всё более привлекательным для размещения объектов, которые Сингапур более не может себе позволить из-за нехватки места.

По словам Министерства экономики Малайзии, основной целью JS-SEZ является устранение барьеров для перемещения людей и товаров и стимулирование бизнеса. По данным Bloomberg, пока сохраняются логистические вызовы. Ежедневно граница между странами пересекается 300 тыс. раз, но передвижению мешают задержки на таможне. При этом реализация проекта высокоскоростной железной дороги между Куала-Лумпуром и Сингапуром задерживается. Впрочем, отраслевые эксперты предупреждают, что основными вызовами является повышение административной эффективности и работа с инвесторами.

При этом Малайзия и сама претендует на роль IT-хаба, способного составить конкуренцию Сингапуру, и как будет развиваться сотрудничество в таких условиях, предсказать довольно трудно. Индонезия, с которой Сингапур также планирует расширить сотрудничество, сама не прочь стать новым IT-лидером региона.

Выпускающий ИИ-чипы для периферийных вычислений стартап Axelera AI объявил о партнёрстве с Arduino, предлагающей открытые платформы с микроконтроллерами и SoC. Предполагается, что это поможет компаниям, выполняющим ИИ-задачи на периферии, сообщает Silicon Angle.

Axelera предлагает платформы Metis AI Platform, включающие до четырёх чипов Axelera Metis AIPU с суммарной производительностью до 856 TOPS (INT8). По словам компании, её платформа не только весьма производительна, но и чрезвычайно энергоэффективна в сравнении с традиционными чипами, благодаря чему она отлично подходит для периферийных устройств. Это особенно важно с учётом намерения использовать их в составе устройств, которые могут работать от аккумуляторов.

Что касается Arduino, то это известный производитель компактных вычислительных платформ. Кроме того, компания предлагает облачное ПО для управления своими устройствами, сбора и визуализации собранных данных. По словам Axelera, сотрудничество откроет доступ к ИИ-возможностям всем 33 млн пользователей продуктов Arduino.

Источник изображения: Axelera

Чипы Axelera будут полностью интегрированы с решениями Arduino, от «железа» до ПО. Первое совместное решение на базе Arduino Portenta X8 и ускорителей Metis компании покажут на CES 2025. Новинка продемонстрирует возможности офлайн-работы предобученной большой языковой модели для промышленного мониторинга, анализирующей данные сенсоров температуры, влажности, качества воздуха и др. в режиме реального времени.

NVIDIA намерена сотрудничать с правительством Таиланда в деле создания инфраструктуры ИИ мирового класса. При этом вызывает вопрос способность Таиланда в полной мере использовать свои сильные стороны для формирования экосистемы ИИ ЦОД, сообщает DigiTimes.

3 декабря глава NVIDIA Дженсен Хуанг (Jensen Huang) встретился с премьер-министром Таиланда Пхэтхонгтхан Чиннават (Paetongtarn Shinawatra). Стороны пришли к соглашению об углублении взаимодействия в сфере ИИ-технологий. NVIDIA будет работать с правительством над созданием ИИ-инфраструктуры мирового уровня и предоставит талантливые кадры для поддержки таиландских инициатив в области ИИ. Кроме того, компания поддержит более 50 ИИ-стартапов и вложится в университетские программы обучения ИИ-специальностям.

Хуанг также посетил мероприятие первого облачного партнёра NVIDIA в Таиланде — Siam.AI Cloud. Его руководство имеет заметное политическое влияние в стране и родственные связи как с бывшим, так и с действующим премьер-министрами. Визит Хуанга рассматривается как весьма положительное для ИИ-сектора страны событие. Не исключается даже, что в перспективе она сможет конкурировать с Малайзией и Индонезией и сможет привлечь в индустрию ЦОД ещё больше инвестиций, в том числе на производство серверного оборудования. Сотрудничество с NVIDIA также должно поспособствовать более широкому внедрению ИИ в стране.

Источник изображения: Braden Jarvis/unsplash.com

Вместе с тем всё ещё есть некоторые трудности для развития ИИ-экосистемы: высокие налоги на импорт, немалые расходы на передачу данных и дорогая электроэнергия. Из-за этого страна может оказаться не особенно привлекательной для крупных ЦОД. Некоторые эксперты и вовсе уверены, что создание ЦОД не повлияет на местную промышленность и не поможет сократить расходы на местные облака. Инвестиции в дата-центры способны обеспечить рост ВВП Таиланда, но они же увеличат и потребление электричества. Исследователи считают, что Таиланд может получить выгоду от ИИ ЦОД, используя свои компетенции в области ПО и SaaS. Однако в стране не хватает талантливых кадров в сфере полупроводников, что не позволяет ей играть значимую роль в мировых цепочках поставок.

О возможном визите Хуанга в Бангкок сообщалось ещё в конце октября, но масштаб инвестиций значительно меньше объёмов вложений в страну со стороны AWS, Microsoft и Google. Так или иначе, страна активно ищет инвесторов для развития местной ИИ-экосистемы и полупроводниковой отрасли.

Компания Marvell Technology, занимающаяся полупроводниковыми инфраструктурными решениями, объявила о расширении стратегического партнёрства с Amazon Web Services (AWS). Стороны заключили соглашение сроком на пять лет, включающее сотрудничество в работе над несколькими продуктами AWS, а также использование облачной инфраструктуры техногиганта, сообщает пресс-служба Marvell.

Соглашение касается широкого спектра решений Marvell, предназначенных для дата-центров. В том числе речь идёт о поставке кастомизированных ИИ-чипов для AWS, оптических и электрических DSP, PCIe-ретаймеров, оптических сетевых решениях, чипсетов для коммутаторов и др. Компетенции Marvell позволят AWS усовершенствовать собственные продукты, сетевое оборудование и СХД, добившись большей эффективности и снижения стоимости эксплуатации.

Источник изображения: LinkedIn Sales Solutions/unsplash.com

Для автоматизации проектирования электроники (EDA) в Marvell приняли подход cloud first, разработка ведётся с использованием облака AWS, где компании доступны практически неограниченные вычислительные ресурсы. В Marvell уже заявили, что решения AWS EDA помогут компании быстро, гибко и безопасно масштабировать проектирование полупроводников с лучшим в своём классе временем выхода на рынок. Сотрудничество играет на руку и AWS — продукты Marvell активно используются в инфраструктуре Amazon.

Глобальная консалтинговая компания Accenture и NVIDIA объявили о расширении партнёрства, в рамках которого Accenture создала новую бизнес-группу Accenture NVIDIA Business Group с целью помочь предприятиям быстро внедрить и масштабировать ИИ-решения. Также будет проведено обучение 30 тыс. сотрудников Accenture по всему миру полному набору ИИ-технологий NVIDIA. Это одна из крупнейших сделок на рынке.

Новая структура Accenture сосредоточится на стимулировании корпоративного внедрения так называемых «агентных систем ИИ», используя преимущества ключевых программных платформ NVIDIA. Как сообщает ресурс CRN, директор по ИИ Accenture Лань Гуань (Lan Guan) заявил на встрече с журналистами, что агентные системы включают в себя «армию ИИ-агентов», которые работают вместе с людьми, чтобы «принимать решения и точно выполнять задачи даже в самых сложных рабочих процессах».

Согласно пресс-релизу, агентные системы — это прорыв в области генеративного ИИ. Они могут автономно действовать в соответствии с намерениями пользователя, создавать новые рабочие процессы и предпринимать действия с учётом окружения, что может целиком реорганизовать бизнес-процессы или отдельные функции. По словам Гуаня, в отличие от чат-ботов, таких как ChatGPT, ИИ-агенты не требуют запросов и подсказок от людей и не предназначены для автоматизации уже существующих бизнес-шагов.

Источник изображения: Accenture

В своей работе Accenture NVIDIA Business Group будет полагаться на собственную платформу AI Refinery, которая использует полный стек NVIDIA AI, включая NVIDIA AI Foundry, AI Enterprise и Omniverse для продвижения таких направлений, как реорганизация процессов, моделирование на основе ИИ и суверенный ИИ. AI Foundry помогает в разработке кастомных ИИ-моделей, предоставляя доступ к базовым моделям, фреймворкам и инструментам. AI Enterprise предлагает микросервисы и инструменты для разработки, оптимизации и развёртывания приложений ИИ. Наконец, Omniverse ориентирована на создание цифровых двойников производственных процессов и т.п.

Accenture также заявила, что открывает сеть инженерных ИИ-центров в Сингапуре, Токио, Малаге и Лондоне, которые помогут ей во внедрении агентных систем ИИ. Эти центры станут частью Центра передового ИИ Accenture (Center for Advanced AI) в дополнение существующим филиалам в Маунтин-Вью и Бангалоре, и будут сосредоточены на подборе и тюнинге базовых моделей с последующим крупномасштабном инференсом. Кроме того, Accenture предложит NVIDIA NIM Agent Blueprints, шаблоны ИИ-приложений NIM Agent Blueprints для типовых бизнес-задач.

Источник изображения: Simon Kadula / Unsplash

В частности, Accenture подготовит Blueprint для моделирования производств с использованием парка роботов, который объединяет NVIDIA Omniverse, Isaac и Metropolis. Accenture планирует использовать эти новые возможности в Eclipse Automation, принадлежащей её компании по автоматизации производств. Это позволит вполовину ускорить подготовку проектов и почти на треть сократить время развёртывания.

Следует отметить, что на прошлой неделе Accenture сообщила о том, что в 2024 финансовом году, закончившемся 31 августа, у неё было на $3 млрд новых заказов на генеративный ИИ, $1 млрд из которых пришёлся на IV квартал. Для NVIDIA партнёрство с Accenture является частью реализации плана по расширению влияния на глобальных системных интеграторов (GSI) и другие многонациональные компании, которые имеют значительное влияние на предприятиях. Например, Infosys год назад заявила, что обучит и сертифицирует в рамках партнёрства с NVIDIA 50 тыс. сотрудников, которые изучат особенности аппаратных и программных ИИ-решений NVIDIA.

Компания Uber намерена использовать кастомные Arm-процессоры Ampere Computing в облаке Oracle Cloud Infrastructure (OCI). В частности, компании займутся оптимизацией чипов для ИИ-задач. До недавнего времени Uber использовала преимущественно собственные ЦОД, но в 2022 году приняла решение перенести большую часть задач в облака.

С ростом количества ЦОД и зон доступности управлять IT-инфраструктурой Uber становилось всё сложнее. На ввод в эксплуатацию новой зоны порой требовались месяцы и сотни специалистов, поскольку управление серверами происходило чуть ли не «вручную», а инструменты автоматизации часто подводили. Рассмотрев различные варианты развития, Uber постепенно пришла к сотрудничеству с Ampere, Goolge и Oracle. А в феврале 2023 года компания подписала крупные семилетние облачные контракты с Google и Oracle.

По данным Uber, водители и курьеры компании выполняют более 30 млн заказов ежедневно. Для этого требуется большая IT-инфраструктура, например, для оптимизации маршрутов, в том числе с применением ИИ-технологий — ежесекундно к ИИ-моделям приходит 15 млн запросов. По оценкам Uber и Ampere, перенос нагрузок в OCI не только снизил инфраструктурные затраты, но и уменьшил энергопотребление на 30 %. Сейчас компании совместно работают над новыми чипами, выявляя, какие изменения в микроархитектуру стоит внести, чтобы будущие процессоры оптимально подходили для задач Uber.

Источник изображения: Denys Nevozhai/unsplash.com

Собственные Arm-процессоры разрабатывают AWS, Google Cloud и Microsoft Azure — Graviton, Axion и Cobalt 100 соответственно. Однако кастомизацией под конкретного клиента, пусть даже крупного, они не занимаются. Тем не менее, эксперты IDC считают, что облачные клиенты безусловно выиграют от совместной подготовки с разработчиками чипов новых полупроводниковых решений. Клиенты могут обладать специфическими знаниями и интеллектуальной собственностью, но как правило не имеют возможности самостоятельно вывести на рынок готовый продукт.

Сейчас Uber переносит тысячи микросервисов, многочисленные платформы хранения данных и десятки ИИ-моделей в OCI. Компания уже перевела значительную часть бессерверных рабочих нагрузок на платформы на базе Ampere. Впрочем, дело не ограничивается только Ampere — компания также активно использует инстансы на базе чипов AMD.

Разработчик ИИ-суперчипов Cerebras Systems анонсировал сотрудничество с Dell. Вместе компании займутся созданием передовых вычислительных инфраструктур для генеративного ИИ. В рамках сотрудничества будут создаваться масштабируемые решения для ИИ-суперкомпьютеров Cerebras с платформами Dell на базе процессоров AMD EPYC Genoa.

Источник изображения: Cerebras

По словам участников проекта, новые технологические решения дадут возможность обучать модели, на порядки более крупные, чем те, что есть на данный момент. В частности, будут задействованы системы Dell PowerEdge R6615 на базе AMD EPYC 9354P, которые предоставят потоковый доступ к 82 Тбайт памяти — для обучения моделей практически любого размера.

Совместные платформы Cerebras и Dell будут включать ИИ-системы и суперкомпьютеры. Также будет предложена тренировка ИИ-моделей и иные сервисы поддержки машинного обучения. Как утверждают в самой Cerebras, сотрудничество с Dell станет поворотной точкой, открывающие каналы глобальной дистрибуции. Компании предоставят ИИ-оборудование, ПО и экспертизу, что позволит заказчикам упростить и ускорить внедрении современных ИИ-технологий, попутно снизив TCO.

В марте Cerebras представила новейшие суперчипы Cerebras WSE-3, а в мае появилась новость, что совместно с Core42 из ОАЭ компания создаст суперкомпьютер Condor Galaxy 3 (CG-3) со 172,8 млн ИИ-ядер.

Lenovo и Cisco объявили о стратегическом партнерстве. Меморандум о взаимопонимании (MoU), подписанный компаниями, предусматривает совместную разработку, инжиниринг и реализацию готовых инфраструктурных решений для генеративного ИИ — от периферии до облаков.

Сотрудничество позволит заказчикам получить полностью интегрированное решение, предоставляющее согласованное и оптимизированное взаимодействие сетевой экосистемы Cisco Nexus с оборудованием Lenovo. Это позволит заказчику получить полностью готовое инфраструктурное решение «под ключ» с поддержкой по принципу «одного окна». Кроме того, компании предоставят единый простой интерфейс для настройки, управления и анализа сетевых операций во всей сетевой экосистеме.

Источник изображения: Lenovo

Lenovo и Cisco собираются предлагать гиперперсонализированные решения, которые помогут не только расширить использование генеративного ИИ, но и ускорят цифровую трансформацию компаний, причём наиболее эффективным с точки зрения результата и затрат способом.