Стартап Parasail привлёк $10 млн стартового капитала и выступил с необычным для рынка ИИ предложением. Компания стала своеобразным «агрегатором ускорителей», создав для инференса сеть, позволяющую свести вместе владельцев вычислительных мощностей и их клиентов с максимальной простотой, сообщает The Next Platform.

Раунд финансирования возглавили Basis Set Ventures, Threshold Ventures, Buckley Ventures и Black Opal Ventures. Компанию основали Майк Генри (Mike Henry), ранее основавший производителя ИИ-решений Mythic и работавший одним из топ-менеджеров в Groq, и Тим Харрис (Tim Harris), генеральный директор Swift Navigation.

Прежний опыт Майка Генри на рынке IT позволил заметить, что в последнее время ландшафт облачных сервисов стремительно меняется — если ранее на нём безраздельно доминировали гиперскейлеры вроде AWS, Microsoft Azure и Google Cloud, то с приходом ИИ они, казалось бы, сохраняют ведущие позиции, но на сцену выходят и новые облачные игроки, чья инфраструктура изначально рассчитана на ИИ-задачи, от обучения до инференса.

В конце 2023 года бизнесмены основали компанию Parasail, которая совсем недавно заявила о себе, заодно собрав $10 млн финансирования. Фактически бизнес рассчитан на клиентов, которые заинтересованы в простом доступе к ИИ-технологиям — он будет связывать тех, кто располагает ими, и тех, кто в них нуждается.

Источник изображения: Campaign Creators/unsplash.com

Parasail намеревается использовать рост облачных ИИ-провайдеров вроде CoreWeave (недавно вышедшей на IPO) и Lambda Labs. Для этого создана сеть AI Deployment Network, объединяющая их вычислительные ресурсы в единую инфраструктуру, которая масштабнее, чем Oracle Cloud Infrastructure (OCI). Компания применяет собственный «движок» для оркестрации процессов в этом гипероблаке.

Ключевым преимуществом является низкая стоимость услуг — утверждается, что компании, желающие отказаться от сервисов вроде OpenAI и Anthropic, могут рассчитывать на экономию в 15–30 раз, а в сравнении с клиентами провайдеров open source моделей — в 2–5 раз. На настройку уходит несколько часов, а инференс после этого можно начать за считанные минуты. Сегодня Parasail предлагает в облаке ресурсы NVIDIA H200, H100 и A100, а также видеокарт NVIDIA GeForce RTX 4090. Цены составляют от $0,65 до $3,25 за час использования.

Parasail столкнулась с проблемой несовместимости инфраструктур: разные облачные платформы используют уникальные подходы к вычислениям, хранению данных, сетевому взаимодействию, а также имеют различия в настройке, биллинге и автоматизации. Хотя Kubernetes и контейнеризация могли бы частично решить эти проблемы, их реализация у разных провайдеров сильно отличается, а Kubernetes изначально не предназначается для работы с несколькими кластерами, регионами или провайдерами одновременно.

Чтобы обойти ограничения, Parasail разработала собственную систему, которая объединяет ускорители из разных облаков в единую глобальную сеть. Их решение позволяет централизованно управлять распределёнными узлами, игнорируя различия в инфраструктуре провайдеров. Если один облачный провайдер выйдет из строя, система автоматически заменяет его ресурсы другими, минимизируя простои. Дополняя эту систему автоматизированным динамическим выделением ускорителей, Parasail создаёт масштабируемую и эффективную глобальную инфраструктуру, способную оперативно адаптироваться к нагрузкам и сбоям.

Оркестрация и оптимизация рабочих нагрузок в ИИ-инфраструктуре усложняются из-за огромного разнообразия моделей, архитектур, типов GPU и ASIC, а также множества способов их комбинирования. Parasail решает эту проблему с помощью гибридного подхода, сочетающего математическое моделирование, ИИ-алгоритмы и участие живых специалистов, что позволяет эффективно масштабироваться даже с небольшой командой.

Источник изображения: Campaign Creators/unsplash.com

Закрытое бета-тестирование началось в январе, а позже спрос только вырос до той степени, что Parasail достигла семизначного ежегодного регулярного дохода (ARR). Теперь технология доступна всем, в числе клиентов — производитель чипов SambaNova, ИИ-платформа Oumi, ИИ-стартап Rasa и Elicit, позволяющий автоматизировать научные изыскания.

В будущем стартап намерен быстро расширить штат из 12 работников, рассматриваются и варианты добавления в портфолио новых доступных ускорителей — сейчас там безусловно лидирует NVIDIA, но рынок вполне может измениться.

В то же время отмечается парадоксальная ситуация, когда на рынке наблюдается и дефицит ускорителей, и простой мощностей в некоторых ЦОД одновременно. Предполагается, что дело в плохой оптимизации процессов на рынке ИИ. При этом в компании отмечают, что в данное время спрос на ИИ-приложения «почти бесконечен» и главная проблема — эффективно их использовать. Платформа Parasail для инференса максимально упрощает масштабное внедрение ИИ.

Компания XenData анонсировала стоечное решение Z20 Cloud Appliance, призванное повысить удобство управления медиафайлами, хранящимися на облачных платформах. Система функционирует под управлением Windows 11 Pro, а доступ к объектам предоставляется через интуитивно понятный веб-интерфейс.

Решение XenData Z20 выполнено в форм-факторе 1U. Применён неназванный процессор Intel Xeon с четырьмя ядрами, работающий в тандеме с 16 Гбайт оперативной памяти. В оснащение входят системный SSD вместимостью 480 Гбайт и SSD на 3,84 Тбайт для локального хранилища. При необходимости могут быть установлены ещё два SSD ёмкостью 3,84 Тбайт каждый.

Источник изображения: XenData

Стандартная конфигурация включает четыре сетевых порта 1GbE. В тыльной части корпуса располагаются три слота OCP, в которые могут устанавливаться двухпортовые адаптеры 10/25GbE SFP+. Предусмотрены один фронтальный и четыре тыльных порта USB 3.2, интерфейсы DisplayPort и D-Sub. Устройство заключено в корпус глубиной 387 мм, а масса составляет 9,5 кг. Базовая конфигурация включает один блок питания мощностью 500 Вт, но при необходимости может быть установлен второй такой же блок.

Система XenData Z20 поддерживает работу с публичными облачными хранилищами AWS S3, Microsoft Azure Blob Storage, Seagate Lyve и Wasabi. При этом обеспечивается управление различными уровнями объектного хранилища, доступными в AWS и Azure. Многопользовательский веб-интерфейс позволяет просматривать эскизы изображений, воспроизводить видео-превью, искать нужный контент и пр. Несмотря на то, что устройство оптимизировано для работы именно с медиаконтентом, оно поддерживает файлы любых других типов — от XML до документов Word. Приобрести решение можно по ориентировочной цене $9880.

По оценкам компании International Data Corporation (IDC), мировые затраты на облачную инфраструктуру в IV квартале 2024 года достигли $67 млрд: это на 99,3 %, т.е. практически в два раза, больше по сравнению с аналогичным периодом предыдущего года. При этом необлачный сегмент показал рост на 25,8 % — до $22 млрд.

Аналитики учитывают продажи серверов и СХД для выделенных и публичных облачных платформ. Главным драйвером отрасли является ИИ, в частности, «рассуждающие» модели и агенты ИИ. Облачные провайдеры активно закупают дорогостоящие системы с ускорителями на базе GPU, а также инвестируют средства в расширение сетей дата-центров.

Расходы на публичную облачную инфраструктуру достигли $57 млрд в IV квартале 2024 года, увеличившись на 124,4 % по сравнению с предыдущим годом. В секторе выделенных облаков отмечен рост на 21,8 % в годовом исчислении — до $10 млрд. Таким образом, на публичные платформы пришлось 64,0 % от общих затрат.

Источник изображения: IDC

В географическом разрезе расходы на облачную инфраструктуру в последней четверти 2024 года увеличились во всех регионах. В частности, максимальный рост зафиксирован в Канаде и США — плюс 151,8 % и 125,3 % в годовом исчислении соответственно. Китай, Япония, Азиатско-Тихоокеанский регион (за исключением КНР и Японии), Западная Европа, Ближний Восток / Африка, а также Латинская Америка показали прибавку в 99,6 %, 76,2 %, 48,0 %, 36,8 %, 28,1 % и 14,3 % соответственно. В Центральной и Восточной Европе отмечено увеличение на 5,6 %.

IDC прогнозирует, что в 2025 году расходы на облачную инфраструктуру поднимутся на 33,3 % по сравнению с 2024-м, составив $271,5 млрд. При этом публичные платформы покажут рост на 25,7 % в годовом исчислении — до $213,7 млрд. В сегменте выделенных облаков ожидается прибавка около 71,8 % — до $57,8 млрд. Расходы на необлачную инфраструктуру, по мнению IDC, в 2025 году снизятся на 4,9 %, составив $68,1 млрд.

Компания Crusoe получила кредитную линию в объёме $225 млн для расширения своего облака. Раунд возглавила частная кредитная структура Upper90 Capital Management, а участвовали в сборе средств British Columbia Investment Management Corporation, FS Investments, King Street Capital Management, Liberty Mutual Investments и ORIX USA, сообщает Datacenter Dynamics.

Более всего Crusoe сегодня известна строительством дата-центров, также компания управляет облачным сервисом, доступным корпоративным клиентам, желающим арендовать ИИ-инфраструктуру. Привлечённые средства потратят на приобретение ИИ-ускорителей NVIDIA и вспомогательной инфраструктуры для расширения облаков оператора.

В компании заявляют, что новые средства будут способствовать расширению облака Crusoe Cloud, призванного упростить и ускорить разработку ИИ для каждой компании-клиента. Давнее стратегическое партнёрство с Upper90 сыграло важную роль в масштабировании технологий Crusoe для удовлетворения спроса на облака. По данным пресс-службы Crusoe, последний раунд финансирования развивает успехи компании, достигнутые после декабрьского раунда серии D на сумму $600 млн.

Источники изображения: Alexander Grey/unsplash.com

В своё время компания начинала как бизнес, занимавшийся добычей криптовалют и размещала модульные ЦОД неподалёку от нефтегазовой инфраструктуры для использования в качестве топлива для генераторов попутного природного газа.

В последние годы она переключилась на работу с ИИ-инфраструктурой и строит большой ЦОД в Техасе совместно с Oracle для OpenAI, намеренной реализовать проект Stargate. Также сообщалось о совместном проекте с Chirisa и PowerHouse стоимостью $5 млрд, предусматривающем строительство ЦОД на этой территории США, в основном для CoreWeave. Наконец, совсем недавно она объявила о полном отказе от своего криптомайнингового бизнеса — оставшиеся активы проданы NYDIG.

Ранее сообщалось, что Crusoe получит доступ к 4,5 ГВт электричества, вырабатываться которое будет за счёт природного газа. Проект реализован совместно с инвесторами из Engine No.1. Предполагается использовать мощности для питания новых ИИ ЦОД, некоторые из которых, возможно, построят для Stargate.

Для Crusoe Cloud арендовано помещение ЦОД ICE02 в Исландии, партнёрское соглашение заключили и с Digital Realty. Стоит отметить, что Upper90 была одним из первых спонсоров Crusoe, кредит на оборудование компания предоставила последней ещё в 2019 году. В Upper90 подчеркнули, что Crusoe сегодня находится на переднем крае облачных ИИ-вычислений и решений в области экоустойчивой энергетики. Представители инвестора заявили, что заняты структурированием инновационного финансирования и гордятся углублением связей с Crusoe.

Компания NVIDIA, по сообщению The Information, ведёт переговоры о покупке облачного стартапа Lepton AI, который специализируется на сдаче в аренду ИИ-серверов. Стоимость сделки, как утверждается, может составить «сотни миллионов долларов».

Фирма Lepton AI была основана в 2023 году: её соучредителями являются Янцин Цзя (Yangqing Jia) и Цзюньцзе Бай (Junjie Bai), бывшие исследователи лаборатории искусственного интеллекта Meta✴ Platforms. Они, в частности, принимали участие в разработке PyTorch.

Источник изображения: NVIDIA

Lepton AI предоставляет облачные ресурсы, оптимизированные для различных задач ИИ, включая обучение больших языковых моделей (LLM) и инференс. Клиентам доступны разные ускорители NVIDIA, а также специальный инструмент для централизованного управления выделенными мощностями при работе одновременно с несколькими проектами. Платформа Lepton AI содержит функции для обнаружения возможных ошибок на этапе обучения LLM и всевозможных проблем технического характера, например, связанных с выделением памяти. После завершения разработки ИИ-модели клиенты могут развернуть её в облаке Lepton AI с применением инстансов, оптимизированных для задач инференса. Говорится о производительности более 600 токенов в секунду при задержках менее 10 мс.

Отмечается, что Lepton AI в ходе начального раунда финансирования получила $11 млн. В число инвесторов входят CRV и Fusion Fund. На сегодняшний день штат стартапа насчитывает около 20 сотрудников. Ожидается, что приобретение Lepton AI поможет NVIDIA укрепить позиции в сегменте облачных вычислений для ИИ.

Компании, рассматривающие возможность покупки американского подразделения социальной сети TikTok, обращаются за помощью к Microsoft и Google. Это делается в преддверии приближающегося «дедлайна» продажи, установленного на 5 апреля, сообщает The Information.

По данным издания, ссылающегося на людей, «участвовавших в переговорах», некоторые компании, включая небольшие группы частных инвесторов, претендующие на покупку TikTok, но не обладающие собственными облачными ресурсами, ведут переговоры с Microsoft и Google об использовании их облачной инфраструктуры для поддержания работы сервиса в США. С 2022 года американский сегмент TikTok эксклюзивно использует облако Oracle — со времён первого президентства Дональда Трампа (Donald Trump), который требовал, чтобы ByteDance продала свой бизнес в США местным компаниям.

Утверждается, что в тот период Oracle была близка к покупке подразделения, но после того, как пост президента занял Джо Байден (Joe Biden), необходимость продажи временно пересмотрели. Ранее китайская ByteDance, владеющая TikTok, рассчитывала, что размещение данных в облаке Oracle позволит спасти бизнес и снимет опасения американских властей по поводу угрозы национальной безопасности. Однако этого не произошло.

Источник изображения: Jonathan Kemper/unsplash.com

Как сообщает Datacenter Dynamics, в декабре 2024 года TikTok не удалось выиграть апелляцию по делу о запрете деятельности социальной сети в США, и приложение даже было временно отключено для американских пользователей — ещё во время президентства Байдена. Однако пришедший к власти Дональд Трамп подписал указ, отсрочивший запрет на 75 дней. По некоторым данным, интерес к покупке американского сегмента TikTok проявили Microsoft и Oracle. Крайний срок продажи — всего через несколько дней, 5 апреля. Однако достоверно неизвестно, кто станет покупателем, если сделка вообще состоится.

Как сообщает The Information, вполне вероятно, что Oracle продолжит предоставлять хостинг TikTok в случае продажи. Однако информация о переговорах с Google и Microsoft может свидетельствовать о том, что некоторые прежние соглашения с Oracle могут оказаться под вопросом. Сами облачные операторы ситуацию не комментируют. Примечательно, что TikTok и так является клиентом Google, Microsoft и AWS, которые предоставляют социальной сети услуги по хранению данных.

В Европе массивы данных TikTok разделены между Green Mountain в Норвегии и ирландским ЦОД, вероятно, на территории Echelon. Ранее в марте TikTok обязался увеличить инвестиции в дата-центры в Таиланде до $8,8 млрд, но как теперь будут связаны американский и глобальный сегменты, пока неизвестно.

МТС Web Services сообщила о расширении портфолио облачных служб и запуске нового продукта MWS Container Platform, предназначенного для разработки и эксплуатации контейнеризированных приложений в промышленных масштабах.

MWS Container Platform объединяет Kubernetes, DevOps, AI и сервисы данных в одном решении. В составе платформы представлены средства централизованного управления Kubernetes-кластерами в любых средах — локальных, облачных и гибридных (включая закрытые контуры без доступа к интернету), инструменты DevOps для управления жизненным циклом приложений, а также наиболее востребованные в корпоративной инфраструктуре базы данных и брокеры сообщений (PostrgeSQL, MySQL, Redis, Kafka, RabbitMQ). Микросервисная архитектура обеспечивает высокую доступность и отказоустойчивость MWS Container Platform.

Источник изображения: mws.ru/services/mws-cp

Платформа поддерживает работу с графическими ускорителями (GPU), включая их виртуализацию и балансировку нагрузки, а также предоставляет доступ к набору готовых инструментов для построения конвейеров MLOps и LLMOps, помогающих разработчикам автоматизировать весь цикл работы с ИИ-моделями — от обучения и тестирования до развёртывания и мониторинга. Отдельного упоминания заслуживают встроенные компоненты для управления сетью и настройками безопасности MWS Container Platform.

MWS Container Platform развёртывается в любой инфраструктуре — на физических серверах (bare metal), в виртуализированных средах или в публичных облаках, предоставляя компаниям гибкость в выборе оптимальных сценариев размещения и снижая затраты на инфраструктуру. Поддержка закрытых контуров и встроенные инструменты защиты позволяют выполнять любые требования к безопасности обрабатываемых данных.

Стартап Nerdio Inc., обеспечивающий компаниям работу с виртуальными рабочими столами в облаке Microsoft Azure, привлёк $500 млн новых инвестиций в раунде серии C. Капитализация разработчика ПО достигла $1 млрд, что в четыре раза больше, чем два года назад, сообщает Silicon Angle. Продукты Nerdio используют 15 тыс. организаций, в 2022 году речь шла о 5 тыс. Среди клиентов — Comcast, PayPal и другие крупные компании.

Платформа доступна в Azure Marketplace. В Nerdio утверждают, что это позволит избежать долгих процедур, сопровождающих корпоративные закупки ПО. Платформа может работать напрямую в облачных средах клиентов, что помогает повысить уровень безопасности. Платформа интегрирована в два VDI-сервиса Azure: AVD (Azure Virtual Desktop) и Windows 365.

Nerdio обещает упростить процесс создания виртуальных рабочих столов. По данным компании, в некоторых случаях первоначальная настройка и развёртывание занимают недели. Платформа компании ускоряет процесс в отдельных случаях на 80 %. Платформа включает инструменты, которые упрощают выявление проблем с производительностью виртуальных рабочих столов, а также отключают аккаунты, демонстрирующие потенциально вредоносное поведение.

Источник изображения: Nerdio

Встроенный инструмент автоматического масштабирования поможет снизить использование инфраструктуры. Эта функция позволяет автоматически назначить оборудование для выполнения задач в том объёме, в котором это действительно необходимо. В компании считают, что её ПО может снизить стоимость вычислений и хранения данных на 80 % при лучшем сценарии.

Компания сохранила прибыльность и, как сообщает её пресс-служба, расширила присутствие в регионах EMEA и APAC. Теперь она намерена использовать полученные средства, чтобы нанять новых разработчиков для расширения функциональности платформы.

Клиентам NVIDIA необходимо постоянно вкладывать миллиарды долларов в построение ИИ-инфраструктуры. При этом финансовая поддержка может прийти из самых неожиданных мест. Иногда — от самой NVIDIA, сообщает The Information.

NVIDIA и её крупнейшим клиентам постоянно приходится искать баланс. С одной стороны, они поддерживают друг друга в краткосрочной перспективе, с другой — на длинной дистанции с NVIDIA намерены конкурировать многие гиперскейлеры. Microsoft, Meta✴, Google и Amazon (AWS) активно используют ИИ-чипы NVIDIA, одновременно пытаясь избавиться от такой зависимости и работая над собственными решениями: Maia, MTIA, TPU, Trainium и Inferentia. Поэтому NVIDIA инвестирует в т.н. неооблака (neocloud), ориентированные на предоставление ИИ-мощностей. Такие компании до некоторой степени способны стать альтернативой гиперскейлерам и вряд ли смогут разработать продукты, конкурирующие с чипами NVIDIA.

К таковым относится и CoreWeave, которой NVIDIA активно помогает развиваться. В рамках подготовки к IPO компания раскрыла, что около 77 % выручки 2024 году ей принесли всего два клиента. Крупнейшим из них была Microsoft (62 %), которая к тому же обогнала по объёму закупок ускорителей NVIDIA всех ближайших конкурентов. А вот вторым по величине клиентом CoreWeave оказалась… сама NVIDIA (15 %). В начале 2023 года, когда спрос на ИИ-ускорители со стороны гиперскейлеров был фантастическим, NVIDIA сделала любопытный ход — в рамках т. н. Project Osprey она согласилась потратить в течение четырёх лет $1,3 млрд на аренду собственных чипов у CoreWeave, одновременно инвестировав в неё $100 млн.

CoreWeave получила сотни тысяч современных ИИ-ускорителей и контракт с NVIDIA до августа 2027 года. NVIDIA действительно активно использует арендованные ускорители, не отвлекаясь на развёртывание ИИ ЦОД. В случае успешного выхода CoreWeave на биржу с оценкой более $30 млрд. заблаговременные инвестиции NVIDIA в акционерный капитал компании всего за два года превратятся в более чем $1 млрд. Однако для потенциальных инвесторов такое сотрудничество — повод для беспокойства, поскольку контракты с Microsoft и NVIDIA истекают в 2027–2029 гг.

Источник изображения: Kelly Sikkema / Unsplash

Подобные сделки на рынке ИИ — довольно распространённое явление. «Циклические» финансовые соглашения показывают, как деньги в отрасли уходят из компаний и возвращаются к ним же. SoftBank, намеренная стать одним из крупнейших инвесторов OpenAI, согласилась платить компании $3 млрд за использование её ИИ-продуктов. Microsoft вложила в OpenAI более $13 млрд, в результате чего получает долю в растущих доходах компании. В то же время OpenAI ежегодно выплачивает Microsoft миллиарды долларов за облачные сервисы. Amazon и Google заключили аналогичные сделки с Anthropic.

Тем временем CoreWeave подпитывает расширение бизнеса за счёт долговых обязательств на $8 млрд и $15 млрд договоров долгосрочной аренды ЦОД и офисов. В своё время CoreWeave даже взяла в долг $2,3 млрд под залог ускорителей NVIDIA, чтобы купить ещё больше ускорителей NVIDIA. Пока инвесторы сомневаются, как оценивать компанию, поскольку малое количество якорных клиентов в совокупности с высокими темпами роста и большими долгами — довольно редкое явление.

CoreWeave может сыграть роль и в развитии других компаний и проектов. В частности, речь идёт о намерении OpenAI подписаться на сервисы CoreWeave — пятилетний контракт на $11,9 млрд предполагает получение доли в компании. В этот период CoreWeave сможет получать дополнительные средства ежегодно, что несколько снизит её зависимость от NVIDIA и Microsoft. Однако данный контракт является лишь дополнением к контрактам с Microsoft и Oracle. Кроме того, идёт строительство ИИ ЦОД для проекта Stargate, поддерживаемого SoftBank и Oracle. Своим инвесторам OpenAI заявила, что к 2030 году Stargate обеспечит ¾ вычислительных мощностей, необходимых компании.

Занимающаяся разработкой корпоративного ПО компания VK Tech (входит в экосистему VK) сообщила о выпуске новой версии платформы Private Cloud 4.2 — решения для построения частного облака в ЦОД заказчика на базе VK Cloud.

Private Cloud включает в себя набор сервисов облачной платформы VK Cloud, необходимый для развёртывания частного облака, включая виртуализацию, управление сетями и контейнерами, базы данных и маркетплейс приложений. Решение поддерживает отечественные операционные системы, сертифицировано во ФСТЭК России и может использоваться для размещения критически важных IT-систем, хранения чувствительных данных и реализации проектов в соответствии с требованиями регулирующих органов в сфере иноформенной безопасности.

Пользовательский интерфейс Private Cloud в составе VK Cloud (источник изображения: cloud.vk.com/private-cloud)

Обновлённая платформа Private Cloud получила улучшенный механизм автоэвакуации виртуальных машин и возможность подключения пользователями собственных систем хранения данных по универсальной схеме с поддержкой основных протоколов, таких как iSCSI, Fibre Channel и InfiniBand. Это обеспечивает совместимость с любыми хранилищами и повышает отказоустойчивость. Платформа также поддерживает гибкое выделение части объёма хранилища под конкретные задачи, что позволяет эффективно управлять ресурсами.

Дополнительно в Private Cloud версии 4.2 появилась передача данных в сторонние SIEM-системы. Система аудита позволяет фильтровать, искать и выводить предупреждения о событиях информационной безопасности на платформе. Это помогает собирать и анализировать сведения, необходимые для защиты корпоративных данных.