November 15

Stargate: экскурсия от Citrini. Citrini Research.

Перевод статьи от Citrini Research.

Больше переводов в моём телеграмм-канале:

https://t.me/holyfinance


Еще в сентябре мы предоставили платным подписчикам CitriniResearch доступ к нашему подробному анализу крупнейшего и наиболее комплексного проекта Stargate Data Center — Abilene. Мы сняли ограничение доступа и сделали статью доступной для всех подписчиков, включая наши корзины (которые мы разместили на Plutus для удобства доступа для тех, кто в настоящее время не подписан на портал Citrindex).

Если вы хотите получать наши статьи в полном объеме сразу после их публикации, рассмотрите возможность перехода на платную подписку.


Иногда, чтобы поверить, нужно увидеть. CitriniResearch с самого начала открыто заявляла о необходимости масштабного строительства центров обработки данных для внедрения и реализации всего потенциала искусственного интеллекта. В нашем первом введении в искусственный интеллект мы назвали фазу 1 торговли искусственным интеллектом «Глобальным гипермасштабированием центров обработки данных» — это ироничная отсылка как к участвующим в этом процессе гипермасштабирующимся компаниям, так и к предстоящему масштабу строительства. Более двух лет назад мы писали:

«Первый этап [...] сосредоточен на разработке и создании надежной вычислительной инфраструктуры. Это предполагает мощный и устойчивый импульс для поставщиков оборудования для центров обработки данных, необходимого для ускоренных вычислений, требующихся как для обучения ИИ, так и для вывода». «Огромная вычислительная мощность, необходимая для ИИ/ML, предъявляет значительные требования к различным секторам технологий. Компании, занимающиеся предоставлением необходимой инфраструктуры, могут значительно выиграть от этого повышенного спроса. К ним относятся предприятия, занимающиеся производством полупроводников, сетевого оборудования, строительством и управлением центрами обработки данных и т. д.». -- Искусственный интеллект: бенефициары глобального рынка акций (6/1/23)

С тех пор мы проводим время перед экранами, наблюдая, как зеленые цифры растут по всей цепочке поставок, вовлеченной в эту масштабную работу. Но есть риск не оценить это по достоинству, что является неотъемлемой частью этого процесса; иногда нужно просто быть свидетелем.

Экраны заставляют легко забыть о физическом мире, который скрывается за цифрами. Волокно не наматывается само по себе. Электроэнергия не появляется по волшебству на краю стойки. В какой-то момент нужно отойти от графика и пойти туда, где мегаватты встречаются с грязью. Поэтому мы отправились в Абилин, штат Техас. Или, по крайней мере, мы отправили дрон в Абилин, штат Техас, с помощью журналистского агентства Hunterbrook Media (с которым мы сотрудничали в рамках нашей работы над тезисом Teradyne (TER)).

Возможно, я медленно соображаю, но для меня прогресс, который я увидел там, действительно помог понять масштаб того, что происходит сейчас.

https://vimeo.com/1122628159?fl=pl&fe=ti

Примерно год назад там была грязь.

Теперь это выглядит так:

Девять месяцев назад на первом этаже это выглядело так:

Сегодня это выглядит так, и это только одна секция:

Эти изображения могут показаться обыденными, но стоит учитывать, что они представляют собой лишь крошечную долю от всего объема строительства центров обработки данных, развернувшегося по всей стране. Один только этот комплекс занимает площадь, равную 600 футбольным полям, и заполнен кабелями, оптоволокном, трубами, дизель-генераторами, трансформаторами, чиллерами, распределительными устройствами, кабельными лотками, топливными баками, батареями, медными шинопроводами, электротехническими компонентами (с избыточностью 2N), насосами, кондиционерами, системами пожаротушения, всей этой сложной вычислительной и охлаждающей техникой в машинных залах и 200 000 тонн другого оборудования, которое в совокупности потребляет достаточно электроэнергии, чтобы питать целый Сиэтл, и должно круглосуточно отводить такое количество тепла, что создаваемые им тепловые шлейфы видны на метеорологических радарах.

Каждый из них — буквально «Гигантское сооружение». И на этой одной площадке строится восемь таких объектов. И это всего лишь один из ЦОДов Stargate, а их гораздо больше. xAI Colossus 2, Meta Hyperion в Луизиане, Microsoft Fairwater, Quantum Loophole, ЦОД Nebius в Нью-Джерси, проект Amazon в Пенсильвании, проект Rainier от Google и Anthropic — и это лишь некоторые из них.

Вместе взятые, нынешние площади этого комплекса примерно равны площади нижней части Манхэттена:

Что блекнет по сравнению с объектом Meta в Луизиане, который простирается от вершины Центрального парка до Сохо:

Теперь наш слоган к этой статье начинает казаться гораздо меньше гиперболой и гораздо больше преуменьшением. «Что, если Манхэттен, но из компьютер?».

Не верьте нам на слово. Действительно, не верьте. На случай, если вы не поняли с первого раза, я настоятельно рекомендую посмотреть некоторые видеоматериалы:

https://vimeo.com/1122628159?fl=pl&fe=ti

Вы можете увидеть уже построенные серверные залы (один из них в настоящее время используется OpenAI для раннего обучения/вывода), а также новое строительство, которое значительно расширит текущую мощность. Масштаб и скорость строительства действительно огромны и, по крайней мере для меня, вызывают благоговейный трепет. Не позволяйте никому говорить вам, что США больше ничего не строят.

Несмотря на то, что мы владеем или освещаем многие компании, участвующие в этом проекте (Vertiv (VRT), Eaton (ETN), Schneider (SU FP), ABB (ABBN SW), Siemens Energy (SIE GR), GE Vernova (GEV) и т. д.). Мы решили посвятить выходные тому, чтобы донести до вас, что на самом деле означает «строительство центров обработки данных» с точки зрения внешнего, а не внутреннего взгляда на центр обработки данных. Мы израсходовали много чернил, уделяя особое внимание центрам обработки данных, стоечным системам, памяти с высокой пропускной способностью, подключаемым оптическим модулям, активным электрическим кабелям, стоечным системам, коммутаторам, графическим процессорам, сетевым структурам Ethernet. Теперь мы буквально отходим от этой темы.

Это наиболее наглядная демонстрация того, как быстро развивается инфраструктура искусственного интеллекта и сколько промышленных предприятий участвуют в этом процессе. Результаты говорят сами за себя: ведущие мировые поставщики спешат установить турбины, трансформаторы, охладители, резервуары и кабели на равнинах Техаса, а для их работы используется природный газ — одно из немногих надежных и доступных видов топлива, которые мы имеем сегодня.

Эти проекты настолько масштабны, что даже транснациональные корпорации не могут удовлетворить все потребности, и множество подрядчиков и OEM-производителей работают над достижением одной цели: крупнейшего промышленного инвестиционного цикла в США со времен Второй мировой войны. Это требует от строителей привлечения ресурсов отовсюду, чтобы реализовать свои амбиции.

Короче говоря, «технологии» впервые за четверть века снова стали действительно капиталоемкими. Для экономики в целом это огромное событие. Но картинка стоит тысячи слов, поэтому съемки с дрона должны стоить тысячи графиков...

К середине 2026 года в центре обработки данных Stargate в Абилине будет построено восемь зданий площадью около 4 миллионов квадратных футов с общей мощностью 1,2 гигаватта (ГВт). И это только один объект. Хотя мы решили сосредоточиться только на этом (отчасти произвольно, отчасти потому, что название «Stargate» вызывало сомнения), важно помнить, что в течение следующих пяти лет будет построено десятки, если не сотни подобных проектов.

Пять новых объектов Stargate уже находятся на стадии получения разрешений или строительства (первое здание в Шаклфорде будет построено во второй половине 2026 года), и уже ведутся дискуссии о расширении центра обработки данных в Абилене еще на 600 МВт.

Мы уже публиковали статьи о необходимости:

  • Увеличения вычислительных мощностей в мае 2023 года в нашей статье «Искусственный интеллект: бенефициары глобального капитала»
  • Увеличения мощности в мае 2024 года в нашей статье «Полезность пузырей: пересечение фискальной политики и ИИ»
  • Увеличения пропускной способности в июле 2024 года в нашей статье «Ты меня слышишь? Грядущий дефицит оптических кабелей»

Мы постоянно отслеживаем, что происходит внутри дата-центра. Что, чтобы было ясно, остается жизненно важным и не замедляется:

«По завершении строительства каждое здание дата-центра сможет обслуживать до 100 000 графических процессоров в одной интегрированной сетевой структуре, расширяя границы проектирования и масштабирования дата-центров для обучения искусственного интеллекта и вычислений. Первый этап включает два здания, оптимизированных как для жидкостного охлаждения непосредственно чипов, так и для воздушного охлаждения, что обеспечивает гибкость и передовую производительность. После завершения строительства центр обработки данных будет поддерживать до 100 000 графических процессоров в одной сетевой инфраструктуре». Источник: Crusoe/DPR Communications

Но сегодня мы делаем две вещи. Во-первых, мы признаем, что в 2023 году мы были правы: масштабы строительства центров обработки данных действительно «гипер». Во-вторых, мы более внимательно присматриваемся к тому, кто на самом деле строит центры обработки данных и удовлетворяет их огромные потребности. Это немного менее интересно, чем вопрос о том, кто разрабатывает оборудование, на котором будет работать «Бог-машина», но, увидев масштабы этого проекта, мы считаем, что он требует дополнительного внимания. Кто создает эти огромные объекты с нуля, как алхимическое преобразование денег в энергопотребление и вычислительные мощности?

Потому что нужно сделать многое, и на это уходит много денег. Сегодня это Техас. Скоро это будет Нью-Мексико, Огайо, Висконсин... везде, где есть достаточно энергии и земли для их строительства. Поэтому обратить внимание на проект — хорошая идея.

Наши выводы из этого видео можно резюмировать как «больше энергии, больше природного газа, больше теплового управления и больше строительства».

Энергетическая инфраструктура

Энергия: природный газ как основа

Когда Stargate подала в январе окончательную заявку на получение федерального разрешения на эксплуатацию, она предложила построить основную электростанцию, работающую на 10 турбинах простого цикла, работающих на природном газе. В совокупности эти 5 агрегатов Titan 350 мощностью 38 МВт и 5 агрегатов GE LM2500 мощностью 34 МВт имеют лицензию на круглосуточную работу с общей непрерывной мощностью 361 МВт. Ниже представлена двухмерная схема электростанции.

Stargate подключена к энергосистеме, что является идеальным вариантом, поскольку подключение к энергосистеме позволяет дата-центрам использовать разнообразные источники энергии; однако с ростом спроса на электроэнергию подключение к энергосистеме становится все более сложной задачей. При неправильном планировании такие большие нагрузки могут привести к дестабилизации электроснабжения жилых районов.

Выбор, который должны сделать гипермасштабируемые компании, очевиден: хотят ли они быстро и надежно выйти на рынок или хотят чувствовать себя хорошо в отношении своих выбросов углерода. Ответ, очевидно, заключается в том, чтобы быстро и надежно выйти на рынок; поэтому центры обработки данных в значительной степени полагаются на газовые турбины для производства необходимой им электроэнергии, поскольку это единственный доступный источник электроэнергии, который можно диспетчеризировать. Надежность гораздо важнее всего остального.

Сам генеральный директор Crusoe еще в мае заявил, что не верит в то, что какие-либо из обещаний гипермасштабируемых компаний по достижению «нулевого уровня выбросов к 2030 году» будут действительно выполнены (кроме простой покупки компенсационных квот).

В то время как проектировщики энергосистем пытаются сбалансировать быстро растущую нагрузку с выработкой электроэнергии, все чаще причиной периодических отключений электроэнергии по всему Техасу становится недостаток возобновляемых источников энергии; поэтому неудивительно, что центры обработки данных предпочитают самостоятельно обеспечивать себя электроэнергией. Альтернативные издержки простоя слишком велики, чтобы полагаться на что-либо, кроме природного газа.

Первое и самое важное, что мы видим, просматривая эти кадры, — нам понадобится гораздо больше природного газа. Между «другими мегапроектами» (масштабные мощности по экспорту СПГ на побережье Мексиканского залива) и строительством центров обработки данных начинает казаться, что это единственная игнорируемая область рынка, связанная с усилиями по расширению производства электроэнергии в США более чем на 20 %.

Хотя скрытый рост в Пермском бассейне может частично удовлетворить эту потребность, становится очевидным, что в ближайшие несколько лет мы столкнемся с препятствием и исчерпаем запасы дешевого газа. Ниже мы показываем исторический годовой рост ключевых газовых месторождений США и прогнозы спроса только на экспортные мощности СПГ и центры обработки данных. Мы составили эти прогнозы на основе графиков поставок газовых турбин и данных FERC по экспорту. Этот прогноз спроса на газ не является приблизительной оценкой, он подкреплен уже построенной инфраструктурой. Мы пришли к выводу, что, хотя мир ожидает, что Пермский бассейн обеспечит рост производства газа для всех будущих проектов, связанный с ним газ находится в опасном состоянии «переподписки», и другие месторождения сухого газа должны будут восполнить этот пробел с помощью рекордного годового роста.

Это возвращает власть в руки производителей, и этот рост будет стоить недешево. Мы уже узнали, что EQT US ведет переговоры о заключении соглашений о поставках по фиксированной цене ~5 долларов за MMBtu, что почти на 70% выше текущей спотовой цены Henry Hub и ~100% выше местных ориентиров. Это означает радикальное изменение в динамике поставок — гипермасштабируемые компании готовы платить за гарантированные поставки, учитывая чрезвычайную важность бесперебойной работы, а производители нуждаются в компенсации за рост объемов поставок (впервые в истории сланцевого газа).

По мере замедления пассивного роста в Пермском бассейне динамика рынка природного газа смещается к точке, когда необходимо стимулировать появление на рынке новых молекул. Ниже мы приводим таблицу ценовой чувствительности по месторождениям и во времени. Пермский бассейн — последний оплот «бесплатного» роста, и именно за него держится весь рынок. Для контекста: спрос на газ составляет более 30 миллиардов кубических футов в сутки (Bcf/d), чтобы извлечь выгоду из всего лишь ~10 Bcf/d «бесплатного» роста газа в Пермском бассейне. Для контекста: 30 млрд куб. футов в сутки — это ~30% от текущего объема добычи в США.

При подготовке этой статьи, когда мы спрашивали других, откуда, по их мнению, будет происходить рост поставок газа в США, почти все отвечали: «Пермский бассейн позаботится об этом». Пермский бассейн не позаботится об этом.

В течение последнего десятилетия добыча газа в Пермском бассейне стабильно росла на 1-2 млрд куб. футов в сутки ежегодно. Это полностью и полностью перегрузило газовый рынок во всех отношениях, и многие посчитали, что Пермский бассейн, очевидно, будет продолжать обеспечивать бесконечный поток бесплатного роста. Это просто не так, и центры обработки данных ускоряют эту реальность.

Перевод таблицы ниже
Перевод таблицы:

Регион
- Чувствительность до COVID
- Текущая чувствительность
- Чувствительность в будущем

Пермианский бассейн - Нечувствителен к цене, т.к. дополнительный объём — это попутный газ от роста добычи нефти.
- Нечувствителен к цене, т.к. дополнительный объём — это улавливание ранее неиспользуемого попутного газа.
- Чувствителен к цене, т.к. дополнительный объём будет поступать из глубоких пластов, которые требуют высоких цен NYMEX для рентабельности.

Аппалачи - Нечувствителен к цене, т.к. дополнительный объём — это малообводнённый газ, а рост направлен на захват доли рынка.
- Чувствителен к цене, т.к. для дополнительного объёма требуется разработка запасов, которые окупаются при цене >$3/MMBtu.
- Чувствителен к цене, т.к. для дополнительного объёма требуется инфраструктура и он оценивается на основе полного цикла затрат.

Хейнсвилл - Нечувствителен к цене, т.к. дополнительный объём — это малообводнённый газ, а рост направлен на захват доли рынка.
- Чувствителен к цене, т.к. для дополнительного объёма требуется разработка запасов, которые окупаются при цене >$3/MMBtu.
- Чувствителен к цене, т.к. дополнительный объём будет поступать из сланцевых пластов второго эшелона и зон повышенного риска разведки.

Игл-Форд и другие регионы Побережья Мексиканского залива - Нечувствителен к цене, т.к. дополнительный объём — это попутный газ от роста добычи нефти.
- Чувствителен к цене, т.к. дополнительный объём — это богатый газ по мере выхода производителей в более глубокие зоны.
- Чувствителен к цене, т.к. дополнительный объём будет поступать из зоны сухого газа в формациях Игл-Форд и Остин Чолк.

Мид-Континент (Средний Запад) - Нечувствителен к цене, т.к. дополнительный объём — это попутный газ от роста добычи нефти.
- Чувствителен к цене, т.к. дополнительный объём поступает из сланцев низкого эшелона и за счёт повторной разработки старых месторождений.
- Чувствителен к цене, т.к. дополнительный объём будет поступать из сланцев второго эшелона и месторождений богатого газа, которые требуют цены >$4/MMBtu.

Это привело к полной перемене динамики предложения за последнее десятилетие. С 2015 по 2025 год цены определялись предложением; с 2025 года и далее цены должны определяться спросом, а новый рост спроса, вызванный появлением центров обработки данных, ускоряет этот дисбаланс.

Предложение EQT о заключении контрактов с фиксированными ценами свидетельствует о том, что покупатели центров обработки данных, которые явно являются потребителями с очень низкой ценовой эластичностью, ценят эту меняющуюся динамику. По мере того как все больше потребителей будут конкурировать за ограниченные молекулы, мы не видим никаких результатов, при которых цены Henry Hub и долгосрочные форвардные контракты не будут структурно расти. Это неизбежно — «бесплатные» молекулы последнего десятилетия заканчиваются, и это измеримый факт.

Центры обработки данных являются «базовым спросом» в самом истинном смысле этого слова и совершенно нечувствительны к ценам. Те, кто пострадал от постоянного роста цен на газ в США в прошлом, могут настаивать на том, что рост цен на дешевый газ будет продолжаться вечно, но мы не видим, как это возможно в рамках физики и геологии. Не считая сезонности и хранения, все очень просто: предложение должно расти, или спрос должен снижаться — и только изменение цен может стать катализатором того или другого.

Если говорить конкретно о Stargate, то на изображениях ниже мы видим промышленную газовую установку и подстанцию, предназначенную для питания только части этого объекта, который, вероятно, будет значительно расширен в будущем.

Сегодня двумерные изображения выше уже превратились в массивные физические сооружения, представляющие новый базовый спрос на электроэнергию. Мы видим 10 турбин, которые были физически установлены и будут потреблять природный газ позднее этой осенью.

Мы также замечаем несколько турбин простого цикла мощностью 35 МВт от Solar Turbines — компании, принадлежащей Caterpillar (CAT). Это наглядно демонстрирует, насколько устойчивым является этот аспект строительства: срок поставки газовых турбин комбинированного цикла составляет более 5 лет, газовых турбин простого цикла — 12–18 месяцев, а атомных — более 10 лет. Несложно представить, почему Stargate Abilene использует газовые турбины простого цикла от GEV и CAT. Чтобы было ясно, они значительно менее эффективны, чем более крупные турбины комбинированного цикла. Но эффективность не имеет значения, когда вы берете то, что можете получить.

Достаточно ли этого, чтобы изменить соотношение спроса и предложения на природный газ в США? Не сразу, но в сочетании с массовым увеличением мощностей по экспорту СПГ мы считаем, что в течение следующих 5 лет цены на природный газ, вероятно, будут значительно расти (с необходимой и повышенной волатильностью спотовых цен), поскольку рынок переходит от конкуренции по поставкам со всех уголков страны, которая снижает цены, к конкуренции по потреблению со всех уголков страны, которая повышает цены.

Завод Stargate Abilene фактически блекнет по сравнению с центром обработки данных xAI в Мемфисе, который использует более 30 газовых турбин, представляющих собой смесь GEV, CAT (Solar Turbine) и SEI — в настоящее время они работают, как показывает тепловизионная съемка (Источник: Ars Technica).

Помимо этих постоянно работающих генераторов базовой нагрузки, объект также включает 18 небольших (2-3 МВт) резервных дизельных генераторов Caterpillar.

Завод Stargate Abilene получает природный газ из системы Atmos Gas Transmission (ATO US), которая транспортирует попутный газ из Пермского бассейна на восток, в направлении Далласа. Генеральный директор Crusoe, возглавляющий этот проект, затронул тему использования «факельного газа». Многие считают, что этот попутный газ (т. е. связанный с добычей нефти), который компании добывают из Пермского бассейна, является «бесплатным», но это не так. Попутный газ не «улавливается», так сказать, поскольку раньше он не сжигался. Если бы вы уловили весь избыточный сжигаемый газ в Пермском бассейне, его хватило бы только для питания ~5% всего комплекса Stargate мощностью ~5 ГВт.

Да, попутный газ является «отходом», реализация которого не влияет на экономику нефтяных скважин, но весь сектор СПГ на побережье Мексиканского залива США был построен на предположении, что этот попутный газ можно получить бесплатно. Если центры обработки данных начнут отбирать поставки попутного газа, это будет иметь пагубные последствия для экспортеров СПГ и покупателей коммунальных услуг в других местах. Газовый рынок представляет собой замкнутый цикл, и центры обработки данных будут массово стимулировать бычий рынок природного газа, на котором производители сухого газа имеют ценовую власть, поскольку их молекулы действительно необходимы для балансирования рынков.

Становится все более очевидным, что дизельная и природная газовая энергетика, как подключенная к сети, так и «за счетчиком» (что просто означает, что энергия производится на месте и не взаимодействует с сетью), будет единственным способом обеспечить энергией центры обработки данных в больших масштабах. Есть причина, по которой до сих пор не было объявлено ни об одном центре обработки данных, который активно использует солнечные панели на месте в качестве основного источника энергии. Это потому, что солнечные панели не обеспечивают надежность. Обратите внимание, что единственные объявления о солнечной энергии поступают в форме «подключенных к сети компенсаций», а не производственных мощностей на месте (т. е. центры обработки данных фактически используют надежную энергию природного газа и «компенсируют» ее менее надежной энергией). Добавление большего количества солнечной энергии в сети поможет, но это не является по сути диспетчируемой энергией, которая необходима дата-центрам. Несоответствие базовой нагрузки базовой мощностью, несомненно, приведет к нестабильности энергосетей в будущем, подобно тому, с чем сегодня сталкиваются многие европейские страны. Добавление большего количества такой энергии, хотя и полезно, не является наиболее оптимальным способом распределения капитала по сети.

Рецепт нестабильной энергосистемы — это сопоставление почти постоянного потребления энергии с непостоянной генерацией (т. е. солнечной и ветровой). Центры обработки данных будут стремиться работать круглосуточно и без выходных, и им необходимо сопоставить энергию, которая может контролируемо работать круглосуточно и без выходных. В будущем это может быть атомная энергия, но сегодня это природный газ. По мере роста розничных цен на электроэнергию (даже если центры обработки данных не являются причиной этого роста, а сам рост все еще ниже уровня инфляции), центры обработки данных будут нести социальную нагрузку в виде более высоких счетов за коммунальные услуги; поэтому будет важно, чтобы хорошо спланированные энергосистемы начали регулировать типы генерации, которые могут подключаться к энергосистеме, чтобы обеспечить надежность и доступность.

Хотя сочетание генератора (который в течение дня почти всегда является солнечным) с батареями, казалось бы, всегда является наиболее экономически эффективным решением на единицу продукции, если учитывать капитал, инвестированный в инфраструктуру передачи энергии для обеспечения надежности энергосистемы, солнечная энергия и батареи являются лишь дорогостоящим способом обеспечения эксплуатационной гибкости (и надежности), которую дают системы передачи и генерации природного газа. Хотя экономика возобновляемых источников энергии привлекательна, она не выдерживает критики, если учитывать надежность энергосистемы, которая в будущем может стать социальной и политической проблемой, если не будет тщательно спланирована.

Проще говоря, центры обработки данных почти гарантированно работают круглосуточно, солнечная энергия пытается работать круглосуточно, но на практике невозможно гарантировать, что это будет так. С другой стороны, природный газ может почти гарантировать круглосуточную работу. Проще говоря, добавление гарантированного потребления энергии, но без гарантированного производства, ставит энергосистемы под угрозу. На практике расчет в долларах за кВт·ч не имеет большого значения, если потребители сталкиваются с частыми отключениями/перебоями в подаче электроэнергии. Единственный способ избежать этого — отдать предпочтение диспетчируемой генерации электроэнергии на природном газе в сочетании с новым энергопотреблением центров обработки данных. Таким образом, мы очень позитивно оцениваем динамику спроса на природный газ, ускоряющуюся благодаря массовому строительству центров обработки данных.

Хотите несколько подсказок, подтверждающих нашу правоту? В 2024 году Meta добавила в свой совет директоров одного из самых легендарных трейдеров газа в истории — Джона Арнольда. С тех пор Meta согласилась профинансировать >2 ГВт новых мощностей по производству электроэнергии на природном газе в Луизиане, а также создать новый отдел по торговле электроэнергией (заявка FERC для Atem Energy, что является обратным написанием Meta, доступна здесь). Их новый кампус дата-центра Hyperion расположен на пересечении 4 основных магистральных трубопроводов, что обеспечивает надежность газоснабжения. Meta считает, что рынки (как природного газа, так и электроэнергии) скоро станут более волатильными, и мы с ними согласны.

Инфраструктура, обеспечивающая доставку топлива, удовлетворение спроса и работу резервных дизельных генераторов, будет иметь большое значение, когда речь идет о трате триллионов долларов. Для дизельных генераторных установок CAT в каждом здании требуются специальные надземные резервуары (AST) с двойными стенками, которые часто закрываются кожухом в целях соблюдения экологических норм. Такие компании, как Matrix Service (MTRX), Chart Industries (GTLS) и Wärtsilä (WRT1V FH), специализируются на производстве и интеграции этих резервуаров в промышленных масштабах. Оттуда подземные топливные магистрали и перекачивающие насосы подключаются к дневным резервуарам рядом с каждым генератором, оснащенным автоматизированными системами управления для циклической очистки топлива и предотвращения его разложения. Даже несколько часов простоя дизельного топлива могут привести к катастрофическому простою, когда переключатель питания требует энергии. Помимо дизельного топлива, сама установка на природном газе требует параллельной решетки инфраструктуры доставки топлива: отводов для передачи, регуляторов высокого давления и дозирующих устройств. Это тихая сфера деятельности подрядчиков среднего звена и OEM-производителей, таких как Kinder Morgan (KMI), Atmos Energy (ATO), Williams Companies (WMB).

Электроэнергия и энергия: передача

Мы видим высоковольтные линии электропередачи, стальные решетчатые опоры, коммутационное и преобразующее оборудование, силовые трансформаторы, шинные системы, молниеотводы и несколько отсеков для резервирования. В настоящее время в Абилине есть подстанция мощностью 200 МВт и напряжением 138 кВ, которая расширяется за счет подстанции мощностью 1 ГВт и напряжением 345 кВ с пятью основными силовыми трансформаторами (общей мощностью 1,2 ГВт).

К поставщикам уровня 1 относятся ABB, Siemens, GE и Schneider Electric. Но если вы посмотрели эти видео, учли тот факт, что в ближайших планах есть еще примерно триллион долларов государственных и частных инвестиций в практически идентичные проекты, и осознали, что означает такой масштаб, то вы также поймете, что обозначение уровня 1 не так уж и значимо. Огромные мощности, необходимые в данном случае, означают, что в конечном итоге сроки поставки у компаний уровня 1 могут стать настолько длительными, что компании уровней 2 и 3 также начнут получать заказы. Количество компаний, способных поставить необходимое оборудование, ограничено.

Например, Powell Industries (POWL) специализируется на изготовлении по индивидуальному заказу зданий для помещений управления электропитанием (PCR), в которых размещается распределительное оборудование, видное на наших изображениях. Это одна из немногих компаний, которая может поставлять интегрированные электрические здания в масштабах, требуемых Stargate. Акции компании могут значительно подорожать, но их 3-летний портфель заказов, вероятно, станет гораздо больше. Любые компании, имеющие существующие запасы или производственные мощности, получат огромную ценовую премию.

Мы также видим линии электропередачи, проходящие с севера на юг вдоль восточной границы, и новую расширенную подстанцию, которая находится в стадии строительства:

Такая конфигурация с несколькими подстанциями потребует значительного количества (миллионы футов) кабеля среднего напряжения для распределения электроэнергии по всему кампусу. Компания Prysmian, которая приобрела Encore Wire в 2023 году, уже подписала контракт на 118 миллионов долларов на поставку этого кабеля.

Центры обработки данных такого размера требуют резервирования «2N», что означает, что каждый ватт, проходящий через систему, имеет двойной путь. В каждом из залов Abilene будут размещены модули ИБП (источник бесперебойного питания), мощность которых измеряется не в киловаттах, а в десятках мегаватт, в сочетании с литий-ионными или усовершенствованными свинцово-кислотными батареями, медными шинами и автоматизированными переключателями.

Сроки поставки крупномасштабных систем ИБП увеличились до 18–24 месяцев, поскольку заказы занимают все производственные мощности. Этот спрос распространяется на цепочки поставок поставщиков аккумуляторов, производителей коммутационного оборудования и шин. Это также означает, что даже игроки второго уровня, такие как Mitsubishi Electric для ИБП, Saft (TotalEnergies) для аккумуляторных систем и другие, упомянутые в нашем портфеле, начинают получать заказы, которые пять лет назад были бы для них недостижимы.

Вы можете просмотреть полный портфель вместе с весом и характеристиками здесь.

Тепловое управление и охлаждение

На изображениях и видео мы видим многочисленные доказательства того, что именно требуется для охлаждения инфраструктуры: сухие охладители, коллекторы жидкостного охлаждения, насосы, теплообменники, CRAH/CRAC, водоподготовка.

Мы видим длинные ряды прямоугольных модулей с осевыми вентиляторами наверху и двумя большими коллекторами подачи/возврата, питающими отдельные капли вдоль банка. Они отводят тепло из контура D2C с теплой водой (гликолем) в окружающий воздух. То, что подразумевается, но не видно снаружи, — это CDU (блоки распределения охлаждения), коллекторы и охлаждение стоек. Вероятно, они поставляются Vertiv/Liebert и/или Schneider Electric. Такие компании, как Modine (Airedale, MOD), Munters (MTRS SS), Trane (TT) и Carrier (CARR), также пытаются занять место в этом сегменте, но Vertiv (VRT) остается явным лидером, а Schneider Electric (SU FP) занимает второе место с некоторым отрывом.

Мы также видим градирни, чиллеры, резервуары и радиаторы. Компании SPX Technologies (SPXC), Daikin (6371 JP), SWEP (DOV) и многие другие являются потенциальными поставщиками — более подробную информацию см. в нашей таблице.

Каждая здание окружено 39 градирнями с каждой стороны. С учетом того, что на данный момент на объекте строится восемь зданий, это соответствует 624 огромным стойкам HVAC, каждая из которых по размеру превосходит школьный автобус. Ниже мы видим больше оборудования, лежащего в основе этих гигантских охлаждающих массивов, которые в настоящее время находятся в стадии строительства.

Глядя на изображения примерно 4-месячной давности, мы можем увидеть траншеи для распределения воды/гликоля к и от адиабатического/сухого охладителя жидкости D2C, который мы видим установленным сегодня.

Источник: Schneider Electric

Теплоотводящая ферма обширна и массивна, и каждая конструкция требует ее наличия.

Даже в замкнутой системе тысячи галлонов технологической воды должны быть подготовлены, отфильтрованы и химически сбалансированы для предотвращения образования накипи, коррозии и роста микроорганизмов. Такие компании, как Evoqua (XYL), Pentair (PNR) и Veolia (VIE FP), поставляют эти очистные установки, смоляные слои и дозирующие системы. Насосы и коллекторы могут перемещать мегаватты тепла, но без надежной фильтрации вся система забивается.

Здесь применим жизненный урок: «бесплатный сыр бывает только в мышеловке». Когда мы писали нашу статью «Высококачественная H2O», мы подробно остановились на требованиях к воде для высокопроизводительных вычислений (и на том, как их можно уменьшить/сделать более эффективными). Один из таких способов — жидкостное охлаждение с замкнутым контуром. Но в жизни нет ничего бесплатного — скорее, все требует компромисса. Да, жидкостное охлаждение снижает потребность в воде, связанную с воздушным/испарительным охлаждением центров обработки данных. Но оно также требует значительно больше энергии.

Опять же, даже когда это кажется не связанным, почти все сводится к простому уравнению: это великое дело по превращению денег в энергопотребление в погоне за созданием обещанного нам Бога-Машины. И если окажется, что Бог-Машина — ложное божество, ну... мы все равно будем строить. Музыка играет, и никто не ищет стул — то есть, если только стул не попадает в центр обработки данных.

Кто что поставляет:

См. портфель «Тепловое управление и охлаждение» здесь.

Механические, электрические и сантехнические системы (MEP)

Строительство объектов такого необычайного масштаба требует буквально сотен километров вспомогательной инфраструктуры, чтобы обеспечить работу высокоценных систем внутри, гарантировать безопасность и пожаротушение, а также более простых систем, таких как гражданская сантехника, которые позволяют функционировать таким масштабным гражданским сооружениям. Это такие вещи, как воздуховоды, трубопроводы, клапаны, системы пожаротушения, сжатый воздух, водоснабжение и канализация, системы заправки топливом.

Хотя многие из этих компонентов не так заметны снаружи, мы можем просто оценить их огромные размеры — пространство, оптимизированное для размещения оборудования с максимально эффективной планировкой. Каждый крупный элемент электрического или HVAC-оборудования также требует воздуховодов, электрических кабельных каналов и трубопроводов. Конечно, эти кампусы также требуют гражданской инфраструктуры, такой как сантехника, дренажные траншеи и пожарные гидранты.

Снаружи мы видим, что, вероятно, являются установками для очистки воздуха или трансформаторами, расположенными вдоль северной и южной сторон (что означает 768 единиц по всему проекту).

Внизу мы видим ряды больших деревянных катушек, на которых намотаны толстые силовые и информационные кабели или пучки волокон для внутренней/внешней связи, подготовленные для протягивания в трубы, лотки и подземные каналы, которые будут соединять подстанции, охладители, генераторы и системы здания. Некоторые катушки меньшего диаметра могут быть предназначены для магистралей пожаротушения (гидранты, спринклеры) или питьевой/технологической воды. Далее мы видим стопки труб большого диаметра для механических систем. Они соединяют градирни/сухие охладители с внутренними контурами HVAC объекта.

Stargate, вероятно, будет полагаться на ряд поставщиков MEP, включая широко известные крупные компании с обширным опытом в строительстве во всех секторах экономики. Но даже для диверсифицированных строительных компаний это представляет собой огромные задачи и значительные возможности для получения дохода, которые только начинают реализовываться по мере того, как эти мегапроекты начинают реализовываться.

Кто что поставляет:

См. портфель «Механика, электрика и сантехника» здесь.

Гражданское строительство и строительство конструкций / Ограждающие конструкции зданий

На этом (устаревшем) снимке с высоты птичьего полета мы можем эффективно увидеть временную последовательность строительства зданий слева направо. Начиная с базовой подготовки площадки и фундамента, до первоначальных лесов и опор, до кровли и, в конечном итоге, полной ограждающей конструкции.

Вокруг физических конструкций находятся гражданские сооружения, включая дороги, дренажные траншеи, пожарные выходы, гидранты, парковки и охранные сооружения.

Теперь посмотрите на достигнутый прогресс:

Фундаменты, изоляция, наклонные панели, сталь, кровля, внешняя облицовка/IMPs, двери и вестибюли безопасности, мощение, ограждение. Это, возможно, наименее привлекательная часть, но факт остается фактом: она является неотъемлемой частью. В буквальном смысле. Целостность здания чрезвычайно важна, когда в каждом зале находится оборудование, эквивалентное ВВП Албании.

Поэтому, хотя мы и не видим турбинных задержек в кровельных работах, будет заключено много контрактов на строительство критически важной инфраструктуры здания. А критически важная инфраструктура означает, что стандартные решения не подходят — возьмем, к примеру, панели:

Это не стандартные складские панели. IMP для центров обработки данных требуют R-значений 25-40+ для экстремальной тепловой эффективности, пароизоляции для предотвращения конденсации в условиях высокой температуры, пожарной безопасности, соответствующей стандартам FM Global, звукопоглощающих свойств и ширины от 42 до 48 дюймов для быстрой установки. Каждый новый крупный проект будет использовать 5-10 миллионов квадратных футов изолированных металлических панелей. Эта логика распространяется практически на все в центре обработки данных.

Кто что поставляет:

См. портфель «Строительство» здесь.

Волоконные, сетевые и средне-/низковольтные системы

Возможно, самым типовым аспектом первой фазы Abilene станет сетевая инфраструктура, предназначенная для обеспечения высокоскоростной связи между рядами серверов и огромными IT-залами. В этих залах можно предположить, что Arista (ANET) будет доминировать в локальной магистральной сети с помощью коммутаторов и маршрутизаторов верхнего уровня, а NVLink от Nvidia будет выполнять функцию кровеносных сосудов, переносящих информацию от ряда к ряду для тренировочных запусков и между графическими процессорами для вычислительных задач, приносящих доход. Мы подробно обсуждали победителей в течение последних двух с лишним лет, поэтому вместо этого перейдем к реальной задаче: масштабированию когерентных логических структур по кампусам центров обработки данных.

Магия Stargate действительно проявляется, когда мы начинаем расширяться за пределы этого флагманского комплекса площадью 1000 акров. С шестью уже объявленными площадками (более пяти подтвержденных и одна, которая будет объявлена позже), перспективы Stargate заключаются в возможности управлять этими кампусами как единым центром обработки данных.

Ключевые игроки, которым будет доверено замкнуть цифровой контур, охватывающий большую часть континентальной части США, на данный момент также должны быть хорошо известны: модули 400G/800G Ciena (CIEN), содержащие лазерные компоненты от Lumentum (LITE) и Coherent (COHR), используемые для освещения километров кабелей Prysmian (PRY IM), Commscope (COMM) Corning (GLW) и/или Belden (BDC), вероятно, установленных Dycom (DY) или близким конкурентом. Сценарий, безусловно, знаком, но масштаб, в котором он должен быть реализован, действительно напоминает лунный полет или цифровой Манхэттенский проект.

Не было объявлено — и, вероятно, еще не полностью определено — как именно эти объекты будут соединены между собой, но можно с уверенностью предположить, что это будет сочетание частных проектов, партнерств с интернет-провайдерами/телекоммуникационными компаниями, такими как AT&T или Lumen, для новых общих соединений, а также более традиционных соглашений, в рамках которых данные Stargate будут маршрутизироваться через существующие сети, такие как оптоволоконные активы Crown Castle (которые вскоре перейдут в собственность EQT's Zayo) или быстро расширяющейся магистральной сетью Verizon.

Кто что поставляет:

См. корзину Fiber здесь.

Строительные услуги и логистика объектов

Теперь мы подошли к самой скучной, но самой необходимой части всего этого. Прежде чем данные начнут поступать, нужно приготовить кофе. Хотя может показаться, что эти проекты просто взялись из ниоткуда, видеоматериалы дают представление о масштабах того, что необходимо для их реализации. Электрики, подрядчики, сантехники, архитекторы и EPC-компании, которые связывают все это воедино, тяжелая техника, аренда, модульные офисы, тестирование/ввод в эксплуатацию и т. д. Это немного напоминает наш тезис о профессиональных училищах, таких как Universal Technical Institute (UTI): нам просто понадобится больше специалистов.

Неудивительно, что тяжелая техника присутствует повсюду. Машины Caterpillar, Komatsu (6031 JP) и Deere (DE) расчищают, выравнивают и роют траншеи; United Rentals (URI), Ashtead (AHT LN), Herc Holdings (HRI) и другие подобные поставщики предоставляют парк подъемников, сварочных аппаратов и генераторов, благодаря которым строительная площадка выглядит как временный город. Сборные офисы и испытательные лаборатории доставляются кранами WillScot (WSC) и другими подобными поставщиками. Десятки тысяч поставок, от трансформаторов, стальных панелей и кабельных барабанов до газовых турбин, трубопроводов и серверных стоек, должны поступать в точно определенные временные интервалы, чтобы избежать заторов. Специализированные контракты, логистические интеграторы и EPC. Хотя многие из них являются частными, как Crusoe и DPR, другие крупные игроки, такие как Primoris (PRIM), участвующая в этом проекте, Quanta Services (PWR), Emecor (EME) и Aecom (ACM), являются публичными.

И как только все будет установлено, группы по вводу в эксплуатацию и инспекции, такие как Acuren (TIC), которая является предметом нашей последней диссертации, и Mistras (MG), приступают к проверке сварных швов, испытанию трубопроводов под давлением и сертификации систем, прежде чем они начнут работать. Без их одобрения турбина остается просто скульптурой. В целом, строительство и логистика являются важным фактором: не имеет значения, сколько графических процессоров NVIDIA может поставить, если никто не может вовремя залить фундамент, сварить балки или установить резервуары.

См. корзину строительных услуг здесь.


Наши основные выводы

Хотя мы знали об этом в основном и, безусловно, извлекли выгоду из масштаба, увидеть все это воочию — совсем другое дело. Мы добавили в наш портфель такие компании, как EQT, и будем искать другие, связанные с природным газом и газовой инфраструктурой, поскольку совершенно очевидно, что газ — это единственный способ получить необходимые нам вычислительные мощности сейчас, независимо от того, что будет с атомной энергетикой к 2030 году.

Кроме того, мы продолжим отслеживать эти компании для включения в наши портфели «Финансы» и «ИИ». Многие из этих компаний имеют чрезвычайно разнообразную экспозицию, но будет становиться все более важным отслеживать, какие из них в конечном итоге получат все большую долю от строительства центров обработки данных — мы действительно не можем переоценить масштаб происходящего. Вероятно, что часть торговли ИИ, связанная с энергетикой/инфраструктурой, будет продолжаться до тех пор, пока будут возводиться и финансироваться эти огромные монументы вычислительной мощности. Есть компании, без которых просто невозможно достичь этих целей, и независимо от того, перестраиваем ли мы мощности или нет... они будут построены. В нашей таблице мы постарались отметить все компании, которые получают или должны получить выгоду от этих масштабных усилий, но мы уверены, что некоторые из них мы упустили.

Мы загрузили каждую категорию в виде портфеля в Plutus — каждая из них указана ниже — для удобства отслеживания, и будем обновлять их по мере обнаружения чего-либо нового.

Все ссылки на портфели: