Введение
Центр обработки данных (англ. data center) или центр обработки данных (англ. data centre) — это здание, выделенное пространство в здании или группа зданий, используемых для размещения компьютерных систем и связанных с ними компонентов, таких как телекоммуникационные и системы хранения данных. Поскольку ИТ-операции критически важны для обеспечения непрерывности бизнеса, они обычно включают в себя резервные или дублирующие компоненты и инфраструктуру для электроснабжения, подключения к сетям передачи данных, систем контроля окружающей среды (например, кондиционирования и пожаротушения) и различных средств безопасности. Крупный центр обработки данных представляет собой промышленный объект, потребляющий столько же электроэнергии, сколько небольшой город. Оценочное глобальное потребление электроэнергии центрами обработки данных в 2022 году составило 240 340 ТВтч, что составляет примерно 1,3% мирового спроса на электроэнергию. Это не включает энергию, потребляемую для майнинга криптовалют, которая, по оценкам, составила около 110 ТВтч в 2022 году, или еще 0,4% мирового спроса на электроэнергию. Центры обработки данных могут значительно различаться по размеру, требованиям к электроэнергии, уровню резервирования и общей структуре. Четыре основные категории, используемые для классификации типов центров обработки данных, — это локальные центры обработки данных, центры колокации, гипермасштабируемые центры обработки данных и периферийные (edge) центры обработки данных.
A data center (American English) or data centre (Commonwealth English) is a building, a dedicated space within a building, or a group of buildings used to house computer systems and associated components, such as telecommunications and storage systems. Since IT operations are crucial for business continuity, it generally includes redundant or backup components and infrastructure for power supply, data communication connections, environmental controls (e. g., air conditioning, fire suppression), and various security devices. A large data center is an industrial scale operation using as much electricity as a small town. Estimated global data center electricity consumption in 2022 was 240 340 TWh, or roughly 1 1.3% of global electricity demand. This excludes energy used for cryptocurrency mining, which was estimated to be around 110 TWh in 2022, or another 0.4% of global electricity demand. Data centers can vary widely in terms of size, power requirements, redundancy, and overall structure. Four common categories used to segment types of data centers are onsite data centers, colocation facilities, hyperscale data centers, and edge data centers.
История
Центр обработки данных берет свое начало в огромных компьютерных комнатах 1940-х годов, олицетворяемых ENIAC, одним из самых ранних примеров центра обработки данных. Ранние компьютерные системы, сложные в эксплуатации и обслуживании, требовали специальной среды для работы. Для соединения всех компонентов требовалось множество кабелей, и были разработаны методы их размещения и организации, такие как стандартные стойки для монтажа оборудования, приподнятые полы и кабельные лотки (установленные над головой или под приподнятым полом). Один центральный компьютер требовал значительного количества энергии и нуждался в охлаждении, чтобы избежать перегрева. Безопасность приобрела важное значение – компьютеры были дорогими и часто использовались в военных целях. Поэтому были разработаны базовые принципы проектирования для контроля доступа в компьютерную комнату. Во время бума микрокомпьютерной индустрии, и особенно в 1980-х годах, пользователи стали повсеместно развертывать компьютеры, зачастую не уделяя должного внимания требованиям к их эксплуатации. Однако, по мере роста сложности операций в сфере информационных технологий (ИТ), организации осознали необходимость контроля над ИТ-ресурсами. Доступность недорогого сетевого оборудования в сочетании с новыми стандартами структурированной кабельной сети позволила использовать иерархическую структуру, при которой серверы размещались в отдельном помещении внутри компании. Примерно в это же время термин «центр обработки данных», применяемый к специально спроектированным компьютерным комнатам, начал приобретать широкое признание. Бум центров обработки данных пришелся на период «пузыря доткомов» 1997–2000 годов. Компаниям требовалось быстрое подключение к Интернету и бесперебойная работа для развертывания систем и создания присутствия в сети. Установка такого оборудования была нерентабельной для многих небольших компаний. Многие компании начали строить крупные объекты, называемые интернет-центрами обработки данных (IDC), которые предоставляли расширенные возможности, такие как резервное переключение: «Если линия Bell Atlantic будет повреждена, мы сможем переключить их, чтобы минимизировать время простоя». Строительство и обслуживание центров обработки данных обычно обходится дорого.
Требования к современным дата-центрам
Модернизация и трансформация центров обработки данных повышают производительность и энергоэффективность. Информационная безопасность также вызывает опасения, и по этой причине центр обработки данных должен обеспечивать безопасную среду, минимизирующую риск инцидентов безопасности. Следовательно, дата-центр должен поддерживать высокие стандарты, гарантирующие целостность и функциональность размещенной в нем вычислительной среды. По данным исследовательской компании International Data Corporation (IDC), средний возраст дата-центра составляет девять лет. Рост объема данных (163 зеттабайта к 2025 году) – один из факторов, стимулирующих необходимость модернизации дата-центров. Внимание к модернизации не ново: обеспокоенность устаревшим оборудованием высказывалась еще в 2007 году, а в 2011 году Институт Uptime выражал обеспокоенность по поводу возраста оборудования. К 2018 году фокус сместился вновь, на этот раз на возраст персонала: "персонал дата-центров стареет быстрее, чем оборудование".
Трансформация центра обработки данных
Трансформация центра обработки данных осуществляется поэтапно, посредством интегрированных проектов, реализуемых со временем. Это отличается от традиционного подхода к модернизации центров обработки данных, который предполагает последовательное и изолированное выполнение задач. Типичные проекты в рамках инициативы по трансформации центра обработки данных включают стандартизацию/консолидацию, виртуализацию, автоматизацию и обеспечение безопасности. Стандартизация/консолидация: сокращение количества центров обработки данных и предотвращение неконтролируемого роста числа серверов (как физических, так и виртуальных) часто включает в себя замену устаревшего оборудования, чему способствует стандартизация. Виртуализация: позволяет снизить капитальные и операционные затраты, а также энергопотребление. Виртуальные рабочие столы могут размещаться в центрах обработки данных и предоставляться по модели подписки. Инвестиционный банк Lazard Capital Markets в 2008 году оценил, что к 2012 году 48% корпоративных операций будут виртуализированы. Gartner рассматривает виртуализацию как стимул для модернизации. Автоматизация: автоматизация задач, таких как выделение ресурсов, настройка, установка обновлений, управление релизами и обеспечение соответствия требованиям, необходима не только в условиях нехватки квалифицированных ИТ-специалистов.
Повышенный пол
Руководство по стандартам для поднятых полов под названием GR 2930 было разработано компанией Telcordia Technologies, дочерней компанией Ericsson. Хотя первая компьютерная комната с поднятым полом была создана IBM в 1956 году, и подобные решения использовались с 1960-х годов, именно в 1970-х годах они стали более распространены в компьютерных центрах, обеспечивая более эффективную циркуляцию охлажденного воздуха. Первоначально поднятый пол предназначался для обеспечения доступа к кабельной инфраструктуре. Центр обработки данных, также известный как "темный" центр обработки данных, – это центр обработки данных, который в идеале практически не требует прямого доступа персонала, за исключением чрезвычайных ситуаций. Благодаря отсутствию необходимости присутствия персонала в центре обработки данных, он может функционировать без освещения. Доступ и управление всеми устройствами осуществляется удаленно, а автоматизированные программы используются для выполнения операций без участия человека. Помимо экономии энергии, снижения затрат на персонал и возможности размещения объекта вдали от населенных пунктов, внедрение "темного" центра обработки данных снижает риск злонамеренных атак на инфраструктуру.
Уровни шума
В целом, местные власти предпочитают, чтобы уровень шума в центрах обработки данных был "на 10 дБ ниже существующего уровня фонового шума в ночное время у ближайшего жилого дома". Нормативные требования OSHA предписывают мониторинг уровня шума внутри центров обработки данных, если он превышает 85 децибел. Средний уровень шума в серверных помещениях центра обработки данных может достигать 92–96 дБ(A). Жители, проживающие рядом с центрами обработки данных, описывают звук как "высокий непрерывный гул, работающий круглосуточно", говоря: "Это похоже на нахождение на взлётной полосе с постоянно работающим авиационным двигателем, только самолёт остаётся на холостом ходу и никогда не взлетает". Внешние источники шума включают в себя оборудование систем отопления, вентиляции и кондиционирования воздуха (ОВКВ) и энергогенерирующее оборудование.
External sources of noise include HVAC equipment and energy generators.
Высокая доступность
Существуют различные метрики для измерения доступности данных, обеспечиваемой доступностью центра обработки данных при времени безотказной работы свыше 95%, при этом высшая степень доступности определяется количеством девяток, которые можно добавить после цифр 99.
Модульность и гибкость
Модульность и гибкость – ключевые факторы, обеспечивающие возможность масштабирования и изменения центра обработки данных с течением времени. Модули центра обработки данных – это предварительно спроектированные, стандартизированные строительные блоки, которые можно легко конфигурировать и перемещать по мере необходимости. Модульный центр обработки данных может состоять из оборудования центра обработки данных, размещенного в транспортных контейнерах или аналогичных переносных конструкциях. Компоненты центра обработки данных могут быть предварительно изготовлены и стандартизированы, что упрощает их перемещение при необходимости.
Электроэнергия
Резервная мощность состоит из одного или нескольких источников бесперебойного питания, аккумуляторных батарей и/или дизель-генераторов/газотурбинных генераторов. Для предотвращения возникновения единичных точек отказа все элементы электрических систем, включая резервные, обычно дублируются, а критически важные серверы подключаются к питанию как по линии А, так и по линии Б. Такая конфигурация часто применяется для обеспечения избыточности N+1. Статические переключатели питания иногда используются для обеспечения мгновенного переключения между источниками питания в случае сбоя электроснабжения.
Поток воздуха
Управление воздушными потоками решает задачу повышения эффективности охлаждения вычислительного оборудования в центрах обработки данных за счет предотвращения рециркуляции горячего воздуха, отводимого от ИТ-оборудования, и снижения неэффективного воздушного потока, минующего оборудование. Существуют различные методы разделения горячих и холодных воздушных потоков, такие как системы локализации горячих и холодных проходов, а также охлаждающие установки, размещаемые в рядах.
Удерживание прохода
Защита холодного коридора достигается за счет открытой задней части серверных стоек, в то время как передняя часть серверов закрывается дверями и крышками. Это аналогично тому, как крупные компании, занимающиеся производством продуктов питания, охлаждают и хранят свою продукцию. Компьютерные шкафы и серверные фермы часто организуются для разделения горячих и холодных проходов. Правильное размещение воздуховодов предотвращает смешивание холодного и горячего воздуха. Ряды шкафов располагаются друг напротив друга, чтобы входы и выходы холодного и горячего воздуха не смешивались, что существенно снижает эффективность охлаждения. Альтернативно, система подпольных панелей может создавать эффективные каналы для подачи холодного воздуха к вентиляционным отверстиям приподнятого пола. Можно организовать защиту как для холодного, так и для горячего прохода. Другой вариант – оснащение шкафов вертикальными вытяжными каналами. Горячие выхлопные трубы, вентиляционные отверстия и воздуховоды могут направлять воздух в пространство над подвесным потолком (Пленум) и обратно к охлаждающим установкам или наружным вентиляционным отверстиям. В этой конфигурации традиционное разделение на горячие и холодные проходы не требуется.
Безопасность
Физический доступ обычно ограничен. Многоуровневая защита часто начинается с ограждений, бетонных барьеров и шлюзовых камер. Видеонаблюдение и постоянная охрана почти всегда присутствуют, если центр обработки данных крупный или содержит конфиденциальную информацию. Шлюзовые камеры с распознаванием отпечатков пальцев становятся все более распространенными. Регистрация доступа требуется некоторыми нормативными актами о защите данных; некоторые организации тесно интегрируют ее с системами контроля доступа. Несколько записей в журнале могут вестись у главного входа, входов во внутренние помещения и у серверных шкафов. Контроль доступа к шкафам может быть интегрирован с интеллектуальными блоками распределения питания, позволяя управлять замками через единое устройство сети.
Энергопотребление
Использование энергии — ключевой вопрос для центров обработки данных. Потребление мощности варьируется от нескольких кВт для стойки серверов в помещении до нескольких десятков МВт для крупных объектов. У некоторых объектов плотность мощности более чем в 100 раз превышает плотность мощности в типичном офисном здании. Для объектов с высокой плотностью мощности затраты на электроэнергию являются доминирующей статьей операционных расходов и составляют более 10% от общей стоимости владения (TCO) центра обработки данных.
Выбросы парниковых газов
В 2020 году центры обработки данных (за исключением майнинга криптовалют) и передача данных использовали около 1% мирового электроснабжения. Хотя часть этого электроснабжения была с низким уровнем выбросов углерода, Международное энергетическое агентство (МЭА) призвала к активизации "усилий правительств и промышленности в области энергоэффективности, закупок возобновляемых источников энергии и исследований, разработок и демонстраций". Также было отмечено, что необходимо учитывать выбросы на протяжении всего жизненного цикла, включая встроенные выбросы, например, при строительстве зданий. Некоторые китайские компании, такие как Tencent, взяли на себя обязательство достичь углеродной нейтральности к 2030 году, в то время как другие, например Alibaba, подверглись критике со стороны Greenpeace за отсутствие подобных обязательств.
Энергоэффективность и накладные расходы
Наиболее часто используемым показателем энергоэффективности для центров обработки данных является эффективность использования энергии (PUE), рассчитываемая как отношение общей поступающей в центр обработки данных мощности к мощности, потребляемой ИТ-оборудованием. PUE измеряет долю энергии, используемой вспомогательным оборудованием (охлаждение, освещение и т.д.). Средний дата-центр в США имеет PUE 2,0, что означает два ватта общей мощности (вспомогательное оборудование + ИТ-оборудование) на каждый ватт, потребляемый ИТ-оборудованием. Современные дата-центры, по оценкам, имеют PUE около 1.2. Google публикует ежеквартальные показатели эффективности своих работающих дата-центров. С помощью двухфазного иммерсионного охлаждения были достигнуты значения PUE до 1.01. Агентство по охране окружающей среды США (EPA) разработало систему рейтинга Energy Star для отдельных или крупных дата-центров. Чтобы получить эту экологическую маркировку, дата-центр должен входить в первую четверть по энергоэффективности среди всех зарегистрированных объектов. Закон об улучшении энергоэффективности 2015 года (США) обязывает федеральные учреждения, включая дата-центры, работать более эффективно. Раздел 24 Калифорнийского кодекса правил (2014) требует, чтобы каждый вновь построенный дата-центр был оснащен системой ограничения воздушного потока для оптимизации энергоэффективности. Европейский Союз также реализует аналогичную инициативу: Кодекс поведения ЕС для центров обработки данных.
Анализ использования энергии и проекты
Основное внимание в измерении и анализе энергопотребления уделяется не только потреблению энергии ИТ-оборудованием; оборудование для поддержки инфраструктуры, такое как чиллеры и вентиляторы, также потребляет энергию. В 2011 году серверные стойки в центрах обработки данных были рассчитаны на мощность более 25 кВт, а типичный сервер, по оценкам, терял около 30% потребляемой электроэнергии. Энергопотребление систем хранения данных также растет. Для дата-центра с высокой доступностью, по оценкам, требуется 1 мегаватт (МВт) мощности и он потребляет 20 000 000 долларов США электроэнергии за время эксплуатации, при этом на охлаждение приходится от 35% до 45% от общей стоимости владения дата-центром. Расчеты показывают, что через два года стоимость электропитания и охлаждения сервера может сравняться со стоимостью приобретения серверного оборудования. Исследования, проведенные в 2018 году, показали, что значительное количество энергии все еще можно сэкономить за счет оптимизации сроков обновления ИТ-оборудования и повышения загрузки серверов. В 2011 году Facebook, Rackspace и другие компании основали Open Compute Project (OCP) для разработки и публикации открытых стандартов для более экологичных вычислительных технологий в дата-центрах. В рамках этого проекта Facebook опубликовал конструкцию своего сервера, который был разработан для его первого специализированного дата-центра в Прайнвилле. Увеличение высоты серверов позволило установить более эффективные радиаторы и использовать вентиляторы, которые перемещали больше воздуха при меньшем энергопотреблении. Отказ от покупки готовых серверов также позволил сэкономить энергию за счет отсутствия ненужных слотов расширения на материнской плате и невостребованных компонентов, таких как графические карты. В 2016 году Google присоединился к проекту и опубликовал конструкцию своей 48-вольтовой плоской серверной стойки. Эта конструкция уже давно использовалась в дата-центрах Google. Устранив множество трансформаторов, обычно используемых в дата-центрах, Google добился повышения энергоэффективности на 30%. В 2017 году продажи оборудования для дата-центров, построенного по проектам OCP, превысили 1,2 миллиарда долларов, и ожидается, что к 2021 году они достигнут 6 миллиардов долларов. Охлаждение ниже оптимального уровня приводит к потерям денег и энергии. Анализ энергоснабжения и охлаждения, также известный как тепловой аудит, измеряет относительные температуры в определенных областях, а также способность систем охлаждения справляться с определенными температурами окружающей среды. Анализ энергоснабжения и охлаждения может помочь выявить горячие точки, переохлажденные зоны, способные выдерживать более высокую плотность энергопотребления, предел нагрузки оборудования, эффективность стратегии использования приподнятого пола и оптимальное расположение оборудования (например, кондиционеров) для балансировки температур во всем дата-центре. Плотность энергообеспечения и охлаждения – это показатель того, какую площадь дата-центр может охладить при максимальной мощности. Охлаждение дата-центров является вторым по величине потребителем энергии после серверов. Энергопотребление на охлаждение варьируется от 10% от общего энергопотребления в самых эффективных дата-центрах до 45% в стандартных дата-центрах с воздушным охлаждением.
Анализ энергоэффективности
Анализ энергоэффективности измеряет энергопотребление ИТ-оборудования и оборудования инженерных систем центра обработки данных. Типичный анализ энергоэффективности оценивает такие показатели, как эффективность использования мощности (PUE) центра обработки данных по сравнению с отраслевыми стандартами, выявляет механические и электрические источники неэффективности, а также показатели управления воздушными потоками. Однако, ограничением большинства современных метрик и подходов является то, что они не учитывают ИТ-оборудование в анализе. Кейс-стади показали, что комплексный подход к энергоэффективности в центре обработки данных позволяет достичь значительных улучшений, которые невозможно получить иным способом.
Анализ по вычислительной динамике жидкостей (CFD)
Этот тип анализа использует сложные инструменты и методы для понимания уникальных тепловых условий в каждом центре обработки данных, — прогнозируя температуру, воздушные потоки и распределение давления для оценки производительности и энергопотребления с помощью численного моделирования. Предсказывая влияние этих факторов окружающей среды, CFD-анализ центра обработки данных позволяет оценить воздействие сочетания высокоплотных и низкоплотных стоек, а также их влияние на систему охлаждения, неэффективное управление инфраструктурой, и последствия отказа или планового отключения кондиционеров.
Картирование тепловой зоны
Картирование тепловых зон использует датчики и компьютерное моделирование для создания трехмерного изображения горячих и холодных зон в центре обработки данных. Эта информация может помочь определить оптимальное размещение оборудования центра обработки данных. Например, критически важные серверы могут быть размещены в холодной зоне, обслуживаемой резервными кондиционерами.
Зеленые центры обработки данных
Центры обработки данных потребляют много электроэнергии, которая расходуется главным образом на два вида нужд: питание оборудования и его охлаждение. Повышение энергоэффективности снижает потребность в энергии для работы оборудования. Снижение затрат на охлаждение естественными способами связано с выбором местоположения: если приоритетом является избежание хорошего оптоволоконного соединения, подключения к энергосетям и скопления людей для обслуживания оборудования, центр обработки данных может располагаться вдали от пользователей. Крупные центры обработки данных, такие как Google или Facebook, не нуждаются в близости к населенным пунктам. Расположения в арктических регионах, где можно использовать наружный воздух для охлаждения, становятся все более востребованными. Дополнительным преимуществом является использование возобновляемых источников электроэнергии. Таким образом, страны с благоприятными условиями, такие как Канада, Финляндия, Швеция, Норвегия и Швейцария, стремятся привлечь центры обработки данных для облачных вычислений.
Центры обработки данных постоянным током
Центры обработки данных постоянного тока — это объекты, которые производят постоянный ток непосредственно на месте с помощью солнечных панелей и накапливают электроэнергию на месте в аккумуляторных накопителях. Компьютеры работают на постоянном токе, что устраняет необходимость преобразования переменного тока из сети. Объект центра обработки данных по-прежнему может использовать переменный ток от сети в качестве резервного источника питания. Центры обработки данных постоянного тока могут быть на 10% эффективнее и занимать меньше площади, необходимой для инверторов.
Повторное использование энергии
Очень сложно повторно использовать тепло, выделяемое центрами обработки данных с воздушным охлаждением. По этой причине инфраструктуры центров обработки данных все чаще оснащаются тепловыми насосами. Альтернативой тепловым насосам является внедрение жидкостного охлаждения во всем центре обработки данных. Различные технологии жидкостного охлаждения комбинируются для создания полностью жидкостно охлаждаемой инфраструктуры, которая позволяет отводить все тепло с помощью воды. Различные жидкостные технологии классифицируются на 3 основные группы: косвенное жидкостное охлаждение (водяные стойки), прямое жидкостное охлаждение (охлаждение непосредственно чипа) и полное жидкостное охлаждение (полное погружение в жидкость, см. иммерсионное охлаждение серверов). Такое сочетание технологий позволяет создать тепловой каскад в рамках сценариев температурного каскадирования для получения воды высокой температуры на выходе из центра обработки данных.
Сетевая инфраструктура
Сегодня коммуникации в центрах обработки данных чаще всего основаны на сетях, использующих стек протоколов TCP/IP. Центры обработки данных содержат набор маршрутизаторов и коммутаторов, которые обеспечивают передачу трафика между серверами и внешним миром, соединенных в соответствии с архитектурой сети центра обработки данных. Резервирование интернет-соединения часто обеспечивается использованием двух или более вышестоящих провайдеров (см. Multihoming). Часть серверов в центре обработки данных используется для работы с основными интернет- и интранет-сервисами, необходимыми внутренним пользователям организации, например, почтовыми серверами, прокси-серверами и DNS-серверами. Также обычно развертываются элементы сетевой безопасности: межсетевые экраны, VPN-шлюзы, системы обнаружения вторжений и т.п. Распространены также системы мониторинга сети и некоторых приложений. Дополнительные системы мониторинга, расположенные вне площадки, также типичны на случай сбоев в коммуникациях внутри центра обработки данных.
Скрытие резервных копий
Методы резервного копирования данных включают наличие зашифрованной копии данных вне площадки. Способы транспортировки данных:
Предоставление клиенту возможности записи данных на физический носитель, такой как магнитная лента, с последующей транспортировкой ленты в другое место. Непосредственная передача данных на другой сайт во время резервного копирования с использованием соответствующих каналов связи. Загрузка данных "в облако".
Having the customer write the data to a physical medium, such as magnetic tape, and then transporting the tape elsewhere. Directly transferring the data to another site during the backup, using appropriate links. Uploading the data "into the cloud".
Модульный центр обработки данных
Для быстрого развертывания или восстановления после аварий несколько крупных производителей оборудования разработали мобильные/модульные решения, которые можно установить и ввести в эксплуатацию за очень короткое время.
Микроцентр данных
Микроцентры обработки данных (MDC) — это центры обработки данных уровня доступа, которые меньше по размеру, чем традиционные, но предоставляют аналогичные возможности. Как правило, они располагаются вблизи источника данных для снижения задержек в передаче данных, поскольку их компактный размер позволяет размещать несколько MDC на значительной территории. MDC идеально подходят для пользовательских, клиентских приложений. Они широко используются в граничных вычислениях и других областях, где требуется обработка данных с минимальной задержкой.