Модернизация работающего ЦОД. Инженерные решения без остановки сервисов
В этой точке модернизация становится не просто технической, а управленческой задачей: нужно одновременно удержать непрерывность сервисов, просчитать риски переключений и не превратить проект в слишком дорогую альтернативу новому строительству. О том, как пройти этот путь без критических ошибок, рассказал Сергей Воронин, руководитель направления инженерных систем компании «ГИГАНТ — Компьютерные системы».
Когда модернизация становится неизбежной
Чаще всего модернизацию запускает рост вычислительной нагрузки. Пока инфраструктура работает с запасом, ее ограничения не так заметны. Но когда в контур приходят более плотные конфигурации, GPU-серверы и новые цифровые сервисы, прежние параметры площадки быстро перестают соответствовать реальной нагрузке. Если раньше типовая стойка проектировалась под 5-8 кВт, то сегодня для части задач нормой становятся 12-15 кВт и выше. Старая инженерная инфраструктура под такие режимы часто не рассчитана, и в этот момент модернизация из задачи на перспективу превращается в практическую необходимость.
На практике такая модернизация редко означает одномоментную перестройку всего ЦОДа. Чаще речь идет об отдельных машинных залах или зонах размещения, где требуется установить более плотное оборудование. Например, на площадке может эксплуатироваться около 40 стоек, изначально рассчитанных в среднем на 6 кВт, каждая. При появлении GPU-серверов или других ресурсоемких конфигураций часть зоны — условно 10–15 стоек — приходится переводить на нагрузку до 12–15 кВт на стойку. Это уже требует пересмотра не только схемы электроснабжения, но и охлаждения, распределения резервов и сценариев переключений: прежняя инфраструктура может сохранять работоспособность для основной части зала, но перестает соответствовать требованиям наиболее нагруженного сегмента.
Второй фактор - исчерпание емкости площадки. И речь не всегда про электроэнергию или охлаждение. Нередко заканчивается просто место: новые стойки ставить уже некуда. Тогда модернизация превращается в развилку: либо искать внутренние резервы - переуплотнять размещение, задействовать смежные помещения, пересматривать архитектуру площадки, либо признавать, что объект дошел до своего предела и дальше нужна новая площадка.
Наконец, отдельный и очень жесткий драйвер — ресурс оборудования. У инженерных систем есть жизненный цикл, который нельзя игнорировать. Ключевые элементы — ИБП, оборудование систем охлаждения и кондиционирования обычно рассчитаны в среднем на 10-12 лет эксплуатации. Аккумуляторы в ИБП вырабатывают ресурс еще раньше, обычно через 5-7 лет. Первый цикл обновления проходит почти любая площадка, а ко времени второй замены АКБ встает вопрос не только их замены, а, возможно, полноценной модернизации системы бесперебойного питания. Игнорировать этот момент — значит сознательно заходить в зону повышенного риска отказов.
Как модернизировать ЦОД без остановки сервисов
Ключевой принцип здесь простой: модернизация — это не просто работы на объекте, а управляемый сценарий переключений. Основа такого сценария — детально проработанный проект производства работ. Без него любые действия под нагрузкой превращаются в риск. В проекте должна быть зафиксирована поэтапная логика: что, когда и при каких условиях выводится из эксплуатации, какие временные схемы задействуются и как система возвращается в штатный режим.
Один из главных инструментов такой модернизации - временная инфраструктура. В первую очередь это касается электроснабжения. Перед заменой критичных узлов создается временная схема питания, которая берет на себя текущую нагрузку. Уже через нее выполняются переключения, вывод старого оборудования и подключение нового. Для локальной замены одного узла, например ИБП или участка распределения питания, подготовка обычно занимает 3-6 недель: обследование, проект производства работ, временная схема, согласование порядка переключений и проверка зависимостей. Если модернизируется крупный сегмент электроснабжения или охлаждения, подготовительный этап чаще занимает 8-12 недель, потому что нужно проверить резервы, автоматику, сценарии возврата и влияние работ на смежные системы.
Сама временная схема используется не абстрактно “какое-то время”, а столько, сколько требуется для безопасного вывода старого узла и ввода нового. При замене отдельного элемента она может работать 2-7 дней. Если речь идет о ГРЩ, ИБП большой мощности или магистральных контурах охлаждения, переходная инфраструктура может оставаться в эксплуатации 2-6 недель, пока идут монтаж, демонтаж старого оборудования, испытания нового контура и возврат системы в штатную архитектуру.
При этом все сценарии переключений должны быть просчитаны заранее, а не приниматься по ходу работ. Любое временное решение — это дополнительная сложность и потенциальная точка отказа. Поэтому модернизация без остановки сервисов требует не осторожности в общем смысле, а инженерной дисциплины на каждом этапе.
Где заканчивается модернизация и начинается новое строительство
Граница здесь предельно прагматичная: все решают экономика, срок получаемого эффекта и совокупный риск работ на действующей площадке.
На практике модернизация имеет смысл, когда она позволяет заметно дешевле нового строительства закрыть текущую потребность и одновременно дает инфраструктуре запас на дальнейшую эксплуатацию. Например, если обновление инженерных систем обходится примерно в 30–50% от стоимости новой площадки и обеспечивает резерв по мощности и размещению еще на 3–5 лет, такой сценарий обычно можно считать рациональным. В этом случае заказчик получает необходимый эффект без капитальных затрат на новый объект и без переноса всей нагрузки на другую площадку.
Другая ситуация возникает, когда стоимость модернизации приближается к 70–80% от бюджета нового строительства. Особенно если после этих вложений объект все равно остается ограничен по площади, доступной мощности или возможности дальнейшего уплотнения стоек. Тогда проект фактически не решает стратегическую задачу, а лишь на несколько лет откладывает необходимость строительства нового ЦОДа.
При этом сравнивать нужно не только стоимость оборудования и монтажных работ. Модернизация действующего объекта требует временных схем электроснабжения и охлаждения, переключений под рабочей нагрузкой, дополнительных мероприятий по резервированию и управления рисками на каждом этапе. Чем сложнее такие переходные режимы, тем выше совокупная стоимость проекта и тем ближе он по экономике и риску к строительству новой площадки.
Поэтому логика выбора выглядит так: если модернизация стоит существенно дешевле нового объекта, дает понятный запас для роста и может быть реализована без чрезмерного усложнения схем, ее имеет смысл проводить. Если же менять приходится почти все, инвестиции приближаются к стоимости новой площадки, а базовые ограничения объекта сохраняются, рациональнее направить бюджет в новое строительство. Попытка любой ценой продлить жизнь устаревшему ЦОДу в таком случае может оказаться дороже и рискованнее своевременного перехода к новой инфраструктуре.
Отказоустойчивость не покупают на максимум — ее считают
В проектах модернизации работающего ЦОДа главный компромисс возникает не между абстрактными сроками, бюджетом и надежностью, а между стоимостью инфраструктуры и допустимой ценой простоя. Поэтому первый вопрос, который должен определять архитектуру решения, звучит не «какой Tier мы хотим», а «сколько бизнес потеряет, если сервис будет недоступен в течение часа».
Стоимость такого часа для разных систем может отличаться на порядки. Для внутренней корпоративной системы, которая не участвует напрямую в продажах или производстве, простой может означать снижение продуктивности сотрудников и потери в сотни тысяч рублей за час. Для крупного ритейла, если недоступность затрагивает кассовые операции, онлайн-заказы, программы лояльности или складскую логистику, счет уже может идти на миллионы рублей в час. Для банка, где остановка затрагивает платежи, дистанционные каналы обслуживания или процессинг, последствия могут измеряться десятками миллионов рублей за час, не считая репутационного ущерба и возможных регуляторных последствий. В промышленности цена простоя зависит от характера производства: остановка вспомогательной ИТ-системы и остановка непрерывной производственной линии — это принципиально разные уровни ущерба, и во втором случае потери также могут достигать миллионов и десятков миллионов рублей за час.
При этом цену простоя нельзя считать только как объем недополученной выручки. В расчет должны входить как минимум четыре составляющие: прямые финансовые потери от остановленных операций, затраты на восстановление и устранение последствий, возможные штрафы или обязательства перед клиентами, а также потери, связанные с нарушением внутренних процессов и репутацией. В упрощенном виде расчет выглядит так: стоимость часа недоступности равна сумме потерянной маржи за этот период, операционных затрат на восстановление, договорных и регуляторных последствий, а также оцененного ущерба для бизнеса.
Например, если из-за простоя ритейлер теряет 3 млн рублей маржинального дохода в час, еще около 500 тыс. рублей уходит на ручную обработку операций, восстановление и работу поддержки, а потенциальные компенсации и последствия для клиентского сервиса оцениваются еще в 500 тыс. рублей, то один час недоступности обходится примерно в 4 млн рублей. Если модернизация, повышающая устойчивость критичного контура, стоит 40 млн рублей, то предотвращение десяти часов такого простоя уже сопоставимо со стоимостью проекта.
Именно поэтому одинаковое инженерное решение не может быть рациональным для всех заказчиков. Если речь идет о внутреннем сервисе, кратковременная недоступность которого неприятна, но не останавливает бизнес, максимальное резервирование может оказаться экономически избыточным. Но если на инфраструктуре завязаны платежные операции, продажи, производство или непрерывное обслуживание клиентов, более высокая стоимость отказоустойчивого решения становится оправданной: бизнес платит не за формальный уровень надежности, а за снижение измеримого финансового риска.
Ошибка возможна в обе стороны. Можно переплатить и построить систему с запасом, который никогда не будет востребован. А можно сэкономить на резервировании и затем получить простой, стоимость которого превысит экономию на инженерной инфраструктуре. Поэтому зрелый подход начинается с перевода отказоустойчивости в деньги: сколько стоит один час недоступности конкретного сервиса, сколько таких часов бизнес реально готов допустить и сколько он готов инвестировать в снижение этого риска.
Реализуемость плана проверяют не по смете, а по сценарию переключений
Если говорить о сроках, то они в таких проектах обычно не становятся главным предметом торга. И модернизация, и строительство новой площадки — это длинные инженерные процессы, где многое все равно делается параллельно. Сроки могут отличаться, но не настолько, чтобы именно они были ключевым фактором выбора. Настоящая развилка проходит в другом месте: либо бизнес вкладывается в модернизацию существующего объекта под понятный уровень риска, либо признает, что старую площадку уже не имеет смысла дотягивать, и тогда деньги логичнее направить в новую инфраструктуру с запасом на развитие.
Отсюда вытекает и главный практический вопрос к подрядчику: реализуем ли предложенный план не на бумаге, а в живой эксплуатации, без деградации сервисов. Здесь недостаточно просто посмотреть на проект и согласовать бюджет. Заказчик должен понимать логику всего сценария: что именно будет модернизироваться, в какой последовательности, какие узлы временно выводятся из работы, на какие схемы переводится нагрузка, где возникают переходные режимы и какие риски в эти моменты считаются допустимыми.
Хороший план модернизации — это не набор технических мероприятий, а прозрачный сценарий действий. Если заказчик не может последовательно пройти по нему и понять, что будет происходить на каждом этапе, значит, проект проработан недостаточно глубоко. Особенно это важно для переключений. Подготовка к одному крупному переключению обычно занимает 4-12 недель. За это время создаются временные схемы питания или охлаждения, проверяется работа резервов, моделируются сценарии отказов и пошагово отрабатывается последовательность действий. Само окно переключения чаще всего занимает 2-8 часов: 2-4 часа для простого перехода заранее подготовленного узла и 6-8 часов для сложного переключения с участием нескольких вводов питания, ИБП, автоматики и проверки нагрузки. В отдельных случаях такое окно закладывают на полную ночную смену, если требуется последовательно выполнить переключение, проверить параметры и подтвердить возврат системы в штатный режим. Именно в этот короткий период концентрируется основной риск проекта. Ошибка, допущенная в момент перехода между схемами, может перечеркнуть месяцы подготовки. Поэтому подрядчик должен показать не только конечную схему, но и весь порядок переключений, условия начала каждого этапа, контрольные точки, критерии возврата и действия на случай нештатной ситуации.
И здесь есть еще один принципиальный момент: такие проекты нельзя воспринимать как историю, где подрядчик сам все сделает. Техническую работу выполняет исполнитель, но заказчик, если для него действительно критична непрерывность сервисов, должен быть вовлечен в этот процесс, понимать сценарий, участвовать в согласовании ключевых решений и контролировать момент переключений. Потому что человеческий фактор никто не отменял: даже сильная команда может что-то не учесть, что-то пропустить, где-то неверно оценить последовательность действий. Чем прозрачнее проект для обеих сторон, тем ниже вероятность, что проблема проявится в самый чувствительный момент.
Модернизация не начинается в момент износа — она начинается за несколько лет до него
Главная ошибка, которую бизнес продолжает повторять — реагировать на износ инфраструктуры постфактум. Открыли паспорт оборудования, увидели, что срок жизни заканчивается, и только после этого начинают думать, что делать. В итоге решение принимается в сжатые сроки, без нормального планирования, а сама модернизация откладывается еще на год-два уже в зоне повышенных рисков.
Рабочий подход другой: модернизацию планируют заранее, за несколько лет до предельных сроков эксплуатации. К этому моменту у компании уже должен быть сформирован сценарий: что именно будет меняться, в какой последовательности и с каким бюджетом. Тогда модернизация перестает быть аварийной реакцией и становится управляемым проектом.
Второй принцип — не пытаться оценивать состояние инфраструктуры только своими силами. Независимый аудит с привлечением профильных партнеров позволяет увидеть реальные ограничения системы: по мощности, по отказоустойчивости, по ресурсу оборудования. И главное - заранее сформировать план действий, который можно спокойно заложить в бюджет, а не собирать в режиме срочного ремонта.
И наконец, выбор подрядчика. В проектах модернизации под нагрузкой он критичен. Здесь важна не только экспертиза в оборудовании, но и опыт проведения переключений, понимание переходных режимов и способность работать в условиях, где ошибка стоит дорого. Хороший подрядчик — это не тот, кто просто предлагает решение, а тот, кто может разложить весь проект на понятный, реализуемый сценарий и пройти его вместе с заказчиком.
Модернизация работающего ЦОДа — это всегда работа с ограничениями. Но если ее планируют заранее, считают экономику и жестко управляют рисками, она перестает быть аварийной мерой и становится нормальной частью жизненного цикла инфраструктуры.
Опубликовано 19.06.2026
