Люди. Проекты. Деньги
Гость программы: Сергей Вышемирский, технический директор IXcellerate.
Ведущий: Владимир Иванов, управляющий партнёр ГК «Спектрум».


Владимир Иванов:
Здравствуйте, дорогие зрители! В эфире программа «Люди. Проекты. Деньги». С вами ее ведущий Владимир Иванов. И у нас сегодня в гостях технический директор IXcellerate Сергей Владимирович Вышемирский.
Программа называется «Люди. Проекты. Деньги». Начнем с людей. Люди – это мои гости. Расскажите несколько слов о себе.

Сергей Вышемирский:
Я начинал образование с техникума, изучал промышленные роботы. Уже тогда, еще при Горбачеве. А потом я поступил в военное училище – радиолокация, радиоэлектроника. И дальше очень много лет я отдал военно-воздушным силам, авиации. И я не летал, я как раз занимался техническим обслуживанием, ремонтом самолетов, содержанием их в исправном состоянии.
Поэтому это, наверное, и стало выбором моей нынешней компании, меня выбрали на должность технического директора, так как я всегда сравниваю ЦОД и самолет в полете.

Владимир Иванов:
В нашей компании, в инжиниринговой, мы взяли ГИПа, который до этого проектировал корабли. И я посмотрел на его образование, а он ответил: «Корабль – тот же дом».
А ЦОД – это тот же самолет?

Сергей Вышемирский:
Практически да. Потому что ЦОД взлетел, и ему остается только упасть из-за неисправности, поломки, каких-то ошибок и других непредвиденных обстоятельств, что нужно исключить абсолютно. Упасть – это значит выключилось электричество, перестало работать холодоснабжение.
Это примерно то же самое, что у самолета в полете отказал двигатель, перестала работать радиосвязь, навигация. В общем, схема работы самолета, как и ЦОДа, одинаковая. В ЦОДе все зарезервировано, в самолете все зарезервировано. Отказ одного какого-то прибора не приводит к катастрофе. Это всегда предусмотрено проектом, в ЦОДе абсолютно то же самое. У нас все системы зарезервированы, дают возможность нам в полете, в работе ЦОДа, проводить технические работы, регламентные работы. В случае поломки оборудования, это никак не влияет на общую работу ЦОДа. Поэтому много общего.
И, конечно, для этого нужно понимание необходимости и технические навыки, и знания, и самое главное, хорошие нервы, стойкость, чтобы всегда находить решение в трудную минуту.

Владимир Иванов:
Я думаю, что мало людей, кстати, задумывается о том, что от бесперебойной работы ЦОДа может быть зависит благополучие, а может быть и жизни и здоровья тысяч людей.

Сергей Вышемирский:
Да. Сейчас все-таки пошло резервирование не просто на уровне ЦОДа, но еще и на уровне ИТ-структуры. Она не базируется в одном ЦОДе. Обычно это уже три ноги, три ЦОДа, отказоустойчивость, катастрофоустойчивость, еще и географически это распределяется так, чтобы если в одном регионе будут проблемы с электричеством, значит, в другом регионе будет все нормально.

Есть прекрасные примеры, когда ЦОДы распределены в других странах. У нас сейчас локально какие-то могут быть проблемы с тем же электричеством, но если распределяется, то это решает проблему. Но в целом все равно требования к ЦОДу однозначно такие, что он должен выжить при любых обстоятельствах. И для этого, конечно, надо приложить много сил при проектировании, строительстве и надо вложить много сил и средств, и это все тогда приносит нужную доступность, которая выражается в нуле минут, секунд простоя.

Владимир Иванов:
Как устроено проектирование строительства, у меня в силу моих профессиональных задач более-менее понятно, как устроена эксплуатация, это я тоже знаю, и я считаю, что это отрасль, к ней существенно недостаточно внимания, недостаточно внимания к тем людям, которые в этой отрасли работают, ну и соответственно недостатки эксплуатации, они, как правило, в любом объекте недвижимости, они видны.
Как с людьми, с ответственностью людей в случае ЦОДов? Как вы добиваетесь того, что у вас не останавливается система охлаждения, не прерывается энергоснабжение и так далее?

Сергей Вышемирский:
Все зависит, конечно, от людей в первую очередь. Самое главное, чтобы они сами не делали ошибок. Статистика по центрам обработки данных говорит, что 80% аварий – это ошибка человеческого фактора, когда человек выключает, нажимает не на ту кнопку, производит не те действия и это приводит к отключениям. Это лечится очень просто – это обучение специалистов. По статистике, ввод в самостоятельную эксплуатацию человека – это минимум 3 месяца. При том, что он уже специалист, он энергетик, он холодильщик, он работал на других предприятиях, на крупных предприятиях, на атомной станции, но при этом придя в ЦОД, ему все равно нужно пройти стажировку, и эта стажировка до 3 месяцев и более. И это уже тогда приводит к тому, что он понимает и знает эту свою ответственность, изучил хорошо оборудование, знает все процедуры.
О процедурах отдельно хочу сказать, что процедуры должны быть четко прописаны, т.е. любое действие, которое выполняет сотрудник, оно должно быть расписано в виде определенного алгоритма и

Владимир Иванов:
Расскажите про контроль.

Сергей Вышемирский:
Я хочу добавить, что этот алгоритм, он не просто та. У нас есть еженедельные тренировки, т.е. мы проводим тренировки по аварийным ситуациям, даже если ты ошибся, есть возможность откатиться назад, поэтому постоянные тренировки. Постоянные тренировки приводят к тому, что до автоматизма доходит уже то, что мы избегаем этих проблем. А контроль – это, конечно, на любую операцию сложную, должен быть контролирующий, который проверяет тебя, как ты это делаешь, т.е. самостоятельная работа исключена.

Владимир Иванов:
А уровень контроля: вы проверяете 100% операции или есть какая-то хитрость?

Сергей Вышемирский:
Пооперационной контроль, хитрость всегда была на любом советском заводе.

Владимир Иванов:
Критические вещи 100% проверяются, менее критические 50%, совсем менее критические 10%, такой подход, да?

Сергей Вышемирский:
Да. Все подряд проверять нет смысла. Если начались работы и нужно открутить 100 гаек, то открутили, но это не критично, их надо потом обратно закрутить, и вот когда обратно закручивают, нужно проконтролировать уровень силы затяжки гайки. Вот это уже контролируется, т.е. на большую часть работы контроля нет, есть контроль силы затяжки.

Владимир Иванов:
У вас довольно много общественной деятельности было, т.е. вы читали лекции, были участником автономной некоммерческой организации, Координационный совет по центрам обработки данных и облачным технологиям. Продолжаете эту активность?

Сергей Вышемирский:
Я продолжаю ее, но уже заочно. У меня есть много заместителей, и я делегировал им эти права. Теперь мои ребята, которые младше, активнее, и для них это более уже полезно, они теперь читают лекции, выступают на мероприятиях, я иногда присоединяюсь, но я больше полез в научную работу.
На данном этапе мы столкнулись с тем, что то оборудование, которое есть на рынке, которое нам раньше продавалось, мы никогда не контролировали, а правильно ли оно собрано, правильно ли оно сконструировано. И начали залазить в основу, и это показало, что на самом деле оно недоработано, надо вот тут доделать, это доделать. Поэтому в симбиозе с наукой, работаем с Московским энергетическим институтом, мы в паре с ними в основном по системам холодоснабжения в этом направлении очень сильно продвинулись.
Мы используем их лабораторию, собственную лабораторию построили уже, и двигаемся в процессе охлаждения. И если сейчас идет речь про воздушное охлаждение, все на этом строят, есть понятие про водяное охлаждение, мы уже продвинулись с ними в двухфакторном охлаждении, когда используется фреон, испаряется, и переход жидкости из одного состояния в другое дает больше эффективность охлаждения.
Вот в это мы пошли, у нас есть свой отдел R&D, я там куратор, направляющий, импресарио.

Владимир Иванов:
Боретесь за что?

Сергей Вышемирский:
Энергоэффективность – это раз. Второе – соответствие параметров тому, что должно быть, потому что есть подозрение, что то, что используется не всегда соответствует, и это как раз влияет на надежность. Боремся за цену оборудования, это позволяет нам ее регулировать и контролировать.

Владимир Иванов:
То есть вы смотрите на капитальные затраты, на капексы и на жизненный цикл, сколько проработает, сколько будет стоить его работа?

Сергей Вышемирский:
Да, и при этом смотрим еще на опекс этого оборудования. Мы стараемся иногда переразмерить оборудование, но при этом задавать ему самые щадящие режимы работы, когда оно изнашивается минимально. Это приводит к тому, что можно его эксплуатировать не 10 заявленных лет, а все 20. Вот в моей практике были самолеты, и они до сих пор летают, 1953 года производства. И никто их не собирается списывать. Это техника, можно сказать, вечная, если ее правильно обслуживать и эксплуатировать. Но я считаю, что все это оборудование, которое мы используем, оно примерно также, если его правильно использовать, то эксплуатировать и придерживаться правильных регламентных работ и щадящих режимов работы, чтобы не на износ работало, а именно в щадящем режиме.

Владимир Иванов:
Теперь мы будем говорить про проекты.
Мне когда-то Евгений Верцер объяснил, что ЦОД на самом деле это недвижимость. Компании, которые занимаются развитием, проектированием, строительством, потом управлением, по сути дела они создают объект недвижимости. Я уже на самом деле опытный человек в ЦОДах, я уже знаю, что основное правило недвижимости 3L: локация, локация, еще раз, локация, тоже имеет право на жизнь, но давайте мы поговорим про энергетику и ограничения.
Сегодня было заявлено 2 проекта ЦОДа, Ростелеком - 100 мегаватт, и Клаудру рассматривает количество 53 мегаватт, немало. То, что я прочитал, на сегодняшний день все российские ЦОДы потребляют примерно 600 мегаватт, чуть меньше, а разрешенная мощность на ЦОДы в стране 990.

Сергей Вышемирский:
Примерно 700 из этого в Москве. В Москве, наверное, все. На данный момент есть письмо мэра, которое запрещает выдачу новых технических условий по Центрам обработки данных. Более того, не подписываются сейчас никакие разрешения на строительство Центра обработки данных. Пока идет изучение темы, насколько это влияет на энергетическую безопасность города. Сскорее всего это перекинется и на московскую область. Поэтому у ЦОДов есть тенденция ухода в локацию в другие регионы.
Но здесь проблема сразу как раз – люди, компетенции. И опять же,: ЦОДы уйдут, а уйдут ли за ними айтишники, тут вопрос такой.

Владимир Иванов:
Удаленка? А вот эксплуатация не получится.

Сергей Вышемирский:
Да, ну либо они будут там жить в гостиницах. Но даже если брать регионы, там тоже не особо много есть мощности, поэтому еще новая тенденция – это развитие собственной газовой генерации. Газ у нас еще есть свободный.

Владимир Иванов:
То есть уходить в районы, где газ добывается, чтобы его не тащить через страну?

Сергей Вышемирский:
Не обязательно, но если в Москве есть газ, то наверное можно генерацию построить, если разрешат.

Владимир Иванов:
Кажется, что генерация – это другой бизнес?

Сергей Вышемирский:
Это другой бизнес, но можно скооперироваться, и те, кто генерят могут вам продавать это электричество, но самое главное, что это уже не глобально, не Россеть, где запрет.

Владимир Иванов:
Но с другой стороны, генерирующие компании на сегодняшний день – это зачастую частный бизнес, большой частный бизнес.

Сергей Вышемирский:
Ну это малая генерация, и переход к ней… 100 мегаватт – это, конечно, немало, с одной стороны, но это же не 2 гигаватта как атомная станция. Поэтому это вполне реализуемо, и скоро вы услышите на рынке появятся такие проекты с собственной генерацией. Я не буду говорить, просто слухи ходят, но я думаю, они имеют вполне реальное место.
То, что место – это да, электричество – это очень сильно. Сейчас еще вмешивается, помимо этого, вода, которая нужна для охлаждения, то есть новые технологии – это адиабатика, которая используется для охлаждения воздуха, то есть можно уйти от электричества и перейти на воду, поэтому вода тоже становится ресурсом.
Много корпоративных цодов переходит на работу просто из воздуха, то есть это значит, что воздух должен быть просто чистый, и дальше он просто попадает в ЦОД, охлаждая технику, и уходит в атмосферу, обратно уже подогретый.

Владимир Иванов:
Тогда Алтай?

Сергей Вышемирский:
В Москве такие цоды тоже есть, но они корпоративные, там есть нюансы с влажностью, которые тяжело поддерживать в таких открытых цодах, наверное, есть вопросы с пожарной безопасностью, все-таки открытый цод, в случае пожара должны клапаны закрыться. Пожарные отсеки должны быть.
Я пока сторонник очень классического метода, потому что все-таки работаю в коммерческом, не корпоративном секторе, и требования клиентов очень жесткие по всем параметрам – температура, влажность, доступность, надежность. И отступления грозят большими санкциями, большими штрафами, поэтому мы развиваем вот этот чиллер-фанкойл, джайкуллер-чиллер, схема простая, но начинаем работать над усовершенствованием, снижением расхода электроэнергии в этом случае.
И тут есть очень много методик, которые приводят к существенной экономике, и они, думаю, что приблизят нас как раз к технологиям, когда просто воздух с улицы. Там все равно работают вентиляторы, там все равно нужно что-то подогревать, что-то осушать, увлажнять, поэтому мы сблизимся с этим показателем. Но сейчас идут проработки этих решений, частично мы уже так строим.

Владимир Иванов:
Давайте с этого момента чуть-чуть про деньги. Понятно, что все крупные объекты на сегодняшний день строятся, и источника финансирования как правило два. Это собственные средства, и это проектное финансирование от банка.
А когда вы приходите в банк и подаете документы, заявку на кредит, насколько банк внимателен к этим техническим особенностям? Смотрит ли он на то, сколько будет стоить жизненный цикл? Для меня это вообще вопрос не праздный.

Сергей Вышемирский:
Смотрит. Поверьте, очень сильно смотрит, и для того, чтобы получить кредит, надо иметь уже вплоть до рабочей документации на руках. И они рассматривают очень скрупулезно, задают вопросы, проверяют решения, и очень сильно следят еще и плюс за исполнением этих проектов в натуре, и требуют потом исполнительную документацию.

Владимир Иванов:
А вот в истории того, как выстраивается строительный процесс, вы сами управляете строительством? Есть две схемы. В первой схеме сам заказчик отвечает за то, что он построит тот объект, который он планировал, с той мощностью, производительностью и стоимостью жизненного цикла. Бывают опытные подрядчики, они как правило называются PC-подрядчики, которые приходят и говорят, хочешь вот это, я умею это строить, у меня есть доказанный трек-рекорд, я добивался хороших результатов. То есть, риск первый на заказчике, риск второй на том, кто умеет добиваться этого результата. Как устроен рынок?

Сергей Вышемирский:
Рынок сейчас устроен так: 50 процентов заказчиков или тех, кто эксплуатирует ЦОД, сами берут на себя ответственность. Но из тех объектов, которые строятся или будут строиться 50 процентов, это такие девелоперские схемы, когда ЦОД строится на продажу. Частично даже под конкретного клиента, но все-таки это они строят и заказчик не принимает участия, он всецело доверяется этим компаниям. Проверяют, да, но не так сильно, как те, которые строят сами. Но есть что-то среднее.
В любом случае, когда кто-то с компетенциями строит этот процесс, я считаю, нужно сверху очень сильно наблюдать. Чтобы, а)выбирали то оборудование, которое действительно достойно, б) оно стоило ровно тех денег, сколько оно стоит, чтобы не завышались цены, в) чтобы его монтировали без нарушений, г) сроки, которые тебе нужны. Поэтому в компании всегда будет отдел, который будет заниматься контролем строительного процесса, контролем закупок, контролем проектирования. И в большинстве крупных, кто строит, я вижу, такие отделы есть. У пары компаний есть собственный проектный отдел. Вот у нас его нету, но у других есть, что тоже очень классно, когда ты не зависишь от загруженности других специалистов.
Сейчас же дефицит еще и проектировщиков на рынке.

Владимир Иванов:
Сейчас я бы сказал, что он гораздо меньше, чем он был 25 лет назад.

Сергей Вышемирский:
У конструкторов вообще в очереди все стоят. Если по инженерным системам чуть-чуть легче. Все, что касается там спроектировать фундамент, конструктив здания, это прям такая серьезная вещь, за которую они несут серьезную ответственность.


Владимир Иванов:
Тут есть свои нюансы. Все-таки ни один девелопер не хочет переплачивать за арматуру и бетон. Это все должно быть очень гармонично, просчитано, сопряжено с основанием, геологией, которая под зданием. И точно, совершенно обосновано по деньгам. Это похожая на самом деле история со всеми остальными разделами строительства.

Сергей Вышемирский:
Но ЦОДы вносят все-таки сюда чуть-чуть такой нюанс. Иногда сэкономленные деньги потом в ОПЕКСе выльются в большие проблемы. В большие деньги.

Владимир Иванов:
Это точно в любом здании так.
Компания будет продолжать развиваться?

Сергей Вышемирский:
Да, однозначно. На сегодняшний день у нас на рынке спрос больше предложений. Пока что. И тут проблема даже в санкциях. Если бы их не было, спрос был бы в три раза больше предложений. Сейчас просто немножко больше. Тут речь идет про доступность IT-оборудования.

Владимир Иванов:
С другой стороны, все оборудование нужно пользователям там. От того, как мы с вами сидя дома, используем искусственный интеллект Яндекса или Сбера, или еще какой-то компании, от этого же зависит в итоге спрос на ЦОДы.

Сергей Вышемирский:
Это видимая верхушка айсберга. То, что искусственный интеллект должен делать и делает, это не видно под водой. Вычисления, проектные проекты, это же геология, физика, математика, астрология, огромная задача.

Владимир Иванов:
Понимаю, огромный объем задач идет через облачные технологии на сегодняшний день. Сергей, честно завидую вам, потому что вы пришли в отрасль, которая бумирует последние годы, и мне очень приятно, что вы приняли приглашение, пришли сегодня.
Дорогие зрители, с вами был Сергей Владимирович Вышемирский, технический директор IXcellerate. Я, Иванов Владимир, ведущий программы «Люди. Проекты. Деньги».
До следующих встреч.