Русский
Русский
English
Статистика
Реклама

Data center

Из песочницы Как выбрать ИБП

13.06.2020 14:36:10 | Автор: admin
Я рад всех видеть и хочу поделиться своими наблюдениями и опытом в области ИБП.

Что такое ИБП, мы все знаем. Для чего они нужны, вроде бы тоже понятно (во всяком случае хочется в это верить).

И так настал тот час, когда нам надо купить ИБП, вот тут и начинается головная боль.

Какой выбрать?
На что смотреть?

  • Именитость бренда?
  • Производитель со столетней историей?
  • Количество инсталляций?
  • Стоимость?
  • У коллеги есть такой же?

image

Давайте разбираться.

Именитость бренда


При слове ИБП моментально вспоминаем компанию APC эта аббревиатура прочно ассоциируется с ИБП, особенно в России. И действительно, кто не знает это?

image

Или компанию Legrand, между прочим основанную в 1860 году. А компания APC была основана в 1981 году. Первый свой ИБП компания APC выпустила в 1984 году, который она разработала после прекращения финансирования государством разработок в области солнечной энергетики. Компания же Legrand выпустила свой ИБП после 2010 года и то, потому что в 2010 году купила компанию MetaSystem.

Компания APC молодцы безусловно, только до 2007 года компания APC не выпускала 3х-фазные мощные ИБП. Более того APC никогда не выпускала 3х-фазные ИБП. В 2006 году компанию APC поглотила Schneider Electric, не менее уважаемая компания, основанная аж в 1836 году во Франции. В начале своего пути компания называлась Schneider и занималась исключительно выпуском вооружения для армии Франции и на экспорт, в плоть до окончания второй мировой войны. Лишь в послевоенное время переорентировалась в сторону электротехнического рынка, добавив в название Electric. (интересный факт: Многие артилерийские орудия Российской империи были закуплены именно у компании Schneider)

Так вот компания Schneider Electric в 2006 году приобретает компанию APC, с твердым намерением скрестить усилия с MGE, так же удачно приобретенной в 2007 году тем самым прочно занять нишу на рынке. Но Европейский антимонопольный комитет не одобрил сделку (хоть что-то европейцы не одобрили в тему) и разделил компанию MGE между двумя покупателями. 3х-фазное направление отошло в Schneider Electric и было интегрировано в продуктовую линейку APC by Schneider Electric, а однофазное направление забрала EATON (основанная в 1911 году в США и изначально специализировавшейся на производстве автомобильных мостов для грузовиков), который так же подсуетился и выкупил Powerware, объединившийся незадолго до этого с Best Power, с их мощными 3х-фазными системами.

Мне очень нравится история компаний, говорить я могу о ней долго и самозабвенно, перебирая яркие страницы истории брендов PowerCom, CE+T, Riello, Socomec, Newave продавшийся в ABB, немного в стороне стоят Delta и Huawei их историю надо рассказывать отдельно, не забыв при этом Kehua.

image

Чуточку задержусь на GE (основана в 1878 году США и это единственная компания, которая начинала именно с электро-энергетики, наверное потому что они ее и сделали электро-энергетику) эти перцы были на передовой все время, собственно Эдиссону и Тесла, а точнее их противостоянию мы обязаны всем тем что нас сейчас окружает: генерацией и транспортом электроэнергии. Но сейчас не об этом. GE весьма успешна, потому что всегда умела сосредоточиться на главном, а не нужное продать. Например продажа всего сегмента разработки и производства электронно-вычислительных машин компании Honeywell в 1971 году как убыточного направления. Или продажа всего сегмента ИБП компании ABB в 2017 году.

Давайте закончим с историей и подведем итог.

Стоит отметить 2 наших возможных фактора выбора:

  • Именитость бренда
  • Производитель со 100-летней историей

Потому что это абсолютно не важно! Сами ИБП, в том виде как мы привыкли их видеть появились совсем не давно конец 90х начало 2000х и за этот маленький период времени. И за этот маленький период времени почти все на рынке успели по перепродавать и по пере покупать друг друга. Коренным образом не разрабатывая технологию, а только лишь встраивая ее в свою продуктовую линейку.

Били ли ИБП до 80-х годов? Да были, только они так не назывались. Они были механическими так же известны как, 3х-машинные преобразователи и они скорее прародители современных Дизель Динамических ИБП. Во всяком случае принципы одинаковые. Поэтому заявления производителей ДДИБП про уникальность и инновационность своих разработок не до конца является правдой.

Переходим к следующему.

Количество инсталляций


Количество инсталляций хороший фактор он показывает доверие к оборудованию (как нам объясняют производители) Скажу вам честно НИЧЕРТА ОН НЕ ПОКАЗВАЕТ, кроме успешной работы отдела продаж, но можно всегда посмотреть на то что покупаешь в естественной среде обитания, может даже послушать местную службу эксплуатации про то как эта машина беспроблемно работает на их объекте любопытно, но не более. Потому что Вас затягивают в субъективную сторону оценки и субъективный способ выбора.

Стоимость


Скажу лаконично один из самых важных факторов, но он ничего не имеет общего с ценой приобретаемого оборудования, которую вам озвучивает продавец.

Так на что же опираться?

Куда смотреть?

image

В свое время, я оказывался в такой ситуации не раз. И каждое решение было как действия сапера на минном поле. А в ЦОДах так не принято делать. Принцип Слабоумие и отвага не приносит результата в долгосрочной перспективе.

Размышляя об этом я пришел к очень простому выводу идеального ИБП не существует и хорошего ИБП тоже не существует. Они все одинаковые! (это не буквальное определение, все таки отделы разработок не зря кушают свой хлеб с красной икрой у вендоров) Нужно лишь выбрать тот ИБП, который тебя устроит именно здесь и сейчас.

А тогда чем руководствоваться, спросите Вы?

Сейчас я постараюсь Вас к этому подвести.

Недавно я проходил обучение в Uptime Institute и в прологе к курсу была одна фраза:

image

Начиная путь, ты должен четко представлять где ты хочешь оказаться

Я был поражен точностью и ёмкостью этой фразы, дающую методику решения всех возможных проблем.

Возвращаясь к ИБП, что для нас, как для будущих владельцев сего прекрасного поделья важно? Как можно меньше испытывать проблем с нашим ИБП.

И первое на что надо смотреть это сервис. Доступен ли в вашем регионе сервис конкретного ибп, сколько компаний могут его делать, сколько он стоит. Много ли специалистов по конкретному оборудованию в той местности, где будет наш ИБП. Достаточно ли у того Сервисного партнера квалифицированных инженеров, с кем вы планируете заключить контракт.

Пример:

Один известный итальянский бренд, точнее русский OEM известного итальянского бренда. Хорошая цена ИБП, много кто продает, очень много инсталляций, в том числе и в СПБ, но нет инженеров, которые могут его чинить, реально разобрать до болтика, найти неисправность и устранить. А потом настроить правильно и оптимально под конкретные условия и место работы после спецов по ПНР.


Я очень страдал, перебирая сервисные компании, злился и всячески негативно отзывался об этом русском OEM итальянского бренда, о самом итальянском бренде и о всех причастных к нему. Но я нашел сервис-партнера, который обладал всеми необходимыми компетенциями и достаточным количеством инженеров, что позволило полностью закрыть проблемы с этим ИБП. Сейчас я считаю эти ИБП вполне надежными, но мое мнение не важно. Я мог бы и не найти этого сервис-партнера и продолжал бы негодовать. Но обо всем по порядку.

Второе, на что надо обратить внимание это запчасти и расходники. А именно стоимость, наличие, условие продажи доставки. Это очень важно!

Пример:

Один известный китайский бренд. Поставлял мне свой ИБП. Новая модель ИБП. Первый экземпляр, ввезенный в Россию. Завершается ПНР, машина сдается и оставляется на холостом ходу на выходные. В понедельник наладчики приходят к выключившейся с ошибкой машине и брошенным выходом. После пары телефонных звонков и 14 часов ожидания приезжает объем запчастей, достаточный для сбора еще 2х ИБП. Приезжает сразу на объект.


Вы скажете что это не честный пример, типа гарантия вендора в процессе ПНР или перевозчика (это мы выяснили позже, когда считали кто сколько и кому должен) но я с вами не соглашусь. В качестве иллюстрации другой случай при ПНР известного финского бренда (на тот момент финского) запчасти, а именно материнские платы для одного ИБП ждали около месяца.

Срочная закупка компонентных плат, не входящих в список расходников уважаемого швейцарского подразделения американского бренда может не уложиться и в 2 месяца. Проверено на личном примере.

Отсюда плавно переходим к следующему это наличие представительства бренда в стране, доступность представительства, понятная и прозрачная гарантийная политика. Ведь именно представительство бренда или вендора (как кому нравиться)будет вашим третейским судьей, вашей базой знаний, вашим учебным центром, вашей технической поддержкой и вашим проводником в мир бренда.

Пример:

Первый описанный пример с итальянским брендом. Так сложилось, что этот бренд не имеет представительства в России, именно по этому приходиться решать кучу вопросов с их оборудованием весьма странным образом. Которые могли и не возникнуть будь оно в России. В том числе и с сервисом. Потому что одна из важнейших функций представительства разруливание технической политики компании, в том числе по сервисным программам.


image

Подводя итог, хочу обратить пристальное ваше внимание, что ответив на эти простые вопросы об ИБП. И убедившись, в том что все эти вопросы получили ответы, которые вас устроили. Вы можете точно сказать, что проблем с конкретным оборудованием у вас не будет. Точнее они будут и очень много, но вы всегда сможете их решить быстро и качественно!

Обращайте на это внимание, выбирайте оборудование с умом!
Подробнее..

Системы изоляции воздушных коридоров ЦОД. Часть 2. Холодные и горячие коридоры. Какой изолируем?

03.07.2020 18:07:41 | Автор: admin

Существует два варианта установки системы контейнеризации в уже работающем машзале (про установку систем изолирования в строящихся машзалах расскажу в следующей части). В первом случае изолируем холодный, а во втором горячий коридор. Каждый из вариантов имеет свои особенности, плюсы и минусы.


Изоляция холодного коридора


Принцип действия: для подачи холодного потока воздуха в коридор используются перфорированные плиты, установленные перед передней дверью шкафа. Горячий воздух выплескивается в общий объем помещения.



Установка стоек: для изоляции холодного коридора шкафные кондиционеры располагаются по периметру помещения и выдувают холодный поток воздуха под фальшпол. При этом монтажные шкафы стоят в ряд лицом друг к другу.
Плюсы:


  • относительно невысокая стоимость,
  • простота масштабирования: шкафной кондиционер можно установить в любое свободное место по периметру машзала.

Минусы:


  • сложность масштабирования: в рамках нескольких коридоров могут возникнуть проблемы с равномерностью подачи воздуха в разные ряды,
  • в случае с высоконагруженным оборудованием сложно увеличить локальную подачу холодного потока, поскольку для этого нужно устанавливать дополнительные перфорированные плиты фальшпола,
  • не самые комфортные условия работы персонала в силу того, что все помещение находится в горячей зоне.

Конструктивные особенности:


  • нужен дополнительный запас по высоте для установки фальшпола и дополнительная площадь для установки пандуса на входе,
  • так как контейнер изолируется по внутреннему периметру коридора, в стойках необходима изоляция переднего фронта и заглушка-цоколь под стойку спереди.

Кому подходит: небольшим серверным помещениям, либо машзалам с невысокой нагрузкой (до 5 кВт на стойку).


Горячий коридор


Принцип действия: в случае изоляции горячего коридора используются межрядные кондиционеры, выдувающие холодный поток в общий объем помещения.



Установка стоек: шкафы устанавливаются рядами, тыльной стороной друг к другу. При этом кондиционеры устанавливаются в один ряд со шкафами для того, чтобы минимизировать длину воздушного потока и тем самым повысить производительность системы холодоснабжения. Горячий воздух выбрасывается в закрытый контейнер и потом поступает обратно в кондиционер.
Плюсы:


  • надежное, производительное решение, которое может использоваться с высоконагруженными стойками, а также в помещениях с низким потолком, поскольку для его установки не нужен ни фальшпол, ни верхний пленум,
  • легкая масштабируемость в силу того, что каждый коридор является независимым,
  • комфортное нахождение персонала в помещении.

Минусы:


  • цена: в данном варианте нужно больше кондиционеров, при этом для каждого контейнера необходим свой резервный кондиционер,
  • межрядные кондиционеры занимают место, которое можно было бы использоваться под серверные шкафы,
  • сложности масштабирования: добавление кондиционеров возможно, только если заранее предусмотрены дополнительные точки подключения
.
Конструктивные особенности:
  • помещение не требует дополнительного запаса по высоте,
  • сам контейнер изолируется по внешнему периметру коридора,
  • в шкафах необходимы изоляция переднего фронта и заглушка-цоколь, а также изоляция всех крыш шкафов,
  • для торцевых шкафов коридора нужна изоляция боковых сторон шкафа и цоколя по внешнему периметру.


Кому подходит: небольшим и средним серверных помещений с высокой нагрузкой (до 10 кВт на стойку).

Частный случай: системы контейнеризации шкафов с закрытым контуром охлаждения.


Принцип действия: кондиционеры устанавливаются рядом со шкафами или внутри них, образуя единые закрытые горячие и холодные зоны. Воздухообмен при этом происходит внутри шкафа (или небольшой группы шкафов).
Плюсы:
  • высокопроизводительное решение, которое применяется с нагруженными стойками или в помещении, не предназначенном для размещения ИТ-оборудования (контейнер выполняет также функцию защитной оболочки для ИТ оборудования),
  • может использоваться в помещениях с низким потолком.

Минусы:
  • высокая стоимость решения исключает возможность массового размещения шкафов,
  • ограниченная возможность масштабирования: для обеспечения резервирования для каждого комплекта требуется отдельный кондиционер,
  • усложнение системы пожаротушения: каждый закрытый шкаф превращается в отдельный отсек, нуждающийся в своем наборе датчиков мониторинга и в локальной системе для пожаротушения.

Конструктивные особенности:
помещение не требует дополнительного запаса по высоте,
конструктив шкафа предусматривает полностью закрытый контур, в том числе, с возможностью защиты по IP.

Кому подходит: тем, кому необходимо размещение высоконагруженных вычислительных комплексов (до 20 кВт на стойку).

Подробнее..

Системы изоляции воздушных коридоров ЦОД. Часть 3. Системы холодоснабжения для высоконагруженных дата-центров

20.07.2020 10:13:25 | Автор: admin
Варианты систем изолирования, рассмотренные в первых двух частях, больше подходят для использования в зданиях, которые изначально не были предназначены для функционирования в качестве ЦОД. Каждый из них имеет определенные ограничения на масштабирование: это либо цена, либо производительность на стойку. Новые высокопроизводительные дата-центры требуют других модернизированных решений что, в свою очередь обуславливает особенности подходов к строительству помещений под ЦОД.



Горячий коридор



Принцип действия:

холодный поток подается в общий объем машзала, горячий поток удаляется с помощью вытяжного короба.

Установка стоек:

шкафы установлены рядами тыльной частью друг к другу. Холодный поток может поступать через фальшпол, либо выдуваться кондиционерами прямо в общий объем зала. Горячий воздух выбрасывается через вытяжной короб в пленум (пространство за фальшпотолком) и поступает обратно в кондиционеры.

Плюсы:


  • обеспечивается плотное расположение шкафов в помещении,
  • возможно построение системы холодоснабжения как на базе обычных шкафных кондиционеров, так и с использованием систем типа Kyoto Cooling для достижения требуемой энергоэффективности,
  • легко масштабируется в рамках не только одного, но и нескольких коридоров,
  • комфортное нахождение персонала в помещении.

Минусы:

к помещению выдвигаются специальные требования, реализация которых возможна только на стадии строительства здания.

Конструктивные особенности:


  • требуется помещение с высоким потолком и возможностью создания выделенного пленума под удаление горячего воздуха,
  • контейнер изолируется по внешнему периметру коридора,
  • в шкафах необходима изоляция переднего фронта и воздушная заслонка, а также изоляция всех крыш,
  • для торцевых шкафов коридора нужна изоляция боковых сторон шкафа и цоколя по внешнему периметру,
  • для вытяжного короба требуется изолированное прилегание к верхнему пленуму.

Кому подходит:

средним и крупным машзалам с высокой нагрузкой (до 10 кВт на стойку).

Изоляция горячего коридора



Принцип действия:

холодный поток может поступать через фальшпол либо выдуваться кондиционерами прямо в общий объем зала. Горячий воздух удаляется с помощью вытяжного вертикального короба, установленного на шкафу. Он выбрасывается через короб в пленум и поступает обратно в кондиционеры.

Установка стоек:

шкафы могут быть установлены в произвольном порядке, но для оптимизации пространства машзала обычно ставятся рядами.

Плюсы:


  • решение легко масштабируется в рамках как одного, так и нескольких коридоров,
  • комфортное нахождение персонала в помещении.

Минусы:


  • требуются специализированные серверные шкафы,
  • серверное помещение должно быть достаточно высоким для организации верхнего пленума.

Конструктивные особенности:


  • серверные шкафы должны быть достаточной глубины для устройства горячей зоны в задней части шкафа и с возможностью установки воздуховодов,
  • помещение должно предусматривать пленум для возврата горячего воздуха в кондиционеры.

Кому подходит:

средним и крупным машзалам с высокой нагрузкой (до 10 кВт на стойку).

Холодный коридор



Принцип действия:

холодный поток подается в закрытый коридор через вертикальный короб, установленный на шкафу. Горячий воздух выбрасывается в общий объем зала и поступает обратно в кондиционеры. Это решение используется в случае установки холодильных машин над машзалом для минимизации пути воздушного потока.

Установка стоек:

шкафы установлены рядами фронтальной стороной друг к другу.

Плюсы:
  • обеспечивается плотное расположение шкафов в помещении,
  • удобно при подаче холодного потока сверху,
  • решение легко масштабируется в рамках как одного, так и нескольких коридоров.

Минусы:


  • к помещению выдвигаются специальные требования, реализация которых возможна только на стадии строительства,
  • некомфортное нахождение персонала в помещении
.

Конструктивные особенности:


  • требуется помещение с высоким потолком и возможностью создания выделенного пленума под холодный поток,
  • контейнер изолируется по внутреннему периметру коридора,
  • в шкафах необходима изоляция переднего фронта и воздушная заслонка,
  • для вертикального короба требуется изолированное прилегание к верхнему пленуму
.

Кому подходит:

средним и крупным машзалам с высокой нагрузкой (до 10 кВт на стойку).
Подробнее..

Перевод Локальный TCP Anycast это действительно сложно

17.06.2021 18:06:38 | Автор: admin

Pete Lumbis и Network Ninja в своих комментариях к моим записям, посвященным UCMP, упомянули интересный случай использования UCMP в центре обработки данных: а именно серверы anycast.

Вот типичный сценарий, который они упомянули: группа серверов, случайно подключенных к нескольким leaf-коммутаторам, предоставляет услугу на одном и том же IP-адресе (отсюда и происходит anycast).

Прежде чем вдаваться в подробности, давайте зададим себе простой вопрос: Работает ли это за пределами PowerPoint? Безусловно. Это идеальная конструкция для масштабируемой UDP-службы, такой как DNS, и крупные фермы DNS-серверов обычно строятся именно таким образом.


Сложности TCP Anycast

Действительно интересный вопрос: Работает ли это для сервисов TCP? Теперь мы подходим к действительно сложной части - поскольку spine и leaf-коммутаторы выполняют ECMP или UCMP в отношении anycast IP-адреса. Кто-то должен следить за назначениями сессий серверам, иначе весь хаос выйдет из-под контроля.

Обратите внимание, что, то, что мы здесь обсуждаем, полностью отличается от WAN anycast, который работает очень хорошо и широко используется. Практически невозможно оказаться в ситуации, когда у вас будут маршруты с равной стоимостью на два разных сайта в Интернете.

Легко понять, что эта конструкция работает в устойчивом состоянии. Коммутаторы в центрах обработки данных выполняют балансировку нагрузки по 5 кортежей; таким образом, каждый сеанс последовательно перенаправляется на один из серверов. Проблема решена... пока не произойдет отказ соединения или узла.

Потеря соединения и узла

Большинство серийных разработок ECMP используют хэш-бакеты (подробнее), и если количество next-hops (соседние маршрутизаторы) меняется из-за изменения топологии, хэш-бакеты переназначаются, отправляя большую часть трафика на сервер, который понятия не имеет, что с ним делать. Современные варианты реализации ECMP позволяют избежать этого с помощью согласованного хэширования. Согласованное хэширование позволяет избежать повторного вычисления хэш-бакетов после изменения топологии:

Хеш-бакеты для действительных next-hops не трогаются.

Недействительные хэш-бакеты (из-за недействительного next-hop) переназначаются на действительные next-hops.

Очевидно, что мы получим некоторый ненаправленный трафик, но эти сессии все равно безнадежно потеряны - они были подключены к серверу, который больше недоступен.

Добавление новых серверов

Самое интересное начинается, когда вы пытаетесь добавить сервер. Для этого коммутатор последнего хопа должен взять несколько бакетов из каждого действительного next-hop и назначить их новому серверу. Это очень трудно сделать, не нарушив работу сервера2. Даже ожидание того, пока бакет не станет нерабочим (подход балансировки нагрузки флоулетов), не помогает. Нерабочий бакет не означает, что нет активной TCP-сессии, использующей его.

И, наконец, ICMP: ICMP-ответы включают оригинальные номера портов TCP/UDP, но ни один аппаратный коммутатор не в состоянии копаться в пакете так глубоко, поэтому ICMP-ответ обычно отправляется на какой-то случайный сервер, который понятия не имеет, что с ним делать. Добро пожаловать в хаос PMTUD.

Обеспечить работу Локальный TCP Anycast

Значит ли это, что невозможно выполнить локальную балансировку нагрузки TCP anycast? Конечно, нет - каждый гипермасштабируемый центр обработки данных использует этот трюк для реализации масштабируемой балансировки нагрузки в сети. Инженеры Microsoft писали о своем решении в 2013 году, Fastly задокументировал свое решение в 2016 году, у Google есть Maglev, Facebook открыла Katran, мы знаем, что у AWS есть Hyperplane, но все, что мы получили из видеороликов re:Invent, - это потрясающая магия. На конференции Networking @Scale 2018 они рассказали еще несколько подробностей, но это все еще было на уровне Karman.

Вы можете сделать нечто подобное в гораздо меньшем масштабе с кластером firewalls или балансировкой нагрузки (при условии, что вашему поставщику удастся посчитать больше двух активных узлов), но производительность кластеров сетевых служб обычно далека от линейной - чем больше блоков вы добавляете в кластер, тем меньше производительности вы получаете с каждым дополнительным блоком - из-за обслуживания состояния кластера в целом.

Существует, по крайней мере, несколько программных решений с открытым исходным кодом, которые можно использовать для создания крупномасштабных служб anycast TCP. Если вы не чувствуете себя комфортно при использовании таких "горячих" новинок, как XDP, есть BalanceD от Demonware, использующий Linux IPVS.

С более академической стороны, есть Cheetah... и в радужном будущем мы, возможно, получим довольно оптимальное решение, напоминающее сеансовый уровень с Multipath TCP v1.

Для изучения


Прямо сейчас мы в OTUS запускаем специализацию Network Engineer. В связи с этим приглашаем всех желающих на демоурок по теме: "Технологии прошлого. RIP". В рамках урока рассмотрим протокол динамической маршрутизации RIP. Плюсы и минусы технологии. Разберем, почему не используется в продакшн, но где еще нужен, а также какие протоколы пришли ему на замену. Протокол RIP в своей простоте настроек и работы наглядно продемонстрирует логику работы протоколов динамической маршрутизации. Даст понимание о возможностях и необходимости использования такой маршрутизации.

Подробнее..

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru