В определенный момент некоторые предприятия дорастают до того состояния, когда их внутренние информационные системы перестают умещаться в одном серверном шкафу. Тогда руководителю IT-департамента предстоит взвесить все «за» и «против» и решить, строить или не строить серверную. Вариантов может быть несколько: от полного избавления от собственных мощностей и увода их в облака или колокейшн в большом ЦОДе, до строительства собственного мини- (или не очень мини) ЦОДа с блэкджеком.

Процесс расчетов, планирования и постройки серверной весьма ответственный и дорогостоящий. Вложится придется еще на стадии проекта, тут, кстати, можно сэкономить если все процедуры в серверной, от проектирования до строительства, будет производить один подрядчик. Естественное желание руководителя предприятия в такой ситуации - уложиться в минимально возможную сумму. И в штыки воспринимается любое удорожание проекта. В таких перепалках часто забывается, что, помимо строительства объекта, последует его содержание, которое при неправильном проектировании может оскуднить бюджет предприятия на еще одну несуществующую серверную по прошествии двух-трех лет.

Второй по величине потребитель ресурсов (в данном случае это электричество и расходники) в серверной - это система охлаждения. Ни для кого не новость, что “мощность” системы охлаждения серверной должна минимум совпадать, а в лучшем случае превышать на пару десятков процентов пиковую мощность всего оборудования установленного в серверной. О том, какие системы охлаждения бывают и как сэкономить на эксплуатации таких систем мы и поговорим в этой статье.

Классификация систем охлаждения помещений

Наиболее привычными для эксплуатации и понимания являются компрессорные кондиционеры. В них хладагент (в подавляющем большинстве случаев - фреон) переносит тепло от радиатора внутреннего блока во внешний, где рассеивает энергию в окружающую среду. Подробнее о принципе действия кондиционера можно прочитать . Затем идут жидкостные и комбинированные системы, в качестве основного хладагента используют воду или этиленгликоль, и выбор теплоносителя зависит не только от условий эксплуатации, а также от способа охлаждения. И самым эффективным решением, в определённых условиях, конечно, являются системы фрикулинга. Это исключительно прецизионные устройства, разрабатывающиеся почти с нуля в каждом конкретном случае.

Также стоит обратить внимание на классификацию по «формфактору». Тут условно можно разделить системы на два типа. Бытовые системы к которым мы все уже привыкли, обычно устанавливаются в офисах и квартирах, подвешиваясь на стены или потолок, но вполне могут служить системами охлаждения специализированных помещений. И прецизионные системы, куда можно отнести специализированные системы кондиционирования, и, конечно же, все фрикулинговые и жидкостные системы.

Внутри прецизионных систем есть систематизация по принципу действия и по способу доставки «холода» до «потребителей». И если с принципиальными отличиями все более менее ясно, то способов охладить непосредственно девайсы великое множество.

Среди классических общепринятых случаев можно выделить холодную комнату с установленными стойками, тут подойдут и бытовые кондиционеры. Классические варианты прецизионных решений- это устройства с рядными воздуховодами, с холодными и горячими коридорами, где стойки стоят рядами таким образом, чтобы забирать холодный воздух поступающий, например, из-под фальшпола. Они отдают нагретый воздух в коридоры, откуда он принудительно отводится. Также есть варианты с воздуховодами до каждой стойки, где воздух подается в каждую отдельно взятую стойку сверху или снизу и потом так же активно отбирается.

Неклассических решений чуть больше чем много. Надо ли говорить что все они прецизионные. Большинство решений это комбинации вышеназванных систем для повышения эффективности и сокращения затрат. Разброс тут - от индивидуальных кондиционеров на каждый серверный шкаф до жидкостного охлаждения каждого отдельного сервера или даже процессора. А так же стоит особо отметить системы с прямым контактом потребителя с жидкостью. В этом случае сервера полностью погружены в специальное масло. Масло это без запаха и абсолютно не проводит электричество. Жидкость постоянно циркулирует внутри бассейнов с оборудованием, и проходит через радиаторы охлаждения.

Стратегия

Не один раз стоит подумать о необходимости строить серверную. Существует мнение, что для мощностей меньше 5кВт выделенная серверная комната не нужна. Обычно все оборудование вполне себе «упихнется» в 42-47-юнитовую стойку-шкаф, и максимум что еще понадобится - это отдельная однорамочная стойка под кросс. Всё это можно отгородить от «админской» или какого нибудь другого помещения (главное не от бухгалтерии) стеклянной или гипсокартонной перегородкой с герметичной дверью, поставить спаренный бытовой кондиционер и идти пить пиво.

Но мы строим серверную. Прежде всего нам необходимо решить, какую систему охлаждения мы будем использовать, и дело тут не только в цене. Выбор способа охлаждения зависит от множества факторов: мощность оборудования, место расположения серверной комнаты в здании, географическое расположение самого здания и даже от предвзятого отношения к определённым типам охлаждающих устройств и недальновидности начальства.

Распространено мнение, что системам до 10кВт вполне хватит бытового кондиционера. Оно и понятно, ведь бытовые сплит-системы большей мощности, во-первых, достаточно проблематично купить, во-вторых, их стоимость приближается, а то превышает стоимость аналогичных по мощности прецизионных кондиционеров.

От местоположения серверной комнаты в здании сильно зависит возможность установки той или иной системы охлаждения, возможности подвести коммуникации, воздуховоды для специализированных систем, устроить фальшпол или установить турбины. При недостаточной высоте потолков невозможно устроить фальшпол нужной глубины, для установки туда воздуховодов обдува и забора воздуха прецизионной системы. Положение в середине здания создаст проблемы при прокладке воздуховодов, одного из вариантов фрикулинговой системы, а соседство с экономическим отделом вообще поставит крест на строительстве серверной из за «намжешумит».

Географический фактор играет одну из первостепенных ролей и часто ставит крест на возможности фрикулинга, если вы находитесь, например, в тропическом поясе. Именно поэтому ЦОДо строители так любят северные районы нашей планеты, ведь там можно вообще не использовать кондиционеры.

Вдобавок ко всему некоторые технические специалисты имеют своё собственное очень твёрдое убеждение в применимости одной системы и абсолютной неприемлемости других вариантов охлаждения. Они будут спокойно и уверено доказывать свою правоту, находя аргументы «за» и выискивая недостатки других предложений, от реальных до мифических.

В итоге, отталкиваясь от выбранной стратегии, мы и будем проектировать устройство самой серверной.

Стратегия охлаждения бытовыми кондиционерами

Вы обладатель небольшого парка серверов, 2-3 стойки с которыми будут стоять в отдельной комнате. У вас не намечается перспективы плавного роста мощностей и вы, либо не хотите заморачиваться, либо (что наиболее вероятно) не имеете бюджета на более энергоэффективные и экологичные решения.

Прежде всего решите, как в вашей серверной будут располагаться стойки с оборудованием относительно кондиционеров. Лучшим из вариантов в вашем случае будет установка внутренних модулей сплит-системы напротив ряда стоек один над одним, направленные на «лицевую» сторону открытой стойки или шкафа с сетчатой дверью. Оборудование внутри стойки имеет смысл устанавливать той стороной, с которой оно забирает воздух для охлаждения внутренних компонентов. Некоторые устройства, устанавливающиеся в стойки, могут быть перестроены или даже выпускаться в исполнении, когда они либо забирают либо выбрасывают воздух с лицевой стороны, или в одну из боковых стенок. Подумайте об этом при покупке.

Даже если роста суммарной мощности не предвидится, кондиционеры стоит взять с запасом по мощности, например, взяв за максимум пиковое потребление-рассеивание самой «горячей» стойки и помножив на их, стоек, количество.
Минимум отказоустойчивости в этой стратегии - N+1. На практике это выглядит как два и больше кондиционеров одинаковой мощности, где «N» кондиционеров способный поддерживать рабочую температуру в серверной пока "+1" ремнтируется или обслуживается. Чаще всего в небольших серверных используется два агрегата. Для продления ресурса обоих кондиционеров необходимо использовать устройство ротации кондиционеров. Устройство в определённые периоды времени переключает работу с одного кондиционера на другой, отслеживает их запуски и контролирует производительность. При выходе из строя одного из кондиционеров оно должно автоматически подключить «спящий» и оповестить ответственного о проблеме. Стоит отметить, что эту функцию поддерживают далеко не все модели бытовых кондиционеров.

Все серверные сплит-системы, установленные в широтах нашей страны, должны иметь так называемый «зимний комплект». Он представляет собой блок правления, некоторое усовершенствование радиатора внешнего блока кондиционера и систему подогрева картера насоса. Работает автоматически.

Рис.1. Охлаждение бытовыми кондиционерами.

Прецизионные системы охлаждения помещений

Прецизионный (высокоточный) кондиционер (или другой охладитель) - создан в точности так, чтобы максимально эффективно работать в инфраструктуре с заданными конечными параметрами. Иными словами, когда мы говорим «прецизионный кондиционер», мы подразумеваем, что и помещение, и оборудование серверной, и сама «холодильная установка» разработаны в проекте, как совокупность технологий, позволяющих наилучшим образом обеспечить работоспособность, сохранность и долговечность дорогостоящего оборудования.

Надо ли говорить, что устройства индивидуального дизайна - удовольствие дорогое. Священные войны идут между приверженцами разных лагерей. Одни утверждают, что для обычной серверной комнаты достаточно спареного индустриального варианта бытового кондиционера, такие есть, например, у Daikin (серии FT и FAQ) или Mitsubishi (серии Heavy). При выборе такого варианта важно принимать во внимание такие минусы, как локальные застои горячего воздуха в углах или в юнитах стоек, которые не заняты активным оборудованием. Не менее опасный фактор - низкая влажность, ведь, как известно, кондиционер, осушает воздух. Сухой воздух способствует накоплению статического электричества, наличие статического потенциала на тонкой электронике негативно сказывается на работе чипов, и повышает риск их уничтожения разрядом. Конечно, большая часть факторов устранима, но в большинстве случаев это костылепроизводство. Дополнительные вентиляторы, увлажнители воздуха, это все множащиеся точки отказа, затраты на электроэнергию и обслуживание. Обслуживание, кстати, того же увлажнителя, дело не столько затратное по средствам, сколько по времени. Нужна регулярная чистка и ежедневный долив воды.

У прецизионников тоже не все гладко. Прежде всего они весьма габаритны: фреоновые кондиционеры имеют габариты двух-трех полноразмерных стоек. Так как контроль влажности - одна из основных функций специализированного кондиционера, то к внутренним блокам требуется подвести воду, что для некоторых IT-шников совершенно неприемлемо. Холодный воздух от таких агрегатов подводится к стойкам по воздуховодам, которые проводятся или под фальшполом, самый частый и самый дорогой вариант, или под потолком, что подразумевает высокие потолки и накладывает дополнительные ограничения на прокладку кабельных коммуникаций. Конденсаторы-охладители таких кондиционеров имеют порядочные размеры, и сразу возникает вопрос с их размещением и подводкой системы труб от внутреннего блока.

С минусами покончили, перейдем к плюсам. Сюда можно отнести: высокую производительность, резервируемость только активных компонентов кондиционера (например воздуховоды, я думаю, -резервировать смысла нет), четкий контроль за температурой и влажностью, возможность детального мониторинга. Плюсы следующие отсюда- это относительная экономия, гарантированая доставка холодного воздуха до потребителя, поддержка высокой плотности потребителей на стойку (это скорее правило, если стойка будет пустовать, она будет работать неэффективно и влиять на всю «экосистему»). Между увеличением затрат на кондиционер и последующей энергоэффективностью прослеживается вполне объяснимая взаимосвязь.

Как я уже говорил, самым распространенным явлением прецизионного кондиционирования является коридорная система, где стойки расположены рядами и установлены так, чтобы забирать воздух из холодных коридоров (куда воздух подается кондиционером) и отдавать в горячие (откуда воздух отбирается системой вентиляции). Воздуховодом такой системы чаще всего служит фальшпол. Панели самого пола в основном сплошные, вся кабельная коммуникация по возможности из-под фальшпола переносится под потолок, перед рядами стоек в полу устраиваются решетчатые панели откуда охлажденный воздух поступает на лицевую сторону стойки. Двери серверных шкафов при таком устройстве делают сетчатыми с обоих торцов, или же или же совсем не делают. Затем нагретый серверами воздух выдувается в горячий коридор откуда высасывается системой принудительной вентиляции. В идеале, следуя принципам термодинамики, вытяжку стоит располагать вверху горячего коридора, но часто это делают в фальшполу для экономии пространства над стойками для прокладки кабельных коммуникаций. С относительно недавних пор, холодные и горячие коридоры стали делать герметичными от общего помещения серверной. Этим удалось добиться существенной экономии на рассеивание ценного холода. В свободные юнитовые пространства шкафов обязательно требуется устанавливать заглушки, потому что горячий воздух так и норовит смешаться с охлажденным. Этим можно повысить эффективность охлаждения в полтора-два раза.


Рис. 2. Система с открытыми коридорами, очевидны потери драгоценного холодного воздуха.


Рис. 3. Более эффективная, система с изолированными коридорами.

Intel, например, преследуя идею максимально просто и эффективно охлаждать оборудование, пошли дальше и даже запатентовали стойку с вытяжкой . Стойка представляет собой обычный 19" шкаф, но глубже аналогов и имеет в верхней крышке воздуховод, открывающийся в пространство фальшпотолка, откуда горячий воздух высасывается кондиционерами. Вся система, кроме кондиционеров, абсолютно пассивна. Но при этом, по утверждению Intel, способна охлаждать 32 кВт оборудования на стойку.

Принимая во внимание климат нашей страны, у прецизионных кондиционеров есть еще один большой плюс: их схему можно достаточно безболезненно доработать, добавив полный или частичный жидкостный контур. Используя в качестве хладагента этиленгликоль, параллельно контуру кондиционера строят еще один контур с жидкостным охлаждением, тем самым сокращая затраты на электричество, обслуживание кондиционера и увеличивая срок службы оных. Эффективность гликолевого контура начинается уже при температуре ниже +20 С, что даже летом по ночам в России совсем не редкость.

Дополнительный жидкостный контур дублирует таковой фреоновый, и в принципе может работать круглосуточно, в дневное «жаркое» время охлаждая компрессор кондиционера и конденсатор, а при падении уличной температуры переходя на частичное и полное охлаждение внутреннего теплообменника.

Лидерами среди производителей прецизионных систем охлаждения являются Schneider Electric, STULZ, Emerson Network Power, RC Group. Среди их решений есть и готовые комбинированные системы.

Жидкостные системы

Принципиальная разница жидкостного охлаждения и фреонового лишь в том, что в контуре жидкость чаще всего не меняет фазового состояния, отчего при равной мощности системы водяные и гликолевые системы проиграют фреоновым в эффективности. Однако у жидкостных систем есть неоспоримые преимущества, такие как емкость и универсальность. В системах с жидкостным охлаждением охладителем может быть как фанкоил на крыше или во дворе здания, так и система отопления самого здания. Жидкость может охлаждать воздух в серверной, а может использоваться как хладагент для отдельно взятого процессора . Неоспоримое преимущество жидкостного кондиционирования - это практически неограниченная протяженность трас, за счет низкой цены на хладагент, для самой же системы это только плюс. Самое опасное в данной ситуации - это протечка токопроводящего агента, но, судя по всему, это никого уже не пугает. IBM в этой ситуации отличился строительством SuperMUC, где добился 40% экономии энергии за счет отсутствия в системе охлаждения чиллеров. А Google в большинстве своих ЦОДов и вовсе используют систему собственной разработки, где используется система холодных и горячих коридоров.

Еще одна система с жидкостью подразумевает погружение сервера в специальное минеральное масло. Масло - диэлектрик, так что замыкания не будет. Что касается энергоэффективности, то, по утверждениям специалистов того же Intel, на систему охлаждения в таком случае затрачивается на 90% меньше энергии, а также снижается энергопотребление самих серверов. Стойки для погружного жидкостного охлаждения уже выпускаются, например, компанией СarnotJet . Стойки пригодны для размещения любых серверов, только предварительно требуется вытащить из них все вентиляторы.


Рис. 4. Самое жидкостное охлаждение

Еще одним фактором универсальности является огромное количество способов охлаждения хладагента. Для примера можно привести технологию SeaWater Air Conditioning (SWAC), по этой технологии построен ЦОД Google в Финляндии. Из названия понятно, что для охлаждения воды, поступающей в ЦОД, используется теплообменник на холодной воде, забираемой с морских глубин.

Классическая же система жидкостного охлаждения выступает посредником между относительно высокой температурой внутри помещения серверной и охладителем, чаще сухой градирней и чиллером, снаружи.

Сухая градирня представляет собой закрытый контур охлаждения, где жидкость поступает в радиатор, который принудительно обдувается воздухом. Есть еще мокрые градирни, в них вода разбрызгивается и одновременно продувается. В грядирнях, или фанкоилах, жидкий хладагент обычно только подготавливается, охлаждаясь до температуры воздуха, само же охлаждение происходит теплообменнике чиллера.

Чиллер - это холодильник, он действует на фреоне, охлаждая проходящую через его охладитель жидкость до требуемой температуры.

Для классического жидкостного кондиционирования верны все те же правила, что и для систем на фреоне. Охлажденный в испарителе воздух проходит через потребителей и отбирается из серверной самой системой охлаждения. Несмотря на то, что жидкостные системы более универсальны и в целом дешевле в эксплуатации, чем фреоновые, эффективность их ниже за счет большего числа посредников воздух-чиллер-жидкость-воздух. Согласитесь, не самая удачная схема.

Убираем посредников

Прямой фрикулинг - самый энергоэффективный способ охлаждения серверных. Конечно, его эффективность целиком зависит от температуры воздуха «за бортом», но некоторые изменения в стандартизации и различные зеленые технологии постепенно двигают системы охлаждения серверных именно в этом направлении.

Начнем с того, что крупнейший стандартизатор инженерных систем, а в частности систем охлаждения и отопления, ASHRAE (англ. American Society of Heating, Refrigerating and Air-Conditioning Engineers) - Американское общество инженеров по отоплению, охлаждению и кондиционированию воздуха, с 2004 г. два раза повышало рекомендуемую температуру воздуха для охлаждения серверных с +22 до +27 градусов С. А в 2011 году были внесены поправки в стандарт, стратифицирующие два новых класса оборудования для серверных A3 и A4, где температурный диапазон увеличен до +40 и +45 градусов. Производители серверов уже выпускают такие модели. Хотя они еще не получили широкого распространения, все больше ЦОДо строителей склоняются к использованию зеленых технологий в охлаждении.

Для серверных в наших широтах фрикулинг может стать если не полной заменой классической модели охлаждения, то серьёзным подспорьем в охлаждении в холодное время года, а также позволит снизить и мощность кондиционеров.
Самой большой проблемой прямого фрикулинга является общая загрязненность воздуха в городах. Может случится так, что количество, расход фильтров и мощность вентиляторов для их продува может свести на нет всю экономию по электроэнергии и мощности. Это проблема решается разделением контуров и введения между ними теплообменника на основе роторного рекуператора . В данном случае фильтры тоже понадобятся, но более дешевые и с минимальным сопротивлением воздуху.

Другой большой проблемой является то, что, при вспомогательной функции нашего фрикулера, он будет плохо сочетаться с бытовыми системами и лучше всего с прецизионными.

Из плюсов: при прямом фрикулинге нет риска пересушить воздух в помещении серверной, т.к. идет постоянный обмен воздухом с внешней средой. С другой стороны, влажность воздуха на улице может категорически не соответствовать принятым стандартам влажности для серверных комнат, и тут на помощь приходит один из главных козырей систем фрикулинга - адиабатическое охлаждение.

Давно замечено что влажный воздух у водоемов всегда прохладнее чем на равнинах в удаленни от них, вспомнить хотя бы морской бриз. Для адиабатического охлаждения воздуха не нужно ни систем резервирования ни сложных технических решений. Устроены они по принципу мокрых градирен, в нагретый внешний воздух в камерах форсунками разбрызгивается вода, которая испаряясь охлаждает и увлажняет воздух. Данная система не только эффективно понижает температуру внешнего воздуха, но так же и создает необходимую влажность воздуха. Правда в таких системах появляется новый расходный материал - вода. По этому, на равне с PUE (Power usage effectiveness) ASHRAE ввела новый термин WUE (Water usage effectiveness (PDF)) . За что отвечают данные параметры я думаю понятно всем.

В качестве ярких примеров внедрения таких систем можно упомянуть ЦОД eBay “Меркурий” в Фениксе (США) и Facebook в Прайнвилле (США).

Вместо заключения

«Так как же, все таки охлаждать небольшие серверные на пару десятков кВа?» - спросите вы.
Ответ неоднозначен. Большинству читателей подойдет решение из двух нормальных бытовых кондиционеров. Те же, кто сможет убедить собственное руководство в необходимости экономии и введения экологичных инноваций, получат море головной боли и потом бесконечное наслаждение конечным результатом.

Как я уже говорил, конкретное решение сильно зависит от климатических условий конкретного региона. Для восприятия климатической картины лучше всего взять историческую справку по максимумам и минимумам температуры и влажности за всю историю инструментальных наблюдений в вашем регионе или городе, а также проанализировать подробные данные по самым жарким температурам за последние лет 10-20. Этого с лихвой хватит на то, чтобы выработать четкую стратегию.

Несмотря на все плюсы фрикулинга, в условиях средней полосы, в 80 случаях из 100 обойтись без компрессорного или жидкостного кондиционера скорее всего не получится. В связи с этим, общая идея построения “большой” энергоэффективной серверной такова:

  • Это помещение с прецизионной системой охлаждения. В помещении устроены фальшполы для подвода холодного воздуха, с разделением на холодные и горячие корридоры, изолированные от общего помещения серверной для обеспечения более четкого теплообмена.
  • Большую часть времени, система работает на прямом фрикулинге, при повышении температуры внешнего воздуха подключается система адиабатического охлаждения. При превышении допустимых норм по температуре влажности, подключается система компрессорного или жидкостного охлаждения, т.е. кондиционер.
Столь интересная с технической и практической точки зрения адиабатика здесь не рассматривается ввиду своей специфичности, она требует более тонкого подхода к реализации. Что касается рассматриваемого варианта, то очевидно, что энергоэффективность в будущем потребует больших вложений на стадии строительства.

Стоит обратить внимание на то, что такая система не сможет работать без адекватного и подробного мониторинга состояния внутренней среды. Мониторинг температуры в холодном и горячем коридорах, влажность воздуха внутри и снаружи, наличие воды в системе адиабатики, контроль протечек. Для этого существуют устройства мониторинга, способные публиковать данные с различных датчиков через Ethernet или Wifi. Представлены они в виде плат, корпусных изделий и изделий для установки в стандартные 19" стойки. К примеру, netping уже оснащаются встроенным GSM модемом с SMS-модулем, способным оповестить о существенных изменениях параметров или срабатывании датчика не только ответственные узлы системы охлаждения, но и вас лично.

К тому же все эти данные не только можно, но и нужно вводить в систему глобального мониторинга, например, Zabbix , где по графикам и выборкам можно анализировать карту температур серверной, коррелировать изменения внутри серверной и снаружи. Автоматизировать создание инцидентов, основаных на совокупности показателей, а не на каком-то одном.

Все это позволит отстроить систему охлаждения на максимальную эффективность и предупредить её поломки.
К сожалению, в одной небольшой статье невозможно досконально проработать тему охлаждения серверной. С одной стороны, может показаться, что фрикулинг - это выход для всех, но на самом деле, это достаточно рискованное предприятие. История знает порядочно количество эпичных ситуаций, когда из строя выводились целые ЦОДы из за ошибок в проектировании и недостаточном внимании к деталям. Наилучшим, хоть и более дорогим, является решение, которое подразумевает дублирование штатных систем охлаждения альтернативными.
Больших вам ЦОДов, и непрестанного шума в серверных.

Безотказная работа электротехнического и электронного оборудования зависит от многих технических решений, в том числе и от эффективной защиты от воздействия внешних климатических факторов. Для предупреждения образования конденсата и регулировки температуры внутри шкафа применяется приборы климат-контроля. Выделим три основные проблемы:

  1. При нагреве приборов происходит повышение температуры внутри электротехнического шкафа, что приводит к перегреву и выходу оборудования из строя.
  2. Многие приборы не рассчитаны на работу при низких температурах – как минимум, уменьшается эффективность их работы, но зачастую такие неблагоприятные внешние условия приводят к поломке.
  3. Как уже отмечалось выше, внутри шкафа оборудование нагревается и повышается температура. В случае, если шкаф установлен в неотапливаемом помещении, при таких перепадах температур образовывается конденсат , который приводит к короткому замыканию.

Обогрев шкафа автоматики с помощью нагревателей FHL

Для обогрева электротехнических и телекоммуникационных шкафов применяются . Такие изделия выпускает , который предлагает два типа устройств серии FLH: конвекционный нагреватели и нагреватели со встроенным вентилятором. Последние имеют большую мощность нагрева и обеспечивают более эффективное распределение теплового потока внутри шкафов с электротехнической и электронной начинкой. Нагреватели FLH удобны в монтаже и просты в эксплуатации.

Нагреватели FLH

Контроль температуры и влажности с помощью термостатов и гигростатов FLZ

В дополнение с нагревателями в качестве элементов управления необходимо устанавливать и серии FLZ. Гигростаты Pfannenberg предназначено для контроля относительной влажности воздуха с диапазоном установки от 40% до 90%. При превышении установленного значения гигростат запускает вентилятор с фильтром или нагреватель. А для поддержания постоянной температуры внутри шкафа применяются термостаты.


Зачастую за выполнение данных функций отвечают комбинированные устройства гигростат/термостат . Например, приборы FLZ 610, установка которых позволяет существенно сэкономить место в шкафу.


Комбинированное устройство гигростат/термостат FLZ 610

Охлаждение шкафа с помощью вентиляторов PF или кондиционеров серий DTI, DTS, DTT, RTM

Если в помещении, где установлен электротехнический шкаф температура окружающего воздуха ниже, чем максимально допустимая температура внутри шкафа на 10 °С, то смогут обеспечить оптимальные климатические условия внутри электрошкафа. Забор охлаждающего воздуха происходит через фильтр благодаря вентилятору. Удаление нагретого в шкафу воздуха происходит через выпускной фильтр.



Охлаждение принудительной вентиляцией

Степень защиты фильтров (впускного и выпускного) от воздействий окружающей среды – IP54 или IP55. Корпуса фильтров и вентиляторов версии IP55 устойчивы к ультрафиолетовому излучению.


Монтаж вентиляторов и фильтров предельно прост – оборудование фиксируется в заранее подготовленных прямоугольных отверстиях собственными защелками. Для исключения возникновения зон локального перегрева рекомендовано разнести на максимально возможные расстояния вентилятор и выпускной фильтр, при чем, вентиляторы следует размещать в нижней части шкафов, а выпускные фильтры в верхней. Замена фильтрующих элементов не составляет особого труда и займет не более пары минут.


Если наружный воздух не может быть использован для охлаждения , то следует применять (кондиционеры) следующих серий: DTI, DTS, DTT, RTM.

При подборе охлаждающего устройства следует учитывать необходимую мощность охлаждения Qo [Вт] и способ установки:

  • DTS – кондиционеры для навесного монтажа или монтажа на двери. Для тех случаев, когда внутри шкафа управления нет свободного места для кондиционера.
  • DTI – кондиционеры для частично утопленного монтажа на боковой поверхности или двери.
  • DTT – кондиционеры со 100% защитой от конденсата для экономящей место установки на крыше шкафа управления.
  • PTM – кондиционеры для применения в небольших шкафах управления.

Варианты монтажа: DTI, DTS и DTT

Чувствительное телекоммуникационное оборудование требует поддержания температурного режима на допустимых отметках. Для этого в защитные шкафы устанавливают охладительные системы. Кондиционеры, разработанные специально для термошкафов и всепогодных боксов, обеспечивают защиту техники от перегрева и замерзания, что обеспечивает её бесперебойную работу и продлевает эксплуатационный срок оборудования.

Особенности кондиционеров для телекоммуникаций

Магазин Sonet Technologies предоставляет кондиционеры для телекоммуникационных шкафов разных конструкций - настенные и потолочные модели с интеллектуальным управлением и полным опционалом. Приборы рассчитаны на продолжительную работу в серверных и других специализированных помещениях - они выполняются из прочного материала и имеют дополнительную защиту от погодного воздействия.

Короб кондиционера защищен от коррозии и механических повреждений (царапин, ударов, излома). Параметры и мощность работы подбираются с учётом габаритов термошкафа и его содержимого. Кондиционеры отличаются размером, энергозатратностью и производительностью. Для одиночных защитных боксов достаточно обслуживания небольшим прибором, а в условиях большой серверной базы понадобится техника, не просто охлаждающая работающую аппаратуру, но также осуществляющая контроль средового воздействия.

Кондиционер остужает рабочую технику, охлаждает внутреннюю среду шкафа в жару, а также обеспечивает тепло внутри шкафа в морозы. Благодаря этому поддерживается эффективное функционирование аппаратуры не только в помещениях, но также во всепогодных шкафах, установленных на улице и в неотапливаемых зонах.

Если вам нужно кондиционер для шкафов купить в Москве недорого – делайте заказ на нашем сайте. Специализированный прибор не требует частого обслуживания, поэтому оптимален для использования в любых условиях. Представленные в магазине Сонет модели подходят для обслуживания современного оборудования IT и телекоммуникационных служб и полностью соответствуют нормам ГОСТ.

Заказывайте быстро

В Sonet Technologies можно приобрести высококлассную технику с гарантией - оптом и в розницу по лучшим ценам в Москве. Доставка осуществляется в течение 1 дня - заказывайте срочно кондиционеры для шкафов и получайте оборудование без ожидания.

Магазин предоставляет актуальные модели для всепогодных боксов разных образцов - выбирайте подходящий самостоятельно или обратитесь к консультанту с любыми возникшими вопросами. Для этого достаточно оставить заявку - вам перезвонит менеджер, чтобы уточнить все детали заказа и помочь вам кондиционер для телекоммуникационного шкафа купить в Москве недорого. Возможность закупки приборов по оптовой цене обеспечивает вашу максимальную выгоду и экономию. Кроме того, вы можете расплатиться удобным способом.

Нужно другое оборудование? Все сопутствующие товары можно найти на страницах каталога с удобной навигацией или уточнить по телефону.

Группа компаний «МЭЛ» - оптовый поставщик систем кондиционирования Mitsubishi Heavy Industries.

www.сайт

Лет 10 тому назад автору статьи довелось быть свидетелем одной ситуации. Серверная организации представляла собой выделенную стеклопластиком половину кабинета. За окном был зимний морозный день, батарея центрального отопления не справлялась, и айтишник открыл дверь серверной и выключил кондиционер, чтобы тепло от оборудования нагрело комнату. Через час выключился основной сервер организации с ERP-системой. Причём не просто выключился, а вышло из строя 2 дорогих SSD-диска. Более ста сотрудников сидели без дела полдня, ушедших на восстановление данных из резервов. А если бы не было архива.. В общем, зачем серверным кондиционер – после этого знали все.

Варианты охлаждения серверных.

Кондиционер для большой серверной. Самый дорогой, но далеко не всегда оптимальный способ.

Слово «прецизионный» сразу ассоциируется с точностью. Увы, большинство «прецизионных» серверных кондиционеров поставляется с On-Off компрессорами, и ни о каком точном поддержании температуры даже речь не идёт, разбег 2-3 градуса в лучшем случае.

Следующий минус – шум. Обычные прецизионные кондиционеры для серверных - это моноблок с выносным конденсатором. К немалому шуму вентилятора испарителя добавляется шум от компрессора. Хорошо, когда серверная – выделенное необитаемое помещение. Но работать в комнате с работающим «прецизионником» (а бывает и такое) – крайне утомительно.

Цена. Стоимость прецизионного кондиционера – в два-три раза выше полупромышленного инверторного «японца» той же производительности.

Возможно, их единственный плюс – выносной конденсатор, потенциально позволяющий работать прецизионному кондиционеру зимой при более низких температурах, чем обычный кондиционер с зимним комплектом.


2. Сплит-система
. Самое распространённое решение для охлаждения серверных комнат, одновременно универсальное, доступное и недорогое. Самая маленькая «серверная», которую видел автор статьи – шкаф из стеклопластика размером 2м*1м*0,4м, расположенный в комнате айтишников. Естественно, кроме бытового настенного сплита туда ничего поставить было невозможно.

Большинство руководителей организаций всё-таки понимают степень риска потери данных на серверах, и покупают японские кондиционеры для серверной комнаты. Хотя основной тренд российского рынка на удешевление средней стоимости кондиционеров начинает проявляться и здесь.

Предпочтительнее ставить полупромышленный кондиционер для серверной с зимним комплектом, потому что в полупром, даже маленьких номиналов от 9000-12000 BTU, всегда заложен повышенный запас прочности: более надёжный компрессор, увеличенная площадь теплообменников, больше защитных функций.


3. Приточная вентиляция зимой. Один из вариантов системы free-cooling. Суть системы – собирается наборная приточная установка, и регулирующие заслонки управляют притоком уличного холодного воздуха. Обычно комбинируют со сплит-системой (для работы летом). Главный плюс – бесплатный уличный холод заменяет кондиционер зимой, экономия на электричестве и ресурсе сплит-системы. Минус – не везде возможна установка. Такие системы часто используют, например, на базовых станциях сотовой связи.

Расчёт кондиционера для серверной.

Доводилось видеть ситуации, когда мощность кондиционера для серверной выбиралась исходя из площади помещения, как в квартиру. С предсказуемым результатом. Конечно же, расчёт кондиционера для серверной должен строиться на теплопритоках от оборудования. В идеале, нужно знать притоки от каждого сервера/шкафа. Но зачастую этого не указано в документации. Тогда самый простой способ – посчитать мощность блоков питания серверов, или хотя бы мощность источников бесперебойного питания. Получатся цифры с запасом, но это лучше, чем сделать выбор серверного кондиционера с меньшей производительностью.

Следующий выбор – место расположения внутреннего блока. Поскольку тепло от шкафов поднимается вверх, можно сразу утилизировать его внутренним блоком, подпотолочного или кассетного типа. Но есть опасность, что при недобросовестном монтаже или обслуживании, из внутреннего блока вниз может потечь дренаж. Поэтому внутренний блок серверного кондиционера не должен располагаться непосредственно над сервером или любым электрическим устройством. Лучше всего, когда блок расположен немного в стороне, и поток холодного воздуха дует прямо на оборудование.

Проблемы кондиционера зимой.

1. Замерзание масла компрессора. Даже полиэфирные масла, используемые с фреоном R410A, при низких температурах будут застывать, кинетическая вязкость и смазывающие свойства ухудшаются зимой. Соответственно, в момент запуска, компрессор начинает работать «всухую», возникает повышенный ток, повышенное трение частей компрессора, в самом худшем случае компрессор может попросту заклинить.

2. Масло компрессора абсорбируется с фреоном. Чем дольше кондиционер выключен, тем большее количество фреона растворено в масле. В момент запуска фреон в компрессоре вскипает и уходит в трубопровод вместе с частичками масла. Возможна ситуация, когда доля ушедшего в трассу масла будет настолько велика, что компрессору придётся работать «всухую».

3. У On-Off сплит-систем, самых распространённых серверных кондиционеров, вентилятор наружного блока постоянно работает на максимальной скорости вращения. В результате, уже при нулевой температуре на улице производительность серверного кондиционера падает на 30-40%. А при отрицательных температурах расход фреона упадёт настолько, что может возникать перегрев компрессора, при этом холодопроизводительность кондиционера зимой упадёт до минимума.

4. Зачастую у сплит-систем отвод дренажа производится на улицу, а не во внутреннюю систему канализации. Соответственно, при работе кондиционера зимой дренажная трубка без подогрева просто замёрзнет, и вода потечёт из внутреннего блока.

Чтобы избежать всех этих проблем при работе кондиционера зимой, устанавливают

Зимний комплект кондиционера.

В стандартный зимний комплект кондиционера входит три элемента:


Кабель подогрева картера компрессора
. Обычно его длина 0,5м и мощность 30-50Вт. Устанавливается в нижней части компрессора, лучше всего устанавливать на примерной границе масла и фреона, чтобы минимизировать их смешивание. Частая ошибка – подключение этого подогрева на клеммник питания компрессора. Проблема в том, что подогрев будет включаться только одновременно с запуском компрессора, т.е. когда он уже бесполезен. Поэтому подогрев компрессора должен включаться на отдельную, постоянно запитанную линию 220В.

Некоторые японские производители пишут в каталогах, что в их компрессорах постоянный подогрев масла осуществляется обмотками статора. Однако, на всех этих блоках они сами продолжают ставить обычные ленточные подогревы, что как бы намекает..

Кабель подогрева дренажа. Одевается на дренажную трубку (в случае, когда дренаж выведен наружу).


. Представляет собой электронный блок, включаемый в разрыв питания вентилятора наружного блока. Его назначение – поддерживать постоянную температуру конденсации, регулируя обороты вентилятора от 0 до 100%, в зависимости от показаний собственного датчика температуры, крепящегося обычно в середине конденсатора.

Бывают более сложные регуляторы конденсации, например с подстраиваемой пользователем температурой, либо регулирующие не температуру, а именно давление конденсации. Но, ввиду высокой цены, они малораспространены.

Такой зимний комплект кондиционера ставят на On-Off модели, самые распространённые из-за своей дешевизны. Но в последние годы начинают появляться

Инверторные кондиционеры в серверной.

Главное отличие инверторных кондиционеров - плавная регулировка оборотов компрессора. При этом, вентилятор наружного блока может быть обычным, нерегулируемым. Соответственно, при выборе зимнего кондиционера обязательно нужно проверять этот нюанс.

Плюсы инверторных кондиционеров неоспоримы: меньшее энергопотребление, отсутствие пусковых токов, повышенный КПД (в режиме неполной загрузки), увеличенная пиковая производительность, более точное поддержание температуры.

Главный аргумент противников инверторных кондиционеров в серверных комнатах – их техническая сложность и потенциально меньшая надёжность.

С первым возражением нельзя не согласиться, но почему нужно считать это минусом? Больше контрольных функций, обратная связь со всевозможными датчиками для подстройки системы под изменения внешней среды - это как раз преимущества.

Увеличение числа компонентов системы потенциально увеличивает риски, это верно. Но инверторные технологии уже давно отработаны, и у серьёзных производителей они не менее надёжны, чем устаревшие On-Off системы. Даже первые мультизональные системы с инверторными компрессорами до сих пор исправно работают уже на продолжении 15 лет. А с тех пор технологии качественно выросли, не говоря о накопленном опыте и устранении «детских болезней». К примеру, у Mitsubishi Heavy количество отказов компрессоров в серии KX4 снизилось по сравнению с серией KX2 в 10 раз!

У инверторных кондиционеров в серверной возможны отдельные проблемы именно с защитными функциями.

Часть защит, например – отказ системы включиться при температуре ниже -15/-20С (по датчику уличной температуры), можно доработать или "обойти" непосредственно на объекте.

Другая часть защитных функций в обычных условиях трудно отключаема, например, защита по датчику низкого давления или температуре испарителя. Если в регионе установки серверного кондиционера нередки температуры ниже -35С, то лучше не рисковать серверной и выбрать вариант прецизионного кондиционера с выносным конденсатором либо приточной вентиляции, в крайнем случае - устанавливать наружный блок сплит-системы в помещении (лестничный марш, чердак...).

В любом случае, японские производители уже начали снимать с производства On-Off серии сплит-систем, например, Mitsubishi Heavy Industries уже несколько лет выпускает только инверторный полупром. Поэтому даже у противников перехода на инверторные кондиционеры в серверных нет альтернативы, пусть и через два-три года.

Что упускают из виду специалисты по кондиционерам.

1. Все значения холодопроизводительности в сервис-мануалах указаны для внутренних параметров: температура 27С, влажность 50%. Однако в серверных кондиционеры работают на поддержание постоянной температуры 18-20С. При этой температуре явная холодопроизводительность блока падает на 20-30%.

Чтобы избежать проблем с нехваткой холода, нужно учитывать именно явную производительность при 18С.

2. Внутренний блок рассчитывается производителем на температуру 27С. Когда на испаритель поступает всего 18С, возникает вероятность неполного испарения фреона. Особенно рискуют зимой кондиционеры On-Off с капиллярной трубкой, у инверторов с EEV этот риск меньше. Недоиспарение фреона повлечёт за собой возврат хладагента в компрессор в жидкой фазе и поломку компрессора. Считается, что "влажный ход" должны демпфировать аккумуляторы перед компрессором, но на практике они помогают не всегда.

Чтобы предотвратить влажный ход и залив компрессора, возможно устанавливать внутренний блок на один типоразмер больше наружного. Например, внутренний блок 9000 BTU, а наружный 7000 BTU.

3. При работе кондиционера на охлаждение в помещении постоянно удаляется влага из воздуха. Если помещение серверной чисто технологическое и не имеет приточной вентиляции, влажность воздуха может упасть до 30%. При этом резко вырастает опасность повреждения электронной аппаратуры статическим электричеством. Наиболее чувствительны к этой проблеме АТС и большие ЦОД, где рекомендуется поддерживать относительную влажность не ниже 50-60%.

Если в серверной будет установлено электронное оборудование, чувствительное к электростатическим разрядам, необходимо предусмотреть систему увлажнения воздуха.

Что упускают из виду IT-специалисты.

1. Ротация кондиционеров. Даже самое лучшее оборудование может внезапно выйти из строя. Например, по причине скрытых дефектов монтажа, проблем с электроснабжением или человеческого фактора. Для минимизации рисков в серьёзных серверных (например, в банках) всегда ставят дополнительный серверный кондиционер. Обычно ставится два кондиционера, каждый из которых способен охладить серверную в одиночку, но работают они поочерёдно. В случае, когда первый кондиционер не справляется с теплопритоками или вообще неисправен – автоматически включается второй.

У кондиционеров Mitsubishi Heavy Industries функция ротации кондиционеров штатно поддерживается проводным пультом RC-EX1 , который возможно подключить ко всем полупромышленным моделям, а также настенным инверторам бытовой серии.

Управление ротацией кондиционеров других брендов возможно обеспечить отдельным устройством, «блоком ротации кондиционера». Универсальные блоки ротации делятся на две группы:

1) Управление производится "прерыванием фазы". Кабель электропитания заводится в блок ротации, а уже затем подключается к кондиционеру. Блок ротации, по сигналам датчиков температуры и реле времени, просто отключает или восстанавливает ~220В на резервном кондиционере. Соответственно, кондиционер должен поддерживать функцию "авторестарт".

2) Более изящное решение - имитация ИК-пульта кондиционера. Перед ИК-приёмником внутреннего блока крепятся компактные ИК-диоды, на которые (по проводному или радиоканалу) поступают команды с блока ротации. Обычно имитируются только ИК-сигналы включения и выключения для данной сплит-системы, соответственно, режим и температурные параметры нужно предварительно задать с пульта.

В больших серверных таких кондиционеров может быть больше двух, и работать они могут по любому заданному циклу, например «пять рабочих три резервных», причём работающие и резервные чередуются друг с другом в течение суток.

2. Удалённый мониторинг. Современные инверторные кондиционеры могут подключаться к Интернету в двустороннем режиме, принимать команды от пользователя и сообщать о состоянии работы и ошибках.

Эконом-вариант. Проводной пульт подключается через USB к компьютеру/серверу, устанавливается программа-драйвер, и IT-специалист может наблюдать за состоянием серверного кондиционера и управлять настройками. Соответственно, через удалённый рабочий стол он может следить за температурой в серверной откуда угодно. Такие возможности штатно предоставляет, например, проводной пульт RC-EX1 в кондиционерах Mitsubishi Heavy.


Планшет или смартфон. В серверный кондиционер подключается отдельный Wi-Fi модуль, который связывается с удалённым сервером производителя, и передаёт данные о своей работе. IT-специалист устанавливает на свой гаджет специальное приложение (iOS или Android), и может просматривать логи работы серверного кондиционера, менять его настройки (режим работы, температуру..), а также получать сообщения об авариях и ошибках.

BMS или SNMP. Если в здании имеется единая система управления инженерными коммуникациями («Умный дом»), то серверные кондиционеры тоже могут стать её частью. Стандартные индивидуальные адаптеры ModBus, KNX, EnOcean есть у всех японских производителей. Интерфейсы LonWorks или BACnet подключить тоже возможно, но цена вопроса будет на порядок большей.

У Mitsubishi Heavy Industries подключение к сетям BMS возможно как для внутренних блоков мультизональных систем, так и для отдельных сплит-систем, причём не только полупромышленного типа, но и инверторных настенных блоков бытовых серий.

Также в больших серверных возможно организовать локальный сервер сбора данных по протоколу SNMP, блоки ротации серверных кондиционеров с его поддержкой имеются на рынке.

Во второй части будут подробно рассмотрены прецизионные кондиционеры и использование приточной вентиляции.

В определенный момент некоторые предприятия дорастают до того состояния, когда их внутренние информационные системы перестают умещаться в одном серверном шкафу. Тогда руководителю IT-департамента предстоит взвесить все «за» и «против» и решить, строить или не строить серверную. Вариантов может быть несколько: от полного избавления от собственных мощностей и увода их в облака или колокейшн в большом ЦОДе, до строительства собственного мини- (или не очень мини) ЦОДа с блэкджеком.

Процесс расчетов, планирования и постройки серверной весьма ответственный и дорогостоящий. Вложится придется еще на стадии проекта, тут, кстати, можно сэкономить если все процедуры в серверной, от проектирования до строительства, будет производить один подрядчик. Естественное желание руководителя предприятия в такой ситуации - уложиться в минимально возможную сумму. И в штыки воспринимается любое удорожание проекта. В таких перепалках часто забывается, что, помимо строительства объекта, последует его содержание, которое при неправильном проектировании может оскуднить бюджет предприятия на еще одну несуществующую серверную по прошествии двух-трех лет.

Второй по величине потребитель ресурсов (в данном случае это электричество и расходники) в серверной - это система охлаждения. Ни для кого не новость, что “мощность” системы охлаждения серверной должна минимум совпадать, а в лучшем случае превышать на пару десятков процентов пиковую мощность всего оборудования установленного в серверной. О том, какие системы охлаждения бывают и как сэкономить на эксплуатации таких систем мы и поговорим в этой статье.

Классификация систем охлаждения помещений

Наиболее привычными для эксплуатации и понимания являются компрессорные кондиционеры. В них хладагент (в подавляющем большинстве случаев - фреон) переносит тепло от радиатора внутреннего блока во внешний, где рассеивает энергию в окружающую среду. Подробнее о принципе действия кондиционера можно прочитать . Затем идут жидкостные и комбинированные системы, в качестве основного хладагента используют воду или этиленгликоль, и выбор теплоносителя зависит не только от условий эксплуатации, а также от способа охлаждения. И самым эффективным решением, в определённых условиях, конечно, являются системы фрикулинга. Это исключительно прецизионные устройства, разрабатывающиеся почти с нуля в каждом конкретном случае.

Также стоит обратить внимание на классификацию по «формфактору». Тут условно можно разделить системы на два типа. Бытовые системы к которым мы все уже привыкли, обычно устанавливаются в офисах и квартирах, подвешиваясь на стены или потолок, но вполне могут служить системами охлаждения специализированных помещений. И прецизионные системы, куда можно отнести специализированные системы кондиционирования, и, конечно же, все фрикулинговые и жидкостные системы.

Внутри прецизионных систем есть систематизация по принципу действия и по способу доставки «холода» до «потребителей». И если с принципиальными отличиями все более менее ясно, то способов охладить непосредственно девайсы великое множество.

Среди классических общепринятых случаев можно выделить холодную комнату с установленными стойками, тут подойдут и бытовые кондиционеры. Классические варианты прецизионных решений- это устройства с рядными воздуховодами, с холодными и горячими коридорами, где стойки стоят рядами таким образом, чтобы забирать холодный воздух поступающий, например, из-под фальшпола. Они отдают нагретый воздух в коридоры, откуда он принудительно отводится. Также есть варианты с воздуховодами до каждой стойки, где воздух подается в каждую отдельно взятую стойку сверху или снизу и потом так же активно отбирается.

Неклассических решений чуть больше чем много. Надо ли говорить что все они прецизионные. Большинство решений это комбинации вышеназванных систем для повышения эффективности и сокращения затрат. Разброс тут - от индивидуальных кондиционеров на каждый серверный шкаф до жидкостного охлаждения каждого отдельного сервера или даже процессора. А так же стоит особо отметить системы с прямым контактом потребителя с жидкостью. В этом случае сервера полностью погружены в специальное масло. Масло это без запаха и абсолютно не проводит электричество. Жидкость постоянно циркулирует внутри бассейнов с оборудованием, и проходит через радиаторы охлаждения.

Стратегия

Не один раз стоит подумать о необходимости строить серверную. Существует мнение, что для мощностей меньше 5кВт выделенная серверная комната не нужна. Обычно все оборудование вполне себе «упихнется» в 42-47-юнитовую стойку-шкаф, и максимум что еще понадобится - это отдельная однорамочная стойка под кросс. Всё это можно отгородить от «админской» или какого нибудь другого помещения (главное не от бухгалтерии) стеклянной или гипсокартонной перегородкой с герметичной дверью, поставить спаренный бытовой кондиционер и идти пить пиво.

Но мы строим серверную. Прежде всего нам необходимо решить, какую систему охлаждения мы будем использовать, и дело тут не только в цене. Выбор способа охлаждения зависит от множества факторов: мощность оборудования, место расположения серверной комнаты в здании, географическое расположение самого здания и даже от предвзятого отношения к определённым типам охлаждающих устройств и недальновидности начальства.

Распространено мнение, что системам до 10кВт вполне хватит бытового кондиционера. Оно и понятно, ведь бытовые сплит-системы большей мощности, во-первых, достаточно проблематично купить, во-вторых, их стоимость приближается, а то превышает стоимость аналогичных по мощности прецизионных кондиционеров.

От местоположения серверной комнаты в здании сильно зависит возможность установки той или иной системы охлаждения, возможности подвести коммуникации, воздуховоды для специализированных систем, устроить фальшпол или установить турбины. При недостаточной высоте потолков невозможно устроить фальшпол нужной глубины, для установки туда воздуховодов обдува и забора воздуха прецизионной системы. Положение в середине здания создаст проблемы при прокладке воздуховодов, одного из вариантов фрикулинговой системы, а соседство с экономическим отделом вообще поставит крест на строительстве серверной из за «намжешумит».

Географический фактор играет одну из первостепенных ролей и часто ставит крест на возможности фрикулинга, если вы находитесь, например, в тропическом поясе. Именно поэтому ЦОДо строители так любят северные районы нашей планеты, ведь там можно вообще не использовать кондиционеры.

Вдобавок ко всему некоторые технические специалисты имеют своё собственное очень твёрдое убеждение в применимости одной системы и абсолютной неприемлемости других вариантов охлаждения. Они будут спокойно и уверено доказывать свою правоту, находя аргументы «за» и выискивая недостатки других предложений, от реальных до мифических.

В итоге, отталкиваясь от выбранной стратегии, мы и будем проектировать устройство самой серверной.

Стратегия охлаждения бытовыми кондиционерами

Вы обладатель небольшого парка серверов, 2-3 стойки с которыми будут стоять в отдельной комнате. У вас не намечается перспективы плавного роста мощностей и вы, либо не хотите заморачиваться, либо (что наиболее вероятно) не имеете бюджета на более энергоэффективные и экологичные решения.

Прежде всего решите, как в вашей серверной будут располагаться стойки с оборудованием относительно кондиционеров. Лучшим из вариантов в вашем случае будет установка внутренних модулей сплит-системы напротив ряда стоек один над одним, направленные на «лицевую» сторону открытой стойки или шкафа с сетчатой дверью. Оборудование внутри стойки имеет смысл устанавливать той стороной, с которой оно забирает воздух для охлаждения внутренних компонентов. Некоторые устройства, устанавливающиеся в стойки, могут быть перестроены или даже выпускаться в исполнении, когда они либо забирают либо выбрасывают воздух с лицевой стороны, или в одну из боковых стенок. Подумайте об этом при покупке.

Даже если роста суммарной мощности не предвидится, кондиционеры стоит взять с запасом по мощности, например, взяв за максимум пиковое потребление-рассеивание самой «горячей» стойки и помножив на их, стоек, количество.
Минимум отказоустойчивости в этой стратегии - N+1. На практике это выглядит как два и больше кондиционеров одинаковой мощности, где «N» кондиционеров способный поддерживать рабочую температуру в серверной пока "+1" ремнтируется или обслуживается. Чаще всего в небольших серверных используется два агрегата. Для продления ресурса обоих кондиционеров необходимо использовать устройство ротации кондиционеров. Устройство в определённые периоды времени переключает работу с одного кондиционера на другой, отслеживает их запуски и контролирует производительность. При выходе из строя одного из кондиционеров оно должно автоматически подключить «спящий» и оповестить ответственного о проблеме. Стоит отметить, что эту функцию поддерживают далеко не все модели бытовых кондиционеров.

Все серверные сплит-системы, установленные в широтах нашей страны, должны иметь так называемый «зимний комплект». Он представляет собой блок правления, некоторое усовершенствование радиатора внешнего блока кондиционера и систему подогрева картера насоса. Работает автоматически.

Рис.1. Охлаждение бытовыми кондиционерами.

Прецизионные системы охлаждения помещений

Прецизионный (высокоточный) кондиционер (или другой охладитель) - создан в точности так, чтобы максимально эффективно работать в инфраструктуре с заданными конечными параметрами. Иными словами, когда мы говорим «прецизионный кондиционер», мы подразумеваем, что и помещение, и оборудование серверной, и сама «холодильная установка» разработаны в проекте, как совокупность технологий, позволяющих наилучшим образом обеспечить работоспособность, сохранность и долговечность дорогостоящего оборудования.

Надо ли говорить, что устройства индивидуального дизайна - удовольствие дорогое. Священные войны идут между приверженцами разных лагерей. Одни утверждают, что для обычной серверной комнаты достаточно спареного индустриального варианта бытового кондиционера, такие есть, например, у Daikin (серии FT и FAQ) или Mitsubishi (серии Heavy). При выборе такого варианта важно принимать во внимание такие минусы, как локальные застои горячего воздуха в углах или в юнитах стоек, которые не заняты активным оборудованием. Не менее опасный фактор - низкая влажность, ведь, как известно, кондиционер, осушает воздух. Сухой воздух способствует накоплению статического электричества, наличие статического потенциала на тонкой электронике негативно сказывается на работе чипов, и повышает риск их уничтожения разрядом. Конечно, большая часть факторов устранима, но в большинстве случаев это костылепроизводство. Дополнительные вентиляторы, увлажнители воздуха, это все множащиеся точки отказа, затраты на электроэнергию и обслуживание. Обслуживание, кстати, того же увлажнителя, дело не столько затратное по средствам, сколько по времени. Нужна регулярная чистка и ежедневный долив воды.

У прецизионников тоже не все гладко. Прежде всего они весьма габаритны: фреоновые кондиционеры имеют габариты двух-трех полноразмерных стоек. Так как контроль влажности - одна из основных функций специализированного кондиционера, то к внутренним блокам требуется подвести воду, что для некоторых IT-шников совершенно неприемлемо. Холодный воздух от таких агрегатов подводится к стойкам по воздуховодам, которые проводятся или под фальшполом, самый частый и самый дорогой вариант, или под потолком, что подразумевает высокие потолки и накладывает дополнительные ограничения на прокладку кабельных коммуникаций. Конденсаторы-охладители таких кондиционеров имеют порядочные размеры, и сразу возникает вопрос с их размещением и подводкой системы труб от внутреннего блока.

С минусами покончили, перейдем к плюсам. Сюда можно отнести: высокую производительность, резервируемость только активных компонентов кондиционера (например воздуховоды, я думаю, -резервировать смысла нет), четкий контроль за температурой и влажностью, возможность детального мониторинга. Плюсы следующие отсюда- это относительная экономия, гарантированая доставка холодного воздуха до потребителя, поддержка высокой плотности потребителей на стойку (это скорее правило, если стойка будет пустовать, она будет работать неэффективно и влиять на всю «экосистему»). Между увеличением затрат на кондиционер и последующей энергоэффективностью прослеживается вполне объяснимая взаимосвязь.

Как я уже говорил, самым распространенным явлением прецизионного кондиционирования является коридорная система, где стойки расположены рядами и установлены так, чтобы забирать воздух из холодных коридоров (куда воздух подается кондиционером) и отдавать в горячие (откуда воздух отбирается системой вентиляции). Воздуховодом такой системы чаще всего служит фальшпол. Панели самого пола в основном сплошные, вся кабельная коммуникация по возможности из-под фальшпола переносится под потолок, перед рядами стоек в полу устраиваются решетчатые панели откуда охлажденный воздух поступает на лицевую сторону стойки. Двери серверных шкафов при таком устройстве делают сетчатыми с обоих торцов, или же или же совсем не делают. Затем нагретый серверами воздух выдувается в горячий коридор откуда высасывается системой принудительной вентиляции. В идеале, следуя принципам термодинамики, вытяжку стоит располагать вверху горячего коридора, но часто это делают в фальшполу для экономии пространства над стойками для прокладки кабельных коммуникаций. С относительно недавних пор, холодные и горячие коридоры стали делать герметичными от общего помещения серверной. Этим удалось добиться существенной экономии на рассеивание ценного холода. В свободные юнитовые пространства шкафов обязательно требуется устанавливать заглушки, потому что горячий воздух так и норовит смешаться с охлажденным. Этим можно повысить эффективность охлаждения в полтора-два раза.


Рис. 2. Система с открытыми коридорами, очевидны потери драгоценного холодного воздуха.


Рис. 3. Более эффективная, система с изолированными коридорами.

Intel, например, преследуя идею максимально просто и эффективно охлаждать оборудование, пошли дальше и даже запатентовали стойку с вытяжкой . Стойка представляет собой обычный 19" шкаф, но глубже аналогов и имеет в верхней крышке воздуховод, открывающийся в пространство фальшпотолка, откуда горячий воздух высасывается кондиционерами. Вся система, кроме кондиционеров, абсолютно пассивна. Но при этом, по утверждению Intel, способна охлаждать 32 кВт оборудования на стойку.

Принимая во внимание климат нашей страны, у прецизионных кондиционеров есть еще один большой плюс: их схему можно достаточно безболезненно доработать, добавив полный или частичный жидкостный контур. Используя в качестве хладагента этиленгликоль, параллельно контуру кондиционера строят еще один контур с жидкостным охлаждением, тем самым сокращая затраты на электричество, обслуживание кондиционера и увеличивая срок службы оных. Эффективность гликолевого контура начинается уже при температуре ниже +20 С, что даже летом по ночам в России совсем не редкость.

Дополнительный жидкостный контур дублирует таковой фреоновый, и в принципе может работать круглосуточно, в дневное «жаркое» время охлаждая компрессор кондиционера и конденсатор, а при падении уличной температуры переходя на частичное и полное охлаждение внутреннего теплообменника.

Лидерами среди производителей прецизионных систем охлаждения являются Schneider Electric, STULZ, Emerson Network Power, RC Group. Среди их решений есть и готовые комбинированные системы.

Жидкостные системы

Принципиальная разница жидкостного охлаждения и фреонового лишь в том, что в контуре жидкость чаще всего не меняет фазового состояния, отчего при равной мощности системы водяные и гликолевые системы проиграют фреоновым в эффективности. Однако у жидкостных систем есть неоспоримые преимущества, такие как емкость и универсальность. В системах с жидкостным охлаждением охладителем может быть как фанкоил на крыше или во дворе здания, так и система отопления самого здания. Жидкость может охлаждать воздух в серверной, а может использоваться как хладагент для отдельно взятого процессора . Неоспоримое преимущество жидкостного кондиционирования - это практически неограниченная протяженность трас, за счет низкой цены на хладагент, для самой же системы это только плюс. Самое опасное в данной ситуации - это протечка токопроводящего агента, но, судя по всему, это никого уже не пугает. IBM в этой ситуации отличился строительством SuperMUC, где добился 40% экономии энергии за счет отсутствия в системе охлаждения чиллеров. А Google в большинстве своих ЦОДов и вовсе используют систему собственной разработки, где используется система холодных и горячих коридоров.

Еще одна система с жидкостью подразумевает погружение сервера в специальное минеральное масло. Масло - диэлектрик, так что замыкания не будет. Что касается энергоэффективности, то, по утверждениям специалистов того же Intel, на систему охлаждения в таком случае затрачивается на 90% меньше энергии, а также снижается энергопотребление самих серверов. Стойки для погружного жидкостного охлаждения уже выпускаются, например, компанией СarnotJet . Стойки пригодны для размещения любых серверов, только предварительно требуется вытащить из них все вентиляторы.


Рис. 4. Самое жидкостное охлаждение

Еще одним фактором универсальности является огромное количество способов охлаждения хладагента. Для примера можно привести технологию SeaWater Air Conditioning (SWAC), по этой технологии построен ЦОД Google в Финляндии. Из названия понятно, что для охлаждения воды, поступающей в ЦОД, используется теплообменник на холодной воде, забираемой с морских глубин.

Классическая же система жидкостного охлаждения выступает посредником между относительно высокой температурой внутри помещения серверной и охладителем, чаще сухой градирней и чиллером, снаружи.

Сухая градирня представляет собой закрытый контур охлаждения, где жидкость поступает в радиатор, который принудительно обдувается воздухом. Есть еще мокрые градирни, в них вода разбрызгивается и одновременно продувается. В грядирнях, или фанкоилах, жидкий хладагент обычно только подготавливается, охлаждаясь до температуры воздуха, само же охлаждение происходит теплообменнике чиллера.

Чиллер - это холодильник, он действует на фреоне, охлаждая проходящую через его охладитель жидкость до требуемой температуры.

Для классического жидкостного кондиционирования верны все те же правила, что и для систем на фреоне. Охлажденный в испарителе воздух проходит через потребителей и отбирается из серверной самой системой охлаждения. Несмотря на то, что жидкостные системы более универсальны и в целом дешевле в эксплуатации, чем фреоновые, эффективность их ниже за счет большего числа посредников воздух-чиллер-жидкость-воздух. Согласитесь, не самая удачная схема.

Убираем посредников

Прямой фрикулинг - самый энергоэффективный способ охлаждения серверных. Конечно, его эффективность целиком зависит от температуры воздуха «за бортом», но некоторые изменения в стандартизации и различные зеленые технологии постепенно двигают системы охлаждения серверных именно в этом направлении.

Начнем с того, что крупнейший стандартизатор инженерных систем, а в частности систем охлаждения и отопления, ASHRAE (англ. American Society of Heating, Refrigerating and Air-Conditioning Engineers) - Американское общество инженеров по отоплению, охлаждению и кондиционированию воздуха, с 2004 г. два раза повышало рекомендуемую температуру воздуха для охлаждения серверных с +22 до +27 градусов С. А в 2011 году были внесены поправки в стандарт, стратифицирующие два новых класса оборудования для серверных A3 и A4, где температурный диапазон увеличен до +40 и +45 градусов. Производители серверов уже выпускают такие модели. Хотя они еще не получили широкого распространения, все больше ЦОДо строителей склоняются к использованию зеленых технологий в охлаждении.

Для серверных в наших широтах фрикулинг может стать если не полной заменой классической модели охлаждения, то серьёзным подспорьем в охлаждении в холодное время года, а также позволит снизить и мощность кондиционеров.
Самой большой проблемой прямого фрикулинга является общая загрязненность воздуха в городах. Может случится так, что количество, расход фильтров и мощность вентиляторов для их продува может свести на нет всю экономию по электроэнергии и мощности. Это проблема решается разделением контуров и введения между ними теплообменника на основе роторного рекуператора . В данном случае фильтры тоже понадобятся, но более дешевые и с минимальным сопротивлением воздуху.

Другой большой проблемой является то, что, при вспомогательной функции нашего фрикулера, он будет плохо сочетаться с бытовыми системами и лучше всего с прецизионными.

Из плюсов: при прямом фрикулинге нет риска пересушить воздух в помещении серверной, т.к. идет постоянный обмен воздухом с внешней средой. С другой стороны, влажность воздуха на улице может категорически не соответствовать принятым стандартам влажности для серверных комнат, и тут на помощь приходит один из главных козырей систем фрикулинга - адиабатическое охлаждение.

Давно замечено что влажный воздух у водоемов всегда прохладнее чем на равнинах в удаленни от них, вспомнить хотя бы морской бриз. Для адиабатического охлаждения воздуха не нужно ни систем резервирования ни сложных технических решений. Устроены они по принципу мокрых градирен, в нагретый внешний воздух в камерах форсунками разбрызгивается вода, которая испаряясь охлаждает и увлажняет воздух. Данная система не только эффективно понижает температуру внешнего воздуха, но так же и создает необходимую влажность воздуха. Правда в таких системах появляется новый расходный материал - вода. По этому, на равне с PUE (Power usage effectiveness) ASHRAE ввела новый термин WUE (Water usage effectiveness (PDF)) . За что отвечают данные параметры я думаю понятно всем.

В качестве ярких примеров внедрения таких систем можно упомянуть ЦОД eBay “Меркурий” в Фениксе (США) и Facebook в Прайнвилле (США).

Вместо заключения

«Так как же, все таки охлаждать небольшие серверные на пару десятков кВа?» - спросите вы.
Ответ неоднозначен. Большинству читателей подойдет решение из двух нормальных бытовых кондиционеров. Те же, кто сможет убедить собственное руководство в необходимости экономии и введения экологичных инноваций, получат море головной боли и потом бесконечное наслаждение конечным результатом.

Как я уже говорил, конкретное решение сильно зависит от климатических условий конкретного региона. Для восприятия климатической картины лучше всего взять историческую справку по максимумам и минимумам температуры и влажности за всю историю инструментальных наблюдений в вашем регионе или городе, а также проанализировать подробные данные по самым жарким температурам за последние лет 10-20. Этого с лихвой хватит на то, чтобы выработать четкую стратегию.

Несмотря на все плюсы фрикулинга, в условиях средней полосы, в 80 случаях из 100 обойтись без компрессорного или жидкостного кондиционера скорее всего не получится. В связи с этим, общая идея построения “большой” энергоэффективной серверной такова:

  • Это помещение с прецизионной системой охлаждения. В помещении устроены фальшполы для подвода холодного воздуха, с разделением на холодные и горячие корридоры, изолированные от общего помещения серверной для обеспечения более четкого теплообмена.
  • Большую часть времени, система работает на прямом фрикулинге, при повышении температуры внешнего воздуха подключается система адиабатического охлаждения. При превышении допустимых норм по температуре влажности, подключается система компрессорного или жидкостного охлаждения, т.е. кондиционер.
Столь интересная с технической и практической точки зрения адиабатика здесь не рассматривается ввиду своей специфичности, она требует более тонкого подхода к реализации. Что касается рассматриваемого варианта, то очевидно, что энергоэффективность в будущем потребует больших вложений на стадии строительства.

Стоит обратить внимание на то, что такая система не сможет работать без адекватного и подробного мониторинга состояния внутренней среды. Мониторинг температуры в холодном и горячем коридорах, влажность воздуха внутри и снаружи, наличие воды в системе адиабатики, контроль протечек. Для этого существуют устройства мониторинга, способные публиковать данные с различных датчиков через Ethernet или Wifi. Представлены они в виде плат, корпусных изделий и изделий для установки в стандартные 19" стойки. К примеру, netping уже оснащаются встроенным GSM модемом с SMS-модулем, способным оповестить о существенных изменениях параметров или срабатывании датчика не только ответственные узлы системы охлаждения, но и вас лично.

К тому же все эти данные не только можно, но и нужно вводить в систему глобального мониторинга, например, Zabbix , где по графикам и выборкам можно анализировать карту температур серверной, коррелировать изменения внутри серверной и снаружи. Автоматизировать создание инцидентов, основаных на совокупности показателей, а не на каком-то одном.

Все это позволит отстроить систему охлаждения на максимальную эффективность и предупредить её поломки.
К сожалению, в одной небольшой статье невозможно досконально проработать тему охлаждения серверной. С одной стороны, может показаться, что фрикулинг - это выход для всех, но на самом деле, это достаточно рискованное предприятие. История знает порядочно количество эпичных ситуаций, когда из строя выводились целые ЦОДы из за ошибок в проектировании и недостаточном внимании к деталям. Наилучшим, хоть и более дорогим, является решение, которое подразумевает дублирование штатных систем охлаждения альтернативными.
Больших вам ЦОДов, и непрестанного шума в серверных.