Введение, зачем?
Длинное введение, зачем это надо мне и зачем нужны были остальным два года назад.
А помните Chia? Уверен многие мои читатели не просто скажут: "а вроде, припоминаем что-то такое" или коротко ответят: "нет не помним!" Они скажут: "Да мы и не знали этих басурманских слов! Изыди отродье! " Поэтому, просвещаю! Был и кстати, еще есть такой токен блокчейна Chia Network его создал основатель BitTorrent Брэм Коэнон. Он считает, что все сегодняшние криптовалюты используют слишком много электроэнергии и это плохо со всех сторон и в том числе со стороны "зеленых". А вот Chia работает на алгоритме Proof-of-Space-and-Time (PoST) и использует дисковое пространство в качестве валидатора транзакций. Короче у кого больше дисков (дискового пространства) тот и богаче! А еще это экономит электроэнергию и "зеленые" радостно хлопают в ладошки! В апреле, мае 2021 года популярность Chia Coin привела дефициту жестких дисков (HDD) и твердотельных накопителей (SSD). Из-за повышенного спроса на устройства их средняя стоимость выросла в три раза. Затем Chia Coin рухнул, были там и хайп, и рекламные статьи, и манипуляции и приписки. Короче создатели знатно об...лись! Но как не странно и по сей день Chia Coin жив! В данный момент сеть CHIA обладает более чем 400 000 активных узлов, что делает её одной из наиболее децентрализованных в мире. Многие считают, что майнить Chia невыгодно и не будет выгодно никогда, но тем не менее она существует и нужно всегда помнить об этом, а вдруг взлетит? Хотя я отвлекся, сегодня речь пойдет от дисках и о жестких дисках - HDD в частности. Реально у нас в стране наблюдается их дефицит, стало сложно купить нормальный жесткий диск и ключевое слово тут нормальный! Связаны проблемы доступности жестких дисков с Chia или нет не знаю, однако сейчас купить жёсткий диск не просто трудно, а очень трудно! Китайцы обнаглели и в открытую через маркетплейсы подсовывают в огромном количество б\у жесткие диски под видом новых с перешитым SMARTом, он нулевой и девственно чистый, а на деле диску уже пришел давно пришел кирдык, а сам он под завязку заполнен данными например с камер видеонаблюдения. SSD диски хороши но, опять как всегда вылезает жирное НО! Они еще маловаты объем и могут сломаться в любой момент и сломаться внезапно, а вот восстановить их очень сложно, а иногда порой просто невозможно. Вот и я озадачился проблемой жестких дисков мой HDD уже старый это WD My Book Live, ему 10 лет и у него уже не выдержал блок питания, нужно что то ставить на замену, но что? И я решил порыться в техно-помойке, конечно не настоящей, а на виртуальной свалке - Авито, можно даже сказать я открыл, а вернее переоткрыл для себя Авито. Прикупил там некоторых очень разных и иногда довольно странных вещей например вот это SCSI-Adapter PCI Tekram DC-315U
Или вот это Compaq SCSI-Adapter PCI-x Series E0B016
И сейчас думаю зачем они мне? Драйверов то нет, Compaq SCSI-Adapter вешает систему Dl380 G5 еще на этапе инициализации BIOS и даже шнурок SCSI купить проблема. Но о некоторых я хотел бы сегодня рассказать. И первое, что мне пришло в голову купить бывшие в употребление диски SAS, они лучше обычных дисков так как стояли или по крайне мере должны были стоять в идеальных условиях, в хорошо охлаждаемых серверах без тряски и пыли. Но для них нужен сервер или хотя бы контроллер. Я начал с малого и купил вот такой старый контроллер HP Smart Array P400 Raid (447029-001) кэш 512Mb с кабелями, Backplane и батареей. Покупал вот тут на Авито. Все это входило и входит в состав серверов Hewlett-Packard ProLiant Hp Dl370, Dl380 G5. Затем я упоролся настолько, что купил и сам сервер Hp ProLiant DL380 G5.
Но это уже другая история, а сегодня мы про HP Smart Array P400 Raid. Да и кстати если Вы соберётесь покупать, что то подобное, то P410, P822 не покупать!!! Практически, ни с какими мамками не совместимы, виснут после RAID BIOS, не патчатся.
Про контроллер
Собственно сам HP Smart Array P400 Raid
Полное название HP Smart Array P400 512MB Battery Kit (411064-B21)
Год выпуска 2005. Имеет два коннектора SAS или SATA порт SFF8484 connector на каждый можно подключить 4 диска, а значит всего 8 дисков Поддерживает SAS -1 это 3.0 Gb/s или SATA - 1 это 1.5 Gb/s. На снимки видна еще батарея это для запитки кэша и об этом будет ниже.
Характеристики
- 3 Гбит/с SAS (пропускная способность 300 МБ/с на физическое соединение)
- Физические каналы x8 3 Гбит/с SAS (совместимы с 1,5G SATA)
- 512 МБ 72-битной кэш-памяти DDR2-533 МГц
- Кэш-память с батарейным питанием обеспечивает максимальную пропускную способность до 4,2 ГБ/с.
- Хост-интерфейс x8 2.5G PCI Express обеспечивает максимальную пропускную способность 2 ГБ/с.
- Процессор 440 PowerPC
Сам чип LSI SAS1078
Зверски греется, некоторые приделывают радиатор, но в своей естественной среде он стоит не в очень хорошем месте без сильного обдува и думаю он спокойно выдержит и так. LSI SAS1078 много чего умеет, RAID 0, 1, 5, 6, 10, 50 и 60, располагает кэш памятью типа DDR2-533MHz, поддерживает экспандеры, горячее подключение, замену и пр.
Backplane 2.5 412736-001
(Backplane 2.5 Hp Dl370, Dl380 G5) Пишут что подходит и для сервера ML370 G4 (сам не проверял) и для других см. ниже.
Backplane (бэкплейн) - в общем случае это такая печатная плата с разъемами для подключения, в конкретном случае это плата для подключения массива жестких дисков.
И с другой стороны
Основная проблема была с распиновкой вот этого разъема питания.
Я не настоящий сисадмин и если честно вообще не сисадмин! Поэтому для меня стало открытием, что не существует стандартизации, а сама Hewlett-Packard выпускает серверы различных генерации и их разъемы совсем, ну вообще не совместимы между собой. Вот например, что я надыбал в интернете
Вот такую распайку
Или вот такие распайки
А это для генерации G7
Или вот такую
Но все они были неправильные для меня! Я порылся в интернете и все найденные форумы по нашей теме, как правило англоязычные, начинались просьбой о распайки, а заканчивались вмешательством инженера от HP и просьбой оформить заявку с вопросом в тех службу и на этом все. Вообще все! Тогда я прозвонил разъем и нашел сначала где земля, потом я оторвал резинку сзади вот такую
И увидел распайки земли "невооружённым" глазом, воочию.
А вот так ближе
Видно где земля, теперь есть от чего отталкиваться, затем прозвонил 5 вольт и 12 вольт зная распайку SAS разъема, а именно его "силовой" части, вот она для мамы, а в нашем случае для Backplane (бэкплейна).
Прозванивая разъем я искал 3.3 вольта и понял, что 3.3 вольта не заведено на разъем питания, т. е. их там нет вообще. Мне стало интересно, а нормально ли это? Забегая вперед и да - нормально, и нет - ненормально, и все это завязано на энергосбережении.
Power Disable Feature
Оказывается есть такая функция Power Disable Feature или функция отключения питания диска. Диски, как правило (особенно домашнего сегмента) вообще не используют питания 3.3 вольта и в нашем случае на SAS разъемы бэкплейна питание не выведено. В стандарте питания SATA/SAS была заложена дополнительная шина питания +3.3В, которая обычно не используется. Это так называемые "зарезервированные на будущее опции" и видимо это будущее не наступило? Или наступило в параллельной вселенной? Но так или иначе, была придумана технология Power Disable Feature.
Суть её в том, что если жёсткий диск видит напряжение +3.3 В на входном контакте, он выключается если был включен или не включается если был выключен. Это сделано для того, чтобы можно было удалённо, программно выключать/включать жёсткий диск, не касаясь его руками. Если HDD завис, такая процедура помогает вернуть его к работе автоматически, что актуально, когда например, диск натыкается на какую-то ошибку поверхности.
Все ли жёсткие диски подвержены этой проблеме? Нет, тут важно понимать, что если уж вы столкнулись с этой проблемой, то только потому, что этого жёсткого диска у вас в принципе быть не должно. Функция Power Disable - опциональная, её включают в жёсткие диски для производителей СХД и брендовых серверов, где в корзинах установлены активные ответные платы, и образно говоря, такие компании как Dell, HPE, EMC или Hitachi специально заказывают диски именно с этой функцией, чтобы облегчить процесс управления СХД для своих клиентов.
Но на самом деле все еще сложнее...
Как видим из распиновки имеет всего три контакта на колодке питания +3.3V (см. выше) и по спецификации SATA 3.2+ и SATA 3.3 для Power Disable Feature используется третий контакт разъема SATA (SAS) - P3? который ближе к земле. В старых спецификациях все три контакта соединены вместе. А в новой спецификации P1 и P2 объединены, а P3 расположен отдельно и управляет питанием. Это означает, что если вы объедините блок питания со старыми разъемами SATA с напряжением 3,3 В на P3 и новым жестким диском, поддерживающим функцию отключения питания, жесткий диск никогда не запустится, поскольку он будет видеть непрерывный сигнал высокого состояния на P3. Он застрянет в состоянии аппаратного сброса, что предотвратит вращение жесткого диска.
Многие диски вообще не воспринимают 3.3 вольта вот пример колодки с платой.
А вот где 3.3 вольта
Видим, что они просто соединены между собой и никуда не уходят далее. Но это мы отвлеклись от нашей распиновки, осталось два контакта, на что на них и зачем они я не понимал.
На борту имеются два микроконтроллера CY8C27443
CY8C27443 - распиновка
И с этого контакта проводник прозванивается на 20 ножку микросхемы, короче там 3.3 вольта. И в одном англоязычном видео на Ютубе в комментариях я нашел распайку.
_5,0В__| 3,3В__|_GND_|_GND_|5,0В
12,0В__|_GND_|_GND_|_GND_|12,0В
- 5,0В - КРАСНЫЙ;
- 12,0В - ЖЕЛТЫЙ;
- 3,3В - КОРИЧНЕВЫЙ;
- ЗАЗЕМЛЕНИЕ - ЧЕРНЫЙ
Напряжение 3,3 В можно взять с контакта 12 (оранжевый) питания материнской платы (ATX 20+4).
Распиновка разъема
И собственно сама распиновка
Или вот так, более крупно.
Видите на схеме +3.3V и GND отдельно, а дело в том, что GND не звонится с "основной массой GND" это видимо, управляющие сигналы.
Эта схема подключения также совместима с объединительными панелями: 449420-001 (DL580 G5), 392607-001 (ML350 G5), 412736-001 (DL380 G5), 396039-001 (ML370 G5) и, конечно, другие модели Gen5.
Но на этом мои проблемы с подключением не закончились. Дело в том, что в шнуре SATA питании нет трех вольт, вот вам пример переходников их тут шесть штук и в них нет 3,3 вольта.
Дербанить кабель к материнской плате для вытаскивания 3.3 вольт я не хочу. Хотя, 3.3 вольта есть в нормальных шнурах сделанных по спецификации, вот например кабель, не переходник как выше, а кабель от блока питания.
И это хорошо, осталось все спаять и сделать свой разъем для этого пришлось разобрать, разрезать SATA вилку
Для того, что бы подпаять 3.3 вольта. И тут китайцы подложили мне свинью, все разъемы у них обжимные, а я собирался подпаятся к ним. Первый раз залудились провода хорошо, но вот потом не лудится и все тут! А мой дорогой читатель уже наверное догадался, да это они, черт бы их побрал, омедненные провода! Изобретения злого сумрачного китайского гения! Кое как подпаялся так как менять провода уже было лень. И вот что вышло, вроде нормально, но перфекционист внутри негодует!
А вот тут наглядно видна распиновка
- Синий 3.3 вольта
- Черный - GND
- Красный - 5.0 вольт
- Черный - GND
- Желтый - 12,0 вольт
А затем я обернул в тканевую изоленту для красоты
Программное обеспечение
Итак вроде все спаяно теперь нужно подготовить систему. Контроллер старый на него есть драйвера на Windows 7 и Windows Server 2008 R2 и пишут на Windows 8.1 которые эта система устанавливает самостоятельно, тут мне помогла вот эта статья: "HP SmartArray P400 на пенсии" А вот страничка на сайте Hewlett Packard. А вот поиск по ключевому слову P400. Так как контроллер SmartArray P400 составная часть сервера Hewlett-Packard (HP) ProLiant DL380 G5 идем на страничку HPE ProLiant DL380 G5 Server и ищем драйвер на наш контроллер вот он: "HP ProLiant Smart Array SAS/SATA Controller Driver for Windows Server 2008 x64 Edition" и BIOS: "Online ROM Flash Component for Windows - Smart Array P400 and P400i"
Про жесткие диски SAS
Для того что бы проверить свой контроллер и посмотреть в живую на роботу SAS дисков я купил там же, у этого же Авито-продавца два вот таких жёстких диска SAS Toshiba AL13SE300.
Вот один из них крупнее
Вот страничка этих дисков в интернете
Версии SAS
Отступление о версиях SAS
- SAS-1 до3.0 Гбит/с (2004);
- SAS-2 до 6.0 Гбит/с (2009);
- SAS-3 до 12 Гбит/с (2013);
- SAS-4 до 24 Гбит/с, эффективная скорость составляет 22,5 Гбит/с) (2017).
- SAS 24G+ увеличение скорости не предусмотрено (2025–2026 гг.)
- SAS-5 до 45 Гбит/с. (годы ???)
Существующие версии интерфейса SAS (1.0, 2.0, и 3.0) имеют обратную совместимость между собой, то есть диск SAS 2.0 можно подключать к контроллеру SAS 3.0 и наоборот такая связка будет работать на скорости наименьшего интерфейса.
Исходя из таблички выше диски у нас версии SAS-2, 6.0 Гбит/с
Все подключил и... И ничего не заработало! Диски не раскручивались и даже не определялись от слова вообще. И тут начались мои мучения! Я не понимал, либо я неправильно подключил разъемную плату - Backplane (бэкплейн) и например, "убил" диски. Или они и были не рабочие сразу, по умолчанию. Для того чтобы во всем этом разобраться я подключил вот такой диск SATA (кстати купил десять штук подержанных там же на Авито, но у другого продавца)
Это Travelstar 5K500.B, 2.5", на 250 GB, 5400 RPM, Serial-ATA/300 это SATA 2.0, буфер 8192 KB. Вот его разъем SATA
Известно, что SAS и SATA совместимы между собой, но не обратно как пишут на всех сайтах (видимо им нравится словосочетания: "обратно совместимы"), а просто совместимы. Это значит к SAS контролерам можно подключать и SAS и SATA диски, а вот обратной совместимости нет - к SATA контроллерам можно подключить только SATA диски. Итак, подключил и все заработало!
Диск определился и заработал! А это значит, что у меня все подключено правильно! Но вопрос остался, почему же не определяется SAS диск? Я решил изготовить отдельные шнуры SAS из стандартных шнуров SATA, для того чтобы убрать воздействие разъемов SAS бэкплейна, вдруг это они виноваты! Все дело в том, что физически (и только физически) разъемы SATA и SAS совместимы, но логическая реализация протоколов разная (Вообще, принципиально разная! Даже адресация дисков разная. Поэтому нет модулей конвертеров из SATA в SAS и обратно). Для того чтобы использовать SATA шнуры питания и SATA-дата на диске SAS нужно срезать боковую стенку, тогда длинные разъем SAS, а именно его средняя часть не будет мешать воткнуть штекер. Срезаем вот так
Перевернуть и подключить их наоборот не получится, поэтому электрическая безопасность сохраняется, напряжение и данные поступят туда куда надо. Вот так они выглядят полностью на SAS диске
А вот тут неполностью вставленные штекеры, для наглядности, боковой стенки нет.
Все это я подключил одним концом в диск, а другим концом шнура в Backplane (бэкплейн) дело в том, что дата каналы идут напрямую от SFF8484 и до SAS разъемов их ничего не прерывает. А питание я соединил напрямую от блока питания минуя бэкплейн. Но и так диск SAS не заработал, а вот диск SATA работал без проблем! На последнем этапе, для того чтобы удостоверится, что именно диcки не рабочие, а не мой бэкплейн я вынужден был купить старые SAS диски. Вот такие
Это диски HP купил "оптом" там же на Авито уже у другого продавца, сам продавец не давал гарантии и не знал работают ли они.
- EH0146FBQDC 15k - 1 шт
- EG0146FARTR 10k -1шт
- EG0146FAWHU 10k - 2шт.
Подключил и все диски определились и заработали. Внизу на фото тестовое подключение с вентилятором в качестве охлаждения, SAS греются как печки!
Вот тесты, но "Виктория" как пишут глючит с SAS контроллерами, в данном случае один сбойный сектор - ровно самый последний, мне кажется это просто особенность "Виктории", в "HD Tune Pro" все хорошо
Через пять дней, а вернее, вечеров мучений я написал, а затем и съездил к тому самому продавцу из Авито и нужно отдать ему должное, он поменял жесткие диски на вот такие Segate Savvio 15K3 ST9300553SS2. Хотя и недоумевал почему они полностью не рабочие, а вроде они должны были быть замечательные и вообще нулевые. Он их разобрал (снял плату) и даже понюхал, но от этого работать они не стали, а причина их поломки так и не выяснилась.
А новые Segate определись, и нормально заработали! А я обратил внимание на следы коррозии на плате и да они вот такие пыльные. Это профессиональное оборудование которое должно и как правило работает в специальных условиях (я про серверные) и как правило сильных следов пыли или смолистых отложений, я про прокуренные помещения нет, а есть вот такая мелкодисперсная "лунная" всюду проникающая пыль.
Довольно часто следы коррозии возникают именно на платах жестких дисков, уж не знаю почему, плохо отмывают флюс? Так у меня коррозировал WD 1,0TB 10EZEX
Первый раз я его починил и залудил контакты к гермоблоку.
Но вот второй раз он скончался почему я так и не выяснил, хотя вот так выглядело все под микроскопом
Отмыл плату и прогрел паяльником, залудил но не помогло диск очень долго определяется, возможно проблема не в плате, а уже в гермоблоке, ищу донора для того чтобы проверить мое предположение, данные с диска мне не нужны, он стоял в видеонаблюдении. Но на Авито предлагают за какую то неадекватную цену, что обидно и неправильно. Памятуя вот этот случай с WD 10EZEX решил, что нужно обслужить диски SAS и лучше раньше чем позже, разобрал и снял плату. На всякий случай, скажу, плату снимать можно, а вот гермоблок разбирать нельзя, ну я думаю вы и так это понимаете! Помимо всюду проникающей пыли, коррозийных контактных площадок, термопрокладки от двух греющихся чипов задубели.
Измерил их толщину
Но так как толщина их "гуляла" решил не использовать готовые 0,5мм, а использовать жидкие. Залудил контактные площадки, отмыл платы и нанес жидкий термоинтерфейс "SmartMaster PRO" (покупал на Озоне вот тут) Этот интерфейс я использовал и в "народной" видеокарте RX 580 на VRM.
Собрал - все работает, жесткие диски обслужены! Не знаю как это повлияет на их здоровье, но думаю, по крайне, мере хуже не будет.
SMART
Чем смотреть SMART на дисках SAS?
У SAS-дисков нет СМАРТ в "классическом" понимании этого слова, однако, SAS есть свои показатели состояния и отслеживания здоровья и они более крутые чем в SATA, вот несколько утилит, но эта часть еще не дописана выкладываю как есть, затем дополню.
- Victoria (hdd.by/victoria) - глючит и показывает у некоторых дисков нечитаемый сектор ровно в конце диска
- HD Tune Pro (www.hdtune.com) - вроде работает, тестит но
- R.tester (rlab.ru/tools/rtester.html) - пишут что работает, но у меня не показывает.
Батарея питания кэша
Про Кэш. Если батарея разрешена то кэша нет, а вот если батареи нет совсем — кэш есть, вот такие пироги. Но все это можно настроить и через программное обеспечение и об этом будет ниже.
Осталось дело за малым, сделать, а вернее восстановить питание кэша. К плате подключается вот такая штука. Это питание кэша контроллера.
Собственно состоит из контролера подключаемого к плате райда и массива аккумуляторов. Контроллер мы трогать не будем, а займёмся аккумуляторными батареями. Вот так все выглядит в разборе
Контроллер
А вот так это все соединялось
Вот сами батарейки
А вот они в разборе
Это массив из четырех батареек напряжением 1,2 вольта выдающим суммарно 4,8 вольта
Характеристики одного модуля
- тип Ni-Mh
- напряжение 1,2V
- емкость 500 mah
Всего их 4, а значит 4,8V при емкости 500 mah
Теперь мы все знаем и будем колхозить, купил вот такие батарейки, а вернее Ni-Mh аккумуляторы
Это Ni-Mh аккумуляторы Crazypower тип AA, 1,2 В, 650 мАч их целых 8 штук, просто были со скидкой. А так же купил батарейный отсек 4 x AA для четырех R6, с проводами и выключателем.
Выключатель я удалил, он нафиг не нужен, а купил с ним просто потому, что так было дешевле.
Я разрезал бокс, отрезал отсек где были аккумуляторы, оставил только ту часть которая под контроллер, хотя и аккумуляторная часть мне понадобится.
И вот что получилось, тут все и разобранное и неразобранное и аккумуляторы
Выше я писал, что купил и сервер HP ProLiant DL380 G5
C точно таким же контроллером и убитыми батареями
Я его восстанавливаю до максимально возможной конфигурации и там тоже решил заменить батареи на вот такие: "Аккумуляторная батарейка AAA Космос, 1,2 В, 600 мАч
Которые купил на Ozone вот тут, затем купил вот такой бокс: "Батарейный отсек 2x для аккумуляторов типоразмера AAA" вот тут
Подточил до нужной толщины и ширины, выкинул кнопку, соединил, спаял контакты, вклеил и вот что вышло
Это уже с установленными аккумуляторами. А ниже они же зарытые и в своих местах.
Один бокс оригинальный другой разрезанный и туда поместились четыре батарейки, по две в каждый бокс. Вставил я туда уже заряженные аккумуляторы, но очередной раз китайцы (хотя причем тут китайцы аккумуляторы же наши? Или нет?)
подложили мне "свинью". При включении сервера была бесконечная зарядка, но как только я вставил вместо гламурных, розовых две своих (были только две батарейки) нормальных аккумуляторные батарейки на 1000мАч все сразу зарядилось и работало без проблем. Отсюда делаю вывод нет там 600мАч и даже видимо, нет 500мАч так как контроллер изначально рассчитан на 500мАч и не мог их никак зарядить просто потому, что емкости не хватало. Впрочем про модернизацию сервера HP ProLiant DL380 G5 совсем другая история, а на сегодня все, но как вы поняли продолжение обязательно будет. Я еще много про что хотел еще написать, но и так статья стала неимоверно большой, поэтому это будет уже в следующих сериях. А на сегодня все, мои маленькие сисадмины, а может быть и майнеры Chia? Подписывайтесь будет интересно и как всегда...
Продолжение следует...
P. S. История еще не закончена мне обещали корзину, VRM и радиатор, а так же память на HP ProLiant DL380 G5 и я очень заинтересовался Chia Coin, правда наступает новый дачный сезон, но так или иначе новые статьи выходят, хотя и заметно реже, это связано с дураками-руководителями на моей работе.
Подписывайтесь на мой канал TehnoZet-2, там много интересного! Мы только развиваемся! Понравилась статья, хотите продолжения - ставьте лайк, жмите палец вверх!
Подборки
Пользуйтесь рубрикатором по каналу, там все по разделам: "Страничка путеводитель по каналу TehnoZet-2"
Статьи по теме.
Подборка Asus P5Q PRO
Тэги.
#некроферия
#староежелезо
#мастерломастер
#diy
#сделайсам
#прокомпьютер
#компьютер
#ЭВМ
#ноутбук
#моежелезо
#железяка
#lga775
#lga771
#asusp5q
#xeon
#5460