Размер блока при создании RAID

Обсуждение технических вопросов по продуктам Novell

Размер блока при создании RAID

Сообщение Костюков » 24 мар 2003, 17:13

Всем день добрый.

Озадачился я необходимостью обоснования размера блока при создании RAID. Подумал, что он должен совпадать с размером блока файловой системы. Т.е. блок на RAID = блок на Volume. Это верно?
Покритикуйте, обоснуйте и т.д.
=============================

Kostukov Oleg Moscow
-----------------------------
Kostukov_Oleg@mail.ru

http://K-O-A.Narod.RU/
Костюков
 
Сообщения: 21
Зарегистрирован: 23 дек 2002, 17:19
Откуда: Москва

Сообщение Alexander Gallo » 25 мар 2003, 12:05

У меня именно так и сделано, вычитал в http://netware.nwsoft.ru/perl/novell_fa ... ll_faq.zip файл tune.txt
Цитата:
14. Disk Block Size (размер блока на диске)
-------------------------------------------
Исходя из наших проверок, мы рекомендуем использовать блоки размером 64KB на
всех томах. Большой блок позволяет NetWare более эффективно использовать
дисковый канал за счет единовременного чтения большего количества данных,
что ускоряет доступ к устройствам массовой памяти и улучшает реакцию сервера
на запросы пользователей сети. Если вы используете диски RAID5, установите
размер блока соответствующим количеству дисков в массиве
(set the block size equal to the stripe depth of the RAID5 disks)

(*Comment:*)

Размеp кyсочка (на котоpые pазбивается большой блок данных) записываемого на
каждый диск в составе RAID5 массива.

Допyстим y меня есть RAID5 массив из 5 дисков. Stripe Size = 8kb.

Я записываю блок 64kb.
1-е 8kb записываются на 1-й диск.
2-е 8kb записываются на 2-й диск.
3-е 8kb записываются на 3-й диск.
4-е 8kb записываются на 4-й диск.
Hа _5-й_ диск записывается CRC по этим четыpем блокам.
_и сдвигаемся на однy позицию._
5-е 8kb записываются на 2-й диск.
6-е 8kb записываются на 3-й диск.
7-е 8kb записываются на 4-й диск.
8-е 8kb записываются на 5-й диск.
Hа _1-й_ диск записывается CRC по этим четыpем блокам.

(это один из частных слyчаев конфигypации raid массива. Hапpимеp можно pаботать
без crc, это бyдет raid0. Можно выделить под crc отдельный диск и не сдвигать
поpядок следования. Это не помню как называется.)

Соответственно по квоченомy текстy: В идеале Stripe Size в RAID5 массиве и
pазмеp блока нетваpевого тома должны быть pавны и составлять 64kb. ;)
Аватара пользователя
Alexander Gallo
 
Сообщения: 108
Зарегистрирован: 12 окт 2002, 18:30
Откуда: Санкт-Петербург,

Сообщение Сметанников Олег » 25 мар 2003, 13:40

*Performance, Tuning and Optimization* - TID*10012765* (last modified
09OCT2002)

14. Disk Block Size

Based on our performance testing, we recommend a 64KB block size for all
volumes. The larger 64KB allocation unit allows NetWare to use the disk
channel more efficiently by reading and writing more data at once. This
results in faster access to mass storage devices and improved response
times for network users. If you are using RAID5 disks, set the block
size equal to the stripe depth of the RAID5 disks.
Сметанников Олег
 
Сообщения: 28
Зарегистрирован: 10 июн 2002, 10:04
Откуда: г. Оренбург

Сообщение Костюков » 25 мар 2003, 14:02

А как быть с NSS томами у которых размер блока = 4K ?
=============================

Kostukov Oleg Moscow
-----------------------------
Kostukov_Oleg@mail.ru

http://K-O-A.Narod.RU/
Костюков
 
Сообщения: 21
Зарегистрирован: 23 дек 2002, 17:19
Откуда: Москва

так все-таки

Сообщение Антон Савельев » 20 янв 2005, 13:21

... как быть со stripe size если том - NSS (NetWare 6.0)?
Антон Савельев
 
Сообщения: 219
Зарегистрирован: 16 авг 2002, 15:31
Откуда: Мурманск

Сообщение Музалёв Николай » 20 янв 2005, 14:11

...отдельный диск и не сдвигать...

Это называлось RAID-4
armoracia rusticana (lat.), "блины" и "фиги" всех видов, а также смайлики - крайне не желательны !
Музалёв Николай
 
Сообщения: 3026
Зарегистрирован: 04 июн 2002, 19:58
Откуда: Беларусь. МИНСК.

и все-таки хотелось бы

Сообщение Антон Савельев » 20 янв 2005, 15:44

узнать как у многоуважаемого ALL выглядит такая настройка...
Будет ли разница если поставить stripe size = 4К равный размеру блока 4К на NSS-томе по сравнению например со stripe size = 64К для того же тома NSS...
Антон Савельев
 
Сообщения: 219
Зарегистрирован: 16 авг 2002, 15:31
Откуда: Мурманск

Сообщение Lab » 31 май 2005, 11:24

*Performance, Tuning and Optimization* - TID*10012765* (last modified
09OCT2002)

.... If you are using RAID5 disks, set the block
size equal to the stripe depth of the RAID5 disks.


Как вы поняли эту фразу ? Что размер блока должен быть таким же как и размер страйпа - да, но нет ли впечатления :) , что первичен, все таки, размер страйпа а затем размер блока?
Lab
 
Сообщения: 196
Зарегистрирован: 08 дек 2003, 13:57
Откуда: Москва

Сообщение Мещеряков Андрей » 31 май 2005, 12:36

Не могу согласиться с максимальным размером кластера :o
У кого стоит массив с термоядерным приводом (может это и выход :lol: ), способный перекрыть реальную пропускную способность сети, тому все равно. Всем остальным смертным стоит подумать:
1. При работе с базами данных (DBF :D ) базы после завершения "переходных процессов" читаются исключительно из кеша сервера. Дисковый канал, таким образом, ботает только на запись...
2. Чем меньше кластер, тем возможнее точная оптимизация записи, т.к. меньше кластера файловая система записать не может, даже если в DBF хотят записать всего 1 байт.
3. Таким образом, уменьшение размера кластера наоборот, разгружает дисковый канал от качания ненужных данных.
Аватара пользователя
Мещеряков Андрей
 
Сообщения: 1999
Зарегистрирован: 19 сен 2002, 14:55
Откуда: lipetsk

Сообщение Влад А.Сокол aka Akina » 31 май 2005, 13:12

Рекомендация равенства stripe block size и volume block size сомнительна.

Обоснование: в таком равенстве был бы толк, если бы существовала гарантия, что физически расположение блока тома приходится как раз на блок массива, т.е. нет смещения. Однако любому понятно, что сие не так. Следовательно, при несовпадении границ запрос одного блока тома порождает чтение 2 блоков РАЙД-массива.

Из этого проистекает любопытный вывод - теоретически оптимальный размер блока на РАЙДе невелик. Скажем, для РАЙД5 оптимальный размер блока для размещения Нетваревого (да и не только) тома равен (размер блока тома)/(кол-во дисков в массиве - 2). При этом чтение одного блока тома приводит к 1 операции чтения с каждого из дисков массива.
Влад А.Сокол aka Akina
 
Сообщения: 1326
Зарегистрирован: 05 июн 2002, 09:24
Откуда: Зеленоград, Москва, Россия

Сообщение Евгений Сафонов » 06 июн 2005, 09:57

Всем добрый день!

Отмечу, что удовлетворение одного запроса на чтение с нескольких дисков - это далеко не всегда плохо.
То же самое можно сказать и про запрос на запись.

Непосредственно рекомендации Novell таковы
(взято из документации на NSS)

In RAID 0 and RAID 5 configurations, NSS writes data to each member device in turn. The maximum amount of data (in KB) committed to each write to a segment is called a stripe. Striping is unrelated to file block sizes that you might set on your storage device. Set the stripe size in increments of powers of two, between 4 KB and 256 KB (4, 16, 32, 64, 128, 256). The default stripe size is 64 KB. To maximize performance of the RAID, set the stripe size to correspond with your typical data write requirements. In general, use smaller stripe sizes for data servers and medium-to-large sizes for file servers. For most implementations, 64 KB provides the best performance.

Т.о., для хранения таблиц SQL / DBF серверов - стрипы поменьше,
для хранения файлов пользователей - побольше, по умолчанию 64Кб неплохо подходит для всего, а если хотите НАСТОЯЩЕЙ ОПТИМИЗАЦИИ - то смотрите статистику - какого размера обращения происходят чаще всего.

Не стоит забывать также высказывание Д.Кнутта:
Все наши беды - от несвоевременной оптимизации.
:wink:
Когда живёшь в полной мере тем, о чём мечтал - плохому самочувствию неоткуда взяться.
Аватара пользователя
Евгений Сафонов
 
Сообщения: 29
Зарегистрирован: 06 мар 2003, 19:56
Откуда: Екатеринбург

Сообщение Мещеряков Андрей » 06 июн 2005, 11:11

Сдается мне, что размер блока в 64 кб "кочует" по этим рекомендациям с конца 80-х :) Тогда это было безпроигрышно, т.к. "сборка"файла из очень мелких блоков для 386/486 серверов была трудоемкой задачей, 3.х даже с подблоками не работала именно по этой причине - скорости (простоты) ради. Сейчас - эта задача курам на смех... А вообще-то сама проблема надумана :)
Аватара пользователя
Мещеряков Андрей
 
Сообщения: 1999
Зарегистрирован: 19 сен 2002, 14:55
Откуда: lipetsk

Сообщение Мещеряков Андрей » 06 июн 2005, 11:20

Евгений Сафонов писал(а):Т.о., для хранения таблиц SQL / DBF серверов - стрипы поменьше,
для хранения файлов пользователей - побольше, по умолчанию 64Кб неплохо подходит для всего, а если хотите НАСТОЯЩЕЙ ОПТИМИЗАЦИИ - то смотрите статистику - какого размера обращения происходят чаще всего.

Не стоит забывать также высказывание Д.Кнутта:
Все наши беды - от несвоевременной оптимизации.
:wink:

Однозначно, что работа с sql\dbf базами даст 99% обращений. Все остальное - это вялотекущее копание в документах, и влиять на статистику практически не будет. Так что - Да здравствует мелкий блок :)
По поводу второго высказывания :lol:
"...Если человеку мешает жить только ореховая скорлупа в ботинках...он может считать себя счастливым..." (С) Разрешу напомнить основной и единственный прием разрешения быстродействия дисковой подсистемы у Конкурента - ставьте диски побыстрее... и не мешайте машине работать :D И ведь работають :)
Аватара пользователя
Мещеряков Андрей
 
Сообщения: 1999
Зарегистрирован: 19 сен 2002, 14:55
Откуда: lipetsk

Добавлю, из личного опыта.

Сообщение Alexander Gallo » 06 июн 2005, 12:33

Используем уже давно внешний РАИД массив на Malex DAC-960. Сначала был подключен к серверу NW411, через adaptec какой точно не помню но 40Mb/s это максимум. Размер блока на райде 64к том традиционный есстес. Отработал много и хорошо. Прикупили новое железо поставили NW6.0 и уже к нему прикрутили этот вешний раид кфг раида не менял том NSS. Пока ставил переливал данные всё было хорошо, но когда полезли пользователи пошли ошибки ввода вывода. Опытные люди с NW форумов, подсказали, что это задыхается мой старый уже и медленный раид контроллер, типа NW через новое железо пихает ему такие объемы, что он не может ето переварить. А Stripe Size на раиде это и есть кол-во информации считываемой за раз, и его значит надо уменьшать. Изменить Stripe Size пока не получается, это ж надо слить-залить 150Гб примерно, остановить сервер на выходные как минимум. Пока вставил в сервер старенький скази и подрубил раид к нему, всё работает хорошо. Вообщем для себя я понял, что Stripe Size надо подбирать исходя из производительности железа.
Аватара пользователя
Alexander Gallo
 
Сообщения: 108
Зарегистрирован: 12 окт 2002, 18:30
Откуда: Санкт-Петербург,

Сообщение Alex-M » 06 июн 2005, 14:45

Влад А.Сокол aka Akina писал(а):Из этого проистекает любопытный вывод - теоретически оптимальный размер блока на РАЙДе невелик. Скажем, для РАЙД5 оптимальный размер блока для размещения Нетваревого (да и не только) тома равен (размер блока тома)/(кол-во дисков в массиве - 2). При этом чтение одного блока тома приводит к 1 операции чтения с каждого из дисков массива.


Интереесная мысель... :D А как насчёт внешних ящщыков? iSCSI/FC? А ежели массив из, скажем для начала, 60 дисков - тогда сколько? Для NSS имеем 4096/60-2 ~ 71 байт? Ыыы... даже не смешно...

Вывод другой - при уменьшении страйпа растёт число ИОпсов, что не способствует лёгкой жизни мозгов контроллера... И вскоре наступает предел возможностей райд-энджина, даже если при этом сами дисковые/хостовые каналы ну совершенно не загружены. Пример - случайное чтение или запись большого количества данных мелкими порциями (DBF; Web или FTP с большим числом одновременных обращений; syslog, многопоточный логгинг вообще; SQL, вообще журналируемые/индексируемые базы - Lotus например; и т.д.)
Надо гонять тесты на моделях ввода-вывода, наиболее типичных для данного приложения...
Или брать нечто среднее, вроде тех же 64К... :-)
Вагончик тронется, НОВЕЛЛ - останется!!!
Alex-M
 
Сообщения: 298
Зарегистрирован: 21 авг 2002, 16:46
Откуда: Москва, МИД России

След.

Вернуться в Novell

Кто сейчас на конференции

Сейчас этот форум просматривают: Yahoo [Bot] и гости: 5

cron