Привет. Отличные инструкции для профи. Рассмотри вот эту систему и работу с ней - Tahoe-Lafs. Инфы совсем мало, а хороших манов совсем нет. Так же на гите много готовых инструментов под неё. Очень полезная вещь в будущем ввиду происходящих изменений сегодня. Еще совет - делай ролики не такими профессиональными, больше gui, проще решения для не инженеров. Командная строка это все равно, что ассамблер. Применять нужно только когда нет альтернативы. И народ потянется на канал. Но это на твое усмотрение. Для меня в принципе норм. Задачу закрывают. Молодец. Спасибо.
Ну насчёт хранилищ... Есть же San решения на стойку целую с дисками и несколько контролёров к ним для отказоустойчивости.. Плюс расширения по FC или SasoverEthernet
Спасибо, посмотрел с удовольствием! P.S. вдруг кому-то пригодится: 1) добавление правила для ip почему то не сработало, помогло добавить сервис. firewall-cmd --add-service=glusterfs --permanent firewall-cmd --reload 2) получал ошибку Error: host hostname is not in "Peer in Cluster" при создании volume, помогло добавить записи в хосты с fqdn записями и передобавить хосты в gluster используя уже имена peer detach / peer probe
Существую ли решения где избыточность устанавливается на уровне директории? Грубо говоря объединили мы 100 дисков по терабайту в один пул, дальше просто создали папку указали в ней что файлы должны лежать как минимум на 3 дисках, а другая папка обычная. Просто заранее указывать размер разделов которые будут для репликации не удобно, а хочется использовать максимум места по мере необходимости которая сразу неизвестна.
Ну, вы можете создавать датасеты, которые выглядят как простые папки и ограничивать им максимальный размер. В рамках одного пула. А для того, что бы эффективно расходовать место, можно создавать разные пулы с различными политиками избыточности. Где используется три диска, а где и одного достаточно. Это как я понимаю. Делать такое разделение на уровне одного пула невозможно.
Под все возможные сценарии работы, скорее всего, нет. Однако, вы, конечно, можете сами собрать сервер согласно своим требованиям. Например, заходим на сайт предлагающий различные сервера Supermicro и выбираем сервер для хранения данных www.avadirect.com/supermicro-store Тут не сложно убедиться, что разброс конфигураций просто зашкаливает. Вот, например, скромный вариант шасси на 10 дисков SSD www.avadirect.com/6018R-TD8-Xeon-E5-2600-v3-v4-SAS-SATA-Series-Server-System/Configure/10341874 Минимальная комплектация 2500 долларов. Самый слабый предлагаемый процессор всего 8 Cores. На некоторых десктопах сильнее. Или вот такой монстр, где процессор в базовой комплектации и того слабее www.avadirect.com/Supermicro-SuperStorage-6049P-E1CR24H-Intel-Xeon-Scalable-SATA-SAS-4U-Storage-Server-Computer/Configure/11613140 Однако, как правило, такое железо придется отдельно заказывать, платить чудовищные таможенные пошлины и не факт что доставить его в ваш регион будет экономически целесообразно. Поэтому, вы скорее всего пойдете и купите типовой сервер, доступный на складах вашего города и вот тут выбор может быть гораздо печальней.
В планах еще об очень многом хочется рассказать и охватить разные по уровню подготовки аудитории. Проблема в свободном времени и возможностях. Однако развлекательных видео и обзоров на этом канале точно не будет. Удачи вам.
@@unixway4196 если можно расскажите доступно про инструменты учета трафика, например iptraf и настройку iptables, ну и вообще про безопасность. Как содержать систему в чистоте, где какой мусор накапливаестя и чем его удалять. Спасибо.
Конкретно про iptables уже есть видео, про iptraf и другие инструменты возможно запишу в будущем. Хочется сделать серию коротких роликов на разные темы, но пока не продумал формат
Спасибо Вам большое за видео. Просмотров конечно маловато, но вы делаете очень полезную работу!
Мэн - ты единственный, чьи мануалы РАБОТАЮТ!
Отличная подача материала, спасибо за видео!
Спасибо огромное за видео, подчерпнул кое-что новое для себя) интересно было бы про ceph посмотреть, хотя там наверное очень большие видео получатся
Таймкоды:
00:01 - Введение (проблема хранения данных)
10:50 - Обзор распределённых FS
17:58 - Ceph
18:48 - Lustre
19:09 - MinIO
19:28 - DRBD
22:35 - Gluster
27:03 - Практика
28:08 - Разбиваем диск
32:10 - Установка Gluster
35:48 - Создание томов (теория)
43:20 - Создание кластера (практика)
47:12 - Создание томов Distributed (практика)
50:24 - Монтирование FS на клиенте, FUSE
53:52 - Создание томов Replicated
56:58 - Split Brain
1:02:10 - Создание томов Distributed-Replicated
1:05:10 - Монтирование на клиенте
1:07:10 - Том Dispersed
1:11:20 - Том Distributed-Dispersed
1:14:07 - Резюме
@unixway4196 добавь их пожалуйста в описание видео - чтобы они выкачивались с помощью yt-dlp --embed-metadata
Привет. Отличные инструкции для профи. Рассмотри вот эту систему и работу с ней - Tahoe-Lafs. Инфы совсем мало, а хороших манов совсем нет. Так же на гите много готовых инструментов под неё. Очень полезная вещь в будущем ввиду происходящих изменений сегодня. Еще совет - делай ролики не такими профессиональными, больше gui, проще решения для не инженеров. Командная строка это все равно, что ассамблер. Применять нужно только когда нет альтернативы. И народ потянется на канал. Но это на твое усмотрение. Для меня в принципе норм. Задачу закрывают. Молодец. Спасибо.
Ну насчёт хранилищ... Есть же San решения на стойку целую с дисками и несколько контролёров к ним для отказоустойчивости.. Плюс расширения по FC или SasoverEthernet
Спасибо, посмотрел с удовольствием!
P.S.
вдруг кому-то пригодится:
1) добавление правила для ip почему то не сработало, помогло добавить сервис.
firewall-cmd --add-service=glusterfs --permanent
firewall-cmd --reload
2) получал ошибку Error: host hostname is not in "Peer in Cluster" при создании volume, помогло добавить записи в хосты с fqdn записями и передобавить хосты в gluster используя уже имена peer detach / peer probe
Хороший обзор.
Спасибо, за подробное объяснение!
У кого появиться ошибка при "gluster peer probe ": peer probe: failed: Probe returned with Transport endpoint is not connected
Откройте порты:
# firewall-cmd --zone=public --add-port=24007-24008/tcp --permanent
# firewall-cmd --zone=public --add-port=24009/tcp --permanent
# firewall-cmd --zone=public --add-service=nfs --add-service=samba --add-service=samba-client --permanent
# firewall-cmd --zone=public --add-port=111/tcp --add-port=139/tcp --add-port=445/tcp --add-port=965/tcp --add-port=2049/tcp --add-port=38465-38469/tcp --add-port=631/tcp --add-port=111/udp --add-port=963/udp --add-port=49152-49251/tcp --permanent
# firewall-cmd --reload
Супер! Пиши еще! Куда тебе задонатить?
Существую ли решения где избыточность устанавливается на уровне директории? Грубо говоря объединили мы 100 дисков по терабайту в один пул, дальше просто создали папку указали в ней что файлы должны лежать как минимум на 3 дисках, а другая папка обычная. Просто заранее указывать размер разделов которые будут для репликации не удобно, а хочется использовать максимум места по мере необходимости которая сразу неизвестна.
Ну, вы можете создавать датасеты, которые выглядят как простые папки и ограничивать им максимальный размер. В рамках одного пула.
А для того, что бы эффективно расходовать место, можно создавать разные пулы с различными политиками избыточности. Где используется три диска, а где и одного достаточно. Это как я понимаю. Делать такое разделение на уровне одного пула невозможно.
@@unixway4196 Почему невозможно? просто пока софта нету. Честно говоря не понимаю почему задача не выглядит сложной с точки зрения реализации.
3:20 А что не бывает специальных серверов, заточенных под хранилище, где процессор не бьёт рекорды, а дисковая подсистема напротив очень развитая?
Под все возможные сценарии работы, скорее всего, нет. Однако, вы, конечно, можете сами собрать сервер согласно своим требованиям. Например, заходим на сайт предлагающий различные сервера Supermicro и выбираем сервер для хранения данных
www.avadirect.com/supermicro-store
Тут не сложно убедиться, что разброс конфигураций просто зашкаливает. Вот, например, скромный вариант шасси на 10 дисков SSD
www.avadirect.com/6018R-TD8-Xeon-E5-2600-v3-v4-SAS-SATA-Series-Server-System/Configure/10341874
Минимальная комплектация 2500 долларов. Самый слабый предлагаемый процессор всего 8 Cores. На некоторых десктопах сильнее.
Или вот такой монстр, где процессор в базовой комплектации и того слабее www.avadirect.com/Supermicro-SuperStorage-6049P-E1CR24H-Intel-Xeon-Scalable-SATA-SAS-4U-Storage-Server-Computer/Configure/11613140
Однако, как правило, такое железо придется отдельно заказывать, платить чудовищные таможенные пошлины и не факт что доставить его в ваш регион будет экономически целесообразно. Поэтому, вы скорее всего пойдете и купите типовой сервер, доступный на складах вашего города и вот тут выбор может быть гораздо печальней.
Ссылку на статью в описание есть возможность закинуть?
задам глупый вопрос: про arch видео еще будут?
А про что бы вы еще хотели устышать на тему Арча?
В планах еще об очень многом хочется рассказать и охватить разные по уровню подготовки аудитории. Проблема в свободном времени и возможностях. Однако развлекательных видео и обзоров на этом канале точно не будет. Удачи вам.
@@unixway4196 если можно расскажите доступно про инструменты учета трафика, например iptraf и настройку iptables, ну и вообще про безопасность. Как содержать систему в чистоте, где какой мусор накапливаестя и чем его удалять. Спасибо.
Конкретно про iptables уже есть видео, про iptraf и другие инструменты возможно запишу в будущем. Хочется сделать серию коротких роликов на разные темы, но пока не продумал формат
А какой эмулятор терминала вы используете?
Использую terminator, но поигрался в настройках что бы сделать его удобным для записи видео. Использую шрифт Hack, крайне рекомендую его.
а кто такие Мы?
автор и зритель(т.е ты) = мы