Re: Нюансы взаимодействия ZFS
02.04.2018 14:17, Dmitry Kulagin пишет: >> Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS >> pool лучше поверх LUKS, а не наоборот. >> LUKS почти не вносит оверхед. >> А кэширование записи диска всегда возможно включить вручную (как и >> подобрать размер блока, который у ZFS, к тому же, переменный). >> > А после этого возникает закономерный вопрос: а зачем вам zfs? > Вы только что избавились от одного из самых больших плюсов zfs и > начали работать с device mapper, ну так продолжайте с ним работать, > lvm и вперед, зачем плодить сущности? > Кстати, их стало меньше: LVM и ФС теперь нет.
Re: Нюансы взаимодействия ZFS
On 02.04.2018 14:17, Dmitry Kulagin wrote: Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS pool лучше поверх LUKS, а не наоборот. LUKS почти не вносит оверхед. А кэширование записи диска всегда возможно включить вручную (как и подобрать размер блока, который у ZFS, к тому же, переменный). А после этого возникает закономерный вопрос: а зачем вам zfs? Вы только что избавились от одного из самых больших плюсов zfs и начали работать с device mapper, ну так продолжайте с ним работать, lvm и вперед, зачем плодить сущности? От какого же плюса я избавился? Как томами ZFS управлял, так и управляет. В чём тут проблема?
Re: Нюансы взаимодействия ZFS
Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS pool лучше поверх LUKS, а не наоборот. LUKS почти не вносит оверхед. А кэширование записи диска всегда возможно включить вручную (как и подобрать размер блока, который у ZFS, к тому же, переменный). А после этого возникает закономерный вопрос: а зачем вам zfs? Вы только что избавились от одного из самых больших плюсов zfs и начали работать с device mapper, ну так продолжайте с ним работать, lvm и вперед, зачем плодить сущности?
Re: Нюансы взаимодействия ZFS
31.03.2018 11:33, Eugene Berdnikov пишет: > On Sat, Mar 31, 2018 at 12:07:23AM +0300, artiom wrote: >>> Теперь вопросы: >>> >> Отвечу на свои же вопросы. >> >>> - Как желательно располагать ZFS разделы относительно разделов LUKS? >>> Сейчас ОС на ZFS, который на LUKS. >>> И это правильно, чтобы не усложнять. >>> Но здесь не важна производительность. >>> А как располагать swap и slog: поверх LUKS или наоборот (как в мануале)? >> >> - Прямое копирование на диск блоками по 4 MB: 185 MB/s (dsync: 136 MB/s) >> - LUKS раздел с поддержкой команд AES-NI: 184 MB/s (dsync: 135 MB/s) >> - ZFS volume = 170 MB/s (dsync: 50 MB/s). >> - LUKS on ZFS volume = 274 MB/s (dsync: 38 MB/s). >> - ZFS on LUKS = 187 MB/s (dsync: 50 MB/s) > > Третий вариант явно выбивается по цифрам из стройного ряда, что > наводит на мысли о какой-то ошибке или опечатке. > Четвёртый. И там действительно скачет, не ясно почему (точнее, почти ясно: кэширование, но oflag=direct не помогает). Именно поэтому стоит смотреть на то, что в скобках: dsync. > Да и странно, как чистый zfs может оказаться медленнее, чем он же над LUKS. > Видимо, статистическая ошибка измерений сравнима со вторым знаком > в этих числах, либо присутствует какая-то систематика. > Если смотреть на измеренное с dsync, то меня не сильно удивляет. Я подобную картинку где-то видел: ZFS дя некоторых операций много тормознее, чем ext4, а ext4 где-то даже бьёт xfs. Стоит заметить, что в данном случае SLOG не выносился на SSD. >>> - Как организовывать шифрованный пул? >>> Опять, тот же вопрос: LUKS->ZFS или ZFS->LUKS? >>> Если ZFS->LUKS, то не придётся ли мне сделать ZFS->LUKS->ZFS, >>> чтобы использовать все возможности ZFS в пуле? >>> - Имеет ли смысл делать /boot на ZFS? Т.е., создавать для него >>> зеркальный пул? >>> >> >> Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS >> pool лучше поверх LUKS, а не наоборот. >> LUKS почти не вносит оверхед. > > Не следил за "заверениями экспертов", но, по-моему, очевидно, что > шифрование выгоднее делать на уровне, который ниже всех кэшей. > Независимо от того, какой оверхед это шифрование вносит. > Да не так и очевидно.
Re: Нюансы взаимодействия ZFS
On Sat, Mar 31, 2018 at 12:07:23AM +0300, artiom wrote: > > Теперь вопросы: > > > Отвечу на свои же вопросы. > > > - Как желательно располагать ZFS разделы относительно разделов LUKS? > > Сейчас ОС на ZFS, который на LUKS. > > И это правильно, чтобы не усложнять. > > Но здесь не важна производительность. > > А как располагать swap и slog: поверх LUKS или наоборот (как в мануале)? > > - Прямое копирование на диск блоками по 4 MB: 185 MB/s (dsync: 136 MB/s) > - LUKS раздел с поддержкой команд AES-NI: 184 MB/s (dsync: 135 MB/s) > - ZFS volume = 170 MB/s (dsync: 50 MB/s). > - LUKS on ZFS volume = 274 MB/s (dsync: 38 MB/s). > - ZFS on LUKS = 187 MB/s (dsync: 50 MB/s) Третий вариант явно выбивается по цифрам из стройного ряда, что наводит на мысли о какой-то ошибке или опечатке. Да и странно, как чистый zfs может оказаться медленнее, чем он же над LUKS. Видимо, статистическая ошибка измерений сравнима со вторым знаком в этих числах, либо присутствует какая-то систематика. > > - Как организовывать шифрованный пул? > > Опять, тот же вопрос: LUKS->ZFS или ZFS->LUKS? > > Если ZFS->LUKS, то не придётся ли мне сделать ZFS->LUKS->ZFS, > > чтобы использовать все возможности ZFS в пуле? > > - Имеет ли смысл делать /boot на ZFS? Т.е., создавать для него > > зеркальный пул? > > > > Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS > pool лучше поверх LUKS, а не наоборот. > LUKS почти не вносит оверхед. Не следил за "заверениями экспертов", но, по-моему, очевидно, что шифрование выгоднее делать на уровне, который ниже всех кэшей. Независимо от того, какой оверхед это шифрование вносит. -- Eugene Berdnikov
Re: Нюансы взаимодействия ZFS
> Теперь вопросы: > Отвечу на свои же вопросы. > - Как желательно располагать ZFS разделы относительно разделов LUKS? > Сейчас ОС на ZFS, который на LUKS. > И это правильно, чтобы не усложнять. > Но здесь не важна производительность. > А как располагать swap и slog: поверх LUKS или наоборот (как в мануале)? - Прямое копирование на диск блоками по 4 MB: 185 MB/s (dsync: 136 MB/s) - LUKS раздел с поддержкой команд AES-NI: 184 MB/s (dsync: 135 MB/s) - ZFS volume = 170 MB/s (dsync: 50 MB/s). - LUKS on ZFS volume = 274 MB/s (dsync: 38 MB/s). - ZFS on LUKS = 187 MB/s (dsync: 50 MB/s) > - Как организовывать шифрованный пул? > Опять, тот же вопрос: LUKS->ZFS или ZFS->LUKS? > Если ZFS->LUKS, то не придётся ли мне сделать ZFS->LUKS->ZFS, > чтобы использовать все возможности ZFS в пуле? > - Имеет ли смысл делать /boot на ZFS? Т.е., создавать для него > зеркальный пул? > Отсюда вывод: всё-таки несмотря на "заверения экспертов" располагать ZFS pool лучше поверх LUKS, а не наоборот. LUKS почти не вносит оверхед. А кэширование записи диска всегда возможно включить вручную (как и подобрать размер блока, который у ZFS, к тому же, переменный).