分区级别的重复数据删除


8

块级别或更详细的重复数据删除有哪些可用的解决方案?

有基于文件的文件-使用“写时复制”方法。

我正在寻找块级别的“写时复制”,因此我可以定期寻找公共块,或者-最好-文件的一部分,合并它们并标记为CoW使用方式。是否有类似的东西可用,还是仍然需要创建它?我不确定Btrfs重复数据删除是否在块/文件/子部分级别?有LessFS,但是我不确定它提供什么级别的重复数据删除?也许其他解决方案?


我不明白为什么这个问题被否决。谷歌搜索“ Linux重复数据删除”会显示一个文件系统和产品的列表,我们不需要在此处重复。
凯尔·琼斯

这样的谷歌搜索返回了许多在文件级别上工作的解决方案。这个问题的目的是,提出一个适合我目的的建议-最好是消除重复的文件的任何两个部分,而不必调整为块级。如果此类解决方案不可用,则为块级。另一件事是,很多东西给人以实验性的印象-我依靠其他用户的经验来建议一些成熟的解决方案。
Grzegorz Wierzowiecki 2012年

1
@GrzegorzWierzowiecki不确定它是否适合该法案,但请正式检出 cyphertite的

Answers:


3

随着块级重复数据删除的发展,我认为ZFS是当前无可争议的最佳实现。实际上,它并不是为事后优化而设计的,因为它的重复数据删除(如果已打开)直接内置在读/写功能中。因此,在尝试将重复数据删除表中最相关的部分保留在内存中时,在负载下可能会有点内存昂贵,但是ZFS擅长将其自身限制为消耗不超过50%的内存,具体取决于安装的内存数量似乎很随意(2Gb的50%与64Gb的50%,特别是如果很少的用户任务需要内存)。

根据您要使用它的内容,您有一些选择:

基于Solaris,OpenIndiana似乎有一些不错的桌面和服务器选项

FreeBSD(自9.0起)内置了相当高级的ZFS版本(包括重复数据删除)。NAS4Free是其中一个值得注意的FreeBSD(当时是MonoWall)派生的发行,它使NAS变得非常容易。

Linux有几种选择,有些带有dedup,有些则没有。由于您在寻找dedup,因此我所看到的最著名的zfsonlinux。我不确定他们的进展是什么,或者他们的项目有多稳定,但是看起来确实很有希望。

对于任何具有部分块重复数据删除功能的产品,到目前为止,我还没有看到任何报告的功能。


0

由于术语“块”,您的问题有点混乱,当涉及磁盘和文件系统时,这是一个非常重载的词。(但是您周围的环境有助于弄清楚。)Btrfs不处理固定大小的文件系统“块”,而是处理可变大小的“范围”。(尽管,也令人困惑,它还定义了可变大小的块区域。)ZFS处理文件系统“块”,部分或主要是因为这样做显着地解决了问题。Btrfs和ZFS都知道磁盘级别的“块”,它们本身就是抽象的。(然后,我们还有“块级存储”,这在语义上可能是不同的意思。)我可能对这些描述有些了解,不够清楚,或者不是100%准确。(如果您需要对块的主题进行澄清和100%的准确性,假装你没有读过。如果您只需要粗略的理解才能继续,那么您应该很好。)这个答案的重点不是完美地定义“块”,而是下面的讨论,这在我的操舵室中更多。

正如@killermist所写,ZFS本机支持[ZFS]块级重复数据删除。

ZFS默认未启用它。在没有足够内存的情况下打开它会严重影响性能。而且,奇怪的是,ZFS需要比“建议的每1TB存储1GB RAM”的经验法则还要多的数量,以使整个哈希表适合RAM。但是即使如此,根据硬件的不同,您仍然可以达到40 MB / s以上的写入速度。我在运行约2015年驱动器的2008年技术上得到了这一点。对于大多数档案数据,我完全可以接受。ZFS重复数据删除的最大缺点是,除了打开dedup,将所有内容复制到磁盘外,还没有一种简便的方法可以在“批处理/脱机”(或更准确地说是“带外”)模式下进行此操作。同一文件系统上的新临时目录,删除原始目录,然后将(已重复数据删除的)临时内容移回。

可以说Btrfs重复数据删除略为简化,目前只有第三方实用程序可以完成这项工作。(但是它们使用了受支持的内核API和/或受支持的cp选项;并且使用了需要它们自己的逻辑来确定重复项的任何一种方法,人们都希望这种方法永远准确无误。)尽管如此,潜在的好处是那些实用程序是“带外”。但是,对于大多数实用程序而言,代价是它们会在牺牲性能的同时降低性能-可能需要数小时,数天甚至数周才能完成。(个人而言,我宁愿处理带内ZFS重复数据删除的写入性能始终较慢的情况,而不是将自己的HDD花费数天,例如每年一次结束)。

我知道有两个Btrfs解决方案是beesdduper,它们使用“块”(但在另一个定义中)而不是文件来处理

例如,蜜蜂根据可用内存和可能的其他因素,在首次运行时为其自己定义一个“块”大小。(尽管我可能会歪曲它的目的,功能,机制和优点/缺点,因为我不使用它,所以我只是在最近对其进行了评估。)

Bees可以说是有点杂种,因为它可以连续运行,并且不会对磁盘​​造成太大的冲击-尽管从技术上讲,它还不像ZFS dedup那样“带内”。它只是在事后提取重复项,并尝试轻触重复数据。使用任意定义的块大小意味着根据设计,它将适合哈希表在RAM中。缺点(大概)是“块”中可能存在相同的范围,但是Bee可能不会重复存储,因为它们所在的“块”不同。

请记住,即使实用程序专门执行“文件”级增加了Btrfs重复数据删除(如bedupduperemovermlint,和其他人),仍可能满足您的要求。我不确定,但是好像他们会那样。那是因为即使是“ cp --reflink = always”命令也没有真正对“ files”进行重复数据删除。它正在对Btrfs 范围进行重复数据删除。当重新链接的“文件”更改时,Btrfs仅将更改的范围取消重复数据删除,以其自身的唯一范围。文件的其余部分将保持重复数据删除。这就是大型重复数据删除文件仍然可以像它们自己的唯一文件一样发散,但是仍然大部分经过重复数据删除的情况。

(这也是为什么很难确定“文件”是否被重新链接的原因,因为该概念甚至都没有真正的意义。文件的所有范围本身都可能被重新链接到其他相同范围,一个确实可以是有道理的,但这恰好是一个特别棘手的问题,这就是为什么,除非Btrfs重复数据删除实用程序跟踪其已重复数据删除的内容,否则不值得尝试“检测”文件是否已重复数据删除。没有像refcount这样的属性可以进行检查。无论如何,再次进行重复数据删除会更容易。相反,确定整个文件是否以老式方式进行硬链接是微不足道的。只需检查给定inode的st_nlink计数即可。)

实际上,缺少“整个文件克隆”是所有支持“免费”快照和/或重复数据删除的CoW文件系统的固有功能,无论处理Btrfs扩展数据块,ZFS块还是其他东西,都是如此。这就是为什么任何一个都可能是您的问题的答案。(据我所知,至少还有其他三个可以或计划实现所有功能的CoW文件系统:nilfs2,bcachefs和xfs。)

尽管您没有提到这一点,但据我所知,没有重复数据删除技术可识别文件类型。换句话说,没有重复数据删除器会跳过* .jpg元数据,只考虑压缩图像数据进行重复数据删除。同样,它们都没有考虑文件魔术编号(至少用于确定要考虑重复数据删除的内容)。这可能是一个杀手级功能-尽管当然需要不断不断的定义更新。在将文件视为扩展区,块等的抽象M:M集合的同时,可能很难设计。


为了扩展这个旧答案,rmlint现在至少在目前是无可争议的btrfs重复数据删除程序。1)进行智能比较,以避免不必要地对重复的候选对象进行哈希处理,除非它已提出其他选择;2)development(并且我相信master)分支支持增量哈希,以及3)增量重复数据删除。后两个是巨大的功能。没有其他的重复数据删除程序可以提供这三个功能,因此从字面上讲可以减少后续运行的时间。
吉姆(Jim)

rmlint仅将相同文件视为重复数据删除的候选文件,而忽略仅具有部分重复范围的文件。
汤姆·黑尔

@ tom-hale我不明白你的意思吗?
吉姆(Jim)
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.