目录同步与自动对等发现


10

我正在使用位于Amazon云自动扩展功能(文档)背后的Linux服务器集群。每个服务器上都有累积的文件,它们是应用程序的缓存文件。我正在寻找一种自动化的方法,以使服务器之间相互同步该文件夹。

  • Rsync 如果有人有一个聪明的方法来进行对等检测,它将可以工作。
  • 同样适用Unison
  • 我们还考虑过使用SaaS(例如Dropbox)。
  • Gluster似乎有些矫kill过正,而且我不确定让一台新计算机自动加入群集有多么容易。

理想情况是,当启动新服务器时,它将发现其对等端并开始同步文件夹。从那时起,它是最新的文件时间戳赢得P2P同步。

那里有什么可以做的吗?


该命令不执行对等检测,但是无论-mrsync.sourceforge.net,它都可能引起关注。
Faheem Mitha

Answers:


1

您可能听起来很奇怪,但是在私有ec2范围内使用启用了DHT的rtorrent可以工作

这会给你

  • 自动对等发现
  • 验证文件的状态(对哈希表示是)
  • 最低配置要求(在启动脚本中为torrent添加磁石(或最新ip的虚拟IP))
  • 可扩展性

1

Rsync上游提供对SLP(服务定位协议)的支持。在原始rsync来源中未启用该功能,但是您可以在rsync主页(slp.diff)的rsync-patches tarball中找到SLP支持。例如,SUSE rsync软件包是使用该补丁构建的;我不知道其他发行版。

我不确定这是您要寻找的东西,但是我对SLP没有任何经验。


0

也许我在这里丢失了一些东西,但是是否有某些原因使您不只是设置一个简单的NFS目录,而是让所有计算机都挂载了该目录?每当应用程序写入新的缓存文件时,它都应该覆盖所有旧的缓存文件。


1
嗨,opsguy。您所缺少的是带有NFS的计算机发生故障时会发生什么?我们正在努力消除缓存的单点故障。

0

我非常确定有一些Amazon管理工具,例如Command Line Tools,它允许您编写启动脚本以使节点通过私有或公共IP地址彼此发现。

顺便说一句,如果rsync和Unison必须非常频繁地分发更改以缓存,则它们不是正确的工具。在这种情况下,您应该考虑使用一些真正的分布式文件系统。


0

也许DRBD(分布式块设备)?


1
感谢您的回答,但缺乏实质性内容。DRBD并不那么知名,它至少不需要链接。但实际上,您应该提供更多信息:DRBD为什么合适?如何运作?特别是考虑到Kevin认为Gluster过度杀伤:为什么DRBD不会?
吉尔(Gilles)“所以,别再邪恶了”,

我只是意识到您正在寻找自动对等发现,因此这一选择不适合您。DRBD是您实际硬件上或某些卷顶部的块设备,然后通过网络对其进行同步。
MSpike 2011年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.