VMware VMFS5和LUN大小调整–是多个较小的数据存储,还是1个大数据存储?


10

由于VMFS5不再具有VMFS卷的2TB限制,因此我正在考虑哪种方案总体上更有利:

  • 数量较少的LUN数量较大,或者
  • 更多的LUN,尺寸较小。

就我而言,我有一个带有600GB磁盘的新的24磁盘存储阵列。我将使用RAID10(大约7.2TB),并尝试决定是使用1个大型7TB数据存储,还是使用1TB的多个存储。

每种方法的优缺点是什么?

更新:当然,我忽略了在计算中包括热备份,因此它只有7.2TB以下,但总体思路是相同的。:-)

更新2:有60个VM和3个主机。我们所有的VM都不是I / O密集型的。它们中的大多数是Web /应用程序服务器,还有诸如监视(munin / nagios),具有最小负载的2个Windows DC之类的东西。除非数据库服务器具有非常低的I / O要求,否则很少对其进行虚拟化。现在,我认为我们唯一的虚拟数据库服务器是MSSQL框,该框上的DB <1GB。

更新3:有关阵列和FC连接的更多信息。该阵列是IBM DS3524,两个控制器,每个控制器具有2GB缓存。每个控制器4个8Gbit FC端口。每个ESXi主机都有2个4Gbit FC HBA。


1
您是否获得使用StorageDRS的许可?
斩波器

@ Chopper3:我们当前拥有常规的企业许可证,而不是Plus,因此目前没有StorageDRS。
ThatGraemeGuy 2012年

@ThatGraemeGuy的解决方案是什么?
ewwhite 2014年

@ewwhite:可悲的是,我不记得了。那是很久以前的事,而我已经离开这个工作已经一年了。:-(我依稀记得每24磁盘阵列进行4同样大小的VMFS数据存储&我知道我们没有任何I / O问题,在所有移动到新阵列,FWIW后
ThatGraemeGuy

Answers:


4

您没有指定拥有多少VM或它们将要做什么。即使没有这些信息,由于块大小/性能,争用和灵活性等原因,我也避免使用一个大的LUN。


2

我假设您要虚拟化服务器,而不是台式机,好吗?接下来,我假设您将使用多个ESX / ESXi服务器访问您的存储,并由vCenter Server管理它们。

在确定LUN大小和VMFS数量时,您需要权衡以下几个因素:性能,配置灵活性和资源利用率,同时受基础架构受支持的最大配置限制。

从1个VM到1个LUN / VMFS映射,可以获得最佳性能。在相同VMFS上的机器之间没有竞争,没有锁定争用,每个负载被分开,所有事情都变得很糟糕。问题是,您将要管理大量的LUN,可能达到支持的最大限制,对VMFS调整大小和迁移感到头疼,资源利用不足(VMFS上的单个百分比可用空间加起来),并且通常会创建不好管理。

另一个极端是指定用来托管所有内容的大型VMFS。这样,您将获得最佳的资源利用,在VMFS Y处于空闲状态时,确定将部署在何处以及VMFS X成为热点的问题将没有问题。成本将是综合绩效。为什么?由于锁定。当一个ESX正在写入给定的VMFS时,另一个ESX将被锁定,以完成IO和重试所需的时间。这会降低性能。在游乐场/测试和开发环境之外,这是错误的存储配置方法。

公认的做法是创建足以容纳多个VM的数据存储,并将可用存储空间划分为适当大小的块。VM的数量取决于VM。您可能希望在VMFS上拥有一个或几个关键的生产数据库,但允许将三到四打的测试和开发机器放在同一数据存储上。每个数据存储的VM数量还取决于您的硬件(磁盘大小,rpm,控制器缓存等)和访问方式(对于任何给定的性能水平,您可以在同一VMFS上托管比邮件服务器更多的Web服务器)。

较小的数据存储区还有另一个优势:它们可以防止您实际在每个数据存储区中塞满太多虚拟机。在一个半TB的存储上,没有额外的TB的虚拟磁盘可以容纳任何管理压力(至少在他们听说精简配置和重复数据删除之前)。

还有一件事:创建这些数据存储时,将以单个块大小为标准。当您想跨数据存储执行某项操作并看到难看的“不兼容”错误时,它将在以后简化很多事情。

更新:DS3k将具有主动/被动控制器(即,任何给定的LUN均可由控制器A或B提供服务,通过非所有者控制器访问LUN会导致性能下降),因此它将获得回报,使LUN的数量为偶数,在控制器之间平均分配。

我可以想象从15个VM / LUN开始,其空间将增长到20个左右。


顺便说一下,VMFS5的锁定争用要少得多。
斩波器

在虚拟机和存储系统上添加了一些其他信息。
ThatGraemeGuy 2012年

1

对于您的问题的简短答案是:这完全取决于您的IO模式,这对于您的环境是唯一的。

我建议您在这里看看http://www.yellow-bricks.com/2011/07/29/vmfs-5-lun-sizing/,因为这可以帮助您考虑预期的IOPS以及适合的LUN数量。就是说,如果您谨慎行事,有些人会建议您使用多个LUN(如果我对上一个答案的更正得到批准,请参阅我对阵列端LUN IO队列的评论)。我倾向于同意,但是会进一步将它们一起扩展到单个/很少的VMFS卷中(不相信有关扩展的FUD,以及其他VMFS限制http://virtualgeek.typepad.com/virtual_geek/2009/03 /vmfs-best-practices-and-counter-fud.html)。这将具有在vSphere内管理单个/少量数据存储的好处,并且由于vSphere会在每个范围的第一个块开始自动在可用范围内平衡VM,因此性能优势可将IO分布在多个LUN上。

还有其他需要考虑的问题……您说这些VM都不是特别耗费IO的。鉴于此,您可能想考虑使用RAID5和RAID10的组合,以充分利用两个方面(空间和速度)。

此外,如果您的VM配置有多个VMDK,并且OS和应用程序IO模式分布在这些虚拟磁盘(即,OS,Web,DB,日志等各自位于单独的VMDK上),则可以在其中找到每个VMDK。一个不同的数据存储以匹配该物理LUN的IO能力(例如RAID5上的OS,RAID10上的日志)。将所有相似的IO模式保持在一起以充分利用基础磁盘的机械性能,例如,使一个VM中的日志写入不会影响另一个VM中的Web读取率,这一切。

仅供参考...您可以成功地虚拟化数据库服务器,只需要分析IO模式和IOPS速率并将该IO定位到合适的LUN;同时要知道该LUN已经在执行的IO模式和IOPS。这就是为什么许多管理员将虚拟化归因于数据库性能不佳...因为他们没有仔细计算多个服务器将它们放置在共享LUN上时会生成的IO / IOPS (即,这是管理员的错,而不是虚拟化的错)。


0

每个卷(LUN)都有其自己的队列深度,因此为了避免IO争用,许多实现都使用更多的较小LUN。也就是说,您可以非常轻松地使数据存储区跨LUN。据我所知,更大(和更少)VMWare数据存储区的缺点是,您可能会遇到对同时打开的VM数量的一些限制。


0

另一个考虑因素是控制器性能。我不特别了解您的SAN,但大多数(如果不是全部)SAN都要求一次将LUN归单个控制器所有。您希望系统上有足够的LUN,以便平衡控制器之间的工作量。

例如,如果您只有一个LUN,则一次只能使用一个活动控制器。另一个将无所事事,因此将处于闲置状态。

如果您有两个LUN,但是一个LUN比另一个更忙,则可以同时使用两个控制器。当您添加更多LUN时,控制器将更平均地分担工作负载。

为您提供具体建议:

就性能要求而言,您的VM都相对相同。我将创建两个LUN,每个控制器一个。开始将虚拟机放置在第一个LUN上,并随着虚拟机稳定下来,测量随时间推移的I / O延迟和队列深度。请不要使用第二个LUN。继续填充LUN 1.您将到达一个开始看到LUN已满的性能指标的位置,或者将一半的VM迁移到了该LUN,并且仍保持了性能。

如果确实看到性能问题,我将从LUN 1中删除30%的VM,并将它们移至LUN2。然后以相同的方式开始填充LUN 2。如有必要,请转到LUN 3。这样做的目的是在给定的LUN上实现最大VM密度,并为软糖室节省大约30%的开销。

我还将为任何沉重的虚拟机制作一对“高性能” LUN。同样,每个控制器一个来分担工作量。


-1

根据上述说明,您可以使用1个数据存储区。60台虚拟机超过3台主机还不错(20:1)。但是,我建议您在经济上可以在至少一台主机上将HBA升级到8Gb,前提是您的光纤交换机至少是8Gb交换机。

话虽如此,我将在阵列上至少建立2个(如果不是3个)数据存储。每个主机1个数据存储,所有服务器都通过vMotion访问其他服务器。我对IBM阵列了解不多;使用EMC,我将为每个数据存储创建一个具有3个LUN的RAID10组。通过此设置,带有8Gb HBA的主机将非常适合您的更高I / O系统。

您可以做1个数据存储/服务器,在某些情况下我自己做,但是我只在特殊服务器上进行SAN复制。设置vMotion时,要在9台服务器上管理87个不同的数据存储,会造成混乱!我的大多数虚拟机位于共享数据存储中,其中有5-10台服务器,具体取决于它们需要多少空间。

最后一点。如果故障转移对/群集中有任何类型的服务器或负载均衡的服务器,则需要将它们放在不同的数据存储中。您不希望数据存储失败,然后不留任何服务器。诚然,如果您丢失了阵列,那么您将丢失所有内容,但这就是我们备份的原因,对吗?


2
我很难相信OP将需要超过2x4Gb带宽,甚至1x 4Gb带宽。除了“更多总会更好”之外,您能解释一下为什么升级值得吗?同样,创建3个数据存储听起来很不错,但是说“每台主机一个”会造成混淆,因为显然所有主机都可以访问所有数据存储。否则,您将无法使用Storage vMotion,vMotion或HA ...
Jeremy 2012年

我并不是说全面添加8Gb,而是建议,而不是要求。2x4Gb很棒,我永远不会仅仅因为您需要冗余路径就做1x4Gb。将其集成在一个目录中就可以实现向更高的I / O系统的扩展。哎呀,我目前使用2x4Gb HBA运行我们的Exchange系统,但是每个主机只有3-4个VM。
ARivera3483 2012年
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.