安防视频监控系统磁存储录像设备——软件定义存储与云存储

一、软件定义存储(SDS)

(1)软件定义存储的基本概念。众所周知,软件是用户与硬件之间的接口界面,用户主要是通过软件与硬件进行交流的。早期,为了大规模生产,降低制造的复杂度和成本。许多功能都固化在硬件里,我们可以称之为硬件定义。随着人民日益增长的多样化、个性化定制的需求,以及云计算的要求,更加智能、更加灵活的自动化的需求,由软件定义来操控硬件资源的需求将越来越多、越来越广。最早的空调里面也有软件,但相对固化,不提供或者提供非常少的接口,缺乏灵活性。那时,我们只能选择温度,或者开关;后来出现了更多的选择,如风速、风向等的设定。到了智能家居的时代,通过向应用软件开放空调的编程接口,使得我们能在回家之前,就借助手机或者平板,开启并设置空调了。

软件定义,究其本质,就是将原来高度耦合的一体化硬件,通过标准化、抽象化(虚拟化),解耦成不同的部件。围绕这些部件,建立起虚拟化软件层,以API(应用编程接口)的方式,实现原来硬件才提供的功能。再由管理控制软件,自动进行硬件资源的部署、优化和管理,提供高度的灵活性,为应用提供服务。简而言之,就是更多地由软件来驱动并控制硬件资源。

值得提出注意的是,软件定义其实是一个过程,不是一蹴而就的目标,它分成不同阶段。软件定义逐渐将硬件与软件进行解耦,将硬件的可操控成分按需求,分阶段的,通过编程接口或者以服务的方式逐步暴露给应用,分阶段地满足应用对资源的不同程度、不同广度的灵活调用。

在前述的高效存储技术中,实际主要多是靠软件,而软件定义存储(Software Defined Storage,SDS)是最近几年被频繁提及的一个词汇。软件定义的存储产品是一个将硬件抽象化的解决方案,它可以轻松地将所有资源池化,并通过一个友好的用户界面(UI)或API来提供给消费者。一个软件定义的存储的解决方案可以在不增加任何工作量的情况下进行纵向扩展(Scale-Up)或横向扩展(Scale-Out)。

用软件来定义存储,前提是仍有足够的存储空间。简单来说,一款容量管理程序就是一个软件定义存储的例子,但最近出现的词汇显然拥有更深层次的含义。也可将虚拟化存储(Storage Virtualization)归入这一类别。但对于严谨的人来说,这两类技术略有不同。虚拟化存储和软件定义存储都将存储服务从存储系统中抽象出来,且可同时向机械硬盘及固态硬盘提供存储服务。然而虚拟化存储只能在专门的硬件设备上使用。对于许多厂商来说虚拟化存储都要使用自己为其量身定制的设备:或者在特定服务器上加载的一款软件。虚拟设备并不代表其不需要设备,只能说不需要硬件即可运行。这本质上是虚拟后的虚拟化存储。虚拟存储设备可视为专用外部设备的一种进化,因为它拥有一般存储的性能,且花费可控制在一般虚拟设备的水平。

而软件定义存储是现存操作系统或监管程序中一种扩展的存储软件,它不需要特定的虚拟机来运行。许多操作系统、监管程序供应商或第三方服务都提供了相关特性如自动精简配置、快照技术、克隆与同步等。在这一层面,可靠的设计与潜在的高可用性是物理存储设备的必然要求。

这两种技术各有各的特点,均可为企业带来巨大的价值。随着数据中心的持续虚拟化,软件定义存储和虚拟化存储正成为扩展存储能力,以及提高虚拟环境性能的理想选择。

软件定义存储普遍代表了一种趋势,那就是软件和硬件的分离。对数据中心用户来说,只需要通过软件来实现对自身存储资源的管理和调度,而无须考虑后端的硬件基础设施。针对软件定义存储,各家厂商提出的概念也不尽相同,但意见比较统一的几点是软件定义存储需要实现存储资源的虚拟化、抽象化、自动化。总之,软件定义存储的核心在于用软件解决原先由硬件解决的(弹性)问题。

SDS允许异构的或者专有的平台。必须满足的是,这个平台能够提供部署和管理其虚拟存储空间的自助服务接口。除此之外,SDS应该包括。

•自动化:简化管理,降低维护存储架构的成本。

•标准接口:提供应用编程接口,用于管理、部署和维护存储设备和存储服务。

•虚拟数据路径:提供块、文件和对象的接口,支持应用通过这些接口写入数据。

•扩展性:无须中断应用,也能提供可靠性和性能的无缝扩展。

•透明性:提供存储消费者对存储使用状况及成本的监控和管理。

(2)中国电信率先实现SDS商用。2015年2月,中国电信浙江公司和华为共同宣布,通过联合创新,中国电信浙江公司采用华为FusionStorage解决方案实现了软件定义存储(SDS)的商用部署,并已稳定承载电信核心业务。据悉,这是业界首次在电信核心业务中应用软件定义存储技术。

软件定义存储是构建云数据中心的重要支撑技术,也是存储未来的发展方向之一。它虽然红到发紫,但仍属于新兴技术。而在云计算实践上,中国电信浙江公司实际上一直走得比较超前。该公司从2011年开始启动云计算建设,目前形成了规模近500台x86服务器,绍兴、金华两个物理节点双活的、统一的资源池,在网络上已经部署了VMware为主的虚拟化软件和SDN(软件定义网络),可以将计算、网络能力进行按需分配。

但是,该公司之前的存储采用的是高端FC SAN存储,如HP XP20000、IBM 8870等,通用FC网络进行连接。然而,随着业务的发展,传统的FC SAN存储数量多、组网复杂、成本高、存储功能单一等弊端越来越使得存储渐渐成为资源池的短板,因此将目光盯住了更灵活、开放的软件定义存储。通过与华为进行近一年的项目攻关,中国电信浙江公司构建P2P的万兆IP网络架构(骨干采用40GE互连),采用高弹性、超大容量的汇聚存储资源池代替了原资源池里中高端SAN存储阵列和FC网络。目前,该软件定义存储资源池已经上线了61台服务器,其中57台是存储节点、3台是管理节点、1台备份节点。采用3副本冗余的方式,全部用SATA盘保持数据,裸容量达到2PB。

大家知道,存储方案和系统的选择主要从性能、成本、可靠性、扩展性、运维便捷性等几个方面来衡量。其中,存储性能决定了一个应用能不能跑得更快,成本决定了部署业务系统的CAPEX是否更优,可靠性不丢数据是存储生存的基本要求,扩展性决定存储系统是否能够支撑业务的持续增长和发展,运维便捷性决定了新业务部署和实施是否更迅速、同时也决定了系统的OPEX是否更优。从上述儿个维度来衡量,中国电信浙江公司部署的华为FusionStorage软件定义存储解决方案已超过人们心中高高在上的传统FC SAN存储,具体从下述4个方面给出了回答。

①在性能和成本方面,中国电信部署的这套软件定义存储通过普通低成本的SATA盘和分布式的软件架构就达到了130万IOPS和120Gbps的高性能,超过了多套高端FC SAN存储阵列联合的性能。

②在可靠性方面,软件定义存储通过跨服务器的数据冗余机制,保障了多台服务器同时故障的情况下,数据仍然可读写、不丢失,解决了SAN双机头故障带来的性能下降和数据不可读写问题。而且,华为的FusionStorage软件定义存储还支持了异构的VMware虚拟化平台,应该说这更加开放,也更加符合中国电信的要求。

③在扩展性方面,通过分布式的软件定义架构达到近乎无限扩展的能力,满足迅速增长的未来业务需求。存储的扩容只需要增加普通服务器即可完成。

④在运维便捷性方面,华为的软件定义存储架构和扁平化的计算存储网络,真正让企业和运营商的IT做到了像互联网一样,维护人员只需要每周推车去更换一些故障硬盘即可,简单便捷高效。

上例反映了Sever SAN模式的软件定义存储已经走向成熟,可以大规模部署,在一定场合可替代传统高端存储。外国分析师社区wikibon 2013年的报告指出,到2022年,整体存储市场90%的份额都将是软件定义存储。

二、云存储

近年来,随着云计算技术的兴起,云存储受到了人们的广泛关注。云计算为用户提供两种服务:一种是计算资源服务,把计算能力作为一种服务提供给用户;另一种是存储服务,将存储作为服务提供给用户,即云存储。云存储通过一系列软件集合将各种异构存储设备集合在一起,构成海量存储空间供用户使用,需要存储服务的用户不再需要建立自己的数据中心,只需向云存储服务商申请存储服务,将自己的数据存放在云存储服务商提供的存储空间中。云存储模式使企业避免了存储平台的重复建设,节约了昂贵的软硬件基础设施投资。

目前,云存储模式得到了众多厂商的支持和关注,众多知名厂商纷纷推出自己的云存储服务,如Amazon公司推出的简单存储服务S3、谷歌推出的在线存储服务、微软公司推出的存储服务等。

(1)云存储技术的基本概念。从狭义上来说,云存储是指通过虚拟化、分布式技术、集群应用、网格技术、负载均衡等技术,将网络中大量的存储设备通过软件集合起来高效协同工作,共同对外提供低成本、高扩展性的数据存储服务。

从广义上来讲,云存储可以理解为按需提供的虚拟存储资源,如同云计算的Paas、laas服务一样,可称为DaaS(Data Storage AsaService),即数据存储服务,即基于指定的服务水平请求,通过网络提供适当的虚拟存储和相关数据服务。

云存储不是指某一个具体的设备,而是指一个由许许多多个存储设备和服务器所构成的集合体。使用者使用云存储,并不是使用某一个存储设备,而是使用整个云存储系统带来的一种数据访问服务。云存储的核心是应用软件与存储设备相结合,通过应用软件来实现存储设备向存储服务的转变。

云存储是将储存资源放到网络上供人存取的一种新兴方案,使用者可以在任何时间、任何地方,通过任何可连网的装置方便地存取数据。

云存储系统以传统的分布式存储技术为基础,利用高吞吐率网络技术为依托,一方面高效地整合管理网络存储资源,另一方面对外提供友好的接口,发布便捷的网络数据存储服务。

云存储是在云计算概念上延伸和发展出来的一个新的概念,是指通过集群应用、网格技术或分布式文件系统等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个系统。

当云计算系统运算和处理的核心是大量数据的存储和管理时,云计算系统中就需要配置大量的存储设备,那么云计算系统就转变成为一个云存储系统,所以云存储是一个以数据存储和管理为核心的云计算系统。

云存储的核心是应用软件与存储设备相结合,通过应用软件来实现存储设备向存储服务的转变。与传统的存储设备相比,云存储不仅仅是一个硬件,而是一个网络设备、存储设备、服务器、应用软件、公用访问接口、接入网、和客户端程序等多个部分组成的复杂系统,各部分以存储设备为核心,通过应用软件来对外提供数据存储和业务访问服务。

此外,云存储更多的是应用。应用存储是一种在存储设备中集成了应用软件功能的存储设备,它不仅具有数据存储功能,还具有应用软件功能,可以看成服务器和存储设备的集合体。应用存储技术的发展可以大量减少云存储中服务器的数量,从而降低系统建设成本,减少系统中由服务器造成单点故障和性能瓶颈,减少数据传输环节,提供系统性能和效率,保证整个系统的高效稳定运行。

(2)云存储系统的特点。综合以上定义,云存储系统至少应该具备如下特点。

①高可靠性:云存储系统的可靠性是应排到第一位的,因为没有人喜欢买三天两头坏掉的硬盘,因此代表高科技形象的云存储系统,其可靠性必须要求高。

②高可扩展性:云存储组件应该具有足够高的扩展性,应该能够通过在线扩充存储单元,进行有效的平滑线性扩展。云存储架构采用的是并行扩容方式,当容量不够时,只需采购新的存储服务器,容量即可增加,而且几乎没有上限控制。云存储系统可支持海量数据处理,资源可以实现按需扩展。

③高可用性:如果云存储服务不是针对在线用户的,则没有什么实际意义,如果针对在线用户,不具备足够高的可用性也是没有意义的。如Amazon的S3服务,给足够多的Web2.0企业解放了在硬件存储上的压力,但是偶然的一次宕机,就会影响所有的Web2.0用户。

④低成本:云存储本质上还是规模化经济,如果成本不能有效地控制,则云存储对厂家、对用户来说是没有意义的。云存储系统应具备高性价比的特点,其低成本体现在两方面,即更低的建设成本和更低的运维成本。

⑤无接入限制,容易使用:相比传统存储,云存储强调对用户存储的灵活支持,服务域内存储资源可以随处接入、随时访问。如果将数据存储在云存储系统,就可以从任何有互联网接入的地方得到这些数据。根本不需要随身携带一个物理存储设备或使用相同的计算机,来保存和检索你的信息,因而无接入限制,容易使用。

⑥容易管理:构建云存储系统,可管理性应该在设计之初就要考虑到,如果管理太复杂,则很难做到低成本、稳定性、可靠性。对云存储管理者来说,即使再多的存储服务器也只是一台存储设备,管理人员只需在整体硬盘容量快用完时,增加采购存储服务器即可。而每台存储服务器的使用状况都可以很方便地在一个管理界面上看到。少量管理员可以处理上千节点和PB级存储,更高效地支撑大量上层应用对存储资源的快速部署需求。

⑦自动容错能力:因为低成本的、存储组件的损耗率应该很高,云存储厂商应该能在软件层、做到自动容错,而不是依赖硬件本身的容错。

⑧负载均衡:云存储能自动将工作任务均匀地分配到不同的存储服务器上,从而可避免因个别存储服务器工作量过大,而造成性能瓶颈。这样,就可使整个存储系统发挥最大的功效。

⑨去中心化:对元数据的管理,不应该通过少数或者单一的管理节点来操作或者存储。

总之,云存储具有资源共享、海量存储、超强安全、随意读取、统一管理、实时扩容、SaaS等特性。此外,云存储对各种协议能灵活地支持,在空间、容量、性能方面具有扩展能力,能够提供高效技术构架。由于它具备高效的存储,因而在制冷、空间、电耗等方面能节省很多。在云的环境里,云存储能够迁移应用、自由移动。基于商业组件的云存储,不受具体地理位置的限制,可跨不同的应用,可按需收费等。

(3)云存储系统架构的类型。云存储架构分为两类。

•通过服务来架构;

•通过软件或硬件设备来架构。

传统的系统利用紧耦合对称架构,这种架构的设计旨在解决HPC(高性能计算、超级运算)问题,现在其正在向外扩展成为云存储从而满足快速呈现的市场需求。下一代架构已经采用了松弛耦合非对称架构,集中元数据和控制操作,这种架构并不非常适合高性能HPC,但是这种设计旨在解决云部署的大容量存储需求。

①紧耦合对称(TCS)架构。构建TCS系统是为了解决单一文件性能所面临的挑战,这种挑战限制了传统NAS系统的发展。HPC系统所具有的优势迅速压倒了存储,因为它们需要的单一文件I/O操作要比单一设备的I/O操作多得多。业内对此的回应是创建利用TCS架构的产品,很多节点同时伴随着分布式锁管理(锁定文件不同部分的写操作)和缓存一致性功能。这种解决方案对于单文件吞吐量问题很有效,几个不同行业的很多HPC客户已经采用了这种解决方案。这种解决方案很先进,需要一定程度的技术经验才能安装和使用。

②松弛耦合非对称(LCA)架构。LCA系统采用不同的方法来向外扩展,它不是通过执行某个策略来使每个节点知道每个行动所执行的操作的,而是利用一个数据路径之外的中央元数据控制服务器。集中控制提供了很多好处,允许进行新层次的扩展。

•存储节点可将重点放在提供读写服务的要求上,无须来自网络节点的确认信息。

•节点可以利用不同的商品硬件CPU和存储配置,而且仍然在云存储中发挥作用。

•用户可以通过利用硬件性能或虚拟化实例来调整云存储。

•消除节点之间共享的大量状态开销,也可以消除用户计算机互联的需要,如光纤通道或infiniband,从而进一步降低成本。

•异构硬件的混合和匹配使用户能够在需要的时候在当前经济规模的基础上扩大存储,同时还能提供永久的数据可用性。

•拥有集中元数据意味着,存储节点可以旋转地进行深层次应用程序归档,而且在控制节点上,元数据经常都是可用的。

(4)云存储系统架构实现方案。一般,云存储系统的架构大多采用松耦合非对称系统架构,云存储系统在具体软件设计的层次上,可以划分为以下五个层次,如图1所示。

图1 云存储的松耦合非对称系统架构

①设备层:设备层是云存储最基础、最底层的部分。在系统组成中,存储设备可以是标准SAN架构下的FC光纤通道存储设备或ISCSI协议下的IP存储设备,这些存储设备构成云存储的存储资源基础。

②存储层:存储层含有云存储流式文件系统和虚拟化资源系统。通过云存储流式文件系统和虚拟化资源系统,实现存储传输协议和标准存储设备之间的数据逻辑结构或磁盘阵列的映射。存储层另一类重要功能就是具体实现数据(视频、图片、附属流)和设备层存储设备之间的通信连接,完成数据的高效写入、读取和调用等服务。

③管理层:在管理层融合了多种核心的管理功能。负责实现存储设备的逻辑虚拟化管理、多链路冗余管理、录像计划的主动下发,以及硬件设备的状态监控和故障维护等;存储业务响应,以及存储资源调配也由管理层负责。

④接口层:应用接口层是云存储最灵活多变的部分,接口层面向用户应用提供完善以及统一的访问接口,接口类型可以是Web Service接口、API接口、MIBS接口,可以根据实际业务类型,开发不同的应用服务接口,提供不同的应用服务,实现与外部系统之间的对接。

⑤应用层:从逻辑上划分,除了应用层外,剩下的四层都属于通常云存储的范畴。如将云存储应用在视频监控系统中,为了与视频监控系统的建设和应用更加紧密的结合,更加符合用户的业务需求,就可将应用层纳入整个系统架构中,从根本上提高视频云存储系统的针对性。

云存储可以实现存储完全虚拟化,大大简化应用环节,节省客户建设成本,同时提供更强的存储和共享功能。在云存储中,所有设备对使用者完全透明,任何地方任何被授权用户,都可以通过一根接入线与云存储连接,以进行空间与数据访问。用户无须关心存储设备型号、数量、网络结构、存储协议、应用接口等,应用简单透明。

视频监控云存储的出现,突破了传统存储方式的性能和容量瓶颈,使云存储提供商能够连接网络中大量各种不同类型的存储设备,形成异常强大的存储能力,实现性能与容量的线性扩展,让海量数据的存储成为了可能,从而让企业拥有相当于整片云的存储能力,成功解决存储难题。

新一代由视频云存储、数据云存储和云计算组成的视频监控云存储系统解决方案,还可以为用户提供智能存储、智能分析等云服务。这种提供完全透明的、高效便捷的、安全的云存储系统解决方案,特别适合大规模部署的视频存储系统。

下一篇

7类/8类双绞线

弱电工程

7类/8类双绞线

7类双绞线分为F和FA。F传输频率为600MHz,FA传输频率为620MHz。 7类双绞线主要为了适应万兆位以太网技术的应用和发展,但它不再是一种非屏蔽双绞线,而是一种屏蔽双绞线.因此可以提供至少500MHz的综合衰减... ...

相关内容

选购智能安防监控系统产品的原则与要点

选购智能安防监控系统产品的原则与要点

一、安防智能视频监控系统产品的选择原则中标的安防工程商对智能安防监控系统设备产品......

弱电工程

2022-07-11

智能视频监控系统产品所需的评估及步骤

智能视频监控系统产品所需的评估及步骤

一、何时需评估安防智能视频监控系统产品安防智能视频监控系统所需的智能化评估通常在......

弱电工程

2022-07-11

智能视频监控系统产品的评估标准及方法

智能视频监控系统产品的评估标准及方法

随着国外的监控系统或产品供应商不断向国内引进智能化产品,国内的智能视频监控系统或......

弱电工程

2022-07-08