400-650-1086
首页 > 最新资讯 > 企业新闻 > 正文

大数据爆发性增加 存储技术面对难题

admin 2015-10-14 09:47:38 0

跟着大数据运用的爆发性增加,大数据现已衍生出了自个共同的架构,并且也直接推进了存储、网络以及计算技能的开展。究竟处理大数据这种特别的需求是一个新的应战。硬件的开展最终仍是由软件需求推进的。大数据自身意味着非常多需求运用标准存储技能来处理的数据。大数据也许由TB级(或许乃至PB级)信息构成,既包含构造化数据(数据库、日志、SQL等)以及非构造化数据(交际媒体帖子、传感器、多媒体数据)。此外,大部分这些数据缺少索引或许别的安排构造,也许由很多不一样文件类型构成。从现在技能开展的状况来看,大数据存储技能的开展正面对着以下几个难题:

1、容量疑问

这儿所说的“大容量”通常可到达PB级的数据规划,因而,海量数据存储体系也必定要有相应等级的拓展才干。与此一起,存储体系的拓展必定要简便,能够经过添加模块或磁盘柜来添加容量,乃至不需求停机。

“大数据”运用除了数据规划无穷以外,还意味着具有庞大的文件数量。因而怎么办理文件体系层累积的元数据是一个难题,处理不妥的话会影响到体系的拓展才干和功用,而传统的NAS体系就存在这一瓶颈。所幸的是,根据目标的存储架构就不存在这个疑问,它能够在一个体系中办理十亿等级的文件数量,并且还不会像传统存储一样遭受元数据办理的困惑。根据目标的存储体系还具有广域拓展才干,能够在多个不一样的地点布置并构成一个跨区域的大型存储基础架构。

2、推迟疑问

“大数据”运用还存在实时性的疑问。有很多“大数据”运用环境需求较高的IOPS功用,比方HPC高功用计算。此外,效劳器虚拟化的遍及也致使了对高IOPS的需求,正如它改动了传统IT环境一样。为了迎候这些应战,各种方式的固态存储设备应运而生,小到简单的在效劳器内部做高速缓存,大到全固态介质的可拓展存储体系等等都在蓬勃开展。

3、并发拜访

一旦公司认识到大数据剖析运用的潜在价值,他们就会将更多的数据集归入体系进行比较,一起让更多的人分享并运用这些数据。为了创造更多的商业价值,公司通常会归纳剖析那些来自不一样渠道下的多种数据目标。包含大局文件体系在内的存储基础设施就能够协助用户处理数据拜访的疑问,大局文件体系答应多个主机上的多个用户并发拜访文件数据,而这些数据则也许存储在多个地点的多种不一样类型的存储设备上。

4、安全疑问

某些特别职业的运用,比方金融数据、医疗信息以及政府情报等都有自个的安全标准和保密性需求。尽管关于IT办理者来说这些并没有啥不一样,并且都是有必要遵照的,可是,大数据剖析通常需求多类数据彼此参阅,而在曩昔并不会有这种数据混合拜访的状况,因而大数据运用也催生出一些新的、需求考虑的安全性疑问。

5、本钱疑问

本钱疑问“大”,也也许意味着价值不菲。而关于那些正在运用大数据环境的公司来说,本钱操控是要害的疑问。想操控本钱,就意味着咱们要让每一台设备都完成更高的“功率”,一起还要削减那些贵重的部件。

对本钱操控影响最大的要素是那些商业化的硬件设备。因而,很多初度进入这一范畴的用户以及那些运用规划最大的用户都会定制他们自个的“硬件渠道”而不是用现成的商业商品,这一举措能够用来平衡他们在事务拓展过程中的本钱操控战略。为了习惯这一需求,如今不断增加的存储商品都供给纯软件的方式,能够直接设备在用户已有的、通用的或许现成的硬件设备上。此外,很多存储软件公司还在销售以软件商品为核心的软硬一体化设备,或许与硬件厂商结盟,推出协作型商品。

6、数据的堆集

很多大数据运用都会涉及到法规遵照疑问,这些法规通常请求数据要保留几年或许几十年。比方医疗信息通常是为了确保病人的生命安全,而财政信息通常要保留7年。而有些运用大数据存储的用户却期望数据能够保留更长的时刻,由于任何数据都是历史记载的一部分,并且数据的剖析大都是根据时刻段进行的。要完成长时间的数据保留,就请求存储厂商开宣布能够继续进行数据一致性检查的功用以及别的确保长时间高可用的特性。一起还要完成数据直接在原位更新的功用需求。

7、数据的灵活性

大数据存储体系的基础设施规划通常都很大,因而有必要经过细心规划,才干确保留储体系的灵活性,使其能够跟着运用剖析软件一起扩容及拓展。在大数据存储环境中,现已没有必要再做数据迁移了,由于数据会一起保留在多个布置站点。一个大型的数据存储基础设施一旦开端投入运用,就很难再调整了,因而它有必要能够习惯各种不一样的运用类型和数据场景。

存储介质正在改动,云计算倍受青睐

存储之于安防的位置,其现已不只是一个设备罢了,而是现已进步到了一个处理计划渠道的地步。作为图画数据和报警事情记载的载体,存储的主要性是显而易见的。

安防监控运用对存储的需求是啥?首先,海量存储的需求。其次,功用的请求。第三,报价的敏感度。第四,会集办理的请求。第五,网络化请求。安防监控技能开展到今日阅历了三个期间,即:模仿化、数字化、网络化。与之相习惯,监控数据存储也阅历了多个期间,即:VCR模仿数据存储、DVR数字数据存储,到如今的会集网络存储,以及开展到云存储期间,恰是在一步步投合这种市场需求。在将来,安防监控跟着高清化,网络化,智能化的不断开展,将对现有存储计划带来不断应战,包含容量、带宽的拓展疑问和办理疑问。那么,根据大数据战略的海量存储体系--云存储就倍受青睐了。

根据大数据战略的安防存储优势显着

当时社会关于数据的依靠是史无前例的,数据已成为与硬资产和人平等主要的主要材料。怎么存好、保护好、运用好这些海量的大数据,是安防职业面对的主要疑问之一。那么根据大数据战略的安防存储其优势安在?

现在的存储市场上,原有的视频监控计划容量、带宽难以拓展。客户通常需求收购更多更高端的设备来扩大容量,进步功用,随之带来的是本钱的急剧增加以及体系复杂性的激增。一起,传统的存储方式很难在彻底没有事务中止的状况下进行晋级,扩容会对事务带来无穷影响。其次,传统的视频监控计划难于办理。由于视频监控体系通常规划较大,散布特征显着,大多独立办理,这样就把整个体系切割成了多个办理孤岛,彼此之间通讯艰难,难以和谐工作,以进步全体功用。除此以外,绿色、安全等也是传统视频监控计划所面对的突出疑问。

根据大数据战略的云存储技能与生俱来的高拓展、易办理、高安全等特性为传统存储面对的疑问带来了处理的关键。运用云存储,用户能够便利的进行容量、带宽拓展,而不必中止事务,或改动体系架构。一起,云存储还具有高安全、低本钱、绿色节能等特色。根据云存储的视频监控处理计划是客户应对应战极好的挑选。王宇说,进入二十一世纪,云存储作为一种新的存储架构,已逐渐走入运用期间,云存储不只轻松突破了SAN的功用瓶颈,并且能够完成功用与容量的线性拓展,这关于具有很多数据的安防监控用户来说是一个新挑选。

以英特尔推出的Hadoop散布式文件体系(HDFS)为例,其供给了一个高度容错性和高吞吐量的海量数据存储处理计划。现在现已在各种大型在线效劳和大型存储体系中得到广泛运用,现已成为海量数据存储的事实标准。

跟着信息体系的疾速开展,海量的信息需求牢靠存储的一起,还能被很多的运用者疾速地拜访。传统的存储计划现已从构架上越来越难以习惯近几年来的信息体系事务的飞速开展,成为了事务开展的瓶颈和妨碍。HDFS经过一个高效的散布式算法,将数据的拜访和存储散布在很多效劳器之中,在牢靠地多备份存储的一起还能将拜访散布在集群中的各个效劳器之上,是传统存储构架的一个颠覆性的开展。最主要的是,其能够满意以下特性:可自我修正的散布式文件存储体系,高可拓展性,无需停机动态扩容,高牢靠性,数据自动检查和仿制,高吞吐量拜访,消除拜访瓶颈,运用低本钱存储和效劳器构建。

来源:机房监控机房环境监控机房监控系统http://www.create-china.com.cn

售前咨询

专线:刘刚 13911133352

E-mail:112417434@qq.com

北京金恒智能系统工程技术有限责任公司 版权所有 Copyright 2007-2020 by Create-china.com.cn Inc. All rights reserved.

法律声明:未经许可,任何模仿本站模板、转载本站内容等行为者,本站保留追究其法律责任的权利!

电话:86+10-62104277/2248/4249 传真:86+10-62104193-819 京ICP备10010038号-2网站XML

智慧机房

在线体验

CREATE·机房监控 体验端  用户名:Admin    密码:12345 点击体验
在线咨询 电话咨询