下面是小编为大家整理的医疗行业非结构化数据混合云存储及大数据分析解决方案,供大家参考。
“存储架构之美”软件定义存储擂台赛优秀解决方案
医疗行业非结构化数据混合云存储及大数据分析解决方案
目 录 1 摘要 ....................................................................................................................................................................................................................... 1
2 需求分析与建设目标 ..................................................................................................................................................................................................... 2 3 解决方案 ............................................................................................................................................................................................................... 4
3.1
存储技术分析. .............................................................................................. 4 3.1.1
块存储、文件存储、对象存储几种方式的对比 ............................................................... 4 3.1.2
对象存储简介 ........................................................................................... 8 3.1.3
对象存储选型对比 ....................................................................................... 9 3.2
系统现状. ................................................................................................. 10
3.3
IBM GPFS解决方案 .................................................................................. 11
3.3.1
GPFS Server集群 ................................................................................ 12
3.3.2
GPFS系统基本结构 ............................................................................... 13
3.3.3
GPFS系统优势 ................................................................................... 14
3.3.4
GPFS典型配置举例 ............................................................................... 15
3.4
IBM Cleversafe对象存储解决方案 ............................................................................ 15 3.4.1
IBM Cleversafe对象存储 .............................................................................. 16
3.4.2
IBM Cleversafe对象存储与传统存储高可用性对比 .......................................................... 17 3.4.3
IBM Cleversafe对象存储纠删(擦除)码技术 .............................................................. 18 3.4.4
IBM Cleversafe对象存储软硬件配置 ...................................................................... 19 3.4.5
IBM Cleversafe对象存储扩容 ............................................................................ 21 3.4.6
Cleversafe对象存储实现PACS系统的灾备建设 .............................................................. 21
3.5
大数据分析 ............................................................................................. 22
4 总结 ......................................................................................................................................................................................................... 24
采用Cleversafe对象存储技术的新架构用户取得的收益 ............................................................. 25 I
1 摘要 某市医院(以下简称医院)是集医疗、教学、科研、预防为一体的现代化国家三级甲等综合医院。医院现有A、B、C三个主体院区,编制床位1500张,开放病床3000
张。在领导班子的带领下,医院全面实施 “ 数字化医院 ” 建设,首创医疗质量管理信息系统、建立城乡协同医疗服务网络。医院作为某市的龙头医
院,其整体业务呈现快速增长的态势,当前医院正在扩建新的住院病区,随着住院床位数的增加,医院的业务必然会有一个明显的增长,而医院的存储基础架构已经相对老化,其现有的EMC系列存储已经表现出性能瓶颈,医院当前的核心数据库存在性能不均衡的情况,如果要求应用软件开发商进行软件和数据库性能调优,可能需要花费大量人力物力,但却不能保证调优的效果。医院业务量的增涨带来了数据量的增张,PACS系统海量的非结构化数据安全高效的存储是目前亟需解决的问题,在做好非结构化数据存储的基础上,结合结构化数据存储与Apache Spark数据分析处理引擎对接实现临床操作和研发两个方向的大数据分析,从而更好的服务于病人并且促进医疗行业从业人员专业技能的提升,实现数字化医院为全民健康奠定基础。
综合比较不同的传统存储技术与云存储技术后,选择IBMGPFS+Cleversafe对象存储实现了PACS系统
海量的非结构化数据的存储和容灾备份。
2 需求分析与建设目标 医院的核心业务系统是医院数据交换平台(包括 PACS 系统、HIS 系统、 RIS 系统、 LIS 系统等)。
该系统具有以下特点:
负载特点:业务峰值在每日上午9点至11点,并发用户的访问量要求高,每天不定时存在大数据量分析负载,但产生分析负载的用户数量不多。月末统计数据量增大,需要产生大量数据报表。
数据特点:每天新增数据量 500G,数据类型复杂,有数字、文字等结构化的数据占总数据量 31%, 还有大量的图像和影像等非结构化的数据占总数据量 69%。
系统痛点:
1.
医院数据交换平台用于汇总医院各类信息应用系统数据,子应用程序接口复杂,数据量大,需要保证业务科室的访问速度,对系统的稳定性要求极高。
2.
原有的NAS系统已经无法满足数据增量的要求,需要提供切实的解决方案,满足未来五年数据增长与业务发展的要求。
3.
随着数据量的增加,数据备份的周期在不断增加,已经影响到生产系统的业务响应时间,业务连续性无法得到保障,因此要求提高业务系统的可靠性和可用性,保障业务连续性。
4.
随着数据量的增加,新的存储设备不断上线,使运维人员的工作压力越来越大,因此要求解决方案需要降低运维管理的复杂度。
建设目标:
医院综合各方面因素,提出了构建医院“大数据云存储”平台的建设目标,具体如下:
1.构建一套安全、稳固的大数据云存储平台,集中统一承载医院所有业务数据; 2.
为医院数据交换平台提供高性能、稳定可霏,并具有足够弹性的存储平台;
3.
为PACS影像类数据提供大量低成本的存储空间并具有足够的扩展能力;
4.
未来扩容应该可以基本做到不停机(停机时间在可接受范围内);
5.
提高业务系统的可靠性和可用性,实现容灾备份,保障业务连续性。
3 解决方案 根据用户的需求我公司提出以下解决方案:POWER小型机采用POWER
VM虚拟化,X86服务器采用VMWARE虚拟化,采用IBM
SVC对存储资源进行整合,实现存储资源池,提高存储管理和利用效率,满足核心应用系统在交易高峰时段、日终、计息,年节时间段对主机资源和存储资源的需求,建设同城数据中心,两中心通过SVC
的Hyperswap+MetroMirror实现双活,同时配置第三站点的硬盘级仲裁防止出现脑裂,采用IBM的云管平台实现POWER和X86虚拟资源的统一管理,把金融产品的查询,各种业务的咨询等
没有任何保密性可言的系统迁到公有云平台。
3.1 存储技术分析 3.1.1 块存储、文件存储、对象存储几种方式的对比
块存储指在一个RAID(独立磁盘冗余阵列)集中,一个控制器加入一组磁盘驱动器,然后提供固定大小的RAID块作为LUN(逻辑单元号)的卷。
接着块存储会采用映射的方式将这几个逻辑盘映射给主机,主机上面的操作系统会识别到有5块硬盘, 但是操作系统是区分不出到底是逻辑还是物理的,它一概就认为只是5块裸的物理硬盘而已,跟直接拿一块物理硬盘挂载到操作系统没有区别的,至少操作系统感知上没有区别。
此种方式下,操作系统还需要对挂载的裸硬盘进行分区、格式化后,才能使用,与平常主机内置硬盘的方式完全无异。
优点:
1.
这种方式的好处当然是因为通过了Raid与LVM等手段,对数据提供了保护。
2.
另外也可以将多块廉价的硬盘组合起来,成为一个大容量的逻辑盘对外提供服务,提高了容量。
3.
写入数据的时候,由于是多块磁盘组合出来的逻辑盘,所以几块磁盘可以并行写入的,提升了读写效率。
4.
很多时候块存储采用SAN架构组网,传输速率以及封装协议的原因,使得传输速度与读写速率得到提升。
缺点:
1.
采用SAN架构组网时,需要额外为主机购买光纤通道卡,还要买光纤交换机,造价成本高。
2.
主机之间的数据无法共享,在服务器不做集群的情况下,块存储裸盘映射给主机,再格式化使用后,对于主机来说相当于本地盘,那么主机A的本地盘根本不能给主机B去使用,无法共享数据。
3.
不利于不同操作系统主机间的数据共享:另外一个原因是因为操作系统使用不同的文件系统,格式化完之后,不同文件系统间的数据是共享不了的。例如一台装了
WIN7/XP,文件系统是FAT32/NTFS, 而Linux是EXT4,EXT4是无法识别NTFS的文件系统的。就像一只NTFS格式的U盘,插进Linux的笔记本, 根本无法识别出来。所以不利于文件共享。
文件存储:为了克服块存储文件无法共享的问题,所以有了文件存储。文件存储也有软硬一体化的设备,但是其实普通拿一台服务器/笔记本,只要装上合适的操作系统与软件,就可以架设 FTP与NFS 服务了,架上该类服务之后的服务器,就是文件存储的一种了。
主机A可以直接对文件存储进行文件的上传下载,与块存储不同,主机A是不需要再对文件存储进行格式化的,因为文件管理功能已经由文件存储自己搞定了。
优点:
1.
造价交低:随便一台机器就可以了,另外普通以太网就可以,根本不需要专用的 SAN 网络,所以造价低。
2.
方便文件共享:例如主机 A(WIN7,NTFS 文件系统),主机B(Linux,EXT4文件系统),想互拷一部电影,本来不行。加了个主机C(NFS服务器),然后可以先A拷到C,再C拷到B就OK了。
缺点:
读写速率低,传输速率慢:以太网,上传下载速度较慢,另外所有读写都要1台服务器里面的硬盘来承担,相比起磁盘阵列动不动就几十上百块硬盘同时读写,速率慢了许多。
企业级的NAS存储采用RAID技术提升了数据的可靠性和读写速率,同时采用万兆光纤接口提升了网络传输速率,适合于中小规模的医院用于PACS系统非结构化数据的存取,当数据量达到PB级别时NAS机头 会出现瓶颈。下图是块存储与文件存储的对比图:
对象存储:内置大容量硬盘的分布式服务器是对象存储的典型设备,对象存储最常用的方案,就是多台服务器内置大容量硬盘,再装上对象存储软件,然后再额外配置几台服务作为管理节点,安装上对象存储管理软件。管理节点可以管理其他服务器对外提供读写访问功能。
之所以出现了对象存储这种东西,是为了克服块存储与文件存储各自的缺点,发扬它俩各自的优点。简单来说块存储读写快,不利于共享,文件存储读写慢,利于共享。能否实现即读写快又利于共享的目的呢?于是就有了对象存储。
首先,一个文件包含了属性(术语叫 metadata,元数据,例如该文件的大小、修改时间、存储路径等)以及内容(以下简称数据)。
以往像 FAT32 这种文件系统,是直接将一份文件的数据与metadata一起存储的,存储过程先将文件按照文件系统的最小块大小来打散(如4M的文件,假设文件系统要求一个块4K,那么就将文件打散成为1000个小块),再写进硬盘里面,过程中没有区分数据/metadata的。而每个块最后会告知你下一个要读取的块的地址,然后一直这样顺序地按图索骥,最后完成整份文件的所有块的读取。
这种情况下读写速率很慢,因为就算你有100个机械手臂在读写,但是由于你只有读取到第一个块, 才能知道下一个块在哪里,其实相当于只能有1个机械手臂在实际工作。
而对象存储则将元数据独立了出来,控制节点叫元数据服务器(服务器+对象存储管理软件),里面主要负责存储对象的属性(主要是对象的数据被打散存放到了那几台分布式服务器中的信息),而其他负责存储数据的分布式服务器叫做OSD,主要负责存储文件的数据部分。当用户访问对象,会先访问元数据服务器,元数据服务器只负责反馈对象存储在哪些OSD,假设反馈文件A存储在B、C、D三台OSD,那么
用户就会再次直接访问3台OSD服务器去读取数据。
这时候由于是3台OSD同时对外传输数据,所以传输的速度就加快了。当OSD服务器数量越多,这种 读写速度的提升就越大,通过此种方式,实现了读写快的目的。
另一方面,对象存储软件是有专门的文件系统的,所以OSD对外又相当于文件服务器,那么就不存在文件共享方面的困难了,也解决了文件共享方面的问题。
所以对象存储的出现,很好地结合了块存储与文件存储的优点。
为什么对象存储兼具块存储与文件存储的好处,还要使用块存储或文件存储呢?
1.
有一类应用是需要存储直接裸盘映射的,例如数据库。因为数据库需要存储裸盘映射给自己后, 再根...
推荐访问:医疗行业非结构化数据混合云存储及大数据分析解决方案 大数 结构化 混合