视频监控分布式存储方案北京聚存科技有限公司
2015.03
问题与挑战视频监控广泛应用在金融、公安、交通、电力、制造、教育等众多行业，为维护社会安定、生产安全发挥了巨大作用。随着技术和应用的发展，视频监控技术正在经历网络化、规模化、集中化、数字化、高清化、智能化的变革历程，视频监控整体方案设计面临着巨大挑战，而视频数据的存储方案则是整个方案的重点和难点
数据总量巨大
随着技术和应用的发展，视频监控的路数、视频质量、记录时长都大幅提高，数据量成倍增长，典型应用场景下，1000路高清视频1个月的存储容量即超过1PB，在视频集中化的要求下，存储系统的容量与扩展能力都面临巨大挑战
性能需求独特
视频集中存储时，多路摄像头并发持续写入，存储系统吞吐率直接制约视频监控的规模；访问延迟也应满足视频采集的要求，并保持稳定，防止出现丢帧；视频监控要求存储系统同时保证长时间稳定的高吞吐率和低延迟表现
接口需求复杂
现有视频捕获设备品牌、类型繁多，iSCSI、NFS、CIFS接口的网络摄像机同时存在，为保护客户投资，需兼容现有各种设备和网络；另一方面，监控智能化也要求存储系统需提供新型高效接口以对接视频处理平台。
可用性要求高
监控系统7×24小时工作，所采集数据需实时存储并可靠保存，对存储系统的可用性要求极高，需能有效的容忍一定数量的软硬件部件的损坏，包括：磁盘、网络等。当故障发生时，存储系统之上的视频采集业务不会受到影响，现存数据不会丢失。
成本控制困难
1存储量成倍剧增、视频集中化需求趋势，让原有分散存储的廉价方案不再适用，同时满足容量、性能需求的单一存储系统是当前视频监控方案的最优选择，然而，能满足需求的传统存储系统适用类型较少、扩展困难且成本极高。
解决方案针对当前视频监控系统采集设备多，数据总量巨大，数据集中存储需求显著，视频处理业务多样的特点，我们提出了基于大鱼集群存储系统的单一中心存储平台的整体方案。所有数据采集设备（摄像头、DVR/NVR等）、视频管理平台、智能视频分析平台等全部直接接入中心存储系统。利用集群存储系统高可扩展、高性能、高可用、易于共享的特性，解决传统视频监控系统所面临的诸多问题。
本方案的特点及优势在于：
高可扩展海量存储架构
大鱼集群存储系统采用弹性高可扩展架构，容量和性能均可随节点数目增加,系统容量可从TB级平滑扩展至EB级。可有效应对用户视频采集数量与采集周期的剧烈变化。存储系统扩展过程中整个监控系统的IT架构无需改变，监控和视频业务不会中断。系统扩展操作简单易行，通过模块化的堆叠实现系统扩容，可实现分钟级系统扩展。
2面向视频监控的性能优化
大鱼集群存储系统的系统吞吐率随节点数目线性扩展，其弹性系统架构可动态的应对系统负载的变化。前端采集路数，采集分辨率的变化，均可通过扩展存储节点轻松应对。
面向大量视频采集设备的并发写入，大鱼集群存储采用了动态负载均衡技术，所有读写负载被均衡分散到所有数据存储节点之上。并且当故障发生时，系统中其它节点可自动均衡地接管故障节点的存储负载，保证视频数据在任何时刻均可平稳写入。
单个存储节点之上采用了多磁盘优化调度以及面向视频应用的延迟与拥塞控制，有效地降低访问延迟，保证系统长时间运行时性能稳定。
丰富的业务接口
大鱼集群存储系统提供了块、文件及对象形式的多种数据访问接口，以支持不同品牌、类型的前端视频采集设备、管理平台以及视频分析应用。
通过iSCSI块设备接口、CIFS/NFS等通用网络文件系统接口，大鱼集群存储系统可支持现有的大多数前端摄像头、NVR及视频管理平台等设备。同时，大鱼集群存储系统还提供私有的Posix文件访问接口，可二进制兼容现有Windows/Linux/MacOS平台之上的各种本地视频应用。而对象存储接口、API以及HDFS插件等可有效的对接大规模分布式视频分析与处理。
大鱼集群存储系统的多个接口之间可实现互通与共享，方便大规模视频监控应用中，视频数据在不同业务之间高效流转，突破传统视频监控架构中因数据孤岛式存储而产生的局限性。
可控的成本优势
大鱼集群存储系统采用了通用服务器、主流互连网络及普通磁盘搭建，通过分布式存储软件构建的单一映象的海量存储系统，不要专用的硬件部件，因而，系统硬件成本低廉可控。
不同于传统存储设备，大鱼集群存储系统的系统规模可随应用需求随时扩
3展，真正做到按需采购，按需部署，实现最低的扩展成本。
同时，由于大鱼集群存储系统自身为分布式架构，可与视频管理平台、视频处理框架等融合部署，共享硬件资源，进一步降低总体拥有成本。
服务可用性与数据安全
大鱼集群存储系统采用了基于副本和纠删码（N+M）的数据保护机制，可同时容忍多个节点故障（N，M数值可根据用户需求配置）。故障发生时，数据服务自动进行故障切换，不会影响前端数据采集和读出。同时，系统自动启动数据恢复操作，无需人工干预，在现有的可用存储节点之上完成数据重建，重建速度可达8TB/hr（与节点数目和网络接口速度有关）。
典型配置以下为一个容量为4PB的大鱼集群存储系统的典型配置：
部件
元数据节点（T1220M）数据存储节点（T3620）
描述
2×10Gb以太网接口
36×6TBSATA磁盘，单节点容量216TB，2×10Gb以太网接口
交换机
32口万兆无阻塞交换机
2数量220
4
因篇幅问题不能全部显示，请点此查看更多更全内容