商业银行股份有限公司用户投资管理分析系统技术规范书(3)

3.3 支持并发数高

*提供良好架构方案以支持高并发用户访问，通过分布式部署、缓存技术、支持快速读写的硬件资源实现高并发访问。足以支持1000以上的并发用户数。其总体架构图如下：

此文档着重强调数据库方面

图：*高并发架构

除了利用不同场景的特殊性，高并发还可以使用三种方式获得：

1、通过分布式部署。分布是部署可以缓解单机*数据库服务器的压力。*协调节点，根据规则对不同数据节点进行访问。*协调节点可以根据各分布式*数据库服务器的当前机器运行状态（CPU/IO/MEM等）以一定的负载策略去完成目标*数据库服务器的调度，最大限度地采用最空闲的数据库服务器完成SQL操作，以加快运行结果响应速度。

2、把数据加载到内存。*数据库服务访问海量数据时，根据当前机器内存使用情况，以一定的缓存策略将数据加部分数据装载到内存中，以减少访问硬盘数据文件的次数，以一种最优的方式利用*数据库服务器的内存，通过直接操作内存中的数据，充分利用*数据库服务器的运算性能，加快运算结果的生成并返回客户端。

3、提升硬件资源。在利用硬件资源方面,以提高服务访问硬盘读写速度出发，*数据库服务器部署安装SSD固态硬盘，在硬盘上作设置相应的RADI级别，提高访问硬盘数据文件的读写速度，提高整个数据库服务器的处理运算的能力。

对于分析型数据库，增加并发的过程，其实是想办法减小IO充分利用CPU和内存的过程，在整个调试的过程中需要严密监控数据节点的CPU、内存、网络、IO四大资源，清晰定位到底是哪个资源出现瓶颈。当4个资源有一个达到瓶颈的时候，往往可以使用其他三个资源进行平衡。例如IO磁盘读写达到瓶颈，可以把数据尽量加载到内存中，减少IO读取次数，

此文档着重强调数据库方面

这样就可以弥补本来的磁盘瓶颈。

当4个资源有两个或者以上达到瓶颈的时候，基本上可以优化的余地不大了，需要通过扩展节点或者提升硬件水平（比如添加内存条、CPU、更换SSD、或者提升网速）的方式进行处理。

*数据库自带的管理工具，可是使用的通过网页监控CPU、内存、网络、IO四大资源，对于调试监控性能十分有用。

4.1物理结构

硬件部署结构，整体分5个部分：

1. Hadoop集群层。提供数据，和交换机2对接。

2. 数据加载层。有2台主机组成，从Hadoop集群提取数据，把数据从Hadoop集群入库到

数据处理层的49个节点中。

3. 数据处理层。有49台主机组成，用于存储数据，根据SQL命令计算数据返回数据集合

给协调节点。

4. 协调节点层。有2台主机组成，接受客户端的SQL语句，发送给相关的49个数据节点，

接收数据层的返回数据集合。两个协调节点互为主备，不存储任何数据，一个节点宕机，整个集群仍然可用。

5. 测试客户端。有1台主机。没有在架构图中画出，主要用来访问协调节点，进行开发测

试。

下图描述了整个硬件部署情况:

此文档着重强调数据库方面

4.2逻辑结构

Hadoop集群作为数据提供方，把数据提供给MPP数据库层，

MPP通过*进行架构，从逻辑上主要三层：

文件层 -- 支持行存储表格、列存储表格、压缩存储表格，可以根据不同的场景使用不

同的存储方式进行优化

计算层 -- 解析SQL，并且根据SQL生产相关的算法。 同时对于内存、异常、日志进

行相关处理

接口层 -- 接受SOCKET请求，管理连接数目，对用户名和密码进行校验

*协调节点是可选组件对于比较大的应用集群如LTE数据，可以通过加载*协调节点更加灵活方便的进行请求处理转发，但是某类数据如工单数据量比较小，只需要一个节点，无需使用代理，能力开放层可以直接对该节点进行访问。

下图给出了分布式数据库的逻辑结构。其中，分布式数据库系统用来统筹多个节点，用来支持分布式数据库的建立和维护。

此文档着重强调数据库方面

图2 分布式数据库的逻辑结构