教育大数据之数据集成系统

寻找林正英

数据集成指的是把分散在各个系统中的各种类型的数据统一汇聚起来，而数据集成系统就是提供数据集成能力的平台。如何做好一个数据集成系统呢？本文作者对此进行了分析，一起来看一下吧。

. S0 w  h7 Y: i% D; G0 @

! @4 }  t! z5 }3 C5 X$ v一个风雨交加的晚上，领导把我拉到会议室说：老影啊，公司接到一个项目，需要在 3 个月里完成一个大数据平台的开发，用于项目的交付，这个任务交给你了，加油搞！此刻的我：搞？搞事情啊！由此我开始了数据平台的 " 闯关之路 "，遇到的第一个 boss 就是数据集成系统……
2 `1 ]! R8 o5 j 01 什么是数据集成？
% ^, l2 \5 F9 Z' E* S$ R百科里的解释是：把不同来源、格式、特点性质的数据在逻辑上或物理上有机地集中，从而为企业提供全面的数据共享；通俗讲就是把分散在各个系统中的各种类型的数据统一汇聚起来，主要体现在一个 " 集 " 字。而数据集成系统就是提供数据集成能力的平台，是一站式解决异构数据存储互通，消除数据孤岛的同步平台，为大数据各系统和业务方提供数据集成的高效通道 。
拿现实中的实例类比来说，数据集成就好比把各种粮食通过不同的管道灌输到一个大粮仓中，这些管道就是数据集成系统，我们可以支持接入各式各样的粮食，小麦、玉米、大豆等等，同时支持在这些管道中加一些滤网，比如在大豆的管道中加上 5mm 的滤网，此时从大豆管道过来的粮食只有 5mm 以下的大豆，这就相当于数据集成系统中的数据过滤功能；这个粮仓相当于集成目的，我们把数据集成进来之后存储在这里，供其他各方消费。
, w) U$ B7 @- u 02 教育为什么要做数据集成？
1. 数据大爆炸
+ F% N# e. \. h现在是一个信息大爆炸时代，互联网的高速发展、迅速普及，让信息无处不在、无孔不入，每天在我们所生活在的这个世界出现了大量的信息，教育场景下也不例外，随着各种信息化系统的涌入，信息以空前的速度增长，教育从业者体验着信息时代便捷的同时，也给他们带来了问题和 " 副作用 "，从浩如烟海的信息海洋中迅速而准确地获取他们最需要的信息，变得非常困难。
2 e+ ]) ]2 c$ q/ s  h 2. 数据来源多样化
3 G! u6 r8 l4 p2 S8 ]随着《教育信息化 2.0 行动计划》的提出，教学过程中的信息化系统越来越多，比如作业系统、考试系统、选课系统、智慧课堂等等，每个系统都会产生大量的数据，存储在各自的数据库中，如果系统的服务商不同，可能数据的格式也不一样，致使教育场景下的数据越来越多，越来越难以管理。
0 O/ o0 j# ?! g" Z" ?6 W 3. 数据集不同结构
6 B$ u6 U9 t. L. S9 x+ k& h. P教育场景下的数据集可能是结构化的、半结构化的，甚至非结构化的；比如：考试系统中的数据是结构化的，评价系统中的数据是半结构化的，课堂实录中的数据是非结构化的；不同结构的数据需要整合成统一的结构才能够进行统计和分析。
4. 数据冗余
数据中有很多冗余、错误、敏感数据，如果不进行数据清洗，会影响数据分析的效率和结果；在这种情况下需要我们配置统一的标准，对数据进行简单的处理，以便于后续进行统计分析。
* C: c, A$ G8 q3 J 03 数据集成系统对教育的价值是什么？
大数据技术能够将隐藏于海量数据中的信息和知识挖掘出来，按照科学的教育评价准则，对教学数据进行科学的统计分析，提供有价值的教学质量测评与分析数据，实现对教育活动，教育过程和教育结果的价值评判，为提高教育质量，教育决策以及学校改进日常教学方法提供科学的依据，实现教育管理的智能化，提升教育管理与服务水平。
1 v. H/ ~- _% T! H/ n( Z, C数据集成系统作为底层基础支撑性服务，是大数据系统的核心组成部分。通过提供数据集成能力，将教育各部门和来自互联网的结构化和非结构化的数据进行统一的汇聚接入，存储到大数据存储组件，并支持数据的预处理，为大数据系统提供原始数据支撑。
) ?: A. W. g, e& f' F* i4 ? 04 数据集成系统怎么做？
1. 建设原则
数据采集系统针对实际项目中复杂的、异构的数据环境，实现对多种数据源的集成，支持的关系数据库有 Oracle、MySQL、Sqlserver 等，支持的文件类型有 txt 文件、csv 文件、excel 文件等，支持的接口类型有 webservice 接口、http 接口、socket 接口等。
/ ~. Q/ c/ C, L* I: z. S4 U对于不同的大数据存储需求，实现对多种大数据存储组件的支持，支持的大数据存储组件包括 HDFS、HBase、Hive、Solr、Elasticserach 等。
针对数据的预处理需求，实现对数据的清洗、转换、标准化等预处理的支持，并且支持清洗规则、转换规则的用户自定义，以及清洗、转换、导入流程的用户自定义。
在数据采集系统中，各类功能点模块化、组件化，便于步骤独立，保证系统内部模块自治，同时便于多种步骤、方法的组合应用。
简化用户操作，通过图形化的配置方式，简单，灵活，使得用户无需过分关心数据库的各种内部细节，而专注于功能。
2. 数据集成信息框架

% }/ D; n- }, k2 W/ S& s
: a/ H, S/ X4 E1 s) H
数据集成信息流
6 [6 m. W0 V# { 3. 功能结构
0 t3 q& T7 b. }4 A' }1 W为了快速实现数据集成系统，满足后续项目交付，经过和研发大佬的多次沟通，优先实现为业务提供数据集成的能力的数据源管理和集成任务管理。明确了第一版需求，只要包含数据源管理和集成任务管理就可以支持项目交付，因此功能结构设计如下：

) L3 |  Z) j6 I/ H) b/ H
) B3 T; _# v: h# _) L
* @- u8 p' G3 [# j( O数据集成系统功能结构图
5 w" N1 X' ^% ~. s 4. 建设内容
( ~: C4 f% G- G8 _1）数据源管理
数据源模块主要管理平台支持的数据组件的基础信息，包含各种数据组件的新增，配置和管理，如关系型数据库的数据库 IP，端口，访问信息等。这里大家可以理解为一个中间层，先通过数据抽取组件将各系统数据抽取到这里，以备后续集成任务管理模块的调用。
/ R/ G" `$ R9 e# Y在这里可以对数据源进行增删改查，前提是需要和数据来源方沟通好，需要提供数据库 IP 相关信息，下方是页面示例：
- J9 P: m1 f/ o1 z3 j
' u, l7 b% k/ U/ {+ F3 f

" l9 f, T+ l+ i) @' b数据源管理列表
2）集成任务管理
当用户创建好数据源之后，需要有一个模块支持用户创建集成任务，相当于上文中讲到的，上游的所有粮食都准备好了，需要我们提供搭建管道的地方，让用户把所有的管道搭起来，然后把各种粮食都汇聚到一起。此时集成任务管理模块诞生了，这个模块下主要对数据集成的任务进行统一的管理，支持用户对数据集成任务进行增删改查。
①操作列表功能
上线：集成任务完成创建状态默认为未上线，此时用户可将集成任务上线，上线为就绪状态；
运行：上线状态下的任务支持运行，运行自动调用任务执行组件，开始数据集成；
下线：已上线的任务支持下线；
删除：未上线和已下线的任务支持删除；
# d2 A" j9 `) ?" j7 G编辑：未上线和已下线的任务支持编辑。
3 u: ]; |. b# M( w7 Q% k$ ^0 k: C( [, s5 |
+ m) L" M: G: ^% |! S

/ w6 m1 o2 K1 N; l: a" K- P数据集成任务列表
2 j9 M9 W+ a) B4 m% r+ m8 C②任务运行
& x# \5 K6 k6 v/ N- T集成任务创建好之后，如果需要周期性的拉取数据，这时候需要支持进行例行周期配置，支持用户配置定时任务；
6 z: W& E0 r+ ~! ?9 [同时支持用户进行失败策略、任务执行优先级等相关参数的配置。
3）新增集成任务
为了方便用户填写，支持用户选择不同的数据源类型，数据接口类型不同，需要配置的参数信息也不同；但是总体来说数据集成主要分为三步：
0 ]5 T/ A9 _' I. j/ C数据接入：回答数据从哪来的问题；
6 s! y) p# p, E/ @. W* O5 \数据处理：回答对数据要做什么的问题；
数据输出：回答数据要到哪去的问题。
下方以将第三方数据库数据集成到 hive 中为例举例说明。选择数据库之后，页面进入数据集成任务配置页，三个步骤依次如下：
①数据接入
主要配置数据源相关信息，需要用户填写数据源表相关信息：
数据源：数据集群相关信息；
7 I3 k8 O  K5 r- S' ~6 y数据库：源数据存储数据库；
是否分表：如果分表存储需要从多个表抽取数据；
6 K0 i( r; [, b! @* D& Z" n表名：源数据所在表名；
7 v, T( W/ t2 w; @2 H5 @数据归属产品 / 系统：这部分数据在目录管理系统维护，这里直接引用；
8 P' H5 B& R; a* i! i0 U2 z" W数据预览：支持用户对所选表进行预览，查看数据格式。
0 }2 D. \% Q$ v% A
6 R" k5 \" x  j2 Q* m

数据接入
% I' |* }8 O9 f4 G2 R7 Y* k. |②数据处理
0 @3 D3 g0 N; D7 ~: y  V! d到在数据集成过程中会对数据进行预处理，考虑到后续的扩展性，这里直接将各种处理步骤提炼为公共组件，支持用户自定义选择，第一期可支持：字段映射过滤、账号匹配、数据脱敏、数据转换；为了节省操作，数据处理默认以字段映射过滤开始，自动选择一项，用户可直接点击下一步。

  d- _, A. @3 K/ d6 ?" f
* C7 n' u4 @9 G4 t
数据处理
4 H9 w7 M3 \7 t/ r. T③数据输出
此时的数据经过预处理，已经完成了清洗、转换的操作，接下来就需要将处理完的数据存下来，以备后续使用。


7 X! }+ {7 E/ Y: P2 t
; \' k4 `( g* a+ m2 J) |0 I数据输出
05 数据集成结束后做什么？
下面以学生画像的思路和大家简单聊聊。通过从各个系统中采集过来的数据，包含但不限于：学生上网数据、网页浏览时长、作业完成数据、作业完成时长、课堂互动数据等等，帮助学校管理者针对学生群体进行标签化分析。帮助教育管理者从学习，网络行为，生活等多维度分析学生群体的习惯和特点，为学校实现个性化培养教育提供数据支撑。
& _7 z: i) ~) Q0 B; e4 ?学生画像整体分为个人画像和群体画像：
: b2 G; ?7 I% q% X& U1）群体画像
$ P4 Z: N) u. c$ {" z  [, L& F# N+ c通过对学生行为数据和结果数据的分析，为每个学生贴上具有行为或思想的特征标签，并按照群体分类，教育管理者可以查看每个分类的人群特征，并从学校、年级、男女比例等各方面进行群体标签的分析，帮助学校定位不同标签人群的特征和规律，实现精细化管理，同时通过对不同行为数据进行阈值设置，及时发现出现问题的学生，以便进行及时纠偏。
2）个人画像
8 a1 ^) z# `8 g/ J( g4 A# ~$ q通过采集学生各场景数据，如学习行为、学习结果、消费信息、饮食信息、运动信息等，综合分析学生的学习状态，全面刻画学生画像，帮助教育管理者全方位了解一个学生，通过多维度分析学生的学习习惯和学习动机，逐步实现喊了 2000 多年的口号 " 因材施教 "。
0 V7 s7 o7 v& s& D+ q作者：一丁，" 数据人创作者联盟 " 成员。
本文由 @一个数据人的自留地 原创发布于人人都是产品经理，未经许可，禁止转载。
3 X5 i+ {+ [9 A# z1 J* _& v, B题图来自 Unsplash，基于 CC0 协议。