[发明专利]一种基于Flink的实时数据处理系统及方法在审
申请号: | 202311015052.1 | 申请日: | 2023-08-11 |
公开(公告)号: | CN116932598A | 公开(公告)日: | 2023-10-24 |
发明(设计)人: | 常国伟;白俊;杨晓营;马国伟 | 申请(专利权)人: | 广州欢网科技有限责任公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F11/30;G06F11/32 |
代理公司: | 北京细软智谷知识产权代理有限责任公司 11471 | 代理人: | 刘硕 |
地址: | 510000 广东省广州市番禺*** | 国省代码: | 广东;44 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明公开了一种基于Flink的实时数据处理系统及方法,属于数据处理领域,数据采集模块通过数据源接入单元连接多种数据源,能够同时接入大量数据;然后基于数据流分区单元对采集到的数据流进行分区,即在处理前就将数据流进行分类,以便同一分区的数据集中处理;数据处理模块中过冷与模式识别单元对每个分区的数据流进行进一步过滤和模式匹配,确定数据流所属事件模式,然后经过时间处理与水印单元以及窗口处理单元对相同同事件模式的数据流采用同以处理方式,即相同事件模式的数据流统一处理,即使数据量较大,也可以对每个数据流确定对应处理方式,利用Flink的流式处理引擎,系统能够以低延迟和高吞吐量处理海量的数据流。 | ||
搜索关键词: | 一种 基于 flink 实时 数据处理系统 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州欢网科技有限责任公司,未经广州欢网科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202311015052.1/,转载请声明来源钻瓜专利网。