当前位置: 萬仟网 > IT编程>数据库>其他数据库 > 初识Flink

初识Flink

2019年04月13日 07:28  | 萬仟网IT编程  | 我要评论

本文主要是简单介绍一下flink基础信息,更多有关flink的介绍可以查看。

big data

wikipedia

大数据(big data),又称为巨量资料,指的是传统数据处理应用软件不足以处理它们的大或复杂的数据集的术语。大数据也可以定义为来自各种来源的大量非结构化或结构化数据。

百度百科

大数据(big data),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据特点(ibm提出)

volume(大量)、velocity(高速)、variety(多样)、value(低价值密度)、veracity(真实性)。

  • volume:数据量大,包括采集、存储和计算的量都非常大。大数据的起始计量单位至少是p(1000个t)、e(100万个t)或z(10亿个t)。
  • variety:种类和来源多样化。包括结构化、半结构化和非结构化数据,具体表现为网络日志、音频、视频、图片、地理位置信息等等,多类型的数据对数据的处理能力提出了更高的要求。
  • value:数据价值密度相对较低,或者说是浪里淘沙却又弥足珍贵。随着互联网以及物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低,如何结合业务逻辑并通过强大的机器算法来挖掘数据价值,是大数据时代最需要解决的问题。
  • velocity:数据增长速度快,处理速度也快,时效性要求高。比如搜索引擎要求几分钟前的新闻能够被用户查询到,个性化推荐算法尽可能要求实时完成推荐。这是大数据区别于传统数据挖掘的显著特征。
  • veracity:数据的准确性和可信赖度,即数据的质量。

流计算

流计算是针对流式数据的实时计算。

  • 流式数据是指将数据看作数据流的形式来处理,数据流是在时间分布和数量上无限的一系列动态数据集合体,数据记录是数据流的最小组成单元。
  • 流数据具有数据实时持续不断到达、到达次序独立、数据来源众多格式复杂、数据规模大且不十分关注存储、注重数据的整体价值而不关注个别数据等特点。

flink是什么

apache flink® - stateful computations over data streams
apache flink是一个用于对无界和有界数据流进行状态计算的框架和分布式处理引擎,它同时支持批处理和流处理,作为流处理看待时输入数据流是无界的,批处理被作为一种特殊的流处理。

架构原理

基础架构

flink集群启动后,首先会启动一个jobmanger和一个或多个taskmanager。由client提交任务给jobmanager,jobmanager再调度任务到各个taskmanager去执行,然后taskmanager将心跳和统计信息汇报给jobmanager。taskmanager之间以流的形式进行数据的传输。jobmanager、taskmanager和client均为独立的jvm进程。

jobmanager

系统的协调者,负责接收job,调度组成job的多个task的执行,收集job的状态信息,管理flink集群中的taskmanager。

taskmanager

实际负责执行计算的worker,并负责管理其所在节点的资源信息,在启动的时候将资源的状态向jobmanager汇报。

client

负责提交job,可以运行在任何与jobmanager环境连通的机器上,提交job后,client可以结束进程,也可以不结束并等待结果返回。

编程模型

flink程序的基础构建模块是流和转换,每一个数据流都起始于一个或多个source,终止于一个或多个sink。
flink程序的基础构建模块是流(streams)与转换(transformations),每一个数据流起始于一个或多个source,并终止于一个或多个sink,下面是一个由flink程序映射为streaming dataflow的示意图:

基本编程模型

public static void main(string[] args) throws exception {
    // 创建数据流执行环境
    streamexecutionenvironment env = streamexecutionenvironment.getexecutionenvironment();
    // 通过连接socket获取输入数据
    datastream<string> text = env.sockettextstream("localhost", 9009, "\n");
    // 解析数据
    datastream<tuple2<string, integer>> windowcounts = text
            .flatmap(new flatmapfunction<string, tuple2<string, integer>>() {
                @override
                public void flatmap(string value, collector<tuple2<string, integer>> out) {
                    for (string word : value.split("\\s")) {
                        out.collect(tuple2.of(word, 1));
                    }
                }
            })
            .keyby(0)
            .timewindow(time.seconds(5))
            .sum(1);
    // 将结果打印到控制台
    windowcounts.print();
    env.execute("socket window wordcount");
}

适用场景

flink支持的最常见类型的应用示例

  • 事件驱动的应用程序
  • 数据分析应用
  • 数据管道应用

容错机制

flink的容错机制的核心部分是分布式数据流和运营商状态的一致快照,系统发生故障的时候这些快照可以充当一致性检查点来退回,恢复作业的状态和计算位置等。

  • checkpointing
  • recovery
  • operator snapshot implementation

详情参考data streaming fault tolerance

如对本文有疑问,请在下面进行留言讨论,广大热心网友会与你互动!! 点击进行留言回复

相关文章:

◎已有 0 人评论

Copyright © 2019  萬仟网 保留所有权利. 粤ICP备17035492号-1
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com