深圳有没有什么网站,泰安建设银行网站,邵阳相亲网站,网站asp代码为什么80%的码农都做不了架构师#xff1f; 在本文中#xff0c;我们将从零开始#xff0c;教您如何构建第一个Apache Flink #xff08;以下简称Flink#xff09;应用程序。 开发环境准备 Flink 可以运行在 Linux, Max OS X, 或者是 Windows 上。为了开发… 为什么80%的码农都做不了架构师 在本文中我们将从零开始教您如何构建第一个Apache Flink 以下简称Flink应用程序。 开发环境准备 Flink 可以运行在 Linux, Max OS X, 或者是 Windows 上。为了开发 Flink 应用程序在本地机器上需要有 Java 8.x 和 maven 环境。 如果有 Java 8 环境运行下面的命令会输出如下版本信息 $ java -version
java version 1.8.0_65
Java(TM) SE Runtime Environment (build 1.8.0_65-b17)
Java HotSpot(TM) 64-Bit Server VM (build 25.65-b01, mixed mode) 如果有 maven 环境运行下面的命令会输出如下版本信息 $ mvn -version
Apache Maven 3.5.4 (1edded0938998edf8bf061f1ceb3cfdeccf443fe; 2018-06-18T02:33:1408:00)
Maven home: /Users/wuchong/dev/maven
Java version: 1.8.0_65, vendor: Oracle Corporation, runtime: /Library/Java/JavaVirtualMachines/jdk1.8.0_65.jdk/Contents/Home/jre
Default locale: zh_CN, platform encoding: UTF-8
OS name: mac os x, version: 10.13.6, arch: x86_64, family: mac 另外我们推荐使用 ItelliJ IDEA 社区免费版已够用作为 Flink 应用程序的开发 IDE。Eclipse 虽然也可以但是 Eclipse 在 Scala 和 Java 混合型项目下会有些已知问题所以不太推荐 Eclipse。下一章节我们会介绍如何创建一个 Flink 工程并将其导入 ItelliJ IDEA。 创建 Maven 项目 我们将使用 Flink Maven Archetype 来创建我们的项目结构和一些初始的默认依赖。在你的工作目录下运行如下命令来创建项目 mvn archetype:generate \-DarchetypeGroupIdorg.apache.flink \-DarchetypeArtifactIdflink-quickstart-java \-DarchetypeVersion1.6.1 \-DgroupIdmy-flink-project \-DartifactIdmy-flink-project \-Dversion0.1 \-Dpackagemyflink \-DinteractiveModefalse 你可以编辑上面的 groupId, artifactId, package 成你喜欢的路径。使用上面的参数Maven 将自动为你创建如下所示的项目结构 $ tree my-flink-project
my-flink-project
├── pom.xml
└── src└── main├── java│ └── myflink│ ├── BatchJob.java│ └── StreamingJob.java└── resources└── log4j.properties 我们的 pom.xml 文件已经包含了所需的 Flink 依赖并且在 src/main/java 下有几个示例程序框架。接下来我们将开始编写第一个 Flink 程序。 编写 Flink 程序 启动 IntelliJ IDEA选择 Import Project导入项目选择 my-flink-project 根目录下的 pom.xml。根据引导完成项目导入。 在 src/main/java/myflink 下创建 SocketWindowWordCount.java 文件 package myflink;public class SocketWindowWordCount {public static void main(String[] args) throws Exception {}
} 现在这程序还很基础我们会一步步往里面填代码。注意下文中我们不会将 import 语句也写出来因为 IDE 会自动将他们添加上去。在本节末尾我会将完整的代码展示出来如果你想跳过下面的步骤可以直接将最后的完整代码粘到编辑器中。 Flink 程序的第一步是创建一个 StreamExecutionEnvironment 。这是一个入口类可以用来设置参数和创建数据源以及提交任务。所以让我们把它添加到 main 函数中 StreamExecutionEnvironment env StreamExecutionEnvironment.getExecutionEnvironment(); 下一步我们将创建一个从本地端口号 9000 的 socket 中读取数据的数据源 DataStream text env.socketTextStream(localhost, 9000, \n); 这创建了一个字符串类型的 DataStream。DataStream 是 Flink 中做流处理的核心 API上面定义了非常多常见的操作如过滤、转换、聚合、窗口、关联等。在本示例中我们感兴趣的是每个单词在特定时间窗口中出现的次数比如说5秒窗口。为此我们首先要将字符串数据解析成单词和次数使用Tuple2String, Integer表示第一个字段是单词第二个字段是次数次数初始值都设置成了1。我们实现了一个 flatmap 来做解析的工作因为一行数据中可能有多个单词。 DataStream wordCounts text.flatMap(new FlatMapFunction() {Overridepublic void flatMap(String value, Collector out) {for (String word : value.split(\\s)) {out.collect(Tuple2.of(word, 1));}}}); 接着我们将数据流按照单词字段即0号索引字段做分组这里可以简单地使用 keyBy(int index) 方法得到一个以单词为 key 的Tuple2String, Integer数据流。然后我们可以在流上指定想要的窗口并根据窗口中的数据计算结果。在我们的例子中我们想要每5秒聚合一次单词数每个窗口都是从零开始统计的。 DataStream windowCounts wordCounts.keyBy(0).timeWindow(Time.seconds(5)).sum(1); 第二个调用的 .timeWindow() 指定我们想要5秒的翻滚窗口Tumble。第三个调用为每个key每个窗口指定了sum聚合函数在我们的例子中是按照次数字段即1号索引字段相加。得到的结果数据流将每5秒输出一次这5秒内每个单词出现的次数。 最后一件事就是将数据流打印到控制台并开始执行 windowCounts.print().setParallelism(1);
env.execute(Socket Window WordCount); 最后的 env.execute 调用是启动实际Flink作业所必需的。所有算子操作例如创建源、聚合、打印只是构建了内部算子操作的图形。只有在execute()被调用时才会在提交到集群上或本地计算机上执行。 下面是完整的代码部分代码经过简化代码在 GitHub 上也能访问到 package myflink;import org.apache.flink.api.common.functions.FlatMapFunction;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.streaming.api.datastream.DataStream;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.windowing.time.Time;
import org.apache.flink.util.Collector;public class SocketWindowWordCount {public static void main(String[] args) throws Exception {// 创建 execution environmentfinal StreamExecutionEnvironment env StreamExecutionEnvironment.getExecutionEnvironment();// 通过连接 socket 获取输入数据这里连接到本地9000端口如果9000端口已被占用请换一个端口DataStream text env.socketTextStream(localhost, 9000, \n);// 解析数据按 word 分组开窗聚合DataStream windowCounts text.flatMap(new FlatMapFunction() {Overridepublic void flatMap(String value, Collector out) {for (String word : value.split(\\s)) {out.collect(Tuple2.of(word, 1));}}}).keyBy(0).timeWindow(Time.seconds(5)).sum(1);// 将结果打印到控制台注意这里使用的是单线程打印而非多线程windowCounts.print().setParallelism(1);env.execute(Socket Window WordCount);}
} 运行程序 要运行示例程序首先我们在终端启动 netcat 获得输入流 nc -lk 9000 如果是 Windows 平台可以通过 https://nmap.org/ncat/ 安装 ncat 然后运行 ncat -lk 9000 然后直接运行SocketWindowWordCount的 main 方法。 只需要在 netcat 控制台输入单词就能在 SocketWindowWordCount 的输出控制台看到每个单词的词频统计。如果想看到大于1的计数请在5秒内反复键入相同的单词。 作者伍翀 原文链接 本文为云栖社区原创内容未经允许不得转载。 转载于:https://my.oschina.net/yunqi/blog/3047427
