如何优化浦元品牌网站的响应式设计以提升推广效果?
摘要:浦元品牌网站建设,响应式网站推广,vps搭建个人网站,元素领域wordpress第1章 RDD概述 1.1 什么是RDD RDD(Resilient Distributed Dataset&#x
浦元品牌网站建设,响应式网站推广,vps搭建个人网站,元素领域wordpress第1章 RDD概述
1.1 什么是RDD
RDD#xff08;Resilient Distributed Dataset#xff09;叫做弹性分布式数据集#xff0c;是Spark中最基本的数据抽象。代码中是一个抽象类#xff0c;它代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。 RDD类比工厂生产。 …第1章 RDD概述
1.1 什么是RDD
RDDResilient Distributed Dataset叫做弹性分布式数据集是Spark中最基本的数据抽象。代码中是一个抽象类它代表一个弹性的、不可变、可分区、里面的元素可并行计算的集合。 RDD类比工厂生产。 内容和长度都是不可变化的要修改数据或者加数据进去只能创建新的RDDRDD的数据是存储在不同计算机的内存中而Kafka存储在同一计算机的磁盘不同分区。
*** RDD类比工厂生产 ***。
懒加载机制就是厂长发话才可以运转开干中间的流程可进行优化上一个过程结束之后不存储数据下一个过程继续中间车间可以多个也可以车间合并。
## 1.2 RDD五大特性

# 第2章 RDD编程
## 2.1 RDD的创建
在Spark中创建RDD的创建方式可以分为三种从集合中创建RDD、从外部存储创建RDD、从其他RDD创建。
2.1.1 IDEA环境准备
1创建一个maven工程工程名称叫SparkCore

2创建包名com.aa.createrdd
3在pom文件中添加spark-core的依赖dart
dependenciesdependencygroupIdorg.apache.spark/groupIdartifactIdspark-core_2.12/artifactIdversion3.1.3/version/dependency
/dependencies
4如果不希望运行时打印大量日志可以在resources文件夹中添加log4j.properties文件并添加日志配置信息
log4j.rootCategoryERROR, console
log4j.appender.consoleorg.apache.log4j.ConsoleAppender
log4j.appender.console.targetSystem.err
log4j.appender.console.layoutorg.apache.log4j.PatternLayout
log4j.appender.console.layout.ConversionPattern%d{yy/MM/dd HH:mm:ss} %p %c{1}: %m%n# Set the default spark-shell log level to ERROR. When running the spark-shell, the
# log level for this class is used to overwrite the root loggers log level, so that
# the user can have different defaults for the shell and regular Spark apps.
log4j.logger.org.apache.spark.repl.MainERROR# Settings to quiet third party logs that are too verbose
log4j.logger.org.spark_project.jettyERROR
log4j.logger.org.spark_project.jetty.util.component.AbstractLifeCycleERROR
log4j.logger.org.apache.spark.repl.SparkIMain$exprTyperERROR
log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreterERROR
log4j.logger.org.apache.parquetERROR
log4j.logger.parquetERROR# SPARK-9183: Settings to avoid annoying messages when looking up nonexistent UDFs in SparkSQL with Hive support
log4j.logger.org.apache.hadoop.hive.metastore.RetryingHMSHandlerFATAL
log4j.logger.org.apache.hadoop.hive.ql.exec.FunctionRegistryERROR
2.1.2 创建IDEA快捷键
1点击File-Settings…-Editor-Live Templates-output-Live Template 2点击左下角的Define-选择JAVA 3在Abbreviation中输入快捷键名称sc在Template text中填写输入快捷键后生成的内容。
// 1.创建配置对象
SparkConf conf new SparkConf().setMaster(local[*]).setAppName(sparkCore);// 2. 创建sparkContext
JavaSparkContext sc new JavaSparkContext(conf);// 3. 编写代码// 4. 关闭sc
sc.stop();
