函数指的是执行某个任务或者是一系列的指令被组织成的一片代码块。标准的数学意义上的函数指的是输入集合和输出集合的一种对应关系。
Traversable 遍历 Iterable 迭代 Set无序集合 Sequence序列 Map映射
在日常项目开发中，我们几乎都会用到Scala中的集合以及一些集合操作。由于 Scala 中的集合操作灵活多变，对于刚接触Scala的开发者，在选用何种集合以及使用何种集合操作就显得不那么合理了，虽然大
本篇博客是Spark之【RDD编程】系列第四篇，为大家带来的是RDD中的函数传递的内容。
本篇文档是介绍如何快速使用spark，首先将会介绍下spark在shell中的交互api，然后展示下如何使用java,scala,python等语言编写应用。可以查看编程指南了解更多的内容。 为了良好的阅读下面的文档，最好是结合实际的练习。首先需要下载spark,然后安装hdfs，可以下载任意版本的hdfs。 Spark Shell 交互 基本操作 Spark Shell提供给用户一个简单的学习API的方式 以及 快速分析数据的工具。在shell中，既可以使用scala（运行在java虚拟机，因此可以
根据上篇关于MongoDB-Engine的功能设计方案，我们将在这篇讨论里进行功能实现和测试。下面是具体的功能实现代码：基本上是直接调用Mongo-scala的对应函数，需要注意的是java类型和scala类型之间的相互转换： object MGOEngine { import MGOContext._ import MGOCommands._ import MGOAdmins._ def mgoExecute[T](ctx: MGOContext)(implicit client:
:: （两个冒号）操作符是右结合的，如果要构建一个列表List(1,2,3,4)，实际上也可以采用下面的方式,Nil表示空列表。
其中Nil表示空列表，::符号表示在列表前面追加元素，所以如果没有后面的Nil，Scala就会报错。
Option 是一个表示有可能包含值的容器。 Option 本身是泛型的，并且有两个子类： Some[T] 或 None
几个重要的概念 谓词是什么（What a predicate is） A predicate is simply a method, function, or anonymous function that takes one or more parameters and returns a Boolean value. For instance, the following method returns true or false, so it’s a predicate: def isEven (
问题导读 1.在url中，如何过滤不需要的内容？ 2.如何获取404记录并且获取字段？ 3.获取不能访问url列表的思路是什么？ about云日志分析实战之清洗日志4：统计网站相关信息 htt
JAVA中，举例你S是一个字符串，那么s(i)就是该字符串的第i个字符(s.charAt(i)).Scala中使用apply的方法
Spark RDD 支持2种类型的操作: transformations 和 actions。transformations： 从已经存在的数据集中创建一个新的数据集，如 map。actions： 数据集上进行计算之后返回一个值，如 reduce。
本文介绍了Spark调优与调试的方法和技巧，包括设置SparkConf、查看应用进度信息和性能指标、Spark执行组成部分、使用Spark shell完成简单的日志分析应用、查看RDD和DataFrame等。同时，还讲解了Spark网页用户界面的使用方法以及关键性能考量。
在开发过程中，我们经常遇到各种各样的错误。这篇文章将介绍如何解决一种常见的编译错误：[ERROR] /Users/jack/book/lightsword/src/main/scala/com/springboot/in/action/filter/LoginFilter.scala:28: error: ambiguous reference to overloaded definition。这种错误通常意味着在某个方法调用中存在重载定义的引用模糊问题。下面是一些解决该错误的常见方法。
作用：返回一个新的RDD，该RDD由每一个输入元素经过func函数转换后组成 2. 需求：创建一个1-10数组的RDD，将所有元素2形成新的RDD （1）创建 scala> var source = sc.parallelize(1 to 10) source: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[8] at parallelize at :24 （2）打印 scala> source.collect() res7: Array[Int] = Array(1, 2, 3, 4, 5, 6, 7, 8, 9, 10) （3）将所有元素2 scala> val mapadd = source.map(_ * 2) mapadd: org.apache.spark.rdd.RDD[Int] = MapPartitionsRDD[9] at map at :26 （4）打印最终结果 scala> mapadd.collect() res8: Array[Int] = Array(2, 4, 6, 8, 10, 12, 14, 16, 18, 20)
本文介绍了如何使用 Spark 进行大数据处理，首先介绍了 Spark 的基本概念和架构，然后通过一个简单的例子展示了如何使用 Spark 进行数据处理。最后，本文还介绍了 Spark 的部署方式，包括本地部署和集群部署。
完成了一套标准的rest风格数据库CRUD操作httpserver后发现有许多不足。主要是为了追求“通用”两个字，想把所有服务接口做的更“范generic”些，结果反而限制了目标数据库的特点，最终产生了一套功能弱小的玩具。比如说吧：标准rest风格getbyId需要所有的数据表都具备id这个字段，有点傻。然后get返回的结果集又没有什么灵活的控制方法如返回数量、字段、排序等。特别对MongoDB这样的在查询操作方面接近关系式数据库的分布式数据库：上篇提到过，它的query能力强大，条件组合灵活，如果不能在网络服务api中体现出来就太可惜了。所以，这篇博文会讨论一套专门针对MongoDB的rest-server。我想达到的目的是：后台数据库是MongoDB，通过httpserver提供对MongoDB的CRUD操作，客户端通过http调用CRUD服务。后台开发对每一个数据库表单使用统一的标准增添一套新的CRUD服务。希望如此能够提高开发效率，减少代码出错机会。
首先需要安装好Java和Scala，然后下载Spark安装，确保PATH 和JAVA_HOME 已经设置，然后需要使用Scala的SBT 构建Spark如下：
最近刚好有同事在学习MongoDB，我们讨论过MongoDB应该置于服务器端然后通过web-service为客户端提供数据的上传下载服务。我们可以用上节讨论的respapi框架来实现针对MongoDB的CRUD操作。在谈到restapi之前我在这篇讨论先介绍一下MongoDB数据库操作的scala编程，因为与传统的SQL数据库操作编程有比较大的差别。
Slick (Scala language-integrated connection kit)是scala的一个FRM（Functional Relational Mapper），即函数式的关
大家知道在spark on yarn中，spark的系统日志都是按照log4j的方式写到每一个node上面的container目录下的，如果要实时看一个application的日志，很麻烦！需要登录到executor所在的node上去tail一个文件，或者通过spark UI在界面上看，executor多了，这个就是麻烦事，要在不同的机器不同的目录中切换！我就在想能不能统一写到每个node的同一个地方，然后通过logstash发送到ELK里面去展示，这样在一个界面就可以看到所有application的日志了。但是这里就有1个很大的问题，log4j写的日志里面没有标明是哪个application写的日志，一大堆日志怎么知道谁是谁写的呢？所以日志里面一定要带进程号之类的标识，但是遗憾的log4j里面不支持，查了下要log4j2.9以后的版本（此时已经是log4j2了）才支持写processId，而spark3.0自带的是log4j-1.2.17.jar，所以升级的事情就来了！
前两篇我们介绍了JDBC和Cassandra的gRPC streaming实现。相对MongoDB来说，JDBC和Cassandra支持字符类型的query语句SQL,CQL，所以把query指令转换成protobuf structures是简单直接的。而MongoDB没有提供字符类的query，所以我们必须进行MongoDB query涉及的所有类型与protobuf类型的相互转换，实现gRPC功能会复杂的多。我们在这篇讨论里先介绍MongoDB query的protobuf转换。
在非函数式编程语言里，函数的定义包含了“函数类型”和“值”两种层面的内容。但是，在函数式编程中，函数是“头等公民”，可以像任何其他数据类型一样被传递和操作，也就是说，函数的使用方式和其他数据类型的使用方式完全一致了。这时，我们就可以像定义变量那样去定义一个函数，由此导致的结果是，函数也会和其他变量一样，开始有“值”。就像变量的“类型”和“值”是分开的两个概念一样，函数式编程中，函数的“类型”和“值”也成为两个分开的概念，函数的“值”，就是“函数字面量”。 整数字面量
_ 的用途 // import all import scala.io._ // import all, but hide Codec import scala.io.{Codec => _, _} // import all, but rename Codec as CodeA import scala.io.{Codec => CodeA, _} // import all from an object import scala.io.Codec._ object Main {
spark最长用的两个Transformations：map，filter，下面就来介绍一下这两个。
再次看了看上篇博客的源代码，发现连自己都看不懂了。想是为了赶时间交货不知不觉又回到OOP行令模式了，看看下面这段代码：
在akka-alpakka工具包里也提供了对MongoDB的stream-connector，能针对MongoDB数据库进行streaming操作。这个MongoDB-connector里包含了MongoSource，MongoFlow，MongoSink。我们只使用MongoSource，其它两个我们直接用mapAsyc来创造。下面是MongoSource的定义： object MongoSource { def apply(query: Observable[Document]): Sour
所有集合的根是Iterator，它提供了一组公共方法，可以用来迭代处理和管理集合数据。
算子(Operator)将一个或多个 DataStream 转换为新的 DataStream。程序可以将多个转换组合成复杂的数据流拓扑。
前言：Scala的安装教程：http://www.cnblogs.com/biehongli/p/8065679.html 1：Scala之基础语法学习笔记： 1:声明val变量:可以使用val来声明变量，用来存放表达式的计算结果，但是常量声明后是无法改变它的值的，建议使用val来声明常量； 声明var变量:如果要声明可以改变的引用，可以使用var变量，声明的常量的值可以改变。 3:指定类型:无论声明val变量还是声明var变量。都可以手动指定其类型，如果不指定，scala会自动根据值，进行类型的推断；
最近有同事提起想把网页上的图片存在MongoDB里，我十分赞同。比起把图片以文件形式存放在硬盘子目录的方式，MongoDB有太多的优势。首先，MongoDB是分布式数据库，图片可以跨服务器存储。在一个集群环境里通过复制集、分片等技术可以提高图片读取速度、实现数据的高可用和安全性。再就是对大量的图片可用规范的记录管理方式来进行处理，甚至在一个大流量环境里还可以用集群节点负载平衡方式来助力图片的存取。
Apache Spark是用Scala编程语言编写的。为了用Spark支持Python，Apache Spark社区发布了一个工具PySpark。使用PySpark，您也可以使用Python编程语言处理RDD。正是由于一个名为Py4j的库，他们才能实现这一目标。 这里不介绍PySpark的环境设置，主要介绍一些实例，以便快速上手。
上期我们介绍了cluster singleton，它的作用是保证在一个集群环境里永远会有唯一一个singleton实例存在。具体使用方式是在集群所有节点部署ClusterSingletonManager，由集群中的leader节点选定其中一个节点并指示上面的ClusterSingletonManager运行一个cluster singleton实例。与singleton实例交互则通过即时构建ClusterSingletonProxy实例当作沟通目标。从应用场景来说cluster singleton应该是某种pull模式的应用：我们把singleton当作中央操作协调，比如说管理一个任务清单，多个ClusterSingletonProxy从任务清单中获取（pull）自己应该执行的任务。如果需要实现push模式的任务派送：即由singleton主动通知集群里某种类型的actor执行任务，那么通过ClusterSingletonProxy沟通就不适用了，使用pub/sub方式是一个可行的解决方案。
----------目录--------------------------------------------------------- 1.Scala简介和安装 2.Scala语法介绍 3.Scala的函数 4.Scala中的集合类型 ------------------------------------------------------------------------------------------------------------- Scala中的集合类型 Scala提供了一套
因为公司有在跑的Scala程序，为了解决一些常见的BUG，我也是自学了Scala，浅谈一下使用心得把。
TIOBE 公布了 2024 年 6 月编程语言的排行榜：www.tiobe.com/tiobe-index…
搭好的Spark当然要先写一个最简单的WordCount练练手。 那么，需求是： 1、统计Spark下README.md文件的词频； 2、输出较多，筛选出现次数超过10次的，词频逆序显示
Traversable vs Iterable Traversable, Iterable 都是trait。 Iterable 继承 Traversable。 Traversable: 支持foreach. Iterable: 支持Interator方法。 Immutable vs mutable Scala的Collection有Immutable和mutable两个大家族。 Immutable: 不可变。初始化后不会发生变化。scala的默认collections。性能更好。 Mutable：
上篇我们介绍了distributed pub/sub消息传递机制。这是在同一个集群内的消息共享机制：发布者（publisher）和订阅者（subscriber）都在同一个集群的节点上，所有节点上的DistributedPubSubMediator通过集群内部的沟通机制在底层构建了消息流通渠道。在actor pub/sub层面可以实现对象位置透明化。在现实里很多前端都会作为某个集群的客户端但又与集群分离，又或者两个独立的集群之间可能会发生交互关系，这是也会出现客户端与服务端不在同一集群内的情况，ClusterClient就是为集群外部actor与集群内部actor进行沟通的解决方案。
入门 Spark 的路上很难不接触 Scala 。Scala 似乎是为 java 提供了很多『类似函数式编程』的语法糖，这里记录一下这个语言独特的地方分享给读者朋友们。
分布式程序运算是一种水平扩展（scale-out）运算模式，其核心思想是能够充分利用服务器集群中每个服务器节点的计算资源，包括：CPU、内存、硬盘、IO总线等。首先对计算任务进行分割，然后把细分的任务分派给各节点去运算。细分的任务相互之间可以有关联或者各自为独立运算，使用akka-cluster可以把任务按照各节点运算资源的负载情况进行均匀的分配，从而达到资源的合理充分利用以实现运算效率最大化的目的。如果一项工作可以被分割成多个独立的运算任务，那么我们只需要关注如何合理地对细分任务进行分配以实现集群节点的负载均衡，这实际上是一种对无需维护内部状态的运算任务的分配方式：fire and forget。由于承担运算任务的目标actor具体的部署位置是由算法决定的，所以我们一般不需要控制指定的actor或者读取它的内部状态。当然，如果需要的话我们还是可以通过嵌入消息的方式来实现这样的功能。
Spark相比于Mapreduce的一大优势就是提供了很多的方法，可以直接使用；另一个优势就是执行速度快，这要得益于DAG的调度，想要理解这个调度规则，还要理解函数之间的依赖关系。 本篇就着重描述
长度不变的数组Array，如：声明一个长度为10的整形数组，val arr = Array[Int](10)；声明并初始化一个字符串数组： val arrStr = Array(“wo”,”cha”,”yo”)。访问数组方式:访问arrStr第一个元素，arrStr(1)即可
Scala 作为一门函数式编程语言，对习惯了指令式编程语言的同学来说，会不大习惯，这里除了思维方式之外，还有语法层面的，比如 underscore（下划线）就会出现在多种场合，令初学者相当疑惑，今天就来总结下 Scala 中下划线的用法。 1、存在性类型：Existential types def foo(l: List[Option[_]]) = ... 2、高阶类型参数：Higher kinded type parameters case class A[K[_],T](a: K[T]) 3、临时变
在文章SWIFT IS A LOT LIKE SCALA [1] 提到Swift和Scala有很大的相似之处，在某些特性甚至比Scala对函数式编程的支持更友好。笔者遂从Swift语言出发，学习函数式编程[2] [3]，并记录笔记如下。
行动操作是真正触发计算的地方。Spark程序执行到行动操作时，才会执行真正的计算，从文件中加载数据，完成一次又一次转换操作，最终，完成行动操作得到结果。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
