[[199059]]

collect

返回RDD的所有元素

scala> var input=sc.parallelize(Array(-1,0,1,2,2)) 
input: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[15] at parallelize at <console>:27 
scala> var result=input.collect 
result: Array[Int] = Array(-1, 0, 1, 2, 2) 

count,coutByValue

count返回RDD的元素數量,countByValue返回每個值的出現次數

scala> var input=sc.parallelize(Array(-1,0,1,2,2)) 
scala> var result=input.count 
result: Long = 5 
scala> var result=input.countByValue 
result: scala.collection.Map[Int,Long] = Map(0 -> 1, 1 -> 1, 2 -> 2, -1 -> 1) 

take,top,takeOrdered

take返回RDD的前N個元素 takeOrdered默認返回升序排序的前N個元素，可以指定排序算法 Top返回降序排序的前N個元素

var input=sc.parallelize(Array(1,2,3,4,9,8,7,5,6)) 
 
scala> var result=input.take(6) 
result: Array[Int] = Array(1, 2, 3, 4, 9, 8) 
scala> var result=input.take(20) 
result: Array[Int] = Array(1, 2, 3, 4, 9, 8, 7, 5, 6) 
 
scala> var result=input.takeOrdered(6) 
result: Array[Int] = Array(1, 2, 3, 4, 5, 6) 
scala> var result=input.takeOrdered(6)(Ordering[Int].reverse) 
result: Array[Int] = Array(9, 8, 7, 6, 5, 4) 
 
scala> var result=input.top(6) 
result: Array[Int] = Array(9, 8, 7, 6, 5, 4 
) 

Filter

傳入返回值為boolean的函數，返回改函數結果為true的RDD

scala> var input=sc.parallelize(Array(-1,0,1,2)) 
scala> var result=input.filter(_>0).collect() 
result: Array[Int] = Array(1, 2) 

map,flatmap

map對每個元素執行函數，轉換為新的RDD,flatMap和map類似，但會把map的返回結果做flat處理，就是把多個Seq的結果拼接成一個Seq輸出

scala> var input=sc.parallelize(Array(-1,0,1,2)) 
scala> var result=input.map(_+1).collect 
result: Array[Int] = Array(0, 1, 2, 3) 
 
scala>var result=input.map(x=>x.to(3)).collect 
result: Array[scala.collection.immutable.Range.Inclusive] = Array(Range(-1, 0, 1, 2, 3), Range(0, 1, 2, 3), Range(1, 2, 3), Range(2, 3)) 
 
scala>var result=input.flatMap(x=>x.to(3)).collect 
result: Array[Int] = Array(-1, 0, 1, 2, 3, 0, 1, 2, 3, 1, 2, 3, 2, 3) 

distinct

RDD去重

scala>var input=sc.parallelize(Array(-1,0,1,2,2)) 
scala>var result=input.distinct.collect 
result: Array[Int] = Array(0, 1, 2, -1) 

Reduce

通過函數聚集RDD中的所有元素

scala> var input=sc.parallelize(Array(-1,0,1,2)) 
scala> var result=input.reduce((x,y)=>{println(x,y);x+y}) 
(-1,1)  //處理-1,1,結果為0,RDD剩余元素為{0,2} 
(0,2)   //上面的結果為0,在處理0,2,結果為2,RDD剩余元素為{0} 
(2,0)   //上面結果為2，再處理(2,0)，結果為2,RDD剩余元素為{} 
result: Int = 2 

sample,takeSample

sample就是從RDD中抽樣，***個參數withReplacement是指是否有放回的抽樣，true為放回，為false為不放回，放回就是抽樣結果可能重復，第二個參數是fraction，0到1之間的小數，表明抽樣的百分比 takeSample類似，但返回類型是Array，***個參數是withReplacement，第二個參數是樣本個數

var rdd=sc.parallelize(1 to 20) 
 
scala> rdd.sample(true,0.5).collect 
res33: Array[Int] = Array(6, 8, 13, 15, 17, 17, 17, 18, 20) 
 
scala> rdd.sample(false,0.5).collect 
res35: Array[Int] = Array(1, 3, 10, 11, 12, 13, 14, 17, 18) 
 
scala> rdd.sample(true,1).collect 
res44: Array[Int] = Array(2, 2, 3, 5, 6, 6, 8, 9, 9, 10, 10, 10, 14, 15, 16, 17, 17, 18, 19, 19, 20, 20) 
 
scala> rdd.sample(false,1).collect 
res46: Array[Int] = Array(1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20) 
 
scala> rdd.takeSample(true,3) 
res1: Array[Int] = Array(1, 15, 19) 
 
scala> rdd.takeSample(false,3) 
res2: Array[Int] = Array(7, 16, 6) 

collectAsMap,countByKey,lookup

collectAsMap把PairRDD轉為Map,如果存在相同的key,后面的會覆蓋前面的。 countByKey統計每個key出現的次數 Lookup返回給定key的所有value

scala> var input=sc.parallelize(List((1,"1"),(1,"one"),(2,"two"),(3,"three"),(4,"four"))) 
 
scala> var result=input.collectAsMap 
result: scala.collection.Map[Int,String] = Map(2 -> two, 4 -> four, 1 -> one, 3 -> three) 
 
scala> var result=input.countByKey 
result: scala.collection.Map[Int,Long] = Map(1 -> 2, 2 -> 1, 3 -> 1, 4 -> 1) 
 
scala> var result=input.lookup(1) 
result: Seq[String] = WrappedArray(1, one) 
 
scala> var result=input.lookup(2) 
result: Seq[String] = WrappedArray(two) 

groupBy,keyBy

groupBy根據傳入的函數產生的key,形成元素為K-V形式的RDD，然后對key相同的元素分組 keyBy對每個value,為它加上key

scala> var rdd=sc.parallelize(List("A1","A2","B1","B2","C")) 
scala> var result=rdd.groupBy(_.substring(0,1)).collect 
result: Array[(String, Iterable[String])] = Array((A,CompactBuffer(A1, A2)), (B,CompactBuffer(B1, B2)), (C,CompactBuffer(C))) 
 
scala> var rdd=sc.parallelize(List("hello","world","spark","is","fun")) 
scala> var result=rdd.keyBy(_.length).collect 
result: Array[(Int, String)] = Array((5,hello), (5,world), (5,spark), (2,is), (3,fun)) 

keys,values

scala> var input=sc.parallelize(List((1,"1"),(1,"one"),(2,"two"),(3,"three"),(4,"four"))) 
scala> var result=input.keys.collect 
result: Array[Int] = Array(1, 1, 2, 3, 4) 
scala> var result=input.values.collect 
result: Array[String] = Array(1, one, two, three, four) 
 
mapvalues 
mapvalues對K-V形式的RDD的每個Value進行操作 
scala> var input=sc.parallelize(List((1,"1"),(1,"one"),(2,"two"),(3,"three"),(4,"four"))) 
scala> var result=input.mapValues(_*2).collect 
result: Array[(Int, String)] = Array((1,11), (1,oneone), (2,twotwo), (3,threethree), (4,fourfour)) 

union,intersection,subtract,cartesian

union合并2個集合，不去重 subtract將***個集合中的同時存在于第二個集合的元素去掉 intersection返回2個集合的交集 cartesian返回2個集合的笛卡兒積

scala> var rdd1=sc.parallelize(Array(-1,1,1,2,3)) 
scala> var rdd2=sc.parallelize(Array(0,1,2,3,4)) 
 
scala> var result=rdd1.union(rdd2).collect 
result: Array[Int] = Array(-1, 1, 1, 2, 3, 0, 1, 2, 3, 4) 
 
scala> var result=rdd1.intersection(rdd2).collect 
result: Array[Int] = Array(1, 2, 3) 
 
scala> var result=rdd1.subtract(rdd2).collect 
result: Array[Int] = Array(-1) 
 
scala> var result=rdd1.cartesian(rdd2).collect 
result: Array[(Int, Int)] = Array((-1,0), (-1,1), (-1,2), (-1,3), (-1,4), (1,0), (1,1), (1,2), (1,3), (1,4), (1,0), (1,1), (1,2), (1,3), (1,4), (2,0), (2,1), (2,2), (2,3), (2,4), (3,0), (3,1), (3,2), (3,3), (3,4))