问题描述
我正在尝试在 Spark Scala 中实现 Kmeans 聚类。
所以目前我有一个看起来像这样的 RDD- 它包含聚类中心和数据点。
scala> res2.collect
res54: Array[(Int,Array[Any])] = Array((2,Array(19,15,39)),(2,Array(21,81)),Array(20,16,6)),(1,Array(23,77)),Array(31,17,40)),(3,Array(22,76)),Array(35,18,94)),Array(64,19,3)),Array(30,72)))
我的下一步是根据数组的键对数组进行元素求和,并将结果除以计数(通过求平均值找到新的质心集)。
我无法弄清楚如何实现这一点,因为简单地使用 reduceByKey(__+_) 不适用于数组。
解决方法
ReduceByKey 应该适用于数组。通过计数,我假设您的意思是与给定键关联的元素数量,可以使用 countByKey() 找到。这种方法应该有效:
val keycount = your_rdd.countByKey()
def reduceSum(a1: Array[Int],a2: Array[Int]): Array[Int] = {
Array(a1(0)+a2(0),a1(1)+a2(1),a1(2)+a2(2))
}
val summed = your_rdd.reduceByKey(reduceSum)
val combined = keycount.join(summed)
combined.map{
case (idx,(count,arr)) => arr.map(1.0*arr / count)
}
,
这是我的解决方案:
import spark.implicits._
val df = spark.sparkContext.parallelize(Array((2,Array(19,15,39)),(2,Array(21,81)),Array(20,16,6)),(1,Array(23,77)),Array(31,17,40)),(3,Array(22,76)),Array(35,18,94)),Array(64,19,3)),Array(30,72))))
df.map(line => {
val sumValues = line._2.sum/line._2.size;
(line._1,sumValues)
} ).reduceByKey(_+_).toDF("key","avg").show();
输出
|key|avg|
+---+---+
| 1|125|
| 3| 83|
| 2|106|
+---+---+