问题描述
我需要输出Dataset[Vector]
,但是下面的代码引发了错误。
def main(args: Array[String]) {
val spark = SparkSession.builder
.appName("Hello World!")
.master("local[*]")
.getorCreate()
import spark.implicits._
//blah blah and read data etc.
val word2vec = new Word2Vec()
.setInputCol("value").setoutputCol("vectors")
.setVectorSize(5).setMinCount(0).setwindowSize(5)
val dataset = spark.createDataset(data)
val model = word2vec.fit(dataset)
implicit val vectorEncoder: Encoder[Vector] = org.apache.spark.sql.Encoders.product[Vector]
val result = model.transform(dataset).select("vectors")
val output = result.map(s => Vectors.dense(s.getDouble(1)))
}
启动程序后立即引发错误:
type arguments [org.apache.spark.ml.linalg.Vector] do not conform to method product's type parameter bounds [T <: Product]
implicit val vectorEncoder: Encoder[Vector] = org.apache.spark.sql.Encoders.product[Vector]
有什么想法可以解决这个问题吗?
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)