5

spark.createDatasetSpark 2.2 を使用していますが、Seqofを呼び出そうとすると問題が発生しますMap

私の Spark Shell セッションからのコードと出力は次のとおりです。

// createDataSet on Seq[T] where T = Int works
scala> spark.createDataset(Seq(1, 2, 3)).collect
res0: Array[Int] = Array(1, 2, 3)

scala> spark.createDataset(Seq(Map(1 -> 2))).collect
<console>:24: error: Unable to find encoder for type stored in a Dataset.  
Primitive types (Int, String, etc) and Product types (case classes) are 
supported by importing spark.implicits._
Support for serializing other types will be added in future releases.
       spark.createDataset(Seq(Map(1 -> 2))).collect
                          ^

// createDataSet on a custom case class containing Map works
scala> case class MapHolder(m: Map[Int, Int])
defined class MapHolder

scala> spark.createDataset(Seq(MapHolder(Map(1 -> 2)))).collect
res2: Array[MapHolder] = Array(MapHolder(Map(1 -> 2)))

を試しましimport spark.implicits._たが、Spark シェル セッションによって暗黙的にインポートされていることは確かです。

これは現在のエンコーダではカバーされていないケースですか?

4

2 に答える 2