0

spark-submit を使用する場合、依存関係を --packages で送信する必要があります。どのパッケージを使用すればよいですか?

依存関係を含む uber jar を作成しようとしましたが、次のエラーが発生します。

java.lang.IllegalArgumentException: Please specify an existing file

エラーは、次のコードの結果です。

String path = "hdfs:///user/data.txt";
SentenceIterator iter = new LineSentenceIterator(new File(path));
4

1 に答える 1

2

Deeplearning4j には、実際には word2vec の独自のスパーク バージョンがあります。ここで例を確認してください: https://github.com/deeplearning4j/deeplearning4j/blob/master/deeplearning4j-scaleout/spark/dl4j-spark-nlp/src/test/java/org/deeplearning4j/spark/models/embeddings/ word2vec/Word2VecTest.java#L57

于 2016-07-28T01:27:10.190 に答える