リアルタイム メッセージ ソース (現在はソケット) から RDD を取得して、ローカル ファイルからの読み取りに使用されるコード行を置き換えたいと考えていますsc.newAPIHadoopFile()
。プロジェクトの構造を維持するために、そのソースから DStream ではなく RDD を取得する必要があります。カスタム レシーバーを実装しようとしましたがStreamingContext.receiverStream()
、DStream しか得られません。どのようにできるのか?
を使用して DStream を RDD に変換しようとしましたcompute
が、意味がなく、失敗しました。そこで、受信機で RDD を直接受信する方法を発見することにしました。