問題タブ [google-cloud-dataflow]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
google-cloud-dataflow - Cloud Dataflow 自動スケーリング メッセージ
FAQによると、ワーカー プールをスピンアップするとき、自動スケーリングはデフォルトでオフになっています。「numworkers」を 5 に設定し、enum を使用してアルゴリズム タイプを「NONE」に設定しました。AutoscalingAlgorithmType
ただし、ジョブの実行中に次のメッセージがまだ表示されます。
(f8775c76163306ae): 自動スケーリング: ワーカー プールのサイズを 0 から 1 に変更しています。
私たちの知る限り、問題は発生していませんが、なぜこれが発生しているのか、意図したものかどうかを知りたいのですが?
google-cloud-dataflow - Google Cloud Dataflow: DirectPipelineRunner (ローカル ジョブ) を使用してパイプラインで Google Cloud Pub/Sub にアクセスしていますか?
Google Cloud Dataflow SDK を使用してストリーミング パイプラインを作成しましたが、パイプラインをローカルでテストしたいと考えています。私のパイプラインは、Google Pub/Sub から入力データを受け取ります。
DirectPipelineRunner を使用して Pub/Sub (pubsubIO) にアクセスするジョブを実行することはできますか (Google Cloud ではなくローカルで実行)?
通常のユーザー アカウントとしてログインしているときに、アクセス許可の問題が発生しています。アクセスしようとしている pub/sub トピックのプロジェクトの所有者です。
google-cloud-dataflow - ゾーン「asia-east1-[abc]」のリソース枯渇が増加
私たちはオーストラリアに拠点を置いているため、Cloud Dataflow パイプラインを実行するために選択する論理ゾーンは、SEA ゾーンの 1 つ、つまり asia-east1-x です。
ここ数日、リクエストを満たすのに十分なリソースがゾーンにないというエラーが発生しています。
2015-04-13T04:36:14.135Z: (87beb4ec714a2776): ワークフローが失敗しました。原因: (21d127c58eb9cdaf): ステップ setup_resource_global_gce_worker_pool2: リソース global_gce_worker_pool のセットアップに失敗しました/zones/asia-east1-a' には、要求を満たすのに十分なリソースがありません。別のゾーンを試すか、後でもう一度やり直してください。
問題が何であるかは明らかですが、ワーカー プールで 5 ~ 10 個のインスタンスしか要求していません。要求する量はそれほど多くありません。
ここ数日でこのエラーが発生したのはなぜですか? また、既知の問題であり、修正されるのでしょうか?
google-app-engine - App Engine から Google Cloud Dataflow ジョブを実行するには?
Cloud Dataflow のドキュメントを読んでも、App Engine からデータフロー ジョブを実行する方法がわかりません。出来ますか?バックエンドが Python で書かれているか Java で書かれているかは関係がありますか? ありがとう!
google-cloud-dataflow - Dataflow ワーカーで実行中にパイプライン オプションを変更するとどうなりますか?
Dataflow ワーカーで実行中にパイプライン オプションを変更するとどうなりますか?
PipelineOptions の公開ドキュメントは次のとおりです: https://cloud.google.com/dataflow/java-sdk/JavaDoc/com/google/cloud/dataflow/sdk/options/PipelineOptions