問題タブ [google-cloud-dataflow]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
130 参照

google-cloud-dataflow - Cloud Dataflow 自動スケーリング メッセージ

FAQによると、ワーカー プールをスピンアップするとき、自動スケーリングはデフォルトでオフになっています。「numworkers」を 5 に設定し、enum を使用してアルゴリズム タイプを「NONE」に設定しました。AutoscalingAlgorithmType

ただし、ジョブの実行中に次のメッセージがまだ表示されます。

(f8775c76163306ae): 自動スケーリング: ワーカー プールのサイズを 0 から 1 に変更しています。

私たちの知る限り、問題は発生していませんが、なぜこれが発生しているのか、意図したものかどうかを知りたいのですが?

0 投票する
4 に答える
1549 参照

google-cloud-dataflow - Google Cloud Dataflow: DirectPipelineRunner (ローカル ジョブ) を使用してパイプラインで Google Cloud Pub/Sub にアクセスしていますか?

Google Cloud Dataflow SDK を使用してストリーミング パイプラインを作成しましたが、パイプラインをローカルでテストしたいと考えています。私のパイプラインは、Google Pub/Sub から入力データを受け取ります。

DirectPipelineRunner を使用して Pub/Sub (pubsubIO) にアクセスするジョブを実行することはできますか (Google Cloud ではなくローカルで実行)?

通常のユーザー アカウントとしてログインしているときに、アクセス許可の問題が発生しています。アクセスしようとしている pub/sub トピックのプロジェクトの所有者です。

0 投票する
1 に答える
1619 参照

google-cloud-dataflow - ゾーン「asia-east1-[abc]」のリソース枯渇が増加

私たちはオーストラリアに拠点を置いているため、Cloud Dataflow パイプラインを実行するために選択する論理ゾーンは、SEA ゾーンの 1 つ、つまり asia-east1-x です。

ここ数日、リクエストを満たすのに十分なリソースがゾーンにないというエラーが発生しています。

2015-04-13T04:36:14.135Z: (87beb4ec714a2776): ワークフローが失敗しました。原因: (21d127c58eb9cdaf): ステップ setup_resource_global_gce_worker_pool2: リソース global_gce_worker_pool のセットアップに失敗しました/zones/asia-east1-a' には、要求を満たすのに十分なリソースがありません。別のゾーンを試すか、後でもう一度やり直してください。

問題が何であるかは明らかですが、ワーカー プールで 5 ~ 10 個のインスタンスしか要求していません。要求する量はそれほど多くありません。

ここ数日でこのエラーが発生したのはなぜですか? また、既知の問題であり、修正されるのでしょうか?

0 投票する
3 に答える
2812 参照

google-app-engine - App Engine から Google Cloud Dataflow ジョブを実行するには?

Cloud Dataflow のドキュメントを読んでも、App Engine からデータフロー ジョブを実行する方法がわかりません。出来ますか?バックエンドが Python で書かれているか Java で書かれているかは関係がありますか? ありがとう!

0 投票する
1 に答える
173 参照

google-cloud-dataflow - Dataflow ワーカーで実行中にパイプライン オプションを変更するとどうなりますか?

Dataflow ワーカーで実行中にパイプライン オプションを変更するとどうなりますか?

PipelineOptions の公開ドキュメントは次のとおりです: https://cloud.google.com/dataflow/java-sdk/JavaDoc/com/google/cloud/dataflow/sdk/options/PipelineOptions