マルチテナントの Azure アプリケーションがあり、多くの異なるジョブがキューに入れられている可能性があります。各ジョブは、キューに格納されている多くの個別のタスクで構成されています。
ユーザーの理由と技術的な理由の両方から、特定のジョブが多くの作業を消費するべきではありません:
ユーザー: 長い間進捗が見られない大規模なジョブの背後で、ユーザーが立ち往生することを望まない技術: タスクの処理には、ネットワーク上の限られたリソースにアクセスすることが含まれます。たとえば、同時接続数は 10 までしかありませんが、最終的にその接続が必要になる何千ものタスクがあります。
もう少し複雑にするために、一部のジョブは同じリソースを消費するという点で「関連」しているため、10 個のワーカーの制限はそれらのジョブ全体である必要があります。
現在、ジョブごとに個別のキューを使用していますが、これは問題なく動作しますが、それらを作成してオンザフライでクリーンアップする必要があり、ワーカーが適切なキューを見つけるためのキューのキューを用意する必要があります
また、これにより、関連するジョブを実行することが困難/不可能になります。
これに適した設計パターンはありますか?