非常に重い負荷の下では、サーバーは TCP 接続を十分に迅速に「リサイクル」していないようです。
複数のマシンを使用するのではなく、1 つのマシンでノード サーバーの複数のインスタンスを作成することにより、Docker を使用して API への 1 秒あたりのリクエスト数を通常よりも多く処理することを検討しています。
次の sysctl 設定が設定されている場合、リサイクルはより高速に行われるように見えますが、存在できるソケットの数には依然として厳しい制限があります。
net.ipv4.ip_local_port_range='1024 65000'
net.ipv4.tcp_tw_reuse='1'
net.ipv4.tcp_fin_timeout='15
複数の docker インスタンスを実行している場合、tcp 接続の合計上限は、「親」マシンが処理できる最大 tcp 接続の数と同じですか?