10

特にこのソースから非同期 Web 開発の概念を調査した結果、その概念を証明するサンプル アプリケーションを作成しました。

このソリューションは、2 つの ASP.NET Web API アプリケーションで構成されています。1 つ目は、シミュレートされた遅いエンドポイントです。Student というカスタム クラスのリストを返す前に、1000 ミリ秒待機します。

 public IEnumerable<Student> Get()
    {
        Thread.Sleep(1000);
        return new List<Student> { new Student { Name = @"Paul" }, new Student { Name = @"Steve" }, new Student { Name = @"Dave" }, new Student { Name = @"Sue" } };
    }

学生クラスは次のとおりです。

public class Student
{
    public string Name { get; set; }
}

このエンドポイントは、localhost:4002 の IIS 7 でホストされています。

2 番目のアプリケーションは、1 つは同期、もう 1 つは非同期の 2 つのエンドポイントを使用して最初のアプリケーションに接続します。

public IEnumerable<Student> Get() {
        var proxy = WebRequest.Create(@"http://localhost:4002/api/values");

        var response = proxy.GetResponse();
        var reader = new StreamReader(response.GetResponseStream());

        return JsonConvert.DeserializeObject<IEnumerable<Student>>(reader.ReadToEnd());
    }

    public async Task<IEnumerable<Student>> Get(int id) {
        var proxy = new HttpClient();
        var getStudents = proxy.GetStreamAsync(@"http://localhost:4002/api/values");

        var stream = await getStudents;
        var reader = new StreamReader(stream);

        return JsonConvert.DeserializeObject<IEnumerable<Student>>(reader.ReadToEnd());
    }

localhost:4001 の IIS 7 でホストされています。

両方のエンドポイントが期待どおりに機能し、約 2 秒で戻ります。1秒。上記のリンクのビデオの 13:25 に基づいて、非同期メソッドはそのスレッドを解放し、競合を最小限に抑える必要があります。

Apache Bench を使用してアプリケーションのパフォーマンス テストを実行しています。10 個の同時要求がある同期メソッドの応答時間は次のとおりです。

同期結果

これは私の予想通りです。同時接続が増えると、競合が増加し、応答時間が長くなります。ただし、非同期応答時間は次のとおりです。

非同期の結果

ご覧のとおり、まだいくつかの競合があるようです。平均応答時間はもっとバランスが取れていると思っていたでしょう。50 の同時リクエストで両方のエンドポイントでテストを実行すると、同様の結果が得られます。

これに基づいて、非同期メソッドと同期メソッドの両方が多かれ少なかれ同じ速度 (予想) で実行されているように見えますが、非同期メソッドのオーバーヘッドは考慮されていませんが、非同期メソッドはスレッドを解放していないようですスレッドプールに。コメントや説明をお待ちしております。

4

1 に答える 1

8

テストしていると思うものをテストしていない可能性はかなり高いと思います。私が収集できることから、タイミングを比較してスレッド インジェクションを推測することにより、スレッド プールへのリリースを検出しようとしています。

1 つには、.NET 4.5 のスレッド プールの既定の設定が非常に高くなっています。10 や 100 の同時リクエストだけではヒットしません。

少し戻って、何をテストするかを考えてみてください。非同期メソッドはそのスレッドをスレッド プールに返しますか?

これを示すために示すデモがあります。デモ (プレゼンテーション ラップトップで実行) 用に負荷の高いテストを作成したくなかったので、ちょっとしたトリックを実行しました。スレッド プールを人為的により妥当な値に制限しました。

これを行うと、テストは非常に簡単になります。その数の同時接続を実行してから、その数に 1 を足した数を実行します。同期実装では、最後の実装を開始する前に 1 つの実装が完了するまで待機する必要がありますが、非同期実装ではそれらすべてを開始できます。

サーバー側では、最初にスレッド プール スレッドをシステム内のプロセッサ数に制限します。

protected void Application_Start()
{
    int workerThreads, ioThreads;
    ThreadPool.GetMaxThreads(out workerThreads, out ioThreads);
    ThreadPool.SetMaxThreads(Environment.ProcessorCount, ioThreads);
    ...
}

次に、同期および非同期の実装を行います。

public class ValuesController : ApiController
{
    // Synchronous
    public IEnumerable<string> Get()
    {
        Thread.Sleep(1000);
        return new string[] { "value1", "value2" };
    }

    // Asynchronous
    public async Task<IEnumerable<string>> Get(int id)
    {
        await Task.Delay(1000);
        return new string[] { "value1", "value2" };
    }
}

そして最後に、クライアント テスト コード:

static void Main(string[] args)
{
    try
    {
        MainAsync().Wait();
    }
    catch (Exception ex)
    {
        Console.WriteLine(ex);
    }

    Console.ReadKey();
}

static async Task MainAsync()
{
    ServicePointManager.DefaultConnectionLimit = int.MaxValue;

    var sw = new Stopwatch();
    var client = new HttpClient();
    var connections = Environment.ProcessorCount;
    var url = "http://localhost:35697/api/values/";

    await client.GetStringAsync(url); // warmup
    sw.Start();
    await Task.WhenAll(Enumerable.Range(0, connections).Select(i => client.GetStringAsync(url)));
    sw.Stop();
    Console.WriteLine("Synchronous time for " + connections + " connections: " + sw.Elapsed);

    connections = Environment.ProcessorCount + 1;

    await client.GetStringAsync(url); // warmup
    sw.Restart();
    await Task.WhenAll(Enumerable.Range(0, connections).Select(i => client.GetStringAsync(url)));
    sw.Stop();
    Console.WriteLine("Synchronous time for " + connections + " connections: " + sw.Elapsed);

    url += "13";
    connections = Environment.ProcessorCount;

    await client.GetStringAsync(url); // warmup
    sw.Restart();
    await Task.WhenAll(Enumerable.Range(0, connections).Select(i => client.GetStringAsync(url)));
    sw.Stop();
    Console.WriteLine("Asynchronous time for " + connections + " connections: " + sw.Elapsed);

    connections = Environment.ProcessorCount + 1;

    await client.GetStringAsync(url); // warmup
    sw.Restart();
    await Task.WhenAll(Enumerable.Range(0, connections).Select(i => client.GetStringAsync(url)));
    sw.Stop();
    Console.WriteLine("Asynchronous time for " + connections + " connections: " + sw.Elapsed);
}

私の (8 論理コア) マシンでは、次のような出力が表示されます。

Synchronous time for 8 connections: 00:00:01.0194025
Synchronous time for 9 connections: 00:00:02.0362007
Asynchronous time for 8 connections: 00:00:01.0413737
Asynchronous time for 9 connections: 00:00:01.0238674

これは、非同期メソッドがそのスレッドをスレッド プールに返していることを明確に示しています。

于 2013-06-17T13:13:04.610 に答える