後でアクセスして、Cookie が設定されている場所を見つけて記録できるように、すべてのリンクの Web ページをスクレイピングする必要があります。これは、ユーザーが設定された Cookie を使用することを要求する新しい英国の法律のためのものです。時間を節約するために、このプロセスの一部を自動化することにしました。
私の問題は、私の会社のサイトがページとコンテンツをレンダリングするために多くの JavaScript を使用していることです。つまり、ページを取得すると (現時点では HTML アジリティ パックを使用して)、ページには主に多くの JavaScript が含まれており、多くの完全にレンダリングされたときに表示されるリンク。これを1つのドメインでaspアプリケーションとしてホストし、URLを渡して、サイトページのすべてのリンクをスクレイピングしてアクセスします。
ページがレンダリングされ、すべてのリンクを取得できるように、javascript を実行する方法はありますか?