HtmlAgilityPackをお任せします!
ユーザーがログインしているかどうかを判断するために Cookie を使用する Web サイトにアクセスしようとしていると思います。そうでない場合は、登録/ログインを強制されます。それ以外の場合は、何も表示できません。私は正しいですか?
あなたのブラウザーはその Cookie を保存しますが、C# は保存しません! (大まかに言えば)
その問題を解決するには、Cookie コンテナーを作成する必要があります。
C# アプリがログインし、Cookie/セッションを要求し、応答ヘッダーから Cookie を取得すると、プロファイルや必要なものをスクレイピングできるはずです。
サーバーに送信される投稿データを取得します。Fiddler、 Tamper などのツール/アドオンを使用できます。
例 PostdataString: user_name=TESTUSER&password=TESTPASSWORD&language=en&action%3Asubmit=Submit
使用できるスニペットを次に示します。
//Create the PostData
string strPostData = "user_name=" + txtUser.Text + "&password=" + txtPass.Text + "&language=en&action%3Asubmit=Submit";
CookieContainer tempCookies = new CookieContainer();
ASCIIEncoding encoding = new ASCIIEncoding();
byte[] data = encoding.GetBytes(strPostData);
//Create the Cookie
HttpWebRequest request = (HttpWebRequest)WebRequest.Create("http://www.website.com/login.php");
request.Method = "POST";
request.KeepAlive = true;
request.AllowAutoRedirect = false;
request.Accept = "Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8";
request.ContentType = "application/x-www-form-urlencoded";
request.Referer = "http://www.website.com/login.php";
request.UserAgent = "User-Agent: Mozilla/5.0 (Windows NT 6.1; WOW64; rv:14.0) Gecko/20100101 Firefox/14.0.1";
request.ContentLength = data.Length;
Stream requestStream = request.GetRequestStream();
requestStream.Write(data, 0, data.Length);
HttpWebResponse response;
response = (HttpWebResponse)request.GetResponse();
string sRequestHeaderBuffer = Convert.ToString(response.Headers);
requestStream.Close();
//Stream(-output) of the new website
StreamReader postReqReader = new StreamReader(response.GetResponseStream());
//RichTextBox to see the new source.
richTextBox1.Text = postReqReader.ReadToEnd();
間に Cookie パラメータを調整し、現在のセッション ID もコードに追加する必要があります。これは、アクセスする要求された Web サイトによって異なります。
例えば:
request.Headers.Add("Cookie", "language=en_US.UTF-8; StationID=" + sStationID + "; SessionID=" + sSessionID);