Dealsgoround.comとcitypockets.comは、 livingsocial.comやその他の日次取引Webサイトからユーザーアカウントとその日次取引にアクセスします。これらのWebサイトは、ユーザーに、それぞれのWebサイトにサインインしてから、アカウントの詳細をインポートするための資格情報を提供するように求めます。LivingSocialおよびその他の取引Webサイトは、ユーザーアカウントへのAPIアクセスを提供していません。
また、他のWebサイトにアクセスして、そこからデータをインポートしたいと思います。しかし、 dealsgoround.comとcitypockets.comがGrouponやLivingSocialなどからデータをインポートするバックエンドプロセスを見つけることができません。
これで、Webクローラー/スパイダーを使用してWebページからデータをスクラップできることがわかりました。ただし、ユーザーのサインインが必要で、ページのURLが暗号化されているか、少なくとも動的に生成されたURLであるシナリオで、Webクローラーが役立つかどうかはわかりません。
私を助けて、これを行う方法を提案してください。クローラーがこれに対する解決策である場合は、.netアプリケーションで使用できるいくつかのWebクローラーAPIへのリンクを提供してください。
ありがとう
Atif