使用HtmlAgilityPack时如何传递密码

c# html-agility-pack web-scraping

我正在尝试阅读网站的XML文件,我正在使用HtmlAgilityPack。这是我正在使用的代码:

HtmlWeb web = new HtmlWeb( ) ;
HtmlAgilityPack.HtmlDocument doc = new HtmlAgilityPack.HtmlDocument( ) ;
doc = web.Load( "http://example.com/index.asp"  ) ;

该页面要求提供他们提供给我的密码,但我不知道如何传递密码以进入index.asp页面,我将阅读该页面的XML链接。

example.com/index.asp如下所示:

 <form action="index.asp" method="post">
 <table>
     <tbody>
         <tr>
            <td>
                <input type="Text" name="password" value="" size="20"> 
            </td>
         </tr>
     </tbody>
 </table>
</form

如何从HtmlAgilityPack将密码传递给此页面?我在这里看到了一个使用'HtmlWeb.PreRequest'的例子,但我对这个过程并不太了解。我看到HtmlWeb.Load有7个重载但我不知道在哪里放置我的变量来保存密码。

doc = web.Load( "http://example.com/index.asp", "passwordVariable" ) ;

如果有人能指导我走上正确的研究之路,我会非常感激。

谢谢

一般承认的答案

我认为你要找的是发布这个页面,并尝试访问另一个受保护的页面。网页的安全性差别很大,所有者可能会积极尝试阻止此类程序访问。

对于使用cookie的简单安全站点,您可以通过请求登录页面来模仿浏览器执行的操作,使用正确的凭据(以及可能需要的任何隐藏字段)执行POST,捕获已创建的cookie并浏览到您要使用提供的Cookie访问的页面。

    private HttpWebRequest CreateRequest(string url, string method)
    {
        var request = (HttpWebRequest)WebRequest.Create(url);
        request.Referer = Host;
        request.UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36";
        request.Method = method;
        request.ContentType = "application/x-www-form-urlencoded; charset=UTF-8";

        return request;
    }

    public void Login()
    {
        byte[] bytes;
        string data;
        var SharedCookie = new CookieContainer();

        var url = "index.asp";

        try
        {
            //Start Session
            var request = CreateRequest(url, "GET");
            request.CookieContainer = SharedCookie;

            using (var tmpResponse = request.GetResponse())
            {
                //WriteResponse(tmpResponse);
                tmpResponse.Close();
            }

            //Login
            data = "password=123456";
            bytes = Encoding.UTF8.GetBytes(data);

            request = CreateRequest(url, "POST");
            request.CookieContainer = SharedCookie;

            using (var stream = request.GetRequestStream())
            {
                stream.Write(bytes, 0, bytes.Length);
            }

            using (var tmpResponse = request.GetResponse())
            {
                //WriteResponse(tmpResponse);
                tmpResponse.Close();
            }
            IsLoggedIn = true;
        }
        catch (System.Net.WebException ex)
        {
            Console.WriteLine("Web Error:" + ex.Status);
            Console.WriteLine("Url:" + url);
            Console.WriteLine(ex.Message);
        }
        catch (Exception ex)
        {
            Console.WriteLine("Url:" + url);
            Console.WriteLine(ex.Message);
        }
    }


Related

许可下: CC-BY-SA with attribution
不隶属于 Stack Overflow
许可下: CC-BY-SA with attribution
不隶属于 Stack Overflow