Получение всех ссылок в поисковой системе Google

Question

Получение всех ссылок в поисковой системе Google

c# html-agility-pack selenium

Вопрос

Я пытаюсь получить все ссылки из поиска Google, но без успеха ...

Я использую Selenium + HTML Agility Pack

HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(pageSource);

foreach (HtmlNode link in doc.DocumentNode.SelectNodes("//*[@id='rso']/div/div/div[1]/div/div/h3/a"))
{
     string href = link.GetAttributeValue("data-href", string.Empty);

     list.Add(href);
}

foreach (var item in list)
{
     Console.WriteLine(item);
}

Google HTML

<a href="/url?sa=t&amp;rct=j&amp;q=&amp;esrc=s&amp;source=web&amp;cd=2&amp;cad=rja&amp;uact=8&amp;ved=0ahUKEwizrv_f06TWAhXLD5AKHa4pB1AQFgg3MAE&amp;url=http%3A%2F%2Fwww.rtl.de%2Fcms%2Fdsds-2017-das-sind-die-votingergebnisse-der-14-staffel-4112962.html&amp;usg=AFQjCNF_sFs_fpNAeBAPLitsVZbShMAhiw" onmousedown="return rwt(this,'','','','2','AFQjCNF_sFs_fpNAeBAPLitsVZbShMAhiw','','0ahUKEwizrv_f06TWAhXLD5AKHa4pB1AQFgg3MAE','','',event)" data-href="http://www.rtl.de/cms/dsds-2017-das-sind-die-votingergebnisse-der-14-staffel-4112962.html">DSDS 2017: Das sind die Votingergebnisse der 14. Staffel - RTL.de</a>

Я хотел бы извлечь дату-href, но без успеха

Kaio Norb

Популярные ответы

Не проблема в том, что таким образом вы находите все ссылки.

Когда вы добавляете a[@data-href] в XPath из SelectNodes вы выбираете только ссылки с фактическим атрибутом url данных.

Так оно и будет:

foreach (HtmlNode link in doc.DocumentNode.SelectNodes("//*[@id='rso']/div/div/div[1]/div/div/h3/a[@data-href]")) 
{ 
    string href = link.GetAttributeValue("data-href", string.Empty); 
    list.Add(href); 
}

Koen Meijer

Подробнее о Stack Overflow

Получение всех ссылок в поисковой системе Google

Вопрос

Популярные ответы

Performance

Expression Evaluator