首页手记【java爬虫】---爬虫+jsoup轻松爬博客

【java爬虫】---爬虫+jsoup轻松爬博客

标签：

Java

爬虫+jsoup轻松爬博客

最近的开发任务主要是爬虫爬新闻信息，这里主要用到技术就是jsoup，jsoup 是一款 Java的HTML解析器，可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API，可通过

DOM，CSS以及类似于jQuery的操作方法来取出和操作数据。这篇文章就讲通过jsoup爬虫的实际案例，下一篇再讲jsoup的具体文档。

主要爬虫对象就以我之前写的一篇博客：【java提高】---java反射机制

主要爬区的信息有

（1）该文章的标题

（2）该文章的二类标题

（3）发表时间

（4）阅读数量

一、案例演示

1、代码部分

package com.jincou.pachong;import java.io.IOException;import org.jsoup.Jsoup;import org.jsoup.nodes.Document;import org.jsoup.nodes.Element;import org.jsoup.select.Elements; /*
  * 这个案例你只需要看结果，具体的jsoup介绍下一篇博客会详细介绍  */public class Pachong {     public static void main(String args[]){     
    
         //这个就是博客中的java反射的url     
     final String url=  "https://www.cnblogs.com/qdhxhz/p/9230805.html";         
        try {        //先获得的是整个页面的html标签页面
         Document doc = Jsoup.connect(url).get();        
         //获取正文标题，因为整片文章只有标题是用h1标签
         Elements btEl = doc.select("H1");
         String  bt=btEl.text();
         System.out.println("========正文标题======："); 
         System.out.println(bt); 
                
       //获取二级标题
         Elements ejbtEls = doc.select("H2");       //因为整片文章有多个二级标题所以进行拼接
         StringBuilder  ejbts=new  StringBuilder();         for(Element el :ejbtEls) {
             ejbts.append(el.text());
             ejbts.append("\n");
         }
        String ejbt=ejbts.toString();
        System.out.println("=======二级标题=========："); 
        System.out.println(ejbt); 
                   
       //获取时间
       Elements timeEl = doc.select("#post-date");
       String  time=timeEl.text();
       System.out.println("========发布时间=========："); 
       System.out.println("发布时间：" + time); 
      
       //获取阅读数量
       Elements readEl = doc.select("#post_view_count");
       String  read=readEl.text();
       System.out.println("========阅读数量=========："); 
      System.out.println("阅读数量：" + read); 
       
        } catch (IOException e) {
            e.printStackTrace();
        }
 }
}

2、运行结果