请选择 进入手机版 | 继续访问电脑版
用户
 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
365建站器v9隆重发布,全新的界面,全新的体验,全新的功能,您值得佣有! 立即查看
查看: 821|回复: 0

365建站器数据采集教程:如何填写采集网址与采集规则

[复制链接]
发表于 2018-9-28 20:51:47 | 显示全部楼层 |阅读模式
本帖最后由 365站群教程 于 2018-9-28 20:51 编辑

1、本教程以中彩网(http://www.zhcw.com/)的文章采集来进行演示:

0.png

14.png

栏目栏目网址内容板块内容板块网址
彩票新闻http://www.zhcw.com/xinwen/双色球新闻 http://www.zhcw.com/xinwen/caizhongxinwen-ssq/
彩票新闻http://www.zhcw.com/xinwen/双色球中奖报道http://www.zhcw.com/xinwen/caimingushi/ssq/
…… …… …… ……

2、点击软件的“数据采集”,“新建”一个采集项目:

填写采集名称和分类,

70.png

“采集名称”(自定义填写,方便自己识别)
填写:中彩网-彩票新闻-双色球新闻

“分类”(自定义填写,方便分组)
填写:中彩网

3、查看内容板块“双色球新闻”列表页的页码特点:

24.png

99.png

114.png

首页(第1页): http://www.zhcw.com/xinwen/caizhongxinwen-ssq/
第2页:http://www.zhcw.com/xinwen/caizhongxinwen-ssq/index_2.shtml
第3页:http://www.zhcw.com/xinwen/caizhongxinwen-ssq/index_3.shtml
第4页:http://www.zhcw.com/xinwen/caizhongxinwen-ssq/index_4.shtml
…… ……

4、分析采集网址并填写相关值:

144.png

从第2页开始,页码数字是有规律的递增,将链接中的页码数字用(*)代替,均为英文状态下的字符,
“采集的列表网址”
填写:http://www.zhcw.com/xinwen/caizhongxinwen-ssq/index_(*).shtml

150.png

“多页采集选项”(只要页码数值有效,能正常访问即可)
填写页码区间:2-10

202.png

“不规则列表网址”(一般用于填写无页码数字的第1页,此项为选填,可忽略)
填写:http://www.zhcw.com/xinwen/caizhongxinwen-ssq/

211.png

点击“多页采集选项”,即页码区间后面的“测试”,查看到多页链接预览,确认无误。

5、确定“内容网址区域匹配”和“内容网址包含字符”:

利用Chrome浏览器右键“检查”或者查看列表页源代码,确定“内容网址区域匹配”,

252.png

255.png

258.png

278.png

确定内容网址区域为:
<ul class="Nlistul">和<div class="pagebar">之间

414.png

415.png

“内容网址区域匹配”(格式:开头字符串[内容]结尾字符串)
填写:<ul class="Nlistul">[内容]<div class="pagebar">

多查看几个内容网址,确定“内容网址包含字符”:

内容标题 内容网址
双色球113期:头奖11注589万 奖池10.73亿 http://www.zhcw.com/xinwen/caizhongxinwen-ssq/19580028.shtml
双色球113期开奖结果:01 06 09 16 25 26+09 http://www.zhcw.com/xinwen/caizhongxinwen-ssq/19579015.shtml
双色球112期:头奖11注609万 奖池11.01亿 http://www.zhcw.com/xinwen/caizhongxinwen-ssq/19542774.shtml
…… ……

提取出内容网址的相同特性值:
都包含:www.zhcw.com/xinwen/caizhongxinwen-ssq/ 和 .shtml
或者短一点的:
都包含:/xinwen/caizhongxinwen 和 .shtml

534.png

“内容网址包含字符”多项用英文逗号,分隔开,
填写:/xinwen/caizhongxinwen,.shtml

536.png

546.png

然后点击“采集的列表网址”后面的“采集链接测试”,查看到内容网址列表的预览,确认无误:

6、利用内置的公共规则,采集内容测试:

567.png

软件集成有内置的“公共规则”,可以采集到大部分网站的标题与内容,可以先用公共规则进行采集内容测试,

579.png

580.png

可以看到,公共规则能正确采集到标题与内容,点击下面的“保存”。

617.png

如果“公共规则”无法正确采集标题或内容,则可以自定义规则。

7、查看内容页源代码,自定义标题与内容规则:

打开一个内容页源代码,查找标题内容,确定标题前后的字符串:

873.png

<a id="ArticleTitle" name="ArticleTitle"></a>双色球113期:头奖11注589万 奖池10.73亿</h2>
或者截取短一点:
ArticleTitle"></a>双色球113期:头奖11注589万 奖池10.73亿</h2>

883.png

“标题字段规则”,(格式:开头字符串[内容]结尾字符串)
填写:ArticleTitle"></a>[内容]</h2>

再在源代码中查找内容开通和结尾的部分内容,确定内容的前后字符串:

922.png

1012.png

1044.png

“内容字段规则”,(格式:开头字符串[内容]结尾字符串)
填写:<div id="news_content">[内容]<div  class="digg">

1051.png

1066.png

然后点击“采集内容测试”,查看到采集到的标题与内容预览,确认无误:

如果内容中含有不需要的内容,可以使用过滤规则过滤掉,过滤符号为 =>
过滤“中彩网”三个字为空,即删除,过滤规则:
中彩网=>空
替换“中彩网”三个字为“彩票网”,过滤规则:
中彩网=>彩票网

1080.png

然后点击“保存”填写好的采集规则。

8、开始采集数据,查看采集结果:

1110.png

点击“开始采集”。

1122.png

1172.png

采集停止或者采集完成后,点刷“刷新”查看采集条数。

1178.png

进入“功能大全”,点击“文章库”查看采集的文章结果。

1186.png


9、特别说明:

推荐使用Google Chrome浏览器,审查元素、查看源代码,方便分析查找规则。
数据采集支持正则表达式,懂正则表达式的用户可以使用正则表达式规则,更方便。

对于规则格式:开头字符串[内容]结尾字符串:
开头字符串:必须是全部源代码中的唯一值,可以Ctrl+F查询,查询结果为1 即可,用于确定采集数据的起点。
结尾字符串:必须是从开头字符串开始算起,在需要采集的内容中间未出现过的值,用于确定采集数据的终点。

10、本教程采集规则汇总:

中彩网-彩票新闻-双色球新闻:

采集名称: 中彩网-彩票新闻-双色球新闻
分类: 中彩网
采集的列表网址: http://www.zhcw.com/xinwen/caizhongxinwen-ssq/index_(*).shtml
多页采集选项: 2-10
不规则列表网址: http://www.zhcw.com/xinwen/caizhongxinwen-ssq/
内容网址区域匹配: <ul class="Nlistul">[内容]<div class="pagebar">
内容网址包含字符: /xinwen/caizhongxinwen,.shtml
标题字段规则: ArticleTitle"></a>[内容]</h2>
内容字典规则: <div id="news_content">[内容]<div  class="digg">


中彩网-彩票新闻-双色球中奖报道:

采集名称: 中彩网-彩票新闻-双色球中奖报道
分类: 中彩网
采集的列表网址: http://www.zhcw.com/xinwen/caimingushi/ssq/index_(*).shtml
多页采集选项: 2-10
不规则列表网址: http://www.zhcw.com/xinwen/caimingushi/ssq/
内容网址区域匹配: <ul class="Nlistul">[内容]<div class="pagebar">
内容网址包含字符: /xinwen/caimingushi,.shtml
标题字段规则: ArticleTitle"></a>[内容]</h2>
内容字典规则: <div id="news_content">[内容]<div  class="digg">



上一篇:【腾讯财经-债券】采集规则
下一篇:【中国福彩网-新闻资讯-新闻动态】采集规则
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则