网络蜘蛛检索链接

arsespyder的Python项目详细描述


1-简介
----
程序“arseSpyder”是一个网络爬虫程序,它可以对URL进行爬网,并递归地检查该Web中包含的链接,以便对于提供的URL,爬虫程序下载其上包含的<;a href=“http://whatever”>;whatever<;/a>;类型的链接。
对于每个参数,重复操作,直到达到参数提供的搜索级别。如果未提供,则默认情况下,爬网深度级别为3。

爬行
BR/>可选参数:
-H,帮助显示该帮助消息并退出
-V,即版本显示程序的版本号和退出
-N个数的OFL级别,级别数为-BR/>爬行深度
BR/>注释1 -唯一的强制参数是URL爬行。
注释2-如果未提供级别数,则默认情况下,级别数为3。


3-输出格式
----
ArseSpyder Web爬网程序将这些链接转储到指定的深度爬网级别,下一步的格式是:

$./arsespyder.py-n3 http://arsespyder.dyndns.org/index.html
*http://arsespyder.dyndns.org/test/l1-p1.html
*http://arsespyder.dyndns.org/test/l1-p2.html
*http://arsespyder.dyndns.org/test/l1-p3.html
**http://arsespyder.dyndns.org/test/l2-1-p1.html
*http://arsespyder.yder.dyndns.py-n3 http://arsespyder.dyndsyder.dyndns.dynd/>**http://arsespyder.dyndns.org/test/l2-p1-p1-p2.html
**http://arsespyder.dyndns.org/test/l2-p2-p2-p1.html
**http://arsespyder.dyndns.org/test/l2-p2-p2-p2.html
**http://arsespyder.dyndns.org/l3-p1-p1-p1-p1-p1.html
**http://esspyder.dyndns.org/l3/l3-p1-p1-p1-p2-p2.html
>>>**http://http://http://esperspyder.dyndns***http://arsespyder.dyndns.org/l3_p1_p1_p3.html
***http://arsespyder.dyndns.org/l3庘p1庘p2庘p1.html
**http://arsespyder.dyndns.org/l3庘p1庘p2庘p2.html
**http://arsespyder.dyndns.org/l3庘p1庘p2庘p3.html

是1级链接(在HTML代码URL指定的参数中存在)

4代码文档
--------------BR/>代码文档包含在“DOC”文件夹下。主.html文件是pyarsespyder.html:

$tree doc/
doc/
——pyarsespyder.geturl.html
——pyarsespyder.html

欢迎加入QQ群-->: 979659372 Python中文网_新手群

推荐PyPI第三方库


热门话题
java如何使用“Wed,01 Jul 2015 17:32:41 EDT”解析字符串   java Storm apache升级(1.0.0到2.0.0)   java类驻留在不同的目录中,而不是包指定的目录。为什么?   将Java中的图像缩放到非常小的维度   java如何通过子文档从自定义方面访问ElasticSearch parentdoc字段   java如何在RationalSoftwareArchitect中使用findbugs?   Java中的事件提升处理   java值被添加到arrayList的所有索引中,而不是在“”时添加到最后一个索引中。正在使用arraylist的add()方法   JFrame中的java JPanel派生类   java如何用循环和异步方法模拟类   java Android阻止可绘制背景超出视图范围   为客户排序Java阵列   java Apache poi如何将工作表设置为枚举位置值属性?   java Rhino在使用自定义类参数调用javascript函数时出错   java格式化日期从年月日到年月日   spring如何修复java。lang.illegalargumentexception在此特定场景中是否尝试创建具有null实体的合并事件?   java如何创建更好的对象