本文目录
linux主机，如何禁用，火车头采集器等，爬虫蜘蛛程序
要是APACHE的话，在根目录下，加一个 ROBOT.TXT的文件
里面写上 禁止爬虫访问的目录！
具体的可以上百度上GOOGLE一下！嘿嘿
爬虫是什么为什么Python使用的比较多
首先您应该明确，不止 Python 这一种语言可以做爬虫，诸如 PHP、Java、C/C++ 都可以用来写爬虫程序，但是相比较而言 Python 做爬虫是最简单的。下面对它们的优劣势做简单对比：
- PHP：对多线程、异步支持不是很好，并发处理能力较弱；
- Java 也经常用来写爬虫程序，但是 Java 语言本身很笨重，代码量很大，因此它对于初学者而言，入门的门槛较高；
- C/C++ 运行效率虽然很高，但是学习和开发成本高。写一个小型的爬虫程序就可能花费很长的时间。
而 Python 语言，其语法优美、代码简洁、开发效率高、支持多个爬虫模块，比如 urllib、requests、Bs4 等。Python 的请求模块和解析模块丰富成熟，并且还提供了强大的 Scrapy 框架，让编写爬虫程序变得更为简单。因此使用 Python 编写爬虫程序是个非常不错的选择。
编写爬虫的流程
爬虫程序与其他程序不同，它的的思维逻辑一般都是相似的， 所以无需我们在逻辑方面花费大量的时间。下面对 Python 编写爬虫程序的流程做简单地说明：
- 先由 urllib 模块的 request 方法打开 URL 得到网页 HTML 对象。
- 使用浏览器打开网页源代码分析网页结构以及元素节点。
- 通过 Beautiful Soup 或则正则表达式提取数据。
- 存储数据到本地磁盘或数据库。
当然也不局限于上述一种流程。编写爬虫程序，需要您具备较好的 Python 编程功底，这样在编写的过程中您才会得心应手。爬虫程序需要尽量伪装成人访问网站的样子，而非机器访问，否则就会被网站的反爬策略限制，甚至直接封杀 IP，相关知识会在后续内容介绍。
想学爬虫，具体要用到什么软件如何操作
这里有2种方法，一个是利用现有的爬虫软件，一个是利用编程语言，下面我简单介绍一下，主要内容如下：
爬虫软件
这个就很多了，对于稍微简单的一些规整静态网页来说，使用Excel就可以进行爬取，相对复杂的一些网页，可以使用八爪鱼、火车头等专业爬虫软件来爬取，下面我以八爪鱼为例，简单介绍一下爬取网页过程，很简单：
1.首先，下载八爪鱼软件，这个直接到官网上下载就行，如下，直接点击下载：
2.下载完成后，打开软件，进入任务主页，这里选择“自定义采集”，点击“立即使用”，如下：
3.进入新建任务页面，然后输入需要爬取的网页地址，点击保存，如下，这里以大众点评上的评论数据为例：
4.点击“保存网址”后，就会自动打开页面，如下，这时你就可以根据自己需求直接选择需要爬取的网页内容，然后按照提示一步一步往下走就行：
5.最后启动本地采集，就会自动爬取刚才你选中的数据，如下，很快也很简单：
这里你可以导出为Excel文件，也可以导出到数据库中都行，如下：
编程语言
这个也很多，大部分编程语言都可以，像Java，Python等都可以实现网页数据的爬取，如果你没有任何编程基础的话，可以学习一下Python，面向大众，简单易懂，至于爬虫库的话，也很多，像lxml，urllib，requests，bs4等，入门都很简单，这里以糗事百科的数据为例，结合Python爬虫实现一下：
1.首先，打开任意一个页面，爬取的网页数据如下，主要包括昵称、内容、好笑数和评论数4个字段：
2.接着打开网页源码，可以看到，爬取的内容都在网页源码中，数据不是动态加载的，相对爬取起来就容易很多，如下：
3.最后就是根据网页结构，编写相关代码了，这里主要使用的是requests+BeautifulSoup组合，比较简单，其中requests用于请求页面，BeautifulSoup用于解析页面，主要代码如下：
点击运行程序，就会爬取到刚才的网页数据，如下：
4.这里熟悉后，为了提高开发的效率，避免重复造轮子，可以学习一下相关爬虫框架，如Python的Scrapy等，很不错，也比较受欢迎：
至此，我们就完成了网页数据的爬取。总的来说，两种方法都可以，如果你不想编程，或者没有任何的编程基础，可以考虑使用八爪鱼等专业爬虫软件，如果你有一定的编程基础，想挑战一下自己，可以使用相关编程语言来实现网页数据的爬取，网上也有相关教程和资料，感兴趣的话，可以搜一下，希望以上分享的内容能对你有所帮助吧，也欢迎大家评论、留言。
怎么用VBA或网络爬虫程序抓取网站数据
VBA网抓常用方法1、xml
