标签： 爬虫

代理对于搞爬虫的都不会陌生。公司有一批阿里云服务器用于分布式增量抓取，但对于一些封ip且只需进行一次全量抓取的数据源，或数据量级较小时，如果部署到爬虫集群上又太费事不值得。