风哥教程

培训 . 交流 . 分享
Make progress together!

提升爬虫速度的方式

[复制链接]
内容发布:suger| 发布时间:2022-1-12 16:23:24
我们在进行爬虫的过程中,会遇到爬虫速度很慢的情况,这会让我们感到很烦躁,有时候获取的数据量比较多,就会更让人烦躁。不过我们在爬虫过程中要想提高爬虫的速度,还是有很多方法的,今天主要讲下提高爬虫速度的方式有哪些。
这里我们可以通过三个方式去提高速度:多线程爬虫、多进程爬虫和多协程爬虫。
多线程爬虫是以并发的方式执行的,多个线程并不能真正的同时执行,而是通过进程的快速切换加快网络爬虫速度的。简单的多线程爬虫的示例如下:
#! -*- encoding:utf-8 -*-    import requests    import random    # 要访问的目标页面    targetUrl = "http://httpbin.org/ip"    # 要访问的目标HTTPS页面    # targetUrl = "https://httpbin.org/ip"    # 代理服务器(产品官网 www.16yun.cn)    proxyHost = "t.16yun.cn"    proxyPort = "31111"    # 代理验证信息    proxyUser = "username"    proxyPass = "password"    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {        "host" : proxyHost,        "port" : proxyPort,        "user" : proxyUser,        "pass" : proxyPass,    }    # 设置 http和https访问都是用HTTP代理    proxies = {        "http"  : proxyMeta,        "https" : proxyMeta,    }    #  设置IP切换头    tunnel = random.randint(1,10000)    headers = {"Proxy-Tunnel": str(tunnel)}    resp = requests.get(targetUrl, proxies=proxies, headers=headers)    print resp.status_code    print resp.text
多进程爬虫可以利用CPU的多核,进程数取决于计算机CPU的处理器个数。由于运行在不同的核上,各个进程的运行是并行的。
协程是一种用户态的轻量级线程,使用协程有许多好处,比如协程的高扩展性和高并发性,一个CPU支持上万协程都不是问题,所以很适合用于高并发处理。
大家在爬虫的时候可以根据自己的需求进行速度的提升,还有如果需要提高爬虫的数据量,对代理也是有要求的,ip池大,速度快,延迟低是获取更多的数据的一个前提条件,有这方面需求的可以咨询这里https://www.16yun.cn/#banner






若有收获,就点个赞吧










回复

使用道具 举报

1框架
高级模式
B Color Image Link Quote Code Smilies |上传

本版积分规则

热门文章教程

  • Hadoop实战培训教程09_Hadoop集群环境搭建
  • 风哥Oracle数据库巡检工具V1.0(附2.6网页
  • Oracle 12cR2 九大新功能全面曝光_详解云数
  • MySQL5权威指南(第3版)PDF电子版下载
  • 实战PHP与MySQL权威指南PDF电子书下载
  • Oracle19c数据库发布与下载地址
快速回复 返回顶部 返回列表