从零开始,hg0088新2网址大全|官方网站论坛

快捷导航
广告联系qq1031180668广告位
查看: 197|回复: 0
打印 上一主题 下一主题

[python] 通过爬虫代理IP快速增加博客阅读量——亲测有效

[复制链接]
  • ta_mind
    开心
    2019-8-2 17:46
  • classn_01: 19 classn_02

    [LV.4]偶尔看看III

    24

    主题

    30

    帖子

    108

    积分

    注册会员

    Rank: 2

    积分
    108
    QQ
    跳转到指定楼层
    楼主
    发表于 2019-8-9 17:43:02 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    ',html)
    for i in range(len(ip_list)):
    ip = ip_list
    port = re.sub(r'
    ', '', port_list)
    proxy = '%s:%s' %(ip,port) proxy_list.append(proxy) return proxy_list
    经过测试,访问的成功率还是很高的,提高访问成功率的关键点在于选择优质代理。以上只是浅显的分享。


    首先题目所说的并不是目的,本文主要是为了更详细的了解网站的反爬机制。而真的想要更高的阅读量还是需要有真正优质的才可以达到的。
    1. 通过Headers反爬虫
    从用户请求的Headers反爬虫是最常见的反爬虫策略。很多网站都会对Headers的User-Agent进行检测,还有一部分网站会对Referer进行检测(一些资源网站的防盗链就是检测Referer)。
    如果遇到了这类反爬虫机制,可以直接在爬虫中添加Headers,将浏览器的User-Agent复制到爬虫的Headers中;或者将Referer值修改为目标网站域名。对于检测Headers的反爬虫,在爬虫中修改或者添加Headers就能很好的绕过。
    2. 基于用户行为反爬虫
    还有一部分网站是通过检测用户行为,例如同一IP短时间内多次访问同一页面,或者同一账户短时间内多次进行相同操作。
    大多数网站都是前一种情况,对于这种情况,使用IP代理就可以解决。我们可以将代理IP检测之后保存在文件当中,但这种方法并不可取,代理IP失效的可能性很高,因此从专门的提供代理ip的商家购买代理是个比较好的方法。
    对于第二种情况,可以在每次请求后随机间隔几秒再进行下一次请求。有些有逻辑漏洞的网站,可以通过请求几次,退出登录,重新登录,继续请求来绕过同一账号短时间内不能多次进行相同请求的限制。
    还有针对cookies,通过检查cookies来判断用户是否是有效用户,需要登录的网站常采用这种技术。更深入一点的还有,某些网站的登录会动态更新验证,
    4. 限定某些IP访问
    的代理IP可以从很多网站获取到,既然爬虫可以利用这些代理IP进行网站抓取,网站也可以利用这些代理IP反向限制,通过抓取这些IP保存在服务器上来限制利用代理IP进行抓取的爬虫。
    好了,现在实际操作一下,编写一个通过代理IP访问网站的爬虫。
    首先获取代理IP,用来抓取。
    def Get_proxy_ip():
    headers = {
    'Host': 'www.16yun.cn.',#亿牛云优质代理#
    'User-Agent':'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)',
    'Accept': r'application/json, text/javascript, */*; q=0.01',
    'Referer': r'http://www.xicidaili.com/', }
    req = request.Request(r'http://www.16yun.cn/nn/', headers=headers) #亿牛云优质代理=
    response = request.urlopen(req)
    html = response.read().decode('utf-8')
    proxy_list = []
    ip_list = re.findall(r'\d+\.\d+\.\d+\.\d+',html)
    port_list = re.findall(r'
    \d+|
    游客
    回复
    您需要登录后才可以回帖 登录 | 立即注册

    手机版|Archiver|小黑屋|sitemap| 从零开始,hg0088新2网址大全|官方网站论坛 - 一个单纯的hg0088新2网址大全|官方网站学习交流论坛 ( 豫ICP备15032706号 )

    GMT+8, 2019-8-20 10:33 , Processed in 1.112209 second(s), 23 queries .

    Powered by Discuz! X3.4

    ? 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表