芝麻代理吧 关注:295贴子:1,322
  • 4回复贴,共1

爬虫采集如何获取动态或静态的免费代理ip?

只看楼主收藏回复

大家用爬虫采集数据,想必大家手上ip地址不太够用。在节省资源的情况下,我们可以去找寻一些获取ip的办法,这样我们在爬取数据的时候速度也能有一个提升。
很多网站都有反爬虫机制,只用一个ip去频繁访问网站的话,很容易引起网站管理员的注意,如果管理员将这个ip加入黑名单,那么这个爬虫就废掉了。所以,想要做大型的爬虫的话,基本上是必须要面对ip的问题。


IP属地:江苏1楼2021-08-06 17:07回复
    当然,网上也有免费的ip代理,但是,免费的质量参差不齐,所以就需要进行筛选。以太阳http为例:用爬虫爬取国内的高匿代理IP,并进行验证。(只爬取前五页)

    Pipeline:


    IP属地:江苏2楼2021-08-06 17:11
    回复
      爬虫采集可以尝试下这个ip代理 http://http.taiyangruanjian.com/?utm-source=wltg&utm-keyword=?03 ,免费可以领10000ip


      4楼2021-08-20 10:13
      回复
        一个垃圾软件,大家要注意下,这个芝麻代理软件就是个垃圾,经常掉线,极其不稳定,app软件不能用,被网安给封了,软件不能用,还在使用时间内,也不给退款,大家要注意了!


        IP属地:福建6楼2022-01-08 11:20
        回复
          电脑多开的技术-怎么弄单窗口单lP,窗口化多lP
          单机单lP简单的说就是1台电脑上同一时间使用好几个窗口,
          一种窗口一种lP.并能够完成独立拔号联网断开连接,
          而不是一种无线路由器分出来的N个电脑上同一时间联接的上网方式。
          一线多拨是指1条网络开N个或无限个端口,
          这条网络的账户能够在N个电脑端独立的拔号,
          并且单独联网断开连接。兔~子~lP


          8楼2022-01-22 10:56
          回复