新大榭论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

《新大榭》- 创大榭地方网络社区先锋品牌 新大榭始终专注于地方网络社区平台的建设 关于我们- [大记事]- 留言建议- [新手报道]

发布 .新大榭软件管家(Excel版) V5.9版 财务/仓库/生产/销售/采购/行政/人事/校园 .公告 - 客户 - 打赏 - 职场 - Excel - Python.

新大榭镜像-音乐-法律-图书-高中课堂-实验 广告是为了能更好的发展 [欢迎商家支持本站互利共赢] 广告位招租.首页黄金广告位等您来!联系 13566035181

查看: 1422|回复: 2

[原创软件发布区] 8049 - [原创] 动漫二次元爬虫项目 V1.1

[复制链接]
发表于 2022-2-14 22:48:24 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转新大榭论坛!

您需要 登录 才可以下载或查看,没有账号?注册

x
动漫二次元时代来了,相信某些同学会喜欢,呵呵~~
: Q7 O4 O9 N0 p2 V& x( [支持自动下载二次元动漫,全程自动下载,无需人工干预~~~& n9 q+ k! L+ R2 [

一次性爬取 16 个二次元萌图文件夹,共 183 张高清图片,总容量约 167 MB (只需几秒钟, a# a: E+ f: }
备注:按当前网站统计,如对方网站数据更新则有变动(始终爬取 第1页 16 个专辑不变)
# f  i8 D7 z/ z# g0 ~! i
温馨提示:爬取只要超过1分钟,我建议你可以换电脑了(正常网速一般这个过程只需30秒)
# x) |1 n: U: i
科普一下:由于本案例我设置了间隔爬取,如果采用并发急速爬取模式,整个过程不会超过5秒!就算是几万,几十万的数据,那也是分分钟搞定,这才是做爬虫项目的初衷,爬虫不是仅为爬取几十条或几百条数据而活的,当前仅仅只是案例展示而已,真真的爬虫项目数据都是几万或几十万起步的!这才是爬虫真真活着的意义!当你爬取数据足够多的时候,你就可以开始学习数据可视化了!
) ?  c! `0 a8 V1 l0 L% _* p! r
注意:千万不要爬取个人信息,千万不要触碰法律红线,切记,切记!
- p" Y- J$ K% M6 L$ q, S
( L2 O8 l! ^: s. {5 }
下图就是今天我们要爬取的网站 ↓↓↓' u! {& h( `4 k0 \2 f
* U" `0 O  b% q5 s, ~$ k) A
' G8 f  R* x7 T% J( y( }
8049V1001.jpg
! I* X4 e$ g- E# R图1:目标网站原始图片展示+ w$ q% K9 b: R+ N( }1 D0 p

1 ~6 _! m  l$ Z  {3 y! W: U; c8 u 8049V1002.jpg
8 e. d5 ~7 Q' P5 D% N2 t2 R! j4 p图2:电脑下载本地的图片专辑0 j/ X5 g/ p+ N) F

/ K. d' I  s6 _' F$ S 8049V1003.jpg 3 A4 U" }8 d% f2 w% e
图3:图片专辑展示(以第1个为例)
# X* x% l- l% ~+ V
" i+ x$ E; ?( w7 v
特别说明:由于目标网站设置不够严密,其实新大榭可以分分钟把全网站所有图片爬取到本地电脑,我们之所以没那么做,不是因为我们没这个能力,只是当前新大榭把它作为了二层爬取静态页面的教学案例,所以且爬且珍惜,虽然我们免费提供程序下载,但是我们还是希望那些真真爱好动漫二次元的玩家可以拥有它,不要重复爬取哦!且用且珍惜!$ a9 q8 w# \$ a% P/ r

温馨提示:学习爬虫不是鼓励大家去干那些灰色产业的工作,而是如何帮助我们自己有效提升效率,而本期的案例也验证说明了这点!解放双手,让机器去干我们想干的事,毕竟当下5G、人工智能(AI),大数据(Big data)时代已经悄然来临..... 而爬虫正是迎合了这个时代,一个站在风口上猪也能飞上天的时代!!!< - END - >

5 I$ Y9 a+ M' {+ r5 |- t0 `- W0 ]2 D9 d0 ?9 L9 n+ G: n4 h/ O! c) r4 p

8049 - 二次元动漫爬虫项目_V1.1.zip

11.64 MB, 下载次数: 185, 下载积分: 财富 -1 点

喜欢二次元吗,喜欢就下呗~

新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
Q群推荐 大榭本地求职招聘QQ群,欢迎转发分享本地招聘信息资讯! 官方招聘1群(已满);官方招聘2群:315816937 *
 楼主| 发表于 2022-10-15 11:00:11 | 显示全部楼层
更新日志Update log)
# V1.1 Bulid 20221015 正式版重要
|-- 内核│基于Python
( c4 ?. g5 T) A* u; W+ I. W: }8 x
//  二次回调图片下载模块指定教材 1015+ \, N7 W) f0 H" y! W- ]& j
//  支持Python源代码封装打包发布 1015
1 L6 G/ [8 [3 j
//  新增二次元图片专辑下载目录整理 1015
& A" Y5 ^) l) D/ D6 _
//  支持同专辑内多张图片自动导入下载 1015! E  }: b: m( K6 N9 x" l( W
//  支持二次元萌图列表首页一次性打包下载 1015
; I9 i, ?$ B$ N' s) |9 g0 O
//  智能识别二次元图片专辑命名规则 1015
* \. x9 [  E/ {6 Z
//  全程无需人工干预(全程自动化) 10150 N; V5 \0 v+ S4 K
# V1.0 Bulid 20220214 内测版首发
|-- 内核基于Python
3 M( N# A( p. L" |- l//  基于Python内核框架搭建 0214
$ V0 C( R3 a5 ?//  支持单张图片ID下载 02146 P' ?( ^$ Z+ F1 i
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
新大榭官方公益帮帮群:6603298 官方Excel学习交流群:82064486  欢迎您加入
 楼主| 发表于 2022-10-18 13:41:42 | 显示全部楼层
温馨提示(Tips)
>> 更多内容,敬请关注...
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
北仑单身女神专属群:181567400 北仑单身男神专属群:140788506  平台大数据筛选,勇敢为爱宣告,拒绝骚扰!
您需要登录后才可以回帖 登录 | 注册

本版积分规则

文字版|小黑屋|新大榭 ( 浙ICP备16018253号-1 )|点击这里给站长发消息|

GMT+8, 2025-12-18 23:13 , Processed in 0.092120 second(s), 23 queries , Gzip On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表