新大榭论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

《新大榭》- 创大榭地方网络社区先锋品牌 新大榭始终专注于地方网络社区平台的建设 关于我们- [大记事]- 留言建议- [新手报道]

发布 .新大榭软件管家(Excel版) V5.9版 财务/仓库/生产/销售/采购/行政/人事/校园 .公告 - 客户 - 打赏 - 职场 - Excel - Python.

新大榭镜像-音乐-法律-图书-高中课堂-实验 广告是为了能更好的发展 [欢迎商家支持本站互利共赢] 广告位招租.首页黄金广告位等您来!联系 13566035181

查看: 1278|回复: 2

[原创软件发布区] 8049 - [原创] 动漫二次元爬虫项目 V1.1

[复制链接]
发表于 2022-2-14 22:48:24 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转新大榭论坛!

您需要 登录 才可以下载或查看,没有账号?注册

x
动漫二次元时代来了,相信某些同学会喜欢,呵呵~~
- v, E' ~3 K, {支持自动下载二次元动漫,全程自动下载,无需人工干预~~~6 g" {0 y$ ?% V; u6 R

一次性爬取 16 个二次元萌图文件夹,共 183 张高清图片,总容量约 167 MB (只需几秒钟, o( C: Y% @. y5 W1 S5 D, {1 x
备注:按当前网站统计,如对方网站数据更新则有变动(始终爬取 第1页 16 个专辑不变)
) y& T+ n/ t) M$ l# O+ d
温馨提示:爬取只要超过1分钟,我建议你可以换电脑了(正常网速一般这个过程只需30秒)
# ^; V! p2 f8 @: W/ Y+ B
科普一下:由于本案例我设置了间隔爬取,如果采用并发急速爬取模式,整个过程不会超过5秒!就算是几万,几十万的数据,那也是分分钟搞定,这才是做爬虫项目的初衷,爬虫不是仅为爬取几十条或几百条数据而活的,当前仅仅只是案例展示而已,真真的爬虫项目数据都是几万或几十万起步的!这才是爬虫真真活着的意义!当你爬取数据足够多的时候,你就可以开始学习数据可视化了!9 d+ f8 K3 Z: C' x0 s$ n1 r+ ]

注意:千万不要爬取个人信息,千万不要触碰法律红线,切记,切记!  e' s' [1 k- l# r& E  ?

+ o0 f3 n/ m/ N
下图就是今天我们要爬取的网站 ↓↓↓1 q1 k; |6 P7 M5 |

% P6 W- x5 O! ?- T4 u  O/ @- ?" U% v( _& g5 u
8049V1001.jpg ( [/ I& }! R+ M, T8 y/ d& f
图1:目标网站原始图片展示. f1 i/ {6 G8 v/ M7 e
# I! B% i' g3 v2 \' @7 t) \3 c& ]
8049V1002.jpg
6 v9 M3 u" A5 T; b图2:电脑下载本地的图片专辑! S2 Y" j$ Y7 Z) T, s

3 v" S9 K- D" ?2 z  F# y 8049V1003.jpg
& w, x( q4 E, [. W2 `* R! ^2 D. K6 N图3:图片专辑展示(以第1个为例)
4 `/ I1 \; k' B, J0 X# b5 w0 L' L
0 A+ ^5 ^6 R! b8 s
特别说明:由于目标网站设置不够严密,其实新大榭可以分分钟把全网站所有图片爬取到本地电脑,我们之所以没那么做,不是因为我们没这个能力,只是当前新大榭把它作为了二层爬取静态页面的教学案例,所以且爬且珍惜,虽然我们免费提供程序下载,但是我们还是希望那些真真爱好动漫二次元的玩家可以拥有它,不要重复爬取哦!且用且珍惜!
5 s. m( T7 I6 X( m! ^0 C
温馨提示:学习爬虫不是鼓励大家去干那些灰色产业的工作,而是如何帮助我们自己有效提升效率,而本期的案例也验证说明了这点!解放双手,让机器去干我们想干的事,毕竟当下5G、人工智能(AI),大数据(Big data)时代已经悄然来临..... 而爬虫正是迎合了这个时代,一个站在风口上猪也能飞上天的时代!!!< - END - >

7 M: o) M) U$ X1 H8 J7 @& {, v- C- p) @  T+ ]- C

8049 - 二次元动漫爬虫项目_V1.1.zip

11.64 MB, 下载次数: 185, 下载积分: 财富 -1 点

喜欢二次元吗,喜欢就下呗~

新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
Q群推荐 大榭本地求职招聘QQ群,欢迎转发分享本地招聘信息资讯! 官方招聘1群(已满);官方招聘2群:315816937 *
 楼主| 发表于 2022-10-15 11:00:11 | 显示全部楼层
更新日志Update log)
# V1.1 Bulid 20221015 正式版重要
|-- 内核│基于Python
8 S( M( p* O2 v) f% E0 i
//  二次回调图片下载模块指定教材 10159 a. B6 Q# n- K; Z: a+ y* @0 S) i
//  支持Python源代码封装打包发布 1015( y7 v. K5 d: g: _
//  新增二次元图片专辑下载目录整理 10153 E6 C1 a& h3 |
//  支持同专辑内多张图片自动导入下载 1015
4 ~0 u7 q' ]0 R: ~+ V
//  支持二次元萌图列表首页一次性打包下载 10151 w/ m; C: L4 p
//  智能识别二次元图片专辑命名规则 1015
# l$ j6 n3 n& Y! z: I- s
//  全程无需人工干预(全程自动化) 10150 \( Q& d$ y6 u/ Z% `7 Y
# V1.0 Bulid 20220214 内测版首发
|-- 内核基于Python& X. X" r2 t; A- L5 `, i3 e& S
//  基于Python内核框架搭建 0214" O, v, c8 G' B
//  支持单张图片ID下载 0214
0 r: J" }2 i! e$ _7 e
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
新大榭官方公益帮帮群:6603298 官方Excel学习交流群:82064486  欢迎您加入
 楼主| 发表于 2022-10-18 13:41:42 | 显示全部楼层
温馨提示(Tips)
>> 更多内容,敬请关注...
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
北仑单身女神专属群:181567400 北仑单身男神专属群:140788506  平台大数据筛选,勇敢为爱宣告,拒绝骚扰!
您需要登录后才可以回帖 登录 | 注册

本版积分规则

新大榭七周年,感谢由您!

文字版|小黑屋|新大榭 ( 浙ICP备16018253号-1 )|点击这里给站长发消息|

GMT+8, 2025-5-11 18:12 , Processed in 0.087335 second(s), 22 queries , Gzip On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表