7361 - 新大榭微课№:016 - 【模块】中文标签云应用实例讲解（公开课）

admin

6 b4 m! U: c: D2 M8 Y. R5 y       hello！大家好，今天张老师来讲解词云的具体应用实例，
3 @6 e/ J- t! f1 r4 w2 }1 J8 J       词云技术可以帮助我们进行数据分析，数据库静态可视化操作。
       在上课之前请同学们先了解两个优秀的Python第三方库，他们分别是 jieba 和 wordcloud ，
       同学们有知道的吗？知道的同学请举个手！ 其实在高中《信息技术》（必修一）中有提到过 jieba 库，这也是高中必修学习的课程，而 wordcloud 库是高中选修课程，好了，废话少说，直接上干货，如果有同学对这两个库还不太了解的，建议先脑补一下，老师提供了这两个库的学习帖子链接，登陆对应的 学习直通车 就可以参加在线学习，今天，老师以《新大榭python学习社区》数据分析为例进行案例讲解，让大家进一步了解 jieba 和 wordcloud 的详细应用及操作。

• jieba 库 ------------【学习直通车】（高中必修）
  3 G+ m) Z+ v! R7 z

  ---

• wordcloud 库 ----【学习直通车】（高中选修）
  + t8 v5 W$ `8 w7 g

* j7 M/ X8 _+ x5 m% l8 a下面我们以《新大榭python学习社区》为例进行数据词云效果展示，
首先下载待分析数据原始本文，注意编码保存为 utf-8 文本格式（text.txt）
6 v9 F; ~+ z0 `! q5 \9 q4 a) G
' N, K  `7 z" }3 g* ]$ ?3 |
图1: 未进行优化处理 - 原版效果图 ↑↑↑
: k0 N2 v1 B/ j6 {
很明显默认高频词 的 在这里没有意义，所以需要过滤去除，类似的还有像“就”、“与”、“了”、“在”等等；

1. stop_words = ['的','就','与','了','在']

复制代码

同时通过for循环过滤词汇；把如下原默认代码

1. w.generate(" ".join(jieba.lcut(text)))

复制代码

替换成

1. w.generate(" ".join(k for k in jieba.lcut(text) if k not in stop_words))

复制代码

以上操作就是过滤关键词；
# ?' D' ^% D4 d/ G5 p反之还有一类词，计算器暂没收录，需要我们个性化收录，比如“仑中”，“蓝桥杯”，“第三方库” 等等

1. jieba.add_word("仑中")
   9 A7 X( Y  Q4 W+ a8 X
2. jieba.add_word("蓝桥杯")
   
3. jieba.add_word("第三方库")

复制代码

图2: 已进行优化处理 - 效果图 ↑↑↑
0 O# }1 O- Y" H0 V/ N( N

通过上述优化处理后我们不难发现数据标签云更加精准、概要，明了。
; U9 C( A" X, n/ T+ B这在数据分析统计学上我们称作过滤无效偏离量，使样本数据更准确！

: W! ^9 q+ p; ^. q
% w9 K' n$ |3 y/ G7 p5 c% W. D图3: 已进行优化处理 - 效果图（背景白色） ↑↑↑
) q* N+ ^$ c% L
' ^- y/ p0 B) _. c8 Z: X6 |核心代码片段如下 ↓↓↓

1. import jieba
   
2. import wordcloud
   
3. 
   * f  _: E8 r# ^, r
4. # 引入数据文本文件
   
5. text = open('text.txt','r',encoding='UTF-8').read()
   # P; Y! a1 a2 C+ t5 D: g
6. 
   ( \- |3 x% S" m% O
7. # 设置词云图片大小、字体及背景色(背景色默认黑色)
   
8. w=wordcloud.WordCloud(font_path="C:\\Windows\\Fonts\\simhei.ttf",width=1000,height=700,background_color="black")
   9 ]; W% T9 R0 m  d% s  v) e! s
9. #w=wordcloud.WordCloud(font_path="C:\\Windows\\Fonts\\simhei.ttf",width=1000,height=700,mode='RGBA',background_color=None) # 白色背景模板
   
10. 
    % u1 L8 M& g  ?! \+ B; D3 Z
11. w.generate(" ".join(jieba.lcut(text)))
    . r% `( v( t, Z* ]3 A7 Z/ R! y
12. w.to_file("新大榭python学习社区_未优化.png") # 输出未优化词云标签
    ! V$ F; Q2 b: ~/ W% |2 _. W# X! z' Q
13. 
    * K" ~  G8 W8 c+ Q- j6 n" Q9 B3 W. U
14. # 新增关键字词汇
    
15. jieba.add_word("蓝桥杯")
    
16. jieba.add_word('仑中')
    3 C, [8 x3 ~8 Y; C9 H7 d
17. jieba.add_word('新高考')
    2 X. w7 [8 H. e% A+ x
18. jieba.add_word('零基础')
    
19. jieba.add_word('第三方库')
    9 e; B5 C, M2 I& s
20. 
    
21. # 过滤干扰词汇
    
22. stop_words = ['以上','来','指由','作为','组','是','级','对学','大','只要','这里','等','你','的','如','有','就','则','均','了','本','但','和','而','被','与','在','或','以','注','如未','仅限','并用','限','将','于','不','物','及','专为','已','端','高']
    
23. w.generate(" ".join(k for k in jieba.lcut(text) if k not in stop_words))
    3 G+ E& T% J9 w4 S% b  L* d6 [
24. 
    6 a! E6 M" Z% \- {1 M0 V/ b
25. # 输出图文
    
26. w.to_file("新大榭python学习社区_已优化.png") # 同时输出已优化词云标签

复制代码

---

注：当前课程已收录新大榭网校Python系列自编原创课程（*）