新大榭论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

《新大榭》- 创大榭地方网络社区先锋品牌 新大榭始终专注于地方网络社区平台的建设 关于我们- [大记事]- 留言建议- [新手报道]

发布 .新大榭软件管家(Excel版) V6.0版 财务/仓库/生产/销售/采购/行政/人事/校园 .公告 - 客户 - 打赏 - 职场 - Excel - Python.

新大榭镜像-搜音乐-法律库-图书馆-高中课堂-实验室 广告是为了能更好的发展 [欢迎商家支持本站互利共赢] 广告位招租.首页黄金广告位等您来!联系 13566035181

查看: 387|回复: 1

[模块] 7290 - python库【decimal】数据精度模块介绍

 关闭 [复制链接]
发表于 2021-6-17 22:04:28 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转新大榭论坛!

您需要 登录 才可以下载或查看,没有账号?注册

x
decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
2 b# b" `" h* t% b# D//  它提供float数据类型有以下几个优点:

) |) Q. G7 `3 H. F+ @4 ^
  • 十进制数字可以准确表示:数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
    # T: X; j- a9 s7 g7 t$ n9 O" P
  1. >>> 1.1 + 2.2' o) m7 J4 E7 f; g3 {) z" v; t) l
  2. 3.3000000000000003& z3 k! M- k0 y4 a# s4 e
  3. >>> from decimal import Decimal! j! S( G" J6 z4 Q
  4. >>> Decimal('1.1') + Decimal('2.2')
    , p" B7 }9 }$ `
  5. Decimal('3.3')
复制代码
  • 精确性延续到算术中。
  • 保留尾随零以表示重要性。: t2 r; Z2 C: v. o% `
  1. >>> 1.20*1.30& Y# F) k( p" O, T* G& J
  2. 1.56
    * u- V6 l9 @7 U$ p6 {
  3. >>> Decimal('1.20')*Decimal('1.30')
    - O$ E( e: ^: N4 M7 L) |' D
  4. Decimal('1.5600')
复制代码

常用方法7 _8 \. e1 G6 [
  1. class decimal.Decimal(value="0", context=None)
复制代码

2 {% F. V; a+ e+ w
  • 可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。' t5 l7 [9 f( S" x( r
    1. >>> from decimal import *$ a; I) C9 y& H  z9 T. e# {' \# l" E+ L
    2. >>> Decimal(1.1) + Decimal(2.2)
      # o, [# k# i4 e; C2 u1 D
    3. Decimal('3.300000000000000266453525910'
      7 m) v, n+ F- I$ S) T% d3 D; Z: b: H2 ?
    4. >>> Decimal('1.1') + Decimal('2.2')
      4 I2 \1 O! T& N! Z' a9 D
    5. Decimal('3.3')
    复制代码

    2 v! z# M5 F) y+ I1 ]) E# t! L
  • 通过设定有效数字,限定结果样式。
    + {- P, D. G" f; |
    1. >>> getcontext().prec = 6
      0 z9 K3 U9 l2 ~2 {4 Q
    2. >>> Decimal(1)/Decimal(7)
      5 Q  h* L1 v( w* E9 z5 T
    3. Decimal('0.142857')
      & v9 [8 g) X# y- N# ?" h" B
    4. >>> getcontext().prec = 28
      8 M# i  G" S( W9 w5 Q8 l
    5. >>> Decimal(1) / Decimal(7)
      1 y7 d% m& \/ `! T* R! k
    6. Decimal('0.1428571428571428571428571429')
    复制代码

    + F- E7 n( n# c$ P! f' |7 u
  • 四舍五入,保留几位小数。
    % m8 q& h- z; X# k) D
    1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
      - M# B  K+ X7 S. y& V) `0 d  H
    2. Decimal('12.35')* J% {9 t8 Y% K, N# z
    3. >>> Decimal('12.3456').quantize(Decimal('1.1'))# \; Z, W8 S2 ?0 U# l* k- S
    4. Decimal('12.3')
    复制代码

    2 ^) J# s9 s1 N  U0 X, V
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
Q群推荐 大榭本地求职招聘QQ群,欢迎转发分享本地招聘信息资讯! 官方招聘1群(已满);官方招聘2群:315816937 *
 楼主| 发表于 2021-9-22 15:33:58 | 显示全部楼层
我们先来看一下这个计算题:
1 H9 X% \! _, Y
  1. print(0.3-3*0.1)
复制代码
很显然我们知道答案是 0
8 N: A" ]; k2 P但是在python的世界里,答案却是 -5.551115123125783e-177 I$ F7 k9 p  M, r" E
为什么呢?这是由于python的精度造成的,我们可以通过引入Decimal模块解决。
python中存在一个模块decimal,decimal模块实现了定点和浮点算术运算符,使用的是大多数人所熟悉的模型,而不是程序员熟悉的模型,即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数,对其上取整或下取整,还可以对有效数字个数加以限制。

; \5 t( O$ {- E! W, r. \5 F1 L如下所示:
  1. from decimal import Decimal as D
    ) G1 N# C& Z7 q0 U1 o7 t
  2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’) ) z/ i" f/ f2 l* D+ W& E! ]
  3. print(float(X))
复制代码
或
% L% z' S/ ^% C4 @8 ]
  1. from decimal import Decimal
    ( C! O" U; i$ n0 m2 z$ z
  2. a=0.3
    : `$ i7 Y4 ?! ~' T
  3. b=33 T; o) F' W7 i. u" C5 m
  4. c=0.1
    ; W$ i# \/ e' g4 N, I
  5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
    ) H" M' h1 W7 l8 R
  6. print(X)
复制代码
新大榭Python学习社区培训、Excel业务指导、办公软件定制、网站建设;新大榭探索实验室欢迎您!http://lab.daxie.net.cn/
新大榭官方公益帮帮群:6603298 官方Excel学习交流群:82064486  欢迎您加入
您需要登录后才可以回帖 登录 | 注册

本版积分规则

文字版|小黑屋|新大榭 ( 浙ICP备16018253号-1 )|点击这里给站长发消息|

GMT+8, 2026-11-20 16:37 , Processed in 0.085824 second(s), 19 queries , Gzip On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表