7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
4 f/ Z+ X9 Z/ ^, j1 Y: u2 s//  它提供float数据类型有以下几个优点：

4 l% z* c2 x; p: t/ X7 `# G& x, i

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
  & W, k$ D0 X; R9 p7 v- O( p- F

1. >>> 1.1 + 2.2
   
2. 3.3000000000000003
   0 r' \+ Y9 o5 f; `  i
3. >>> from decimal import Decimal
   
4. >>> Decimal('1.1') + Decimal('2.2')
   . |4 E2 O! l9 j( f
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  , N6 v# T. w3 p9 Q: |9 x

1. >>> 1.20*1.30
   
2. 1.56
   
3. >>> Decimal('1.20')*Decimal('1.30')
   
4. Decimal('1.5600')

复制代码

---

常用方法
% L7 H- p* M5 t4 o8 x2 b) p

1. class decimal.Decimal(value="0", context=None)

复制代码

! v% o; K5 T# U5 V% U

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  ! }& A) Z6 J/ y' G$ ~: c) Q. P
  1. >>> from decimal import *
     
  2. >>> Decimal(1.1) + Decimal(2.2)
     " N: Z2 z7 x& n+ b1 V4 m+ Y
  3. Decimal('3.300000000000000266453525910'
     5 X9 \6 T4 L! e  @, S5 k  ~
  4. >>> Decimal('1.1') + Decimal('2.2')
     
  5. Decimal('3.3')

  复制代码
  
  3 E! Z/ A$ O* w  }* l) V; y
• 通过设定有效数字，限定结果样式。
  , O  Q3 M6 Y: k/ C4 L0 E
  1. >>> getcontext().prec = 6
     
  2. >>> Decimal(1)/Decimal(7)
     
  3. Decimal('0.142857')
     
  4. >>> getcontext().prec = 28
     1 J, U& V5 k  P+ M: @0 G
  5. >>> Decimal(1) / Decimal(7)
     + T' r7 l+ U$ R: Z0 }, M
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  . `7 E) ~% F% [0 W1 j  a  Q
• 四舍五入，保留几位小数。
  
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     
  2. Decimal('12.35')
     , S3 x! U/ x6 z
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
     
  4. Decimal('12.3')

  复制代码
  
  

admin

我们先来看一下这个计算题：

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
但是在python的世界里，答案却是 -5.551115123125783e-17
为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

  Z, l4 _! H2 p8 {1 i/ {  c0 G# b# |如下所示：

1. from decimal import Decimal as D
   + s# Z/ l! s2 e. w4 r
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   . b! B! \" P" f: i: ~- C9 H! `
3. print(float(X))

复制代码

或
$ q8 e) ^. Q0 U1 M4 H

1. from decimal import Decimal
   - f. Z  ^8 a, T2 Y1 G  ^
2. a=0.3
   ! U4 P" n" }8 C' q. C. Z0 Q. |
3. b=3
   ( P0 V+ Y: U1 R( R7 {1 {
4. c=0.1
   ) C9 ]1 N- V9 d7 q2 W
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
   % Y$ {& ^$ z# ]4 X  `
6. print(X)

复制代码