7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
//  它提供float数据类型有以下几个优点：

+ b4 \$ e% W$ S( ]6 V( ?! ]

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
  

1. >>> 1.1 + 2.2
   
2. 3.3000000000000003
   
3. >>> from decimal import Decimal
   2 y4 _. {* ^' k8 I+ z
4. >>> Decimal('1.1') + Decimal('2.2')
   
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  

1. >>> 1.20*1.30
   2 [8 I6 d6 Q, O! n4 V" t
2. 1.56
   1 [6 e& ?$ W. O: O- m: |
3. >>> Decimal('1.20')*Decimal('1.30')
   : w# f+ C3 C$ P5 V, W/ d3 z
4. Decimal('1.5600')

复制代码

---

常用方法

1. class decimal.Decimal(value="0", context=None)

复制代码

% A& @& Z6 c8 J3 q) o& z

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  
  1. >>> from decimal import *
     $ A% V: F4 j7 m) ~9 C
  2. >>> Decimal(1.1) + Decimal(2.2)
     " x5 m4 |( [; Q0 a
  3. Decimal('3.300000000000000266453525910'
     . d# C" V0 A1 P6 r: r
  4. >>> Decimal('1.1') + Decimal('2.2')
     ' O/ D! X2 E( @8 s2 h
  5. Decimal('3.3')

  复制代码
  
  
• 通过设定有效数字，限定结果样式。
  
  1. >>> getcontext().prec = 6
     6 x: e, `# ?% m3 c. s
  2. >>> Decimal(1)/Decimal(7)
     
  3. Decimal('0.142857')
     
  4. >>> getcontext().prec = 28
     ; _! v; V; y* a% Y, \
  5. >>> Decimal(1) / Decimal(7)
     " h  T3 f& j5 H. i" M  h6 _
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  
• 四舍五入，保留几位小数。
  + v3 K1 E. ^0 b6 U
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     
  2. Decimal('12.35')
       v/ A: y8 Y* {* B* g; t, w
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
     - L2 |$ p1 f. j9 w3 F
  4. Decimal('12.3')

  复制代码
  
  + E/ f% Z& x7 t# k7 j

admin

我们先来看一下这个计算题：
, v+ U1 z2 c) J

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
0 ]0 W) b4 H9 f! w2 B但是在python的世界里，答案却是 -5.551115123125783e-17
& x! [; C' O$ Y6 o! h为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

0 T' ?9 d( v4 G: G+ `: M如下所示：

1. from decimal import Decimal as D
   " l: |, ?/ i" V- P  a# A0 E5 b
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   . J) y6 |5 t: ^( {+ o
3. print(float(X))

复制代码

或

1. from decimal import Decimal
   3 E6 a: F  W/ K$ n: J0 k9 W. w$ }: Z% W
2. a=0.3
   ( Y  ?/ M- F) t
3. b=3
   
4. c=0.1
   4 ~  J: i6 X" R5 Z! \( J
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
   . a% ^0 M9 z' y4 n8 i8 i( T/ I
6. print(X)

复制代码