7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
; {. r! U6 ]: B//  它提供float数据类型有以下几个优点：

+ F  ~/ f! a! M! G1 w) J; k

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
  

1. >>> 1.1 + 2.2
   & H2 }* S  c* U8 s2 Y) S. y
2. 3.3000000000000003
   
3. >>> from decimal import Decimal
   
4. >>> Decimal('1.1') + Decimal('2.2')
     \" K4 s0 L9 P/ U1 F$ r
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  ) E- N8 W2 P, `

1. >>> 1.20*1.30
   - `7 r- N) N7 Z9 \& I8 W7 e! S
2. 1.56
   : U, F' v# E( ]4 P" Z
3. >>> Decimal('1.20')*Decimal('1.30')
   
4. Decimal('1.5600')

复制代码

---

常用方法
  H* h1 O  F: I

1. class decimal.Decimal(value="0", context=None)

复制代码

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  8 f; N4 A! F* v, o( m7 o
  1. >>> from decimal import *
     
  2. >>> Decimal(1.1) + Decimal(2.2)
     
  3. Decimal('3.300000000000000266453525910'
     
  4. >>> Decimal('1.1') + Decimal('2.2')
     
  5. Decimal('3.3')

  复制代码
  
  3 D) X: }0 F0 T8 e8 _
• 通过设定有效数字，限定结果样式。
  ! Z' w4 a, s! ]
  1. >>> getcontext().prec = 6
     & S. e5 d, T& x) W
  2. >>> Decimal(1)/Decimal(7)
     * F- m* F2 |% k% L/ r- X: A$ y2 O9 A
  3. Decimal('0.142857')
     
  4. >>> getcontext().prec = 28
     
  5. >>> Decimal(1) / Decimal(7)
     
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  ' i, [3 r3 d# h
• 四舍五入，保留几位小数。
  ( C- {+ i; R( Q% X* m: k! V
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     , ]- {2 F2 P* H% M
  2. Decimal('12.35')
     ! W- f# N) e% H: f* G* O, e: `  r
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
     * Z" V$ f0 N1 V) @2 S/ J, `- r1 ~
  4. Decimal('12.3')

  复制代码
  
  + ]4 t* [, z" L$ C( x; V& P

admin

我们先来看一下这个计算题：
) I) n5 f% c/ l  Z! l

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
* X- p: {7 D0 S( G但是在python的世界里，答案却是 -5.551115123125783e-17
/ j" |8 ?- Y2 b为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

6 ^9 {$ _- h2 L* H3 O如下所示：

1. from decimal import Decimal as D
   ) A( E) c; M& P! z/ I$ \  o3 X
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   
3. print(float(X))

复制代码

或

1. from decimal import Decimal
   $ D; h" Q& Z6 Z7 A, B2 ^
2. a=0.3
   % p# [0 K' w* P( w. M6 n; |
3. b=3
   & v4 i) I5 d4 O6 B8 f: N* C' d
4. c=0.1
   . K& N" Q9 o' G% S5 s
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
   6 A8 X9 x* b9 ~! ~4 D
6. print(X)

复制代码