7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
//  它提供float数据类型有以下几个优点：

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
  2 c4 ]2 O( m$ W  u6 d. \3 g/ [

1. >>> 1.1 + 2.2
     y1 }2 K% s; {- W( _$ o
2. 3.3000000000000003
   9 l" Z" W* \$ M) K
3. >>> from decimal import Decimal
   4 k& v, c3 c4 E5 p$ g+ z  M
4. >>> Decimal('1.1') + Decimal('2.2')
   . P$ }0 E' W1 ^) Y4 J$ J6 Y; ^! G
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  ; u6 ]) O2 M0 n$ {" N

1. >>> 1.20*1.30
   $ @4 l& e# X, b6 U9 w# I- j3 w8 I" ?
2. 1.56
   
3. >>> Decimal('1.20')*Decimal('1.30')
   
4. Decimal('1.5600')

复制代码

---

常用方法
* a- y) T; g, O% d' X' S

1. class decimal.Decimal(value="0", context=None)

复制代码

7 R. O5 K7 o& y2 e1 `" x0 m! a4 `: L0 x

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  4 u6 ?: a, o: j0 G: y
  1. >>> from decimal import *
     ) X4 L+ E# Y2 L1 X$ h% k7 ]1 p
  2. >>> Decimal(1.1) + Decimal(2.2)
     
  3. Decimal('3.300000000000000266453525910'
     ; z$ v3 l0 d8 M5 V
  4. >>> Decimal('1.1') + Decimal('2.2')
     & c: Q0 b/ J/ {. a
  5. Decimal('3.3')

  复制代码
  
  
• 通过设定有效数字，限定结果样式。
  - L2 a. U% R  T1 F- \+ A
  1. >>> getcontext().prec = 6
     ! f' O% L/ P  |2 ?5 T7 b/ n
  2. >>> Decimal(1)/Decimal(7)
     8 d  C" @5 `. ~" g
  3. Decimal('0.142857')
     
  4. >>> getcontext().prec = 28
     
  5. >>> Decimal(1) / Decimal(7)
     # d+ }  S7 G/ x" ?
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  * X( I+ s1 \! V* E6 V
• 四舍五入，保留几位小数。
  
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     
  2. Decimal('12.35')
     
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
       q6 B& I! B5 H! k5 {& E" P. b
  4. Decimal('12.3')

  复制代码
  
  ! z' Y6 g  r! U* s

admin

我们先来看一下这个计算题：
2 i0 Y6 H% P5 B

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
但是在python的世界里，答案却是 -5.551115123125783e-17
8 E8 o% g' j0 a' U0 W7 o* a% T为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

" y+ @4 F7 v6 w+ B. G如下所示：

1. from decimal import Decimal as D
   5 V; p5 T% ]0 Y. E7 n
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   : Y4 `2 O% ]4 C
3. print(float(X))

复制代码

或

1. from decimal import Decimal
   
2. a=0.3
   7 \0 o5 q5 x: c( m' f% E
3. b=3
   
4. c=0.1
   ( l3 ]; h1 y8 z0 F7 c) _
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
   
6. print(X)

复制代码