7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
3 f+ F- `# n3 N' R: W+ ]//  它提供float数据类型有以下几个优点：

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
  ! ~7 P5 S: i, i: g/ q7 O7 l

1. >>> 1.1 + 2.2
   
2. 3.3000000000000003
   
3. >>> from decimal import Decimal
   
4. >>> Decimal('1.1') + Decimal('2.2')
   7 B/ t* Y7 z6 P8 o! g# U
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  

1. >>> 1.20*1.30
   9 ~0 w4 Z8 r5 L+ s3 P
2. 1.56
   - M1 z5 ^. `( x
3. >>> Decimal('1.20')*Decimal('1.30')
   2 S  v- W9 q9 @* Q, q7 y3 _# d0 a
4. Decimal('1.5600')

复制代码

---

常用方法

1. class decimal.Decimal(value="0", context=None)

复制代码

' W6 X" @2 a1 A( U) F; v1 ~

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  - v' R* e, [5 U6 s4 W4 a
  1. >>> from decimal import *
     
  2. >>> Decimal(1.1) + Decimal(2.2)
       o+ V  V5 _3 U9 g0 L: d8 u
  3. Decimal('3.300000000000000266453525910'
     
  4. >>> Decimal('1.1') + Decimal('2.2')
     
  5. Decimal('3.3')

  复制代码
  
  
• 通过设定有效数字，限定结果样式。
  
  1. >>> getcontext().prec = 6
       E/ W" _# W$ R: Y
  2. >>> Decimal(1)/Decimal(7)
     $ r( g0 p! x/ _" Y& S; d0 s
  3. Decimal('0.142857')
     8 u& D  L7 k& M. Q$ H  [
  4. >>> getcontext().prec = 28
     
  5. >>> Decimal(1) / Decimal(7)
     % y" K* p2 P. x3 o6 a
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  ' W2 O: n1 g% C8 O! G/ e
• 四舍五入，保留几位小数。
  - D; p; N: P- ?: `- z+ j6 ?& R* }3 ?
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     : H) c. `8 v! M6 H/ [, U& U
  2. Decimal('12.35')
     - }4 `6 s( ^4 u. |9 c7 ~
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
     
  4. Decimal('12.3')

  复制代码
  
  

admin

我们先来看一下这个计算题：
" S- m: S3 Y6 T+ P

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
. P/ v$ O, U8 D- K# a' d3 h2 n但是在python的世界里，答案却是 -5.551115123125783e-17
; K1 I0 ?0 H8 [$ r为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

如下所示：

1. from decimal import Decimal as D
   4 c2 B. D$ i2 ^1 Y/ m0 a& M2 y
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   7 W, x3 n. i( j3 ]. N3 n' z
3. print(float(X))

复制代码

或

1. from decimal import Decimal
   
2. a=0.3
   2 e3 ~: o; H7 Q( L8 f
3. b=3
   
4. c=0.1
   
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
     n0 L5 c: U, f, _
6. print(X)

复制代码