7290 - python库【decimal】数据精度模块介绍

admin

decimal 模块为快速正确舍入的十进制浮点运算提供了支持。
//  它提供float数据类型有以下几个优点：

• 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。
    K$ h4 d: k; f9 f; {9 k8 J& r

1. >>> 1.1 + 2.2
   . W( N3 a  y. H$ `: V* ~/ F
2. 3.3000000000000003
   
3. >>> from decimal import Decimal
   
4. >>> Decimal('1.1') + Decimal('2.2')
   % X5 R$ M4 J2 G' `3 ~
5. Decimal('3.3')

复制代码

• 精确性延续到算术中。
• 保留尾随零以表示重要性。
  

1. >>> 1.20*1.30
   ; B1 J3 ?0 @! c% S$ |  U9 M% w
2. 1.56
   
3. >>> Decimal('1.20')*Decimal('1.30')
   . ^0 G% E9 E. \! t. v) x; z
4. Decimal('1.5600')

复制代码

---

常用方法

1. class decimal.Decimal(value="0", context=None)

复制代码

• 可以传递给Decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。
  8 j9 S* Q: S' |
  1. >>> from decimal import *
     ! ~& z& B0 [. i. k; B; G
  2. >>> Decimal(1.1) + Decimal(2.2)
     1 h$ g" W; D7 _) s) E; \- {
  3. Decimal('3.300000000000000266453525910'
     # i  s. g! L5 D: v# G
  4. >>> Decimal('1.1') + Decimal('2.2')
     7 l+ v/ a, ]' A8 r$ r- t
  5. Decimal('3.3')

  复制代码
  
  ! M: x# a) ?* J  D. M
• 通过设定有效数字，限定结果样式。
  - y' w+ l9 \: `
  1. >>> getcontext().prec = 6
     - \6 f3 r0 H0 u: l# y. F
  2. >>> Decimal(1)/Decimal(7)
     
  3. Decimal('0.142857')
     : @( Y1 U6 M; j
  4. >>> getcontext().prec = 28
     - N8 s* n/ i! c2 K9 z3 j
  5. >>> Decimal(1) / Decimal(7)
     / P0 J5 u7 I- n+ N6 I3 N
  6. Decimal('0.1428571428571428571428571429')

  复制代码
  
  
• 四舍五入，保留几位小数。
    k6 U+ R1 z- U, A
  1. >>> Decimal('12.3456').quantize(Decimal('0.00'))
     5 i" o9 s$ R5 @* |* T
  2. Decimal('12.35')
     
  3. >>> Decimal('12.3456').quantize(Decimal('1.1'))
     5 B( o7 E. ]; |
  4. Decimal('12.3')

  复制代码
  
  7 f; @$ c0 @! s0 L5 n# S* w

admin

我们先来看一下这个计算题：

1. print(0.3-3*0.1)

复制代码

很显然我们知道答案是 0
但是在python的世界里，答案却是 -5.551115123125783e-17
: C3 R$ D/ X: s9 M6 B为什么呢？这是由于python的精度造成的，我们可以通过引入Decimal模块解决。

python中存在一个模块decimal，decimal模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的IEEE浮点数运算。Decimal实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。

8 M) b3 @2 m' {5 P如下所示：

1. from decimal import Decimal as D
   
2. X = D(‘0.3’) - D(‘3’)  * D(‘0.1’)
   - K3 U5 t. H; p" u- V7 I. N; Y
3. print(float(X))

复制代码

或
  j& T. n4 G. l# R+ [

1. from decimal import Decimal
   ( f) p0 v, X; J9 J2 m* D5 n
2. a=0.3
   
3. b=3
     h1 m0 j0 x4 @" w' x, S8 k% f
4. c=0.1
   
5. X = Decimal(str(a)) - Decimal(str(b))  * Decimal(str(c))
   
6. print(X)

复制代码