• 欢迎光临~

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

开发技术 开发技术 2022-10-08 次浏览

前言

1、 decimal 模块提供十进制数据类型,并且存储为十进制数序列;

2、 decimal 模块提供有界精度:用于存储数字的位数是固定的,可以通过 decimal.getcontext().prec=x 来设定,不同的数字可以有不同的精度。

3、 decimal 模块提供浮点:十进制小数点的位置不固定(但位数是固定的)。

4、 decimal 的构建:可以通过整数、字符串或者元组构建 decimal.Decimal ,对于浮点数需要先将其转换为字符串。

5、 decimal 模块所表示的数是完全精确的。

6、 decimal.Decimal 类包含十进制数据有效位的概念:(例如:1.30 + 1.20的结果是2.50,保留尾随零以表示有效位)

用法

1、初始化Decimal类时的类变量为整型或者字符串

(注意:但类变量不能是浮点数据类型,因为浮点数据本身就不准确)

from decimal import Decimal

# 1.传入浮点数 5.55
a = Decimal(5.55)
print(type(a))
print('a = ', a)

print('n')

# 2.传入字符串 '5.55'
b = Decimal('5.55')
print(type(b))
print('b = ', b)

print('n')

# 3.传入整形 '5'
c = Decimal(5)
print(type(c))
print('c=', c)

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

2、将浮点数据类型转为Decimal数据类型

from decimal import Decimal

a = 22.222
print(type(a))
print('a=', a)

print('n')

b = Decimal.from_float(a)
print(type(b))
print('b = ', b)

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

3、Decimal数据类型设置有效数字的个数

代码1:

from decimal import Decimal, getcontext

# 通过设定有效数字,限定结果样式
getcontext().prec = 4
x1 = Decimal(1) / Decimal(3) print('x1 = ', x1) x2 = Decimal(100) / Decimal(3) print('x2 = ', x2) x3 = Decimal(700000) / Decimal(9) print('x3 = ', x3)

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

代码2:

from decimal import *

getcontext().prec = 6

c = Decimal(1) / Decimal(7)

print(c)  # 结果为Decimal('0.142857'),六个有效数字

4、Decimal数据类型四舍五入,保留小数位数

from decimal import Decimal

# 保留两位小数
d = Decimal('50.5679').quantize(Decimal('0.00'))
print('d = ', d)

# 保留三位小数
e = Decimal('50.5679').quantize(Decimal('0.000'))
print('e = ', e)

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

5、Decimal数据类型进行十进制数学计算

from decimal import Decimal

# float数据类型的运算
f = 4.20 + 2.10 + 6.30
print('f=', f)

print('n')

# Decimal数据类型的运算
i = Decimal('4.20') + Decimal('2.10') + Decimal('6.30')
print('i = ', i)

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

注意:

# 当然精度提升的同时,肯定带来的是性能的损失。在对数据要求特别精确的场合(例如财务结算),这些性能的损失是值得的。
# 但是如果是大规模的科学计算,就需要考虑运行效率了。毕竟原生的float比Decimal对象肯定是要快很多的。

6、Decimal数据类型转为str数据类型

from decimal import *

a = Decimal('3.40').quantize(Decimal('0.0'))
print(a)
print(type(a))

print('n')

b = str(Decimal('3.40').quantize(Decimal('0.0')))
print(b)
print(type(b))

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

示例

python3中的decimal模块处理计算精度问题示例

代码如下:

#!/usr/bin/python3

# coding:utf-8

import decimal

from decimal import Decimal, getcontext


def demo():
    """

    取整问题:

    ROUND_CEILING 总是趋向无穷大向上取整
    ROUND_DOWN 总是趋向0取整
    ROUND_FLOOR 总是趋向负无穷大向下取整
    ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整
    ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。

    偶数值会导致结果向下取整,奇数值导致结果向上取整
    ROUND_HALF_UP 类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整
    ROUND_UP 朝0的反方向取整
    ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整
    """

    # 1.常规计算
    getcontext().prec = 9
    r1 = Decimal(1) / Decimal(3)
    print("r1 ", r1)  # r1: 0.333333333

    # 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数
    r2 = Decimal(10) / Decimal(3)
    print("r2 ", r2)  # r2: 3.33333333

    # 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000')),注意不能超过getcontext().prec的位数
    r3 = Decimal(1) / Decimal(3)
    print("r3 ", r3.quantize(Decimal('0.00000000')))  # r3: 0.33333333
    r4 = Decimal(10) / Decimal(3)
    print("r4 ", r4.quantize(Decimal('0.00000000')))  # r4: 3.33333333
    r5 = Decimal(10) / Decimal(str(1.5))
    print("r5 ", r5.quantize(Decimal('0.00000000')))  # r5: 6.66666667

    # 4.向上取整
    getcontext().rounding = getattr(decimal, 'ROUND_CEILING')  # 总是趋向无穷大向上取整
    r6 = Decimal(10) / Decimal(str(1.5))  # r6: 6.66666667
    print("r6 ", r6.quantize(Decimal('0.00000000')))
    r7 = Decimal(10) / Decimal(3)  # r7: 3.33333334
    print("r7 ", r7.quantize(Decimal('0.00000000')))

    # 5.向下取整
    getcontext().rounding = getattr(decimal, 'ROUND_FLOOR')  # 总是趋向无穷大向下取整
    r8 = Decimal(10) / Decimal(str(1.5))  # r8: 6.66666666
    print("r8 ", r8.quantize(Decimal('0.00000000')))
    r9 = Decimal(10) / Decimal(3)  # r9: 3.33333333
    print("r9 ", r9.quantize(Decimal('0.00000000')))


if __name__ == '__main__':
    demo()

运行结果:

python内置模块decimal模块详解:提供十进制浮点运算支持;主要用来处理和运算小数(四舍五入、有效数字个数、精度运算)

 

喜欢 (0)
违法和不良信息举报电话:022-22558618 举报邮箱:dljd@tidljd.com