Неточности с десятичными знаками в Python

Question

Следующий простой код:

from decimal import getcontext 
from decimal import * 
import math 

context = getcontext() 
context.prec = 300  

def f(x): 
    return Decimal(math.atan(10**(-x+1))) 

def xNext(x,y): 
    return x-y*f(2) 


def yNext(x,y): 
    return y+x*f(2) 

x= Decimal(1) 
y = Decimal(0) 

x=xNext(x,y) 
y=yNext(x,y) 

x=xNext(x,y) 
y=yNext(x,y) 

x=xNext(x,y) 
y=yNext(x,y) 

print("{:.16f}".format(x)) 
print("{:.16f}".format(y)) 

возвращает

0.9702971603146833 
0.2950554229911823 

Что неправильно, должно быть около 0,97019857 и 0,2980158649 я думал, что это была ошибка округления, но этот код должен работать до 300 знаков после запятой.

Не уверен, что если другая проблема или на самом деле не собирается 300 мест ...

EDIT: Да, я сомневаюсь, что это ошибка округления, я только что сделал тот же самый процесс на вольфрам только около 20 знаков после запятой в то время, и мой ответ более точен, чем этот.

Answer 1

Десятичный размер не увеличивает вашу точность, потому что вы используете модуль math. Но дело не в этом. Вы уверены, что расчет правильный? Только что попробовал:

x, y = 1, 0 
x, y = xNext(x,y), yNext(x,y) 
x, y = xNext(x,y), yNext(x,y) 
x, y = xNext(x,y), yNext(x,y) 

И это приводит к

0.970198479132 
0.298015864998 

, которая в основном ваш ожидаемый результат.

Answer 2

Я думаю, что проблема лежит здесь:

return Decimal(math.atan(10**(-x+1))) 

Я предположил бы, что все расчеты в этой формуле (особенно math.atan функции) будет рассчитываться как обычные точности с плавающей запятой - и затем преобразуется обратно в десятичную десятичную точку с десятичной точкой.

Если вы хотите точность в 300 точек, вы ДОЛЖНЫ найти способ гарантировать, что каждый расчет будет выполнен с таким уровнем точности или лучше, так как ваш результат будет только таким точным, как ваш точный расчет LEAST.