2016-08-01 4 views
1

У меня есть сценарий VBA, который генерирует распределения, которые должны быть точными до 20 знаков после запятой. Я использую CDec(), чтобы заполнить массив правильной десятичной точностью. Проблема заключается в том, что когда я выводя массив на рабочий лист Excel, десятичная точность значительно падает. Например, я подтвердил, что в моем массиве число равно 0.1557094848581301243552712433, но когда оно выводится на рабочий лист, оно падает до 0.15570948485813. Я могу записать массив в текстовый файл и еще раз подтвердить, что массив имеет правильный уровень точности. Я даже попытался создать текстовый файл с разделителями, ограниченный трубой, и сделать TextToColumns безрезультатно.Excel десятичная точность Excel

Кто-нибудь знает, как поддерживать более высокий уровень десятичной точности при переводе чисел в excel?

ответ

3

Проще говоря: Excel поддерживает только 15-значную точность «при отображении». MSFT KB ниже. Как ни странно, он сохраняет правильное значение, он просто не может (или не представляет) его представлять.

работы обходные

  • Некоторые надстройки могут помочь (ссылки)
  • магазин значение как текст. которая не имеет такого предела, но не по математике или округление не может произойти

Ссылки:

Смежные вопросы