Почему эта сумма процентов не составляет до 100%?

Question

У меня есть серия вычислений в DB DB2 SQL, которые хранятся как float со значением по умолчанию 0.0.

таблица обновляется следующим образом:

CREATE TABLE MY_CALC_DATA_TABLE 
(
    CALCDATE     TIMESTAMP, 
    INDIV_CALC_DURATION_IN_S FLOAT WITH DEFAULT 0.0, 
    CALC_TIME_PERCENTAGE  FLOAT WITH DEFAULT 0.0 
) 

Использование sproc. Я расчет суммы следующим образом:

CREATE OR REPLACE PROCEDURE MY_SCHEMA.MY_SPROC (IN P_DATE TIMESTAMP) 
    LANGUAGE SQL 
    NO EXTERNAL ACTION 
BEGIN 
    DECLARE V_TOTAL_CALC_TIME_IN_S FLOAT DEFAULT 0.0; 

    -- other stuff setting up and joining data 

    -- Calculate the total time taken to perform the 
    -- individual calculations 

    SET V_TOTAL_CALC_TIME_IN_S = 
     (
      SELECT 
       SUM(C.INDIV_CALC_DURATION_IN_S) 
      FROM 
       MY_SCHEMA.MY_CALC_DATA_TABLE C 
      WHERE 
       C.CALCDATE = P_DATE 
     ) 

    -- Now calculate each individual calculation's percentage 
    -- of the toal time. 

    UPDATE 
     MY_SCHEMA.MY_CALC_DATA_TABLE C 
    SET 
     C.CALC_TIME_PERCENTAGE = 
      (C.INDIV_CALC_DURATION_IN_S/V_TOTAL_CALC_TIME_IN_S) * 100 
    WHERE 
     C.CALCDATE = P_DATE; 

END@ 

Проблема, когда я сумма всех значений CALC_TIME_PERCENTAGE для указанного CALC_DATE всегда меньше, чем 100% с суммой быть такими значениями, как 80% или 70% для разных CALC_DATES.

Мы говорим о расчетах между 35k и 55k с максимальным процентом индивидуального расчета от общего количества, рассчитанного выше, равным 11% и лотов расчетов в диапазоне 0.00000N%.

Чтобы рассчитать общий процент Я использую простой запрос:

SELECT 
    SUM(C.CALC_TIME_PERCENTAGE) 
FROM 
    MY_SCHEMA.MY_CALC_DATA_TABLE C 
WHERE 
    C.CALCDATE = P_DATE; 

Любые предложения?

Обновление: Реорганизация выписки. как предполагалось, исправили проблему. Благодарю. BTW В DB2 FLOAT и DOUBLE используются те же типы. И теперь, чтобы прочитать эту предложенную бумагу по поплавкам.

Answer 1

Если поле C.INDIV_CALC_DURATION_IN_S было Integer, я бы предположил, что это ошибка округления. Снова читайте, это не проблема, так как тип данных: FLOAT.

Вы все еще можете попробовать использовать это. Я не удивлюсь, если это yileded (slighly) иные результаты, чем предыдущий метод:

SET 
    C.CALC_TIME_PERCENTAGE = 
     (C.INDIV_CALC_DURATION_IN_S * 100.0/V_TOTAL_CALC_TIME_IN_S) 

---

Но вы говорите, что есть много строк в расчете на определенную дату, так что это может быть Из-за этого возникает ошибка округления. Попробуйте с типом данных DOUBLE в обоих полях (или, по крайней мере, поле CALC_TIME_PERCENTAGE) и посмотрите, уменьшается ли разница с 100%.

Я не уверен, что DB2 имеет DECIMAL(x,y) Тип данных. В этом случае это может быть более уместным.

---

Другая проблема заключается в том, как вы находите сумму CALC_TIME_PERCENTAGE. Я полагаю, вы (и все остальные) будете использовать:

 SELECT 
      P_DATE, SUM(CALC_TIME_PERCENTAGE) 
     FROM 
      MY_SCHEMA.MY_CALC_DATA_TABLE C 
     GROUP BY P_DATE 

Таким образом, у вас нет способа определить, в каком порядке суммирование будет сделано. Оно не может быть даже можно определить, что, но вы можете попробовать:

 SELECT 
      P_DATE, SUM(CALC_TIME_PERCENTAGE) 
     FROM 
      (SELECT 
       P_DATE, CALC_TIME_PERCENTAGE 
      FROM 
       MY_SCHEMA.MY_CALC_DATA_TABLE C 
      ORDER BY P_DATE 
        , CALC_TIME_PERCENTAGE ASC 
     ) AS tmp 
     GROUP BY P_DATE 

оптимизатор может игнорировать интерьер ORDER BY, но это стоит выстрел.

---

Другая возможность для этой большой разницы в том, что строки удаляются из таблицы между UPDATE и SHOW percent SUM операций.

Вы можете проверить, если это произойдет, выполнив вычисления (без UPDATE) и суммируя:

 SELECT 
      P_DATE 
      , SUM(INDIV_CALC_DURATION_IN_S * 100.0/T.TOTAL)     
      AS PERCENT_SUM 
     FROM 
      MY_SCHEMA.MY_CALC_DATA_TABLE C 
      , (SELECT SUM(INDIV_CALC_DURATION_IN_S) AS TOTAL 
       FROM MY_SCHEMA.MY_CALC_DATA_TABLE 
      ) AS TMP 
     GROUP BY P_DATE 

Answer 2

Может быть проблемой округления. Попробуйте вместо этого C.INDIV_CALC_DURATION_IN_S * 100/V_TOTAL_CALC_TIME_IN_S.

Answer 3

Если C.INDIV_CALC_DURATION_IN_S очень мало, но у вас есть большое количество строк (и, таким образом, V_TOTAL_CALC_TIME_IN_S становится большим по сравнению), то

(C.INDIV_CALC_DURATION_IN_S/V_TOTAL_CALC_TIME_IN_S) * 100 

может привести к потере точности, особенно если вы используете FLOAT с.

Если это так, то изменение расчет (как уже упоминалось в другом месте), чтобы

(C.INDIV_CALC_DURATION_IN_S * 100)/V_TOTAL_CALC_TIME_IN_S 

должен увеличить сумму, хотя он не может получить вас вплоть до 100%

Если это случай и много измерений - это небольшие доли секунды, я бы рассмотрел возможность выходить за рамки этой процедуры: могли ли времена записываться, скажем, в милли- или микросекундах? Либо вы получите некоторый запас за дополнительные значащие цифры.