с плавающей точкой точность

Question

Я пишу метод, который вычисляет уравнение 2D линии в виде a*x+b*y=1

//Given two points, find the equation of the line by solving two linear equations and then test the result. (For simplicity, assume that delta !=0 here) 

private boolean solveAndRetry(float x1,float y1, float x2,float y2) { 
     float delta = x1 * y2 - x2 * y1; 
     float deltaA = y2 - y1; 
     float deltaB = x1 - x2; 

     float a = deltaA/delta; 
     float b = deltaB/delta; 
     float c = 1; 

     //test 
     if (a * x2 + b * y2 == c) { 
     System.out.println("ok"); 
      return true; 
     } 
     else { 
      System.out.println(a * x2 + b * y2-c); 
      return false; 
     } 
    } 

Когда я бежал, я ожидал, что там будет все «ОК» s, но это не так и я не знаю, почему

public static void main(String[] args) { 
     for (float x = 0; x < 10; x += 0.01f) { 
      solveAndRetry(1, -1, x, 2); 
     } 
    } 

Вот некоторые строки в результате

ok 
ok 
ok 
ok 
ok 
ok 
ok 
ok 
-5.9604645E-8 
ok 
-5.9604645E-8 
ok 
ok 
ok 
1.1920929E-7 
ok 
ok 
-5.9604645E-8 
ok 

Answer 1

float имеет точность от 6 до 7 десятичных цифр. Поскольку ошибок округления нельзя избежать, ваши результаты так же хороши, как и могут.

Как правило, вы никогда не сравнили числа с плавающей запятой для равенства. Вместо x == y всегда использовать сравнение с интервалом:

Math.abs(x - y) < eps 

при правильном выборе ЭПС.