предсказывали вероятность использования логистической регрессии в R равен 1

Question

У меня есть простая модель GLM выглядит как:

glm.fit=glm(Retention2~Email+Pay.method, data=train, family = binomial) 

Все DV и капельницы являются категориальными переменными с двумя уровнями.

Исход glm является:

, когда я вычислил вероятность основывается, значение вероятности 1.000, когда Pay.Method равно 0. Синтаксис и выход приведен ниже:

glm.fit.prob=predict(glm.fit, newdata = test2, type="response") 

кажется, что всякий раз, когда pay.method ="EZ PAY", вероятность будет равна 0. Я думаю, математически причина в том, что coeff электронной почты настолько меньше, чем перехват и Pay.method. Интересно, правильно ли я понимаю, и если да, то какое представление о том, как обойти это?

Answer 1

Корпус называется четким разделительным корпусом. Посмотрите на свои данные, когда у вас есть pay.method ="EZ PAY", либо почти наблюдение может быть нулевым, либо почти все будут равными 1. Таким образом, вам не нужна модель для прогнозирования, потому что вы можете сказать, будет ли результат 0 или 1 без модели (теперь, если его подлинный случай или из-за отсутствия данных - другой вопрос). Лучше удалить эти случаи из учебных данных, а затем подготовить модель (в вашем случае удалите все наблюдения с помощью pay.method ="EZ PAY").

Теперь почему это поведение. Оценка максимального правдоподобия по логистической регрессии не очень хороша, чтобы иметь дело с четким разделением; для хорошего охвата см. статистическую учебную книгу Хасти Тиббирани. Они также рекомендуют использовать дискриминантный анализ, так как лучше справляться с такими случаями.