принятия решений с использованием непрерывной переменной

Question

У меня есть вопрос о решении дерева, используя непрерывную переменную

Я слышал, что, когда выходная переменная непрерывна и входная переменная категоричен, критерии расщепленные уменьшает дисперсию или что-то. но я не знаю, как это работает, если входная переменная является непрерывной

1) входная переменная: непрерывная/выходная переменная: категоричен

2) входной переменной: непрерывная/выходная переменная: непрерывная

Около двух как мы можем получить критерии разделения, такие как индекс gini или получение информации?

Когда я использую rpart в R, независимо от входных переменных и выходных переменных, она работает хорошо, но я не могу знать алгоритм подробно

Answer 1

Алгоритма, который rpart использует можно найти в документации этого пакет. vignette! дает хорошее объяснение.

Если вы хотите знать, как работает алгоритм для непрерывных входных переменных, вы можете легко найти это с помощью поиска в Google. Посмотрите на this video!

Answer 2

1) входная переменная: непрерывная/выходная переменная: категориальная
алгоритм C4.5 решает эту ситуацию. C4.5

Для обработки непрерывных атрибутов C4.5 создает пороговое значение, а затем разбивает список на те, значение атрибута которых превышает пороговое значение, и те, которые меньше или равны ему.

2) входная переменная: непрерывная/выходная переменная: непрерывная
Алгоритм CART (классификация и регрессия) решает эту ситуацию. CART

Дело 2 - проблема регрессии. Вы должны перечислить атрибут j и перечислить значения s в этом атрибуте, а затем разбить список на те, значение атрибута которых превышает пороговое значение, и те, которые меньше или равны ему. Тогда вы получите две области

Найти лучший атрибут j и лучшее раздвоение значение s, который

c_1 и c_2 и быть решена следующим образом:

Тогда, когда регрессия,

где