Что делает алгоритм обучения в линейной регрессии?

Чтение заметок курса машинного обучения Эндрю Н.Г., который он устанавливает для линейной регрессии:Что делает алгоритм обучения в линейной регрессии?

Возьмите учебный комплект и передайте его в алгоритм обучения. Алгоритм выводит функцию h (гипотеза). h принимает ввод и пытается вывести оценочное значение y.

Затем он продолжает говорить:

присутствует ч, как: h theta(x) = theta0 + theta1x

ли это не означает, что hyptohesis не выводится с помощью алгоритма обучения, а мы только что определили его как h theta(x) = theta0 + theta1x

Вместо «Возьмите учебный комплект и передайте его в алгоритм обучения. Алгоритм выводит функцию h (гипотеза)». должно быть утверждение: «Возьмите учебный комплект и передайте его в алгоритм обучения. Алгоритм выводит значения (ы), которые делают гипотезу максимально точным»?

источник

2015-07-19 blue-sky

'Разве это не означает, что алгоритм обучения не выводил гитетоз, вместо этого мы просто определили его как h theta (x) = theta0 + theta1x' - что вы имеете в виду здесь? 'theta (x) = theta0 + theta1x' - ваша гипотеза. – cel

@cel гипотеза определяется как «h theta (x) = theta0 + theta1x». Алгоритм обучения выдал эту гипотезу, как указано в примечаниях к курсу. –

Я не понимаю разницу между этими двумя утверждениями. Возврат функции или возврат всех необходимых параметров для параметрической функции - это в основном одна и та же информация. – cel

В принципе, вы здесь. Истинный learning algorithm, как определено в теории обучения, является алгоритмом, который получает помеченные экземпляры и целый класс возможных гипотез в качестве входных данных, а затем выбирает одну гипотезу в качестве вывода.

Так что, строго говоря, алгоритм, который выводит предсказания, не является алгоритмом обучения. Но, конечно, такой алгоритм можно разбить на алгоритм обучения - алгоритм, который на самом деле learns параметров, здесь theta s. и алгоритм прогнозирования, который преобразует некоторые входные экземпляры в наши предсказания, которые затем возвращаются вызывающему.

источник

2015-07-19 18:55:43 cel

Я не уверен, что вы можете сделать различие, которое у вас здесь. Он утверждает в вопросе, что алгоритм возвращает коэффициенты (ну, он говорит тета-значения), а не предсказания. Таким образом, в отсутствие какого-либо кода это может быть просто истинным алгоритмом обучения с помощью всего лишь набора инструкций 'print', которые возвращают результат обучения. Я не вижу никаких предположений о том, что есть еще одна часть, которая затем берет новые входы и использует линейное уравнение для выходов, например. алгоритм прогнозирования. – roganjosh

Если я правильно понял вопрос, то в книге указано, что алгоритм выводит функцию, но на самом деле выводит преобразованные значения, что и является причиной путаницы. В моей алгоритмической теории нет заявлений печати :). Но верно, если алгоритм выводит параметры подходящей кодированной формы, то это истинный алгоритм обучения. Но опять же, я не совсем понимаю вопрос ОФ. – cel

Я думаю, что вопрос просто слегка педантичен в отношении формулировки, и когда ваши первоначальные комментарии не привели к ответу, вы сделали его более сложным. В принципе вы совершенно правы, но я не уверен, что здесь применяется принцип. Я беру на себя вопрос: он предполагает, что, поскольку коэффициенты возвращаются как необработанные значения, он не возвращает функцию. Тогда ваше первоначальное наблюдение правильное - они одно и то же, просто не представлены таким же образом, и он считает, что формулировка курса должна отражать это – roganjosh

Для случая линейной регрессии вы хотите, чтобы ваш алгоритм обучения выводил линейную функцию.

Это h (x) = theta0 + theta1x.

В этом случае алгоритм обучения изучает оптимальные тета0 и тета1 в соответствии с вашими данными обучения.

Если вы хотите ваш алгоритм обучения, чтобы узнать, 3-й степени многочлен выход модели обучения будет, b, c и d таким образом, что

(х) = ах + Ьх + cx + d

Но ваше утверждение верное, алгоритм обучения выбирает наилучшие параметры для минимизации стоимости функции ошибки. Обычно это квадратная ошибка + некоторые коэффициенты регуляризации.

источник

2015-07-19 18:25:36

Что делает алгоритм обучения в линейной регрессии?

ответ

Смежные вопросы