Я принимаю видео лекцию Andrew NG. Suddely Я задавался вопросом, широко ли используется метод регрессии. Часто ли используется нейронная сеть? Я просто задавался вопросом, объясняет ли Андрей регрессию как вводный материал. Я хочу услышать от человека, использующего машинное обучение в этой области.Регрессионная и нейронная сеть
На мой взгляд, регрессионная и нейронная сеть должны использоваться как. Мы не знаем, какая модель работает хорошо, поэтому нам нужно как можно больше построить модель. Кроме того, после построения моделей мы можем сравнить или осмыслить нашу модель с использованием данной статистики оценки.
Этот вопрос не связан с какой-либо проблемой кодирования, поэтому он, вероятно, может поместиться лучше в других сообществах StackExchange, таких как DataScience или CrossValidated. Это сказало, давайте попробуем привнести некоторое понимание в линейный классификатор против темы нейронной сети. Цитируя DeepLearningBook, страница 168:
Один из способов понять прямое распространение сетей должны начаться с линейными моделями и рассмотрим, как преодолеть свои ограничения. Линейные модели, такие как логистическая регрессия и линейная регрессия, привлекательны, потому что они могут быть эффективными и надежными, либо в закрытой форме, либо с выпуклой оптимизацией. Линейные модели также имеют очевидный недостаток, что емкость модели ограничена линейными функциями, поэтому модель не может понять взаимодействие между любыми двумя входными переменными. Чтобы расширить линейные модели для представления нелинейных функций х, мы можем применить линейную модель не к самому х, а к преобразованному входу φ (x), где φ - нелинейное преобразование.
Я настоятельно рекомендую прочитать этот раздел, также не хочу, чтобы плагиат всей страницы. Но подведение итогов, есть два основные подход к расширяющим линейным моделям:
Сопоставьте вход в очень общее, многомерное пространство, и выполняет линейную классификацию там (приближение ядра машин как SVM, что вам увидим в курсе).
Позвольте вашей модели узнать карту! Это подход нейронных сетей: он дает выпуклость, но гораздо более гибкий и работает лучше (по крайней мере в наши дни).
Таким образом, линейные модели по-прежнему являются разумным выбором для общих задач, которые не требуют максимальной производительности. Но очень редко вы останетесь на простой линейной регрессии; вы, скорее всего, захотите выполнить какое-то сопоставление, например добавление некоторого interaction features (я считаю, что этот курс охватывает некоторые из них) или, возможно, лучше использовать ядро RBF в качестве функции отображения и организовать с ним SVM. Они достаточно быстро тренируются и не требуют высокого обслуживания вообще. На самом деле, SVM были передовыми, пока глубокие нейронные сети не превзошли их из-за увеличения объема данных и дешевой вычислительной мощности, обеспечиваемой графическими процессорами.
Итак, если у вас есть такое количество данных и мощность GPU, и вы готовы вдаваться в детали и настроить свою модель, чтобы иметь самую современную производительность, глубокие нейронные сети - путь! Но имейте в виду, что большая часть работы с ними имеет очень эмпирическую основу, и предположения + интерпретации трудно обобщить. Много исследований продолжается, хотя :)