2014-11-13 3 views

ответ

0

Mahout использует Hadoop для чтения данных, за исключением нескольких поддерживаемые NoSQL dbs и JDBC dbs. Hadoop, в свою очередь, может использовать S3. Вам нужно будет настроить Hadoop для использования файловой системы S3, а затем Mahout должен отлично читать и писать на S3.

Redshift - это решение для хранения данных на основе Postgres и поддержка JDBC/ODBC. Mahout 0.9 поддерживает модели данных, хранящиеся в хранилищах, совместимых с JDBC, поэтому, хотя я этого не сделал, он должен поддерживаться

Рекомендаторы Mahout v1 работают на Spark, а ввод и вывод - текст по умолчанию. Все операции ввода-вывода проходят через Hadoop. Таким образом, данные S3 отлично подходят для ввода, но созданные модели также являются текстовыми и должны быть проиндексированы и запрошены с помощью поисковой системы, такой как Solr или Elasticsearch. Вы можете легко написать читателю, чтобы получить данные из любого другого магазина (Redshift), но вы, возможно, не захотите сохранять модели в хранилище данных, так как они должны быть проиндексированы solr и должны иметь супер быстрый поиск в поисковой системе.

+0

Спасибо, pferrel. Мои данные находятся в sql-сервере, мы создаем хранилище данных на redshift.we не используют Hadoop, EMR-кластеры. мы хотим использовать mahout для рекомендаций в реальном времени (или в режиме реального времени). Пожалуйста, дайте мне несколько идей, мой технический набор (Redshift, sql server, S3, Mahout, R). –

+0

Рекомендации NRT, используйте Mahout v1 (использует Spark) + Solr или Elasticsearch. Во время выполнения запрос представляет собой историю предпочтений текущего пользователя для Solr, что очень быстро, это возвращает упорядоченный список рекомендуемых элементов. Модель, которую вы индексируете в Solr, создается Mahout v1 «spark-itemsimilarity» Ссылки здесь: http://mahout.apache.org/users/recommender/intro-cooccurrence-spark.html Презентации и записи в блогах здесь: https://occamsmachete.com/ml Краткая книга на эту тему: https://www.mapr.com/practical-machine-learning – pferrel

Смежные вопросы