2016-08-12 1 views

ответ

1

Спарк обыкновение поддерживать обмен РДД между двумя различными sparkcontext, но то же самое может быть достигнуто с помощью

а] Тахионный

б] Apache Ignite: Ignite provices igniteContext с помощью которой вы можете поделиться РДУ. IgniteRDD - это реализация собственных API-интерфейсов Spark RDD и DataFrame, которые, помимо всех стандартных функций RDD, также делят состояние RDD на другие рабочие места Spark, приложения и рабочие.

Ссылка: https://ignite.apache.org/features/igniterdd.html

3

RDD привязан к приложению, поэтому его нельзя распространять среди приложений. Вы просто сохраняете данные (например, на HDFS, S3) и читаете их из другого приложения в качестве RDD.

Смежные вопросы