Я изучаю искру 2.0 java api и сомневаюсь относительно collect()
& collectAsync()
доступно для javardd.В чем разница между методами искры javardd collect() & collectAsync()?
ответ
Собрать действие в основном используется для просмотра содержимого RDD, в основном это синхронно, в то время как collectAsync() является асинхронным, что означает его Возврат в будущее для извлечения всех элементов этого RDD. он позволяет запускать другой RDD для параллельной работы. для лучшей оптимизации вы можете использовать справедливый планировщик для планирования работы.
собирать():
Он возвращает массив, содержащий все элементы в этом РДУ.
List<Integer> data = Arrays.asList(1, 2, 3, 4, 5);
JavaRDD<Integer> rdd = sc.parallelize(data, 1);
List<Integer> result = rdd.collect();
//elements in will be copied to driver in above step and control will
//wait till the action completes
collectAsync():
асинхронная версия collect
, который возвращает Future (java.util.concurrent.Future
) для получения массива, содержащего все элементы в этом RDD.
List<Integer> data = Arrays.asList(1, 2, 3, 4, 5);
JavaRDD<Integer> rdd = sc.parallelize(data, 1);
JavaFutureAction<List<Integer>> future = rdd.collectAsync();
// retuns only future object but not data (no latency here)
List<Integer> result = future.get();
//Now elements in will be copied to driver
Мы видим различия в том, как мы получаем данные только ли синхронная (будет нити ждать, пока действие завершается в
collect()
) или асинхронной (нити получит Future объекта и перейти к следующей инструкции)
- 1. В чем разница между «каждым», «foreach», «collect» и «map»?
- 2. в чем разница между этими методами соления
- 3. В чем разница между методами хэширования php?
- 4. В чем разница между методами transform.Rotate?
- 5. В чем разница между этими методами .find()?
- 6. В чем разница между этими методами создания
- 7. В чем разница между всеми методами os.popen()?
- 8. В чем разница между этими двумя методами?
- 9. В чем разница между различными HTTP-методами?
- 10. В чем разница между двумя методами распределения?
- 11. В чем разница между методами url_for?
- 12. В чем разница между этими ожидаемыми методами?
- 13. В чем разница между методами ввода?
- 14. В чем разница между этими методами инициализации?
- 15. В чем разница между методами UITableView и эквивалентными методами UITableViewDatasource?
- 16. Разница между методами журнала
- 17. В чем разница между действиями collect и count?
- 18. Разница между collect и as.data.frame в sparkR
- 19. Разница между методами «батут»
- 20. Разница между методами
- 21. Разница между методами HTTP
- 22. Разница между PubSub и методами
- 23. Разница между методами класса доступа
- 24. В чем разница между чтением перетасовки искры и перетасовкой?
- 25. В чем разница между методами getRequestURI и getPathInfo в HttpServletRequest?
- 26. В чем разница между этими двумя методами литья в C++?
- 27. В чем разница между методами экземпляра и getterMethods в sequelizejs?
- 28. В чем разница между различными методами * get helper * в Magento?
- 29. В чем разница между методами configuration.files и configuration.copy в Gradle?
- 30. В чем разница между методами bind и live в jQuery?
'collect()' возвращает список элементов в RDD сразу. 'collectAsync()' дает будущий объект из этого элемента может быть восстановлен. – mrsrinivas
Привет @JaydeepRameshDeshmukh, если какой-либо ответ ниже ответов разрешил ваш вопрос, пожалуйста, рассмотрите [его принятие] (http://meta.stackexchange.com/q/5234/179419), нажав на галочку. Это указывает более широкому сообществу, что вы нашли решение и дали некоторую репутацию как самому, так и самому себе. Это не обязательно. – mrsrinivas