hadoop: 1 отображать несколько редукторов, каждый из которых имеет разную функциональность?возможный? - PullRequest
2 голосов
/ 11 августа 2011

Вот пример:

Можно ли одновременно запускать один и тот же маппер для нескольких редукторов? как

map output : {1:[1,2,3,4,5,4,3,2], 4:[5,4,6,7,8,9,5,3,3,2], 3:[1,5,4,3,5,6,7,8,9,1], so on}  

reducer1 : sum of all numbers  
reducer2 : average of all numbers  
reducer3 : mode of all numbers   

act on the the same key like  

reducer1 output: {1:sum of values, 2:sum of values, and so on}  
reducer2 output: {1:avg of values, 2: avg of values and so on}
reducer3 output: {1:mode of values, 2: mode of values, and so on}  

и так далее. Пожалуйста, дайте мне знать.

Ответы [ 3 ]

2 голосов
/ 11 августа 2011

Я действительно хотел ответить на это для вас, но это уже спрашивали. Hadoop одна карта и несколько уменьшить

1 голос
/ 11 августа 2011

Нет, это невозможно. Но вы можете реализовать свой собственный редуктор, который будет рассчитывать все для вас и выводить его.

Для этого вы можете сделать запись на заказ.

0 голосов
/ 14 апреля 2012

http://www.cloudera.com/blog/2011/04/simple-moving-average-secondary-sort-and-mapreduce-part-3/

Это действительно делает то, что вы ищете.

...