Equivalent of mongo#39;s out:reduce option in hadoop(等效于 mongo 的 out:reduce 选项在 hadoop)
问题描述
我正在重写一个 MongoDB map reduce 作业以使用 Hadoop(使用 mongo-hadoop 连接器),但是当我将两个数据集映射到同一个集合时,它会覆盖值而不是使用它们
I'm rewriting a MongoDB map reduce job to use Hadoop instead (using the mongo-hadoop connector), but when I map two datasets to the same collection, it overwrites the values instead of using them
{ reduce : "collectionName" } - 如果结果集中和旧集合中的给定键存在文档,则将对这两个值执行归约操作(使用指定的归约函数),并且结果将被写入输出集合.如果提供了 finalize 函数,这也将在 reduce 之后运行.
如何使用 mongo-hadoop?
How is done using mongo-hadoop?
推荐答案
对于正在寻找此功能的其他人,即将支持多输入.
To anyone else looking for this, support for multiple input is coming soon.
更改的分支位于这里.它做得很好,我们正在生产中使用它.
The branch with the change is located here. It's pretty well done, we're using it in production.
这篇关于等效于 mongo 的 out:reduce 选项在 hadoop的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
本文标题为:等效于 mongo 的 out:reduce 选项在 hadoop
- Spring Boot连接到使用仲裁器运行的MongoDB副本集 2022-01-01
- C++ 和 Java 进程之间的共享内存 2022-01-01
- 如何使用WebFilter实现授权头检查 2022-01-01
- Safepoint+stats 日志,输出 JDK12 中没有 vmop 操作 2022-01-01
- Java包名称中单词分隔符的约定是什么? 2022-01-01
- 将log4j 1.2配置转换为log4j 2配置 2022-01-01
- Jersey REST 客户端:发布多部分数据 2022-01-01
- Eclipse 插件更新错误日志在哪里? 2022-01-01
- 从 finally 块返回时 Java 的奇怪行为 2022-01-01
- value & 是什么意思?0xff 在 Java 中做什么? 2022-01-01