首页 / JAVASCRIPT / javascript – MongoDB mapReduce方法出乎意料的结果

javascript – MongoDB mapReduce方法出乎意料的结果

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了javascript – MongoDB mapReduce方法出乎意料的结果，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含5299字，纯文字阅读大概需要8分钟。

内容图文

我的mongoDB中有100个文档,假设它们中的每一个都可能与不同条件下的其他文档重复,例如firstName&姓氏,电子邮件和手机.

我试图mapReduce这100个文件,以具有键值对,如分组.

一切正常,直到我在DB中有第101个重复记录.

与第101条记录重复的其他文档的mapReduce结果的输出已损坏.

例如：

我正在研究firstName& lastName现在.

当DB包含100个文档时,我可以包含结果

{
    _id: {
        firstName: "foo",
        lastName: "bar,
    },
    value: {
        count: 20
        duplicate: [{
            id: ObjectId("/*an object id*/"),
            fullName: "foo bar",
            DOB: ISODate("2000-01-01T00:00:00.000Z")
        },{
            id: ObjectId("/*another object id*/"),
            fullName: "foo bar",
            DOB: ISODate("2000-01-02T00:00:00.000Z")
        },...]
    },

}

这正是我想要的,但……

当数据库包含100多个可能的重复文档时,结果就像这样,

假设第101个文件是

{
    firstName: "foo",
    lastName: "bar",
    email: "foo@bar.com",
    mobile: "019894793"
}

包含101个文件：

{
    _id: {
        firstName: "foo",
        lastName: "bar,
    },
    value: {
        count: 21
        duplicate: [{
            id: undefined,
            fullName: undefined,
            DOB: undefined
        },{
            id: ObjectId("/*another object id*/"),
            fullName: "foo bar",
            DOB: ISODate("2000-01-02T00:00:00.000Z")
        }]
    },

}

包含102个文件：

{
    _id: {
        firstName: "foo",
        lastName: "bar,
    },
    value: {
        count: 22
        duplicate: [{
            id: undefined,
            fullName: undefined,
            DOB: undefined
        },{
            id: undefined,
            fullName: undefined,
            DOB: undefined
        }]
    },

}

我发现stackoverflow上的另一个主题有类似我的问题,但答案对我不起作用
MapReduce results seem limited to 100?

有任何想法吗？

编辑：

原始源代码：

var map = function () {
    var value = {
        count: 1,
        userId: this._id
    };
    emit({lastName: this.lastName, firstName: this.firstName}, value);
};

var reduce = function (key, values) {
    var reducedObj = {
        count: 0,
        userIds: []
    };
    values.forEach(function (value) {
        reducedObj.count += value.count;
        reducedObj.userIds.push(value.userId);
    });
    return reducedObj;
};

源代码现在：

var map = function () {
    var value = {
        count: 1,
        users: [this]
    };
    emit({lastName: this.lastName, firstName: this.firstName}, value);
};

var reduce = function (key, values) {
    var reducedObj = {
        count: 0,
        users: []
    };
    values.forEach(function (value) {
        reducedObj.count += value.count;
        reducedObj.users = reducedObj.users.concat(values.users); // or using the forEach method

        // value.users.forEach(function (user) {
        //     reducedObj.users.push(user);
        // });

    });
    return reducedObj;
};

我不明白为什么它会失败,因为我也将值(userId)推送到reducedObj.userIds.

关于我在map函数中发出的值有什么问题吗？

解决方法:

解释问题

这是一个常见的mapReduce陷阱,但显然你遇到的问题的一部分是你找到的问题没有解释清楚甚至正确的答案.所以答案在这里是合理的.

文档中经常遗漏或至少被误解的观点是here in the documentation：

  • MongoDB can invoke the reduce function more than once for the same key. In this case, the previous output from the reduce function for that key will become one of the input values to the next reduce function invocation for that key.

并在页面稍后添加到该页面：

  • the type of the return object must be identical to the type of the value emitted by the map function.

在你的问题的上下文中,这意味着在某一点上有一个“太多”的重复键值被传递给一个reduce阶段,以便在一次传递中对它进行操作,因为它可以用于较低的数字的文件.通过设计,reduce方法被多次调用,通常从已经减少的数据中获取“输出”,作为另一次传递的“输入”的一部分.

这就是mapReduce设计用于处理非常大的数据集的方式,通过处理“块”中的所有内容,直到它最终“减少”到每个键的单个分组结果.这就是为什么下一个声明很重要的原因是发出和reduce输出都需要构造完全相同的,以便reduce代码正确处理它.

解决问题

您可以通过修复如何在地图中发射数据以及如何在reduce函数中返回和处理来更正此问题：

db.collection.mapReduce(
    function() {
        emit(
            { "firstName": this.firstName, "lastName": this.lastName },
            { "count": 1, "duplicate": [this] } // Note [this]
        )
    },
    function(key,values) {
        var reduced = { "count": 0, "duplicate": [] };
        values.forEach(function(value) {
            reduced.count += value.count;
            value.duplicate.forEach(function(duplicate) {
                reduced.duplicate.push(duplicate);
            });
        });

        return reduced;
    },
    { 
       "out": { "inline": 1 },
    }
)

关键点可以在要发出的内容和reduce函数的第一行中看到.基本上这些呈现的是相同的结构.在发射的情况下,生成的数组只有一个单一的元素并不重要,但无论如何你都是这样发送的.并排：

    { "count": 1, "duplicate": [this] } // Note [this]
    // Same as
    var reduced = { "count": 0, "duplicate": [] };

这也意味着reduce函数的其余部分将始终假定“重复”内容实际上是一个数组,因为它是原始输入的方式,也是它的返回方式：

        values.forEach(function(value) {
            reduced.count += value.count;
            value.duplicate.forEach(function(duplicate) {
                reduced.duplicate.push(duplicate);
            });
        });

        return reduced;

替代解决方案

答案的另一个原因是考虑到你期望的输出,这实际上更适合aggregation framework.它会比mapReduce快得多,并且甚至更简单的编码：

db.collection.aggregate([
    { "$group": {
       "_id": { "firstName": "$firstName", "lastName": "$lastName" },
       "duplicate": { "$push": "$$ROOT" },
       "count": { "$sum": 1 }
    }},
    { "$match": { "count": { "$gt": 1 } }}
])

这就是全部.您可以通过在需要的位置添加$out阶段来写出集合.但基本上无论是mapReduce还是聚合,通过将“重复”项添加到数组中,您仍然会对文档大小设置相同的16MB限制.

另请注意,您可以简单地执行mapReduce无法在此处执行的操作,并且只是“省略”任何实际上不是结果中“重复”的项目.如果没有先将输出生成到集合,然后在单独的查询中“过滤”结果,mapReduce方法就无法执行此操作.

该核心文档本身引用：

NOTE
For most aggregation operations, the Aggregation Pipeline provides better performance and more coherent interface. However, map-reduce operations provide some flexibility that is not presently available in the aggregation pipeline.

所以这真的是一个称重的案例,它更适合手头的问题.

内容总结

以上是互联网集市为您收集整理的javascript – MongoDB mapReduce方法出乎意料的结果全部内容，希望文章能够帮你解决javascript – MongoDB mapReduce方法出乎意料的结果所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

扫描二维码推送至手机访问。

本文链接：https://qyyshop.com/info/892316.html

来源：【匿名】