如何收听对MongoDB集合的更改?


200

我正在创建一种以MongoDB作为数据存储的后台作业队列系统。在催生工作者来处理作业之前,如何“监听” MongoDB集合的插入内容?我是否需要每隔几秒钟轮询一次,以查看自上次以来是否有任何更改,或者我的脚本有什么方法可以等待插入发生?这是我正在从事的一个PHP项目,但可以使用Ruby或与语言无关的方式随意回答。


1
MongoDB 3.6中添加了变更流来解决您的情况。 docs.mongodb.com/manual/changeStreams 同样,如果您使用的是MongoDB Atlas,则可以利用Stitch触发器,该触发器允许您执行功能以响应插入/更新/删除/等。 docs.mongodb.com/stitch/triggers/overview不再需要解析操作日志
罗伯特·沃尔特斯

Answers:


111

您在想什么听起来很像触发器。MongoDB没有对触发器的任何支持,但是有些人使用一些技巧“自行滚动”。这里的关键是操作日志。

在副本集中运行MongoDB时,所有MongoDB操作都会记录到操作日志(称为oplog)中。操作日志基本上只是对数据所做修改的运行清单。副本集功能通过侦听此操作日志上的更改,然后在本地应用更改来实现。

这听起来很熟悉吗?

我无法在此处详细说明整个过程,它是几页的文档,但是您可以使用所需的工具。

首先是关于oplog的一些文章- 简要说明 - 集合的布局local(包含oplog)

您还将需要利用可尾游标。这些将为您提供一种侦听更改而不是轮询更改的方法。请注意,复制使用可尾游标,因此这是受支持的功能。


1
嗯...不完全是我的想法。我现在只运行一个实例(没有奴隶)。那么也许是更基本的解决方案?
安德鲁(Andrew)

17
您可以使用该--replSet选项启动服务器,它将创建/填充该服务器oplog。即使没有中学。这绝对是“监听”数据库中更改的唯一方法。
盖茨副总裁

2
这是一个很好的说明了如何设置OPLOG为本地登录更改DB:loosexaml.wordpress.com/2012/09/03/...
johndodo

酷!那才是我真正想要的。我在npm上找到了一个名为“ mongo-oplog”的库。好开心〜
pjincz

我同意在撰写此答案之时可能无法使用触发器,但对于所有落入此处的人来说,现在有一个可用选项,请查看MongoDB Stitch(docs.mongodb.com/stitch/#stitch)和Stitch触发器(docs。 mongodb.com/stitch/triggers)..
whoami

102

MongoDB具有所谓的功能capped collectionstailable cursors它允许MongoDB将数据推送到侦听器。

A capped collection本质上是一个固定大小的集合,仅允许插入。这是创建一个的样子:

db.createCollection("messages", { capped: true, size: 100000000 })

MongoDB Tailable游标(Jonathan H. Wage的原始帖子

红宝石

coll = db.collection('my_collection')
cursor = Mongo::Cursor.new(coll, :tailable => true)
loop do
  if doc = cursor.next_document
    puts doc
  else
    sleep 1
  end
end

的PHP

$mongo = new Mongo();
$db = $mongo->selectDB('my_db')
$coll = $db->selectCollection('my_collection');
$cursor = $coll->find()->tailable(true);
while (true) {
    if ($cursor->hasNext()) {
        $doc = $cursor->getNext();
        print_r($doc);
    } else {
        sleep(1);
    }
}

Python罗伯特·斯图尔特Robert Stewart))

from pymongo import Connection
import time

db = Connection().my_db
coll = db.my_collection
cursor = coll.find(tailable=True)
while cursor.alive:
    try:
        doc = cursor.next()
        print doc
    except StopIteration:
        time.sleep(1)

Perl(按Max排序

use 5.010;

use strict;
use warnings;
use MongoDB;

my $db = MongoDB::Connection->new;
my $coll = $db->my_db->my_collection;
my $cursor = $coll->find->tailable(1);
for (;;)
{
    if (defined(my $doc = $cursor->next))
    {
        say $doc;
    }
    else
    {
        sleep 1;
    }
}

其他资源:

Ruby / Node.js教程,它将引导您创建一个监听MongoDB上限集合中插入内容的应用程序。

一篇文章详细讨论了可尾游标。

使用可尾光标的PHP,Ruby,Python和Perl示例。


70
睡一觉?真?生产代码?怎么不轮询?
rbp 2013年

2
@rbp哈哈,我从未说过这是生产代码,但是您是对的,睡一秒钟不是一个好习惯。可以肯定的是,我从其他地方得到了这个例子。虽然不确定如何重构。
安德鲁

14
@kroe,因为那些不相关的细节将由可能不理解为什么不好的新程序员投入生产代码中。
fish鱼

3
我理解您的意思,但是期望某些新程序员在生产中添加“ sleep 1”几乎是令人反感的!我的意思是,我不会感到惊讶...但是,如果有人将其投入生产,至少会永远学习到艰辛的方式。.哈哈哈
kroe 2015年

19
在生产中执行time.sleep(1)有什么问题?
Al Johri '16

44

从MongoDB 3.6开始,将有一个名为Change Streams的新通知API,可用于此目的。有关示例,请参见此博客文章。例子:

cursor = client.my_db.my_collection.changes([
    {'$match': {
        'operationType': {'$in': ['insert', 'replace']}
    }},
    {'$match': {
        'newDocument.n': {'$gte': 1}
    }}
])

# Loops forever.
for change in cursor:
    print(change['newDocument'])

4
为什么?你能详细说明吗?这是现在的标准方法吗?
Mitar

1
怎么样?不使用轮询-你需要一个事件触发的方式,而不是while循环,等等
亚历山大米尔斯

3
您在哪里看到轮询?
Mitar

我认为他/她指的是最后一个循环。但是我认为PyMongo仅支持这一点。Motor可能具有异步/事件侦听器样式的实现。
Shane Hsu

41

检查一下:更改流

2018年1月10日- 版本3.6

*编辑:我写了一篇有关如何执行此操作的文章https://medium.com/riow/mongodb-data-collection-change-85b63d96ff76

https://docs.mongodb.com/v3.6/changeStreams/


它是mongodb 3.6中 的新功能https://docs.mongodb.com/manual/release-notes/3.6/ 2018/01/10

$ mongod --version
db version v3.6.2

为了使用changeStreams,数据库必须是复制集

有关复制集的更多信息:https : //docs.mongodb.com/manual/replication/

默认情况下,您的数据库将为“ 独立 ”。

如何将独立版本转换为副本集:https : //docs.mongodb.com/manual/tutorial/convert-standalone-to-replica-set/


以下示例是有关如何使用它的实际应用程序。
* 专门针对Node。

/* file.js */
'use strict'


module.exports = function (
    app,
    io,
    User // Collection Name
) {
    // SET WATCH ON COLLECTION 
    const changeStream = User.watch();  

    // Socket Connection  
    io.on('connection', function (socket) {
        console.log('Connection!');

        // USERS - Change
        changeStream.on('change', function(change) {
            console.log('COLLECTION CHANGED');

            User.find({}, (err, data) => {
                if (err) throw err;

                if (data) {
                    // RESEND ALL USERS
                    socket.emit('users', data);
                }
            });
        });
    });
};
/* END - file.js */

有用的链接:
https : //docs.mongodb.com/manual/tutorial/convert-standalone-to-replica-set
https://docs.mongodb.com/manual/tutorial/change-streams-example

https://docs.mongodb.com/v3.6/tutorial/change-streams-example
http://plusnconsulting.com/post/MongoDB-Change-Streams


对所有编辑表示抱歉,因此不喜欢我的“链接”(说它们的格式不正确。)
Rio Weber

1
您不必查询数据库,我认为可以使用watch()或类似方法将新数据发送到正在监听的服务器
Alexander Mills

22

MongoDB 3.6版现在包括变更流,该变更流本质上是OpLog之上的API,允许类似触发/通知的用例。

这是指向Java示例的链接:http : //mongodb.github.io/mongo-java-driver/3.6/driver/tutorials/change-streams/

NodeJS示例可能类似于:

 var MongoClient = require('mongodb').MongoClient;
    MongoClient.connect("mongodb://localhost:22000/MyStore?readConcern=majority")
     .then(function(client){
       let db = client.db('MyStore')

       let change_streams = db.collection('products').watch()
          change_streams.on('change', function(change){
            console.log(JSON.stringify(change));
          });
      });

JSON.stringify是非常重要的获得Android Studio中(Android应用程序)..这个数据
DragonFire

3

另外,您可以使用标准的Mongo FindAndUpdate方法,并在回调中运行回调时触发EventEmitter事件(在Node中)。

侦听此事件的应用程序或体系结构的任何其他部分都将收到更新通知,并向其中发送任何相关数据。这是从Mongo获得通知的一种非常简单的方法。


这是非常低效的..您要为每个FindAndUpdate锁定数据库!
Yash Gupta

1
我的猜测是,亚历克斯回答的方式略有不同(不是专门针对插入内容),但存在相关问题,例如当排队作业的状态发生变化时如何向客户发出某种通知,我们认为这需要在产生作业时发生,成功或失败。通过使用websocket连接到节点的客户端,可以通过FIndAndUpdate回调上的广播事件将所有更改通知给客户端,当接收状态更改消息时可以调用该事件。我会说这并不是低效率的,因为需要完成更新。
彼得·斯科特

3

这些答案中的许多只会给您新的记录,而不会给您更新和/或效率极低

唯一可靠,高效的方法是在本地db:oplog.rs集合上创建一个可尾的游标,以获取对MongoDB的所有更改并按照您的意愿进行操作。(MongoDB甚至在内部或多或少都这样做以支持复制!)

关于操作日志包含的内容的说明:https ://www.compose.com/articles/the-mongodb-oplog-and-node-js/

一个Node.js库的示例,该库提供了关于可以通过oplog完成的操作的API:https : //github.com/cayasso/mongo-oplog



1

有一个有效的Java示例,可以在这里找到。

 MongoClient mongoClient = new MongoClient();
    DBCollection coll = mongoClient.getDatabase("local").getCollection("oplog.rs");

    DBCursor cur = coll.find().sort(BasicDBObjectBuilder.start("$natural", 1).get())
            .addOption(Bytes.QUERYOPTION_TAILABLE | Bytes.QUERYOPTION_AWAITDATA);

    System.out.println("== open cursor ==");

    Runnable task = () -> {
        System.out.println("\tWaiting for events");
        while (cur.hasNext()) {
            DBObject obj = cur.next();
            System.out.println( obj );

        }
    };
    new Thread(task).start();

关键是此处给出的QUERY OPTIONS

如果您不需要每次都加载所有数据,也可以更改查找查询。

BasicDBObject query= new BasicDBObject();
query.put("ts", new BasicDBObject("$gt", new BsonTimestamp(1471952088, 1))); //timestamp is within some range
query.put("op", "i"); //Only insert operation

DBCursor cur = coll.find(query).sort(BasicDBObjectBuilder.start("$natural", 1).get())
.addOption(Bytes.QUERYOPTION_TAILABLE | Bytes.QUERYOPTION_AWAITDATA);

1

实际上,与其看输出,不如为什么不知道使用猫鼬模式提供的中间件插入新内容时的注意事项

您可以捕获插入新文档的事件,并在完成插入后执行一些操作


我的错。对不起先生
阮阮

0

在3.6之后,允许使用以下数据库触发器类型:

  • 事件驱动的触发器-可用于自动更新相关文档,通知下游服务,传播数据以支持混合工作负载,数据完整性和审核
  • 计划的触发器-对于计划的数据检索,传播,归档和分析工作负载有用

登录到您的Atlas帐户并选择Triggers界面并添加新触发器:

在此处输入图片说明

展开每个部分以获取更多设置或详细信息。

By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.