MongoDB подходит для хранения больших объемов метрик / аналитических данных

мы планируем использовать MongoDB для хранения больших объемов данных, таких как количество просмотров и кликов. Я не уверен, как лучше структурировать документы в MongoDB, чтобы помочь запрашивать и уменьшать размер базы данных.

нам нужно записать действия с именем страницы, клиентом и типом действия. В идеале нам нужна статистика, которая идет вниз по уровню года/месяца/дня/часа, нам не нужны или не важны просмотры в секунду или минуту. При этом структура документа выглядит нормально, я знаю 100 vistors будет генерировать 100 новых документов.

{ 
  "_id" : ObjectId( "4dabdef81a34961506040000" ),
  "pagename" : "Hello",
  "action" : "view",
  "client" : "client-name",
  "time" : Date( "Mon Apr 18 07:49:28 2011" )
}

есть ли лучший способ сделать это, используя $inc или

15
analytics database-design mongodb statistics

2 ответов

обновил ответ

взломан вместе в оболочке mongo:

use pagestats;

// a little helper function
var pagePerHour = function(pagename) {
    d = new Date();
    return {
        page : pagename,
        year: d.getUTCFullYear(),
        month: d.getUTCMonth(),
        day : d.getUTCDate(),
        hour: d.getUTCHours(),
    }
}

// a pageview happened
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { views : 1 }},
    true ); //we want to upsert

// somebody tweeted our page twice!
db.pagestats.update(
    pagePerHour('Hello'),
    { $inc : { tweets : 2 }},
    true ); //we want to upsert

db.pagestats.find();
// { "_id" : ObjectId("4dafe88a02662f38b4a20193"),
//   "year" : 2011, "day" : 21, "hour" : 8, "month" : 3,
//   "page" : "Hello",
//   "tweets" : 2, "views" : 1 }

// 24 hour summary 'Hello' on 2011-4-21
for(i = 0; i < 24; i++) {
    //careful: days (1-31), month (0-11) and hours (0-23)
    stats = db.pagestats.findOne({ page: 'Hello', year: 2011, month: 3, day : 21, hour : i})
    if(stats) {
        print(i + ': ' + stats.views + ' views')
    } else {
        print(i + ': no hits')
    };
}

в зависимости от того, какие аспекты вы хотите отслеживать, вы можете добавить больше коллекций (например, коллекцию для отслеживания пользователей). Надеюсь, это поможет.

см. также

Blogpost о данных аналитики

15

Я бы не слишком беспокоился о пространстве, Монго может масштабироваться почти бесконечно в этом отношении, добавление большего пространства было бы разумно дешево.

следует помнить о том, что если вы продолжаете обновлять документ, его размер будет расти, а это означает, что Монго в конечном итоге нужно будет найти новое место для него в индексе. Если у вас есть много документов обновляется и увеличивается в размере Монго нужно будет скопировать эти документы вокруг много, это может замедлить вещи значительно. Конечно, все зависит от того, сколько трафика вы ожидаете.

основываясь на моем опыте, перейдите к простому формату документа, где вам не нужно обновлять документы, это может усложнить ваш запрос позже, но вы можете использовать map/reduce, чтобы получить любую информацию, которую вы хотите, независимо от вашей структуры документа (map reduce очень гибкий, учитывая достаточный опыт, который вы можете сделать что угодно).

1