搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
NoSQL型数据库
›
mongodb分库遇到的问题
0
6
0
分享
mongodb分库遇到的问题
fengyun4hao
发表于 2013-10-17 21:36:46
[显示全部楼层]
阅读模式
关闭右栏
6
4433
背景:用mongodb做日志离线分析(每小时一次),首先是对日志进行过滤,生成中间结果,然后对中间结果进行计算,生成最终数据(各种pv,uv)。只对mongodb做了一个主从
目前的情况:
1.每小时的日志量非常大,基本上要花40~50分钟,才能把数据清洗完。
现在的问题:
1.对mongodb按业务进行了手动分库
业务一 业务二
mongodb1 mongodb2
虽然能解决mongodb写的问题,但是怎么解决数据交叉访问的问题?
ps:不从sharding放面考虑
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(6)人评论
电梯直达
正序浏览
rucypli
发表于 2013-10-17 21:37:32
交叉访问只能写接口了 或者不分库 直接升级硬件
回复
使用道具
举报
显身卡
fengyun4hao
发表于 2013-10-17 21:38:10
在程序中交叉访问是可以的,可以用主从吗?
回复
使用道具
举报
显身卡
rucypli
发表于 2013-10-17 21:38:58
引用 2 楼 fengyun4hao 的回复:
在程序中交叉访问是可以的,可以用主从吗?
当然可以用主从 在主从上同时做清洗
回复
使用道具
举报
显身卡
yumen3501
发表于 2013-10-17 21:39:28
这个不影响吧 。设置个主从就OK 咯。
回复
使用道具
举报
显身卡
wangyineng
发表于 2013-10-17 21:40:25
写公共的程序接口,然后调用!
回复
使用道具
举报
显身卡
ybgba
发表于 2013-10-17 21:41:06
创建一个数据仓库
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
fengyun4hao
新手上路
关注
主题
帖子
粉丝
TA的主题
mongodb分库遇到的问题
2013-10-17
24小时热文
Docker基础与实战
docker容器实战:原理、架构与应用
Docker+容器与容器云(第2版)
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈