现在有一个需求就是每次请求都会发生一次数据库写入操作,也可以理解成类似访问统计的功能(但是实际不是,所以无法直接通过对访问日志做分析)类似于这样,任何用户只要访问这个页面就会产生一次数据写入。一天100万次PV就会产生100万次零碎的写操作。当访问量很大的时候,我有点担心sqlite的写入性能。请问有什么办法优化?把数据库放在内存里,然后定时一次性更新到sqlite里?
2 回答
三国纷争
TA贡献1804条经验 获得超7个赞
不限于flask, 很多应用都需要这样的优化
1. 使用log而不是数据库, 比如使用nginx的empty_gif, 然后记录大量log, 用脚本批量导入数据库或者运算好结果, 再存储到数据库
如果你的数据量足够大, 那么你应该不止一台web server, 你需要批处理好几台机器上的log.
这些原始数据你可以保存在s3上, 以后作为数据仓库使用.
2. 使用内存, queue server或者redis那样的内存方案
也同样是批处理数据, 写脚本. 不过这个受到内存大小限制, 比较贵, 需要经常跑脚本.
- 2 回答
- 0 关注
- 159 浏览
添加回答
举报
0/150
提交
取消