为了账号安全,请及时绑定邮箱和手机立即绑定

WEB开发中。下载服务器上面的报表。怎么防止数据量过大导致超时的场景

WEB开发中。下载服务器上面的报表。怎么防止数据量过大导致超时的场景

慕勒3428872 2019-04-19 15:59:16
问题需要服务端生成报表,由于数据量过大。往往会导致下载过程中504错误。下载流程已经最优化了。目前解决方案前台点击下载报表,发起一个异步请求。后台处理完数据以后。把数据通过邮箱的方式发给下载者。有没有其它更加好的办法,可以解决这个问题?谢谢。
查看完整描述

2 回答

?
哔哔one

TA贡献1854条经验 获得超8个赞

谢谢各位的回答。
这边我自己总结了一下,根据我自己的实际情况主要
前台异步提交一个请求,后台进行异步组合报表。然后通过1.邮件的方式通知用户2.通过定时器将消息PUSH给用户,让用户去相应的地址上下载
查询时间精确到秒。在用户请求之前,先告诉用户在这个时间段订单个数。我们可以设定一个合理的值来提示用户(改动最小)
采取任务的形式,前台提交一个任务给后台,后台创建一个任务,并且存入数据库。前台可以每隔30s向后台请求,获取任务的状态,以防止超时。相应的前台有一个loading框(这里也可以改成将文件的生成过程放在服务端,然后这里给用户返回的是一个连接,用户可以直接点连接来下载文件)(这个类似使用AJAX的长连接模式)
把分析过程放在服务端。服务端起一个定时任务,隔段时间去分析这些数据。直接生产文件放在服务端。可以提供给用户一个下载列表直接提供给用户下载
5.优化流程,采取dubbo批量数据请求。采取dubbo异步请求。多线程处理数据。多个dubbo服务合并(性能优化)
                            
查看完整回答
反对 回复 2019-04-19
?
慕村9548890

TA贡献1884条经验 获得超4个赞

最直接的办法便是,压缩数据(例如导出时进行压缩),调整CGI超时时间。这其中,可以考虑节省CGI进程(因为即使输出成果已经完成,按照题主的说明,fast_cgi的responsebuffer肯定是远远小于这次输出的大小),在最后输出的过程上用其他服务(例如直接用nginx)代劳。
其实,例如在问题中的这种从产品设计的角度解决问题在我看来最优解,实时下载真的是那么必要吗?
                            
查看完整回答
反对 回复 2019-04-19
  • 2 回答
  • 0 关注
  • 289 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信