为了账号安全,请及时绑定邮箱和手机立即绑定

如何处理底端上送的重复数据呢?

如何处理底端上送的重复数据呢?

梦里花落0921 2019-02-20 08:23:10
底端会不断上送数据(有时上送重复数据),现需实现清除重复数据并记录日志功能,最先想到的方法是:不对上送数据作出判断,直接向数据库中insert,若出现Duplicate Key Violation表明数据重复会抛出异常,然后在catch中通过e.getStackTrace()判断该异常是否由主键重复引起,然后写日志。 但总觉得这种方式不太对劲,毕竟程序已经抛出异常了...各位前辈是如何解决类似问题的呢?
查看完整描述

3 回答

?
慕的地6264312

TA贡献1817条经验 获得超6个赞

上送重复数据是在一段时间内发生的话,比如一个小时以内,两个小时以内,我一般会用 redis 来配合处理,

将当期的数据 md5 一次,存入 redis 同时设置失效时间,

后面上来的数据都md5一下,去 redis 里面查询,用这种方式来去重

查看完整回答
反对 回复 2019-03-01
  • 3 回答
  • 0 关注
  • 486 浏览

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信