为了账号安全,请及时绑定邮箱和手机立即绑定

php大数据更新,增量处理

php大数据更新,增量处理

临摹微笑 2019-05-21 09:27:55
1.背景:公司是做域名的,目前要对接Godaddy的一口价域名,对方一口价域名数据量较大,只给一个全部数据的接口,且产品要求定时更新域名数据(新增新寄售的域名,去除状态异常的域名)2.问题:导入完整数据后,要如何更新数据,目前采用的方法是:清空表中Godaddy的所有数据,然后重新调接口导入所有数据,有没有什么好办法,可以实现数据的增量更新处理(数据量差不多有600W左右)有没有哪位大神指点一下,多谢!!!
查看完整描述

2 回答

?
智慧大石

TA贡献1946条经验 获得超3个赞

“清空数据表再重新导入全部数据”这种方法对数据库的压力太大了。你在调接口获取到新的全量数据后,做一次遍历,逐条逐条的跟已有的数据做对比,如果不一样,就说明这条数据已经发生了变更,这时候update一下数据库对应的记录即可。
其实这种情况最好的解决方法是,让Godaddy那边提供一个增量接口。
                            
查看完整回答
反对 回复 2019-05-21
?
慕运维8079593

TA贡献1876条经验 获得超5个赞

你是怎么对接口导入的phpcli,还是用了第三方swoole什么扩展导入的?
数据库瓶颈在哪里你就是开100个进程也没有,数据库插不进去,需要的时间也差不多。
可不可以每50万条数据分一张表导入?
                            
查看完整回答
反对 回复 2019-05-21
  • 2 回答
  • 0 关注
  • 322 浏览
慕课专栏
更多

添加回答

举报

0/150
提交
取消
意见反馈 帮助中心 APP下载
官方微信