因为一些内容审查方面的原因,一个运行了很久的论坛被要求限期迁移出现有机房。管制很严,要求在1-2天内完成。论坛的文件(主要是图片及附件)100多G,数据库有80G。我评估了一下,导出数据,部署新环境,导入数据,调试到能正常访问,1-2天可能有点紧张,万一迁移不顺利,还得花费更多的时间。但没办法拒绝,先答应下来再说。
如果不想看文字,猛戳此处看视频,临场感更强。
跟其它技术人员讨论了一下,先临时采取投机取巧方式,应付检查,其措施如下:
1、在其它不受内容审核的地区,部署一个代理,用nginx就行。
2、修改现论坛web的监听端口(由80改成8989),暂时先不改,配好nginx反向代理以后,绑定本地hosts,域名指向新部署服务器的ip地址,访问确认没问题,再修改到8989端口。同时代理nginx转发端口也对应改成8989。
3、修改dns,把域名解析到代理web服务器的ip。
这样处理,避开了审查,为迁移赢得了时间。
安排异地机房的技术给我们部署系统,因为经验以及其它方面的原因,花了将近一天的时间才交付过来(幸亏采取了前边的临时措施)。为了加快进度,我们自己做了分工,一人负责新系统部署php、nginx和mysql运行环境,而我负责导出数据。导出数据分两部分:论坛数据本身压缩打包、数据库数据导出再压缩打包。
开始,我习惯性的用mysqldump --all-databases 全库导出,过程很顺利,导出后打包再复制到别的地方,大概2个小时。新系统那边,环境已经部署好了,我试着进行导入,进行了几十分钟,报错,因为中文字符的问题,尝试了几种方式,还是一样,只得放弃。重新回源服务器,换成innobackup导出。悲催的是,这个服务器的系统太老了,为centos 5.8,安装xtrabackup有依赖问题,需要使用yum来处理一些依赖,但系统自带的yum源没有了,只好重新构造了一个Centos-Base.repo,其内容如下:
[base]
name=CentOS-$releasever - Base
#mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=os
#baseurl=http://mirror.centos.org/centos/$releasever/os/$basearch/
baseurl=http://vault.centos.org/5.11/os/$basearch/
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-5
#released updates
[updates]
name=CentOS-$releasever - Updates
#mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=updates
#baseurl=http://mirror.centos.org/centos/$releasever/updates/$basearch/
baseurl=http://vault.centos.org/5.11/updates/$basearch/
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-5
#additional packages that may be useful
[extras]
name=CentOS-$releasever - Extras
#mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=extras
#baseurl=http://mirror.centos.org/centos/$releasever/extras/$basearch/
baseurl=http://vault.centos.org/5.11/extras/$basearch/
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-5
#additional packages that extend functionality of existing packages
[centosplus]
name=CentOS-$releasever - Plus
#mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=centosplus
#baseurl=http://mirror.centos.org/centos/$releasever/centosplus/$basearch/
baseurl=http://vault.centos.org/5.11/centosplus/$basearch/
gpgcheck=1
enabled=0
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-5
#contrib - packages by Centos Users
[contrib]
name=CentOS-$releasever - Contrib
#mirrorlist=http://mirrorlist.centos.org/?release=$releasever&arch=$basearch&repo=contrib
#baseurl=http://mirror.centos.org/centos/$releasever/contrib/$basearch/
baseurl=http://vault.centos.org/5.11/contrib/$basearch/
gpgcheck=1
enabled=0
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-5
再测试 yum install lrzsz 正常。
从网上下载备份的安装包percona-xtrabackup-2.3.10.tar.gz,用yum 安装libaio-devel、gcc,vim-comm等几个依赖包。另外,在编译该软件是,会提示cmake的版本过低,需要替换一下。
下载cmake-3.9.6.tar.gz,tar开以后,执行 ./configure --prefix=/usr/local/cmake ;make ;make install 把新版本限定到目录/usr/local/cmake,这样就不用处理旧版本,也不会与其产生冲突。编译安装时,带上cmake的全路径:
/usr/local/cmake/bin/cmake -DBUILD_CONFIG=xtrabackup_release && make -j4
如果出现“CMake Error at cmake/libev.cmake:23 (MESSAGE)”报错信息,手动安装包libev-3.7.tar.gz(yum不到的),步骤为:
tar zxvf libev-3.7.tar.gz
cd libev-3.7
./configure
make;make install
这个不需要指定安装路径,方便cmake执行的时候找得到。
费了好大一通时间,才把这个备份软件安装好,虽然描述得有些啰嗦,但可能对其它人排错会有帮助。
现在,开始切入正题.
执行备份
1、确保源数据库处于启动状态
2、执行指令
innobackupex --user=root --password=MaGiCdB1 --defaults-file=/etc/my.cnf /data1/dumpdir
备份目录是任意足够大的分区
3、检查备份目录,是否产生数据
4、执行 innobackupex --apply-log /data1/dumpdir/2018-03-30_11-10-53
压缩和传输文件(论坛数据文件与此步骤相同,不再说明)
tar czvf 2018-03-30_11-10-53.tgz 2018-03-30_11-10-53
rsync -avz -e "ssh -p 2222 " 2018-03-30_11-10-53.tgz 120.189.55.109:/data1/
特别值得注意的是,由于数据量比较大,避免shell中断导致任务终止,尽量在screen下进行操作,就算shell退出,也不会受到影响。
到此为止,源服务器的操作暂告一段落。
数据量相对来说比较大,因此传输过程花了好长一段时间。在这同时,在目的服务器,把安装好的环境配置成与源站基本一致(操作系统版本、php、ngnix、mysql做了升级):相同的目录结构、相同的内网ip、相同的用户帐号。这样就可以直接把源站nginx配置、mysql配置、php原样同步过来。目前因为没有数据库数据导入及论坛文件,我先试着在nginx配置的站点根文档写一个php测试脚本test.php,内容为:<? phpinfo(); ?>.把nginx及php服务都启动起来,浏览器访问该url,检查一下php都有哪些模块被加载,与源站是不是差不多的情形。测试完记得删掉它,这个是安全隐患哟!
nginx的主配置文件nginx.conf如下(节录):
user www www;
worker_processes 8;
#dso {
# load ngx_http_cache_purge_module.so;
#}
worker_rlimit_nofile 51200;
events {
use epoll;
#use kqueue; #FreeBSD system
worker_connections 51200;
}
http {
include mime.types;
....................此处省略.............................
map $request_method $limit {
default "";
POST $binary_remote_addr;
}
limit_conn_zone $binary_remote_addr zone=one_limit:10m;
limit_req_zone $limit zone=zone_limit_post:10m rate=10r/m;
log_format post '$remote_addr - $remote_user [$time_local] '
'"$request" $status $body_bytes_sent '
'"$http_referer" "$http_user_agent" '
'$host $request_time $proxy_add_x_forwarded_for
$request_body';
access_log /data/logs/http.a.log;
error_log /data/logs/http.e.log;
#include vhosts/test.conf;
include vhosts/default.conf;
include vhosts/bbs.formyz.net.conf;
include vhosts/file.formyz.net.conf;
}
某个站点的配置文件 bbs.formyz.net.conf
server {
listen 80;
server_name bbs.formyz.net;
error_page 404 http://bbs.formyz.net;
access_log /data/logs/bbs.formyz.net-access;
error_log /data/logs/bbs.formyz.net-error;
limit_conn one_limit 5;
root /data/html/bbs.formyz.net;
index index.html index.htm forum.php index.php;
if ($host != 'bbs.formyz.net' ) {
rewrite ^/(.*)$ http://bbs.formyz.net/$1 permanent;
}
if (-d $request_filename) {
rewrite ^/(.*)([^/])$ http://$host:$server_port/$1$2/ permanent;
}
location ^~ /config {
deny all;
}
location ^~ /.git
{
deny all;
}
location ~ /(data|static|template|images|uc_server/data)/.*\.(php|php5|html)?$ {
deny all;
location ~ .*\.(php|php5)$ {
limit_req zone=zone_limit_post burst=5;
if ($request_method = "POST") {
access_log /data/logs/bbs.formyz.net-post post;
}
root /data/html/bbs.formyz.net;
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
include fastcgi_params;
}
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$ {
expires 30d;
}
location ~ .*\.(js|css)?$ {
expires 1h;
}
location / {
limit_conn one_limit 5;
rewrite ^(.*)/topic-(.+)\.html$ $1/portal.php?mod=topic&topic=$2 last;
rewrite ^(.*)/article-([0-9]+)\.html$ $1/portal.php?mod=article&articleid=$2 last;
rewrite ^(.*)/forum-(\w+)-([0-9]+)\.html$ $1/forum.php?mod=forum display&fid=$2&page=$3 last;
rewrite ^(.*)/thread-([0-9]+)-([0-9]+)-([0-9]+)\.html$ $1/forum.php?mod=viewthread&tid=$2&extra=page%3D$4&page=$3 last;
rewrite ^(.*)/group-([0-9]+)-([0-9]+)\.html$ $1/forum.php?mod=group&fid=$2&page=$3 last;
rewrite ^(.*)/space-(username|uid)-(.+)\.html$ $1/home.php?mod=space&$2=$3 last;
rewrite ^(.*)/([a-z]+)-(.+)\.html$ $1/$2.php?rewrite=$3 last;
break;
}
}
这里是每一个站点,用一行include 显示的包含。偏偏有不少人,至少我碰到不少,喜欢用 include *.conf把所有的站点都包含进去,我不太赞同这种做法,配置的时候你是方便了,可是到了要维护的时候,就不是那么方便了。为什么这样说?假设现在做维护,我打开nginx.conf大概就可以看到有哪些站点(当然文件命名也要规划好,能望文生义);特别是在一个nginx下站点多的场景,对某个站点进行临时维护,只要在主配置文件nginx.conf注释掉与它关联的include行,重载nginx即可。
接下来给出php-fpm.conf文件的部分内容:
[global]
error_log = log/php-fpm.log
process.max = 5000
rlimit_files = 10240
[www]
user = www
group = www
listen = 127.0.0.1:9000
pm = dynamic
pm.max_children = 5000
pm.start_servers = 50
pm.min_spare_servers = 20
pm.max_spare_servers = 80
pm.max_requests = 5000
access.log = log/php.access.log
slowlog = log/php.log.slow
request_slowlog_timeout = 3
与nginx相对应,php也以普通用户www来运行,同时所有站点目录,都授权属主、属组为www,保证正确与合理的权限。一些经验不足的人,不注意程序权限与目录权限的对应关系,运行服务,只要提示权限不够,就立马执行 chmod -R 777 dir ,你这是在方便别人进入系统呢!另外,php开启了慢查询日志,在运行中排错或者排查性能问题会很有帮助,不过我自己不懂php,一般都是让开发人员自己看这个日志了,他懂的。
把论坛源站复制来的数据文件,tar解包后,放置在nginx指定的目录,然后用chown -R www:www /data/html 及chmod -R 755 赋权,这个过程比较容易完成,不再赘述。
前边用mysqldump出来的文件,导入失败,这次换成innobackup,根据以往的经验,不应该有问题。注意,用此工具导入时,mysql不要初始化,也不要启动(这个是废话了,没初始化当然不能启动)。为方便大家了解全过程,顺便把mysql的选项文件my.cnf(不叫配置文件哟)贴出来,供大家参考:
[client]
port=3306
socket=/tmp/mysql.sock
[mysqld]
character-set-server=utf8
collation-server=utf8_general_ci
skip-external-locking
skip-name-resolve
user=mysql
port=3306
datadir=/data/mysql_db
open_files_limit=10240
back_log=600
max_connections=500
max_connect_errors=6000
wait_timeout=605800
#open_tables=600
#table_cache = 650
#opened_tables = 630
max_allowed_packet=32M
sort_buffer_size=4M
join_buffer_size=4M
thread_cache_size=300
query_cache_type=1
query_cache_size=256M
query_cache_limit=2M
query_cache_min_res_unit=16k
tmp_table_size=256M
max_heap_table_size=256M
key_buffer_size=256M
read_buffer_size=1M
read_rnd_buffer_size=16M
bulk_insert_buffer_size=64M
lower_case_table_names=1
default-storage-engine=INNODB
innodb_buffer_pool_size=2G
innodb_log_buffer_size=32M
innodb_log_file_size=128M
innodb_flush_method=O_DIRECT
thread_concurrency=32
long_query_time=2
slow-query-log=on
slow-query-log-file=/data/mysql_db/mysql-slow.log
[mysqldump]
quick
max_allowed_packet=32M
按my.cnf指定的"datadir=/data/mysql_db",创建好目录/data/mysql_db,并执行chown -R mysql:mysql /data/mysql 授权。这时,/data/mysql_db目录是空的。如果担心出错,坐好姿势,深呼吸,庄重地敲入screen,然后再执行如下命令行(2018-03-30_11-10-53为源数据库文件解包后的目录):
innobackupex --defaults-file=/etc/my.cnf --copy-back /data/2018-03-30_11-10-53
这个过程同样比较耗时,没事的话,可以另外再开一个终端,进入目录/data/mysql_db,可以看到不断有目录和文件自动生成。执行完毕且没有报错,基本上就大功告成了。由于安全的原因,mysql对连接帐户有访问限制,迁移到新系统以后,也一样要遵循这个规则。前边已经启动了nginx 和php服务,这里把mysql服务也启动起来。在个人的电脑,绑定windows的hosts文件,把域名与服务器的ip地址临时关联起来,再在浏览器输入域名,提示网页无法访问。已经检查php等配置正确,那么问题就在连接数据库这个上边了。进入论坛根文档(nginx.conf里边root指定的那个),查看连数据库相关的脚本,有好几个呢,其中一个 config_global.php 部分内容为:
.............部分省略....................
$_config = array();
// ---------------------------- CONFIG DB ----------------------------
- //
$_config['db']['1']['dbhost'] = '172.16.28.94';
$_config['db']['1']['dbuser'] = 'bbs_formyz_net';
$_config['db']['1']['dbpw'] = '5O333EvbY';
$_config['db']['1']['dbcharset'] = 'gbk';
$_config['db']['1']['pconnect'] = '0';
$_config['db']['1']['dbname'] = 'bbs_formyz_net';
$_config['db']['1']['tablepre'] = 'pre_';
$_config['db']['common']['slave_except_table'] = '';
$_config['db']['slave'] = '';
..................................余下省略........................
要解决问题,有两个办法:
(1)跟程序员协作,重新对每一个帐号授权(grant all ...);
(2)在系统上再配置一个 172.16.28.94的ip地址。
搞几天时间了,大家都很累,因此为了省事,我自己做主,在系统的另一个空闲网卡配置了上述私有ip地址。陪完重启网络服务,论坛可以打开,可以登录了。
经过多人多测测试,确认没问题以后,正式做域名解析到新的服务器ip。
还有些工作需要继续完善,包括同步这几天的新数据、开启新的数据备份等。论坛数据用rysnc -e 'ssh -p 20002' -avz src dist同步;数据库稍微麻烦一点,需要临时把论坛停一会,启用主从同步功能。由于源站用innobackup导出数据时,已经记录了主从同步需要的信息(xtrabackup_info),因此同步过程就不需要再执行费时的导出操作,只需按偏移量执行同步就行。
more xtrabackup_info
uuid = 188600e0-33cc-11e8-986b-90b11c180978
name =
tool_name = innobackupex
tool_command = --defaults-file=/etc/my.cnf --user=root --password=... /data/databk/db_back
tool_version = 2.3.10
ibbackup_version = 2.3.10
server_version = 5.5.29-log
start_time = 2018-03-30 11:10:53
end_time = 2018-03-30 11:40:31
lock_time = 0
binlog_pos = filename 'mysql-bin.001258', position '571444300'
innodb_from_lsn = 0
innodb_to_lsn = 79320170996
partial = N
incremental = N
format = file
compact = N
compressed = N
encrypted = N
数据库主从同步完成以后,把slave提升为主。似乎写得太长了,数据库备份部分,就不再写了。
如果不想看文字,猛戳此处看视频,临场感更强。
©著作权归作者所有:来自51CTO博客作者sery的原创作品,如需转载,请注明出处,否则将追究法律责任
你的鼓励让我更有动力
共同学习,写下你的评论
评论加载中...
作者其他优质文章