首页手记用Flask在服务器上部署训练好的模型

用Flask在服务器上部署训练好的模型

标签：

Flask

本教程的三个部分是：

1、先训练好一个模型

2、构建Flask微框架所需的组件以创建Web app

3、运行web app

需要安装的组件

如果要从此页面复制和粘贴代码，请确保已安装以下组件：

Python 3.6+
python packages:
Flask
Pandas
Sklearn
Xgboost
Seaborn
Matplotlib

复制代码

1、先训练好一个模型

模型这里我就不阐述了，随便什么模型都可以，不管是用tensorflow还是用pytorch写的，也都行。

2、构建Flask微框架所需的组件以创建Web app

我们需要做一些事情将Web app整合在一起：

a、Python代码包括载入我们训练好的模型，从Web表单获取用户输入，进行预测并返回结果

b、HTML模板允许用户输入自己的数据并显示结果

该web app的初始结构如下：

首先我将创建一个非常基本的app.py和main.html，以演示flask如何工作。我们将在后面扩展程序以适应我们的需求

app.py

这是web app的核心。它将在服务器上运行，发送网页并处理用户的输入

import flask
app = flask.Flask(__name__, template_folder='templates')
@app.route('/')
def main():
    return(flask.render_template('main.html'))
if __name__ == '__main__':
    app.run(host = '0.0.0.0')
复制代码

main.html

这就是前端的界面。它现在所做的只是显示一条简单的消息，我们稍后将对其进行编辑以适合我们的需求

<!doctype html>
<html>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
<head>
<title>Web app name</title>
</head>
<h1>Hello world.</h1>
</html>
复制代码

Running the test app

要在服务器上先启动flask，打开终端，请确保您位于该webapp文件夹中，然后运行以下命令： flask run

然后按CTRL+C退出

再运行app.python文件 python app.python

然后在本地电脑的浏览器中输入（127.0.0.1:5000），由于我们是在服务器上部署的，所以应该把127.0.0.1替换成访问服务器的域名 http://202.116.46.215:5000/ ，假如还是不行，有可能是5000端口没有开

到这里我们的一个基本web app已经完成了，接下来我们将需要再修改程序，使其满足我们的需求。

我用我写的模型进行修改，你们只需要按照你们的模型进行相应的修改就行了我训练好的是一个食物识别的模型，用tensorflow写的，我把训练好的模型保存到model/下

然后加在我的模型，加载模型的相关代码是

model = 'R50+ViT-B_16'
VisionTransformer = models.KNOWN_MODELS[model].partial(num_classes=172)
params = checkpoint.load(f'/model/best_model.npz')
params['pre_logits'] = {}  # Need to restore empty leaf for Flax.
复制代码

如果你用的pytorch写的模型，加载模型的代码可以参考

# Use pickle to load in the pre-trained model.
with open(f'./model/bike_model_xgboost.pkl', 'rb') as f:
    model = pickle.load(f)
复制代码

模型加载好了，我做的是图片识别，我要从前端获取上传的照片，然后做预测再返回

先把照片保存到文件夹下来，我在前端main.html文件中是使用标签<input id="file" name = "file" type= "file"/>来上传照片的

#当前绝对路径
basedir = os.path.abspath(os.path.dirname(__file__))
f = request.files.get('file')
# 获取安全的文件名 正常的文件名
filename = secure_filename(f.filename)


# f.filename.rsplit('.', 1)[1] 获取文件的后缀
# 把文件重命名
filename = datetime.now().strftime("%Y%m%d%H%M%S") + "." + "JPG"
print(filename)
# 保存的目标绝对地址
file_path = basedir + "/images/"
# 保存文件到目标文件夹
f.save(file_path + filename)
复制代码

获取照片，做预测，返回结果

img = PIL.Image.open('./images/' + filename)
img = img.resize((384,384))
logits, = VisionTransformer.call(params, (np.array(img) / 128 - 1)[None, ...])
#后面就是做softmax，得到概率最大值的结果，然后返回预测结果
preds = flax.nn.softmax(logits)
labels = dict(enumerate(open('labels.txt'),start=1))
for idx in preds.argsort()[:-11:-1]:
    print(f'{preds[idx]:.5f} : {labels[idx+1]}', end='')
    predict = labels[idx+1]
    break
predict = predict[1:-1]
print(predict)
return flask.render_template('main.html', result = predict,)
 
复制代码

整个app.py的代码

import flask
import pickle
import pandas as pd
from datetime import datetime
from flask import Flask, request, jsonify
import os
from werkzeug.utils import secure_filename
from vit_jax import models
from vit_jax import checkpoint
import flax
import PIL
import numpy as np

#当前绝对路径
basedir = os.path.abspath(os.path.dirname(__file__))

# Initialise the Flask app
app = flask.Flask(__name__, template_folder='templates')

# Set up the main route
@app.route('/', methods=['GET', 'POST'])
def main():
    if flask.request.method == 'GET':
        # Just render the initial form, to get input
        return(flask.render_template('main.html'))
    
    if flask.request.method == 'POST':
        f = request.files.get('file')
        # 获取安全的文件名 正常的文件名
        filename = secure_filename(f.filename)
        
        # f.filename.rsplit('.', 1)[1] 获取文件的后缀
        # 把文件重命名
        filename = datetime.now().strftime("%Y%m%d%H%M%S") + "." + "JPG"
        print(filename)
        # 保存的目标绝对地址
        file_path = basedir + "/images/"
        # 保存文件到目标文件夹
        f.save(file_path + filename)
        
        #加载模型
        model = 'R50+ViT-B_16'
        VisionTransformer = models.KNOWN_MODELS[model].partial(num_classes=172)
        params = checkpoint.load(f'./model/best_model.npz')
        params['pre_logits'] = {}  # Need to restore empty leaf for Flax.
 
        #读取图片，做预测，返回结果
        img = PIL.Image.open('./images/' + filename)
        img = img.resize((384,384))
        logits, = VisionTransformer.call(params, (np.array(img) / 128 - 1)[None, ...])
        labels = dict(enumerate(open('labels.txt'),start=1))
        preds = flax.nn.softmax(logits)
        for idx in preds.argsort()[:-11:-1]:
            print(f'{preds[idx]:.5f} : {labels[idx+1]}', end='')
            predict = labels[idx+1]
            break
        predict = predict[1:-1]
        return flask.render_template('main.html', result = predict,)
 
if __name__ == '__main__':
    app.run(host = '0.0.0.0')
    
    

复制代码

app.py前后端交互就写好了，现在开始修改前端界面

由于我要的输入是一张图片，所以我要上传图片，如果你要的输入是文本，你就用文本框就行了

<!doctype html>
<html>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
<style>
form {
    margin: auto;
    width: 35%;
}

.result {
    margin: auto;
    width: 35%;
    border: 1px solid #ccc;
}
</style>

<head>
    <title>Food Recognition Model</title>
</head>
<form action="{{ url_for('main') }}" method="POST" enctype = "multipart/form-data">
    <fieldset>
        <legend>Input values:</legend>
        <label for = "file">文件名:</label>
        <input id="file" name = "file" type= "file"/>
        <input type="submit" name="submit" value="提交"/>
    </fieldset>
</form>
<br>
<div class="result" align="center">
    {% if result %}
      <br> The food is:
      <p style="font-size:50px">{{ result }}</p>
    {% endif %}
</div>
</html>
复制代码

到这里，整个web app我们就完成了，现在赶快试一试吧