首页手记为你的机器学习模型创建一个API服务

为你的机器学习模型创建一个API服务

标签：

机器学习

1. 什么是API

当调包侠们训练好一个模型后，下一步要做的就是与业务开发组同学们进行代码对接，以便这些‘AI大脑’们可以顺利的被使用。然而往往要面临不同编程语言的挑战，例如很常见的是调包侠们用Python训练模型，开发同学用Java写业务代码，这时候，Api就作为一种解决方案被使用。

简单地说，API可以看作是顾客与商家之间的联系方式。如果顾客以预先定义的格式提供输入信息，则商家将获得顾客的输入信息并向其提供结果。

从本质上讲，API非常类似于web应用程序，但它没有提供一个样式良好的HTML页面，而是倾向于以标准数据交换格式返回数据，比如JSON、XML等。

接下来让我们看看如何将机器学习模型(在Python中开发的)封装为一个API。

首先需要明白什么是Web服务?Web服务是API的一种形式，只是它假定API驻留在服务器上，并且可以使用。Web API、Web服务——这些术语通常可以互换使用。

Flask——Python中的Web服务框架。它不是Python中唯一的一个Web框架，其它的例如Django、Falcon、Hug等。Flask框架带有一个内置的轻量级Web服务器，它需要最少的配置，因此在本文中将使用Flask框架来开发我们的模型API。

2. 创建一个简单模型

以一个kaggle经典的比赛项目：泰坦尼克号生还者预测为例，训练一个简单的模型。

以下是整个机器学习模型的API代码目录树：

首先，我们需要导入训练集并选择特征。因为本文主要是介绍机器学习模型API的编写，所以模型训练过程并不做为重点内容，因此我们只选择其中的'Age', 'Sex', 'Embarked', 'Survived' 这四个特征来构造训练集。

import pandas as pd# 导入训练集并选择特征url = "http://s3.amazonaws.com/assets.datacamp.com/course/Kaggle/train.csv"df = pd.read_csv(url)
include = ['Age', 'Sex', 'Embarked', 'Survived']  
df_ = df[include]

然后，是一个简单的数据处理过程。

这里主要是对类别型特征进行One-hot编码，对连续型特征进行空缺值填充。

categoricals = []for col, col_type in df_.dtypes.iteritems():    if col_type == 'O':
        categoricals.append(col)    else:
        df_[col].fillna(0, inplace=True)

df_ohe = pd.get_dummies(df_, columns=categoricals, dummy_na=True)

最后，是模型的训练以及持久化保存。

模型采用的是逻辑回归，使用sklearn.externals.joblib将模型保存为序列化文件.pkl。需要注意的是，如果传入的请求不包含所有可能的category变量值，那么在预测时，get_dummies()生成的dataframe的列数比训练得到分类器的列数少，这会导致运行报错发生。所以在模型训练期间还需要持久化训练集One-hot后的列名列表。

from sklearn.linear_model import LogisticRegressionfrom sklearn.externals import joblib

dependent_variable = 'Survived'x = df_ohe[df_ohe.columns.difference([dependent_variable])]
y = df_ohe[dependent_variable]
lr = LogisticRegression()
lr.fit(x, y)# 保存模型joblib.dump(lr, 'model.pkl')print("Model dumped!")# 把训练集中的列名保存为pklmodel_columns = list(x.columns)
joblib.dump(model_columns, 'model_columns.pkl')print("Models columns dumped!")

到此，我们的model.py的代码部分构造完毕。

3. 基于Flask框架创建API服务

使用Flask部署模型服务，需要写一个函数predict()，并完成以下两件事：

当应用程序启动时，将已持久化的模型加载到内存中；
创建一个API站点，该站点接受输入变量的请求后，将输入转换为适当的格式，并返回预测。

更具体地说，需要API的输入如下（一个由JSON组成的列表）：

[
    {"Age": 85, "Sex": "male", "Embarked": "S"},
    {"Age": 24, "Sex": '"female"', "Embarked": "C"},
    {"Age": 3, "Sex": "male", "Embarked": "C"},
    {"Age": 21, "Sex": "male", "Embarked": "S"}
]

而模型API的输出如下：

{"prediction": [0, 1, 1, 0]}

import tracebackimport sysimport pandas as pdfrom flask import requestfrom flask import Flaskfrom flask import jsonify


app = Flask(__name__)


@app.route('/predict', methods=['POST'])  # Your API endpoint URL would consist /predictdef predict():    if lr:        try:
            json_ = request.json
            query = pd.get_dummies(pd.DataFrame(json_))
            query = query.reindex(columns=model_columns, fill_value=0)
            prediction = list(lr.predict(query))            return jsonify({'prediction': str(prediction)})        except:            return jsonify({'trace': traceback.format_exc()})    else:        print('Train the model first')        return 'No model here to use'

我们已经在“/predict”API中包含了所有必需的元素，现在只需编写主类即可。

from sklearn.externals import joblibif __name__ == '__main__':    try:
        port = int(sys.argv[1])  
    except:
        port = 8000  
    lr = joblib.load('model.pkl')  # Load "model.pkl"
    print('Model loaded')
    model_columns = joblib.load('model_columns.pkl')  # Load "model_columns.pkl"
    print('Model columns loaded')
    app.run(host='192.168.100.162', port=port, debug=True)

到此，我们的机器学习模型API已经创建完毕，flask_api.py的代码部分也已构造完毕。但在进一步深入之前，让我们回顾一下之前的所有操作：

加载了泰坦尼克数据集并选择了四个特征。
进行了必要的数据预处理。
训练了一个逻辑回归分类器模型并将其序列化。
持久化训练集中的列名的列表。
使用Flask编写了一个简单的API，该API通过接收一个由JSON组成的列表，预测一个人是否在沉船中幸存。

4. API的有效性测试

首先运行我们的模型API服务，我们通过Pycharm来启动上一小节编写完成的flask_api.py：

可以看到，在启动API服务后，模型以及列名被顺利的加载到了内存中。

之后可以通过Postman软件模拟网页请求，通过传递测试数据来观察模型API是否能正常返回预测信息。具体操作如下：

可以看到，模型API顺利的接收到了POST请求并发送预测结果。

当然，除了Postman以外，我们也可以编写Python脚本request_api.py完成API测试：

import requests

years_exp = [{"Age": 22, "Sex": "male", "Embarked": "S"},
             {"Age": 22, "Sex": "female", "Embarked": "C"},
             {"Age": 80, "Sex": "female", "Embarked": "C"},
             {"Age": 22, "Sex": "male", "Embarked": "S"},
             {"Age": 22, "Sex": "female", "Embarked": "C"},
             {"Age": 80, "Sex": "female", "Embarked": "C"},
             {"Age": 22, "Sex": "male", "Embarked": "S"},
             {"Age": 22, "Sex": "female", "Embarked": "C"},
             {"Age": 80, "Sex": "female", "Embarked": "C"},
             {"Age": 22, "Sex": "male", "Embarked": "S"},
             {"Age": 22, "Sex": "female", "Embarked": "C"},
             {"Age": 80, "Sex": "female", "Embarked": "C"},
             {"Age": 22, "Sex": "male", "Embarked": "S"},
             {"Age": 22, "Sex": "female", "Embarked": "C"},
             {"Age": 80, "Sex": "female", "Embarked": "C"},
             ]
response = requests.post(url='http://192.168.100.162:8000/predict', json=years_exp)
result = response.json()print('model API返回结果：', result)

同样我们顺利地接收到了模型的返回结果：