为了账号安全,请及时绑定邮箱和手机立即绑定

生产环境中进行机器学习模型部署(using Flask)

标签:
机器学习

我们原来一直看的文章,大都是在讲机器学习原理、如何构造特征、如何调参之类的,但是实际中模型是如何进行部署的呢?下面的这篇文章就是在讲用Flask框架进行模型部署(注明:这篇文章基本是翻译国外大神的著作,如果英文不错建议直接看原作,英文不好的话也要尽量看下原作)

文章目录:

  • 部署机器模型的选择

  • 什么是APIs?

  • Flask基础

  • 创建一个机器学习模型

  • 保存机器学习模型:序列化和反序列化

  • 用Flask创建一个API

1.机器学习模型部署的选择

我们知道机器学习的模型大多是使用python或者是R语言来写的,但是使用这些模型的软件工程师可能用的完全不是这些语言(机器学习模型有时只是一个软件中的一小部分,比如聊天机器人、自动邮箱发送系统)。所以针对这个问题可以有下面两种解决办法:

  • 用软件工程师工作的语言来重写整个机器学习代码,但是这消耗时间和精力太多,并且像JavaScript这样的语言又不能提供很好的库来执行机器学习方法,所以这样方法是不可取的。

  • 使用API方法,Web API使跨语言应用程序可以轻松运行。 如果前端开发人员需要使用ML模型来创建ML支持的Web应用程序,他们只需要从提供API的位置获取URL端点。

2.什么是APIs?

何为API?API(Application Programming Interface,应用程序编程接口)是一些预先定义的函数,目的是提供应用程序与开发人员基于某软件或硬件得以访问一组例程的能力,而又无需访问源码,或理解内部工作机制的细节API通俗解释参考
在这篇文章中,我们主要使用Python中的轻量级web框架--Flask来构建API

webp

Python语言web轻量级框架


3.Flask基础

下面我们来创造一个Flask web应用程序

  • 打开Python编辑器(这里使用的是pycharm)

  • 写入如下的代码

"""Filename: hello-world.py
  """

  from flask import Flask

  app = Flask(__name__)  @app.route('/users/<string:username>')
  def hello_world(username=None):

      return("Hello {}!".format(username))

上面就是我们创建的本地可以访问的web端点,重要的是我们也可以以web APIs的形式包装机器学习模型

4.创建一个机器学习模型

  • 数据集采用的是一个比赛上的数据贷款预测比赛,下面为了使模型部署简单,使用了管道(把预处理过程和模型训练过程放到一个管道中)

import os 
import jsonimport numpy as npimport pandas as pdfrom sklearn.externals import joblibfrom sklearn.model_selection import train_test_split, GridSearchCVfrom sklearn.base import BaseEstimator, TransformerMixinfrom sklearn.ensemble import RandomForestClassifierfrom sklearn.pipeline import make_pipelineimport warnings
warnings.filterwarnings("ignore")
  • 下载数据并读取


    webp

  • 找到列中的缺失值


    webp

  • 把处理过程写到一个类中

from sklearn.base import BaseEstimator, TransformerMixinclass PreProcessing(BaseEstimator, TransformerMixin):
    """Custom Pre-Processing estimator for our use-case
    """

    def __init__(self):
        pass

    def transform(self, df):
        """Regular transform() that is a help for training, validation & testing datasets
           (NOTE: The operations performed here are the ones that we did prior to this cell)
        """
        pred_var = ['Gender','Married','Dependents','Education','Self_Employed','ApplicantIncome',\                    'CoapplicantIncome','LoanAmount','Loan_Amount_Term','Credit_History','Property_Area']
        
        df = df[pred_var]
        
        df['Dependents'] = df['Dependents'].fillna(0)
        df['Self_Employed'] = df['Self_Employed'].fillna('No')
        df['Loan_Amount_Term'] = df['Loan_Amount_Term'].fillna(self.term_mean_)
        df['Credit_History'] = df['Credit_History'].fillna(1)
        df['Married'] = df['Married'].fillna('No')
        df['Gender'] = df['Gender'].fillna('Male')
        df['LoanAmount'] = df['LoanAmount'].fillna(self.amt_mean_)
        
        gender_values = {'Female' : 0, 'Male' : 1} 
        married_values = {'No' : 0, 'Yes' : 1}
        education_values = {'Graduate' : 0, 'Not Graduate' : 1}
        employed_values = {'No' : 0, 'Yes' : 1}
        property_values = {'Rural' : 0, 'Urban' : 1, 'Semiurban' : 2}
        dependent_values = {'3+': 3, '0': 0, '2': 2, '1': 1}
        df.replace({'Gender': gender_values, 'Married': married_values, 'Education': education_values, \                    'Self_Employed': employed_values, 'Property_Area': property_values, \                    'Dependents': dependent_values}, inplace=True)        
        return df.as_matrix()    def fit(self, df, y=None, **fit_params):
        """Fitting the Training dataset & calculating the required values from train
           e.g: We will need the mean of X_train['Loan_Amount_Term'] that will be used in
                transformation of X_test
        """
        
        self.term_mean_ = df['Loan_Amount_Term'].mean()
        self.amt_mean_ = df['LoanAmount'].mean()        return self
  • 使用管道


    webp

  • 使用网格搜索法选择参数


    webp

  • 训练模型


    webp

  • 验证模型


    webp

4.保存机器学习模型:序列化和反序列化

python 中一般是使用pickle模块来实现序列化和反序列化,序列化是指将一个对象转换为一个能够存储在一个文件中或者网络上进行传输的字节流的过程。反序列化指的是相反的过程,它是从字节流中提取对象的过程。

  • 序列化


    webp

    序列化

  • 反序列化

    webp

    反序列化


    NOTE:在我们实际部署机器学习模型的过程中,一般是把训练好的模型序列化到一个文件夹中---大家可以看代码


5.用Flask创建一个API

这个建议大家直接看代码。总之对于模型部署,大家应该明白,如果是用Flask构建API的方法时,就是首先先训练模型,然后把模型给序列化了,当线上的测试数据来的时候,就直接使用已经训练好的模型,如果上线后模型表现效果不好,还是需要再训练模型的。



作者:凡人求索
链接:https://www.jianshu.com/p/6f3e04e8daa0


点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消