发送一个POST请求,用FastAPI推断ML模型
serveitlearn的Python项目详细描述
简介
你可以训练世界上最棒的模型,但如果你不能部署它,那么人们可以享受你的工作。ML中的去部署一直是一个我们在课程中从未讨论过的问题。假设你不需要任何训练就可以做到这一点。然而,根据我的经验,我发现部署我的模型并不是那么容易的。这就是为什么我决定创建serve-it-learn
。这个名字的概念完全来自Vincent D. Warmerdam's brain fart。在
安装
我更喜欢康达,但你喜欢你。您至少需要Python3.7
- 在
创建环境(如果您还没有)
在conda create -n serve_scikit_model python=3.7
- 在
激活它
在conda activate serve_scikit_model
- 在
安装它
在pip install serveitlearn
入门
这是一个虚拟的例子。您需要添加自己的代码来加载模型并执行预测。在
fromserveitlearn.decoratorimportapp,predict,initalize# Declare function that initalizes the model and any other data sources@initalizedefmy_initalization():pass# Declare function that will make the prediction based on the query@predictdefmy_prediction(query_dict):pass
完整示例
如果你想看到一个full example,那么在安装之后你必须再多拿几个,因为它需要加载scikit学习模型,而且由于potiential security reasons,我没有发布pickle或joblib。在
这个示例加载Iris数据集,训练一个简单的SVC模型,并使用'serveitlearn部署它。在
^{pr2}$- 项目
标签: