CubeAI模型服务化引擎
cubeai-model-runner的Python项目详细描述
cubeai-model-runner
CubeAI模型服务化引擎
版权所有 © 2019-2020 中国联通研究院
将AI模型推理程序封装成为Web互联网服务。
目前提供RESTful API、WebSocket和可视化Web GUI等多种形式的互联网API接口服务,支持二进制数据传输和文件上传。
可将服务化后的AI模型直接打包成容器化微服务镜像,发布至CubeAI模型市场进行共享,或部署至CubeAI能力开放平台对外提供服务。
依赖包地址
依赖包引用
$ pip install cubeai_model_runner
应用开发实例
CubeAI智立方
- 项目
标签: