基于iluvatar.ai设计的epu嵌入式设备边缘推理库。
tflex的Python项目详细描述
嵌入式设备上包含边缘EPU协处理器的边缘推理库。这是一个理想的原型新项目,需要快速的设备推断机器学习模型。tflex库提供了三个命令行工具:tflexconverter用于将.pb/.h5模型转换为epu直接支持的.tflex模型;tflexviewer用于更直观地显示基于高级tensorboard的网络体系结构(.pb和.tflex文件均受支持);tflexverify用于验证模型是否转换成功。也就是说,在准备好预先训练或自定义模型时,可以使用tflexconverter命令将模型转换为epu格式,并将模型部署到设备中进行推断。