|
|
@@ -1,11 +1,16 @@
|
|
|
# Python部署
|
|
|
-PaddleX已经集成了基于Python的高性能预测接口,在安装PaddleX后,可参照如下代码示例,进行预测。相关的接口文档可参考[paddlex.deploy](../../apis/deploy.md)
|
|
|
+
|
|
|
+PaddleX已经集成了基于Python的高性能预测接口,在安装PaddleX后,可参照如下代码示例,进行预测。
|
|
|
|
|
|
## 导出预测模型
|
|
|
-可参考[模型导出](../export_model.md)将模型导出为inference格式的模型。
|
|
|
+
|
|
|
+可参考[模型导出](../export_model.md)将模型导出为inference格式。
|
|
|
|
|
|
## 预测部署
|
|
|
-> 点击下载测试图片 [xiaoduxiong_test_image.tar.gz](https://bj.bcebos.com/paddlex/datasets/xiaoduxiong_test_image.tar.gz)
|
|
|
+
|
|
|
+预测接口说明可参考[paddlex.deploy](../../apis/deploy.md)
|
|
|
+
|
|
|
+点击下载测试图片 [xiaoduxiong_test_image.tar.gz](https://bj.bcebos.com/paddlex/datasets/xiaoduxiong_test_image.tar.gz)
|
|
|
|
|
|
* 单张图片预测
|
|
|
|
|
|
@@ -14,6 +19,7 @@ import paddlex as pdx
|
|
|
predictor = pdx.deploy.Predictor('./inference_model')
|
|
|
result = predictor.predict(image='xiaoduxiong_test_image/JPEGImages/WeChatIMG110.jpeg')
|
|
|
```
|
|
|
+
|
|
|
* 批量图片预测
|
|
|
|
|
|
```
|
|
|
@@ -24,7 +30,7 @@ image_list = ['xiaoduxiong_test_image/JPEGImages/WeChatIMG110.jpeg',
|
|
|
result = predictor.predict(image_list=image_list)
|
|
|
```
|
|
|
|
|
|
-> 关于预测速度的说明:采用Paddle的Predictor进行预测时,由于涉及到内存显存初始化等原因,在模型加载后刚开始预测速度会较慢,一般在模型运行20~50后(即预测20~30张图片)预测速度才会稳定。
|
|
|
+**关于预测速度的说明**:加载模型后前几张图片的预测速度会较慢,这是因为运行启动时涉及到内存显存初始化等步骤,通常在预测20-30张图片后模型的预测速度表现稳定。
|
|
|
|
|
|
## 预测性能对比
|
|
|
### 测试环境
|
|
|
@@ -34,7 +40,7 @@ result = predictor.predict(image_list=image_list)
|
|
|
- PaddlePaddle 1.71
|
|
|
- GPU: Tesla P40
|
|
|
- AnalysisPredictor 指采用Python的高性能预测方式
|
|
|
-- Executor 指采用paddlepaddle普通的python预测方式
|
|
|
+- Executor 指采用PaddlePaddle普通的Python预测方式
|
|
|
- Batch Size均为1,耗时单位为ms/image,只计算模型运行时间,不包括数据的预处理和后处理
|
|
|
|
|
|
### 性能对比
|