PaddlePaddle

 paddle.static / load_inference_model


load_inference_model

paddle.static. load_inference_model ( path_prefix, executor, **kwargs ) [源代码]

从指定文件路径中加载预测模型,包括模型结构和模型参数。

参数:
  • path_prefix (str) – 模型的存储目录 + 模型名称(不包含后缀)。如果是 None,表示从内存加载模型。

  • executor (Executor) – 运行模型的 executor ,详见 执行引擎

  • kwargs - 支持的 key 包括 'model_filename', 'params_filename'。(注意:kwargs 主要是用来做反向兼容的)。
    • model_filename (str) - 自定义 model_filename。

    • params_filename (str) - 自定义 params_filename。

返回:该接口返回一个包含三个元素的列表 [program,feed_target_names, fetch_targets]。它们的含义描述如下:
  • program (Program)– Program (详见 基础概念 )类的实例。此处它被用于预测,因此可被称为Inference Program。

  • feed_target_names (list)– 字符串列表,包含着Inference Program预测时所需提供数据的所有变量名称(即所有输入变量的名称)。

  • fetch_targets (list)– Variable (详见 基础概念 )类型列表,包含着模型的所有输出变量。通过这些输出变量即可得到模型的预测结果。

返回类型: 列表(list)

抛出异常:
  • ValueError – 如果 path_prefix.pdmodelpath_prefix.pdiparams 不存在,则抛出异常。

代码示例

import paddle
import numpy as np

paddle.enable_static()

# 构建模型
startup_prog = paddle.static.default_startup_program()
main_prog = paddle.static.default_main_program()
with paddle.static.program_guard(main_prog, startup_prog):
    image = paddle.static.data(name="img", shape=[64, 784])
    w = paddle.create_parameter(shape=[784, 200], dtype='float32')
    b = paddle.create_parameter(shape=[200], dtype='float32')
    hidden_w = paddle.matmul(x=image, y=w)
    hidden_b = paddle.add(hidden_w, b)
exe = paddle.static.Executor(paddle.CPUPlace())
exe.run(startup_prog)

# 保存预测模型
path_prefix = "./infer_model"
paddle.static.save_inference_model(path_prefix, [image], [hidden_b], exe)

[inference_program, feed_target_names, fetch_targets] = (
    paddle.static.load_inference_model(path_prefix, exe))
tensor_img = np.array(np.random.random((64, 784)), dtype=np.float32)
results = exe.run(inference_program,
              feed={feed_target_names[0]: tensor_img},
              fetch_list=fetch_targets)

# 在上述示例中,inference program 被保存在 "./infer_model.pdmodel" 文件中,
# 参数被保存在 "./infer_model.pdiparams" 文件中。
# 加载 inference program 后, executor可使用 fetch_targets 和 feed_target_names,
# 执行Program,并得到预测结果。

此页内容是否对您有帮助