5. 使用 XPU 进行预测¶
API定义如下:
// 启用 XPU 进行预测
// 参数:l3_workspace_size - l3 cache 分配的显存大小
// 返回:None
void EnableXpu(int l3_workspace_size = 0xfffc00);
代码示例:
// 创建 Config 对象
paddle_infer::Config config(FLAGS_model_dir);
// 启用 XPU,并设置 l3 cache 大小为 100M
config.EnableXpu(100);