你好,这个应该是推理报错,建议使用msame推理试试,msame工具链接: https://gitee.com/ascend/tools/tree/master/msame
我从modelzoo4008云顶国际集团官网跑了esrgan这个模型,onnx转om的输入也是480*480的,用msame推理没有报错,转模型结果如下图:
atc的input_shape对模型应该是没有限制的,用netron打开om也是正常的,om如下图所示:
msame推理如下:
想问下是不是对模型做过修改,推理异常可以把日志发给我们分析一下,esrgan模型最大的分辨率是多少建议参考原作者的issue,链接如下:https://github.com/xinntao/real-esrgan/blob/master/readme.md
您好,相关信息确认后回复
调试查看了一下是调用aclrtmalloc(&modelmemptr_, modelmemsize_, acl_mem_malloc_huge_first);以后就死掉了。
监视了一下modelmemsize_的大小:
死掉以后终端top的监控信息:
你好,这个应该是推理报错,建议使用msame推理试试,msame工具链接: https://gitee.com/ascend/tools/tree/master/msame
我从modelzoo4008云顶国际集团官网跑了esrgan这个模型,onnx转om的输入也是480*480的,用msame推理没有报错,转模型结果如下图:
atc的input_shape对模型应该是没有限制的,用netron打开om也是正常的,om如下图所示:
msame推理如下:
想问下是不是对模型做过修改,推理异常可以把日志发给我们分析一下,esrgan模型最大的分辨率是多少建议参考原作者的issue,链接如下:https://github.com/xinntao/real-esrgan/blob/master/readme.md
2022-6-8 15:33
你好,我并未对模型做过任何修改。
尝试了使用msame工具进行推理,我这里的结果是推理错误的。
我的平台是atlas200dk
2022-6-7 17:55 上传
点击文件名下载附件
补充说明,如果我把模型转为480x480输入,msame是可以跑通的,但是放进程序里会卡死。
如果我把模型转为512x512输入,msame和程序里都会卡死
请问有何方法能改善这个问题?
你好,看了你的报错提示内存分配失败,200dk内存可能不够,建议更换设备
2022-6-10 10:41
2022-6-10 10:52
看到该链接https://bbs.huaweicloud.com/blogs/173215中提到:
“昇腾310处理器侧总共有8g内存,由于310处理器是一颗soc处理器,片上系统大概占用0.5g左右内存,所以可用内存总共有7.5g左右。其中包含1.9g左右的大页内存。大页内存是提前预留好的,所以没有程序运行时,使用npu-smi info看到已经使用的内存为2.4g左右,其实只有系统占用了0.5g,1.9g的大页内存还可以使用”
请问我是否可以申请释放掉大页内存来解决掉我内存不够的问题?具体应该怎样操作。
或者可否申请虚拟内存?
你好,我用的是atlas 300i推理卡,200dk的推理性能还是速度比较慢,你可以看下device的存储大小是不是超了,这边也没有好的办法来释放内存