本站消息

  出租广告位,需要合作请联系站长

  今日名言-想象你自己对困难作出的反应,不是逃避或绕开它们,而是面对它们,同它们打交道,以一种进取的和明智的方式同它们奋斗 。——马克斯威尔·马尔兹

  今日名言-用谅解、宽恕的目光和心理看人、待人。人就会觉得葱笼的世界里,春意盎然,到处充满温暖。——蔡文甫


+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

暂无数据

【tensorrt】——插件写法及python plugin大体流程

发布于2021-07-25 07:39     阅读(1285)     评论(0)     点赞(18)     收藏(0)


tensorrt

1. python plugin 大体流程

这是参考torch2trt写的一个python插件的大体流程,因为tensorrt是没有开源的,所以具有不确定性。
在这里插入图片描述

2. code

项目,是做tensorrt测试的,包括c++/python api。因为tensorrt模型的构建不是api就是转换模型之后直接推理。如果想单独测试某个layer就需要这样的小项目。

tensorrt.test

reference

  1. torch2trt
  2. tensorrt.test

原文链接:https://blog.csdn.net/u011622208/article/details/119041630



所属网站分类: 技术文章 > 博客

作者:空气很好

链接:http://www.pythonpdf.com/blog/article/480/4e8b9d2e9885fdb65c17/

来源:编程知识网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

18 0
收藏该文
已收藏

评论内容:(最多支持255个字符)