终于把TensorRT的engine模型的结构图画出来了！ 大概长这样（截取了最终模型图的输入部分），仔细看看： 可以看到很多层被融合了，比如conv1.weight + Quan…

今天简单聊聊模型权重，也就是我们俗称的weight。 深度学习中，我们一直在训练模型，通过反向传播求导更新模型的权重，最终得到一个泛化能力比较强的模型。同样，如果我们不训练，仅仅随…

不得不相信英伟达总能给我们惊喜，老潘作为一名深度学习从业者以及游戏爱好者，对于这种与AI、GPU、并行计算相关的话题一直都是比较感兴趣。作为深度学习第一大硬件平台的英伟达，我们自然…

简单的Batch Normalization BN、Batch Normalization、批处理化层。 想必大家都不陌生。 BN是2015年论文Batch Normalizati…

Hello我是老潘，好久不见各位。 最近在复盘今年上半年做的一些事情，不管是训练模型、部署模型搭建服务，还是写一些组件代码，零零散散是有一些产出。 虽然有了一点点成果，但仍觉着缺点…

某晚上，老潘正在吭哧吭哧写关于AI部署的文章，突然阿里云给我发了3个邮件，大意就是： 服务器快到期了，该续费了 域名也快到期了，该续费了 SSL证书快到期了，该续费了 噢，又到了一…

  前言 大名鼎鼎的TensorRT有多牛逼就不多说了，因为确实很好用。 作为在英伟达自家GPU上的推理库，这些年来一直被大力推广，更新也非常频繁，issue反馈也挺及时…

问题的开始 前些天尝试使用TensorRT转换一个模型，模型用TensorFlow训练，包含LSTM+Transform+CNN，是一个典型的时序结构模型，包含编码解码结构，暂称为…

紧接着前几天的事： 特殊的日子，想起了当年的双(1080TI)显卡装机实录 和 炼丹炉买不起了:聊一聊这段日子的显卡行情 之后，决定买一台整机玩玩。 而现在，主机终于回！来！了！主…

前言 前一阵子突然有了配主机的想法。呃，当然是为了搞深度学习。 想象一下，亲手买下自己心仪的配件，然后用心组装起来，闻着显卡的香气，啊，满满的成就感。 显卡预想着上RTX-3080…

老潘以一名算法工程师的角度，结合自身以及周围人的情况，理性也感性地分析一下极市平台前些天发布的2020年度中国计算机视觉人才调研报告。 以下的“计算机视觉人才”简称“人才”，感觉说…

yahaha~你终于找到这里了。 这里收集了老潘总结的深度原创文和珍藏的资料，相信可以帮助到你。 列一下博客的关键词：深度学习、神经网络、模型部署落地、服务器推理、Pytorch、…

前一阵子忍不住剁手买了M1芯片的mac mini，为了弥补自己的内疚感就卖了自己的旧的mbp2017款。数据也完全迁移到了新机器上，之前的工作也就由mbp2017彻底换成mac m…

本系列为新TensorRT的第一篇，为什么叫新，因为之前已经写了两篇关于TensorRT的文章，是关于TensorRT-5.0版本的。好久没写关于TensorRT的文章了，所幸就以…

最近看知乎上有一个童鞋这样提问： CV算法岗内卷现象的严重性先不多说。一看这个题目的关键字“部署”和“落地”。这两个关键字就深深吸引到了我 。想想当年(去年)秋招，神仙打架诸神黄昏…