Jetson NX 部署YOLOv11并使用tensorrt加速

目标检测:Jetson Nano配置YOLOv11环境(Pycharm) 实现了在jetson nano上面配置YOLOv11并且成功使用TensorRT加速推理,因为jetson nano资源有限,YOLOv11模型较大,所以在测试中使用USB摄像头跑yolo11n.pt时FPS大概在7~12,后续会提到一些优化方法。由于jetson nano的局限性,使得在环境部署上面成为一个麻烦,另外在显存上,由于模型较大,很容易出现溢出,也是一个麻烦,本文将记录部署到YOLO运行的过程 阅读详情
AI摘要

本文介绍了如何在NVIDIA Jetson NX设备上部署YOLOv11模型,并通过TensorRT进行加速。首先,解决了Jetpack 6.2版本下torch和torchvision的兼容性问题,然后详细说明了安装Ultralytics软件包、PyTorch和Torchvision的步骤。最后,通过创建虚拟环境和配置TensorRT,成功在Jetson NX上运行YOLOv11模型。

一.相关背景

jetpack6.2 sdk 环境:

CUDA版本:12.6.68

CUDNN版本:9.3.0.75

TensorRT版本:10.3.0.30

VPI版本:3.2.4

Vulkan版本:1.3.204

OpenCV版本:4.8.0 with CUDA

查看pytorch官网,确定cuda cudnn torch 等对应版本

pytorch官网:PyTorch

若使用镜像源,清华源地址:

-i https://pypi.tuna.tsinghua.edu.cn/simple

也可以手动下载whl后再安装(在对应环境中)

python -m pip install xx.whl
YOLOv11 + TensorRT 在 Jetson 设备上的实时部署 阅读详情

相关推荐

Jetson Orin NX深度学习环境搭建避坑指南:从PyTorch到YOLO实战

本文详细介绍了在Jetson Orin NX上搭建深度学习环境的完整流程与避坑指南。重点涵盖Python 3.8与CUDA 11.4的版本选择、PyTorch GPU版本的正确安装、torchvision源码编译技巧,并通过YOLO实战演示模型训练与TensorRT加速,最终实现推理性能提升3倍。帮助开发者高效部署AI应用,避免常见环境配置问题。

tea88的博客 1103

Jetson NX上YOLOv11从安装到TensorRT加速的完整避坑指南(JetPack6.2环境)

本文提供了一份详细的Jetson NX上YOLOv11从安装到TensorRT加速的完整指南,特别针对JetPack6.2环境。涵盖了环境准备、Python配置、YOLOv11安装、TensorRT优化及性能调优等关键步骤,帮助开发者避开常见问题,实现高效的边缘计算目标检测。

ujm5678901的博客 243

YOLOv11换上MobileNetV4后,在边缘设备上跑得怎么样?实测对比来了

本文评测了YOLOv11与MobileNetV4在边缘设备上的目标检测性能,通过Jetson Orin NX和树莓派5等硬件平台的实测数据,展示了这一组合在推理速度、内存占用和模型精度方面的优势。MobileNetV4的轻量化设计使YOLOv11在边缘设备上实现显著加速,为智能摄像头、工业质检等场景提供高效解决方案。

weixin_29071809的博客 217

Jetson Orin NX 16G显存实测:四路YOLOv8多模型并发部署与TensorRT加速

边缘计算中,多模型并发部署常面临显存与算力瓶颈。Jetson Orin NX 16G采用统一内存架构,CPU与GPU共享LPDDR5,为多任务推理提供灵活资源。通过TensorRT FP16量化与多进程调度,可显著提升YOLOv8等模型的推理效率。本文基于实际项目,在Jetson Orin NX 16G上同时部署四个YOLOv8模型(含姿态估计),完整记录从环境搭建、模型导出、TensorRT加速到多进程调度的全过程,并量化显存占用、帧率、功耗与温度。实测表明,16G显存足以支撑四模型并发,但需关注散热与功

weixin_30983965的博客 167

YOLOv11【第十一章:3D目标检测与沉浸式视觉篇·第14节】3D 模型压缩:点云量化与稀疏卷积加速!

🏆 本文收录于专栏 《YOLOv11实战:从入门到深度优化》。本专栏围绕 YOLOv11 的改进、训练、部署与工程优化 展开,系统梳理并复现当前主流的 YOLOv11 实战案例与优化方案,内容目前已覆盖 分类、检测、分割、追踪、关键点、OBB 检测 等多个方向。

**My Coding Family** 451

YOLOv11模型压缩实战:剪枝+量化+TensorRT部署三步法

模型压缩是将深度学习模型适配边缘设备的关键技术,其核心在于平衡精度、速度与资源占用。基于结构化剪枝可优化参数分布,后训练量化(PTQ)能降低计算精度开销,而TensorRT等推理引擎则提供硬件级加速能力。YOLO系列模型因结构清晰、模块解耦度高,成为模型压缩的理想载体;YOLOv11作为社区轻量演进版本,具备RepViT Backbone与Dynamic Head等利于压缩的架构特性。本文聚焦工业落地场景,详解如何通过通道剪枝、分层量化与定制插件,在Jetson Orin NX上实现YOLOv11推理速度提

weixin_33525298的博客 231

Jetson YOLOv5 Docker部署实战:从构建到TensorRT加速

在ARM64架构的NVIDIA Jetson设备上部署YOLOv5,常因CUDA、PyTorch和OpenCV的版本兼容问题而受阻。Docker容器化技术通过镜像封装依赖,实现环境隔离与快速交付。基于NVIDIA官方L4T PyTorch基础镜像构建的YOLOv5镜像,可自动对齐CUDA与cuDNN版本,解决torch.cuda.is_available()返回False的典型问题。该方案适用于边缘计算中的目标检测场景,如智能安防、工业质检,通过挂载摄像头设备与X11转发实现实时推理。进一步结合Tensor

weixin_29189381的博客 286

使用TensorRT API_YOLOv11-TensorRT的YOLOv11的C++实现.zip

使用TensorRT API_YOLOv11-TensorRT的YOLOv11的C++实现

使用C++部署yolov11目标检测的tensorrt模型支持图片视频推理演示源码+项目说明

【测试通过环境】 vs2019 cmake==3.24.3 cuda11.7.1+cudnn8.8.0 tensorrt==8.6.1.6 opencv==4.8.0 【博文地址】https://blog.csdn.net/FL1623863129/article/details/142685415

onnxruntime-1.20.0-cp313-cp313-win_amd64.whl

onnxruntime-1.20.0-cp313-cp313-win_amd64.whl

Android逆向进阶篇 Charles + Drony Vpn绕过代理检测方案 获取猫眼App数据

Android逆向进阶篇 Charles + Drony Vpn绕过代理检测方案 获取猫眼App数据

曾用名:极客柒 1853

通过监督微调(SFT)提升AI Agent效果的完整指南

监督微调(Supervised Fine-Tuning)是在大规模预训练语言模型(如LLaMA、GPT系列)的基础上,使用特定任务标注数据进行二次训练的过程。其本质是通过有监督学习调整模型参数,使其适应目标任务的分布特征。

保持热爱。 1928

高分7(GF7)卫星数据制作平原地区DSM/DEM(三)——可信度分割

李国春(接上)

副组长的博客 1715

4D毫米波雷达

详解4D成像毫米波雷达

sangba2019的博客 2399

SPSSAU 中介效应分析实战:Bootstrap 95%置信区间解读的3个关键步骤

本文详细解析了SPSSAU中介效应分析中Bootstrap 95%置信区间的解读方法,涵盖三种典型场景的判别标准与应对策略。通过实战操作指南,帮助研究者准确判断中介效应显著性,特别针对边界模糊和小样本情况提供专业建议,提升统计分析结果的可靠性。

weixin_33691817的博客 503

20、Citrix 云桌面常见VDA注册问题汇总

本文总结了与 VDA 中出现的 VDA 会话断开连接、注册、会话卡住以及挂起/崩溃相关的主要支持文章。

我在Citrix、VMware、Veeam、微软和NVIDIA等领域拥有丰富经验的专业人士,专注于设计和维护虚拟化基础设施、实施备份与灾难恢复策略,致力于优化企业的IT环境。 947

【Claude Code的Harness Engineering实现】:06-记忆系统(Memory)

记忆系统是Claude Code实现跨会话持久化和上下文保持的核心组件。它分为短期记忆(当前会话的对话历史)和长期记忆(跨会话保留的结构化信息),通过多层级的文件系统实现灵活的记忆管理。

rengang66的博客 242

openwrt 固件定制详解:各类默认参数修改及应用添加

本文以friendlywrt22-rk3568发行版为例, 介绍如**何定制**一款**openwrt固件**,定制特性包括网络参数、登陆密码、开机界面(banner)、代理arp、opkg源、hostname、应用默认配置参数修改、增加任意文件(不限于应用程序及其库)等, 最后给出了一个完整的实操实例。

十年通信老兵的技术修炼之路——从3G到5G,从地面基站到卫星通信。 1547

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

上一篇: conda create 新环境时报HTTP Error错误
路边卖红薯
博客等级 码龄5年 59粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值