英伟达 TensorRT AI 推理加速向 GeForce RTX GPU 开放,ComfyUI 性能相比 DirectML 翻倍
作者:五福软件园时间:2025-05-24 12:38:25
本站 5 月 20 日消息,英伟达今日宣布推出 NVIDIA TensorRT for RTX,支持 Windows 11 系统,将为 GeForce RTX 全系显卡提供 TensorRT AI 推理加速框架,速度相当于 DirectML 方案两倍。该框架将于 6 月通过开发者官网正式推送。
技术细节显示,TensorRT 原生兼容 Windows ML 框架,ComfyUI 应用在其中相比 DirectML实现性能翻倍,而其他应用也有1.5~1.7 倍的性能表现。
此外,TensorRT支持即时 GPU 专属优化,推理库文件体积缩减至原有 1/8。
本站从官方获悉,英伟达目前已经为超 150 个 AI SDK 提供支持,并承诺本月还将推出 5 个全新的 ISV 集成,包括:
LM Studio(最新 CUDA 性能提升 30%)
Topaz Video AI(GenAI 视频加速 CUDA)
哔哩哔哩(NVIDIA Broadcast Effects)
AutoDesk VRED (DLSS 4)
Chaos Enscape (DLSS 4)
英伟达表示:“当前 AI PC 软件生态迫使开发者在广泛硬件支持与高性能优化间抉择。全新 Windows ML 推理框架通过 ONNX Runtime 构建,与各硬件厂商优化的 AI 执行层无缝衔接。针对 RTX 显卡,Windows ML 会自动调用 TensorRT for RTX—— 专为高性能快速部署优化的推理库。相较 DirectML,TensorRT 可为 PC 端 AI 工作负载提供超 50% 的性能提升。”
相关文章
-
英伟达 TensorRT AI 推理加速向 GeForce RTX GPU 开放,ComfyUI 性能相比 DirectML 翻倍
本站 5 月 20 日消息,英伟达今日宣布推出 NVIDIA TensorRT for RTX,支持 Windows 11 系统,将为 GeForce RTX 全系显卡提供 TensorRT AI 推
-
“车展实拍”视频走红,场景、人物、对话声音全由谷歌 Veo 模型生成
本站 5 月 23 日消息,几十年来,大型车展对汽车厂商、中外记者,以及所有热爱马力、机械和时尚的人而言,都是不可错过的年度大事。但近年在海外,情况大变 —— 多家车展人流锐减、展会纷纷停办,公众兴趣
-
宏碁推出全新 Swift Edge、Go 和 X 系列笔记本,CPU 全面升级
本站 5 月 17 日消息,据外媒 Engadget 今日报道,宏碁在今年的台北电脑展将推出全新 Swift Edge、Go 和 X 系列笔记本,全面升级为最新英特尔处理器,其中一款产品更首次采用康宁
-
雷克沙 ARES PRO PCIe 5.0 SSD 开启预售,1TB 首发价 679 元
本站 5 月 23 日消息,雷克沙 ARES PRO PCIe 5 0 固态硬盘在京东开启预售,官方称读取速度达 14000MB s,本站附各容量价格:1TB 预售价 679 元,定金 20 元2TB
-
小米 15 周年产品答网友问:15S Pro 相比 15 Pro 影像、屏幕、散热系统等均有升级
感谢本站网友 Anon_Tokyo 的线索投递! 本站 5 月 23 日消息,小米手机官微今晚发布“小米 15 周年产品答网友问”,主要包括“小米 15S
-
摩托罗拉 Moto G56 手机完整规格曝光:天玑 7060 芯片,8GB+256GB 版售 270 欧元
本站 5 月 24 日消息,科技媒体 ytechb 昨日(5 月 23 日)发布博文,报道称摩托罗拉即将发布中端智能手机 Moto G56,8GB+256GB 版本售价为 270 欧元(本站注:现汇率