英伟达推出全新NVIDIA TensorRT 3 AI 推理软件

2023-5-6 09:12| 发布者: 开心| 查看: 9| 评论: 0

阅读字号:

摘要: 　　NVIDIA公司今日推出全新NVIDIA TensorRT 3 AI 推理软件，该软件能够大幅提升从云端至终端设备（包括无人驾驶汽车和机器人）的推理性能并降低成本。　　TensorRT 3 是 ...

　　NVIDIA公司今日推出全新NVIDIA TensorRT 3 AI 推理软件，该软件能够大幅提升从云端至终端设备（包括无人驾驶汽车和机器人）的推理性能并降低成本。

　　TensorRT 3 是一款针对人工智能使用生产部署的高性能优化编译器和运行时引擎，用于在生产环境中部署深度学习程序。它能够快速优化、验证并部署经过训练的神经网络，从而在超大型数据中心、嵌入式 GPU 或车用 GPU 平台上开展推理工作。它能够确保高度精确的INT8 和 FP16 网络执行，每年能为数据中心运营商节省数以百万美元计的采购和用电成本。借助它，开发者只需短短一天就能完成神经网络的训练，打造一个比其训练框架快3至5倍的可部署推理搞定方案。
　　TensorRT 3 与NVIDIA GPU的结合能够基于所有的框架、为诸如图像和语音识别、自然语言处理、视觉搜索和个性化建议等人工智能服务2提供超快速且高效的推理。此外，TensorRT 和NVIDIA Tesla GPU加速器的速度可达到处理器的40倍，而相较于基于处理器的搞定方案，成本仅为其十分之一。
　　现在，已经有超过 1200 家来自各行各业的公司开始采用 NVIDIA 推理平台，借助此从数据中获得全新洞察，并为企业和消费者部署智能服务。亚马逊、微软、Facebook和Google、以及阿里巴巴、百度、科大讯飞、京东、腾讯等中国领先企业均已开始采用 NVIDIA 推理平台。

路过

雷人

握手

鲜花

鸡蛋

收藏分享邀请

		自动登录	找回密码
密码			请使用中文注册

英伟达推出全新NVIDIA TensorRT 3 AI 推理软件

最新评论

相关分类