新闻资讯

GPU 助力 5G 时代的 AI 服务

2020-04-13 17:38:14 siton 42

图片关键词

自从首次使用无线设备实现语音通话以来 ,我们已经取得长足进步 。现在 ,通过各种应用程序 ,人们之间的联系达到前所未有的紧密 ,而这也使用户对自己的设备抱有更高期望 。

他们希望交通信息能实时更新 ,希望能随时随地流式直播视频 。同时还希望实时了解体育赛事比分 ,几秒内即可点播最新赛事视频 。我们正高速迈向一个手机 、可穿戴设备乃至家用电器等智能设备都将互联并产生海量数据的世界 。而随着使用率的增加 ,电信公司需要放弃简单连接 ,转而提供无处不在 、包含更多内容的互联平台。

电信公司可通过 5G 和边缘计算来满足此需求 ,但这就需要不同种类的基础架构和计算技术 。


通过 GPU 加速 5G 服务

NVIDIA GPU 能够助力从云端提供具有超低延迟的 5G 服务 。如此一来 ,我们便可打造出基于云的虚拟现实 (VR) 、智能城市 、云游戏 、360 度沉浸式视频 、互联无人机和自动驾驶汽车等应用 。开源容器和库亦有助于加快投入市场的速度 。行业领先的电信公司正在利用 NVIDIA GPU  CUDA® 构建边缘 AI 服务 ,并通过优化该服务提高运行速度 ,减少延迟 。随着行业需求持续增长 ,这些应用无需更改软件功能即可充分利用 GPU 计算能力 。以下是 GPU 如何挖掘行业潜力的实际案例 。


智能城市的智能视频分析 (IVA)

智能视频分析 (IVA) 用于加强安防 ,以保护公民和财产 。在 5G 网络中 ,道路使用者和路边的基础设施可收集和分享有关交通和路况的实时信息 ,以供 AI 用于引导驾驶者更改路线

图片关键词

NVIDIA 技术为电信公司提供深度学习和密集型计算功能 ,从而为IVA 的成功应用奠定基础 。


SK Telecom 使用 NVIDIA GPU 为其智能视频服务解决方案 T View 提供支持 。SKT 借助 NVIDIA® Tesla® GPU 将训练速度提高 5 倍 ,并通过 NVIDIA TensorRT™ 扩展其推理引擎 ,从而在确保准确性的情况下实现成本效益 。

图片关键词

Verizon  Smart Communities Group 旨在使用 NVIDIA Metropolis(一个边缘对云端视频平台 ,用于构建更智能 、更快速的 AI 应用程序)打造更安全 、更智能 、更环保的城市 。Verizon 收集并分析了多个视频数据流 ,以便改善交通流量 、提高行人安全并优化停车情况 。



语音增强

除噪是智能手机不可或缺的部分 ,其用途涉及从拨打电话到智能助手的所有功能 。虽然噪声抑制解决方案已经存在 ,但当下的手机在嘈杂环境中的表现却不尽如人意 。挑战在于移动通话设备的设计 。对设备的原始设备制造商 (OEM) 和原始设计制造商 (ODM) 而言 ,两个或多个麦克风不仅会增加音频通道和音响设计的难度 ,亦会增加成本 。工程师必须做出次优权衡 ,以便同时满足工业设计和音质的要求 。此外 ,低延迟对于语音通信同样至关重要 。

图片关键词

2Hz, Inc. 采用由NVIDIA T4  V100 GPU助力的噪声抑制技术 ,使实时通信变得异常清晰 。相较于 CPU2Hz 的深度学习算法可将扩展能力提升高达 20 倍 ;通过在 GPU 上运行 TensorRT2Hz 可满足实时通信的 12 毫秒 (ms) 延迟要求 。


互联始于基础架构

只有通过基于 GPU 的基础架构实现智能互联 ,我们才能确保利用 5G 完成全面变革 。相较于 CPU 解决方案 ,基于 GPU 的边缘对云端平台(例如NVIDIA Metropolis )可将运行效率提升 20 倍 ,进而将视频源等日常数据转换为宝贵的见解和更快的决策 。Metropolis  NVIDIA CUDA-X™ 驱动 ,可通过一种架构实现多领域(如智慧城市)的可编程加速 ,帮助提高效率并降低部署成本 。NVIDIA 精英级合作伙伴——思腾合力 提供使用 GPU 深度学习技术的产品和软件服务 。依赖 GPU 通过降低基础架构成本并提高服务质量为 AI 服务奠定基础 ,推动电信网络的发展 。