对话式人工智能/自然语言处理

通过 AI 和加速计算推动 5G 时代创新

电信行业在推动整个社会的数字化转型方面发挥着关键作用。一个多世纪以来,从固定通信到移动通信,该行业培育了为全球人民提供连接结构的技术。在 5G 时代,这一关键角色现在包括为众多始终连接的终端用户和计算节点提供无约束和无处不在的高速数据连接。

IHS Markit 估计,由于移动支持的普及连接,到 2035 年, 5G 支持的价值链将为工业部门和企业市场带来超过 13 万亿美元的总产值(图 1 )。 GSMA 预测,到 2025 年,仅移动电信行业就将为全球经济贡献 4.9 万亿美元(约占全球 GDP 的 5% )。要了解更多信息,请参见 后新冠时代的 5G 经济2022 年移动经济

电信业和整个社会的持续成功不能被视为理所当然。从历史上看,该行业的成功很大程度上归功于通过技术、标准、经济和政策创新来解决关键挑战的协调一致的方法。随着电信公司和其他现有和新的行业利益相关者协调应对行业的关键挑战, 2023 年及以后的情况将继续如此。

这篇文章强调了行业面临的五个关键挑战,并探讨了以人工智能为动力的电信公司如何利用人工智能和 accelerated computing 这两个技术构建块来应对挑战并推动增长。最后,它解释了 NVIDIA 如何为电信中的人工智能和加速计算提供技术平台。

Graphic showing six industry verticals where 5G will drive transformative change: retail, media & entertainment, smart cities, transport, healthcare, and industrial.
图 1 。 5G 将刺激从交通运输到医疗保健等关键行业数万亿的经济增长

五大电信行业挑战

在整个行业和利益相关者中,对于电信公司面临的最大挑战存在着不同的观点。关注对行业决策者最重要的问题是有帮助的。本节讨论电信公司在努力释放 5G 时代的行业机遇时面临的五大挑战。人工智能和加速计算为应对这些挑战提供了基本的基础。更具体地说,人工智能提供了软件工具包,而加速计算提供了硬件补充。

1 .创造新收入

电信公司面临的一个基本挑战是从光纤和 5G 投资中创造新收入。 5G 是行业最闪亮的资产,并将推动 2022 年至 2025 年,移动行业 6200 亿美元资本支出的 85% 。然而,与 5G 商业化的现实相比,对 5G 价值创造的期望差距越来越大,特别是在 企业/私人 5G 采用缓慢 和电信公司职责范围之外的服务交付云化的情况下。

简单地说,如果没有足够的 5G 货币化,行业雇佣资本回报率( ROCE )的下降只会恶化。例如, Ofcom 指出, 2017 年至 2020 年间,英国行业平均 ROCE 有所下降。有关详细信息,请参见 Ofcom 对移动市场的未来策略

应对货币化挑战需要双管齐下的方法来打开消费者和企业市场。对于消费者而言, 销售光纤和 5G 体验 ,如游戏、沉浸式娱乐和人工智能服务,无论是直接还是与合作伙伴一起,都已经建立起来。

对于企业来说,构建 边缘计算,引入更多 5G 设备 和更加重视解决业务需求开始产生影响。要了解更多信息,请参见 NVIDIA 和朋友们为工程师打造 5G VR 工作区

2 .增强客户体验

鉴于电信行业固定资本支出、运营支出和频谱成本较高,加上对规模经济的依赖,赢得新客户(或不失去现有客户)是最重要的战略优先事项。在一个日益成熟的市场中,由于人口增长缓慢,一个行业公开的秘密是,拥有最好的客户体验可能会为你赢得一些客户,但拥有最差的客户体验肯定会让你失去很多客户。事实上,在 2022 年美国的一项调查中, Techsee 报告 电信行业 46% 的客户流失率 是所有调查行业中最高的。

电信公司努力提供良好的客户体验,以改善客户获取和客户流失管理。电信公司正在通过投资网络质量、人工智能驱动的数据分析和用于客户参与的对话式人工智能(例如,化身和聊天机器人)来改善客户关系。

3 .降低运营复杂性和成本

运营复杂性是电信公司面临的重大挑战。这种复杂性的成本影响可能会带来巨大的财务压力。例如,电信公司有义务维护语音服务的基础设施,而电话越来越少地成为收入驱动因素。

电信公司正试图通过各种手段来管理复杂性并提高运营效率。在网络层面,这些包括网络参数的实时优化、流量路由以及故障预测和预防。在运营层面,包括:

  • 更好地管理遗留基础设施,如关闭 2G / 3G 网络
  • 采用云优先的方法
  • 操作智能自动化 ,包括业务支持系统( BSS )和运营支持系统( OSS )

此外,将自动化和人工智能应用于传统手动解决方案也是当务之急。在业务层面,这包括重新培训和留住具有正确技能的员工,管理能源来源(特别是通过将可再生能源纳入能源组合),在某些情况下,通过剥离基础设施,采用更轻资产的战略。

4 .提高能源和安全韧性

作为一个具有严格政府监管的关键国家基础设施,电信基础设施的恢复力引起了高度的政治关注。从 CanadaNetherlandsSouth KoreaUK ,常规运行停机可能会在世界各地产生严重的政治和经济影响。能源效率(包括可持续性)和安全(包括网络安全和供应链多样性)是电信基础设施韧性的两大威胁。

面对全球地缘政治紧张局势,能源成本已成为电信公司众所周知的“房间里的大象”,促使人们在节能计划和可再生能源多样化方面采取强有力的行动。与此相关的是,全球移动产业约 80% 的收入支持减少温室气体排放的承诺。有关详细信息,请参见 与移动行业开展气候行动

同样,地缘政治也加剧了对网络安全的担忧。这些现在正在回流到行业活动中(例如,专注于开放式 RAN 软件和硬件的分解),并推动对电信设备采购的政治干预。

5 .实现更好的 RAN TCO

RAN 是当今移动网络中成本最高的部分,预计在 5G 时代将占整个网络总拥有成本( TCO )的 占 65% 。过去, RAN 演进的主要目标是提高性能。另外三个目标现在同样重要:

  • 可编程性,实现灵活性和更容易的升级
  • 开放标准和接口,以支持软件和硬件的分解,这是公认的 RAN 的未来
  • 不可知的基础设施,可以与其他创收 AI 工作负载共同位于 COTS 硬件上

尽管 RAN 站点的数量预计为 到 2027 年,这一数字几乎翻了一番,超过 1700 万 ,但事实是大多数 RAN 站点都具有 平均利用率低于 25% 。这意味着 RAN 的战略重要性为如何规划、部署、管理和货币化 RAN 提供了巨大的机会。

人工智能和加速计算在这一过程中都发挥着重要作用。特别是,加速计算是更好的 RAN TCO 的先决条件,因为它是交付 5G / 6G 物理层处理所需的高性能计算的唯一手段。有关详细信息,请参见 NVIDIA 用 x86 绕过打破英特尔的开放 RAN 垄断

启用 AI 供电的电信公司

人工智能和加速计算为 AI-powered telco 解决关键行业挑战提供了关键技术工具。 NVIDIA 为这些工具提供了一系列技术平台。四个产品支柱将已经为电信公司商业化的产品和解决方案与仍在开发中的产品结合在一起(图 2 )。

Image showing four product pillars: Revenue Generation, AI-Powered Operations, Accelerated Networking, and AI-Powered Wireless. Each pillar is mapped to the five key challenges facing telcos.
图 2: NVIDIA 正在为 AI 供电的电信公司提供四大产品支柱

四大支柱(详见下文)中的每一个都为 NVIDIA 合作伙伴和客户提供了一个包括 NVIDIA 硬件和软件的软件包,以满足他们的个人需求。

  1. AI Powered Edge :专注于通过云和 Edge AI 推动新的货币化机会。这些包括行业主导的用例,在计算机视觉、云游戏和物联网领域实现新的工作负载,并孵化一个由 NVIDIA 认证的电信合作伙伴组成的生态系统。
  1. AI 驱动运营:专注于为电信公司提供运营效率的解决方案。其中包括大数据工具和平台、 AIOps 和 AI 客户体验工具。
  1. 加速联网:专注于使用加速/卸载加上安全性来提高能源效率和基础设施现代化。这包括 NFVI 的网络虚拟化、 5G 工作负载的虚拟网络功能以及 AI 支持的安全解决方案。
  1. AI 供电无线:专注于开发基于 NVIDIA 空中 SDK 的全栈、软件定义、可编程和 GPU 加速的 5G vRAN 。这包括为公共 5G 网络部署 NVIDIA Aero ; AI-on-5G 将 AI 和 5G 结合在同一企业计算平台上;以及 6G 的持续研究、开发和生态系统参与。

人工智能如何改变电信运营

人工智能是当时最重要的技术力量,它对电信行业的影响才刚刚开始。如下文所述,如图 3 所示,人工智能影响电信行业的四个重要方式,以及电信公司如何采用人工智能来释放机遇和应对挑战。这可能会影响底线(通过优化资本支出和运营支出来提高总体拥有成本)或底线(通过创造新收入)。请参见 AI 驱动的电信公司 了解更多信息。

1 .提高电信运营效率

AI 通过每天从网络元素到客户交互收集的 TB 级数据,以及由此产生的见解,提供 提高运营效率 。这些见解用于预测性维护和容量规划;最大化网络性能和用户体验;以及打击网络威胁和优化服务。

例如, AT & T 正在使用 NVIDIA RAPIDS 处理数万亿条记录,以使团队能够优化网络并提高客户满意度,同时节省成本。请参见 快速拨号器: AT & T 如何利用数据科学带来新机遇 了解更多信息。

2 .更好的客户体验

无论是在网络、零售前哨还是在呼叫中心,人工智能都能为改善客户体验的行为提供可操作的见解。通过 对话式 AI 、化身和推荐系统 等技术,人工智能可以增强与语音代理和个性化交互的客户互动,包括支付提醒和促销活动。

获奖客户关怀演讲 AI 所述, T-Mobile 正在使用 NVIDIA 对话式 AI 为其联络中心的实时语音到文本解决方案提供动力。 Cloudera 正在使用大数据分析为电信公司的客户行为建模,如 加快电信公司客户行为建模 所述。

Graphic showing a matrix of how AI is transforming the telecom value chain in four areas: AI-based customer experience management tools; AI-enabled new products and services; AI for improving telecom operations; and AI for network planning, deployment, and management.
图 3 。人工智能将改变电信价值链的四个领域

3 .更有效的电信基础设施

人工智能正在通过多种方式使构建有效基础设施的任务变得更容易,包括:

这些机会 ,特别是对 RAN 的影响,这是最深刻的 ,刺激了包括 3GPP 和 ORAN 在内的标准机构的活动和行动。有关详细信息,请参见 在 5G 中拥抱人工智能,迈向 6G : 3GPP 和 O-RAN 的联合视角

4 .电信市场的新产品和服务

人工智能提供了有用的功能,使电信公司能够推出新的产品和服务。对于消费者来说,这些服务可以从网络内部深处发出(例如,可配置的 QoS )。它们也可以是顶级服务,如 AI 供电的呼叫中心解决方案或高级视频会议。它们也通过 辅助边缘/云设施 (例如,云游戏)提供。

对于企业而言,人工智能提供 connected intelligence 功能,使工业用户能够引导交通流、引导自动驾驶车辆,并使工厂更智能、更高效地挑选和包装货物。参见 通电: 5G 和 VR 加速车辆电池设计 了解一个示例。

视频分析可用于各个行业,以转变运营并实时提供见解。人工智能和 5G 的互联智能确保边缘人工智能能够克服移动性、速度、延迟、可靠性和安全性的限制,并更好地定位和遵守数据驻留规则。

加速计算如何改变电信运营

Accelerated computing 是电信行业人工智能的引擎引擎。它使用并行处理来加速高要求应用程序的工作,如 AI 、数据分析、模拟和可视化。它将 CPU 与专用硬件(如 GPU 和 DPU )混合在异构计算架构中,以显著加快 AI 处理速度(图 4 )。

Graphic showing how GPU and DPUs deliver accelerated computing.
图 4 。加速计算是人工智能的引擎动力

加速计算的出现是创新无止境的经典故事。它出现在 PC 时代,支持图形和游戏的可视化。现在,它是云超级计算机的一个组成部分,它为不同行业垂直领域的企业提供了 高性能计算( HPC )平台 支持计算密集型工作负载。

加速计算以三种方式为创新和应对挑战提供了硬件计算能力,详情如下。

1.GPU 用于 AI 工作负载的计算基础设施

电信行业中大多数基于人工智能的创新都是通过将 GPU 用于数据科学、可视化和游戏工作量处理而实现的。电信公司正在其网络上部署 GPU ,以支持电信工作负载和人工智能工作负载。例如, Verizon 为边缘 AI 服务创建了分布式 GPU 数据中心网络。请参见 Verizon 如何革命性地从云端获取高性能计算服务 了解更多信息。

2 .使用 GPU 加速 RAN 工作负载

RAN ,尤其是物理层( L1 –第 1 层),是 5G 网络中计算量最大的部分。这是因为它涉及一些最复杂的数学和复杂的算法,如信道估计、调制、解调和前向纠错( FEC )。一个主要的行业挑战是继续 满足 L1 的计算需求,同时过渡到更开放和软件定义的体系结构

GPU 由于其巨大的并行性和对 CUDA 编程的依赖性,提供了 满足 RAN 的硬件和可编程性要求的令人信服的解决方案。 这对业界来说是一项重大创新,因为它提供了一种开放、可编程和完全内联的 L1 卸载,无论是使用专用 ASIC 的传统方法还是使用 FPGA 的最新适应都无法提供这种卸载。

OpenAirInterface 软件联盟( OSA )已经演示了 5G vRAN 的 GPU 加速,如 使用 NVIDIA Aero SDK 和 OAI 演示 5G 虚拟 RAN 所述。在这个轨道上, GPU 最终将用于加速整个 5G RAN 堆栈和 5G 核心功能。

3 .优化 CPU 与 DPU 的使用

在提供网络、安全和存储的标准功能时, DPU (或其前身 SmartNIC )有助于优化其主机 CPU 的性能。例如,前端传输的计时可能是一个主要挑战, NVIDIA 5G For 5T 解决方案使用硬件卸载提供实时数据传输。要了解更多信息,请参见 用 5G 的 5T 和 NVIDIA Aero SDK 改造下一代无线技术

虽然 GPU 可以在 5G RAN 上提供全在线加速,但一组辅助基础设施工作负载(如网络和安全)仍需要通过 CPU 路径。 DPU 非常适合 卸载、加速和隔离这些基础设施任务 ,有助于提高性能、效率和安全性。以这种方式在 5G RAN 中使用, DPU 可以将所有 L1 eCPRI 数据带入 GPU ,而数据路径中没有 CPU 。

结论

为了延续其提供转型连接的百年历史,电信行业需要技术、经济和政策创新来应对关键挑战。这篇文章强调了可能影响电信公司整体财务业绩的五个关键挑战。以人工智能为动力的电信公司被充分授权使用人工智能和加速计算来应对这些挑战。

NVIDIA 提供关键技术平台,支持电信公司在其网络和运营以及整个业务中采用人工智能和加速计算。访问 NVIDIA Telecommunications NVIDIA 空中 SDKNVIDIA AI-on-5G ,了解 NVIDIA 如何与合作伙伴合作,推动电信行业的人工智能和加速计算创新。

 

Tags