了解电信行业中的 AI

人工智能（AI）包含模拟智能和解决问题的过程和算法。机器学习（ML）和深度学习（DL）则是人工智能（AI）的一个子类，是指利用算法检测数据中的模式并预测结果。

近年来，由于 AI、ML 和 DL 应用领域取得了极大的进展（例如易于获取的大语言模型（LLM）），许多行业都出现了不少新的用例，如零售业的个性化推荐和金融业的欺诈检测。在电信行业中，这些创新已经成为业务的一部分。

许多领先的电信服务提供商多年来一直在使用预测性 AI 来提高运维效率。有些还会使用生成式人工智能（gen AI）来改善客户体验，同时增强其在市场上的竞争力。然而，电信运营商在应用 AI 方面也面临一些障碍，包括初始资本支出、安全性问题以及处理大量数据的挑战。IT 解决方案可以帮助您经济高效地使用 AI 工具，从而创造新收入，同时保护客户信息的安全。

AI 技术的运用有助于克服电信业务中面临的诸多挑战：

• 成本上升：为了保持竞争力，电信运营商已投入了大量的资源改造升级。例如，它们在基础架构方面花费了大量的资金来改造网络，以便利用 5G 和 AI 技术，提供人们所期待的新服务和应用。使用 AI 来提高网络效率或降低维护成本，有助于缓解此类成本上涨带来的影响。
• 竞争激烈：随着客户期望值的提高以及竞争对手服务范围的扩大，行业竞争日益激烈。通过提供由 AI 增强的新服务，如服务聊天机器人和更高效管理的网络流量等，就有望超越电信行业的竞争对手。
• 网络管理和复杂性：随着流量的增加，全球性的网络也日趋复杂，因此需要更多的资源对其进行管理。
• 数据处理能力不足：电信用户群会产生大量有用的数据。然而，许多电信运营商缺乏分析这些数据的资源，因此无法更高效和有效地服务客户。

如何在企业中采用 AI 技术

您可以利用 AI/ML 来应对电信行业的这些挑战。以下是一些用例：

• 网络优化： AI 可以帮助分析网络流量以预测网络拥塞，并重新路由流量以避免网速变慢。这可以带来更好的客户体验，并有助于避免产生不必要的成本。
• 网络保障和预测性维护： AI 可以分析历史数据，预测网络及其基础架构中可能出现故障的部分。这能够为您提供更多的时间来主动规划维护工作，从而得以降低成本。
• 网络效率：将预测性 AI 应用于高质量语音和视频可以减少网络流量的使用。例如，前向纠错（FEC）或使用擦除校正码（ECC）可以通过提前创建修复数据包的方式，保护数据免受丢包的影响。这些数据包可以用来重新创建丢失的数据。
• 服务聊天机器人： AI 模型可以利用聊天机器人解答常见问题，来加快客户服务请求的处理速度，从而腾出人力来处理升级或其他问题。

尽管 AI 可以帮助您克服电信业务面临的挑战，但采用 AI 技术往往困难重重。有些障碍其实在业内非常普遍，比如客户犹豫不决、担心隐私问题和成本高等，这些痛点影响着整个行业发展的速度。

对 AI 的不信任
客户可能抗拒与 AI 解决方案打交道，更倾向于与真人而非聊天机器人交流，特别是处理服务问题时。无论客户犹豫是因为对新事物畏惧，还是舍不得传统系统带来的“舒适区”，都可能阻碍向 AI 完全过渡。

数据质量
数据质量对于数据密集型 AI 应用的成功至关重要，例如预测性维护和服务自动化。这些应用的有效性取决于其处理的数据的质量。例如，如果数据质量较低，AI 模型可能无法准确预测维护需求。要确保输入到模型的数据足够准确而充分，至关重要的一点是要实施一个平台来帮助您在混合云环境中大规模创建和交付支持 AI 的应用。

与现有基础架构的兼容性
电信企业必须将 AI 服务与 5G 网络和传统系统相集成。要做到这一点，需要部署一个同时支持现代和传统网络并且能够处理 AI 工作负载的统一平台。

隐私问题
在 AI 建模中，保护客户隐私数据至关重要。电信运营商需要一个能够与可信 AI 工具生态系统集成的 AI 平台，以便运营商知道数据输入到何处、谁可以访问这些数据以及哪些数据面临暴露风险。可以为 AI 工作负载部署一个一致、可靠的平台，无论在何种云环境中都能实现全面的运维、可观测性和安全防护。

成本
鉴于电信网络的规模和复杂性，将 AI 集成到电信行业的成本相当高。您需要仔细评估每个 AI 用例的潜在投资回报率（ROI），以证明初期投资的合理性。

人才招聘
聘请熟练的专业人员至关重要。电信是一个专业领域，AI 专业人员必须具备数据科学技能和大型复杂网络系统的相关工作经验。想要在行业中有效实施和管理 AI 技术，就必须同时兼顾这种双重专业技能。

能否成功大规模部署 AI 工作负载，取决于各个组成部分之间协同工作的效率和效果。具体而言，能够支持更大的 AI 模型（如 LLM）及其更复杂的推理功能的推理服务器，对于扩展企业的 AI 工作负载至关重要。

这些 AI 工具可帮助工程师更高效地利用资源，从而实现扩展： 

• llm-d：LLM 提示词往往复杂且不统一，处理海量数据通常需要大量计算资源与存储支持。llm-d 这类开源 AI 框架让开发人员可借助分布式推理等技术，满足 LLM 等复杂大型推理模型日益增长的需求。
• 分布式推理：分布式推理通过将推理任务分配给一组互联设备，使 AI 模型能够更高效地处理工作负载。这相当于软件领域的“众人拾柴火焰高”。
• vLLM：vLLM 是虚拟大语言模型的简称，它是一个由 vLLM 社区维护的开源代码库。该代码库有助于大语言模型（LLM）更高效地大规模执行计算。

探索红帽 AI

红帽 AI 是一个包含各种产品与服务的平台，能够在您企业 AI 旅程的任何阶段提供帮助，无论您是刚刚起步，还是准备进行扩展。针对您企业独特的用例，它既能支持生成式 AI，也能支持预测性 AI 相关工作。

借助红帽 AI，您就可以访问红帽® AI 推理服务器，在混合云上优化模型推理，从而实现更快、更具成本效益的部署。推理服务器由 vLLM 提供支持，可最大限度提高 GPU 利用率，加快响应速度。

了解有关红帽 AI 推理服务器的更多信息

红帽 AI 推理服务器还包含红帽 AI 存储库，这是一个经过第三方验证和优化的模型集合，既能保证模型选择的灵活性，又能促进跨团队的一致性。通过接入第三方模型存储库，企业能够显著缩短推向市场所需的时间，并降低 AI 成功落地的成本门槛。

了解有关经红帽 AI 验证的模型的更多信息