如今，各行各业的客户服务部门都面临着呼叫量增加、客服人员流失率高、人才短缺以及客户期望一直在变化等挑战。

  客户希望既能有自助选项，也有人工客服提供实时支持。这种对无缝、个性化体验的期望，延伸到了各种数字通信渠道，包括即时聊天、短信交流和社会化媒体等。

  尽管各种数字渠道慢慢的变多，但许多消费者仍喜欢通过打电话寻求支持，这给呼叫中心带来了压力。在企业全力提升客户互动质量的同时，运营效率和成本仍然是需要仔细考虑的一个重要问题。

  为了应对这些挑战，企业正在部署 AI 驱动的客服软件，以提高客服专员的工作效率，实现客户互动的自动化，并获取能够优化运营的洞察。

  几乎在每一个行业，AI 系统都可以帮助提升服务质量和客户满意度。例如，零售商正在使用对话式 AI 帮助管理全渠道客户请求；电信运营商正在加强网络故障排除能力；金融机构正在实现日常银行业务的自动化；医疗机构正在加强自身的患者护理能力。

  在战略层面部署 AI，企业可以通过直观的问题解决方案深入改变与客户的互动方式，从而提高运营效率，提升客户满意度。

  通过利用来自客服支持互动、常见问题文档和其他企业资源的客户数据，企业能够开发出基于他们组织的独有的集体知识和经验的 AI 工具，来提供个性化服务、产品建议和主动支持。

  大语言模型（LLM）等可定制的开源生成式 AI 技术，结合自然语言处理（NLP）和检索增强生成（RAG），正在帮助各行各业加快推出针对特定用途的客服 AI。根据麦肯锡的数据，80% 以上的客户服务主管已经在或计划在不久后投资 AI。

  借助具有高性价比的定制 AI 解决方案，企业正在实现服务台客服工单的自动化管理，创建更加有效的自助服务工具，并通过 AI 助手为客服专员提供支持。这可以显著降低运营成本和改善客户体验。

  为了实现令人满意的实时互动，AI 驱动的客服软件必须作出准确、快速且相关的回答。以下是实现这一目标的一些诀窍：

  一些开源基础模型可加速 AI 的开发。开发人员可以灵活地调整和增强这些预训练机器学习模型，企业也可以使用它们启动其 AI 项目，且无需耗费从头开始构建模型所产生的高昂成本。

  RAG RAG 框架将基础或通用 LLM 连接到专有知识库和数据源，包括库存管理、客户关系管理系统和客户服务协议。将 RAG 集成到对话式聊天机器人、AI 助理和智能助手，就可以根据客户询问具体内容的上下文定制回答。

  “人在回路（human-in-the-loop）”流程对 AI 训练和实时部署始终至关重要。在对基础模型或 LLM 进行初步训练后，人工审核员应判断 AI 的回答并提供纠正反馈。这有助于防止出现错觉（即模型生成错误或误导性的信息）等问题，以及避免其他错误，例如有害或偏离主题的回答等。这类人工参与可确保在开发 AI 的过程中充分考虑到公平性、准确性与安全性。

  而人工的参与对于部署到生产中的 AI 更为重要。当 AI 无法充分解决客户问题时，程序必须能够将呼叫转接给客服团队。AI 与人工座席之间的这种合作方式保证了客户互动兼具高效和同理心。

  客服 AI 的投资回报率（ROI）应主要根据效率的提高和成本的降低予以衡量。为了量化 ROI，企业可以评估一些关键指标，例如响应时间的缩短、联络中心运营成本的降低、客户满意度的提高以及 AI 增强的服务所带来的收入增长等。

  例如，使用开源模型实现 AI 聊天机器人的成本，可以将与通过传统呼叫中心解决客户询问所产生的费用进行比较。建立这项基准有助于评估部署 AI 对客服业务的财务影响。

  为了在扩大 AI 部署规模之前更深入地了解该项投资的 ROI，企业可以考虑试行一段时间。例如，在 1 至 2 个季度内将 20% 的呼叫中心流量转接到 AI 解决方案，并密切监控结果，这样企业就能获得具体的效率提升和成本节约数据。该方法有助于证明 ROI，并为进一步的投资提供决策依据。

  无论在实体店内还是电商网站上，当今的购物者都希望能获得流畅、高效的个性化购物体验。各年龄层的客户仍然会优先选择实时人工服务，但同时也希望能够选择使用不同的渠道。但来自不同客户群的复杂客户问题，可能会使客服专员难以快速理解和解决收到的请求。

  为了应对这些挑战，许多零售商正在转向使用对话式 AI 和基于 AI 的呼叫转接。根据 NVIDIA 发布的零售与快速消费品行业 AI 现状：2024 年趋势调研报告，近 70% 的零售商表示采用 AI 已经提高了他们的年营业收入。

  泰国 7-Eleven 便利店的独家特许运营商 CP All 在其呼叫中心采用了对话式 AI 聊天机器人，其呼叫中心每天接到超过 25 万通电线 个声调，其复杂性给机器人训练带来了特殊的挑战。

  CP All 使用了 NVIDIA NeMo 来解决这个问题。NVIDIA NeMo 是一个用于构建、训练和微调 GPU 加速语音和自然语言理解模型的框架。借助 NVIDIA 技术驱动的自动语音识别和 NLP 模型，CP All 的聊天机器人理解泰语口语的准确率达到了 97%。

  随着大量客户对话交由对话式聊天机器人处理，人工专员的接听工作量减少了 60%，这使客服团队可以专注于更加复杂的任务。聊天机器人还帮助减少了客户等待时间并作出更加快速、准确的回答，提升了客户满意度。

  借助 AI 驱动的客服体验，零售商能够维系更多客户，增强品牌忠诚度和提高销售量。

  电信运营商面临的挑战是既要解决复杂的网络问题，又要遵守与终端客户签订的服务级别协议并保证协议所规定的网络正常运行时间。为了保持网络性能，电信运营商必须能够快速排除网络设备故障、找出根本原因并解决网络运营中心的问题。

  生成式 AI 能够分析海量数据603138）、自主排除网络故障并同时执行多项任务，是网络运营中心的理想选择。IDC 的一项调查表明，73% 的全球电信企业已将能够支持运营的 AI 和机器学习投资作为其首要转型举措，显示出该行业正在转向 AI 和先进技术。

  新一代数字服务和咨询领域的一家领先企业 Infosys 构建了 AI 驱动的解决方案，帮助其电信合作伙伴克服客服挑战。Infosys 使用 NVIDIA NIM 推理微服务和 RAG 开发了一个 AI 聊天机器人，用来帮助排除网络故障 。

  通过提供对基本、不依赖于特定供应商的路由器命令的快速访问以进行诊断和监控，这个生成式 AI 驱动的聊天机器人大大缩短了网络故障排除时间，从而提升了整体客服体验。

  为确保准确性和作出符合语境的回答，Infosys 使用特定电信设备的手册、培训文档和故障排除指南对生成式 AI 解决方案进行了训练。通过使用 NVIDIA NeMo Retriever 查询企业数据，Infosys 的 LLM 输出准确率达到了 90%。而在使用 NVIDIA 技术对模型进行微调和部署后，Infosys 将延迟减少至 0.9 秒，与基准模型相比减少了 61%。使用基准模型的聊天机器人准确率为 85%，使用NeMo Retriever 驱动的 RAG 聊天机器人的准确率达到了 92%。

  通过支持网络管理员、IT 团队和客服专员的 AI 工具，电信运营商能够更加高效地发现和解决网络问题。

  金融服务机构需要保持更高的数据敏感性，而客户希望能够随时随地办理银行业务和获得支持。不同于其他可能包含一次性买卖的行业，银行业通常建立在持续交易和长期客户关系的基础上。

  与此同时，用户的忠诚度可能稍纵即逝，多达 80% 的银行客户愿意为了获得更好的体验而更换机构。因此，金融机构必须不断改进客服体验并更新对客户需求和偏好的分析。

  许多银行正开始使用能够直接与客户互动的 AI 虚拟助手处理询问、执行交易和将复杂问题上报给人工客服专员。NVIDIA 的 2024 年金融服务业中国 AI 现状与趋势显示，超一半（44%）的中国受访者正在使用 AI 改善客户体验，42% 的中国受访者正在探索使用生成式 AI 和 LLM 改善客户体验和互动。

  拥有数百万客户和价值 80 亿欧元存款的欧洲数字银行 Bunq 正在部署生成式 AI 满足用户需求。借助自主开发的 LLM，Bunq 构建了面向 Bunq 客户的 AI 个人助手 Finn 。Finn 可以回答与金融相关的问题，比如“我上个月在生活用品上花了多少钱？”“我上周去的印度餐厅叫什么名字？”等。

  此外，通过“人在回路（human-in-the-loop）”流程，Finn 还能帮助员工更快识别欺诈行为。通过采集并分析供合规人员审核的数据，Bunq 将识别欺诈行为的时间从原来的 30 分钟缩短至 3 到 7 分钟。

  通过部署能够利用数据保护客户交易、执行银行业务请求并根据客户反馈采取行动的 AI 工具，金融机构可以为客户提供更高水平的服务，建立信任，提高满意度，维持长期关系。

  在医疗健康行业，患者需要快速获得专业医疗服务、精准的定制治疗方案以及与专业医护人员富有同理心的互动。但世界卫生组织估计到 2030 年，该行业将出现 1000 万的人员缺口，这可能会影响优质医疗服务的供应。

  AI 驱动的数字医疗助手正在帮助医疗机构事半功倍。借助在专业医疗语料库上训练而成的 LLM，AI 智能助手可以帮助医生和护士记录临床笔记、自动下达处方和化验单并跟进患者就诊后的病历记录，为医生和护士节省日常工作时间。

  结合了语言和视觉模型的多模态 AI 可以通过提取洞察和提供图像数据摘要监测患者，从而提高医疗环境的安全性。例如，这项技术可以提醒工作人员注意患者跌倒的风险和病房中的其他危险。

  为支持专业医护人员，Hippocratic AI 训练了一个生成式 AI 医疗健康智能体，用于执行低风险、非诊断性常规任务，例如提醒患者做好必要的预约准备工作，并在就诊后持续跟进，确认患者遵守用药规范且没有出现不良副作用。

  Hippocratic AI 以循证医学为基础对其模型进行了训练，并与一大批正规护士和医生一起完成了严格的测试。该解决方案的群集架构由 20 个模型组成，其中 1 个模型与患者交流，另外 19 个模型监督该模型的输出。整个系统包含 1.7 万亿个参数。

  每个医生和患者都有可能拥有自己的 AI 数字医疗助手，这将减少临床医生的工作负担，提高医疗服务的品质。

  通过将 AI 整合到客服互动中，公司能够提供更加个性化、高效且及时的服务，树立跨平台全渠道客服体验的新标杆。借助可在数秒内处理大量数据的 AI 虚拟助手，企业客服专员能够针对不同客户群的复杂需求作出量身定制的回答。

  为了开发和部署行之有效的客服 AI，公司能够对 AI 模型进行微调并部署 RAG 解决方案，以满足各种特定需求。

  NVIDIA NIM 微服务作为 NVIDIA AI Enterprise 软件平台一部分，能够加速生成式 AI 的部署并支持各种专为实现无缝、可扩展的推理而优化的 AI 模型。NVIDIA NIM Agent Blueprints 为开发者提供全套的参考示例，帮助他们构建创新的客服应用解决方案。

  公司能够充分利用 AI 开发工具构建精准、高速的 AI 应用，深入改变员工和客户的体验。