对话式人工智能

聚焦:个人 AI 借助 NVIDIA Riva 为小企业主带来 AI 接待员

星期二晚上 10 点,Sapochnick Law Firm (一家位于加利福尼亚州圣地亚哥的专业律师事务所) 的电话铃响了。作为这家公司的客户,打电话的人在电话铃响时焦急万分。他们收到了一封包含可能改变生活的消息的重要信件,并向律师提出了紧急问题。

客户很快意识到 Sapochnick 团队可能在几小时前离开了办公室,但他们一直在排队等待,希望至少有一个语音邮件问候可以提供某种帮助。没有录音,声音用热情、专业的问候打破了沉默。双方之间自然而然地展开了对话,很明显,律师事务所发出的声音远不止接电话。该公司精通细致入微的移民程序,熟悉该公司处理特定法律场景的方法,最重要的是,该公司拥有公司创始人 Jacob Sapochnick 广泛的专有知识。

这种真正的互动之所以能够实现,是因为 Personal AI Receptionist 是一项由 Personal AI 和 NVIDIA Riva 团队协作提供的服务。Personal AI 是一个即用型平台,可让企业用户根据特定用户角色创建 AI 工作者,并在组织的独特知识库上进行训练。NVIDIA Riva 是一套用于构建对话式 AI 工作流的语音和翻译 AI 微服务,通过实现自然、真实的对话,使这些角色如生。Personal AI 自 2020 年以来一直是 NVIDIA Inception 计划的成员,它还在其他解决方案中使用 NVIDIA Dynamo Triton 优化推理,并使用 NVIDIA Maxine 增强视频会议,从而打造更加身临其境的 AI 体验。

Sapochnick Law Firm 的创始人 Jacob 说:“我们一直专注于提供卓越的法律服务,同时保持与客户的个人联系。”。“我们拥有成千上万的客户和数百万的社交媒体关注者,因此我们全天候接听大量电话。借助 Personal AI Receptionist,我们可以接触到更多的人,并为更多客户提供有关不断变化的移民法的准确、最新知识,从而使我们的团队能够专注于真正重要的事情 — — 浏览案例并确保取得成功结果。这是一项颠覆性技术。”

律师事务所需要提升

从个人从业者到精品办公室和大型公司,许多法律实践都在与过时的软件抗争。但是,像 Personal AI Receptionist 这样的 AI 解决方案可以将其知识和功能塑造到单个公司,让成千上万的法律实践触手可及。重要的是,该功能完全由律师自己管理和控制。现在,借助 NVIDIA Riva,该 AI 能够通过电话进行自然的语音交互。

Personal AI 首席执行官 Suman Kanuganti 解释说:“任务关键型用例需要适应它们的技术,而不是相反。”我们很高兴能将传统企业带入 21 世纪,帮助他们更高效地为更多客户提供服务。

AI 角色的工作原理

AI 角色是工作职能或人员的数字表示,发挥现实世界对应方的作用。每个模型都建立在独特的 Personal Language Model (PLM) 上,能够承载长期记忆和执行特定工作所需的特定上下文。PLM 代表小语言模型 (Small Language Models, SLM) 的专门实现,旨在通过分布式架构编排 AI 专家的组合。PLM 能够以超高的准确性和精度处理个人和专有数据,同时大规模维护隐私和安全性。

Personal AI's "Create an AI Persona" interface displaying financial services persona templates including Corporate Strategist, Investment Banker, Quantitative Analyst, CFO, Risk Management Specialist, and more. A Trading Strategy Architect option is highlighted with a description stating "You are an advanced AI Trading Strategy Architect with expertise in algorithmic trading and market microstructure. Your background includes 15+ years of quantitative trading experience.
图 1. Personal AI 的角色创建界面,展示各种金融服务 AI 助手模板。

Sapochnick 律师事务所使用的 AI 用户角色了解不同的实践领域、处理常见案例的方法、对微妙法律问题的解答等。Jacob 指出:“我们的用户角色理解特定于移民法的常见问题和接收流程。”。它们有助于消除沟通瓶颈并处理日常查询,从而为我们的团队提供更多时间”。

Personal AI Receptionist 的 即用型应用

这项技术的应用遍及各行各业。

  • 房地产经纪人角色解决有关上市属性、开放日和申请程序的问题。
  • 咖啡馆、烘焙店和餐厅等小型企业使用 Personas 与客户讨论菜单、查看政策并帮助预订。
  • 家庭护理实践、牙科医生和眼科医生使用角色来帮助患者制定账单、保险和预约安排。

这些 AI 角色保持专业标准和个人风格,使每个业务都独一无二,同时扩展运营能力。名为“Multi-Memory”(通常被理解为关系记忆)的特定功能允许用户角色识别来电者,并将过去的对话用作上下文。例如,一位烘焙顾客打来电话订购,角色可以参考一个月前的一份巧克力牛角包订单,并重点提及该烘焙店的新巧克力 核仁 牛角包。

技术的工作原理

个人 AI 语音处理的核心是 NVIDIA Riva 的 自动语音识别 (ASR) 微服务,该微服务在处理手机音频数据方面表现出色。Riva 的可扩展性对于处理客户不同负载的并发语音处理请求尤为重要,可在不影响转录质量的情况下实现一致的性能。

A smartphone conversation between a caller named Samara and an AI assistant for Sapochnick Law Firm. The conversation shows the caller mentioning an urgent immigration letter, providing case number 2025-CV-0412-AI, and the AI assistant asking follow-up questions about the type of correspondence (USCIS notice, court document, etc.) to provide better assistance.
图 2. Sapochnick Law Firm 客户与 Personal AI Receptionist 进行实时对话的通话记录。

个人 AI 使用云端 GPU 和 NVIDIA Parakeet Riva NIM 实现准确、实时的转录和低延迟,这两者对于保持自然对话流至关重要。在推理时微调模型的能力可提高特定领域术语的词汇量,从而进一步提高模型的准确性。转录内容直接输入专有的 Personal Language Models ,这些模型会处理文本以生成与上下文相关的回答。Riva 在处理电话音频(包括压缩音频格式和可变连接质量)方面的性能使广泛且不断扩展的现实用例成为可能。

如何获得个人 AI 接待员

Personal AI 正在与电信公司合作,通过电话套餐直接推出 Personal AI Receptionist。企业客户只需启用其 Personal AI Receptionist,上传企业特定的内存以进行训练,然后选择希望其 Receptionist 处理的任务即可。其余的都由我们来处理,只需打个电话就能联系到 Receptionist。

Personal AI's document upload interface for the Sapochnick Law Firm, displaying upload history with immigration-related documents including "USCIS filing procedures," "RFE response templates," consultation notes, and multiple immigration law documents from June 2024. The interface shows upload options for files, URLs, text, and media.
图 3. Personal AI 的 AI Training Studio,企业可以在其中上传和管理其 AI 接待员的知识库。

要探索这些功能及其背后的技术,请访问 Personal AI

有关 NVIDIA 语音和翻译 AI 的更多信息,请参阅 NVIDIA Riva

如需详细了解面向初创公司的 NVIDIA Inception 计划, 请访问该计划网页。

 

标签