星期二晚上 10 点,Sapochnick Law Firm (一家位于加利福尼亚州圣地亚哥的专业律师事务所) 的电话铃响了。作为这家公司的客户,打电话的人在电话铃响时焦急万分。他们收到了一封包含可能改变生活的消息的重要信件,并向律师提出了紧急问题。
客户很快意识到 Sapochnick 团队可能在几小时前离开了办公室,但他们一直在排队等待,希望至少有一个语音邮件问候可以提供某种帮助。没有录音,声音用热情、专业的问候打破了沉默。双方之间自然而然地展开了对话,很明显,律师事务所发出的声音远不止接电话。该公司精通细致入微的移民程序,熟悉该公司处理特定法律场景的方法,最重要的是,该公司拥有公司创始人 Jacob Sapochnick 广泛的专有知识。
这种真正的互动之所以能够实现,是因为 Personal AI Receptionist 是一项由 Personal AI 和 NVIDIA Riva 团队协作提供的服务。Personal AI 是一个即用型平台,可让企业用户根据特定用户角色创建 AI 工作者,并在组织的独特知识库上进行训练。NVIDIA Riva 是一套用于构建对话式 AI 工作流的语音和翻译 AI 微服务,通过实现自然、真实的对话,使这些角色如生。Personal AI 自 2020 年以来一直是 NVIDIA Inception 计划的成员,它还在其他解决方案中使用 NVIDIA Dynamo Triton 优化推理,并使用 NVIDIA Maxine 增强视频会议,从而打造更加身临其境的 AI 体验。
Sapochnick Law Firm 的创始人 Jacob 说:“我们一直专注于提供卓越的法律服务,同时保持与客户的个人联系。”。“我们拥有成千上万的客户和数百万的社交媒体关注者,因此我们全天候接听大量电话。借助 Personal AI Receptionist,我们可以接触到更多的人,并为更多客户提供有关不断变化的移民法的准确、最新知识,从而使我们的团队能够专注于真正重要的事情 — — 浏览案例并确保取得成功结果。这是一项颠覆性技术。”
律师事务所需要提升
从个人从业者到精品办公室和大型公司,许多法律实践都在与过时的软件抗争。但是,像 Personal AI Receptionist 这样的 AI 解决方案可以将其知识和功能塑造到单个公司,让成千上万的法律实践触手可及。重要的是,该功能完全由律师自己管理和控制。现在,借助 NVIDIA Riva,该 AI 能够通过电话进行自然的语音交互。
Personal AI 首席执行官 Suman Kanuganti 解释说:“任务关键型用例需要适应它们的技术,而不是相反。”我们很高兴能将传统企业带入 21 世纪,帮助他们更高效地为更多客户提供服务。
AI 角色的工作原理
AI 角色是工作职能或人员的数字表示,发挥现实世界对应方的作用。每个模型都建立在独特的 Personal Language Model (PLM) 上,能够承载长期记忆和执行特定工作所需的特定上下文。PLM 代表小语言模型 (Small Language Models, SLM) 的专门实现,旨在通过分布式架构编排 AI 专家的组合。PLM 能够以超高的准确性和精度处理个人和专有数据,同时大规模维护隐私和安全性。

Sapochnick 律师事务所使用的 AI 用户角色了解不同的实践领域、处理常见案例的方法、对微妙法律问题的解答等。Jacob 指出:“我们的用户角色理解特定于移民法的常见问题和接收流程。”。它们有助于消除沟通瓶颈并处理日常查询,从而为我们的团队提供更多时间”。
Personal AI Receptionist 的 即用型应用
这项技术的应用遍及各行各业。
- 房地产经纪人角色解决有关上市属性、开放日和申请程序的问题。
- 咖啡馆、烘焙店和餐厅等小型企业使用 Personas 与客户讨论菜单、查看政策并帮助预订。
- 家庭护理实践、牙科医生和眼科医生使用角色来帮助患者制定账单、保险和预约安排。
这些 AI 角色保持专业标准和个人风格,使每个业务都独一无二,同时扩展运营能力。名为“Multi-Memory”(通常被理解为关系记忆)的特定功能允许用户角色识别来电者,并将过去的对话用作上下文。例如,一位烘焙顾客打来电话订购,角色可以参考一个月前的一份巧克力牛角包订单,并重点提及该烘焙店的新巧克力 核仁 牛角包。
技术的工作原理
个人 AI 语音处理的核心是 NVIDIA Riva 的 自动语音识别 (ASR) 微服务,该微服务在处理手机音频数据方面表现出色。Riva 的可扩展性对于处理客户不同负载的并发语音处理请求尤为重要,可在不影响转录质量的情况下实现一致的性能。

个人 AI 使用云端 GPU 和 NVIDIA Parakeet Riva NIM 实现准确、实时的转录和低延迟,这两者对于保持自然对话流至关重要。在推理时微调模型的能力可提高特定领域术语的词汇量,从而进一步提高模型的准确性。转录内容直接输入专有的 Personal Language Models ,这些模型会处理文本以生成与上下文相关的回答。Riva 在处理电话音频(包括压缩音频格式和可变连接质量)方面的性能使广泛且不断扩展的现实用例成为可能。
如何获得个人 AI 接待员
Personal AI 正在与电信公司合作,通过电话套餐直接推出 Personal AI Receptionist。企业客户只需启用其 Personal AI Receptionist,上传企业特定的内存以进行训练,然后选择希望其 Receptionist 处理的任务即可。其余的都由我们来处理,只需打个电话就能联系到 Receptionist。

要探索这些功能及其背后的技术,请访问 Personal AI 。
有关 NVIDIA 语音和翻译 AI 的更多信息,请参阅 NVIDIA Riva 。
如需详细了解面向初创公司的 NVIDIA Inception 计划, 请访问该计划网页。