生成式人工智能

释放 Phi-2 小语言模型在聊天、研究、编码等领域的强大功能

本周发布的模型采用了 NVIDIA 优化后的语言模型 Phi-2,该模型适用于各种自然语言处理 (NLP) 任务。用户可以直接在浏览器中体验 Phi-2。

NVIDIA AI 基础模型和端点 是一套精心策划的社区和 NVIDIA 构建的生成式 AI 模型,用于在企业应用程序中体验、自定义和部署。尝试在 NVIDIA AI Playground 中使用 Nemotron-3, Mixtral 8x7B, Lama 2 70B 以及 Stable Diffusion XL 稳定漫反射

当 AI 模型准备好进行业务运营部署时,企业支持至关重要。NVIDIA AI Enterprise 提供安全性、支持、稳定性和可管理性,以提高 AI 团队的工作效率,降低 AI 基础设施的总成本,并确保从 POC 到生产的平稳过渡。

什么是 Phi-2?

Phi-2 是由 Microsoft Research 开发的具有 27 亿个参数的小型语言模型 (SLM).它展示了常用推理和语言理解方面的先进性能,在各种基准测试中的表现优于大型模型。

该模型使用具有课本级质量的数据和精心挑选的网络数据进行训练,这使其成为大型语言模型的高效替代方案。Phi-2 旨在提高便携性,可在云端和本地使用,为各种 AI 应用提供前景光明的解决方案。

与其他语言模型相比,Phi-2 的优势包括成本效益、性能、便携性,以及降低的功耗和计算需求。

Phi-2 可用于各种 NLP 任务,包括但不限于研究、自定义应用程序、聊天功能以及涉及语言理解、数学和编码的任务。

开始使用 Phi-2

NVIDIA 优化了 Phi-2,您可以通过 NVIDIA NGC 目录使用简单的用户界面直接从浏览器体验 Phi-2、

Screenshot of the Phi-2 model, a small language model running in the NGC catalog user interface, where the model understands natural language and generates responses based on user input prompt.
图 1.根据用户提示生成响应的 Phi-2 模型示例

请访问 Phi-2 游乐场 输入提示,然后查看在完全加速的堆栈上运行的模型生成的结果。

您还可以使用 API 测试模型。登录 NGC 目录 然后访问 NVIDIA Cloud Credits,通过将应用程序连接到 API 端点来大规模体验模型。

Tags