人工智能正在影响着每一个行业，从改善客户服务和简化供应链到加速癌症研究。当企业投资人工智能以保持领先于竞争时，他们往往难以找到成功的战略和基础设施。许多人工智能项目正在快速发展，这使得大规模生产尤其具有挑战性。
我们相信开发规模化的产品级 AI 。
首先考虑 MLOps
MLOps 是人工智能赋能工具和一套最佳实践的组合，用于从培训到部署的自动化、精简、扩展和监控 ML 模型。
开发高效 MLOps 平台的最佳实践
理想的 MLOps 平台是一个全面的解决方案，它支持整个机器学习生命周期，从数据准备和模型开发到模型部署和监控。它应该提供工具和技术的无缝集成，使组织能够轻松地构建、部署和管理机器学习模型。
开发大规模人工智能开发和部署的 MLOps 平台涉及几个关键步骤：
- 确定目标。
- 识别工具和技术。
- 建立模型开发工作流。
- 自动化管道。
- 监控和管理模型。
- 实施安全和治理。
- 测试并完善平台。
- 持续监控生产中模型的性能和准确性。
确定目标
明确定义您希望通过 MLOps 平台实现的目标。这可能包括改进模型开发工作流、确保模型质量、自动化模型部署和管理，或者这些的组合。
确定工具和技术
确定要用于 MLOps 管道不同阶段的工具和技术：版本控制、持续集成、持续交付和监控。
建立模型开发工作流
定义模型开发过程，并创建一个集成了所选工具和技术的工作流。模型开发工作流包括数据预处理、模型训练、测试和验证等阶段。
自动化管道
使用 Jenkins 、 Travis CI 或 CircleCI 等工具自动化模型开发流程，可以更容易地复制模型开发过程，减少部署模型所需的时间和工作量，并有助于确保一致性和质量。
监控和管理模型
为您的模型实施一个监控和管理系统，包括模型性能的日志记录和监控、模型工件的版本控制，以及用于推出和更新模型的系统。
实施安全和治理
实施安全措施，确保敏感数据得到保护，并根据法规和政策开发、部署和管理模型。
测试和完善平台
测试 MLOps 平台，以确保其按预期工作，并根据用户的反馈进行改进。持续监控和评估平台，以确保其继续满足组织的需求。
持续监控生产中模型的性能和准确性
持续监控和评估生产中模型的性能和准确性，以改进模型开发过程和 MLOps 平台。
真正的 MLOps
有了真正的 MLOps 平台，企业就有了简化人工智能开发到大规模部署的基础。
对于任何企业或组织而言，一个完整、集成的 MLOps 平台都应使作为数据科学家、 ML 工程师、 DevOps 、 AI 从业者、产品经理、法规遵从性、安全性等角色的各种角色能够高效协作。
大规模加速 MLOps
尽管对端到端 MLOps 平台的好处很多，需求也越来越大，但大规模部署 MLOps 仍面临挑战。 MLOps 生态系统是一个不断发展的细分市场，由多个独立的软件供应商组成，构建自己的 MLOps 基础设施可能会让人望而生畏。
NVIDIA 和 MLOps
NVIDIA 与领先的 MLOps 解决方案提供商合作，通过认证和与 NVIDIA AI 解决方案的集成，简化加速 AI 的开发和部署。
NVIDIA 针对 MLOps 的加速计算解决方案包括 NVIDIA DGX systems ，一个专门构建的人工智能基础设施组合，以及 NVIDIA AI Enterprise ，端到端、安全、云原生的人工智能软件套件，为每个组织优化、验证和支持，以在人工智能方面表现出色，以及一个广泛的全栈软件库，包括人工智能解决方案工作流、框架、预训练模型、，以及基础设施优化。
在 GTC 2023 ，了解 NVIDIA 如何与领先的 MLOps 解决方案提供商合作，以确保 NVIDIA AI 平台加速的可靠、高性能端到端 AI 解决方案。
How to Develop AI Workflows and MLOps Infrastructure at Scale
在本次会议中，一个专家小组讨论了快速构建 AI 支持的应用程序、各自的工作流和全栈 MLOps 基础设施的基础知识。
- Manish Harsh ，全球 DevRel ， MLOps 集成和合作伙伴， NVIDIA
- Yaron Haviv ， Iguazio 联合创始人兼首席技术官
- Aparna Dhinakaran ， Arize AI 联合创始人兼首席产品官
- Shelbee Eigenbrode ， Amazon Web 服务（ AWS ）首席 ML 专家解决方案架构师
- Tina Naro ， ClearML 产品营销总监
