Jiao Dong

Jiao Dong 是 Anyscale 的一名软件工程师,在 Ray 上从事开源分布式机器学习。在加入 Anyscale 之前, Jiao 在 Facebook AI Infra 工作了几年,研究生产中的各种 MLSys 问题,从分布式特征选择/离线/在线训练到分布式推理。

Posts by Jiao Dong

对话式人工智能/自然语言处理

使用 Alpa 和 Ray 在大型 GPU 集群中高效扩展 LLM 训练

近年来,大型语言模型( LLM )的数量激增,它们超越了传统的语言任务,扩展到生成式人工智能这包括像 ChatGPT 和 Stable… 4 MIN READ