Posts by Sam Partee
数据科学
2023年 8月 30日
如何使用 NVIDIA Triton 和 Redis 构建分布式推理缓存
缓存与数组、符号或字符串一样是计算的基础。整个堆栈中的各种缓存层在您的 CPU 上挂起时保存来自内存的指令。
3 MIN READ
推荐系统/个性化
2023年 3月 1日
离线到在线: NVIDIA Merlin 实时推荐系统的功能存储
由于 深度学习 的进步和矢量嵌入的使用,推荐模型近年来进展迅速。这些模型日益复杂,需要强大的系统来支持它们,
3 MIN READ