文件清单 15 项

• 1-1 课程内容介绍_[持续更新‖免费提供:CunworknoteS].mp4
• 1-4 LLM推理基础-生成KVCache过程推演_[不易整理‖请关注:CunWorkNoteS].mp4
• 1-5 LLM推理基础-为何需要对KVCache优化_[整理不易‖记得关注:CunWorKNotes].mp4
• 1-6 LLM推理基础-如何估算模型占用内存[整理不易‖记得关注:CunWorKNotes].mp4
• 1-7 LLM推理基础-GPU内部运算原理与推理机制的关系[资源精选‖更多关注:CunworkNotes].mp4
• 1-12 LLM性能指标-推理评估指标全景图[公重号:CunWorkNotes].mp4
• 1-13 LLM性能指标-首词生成时间[持续更新‖免费提供:CunworknoteS].mp4
• 1-14 LLM性能指标-每词生成时间[公重号:CunWorkNotes].mp4
• 1-15 LLM性能指标-端到端的请求时间[公重号:CunWorkNotes].mp4

展开全部 15 项

• 1-16 LLM性能指标-系统吞吐量TPS[公重号:CunWorkNotes].mp4
• 1-18 LLM性能指标-评测过程与评测工具[不易整理‖请关注:CunWorkNoteS].mp4
• 1-24 模型压缩-AWQ针对PPL的实验结果[持续更新‖免费提供:CunworknoteS].mp4
• 1-25 模型压缩-AWQ量化过程与实现-[持续更新‖免费提供:CunworknoteS].mp4
• 1-26 模型压缩-GPTQ量化过程以及优化IO策略[公重号:CunWorkNotes].mp4
• LLM 推理优化与部署实战/