文件清单 25 项

• 1-1.课程介绍.mp4
• 1-2.推演程序演示,基于130亿参数模型.mp4
• 2-1.llama模型分析和训练数据分析.mp4
• 2-3.llama推理测试程序演示.mp4
• 3-1.llama.cpp构建环境说明.mp4
• 3-2.visutal_studio_2022安装.mp4
• 3-4.cmake windows安装二进制版本.mp4
• 4-1.ggml格式介绍.mp4
• 4-2.conda在windows中的安装和使用.mp4

展开全部 25 项

• 4-3.conda的python环境安装.mp4
• 4-4.llama的pth格式转换为ggml的bin.mp4
• 4-5.llama量化模型到Q4_0.mp4
• 5-2.Transformers安装和llama模型格式转换.mp4
• 5-3.合并中文LoRA权重和llama生成全量模型权重.mp4
• 5-4.使用Transformer和Web图形界面实现推理.mp4
• 5-5.使用llama.cpp量化和推理中文模型.mp4
• 6-1.llama参数ctx-size上下文大小相关代码分析.mp4
• 6-2.predict和batch-size回复数和推理批次代码.mp4
• 6-3.增加结果多样性-重复惩罚repeat-penalty.mp4
• 6-4.21温度改变随机性top-k和top-p算法分析.mp4
• 7-3.完成了推理预处理prompt代码.mp4
• 7-4.完成了推理结果逻辑表采样并输出.mp4
• 7-5.完成了精简版的推理示例程序.mp4
• 7-6.xllama接口类图设计说明.mp4
• 51CTO夏曹俊-LLama实战本地CPU推理大语言模型-C++开发实战/