大模型应用与工程实践

**马哥教育《大模型应用与工程实践》**是一门聚焦大语言模型（LLM）应用开发与企业级工程实践的实战课程，旨在帮助开发者掌握AI应用开发的核心技术，具备从模型调用、知识库构建到智能体开发及项目部署的完整能力。课程适合具有Python基础的软件开发工程师、后端开发人员、AI开发者、运维工程师以及希望转型人工智能领域的技术人员学习。

课程内容围绕当前主流的大模型技术体系展开，系统讲解大语言模型基础知识、Prompt工程、Embedding（向量化）、RAG（检索增强生成）、向量数据库、Function Calling、MCP协议、Agent智能体、多智能体协作、工作流编排以及模型部署等热门技术。通过循序渐进的学习，学员能够理解大模型应用的整体架构，掌握企业级AI系统的设计思路与开发方法。

在工程实践部分，课程采用项目驱动教学模式，结合企业真实业务场景，演示如何开发智能知识库、AI客服系统、办公助手、文档问答、内容生成、代码辅助等典型AI应用。课程还会讲解如何接入国内外主流大模型API，完成文档解析、向量检索、上下文管理、多轮对话、工具调用等功能，并介绍FastAPI、Docker、Git、数据库等开发工具在AI项目中的实际应用，帮助学员掌握完整的开发、测试与部署流程。

此外，课程还注重工程化能力培养，讲解模型选型、Token成本优化、缓存机制、系统性能优化、日志监控、安全权限控制以及生产环境部署等企业项目中常见的问题，帮助学员提升AI应用的稳定性、可扩展性和维护能力。同时，还会结合当前AI行业的发展趋势，介绍智能体平台、自动化工作流、多模型协同等方向，为后续深入学习打下基础。

总体而言，**马哥教育《大模型应用与工程实践》**是一门兼顾理论知识与工程落地的综合课程，内容紧跟当前大模型应用的发展趋势，涵盖从基础原理到企业级项目实践的完整知识体系。通过系统学习，学员不仅能够掌握主流AI开发技术和工程实践方法，还能够独立开发、部署和优化智能应用，提升解决实际业务问题的能力，为从事AI应用开发、智能体开发、企业智能化升级及相关技术岗位奠定坚实基础。

课程目录：

马哥教育-大模型应用与工程实践/
│ ├── 1-Python基础/
│ │ └── 1-Python学习之路/
│ │ │ ├── 1-Python学习之路..mp4 (450.95 MB)
│ │ │ ├── 2-虚拟环境安装.mp4 (705.83 MB)
│ │ │ ├── 3-计算机基础理论.mp4 (374.60 MB)
│ │ │ ├── 4-语法.mp4 (444.19 MB)
│ │ │ └── 5-运算符和内建函数.mp4 (402.53 MB)
│ ├── 2-Python基础c02线性表/
│ │ ├── 1-分支循环/
│ │ │ ├── 1-分支循环.mp4 (240.22 MB)
│ │ │ └── 2-循环和三元表达式.mp4 (203.61 MB)
│ │ └── 2-数值和内建函数/
│ │ │ ├── 1-数值和内建函数.mp4 (146.42 MB)
│ │ │ ├── 2-线性表原理详解.mp4 (210.74 MB)
│ │ │ └── 3-列表操作和内存模型.mp4 (541.40 MB)
│ ├── 3-c02线性表/
│ │ └── 1-c02线性表/
│ │ │ ├── 1-1列表复制原理.mp4 (116.78 MB)
│ │ │ ├── 2-2-Random模块.mp4 (61.31 MB)
│ │ │ ├── 3-3元组.mp4 (169.79 MB)
│ │ │ ├── 4-4字符串构造1-.mp4 (180.61 MB)
│ │ │ ├── 5-5-字符串分割替换移除.mp4 (214.64 MB)
│ │ │ ├── 6-6字符串判断1.mp4 (144.18 MB)
│ │ │ ├── 7-7字符串格式化.mp4 (327.70 MB)
│ │ │ └── 8-8-编码的本质.mp4 (351.88 MB)
│ ├── 4-c02线性表c03哈希表/
│ │ ├── 1-c02线性表c03哈希表/
│ │ │ ├── 1-1字节类型.mp4 (109.74 MB)
│ │ │ ├── 2-2-切片.mp4 (220.43 MB)
│ │ │ ├── 3-3第一章习题-九九乘法表.mp4 (140.43 MB)
│ │ │ ├── 4-4-第一章习题-登录.mp4 (39.36 MB)
│ │ │ └── 5-5-第二章习题.mp4 (131.75 MB)
│ │ └── 2-c02线性表c03哈希表/
│ │ │ ├── 1-1-封装和解构.mp4 (143.15 MB)
│ │ │ └── 2-2-set和哈希表原理.mp4 (355.01 MB)
│ ├── 5-c03哈希表c04函数/
│ │ ├── 1-1-字典增删改查/
│ │ │ ├── 1-1-字典增删改查.mp4 (208.77 MB)
│ │ │ ├── 2-2-遍历和有序性.mp4 (346.32 MB)
│ │ │ └── 3-3-解析式和生成器表达式..mp4 (375.20 MB)
│ │ └── 2-函数概念/
│ │ │ └── 1-1-函数概念.mp4 (128.98 MB)
│ ├── 6-c04函数/
│ │ ├── 1-c04函数/
│ │ │ ├── 1-1第三章作业.mp4 (147.80 MB)
│ │ │ ├── 2-2-传实参2种方式.mp4 (73.28 MB)
│ │ │ ├── 3-3-缺省值..mp4 (74.68 MB)
│ │ │ ├── 4-4-可变形参.mp4 (241.63 MB)
│ │ │ ├── 5-5-形参和返回值.mp4 (318.83 MB)
│ │ │ ├── 6-6-作用域和嵌套函数.mp4 (207.81 MB)
│ │ │ └── 7-7-局部变量赋值和global.mp4 (177.01 MB)
│ │ └── 6-c04函数说明.zip (1.83 MB)
│ ├── 7-c04函数/
│ │ └── 1-c04函数/
│ │ │ ├── 1-1-闭包原理.mp4 (163.16 MB)
│ │ │ ├── 2-2-nonlocal和LEGB.mp4 (146.63 MB)
│ │ │ ├── 3-3-匿名函数.mp4 (150.00 MB)
│ │ │ ├── 4-4-生成器函数.mp4 (333.26 MB)
│ │ │ └── 5-5-排序.mp4 (337.48 MB)
│ ├── 8-c04函数/
│ │ └── 1-c04函数/
│ │ │ ├── 1-1函数执行原理.mp4 (126.61 MB)
│ │ │ ├── 2-2-递归函数.mp4 (274.27 MB)
│ │ │ ├── 3-3作业之比较大小.mp4 (132.99 MB)
│ │ │ ├── 4-4-作业上下三角打印.mp4 (263.35 MB)
│ │ │ └── 5-5-选择排序精讲.mp4 (409.70 MB)
│ ├── 9-c05装饰器/
│ │ └── 1-c05装饰器/
│ │ │ ├── 1-1-可迭代对象和内建函数.mp4 (173.92 MB)
│ │ │ ├── 2-2-高阶函数柯里化..mp4 (89.02 MB)
│ │ │ ├── 3-3-无参装饰器.mp4 (217.22 MB)
│ │ │ ├── 4-4-带参装饰器.mp4 (197.98 MB)
│ │ │ └── 5-5-类型注解和类型检查装饰器.mp4 (201.43 MB)
│ ├── 10-c05装饰器c06文件IO和序列化/
│ │ ├── 1-c05装饰器c06文件IO和序列化/
│ │ │ ├── 1-1-插入排序.mp4 (135.56 MB)
│ │ │ ├── 2-2-functools之reduce和partial.mp4 (179.13 MB)
│ │ │ └── 3-3-functools之lru_cache和cache原理.mp4 (227.72 MB)
│ │ └── 2-c05装饰器c06文件IO和序列化/
│ │ │ ├── 1-1-open方法和主模式.mp4 (120.97 MB)
│ │ │ └── 2-2-附加模式和指针.mp4 (209.78 MB)
│ ├── 11-c06文件IO和序列化/
│ │ └── 1-c06文件IO和序列化/
│ │ │ ├── 1-1-递归作业详解.mp4 (93.15 MB)
│ │ │ ├── 2-2-文件对象读写和迭代.mp4 (112.41 MB)
│ │ │ ├── 3-3-ath模块.mp4 (86.01 MB)
│ │ │ ├── 4-4-Path常用操作.mp4 (178.15 MB)
│ │ │ ├── 5-5-Path操作2.mp4 (93.30 MB)
│ │ │ └── 6-6-shutil模块使用.mp4 (173.80 MB)
│ ├── 12-c06文件IO和序列化/
│ │ └── 1-c06文件IO和序列化/
│ │ │ ├── 1-1-序列化本质和pickle.mp4 (131.87 MB)
│ │ │ ├── 2-2json和msgpack.mp4 (172.35 MB)
│ │ │ ├── 3-3-csv文件处理.mp4 (104.88 MB)
│ │ │ ├── 5-5-正则表达式1.mp4 (115.16 MB)
│ │ │ └── 6-6-正则表达式2.mp4 (212.85 MB)
│ ├── 13-c06文件IO和序列化/
│ │ └── 1-c06文件IO和序列化/
│ │ │ ├── 1-1-复制作业详解.mp4 (121.81 MB)
│ │ │ ├── 1-c06文件IO和序列化资料.zip (1.83 MB)
│ │ │ ├── 2-2-正则习题讲解1.mp4 (204.79 MB)
│ │ │ ├── 3-3-正则习题讲解2.mp4 (177.73 MB)
│ │ │ ├── 4-4-re模块使用.mp4 (309.44 MB)
│ │ │ └── 5-5-argparse模块使用.mp4 (215.82 MB)
│ ├── 14-c07面向对象/
│ │ └── 1-c07面向对象/
│ │ │ ├── 1-1-面向对象概念.mp4 (139.05 MB)
│ │ │ ├── 2-2-类、实例、属性、self.mp4 (250.08 MB)
│ │ │ ├── 3-3-属性本质和属性访问规则.mp4 (212.39 MB)
│ │ │ ├── 4-4-方法、类方法、静态方法原理.mp4 (186.63 MB)
│ │ │ └── 5-5-访问控制.mp4 (122.91 MB)
│ ├── 15-c07面向对象/
│ │ ├── 1-c07面向对象/
│ │ │ ├── 1-1-时间模块使用.mp4 (124.87 MB)
│ │ │ ├── 1-c07面向对象文档.zip (1.83 MB)
│ │ │ ├── 2-2-property装饰器.mp4 (91.79 MB)
│ │ │ ├── 3-3-继承.mp4 (78.26 MB)
│ │ │ ├── 4-4-继承和访问控制.mp4 (111.41 MB)
│ │ │ ├── 5-5-覆盖.mp4 (49.01 MB)
│ │ │ ├── 6-6-初始化原则和多态.mp4 (127.46 MB)
│ │ │ └── 7-7-多继承和Mixin.mp4 (187.63 MB)
│ │ └── 15-c07面向对象资料.zip (1.83 MB)
│ ├── 16-c07面向对象/
│ │ └── 1-c07面向对象/
│ │ │ ├── 1-1-作业argparse模块使用.mp4 (233.05 MB)
│ │ │ ├── 2-2-高阶函数参数本质.mp4 (64.22 MB)
│ │ │ ├── 3-3-作业温度转换和图形面积.mp4 (154.40 MB)
│ │ │ ├── 4-4-日志层次、级别、根.mp4 (245.46 MB)
│ │ │ ├── 5-5-handler和formatter.mp4 (110.99 MB)
│ │ │ └── 6-6-日志流.mp4 (154.94 MB)
│ ├── 17-c07面向对象c08面向对象进阶/
│ │ ├── 1-异常处理/
│ │ │ └── 1-异常处理.mp4 (357.54 MB)
│ │ ├── 2-魔术方法之实例化/
│ │ │ ├── 1-1-魔术方法之实例化.mp4 (94.99 MB)
│ │ │ ├── 2-2-魔术方法之可视化.mp4 (78.31 MB)
│ │ │ ├── 3-3-魔术方法之布尔等效.mp4 (42.39 MB)
│ │ │ ├── 4-4-魔术方法之比较运算符重载.mp4 (76.35 MB)
│ │ │ ├── 5-5-魔术方法之算数运算符重载.mp4 (90.02 MB)
│ │ │ └── 6-6-魔术方法之容器化.mp4 (98.02 MB)
│ │ └── 17-c07面向对象c08面向对象进阶必看.zip (1.83 MB)
│ ├── 18-c08面向对象进阶/
│ │ └── 1-c08面向对象进阶/
│ │ │ ├── 1-1-魔术方法之可调用对象.mp4 (106.78 MB)
│ │ │ ├── 1-c08面向对象进阶资料.zip (1.83 MB)
│ │ │ ├── 2-2-魔术方法之上下文管理.mp4 (136.56 MB)
│ │ │ ├── 3-3-魔术方法之反射.mp4 (239.10 MB)
│ │ │ ├── 4-4-模块搜索加载缓存导入和全局变量.mp4 (314.63 MB)
│ │ │ └── 5-5-魔术方法之哈希.mp4 (134.13 MB)
│ ├── 19-c08面向对象进阶/
│ │ └── 1-c08面向对象进阶/
│ │ │ ├── 1-1-包加载原理..mp4 (192.32 MB)
│ │ │ ├── 2-2-绝对导入和相对导入.mp4 (96.55 MB)
│ │ │ ├── 3-3-导入访问控制和__all__..mp4 (198.31 MB)
│ │ │ ├── 4-4-打包分发.mp4 (430.03 MB)
│ │ │ └── 5-5-树的遍历.mp4 (32.48 MB)
│ ├── 21-6.28开班/
│ │ └── 1-6.28开班典礼&LLMOps资深工程师/
│ ├── 22-神经网络基础概率/
│ │ └── 1-神经网络基础概率/
│ ├── 23-Pandas、Matplotlib/
│ │ └── Seaborn、Scikit-Learn、特征工程和PyTorch基础/
│ │ │ └── 1-Pandas、Matplotlib/
│ │ │ │ └── Seaborn、Scikit-Learn、特征工程和PyTorch基础/
│ ├── 24-Pandas、Matplotlib/
│ │ └── Seaborn、Scikit-Learn、特征工程和PyTorch基础（2）/
│ │ │ └── 1-Pandas、Matplotlib/
│ │ │ │ └── Seaborn、Scikit-Learn、特征工程和PyTorch基础（2）/
│ ├── 25-sklearn神经网络和pytorch/
│ │ └── 1-sklearn神经网络和pytorch/
│ │ │ ├── 1-sklearn .mp4 (890.53 MB)
│ │ │ └── 2-神经网络和pytorch .mp4 (1242.63 MB)
│ ├── 26-神经网络/
│ │ └── 1-神经网络/
│ ├── 27-优化器正则化CNN和RNNLSTM/
│ │ └── GRU/
│ │ │ └── 1-优化器正则化CNN和RNNLSTMGRU/
│ ├── 28-RNNLSTMGRU和Transformer/
│ ├── 29-Transformer架构组件、工作原理、代码实践和最新演进/
│ │ └── 1-Transformer架构组件、工作原理、代码实践和最新演进/
│ │ │ └── 1-Transformer架构组件、工作原理、代码实践和最新演进资料.zip (1.83 MB)
│ ├── 30-Transformer模型训练深度解析、各组件的演进、GPU/
│ ├── 31-模型分布式训练并行策略、通信原语、ZeRO、混合并行、模型训练案例/
│ │ └── 31-模型分布式训练并行策略、通信原语、ZeRO、混合并行、模型训练案例文档.png (0.48 MB)
│ ├── 32-大模型分布训练（ddpfsdp和deepspeed示例）、HuggingFace API及用例、模型微调基础/
│ │ └── 32-大模型分布训练（ddpfsdp和deepspeed示例）、HuggingFace API及用例、模型微调基础资料.png (0.48 MB)
│ ├── 33-HF API及用例、模型微调工作机制、微调数据集和对话模板、LoRA/
│ │ └── 1-HFAPI及用例模型微调工作机制微调数据集和对话模板.mp4 (751.88 MB)
│ ├── 34-模型微调实践、模型压缩与优化介绍、模型量化工作原理、模型量化实践、模型剪枝和模型蒸馏介绍/
│ │ └── 1-模型微调实践、模型压缩与优化介绍、模型量化工作原理.mp4 (730.38 MB)
│ ├── 35-第14节-模型量化及实践案例、模型推理与推理引擎、vLLM组件、架构、工作原理及案例/
│ ├── 36-第15节-SGLang推理引擎、LLM的生产架构及案例/
│ ├── 37-第16节-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理/
│ │ └── 1-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ray Cluster创建与管理、Ray Serve架构/
│ │ │ ├── 1-基于LiteLLM-Proxy的生产架构案例、Ray与Ray Cluster、Ra.mp4 (808.10 MB)
│ │ │ └── 2-Ray Serve架构与工作机制、Ray Server与vLLM集成、Serve .mp4 (1009.60 MB)
│ ├── 38-第17节-LLM推理技术与工程化（基于Kubernetes）/
│ │ └── 1-LLM推理技术与工程化（基于Kubernetes）/
│ ├── 39-LLM推理系统的约束分析、架构设计与SLA达成路径/
│ │ └── 1-LLM推理系统的约束分析、架构设计与SLA达成路径/
│ └── 40-分布式、云原生与生产级系统/
│ │ └── 1-分布式、云原生与生产级系统/