{"data":{"slug":"datawhalechina-self-llm","name":"self-llm","tagline":"《开源大模型食用指南》","github_url":"https://github.com/datawhalechina/self-llm","owner":"datawhalechina","repo":"self-llm","owner_avatar_url":"https://avatars.githubusercontent.com/u/46047812?v=4","primary_language":"Jupyter Notebook","stars":31199,"forks":3048,"topics":["chatglm","chatglm3","gemma-2b-it","glm-4","internlm2","llama3","llm","lora","minicpm","q-wen","qwen","qwen1-5","qwen2"],"archived":false,"github_pushed_at":"2026-06-17T05:54:51+00:00","url":"https://www.graphcanon.com/tools/datawhalechina-self-llm","markdown_url":"https://www.graphcanon.com/tools/datawhalechina-self-llm.md","api_url":"https://www.graphcanon.com/api/graphcanon/tools/datawhalechina-self-llm","graph_url":"https://www.graphcanon.com/api/graphcanon/graph?tool=datawhalechina-self-llm","description":"《开源大模型食用指南》针对中国宝宝量身打造的基于Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程","homepage_url":null,"license":"Apache-2.0","open_issues":158,"watchers":166,"ai_summary":"此Repo提供关于众多国内外主流开源大型语言和多模态模型（如LLaMA, ChatGLM等）的教程，涵盖Linux环境配置、部署使用及微调，旨在简化其应用流程，让学习者更好地理解和应用这些前沿技术。","readme_excerpt":"
\n \n

开源大模型食用指南

\n
\n\n
\n\n中文 | [English](./README_en.md)\n\n
\n\n\n  本项目是一个围绕开源大模型、针对国内初学者、基于 Linux 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。\n\n  本项目的主要内容包括：\n\n 1. 基于 Linux 平台的开源 LLM 环境配置指南，针对不同模型要求提供不同的详细环境配置步骤；\n 2. 针对国内外主流开源 LLM 的部署使用教程，包括 LLaMA、ChatGLM、InternLM 等； \n 3. 开源 LLM 的部署应用指导，包括命令行调用、在线 Demo 部署、LangChain 框架集成等；\n 4. 开源 LLM 的全量微调、高效微调方法，包括分布式全量微调、LoRA、ptuning 等。\n\n  **项目的主要内容就是教程，让更多的学生和未来的从业者了解和熟悉开源大模型的食用方法！任何人都可以提出issue或是提交PR，共同构建维护这个项目。**\n\n  想要深度参与的同学可以联系我们，我们会将你加入到项目的维护者中。\n\n>   ***学习建议：本项目的学习建议是，先学习环境配置，然后再学习模型的部署使用，最后再学习微调。因为环境配置是基础，模型的部署使用是基础，微调是进阶。初学者可以选择Qwen1.5，InternLM2，MiniCPM等模型优先学习。***\n\n>   **进阶学习推荐** ：如果您在学习完本项目后，希望更深入地理解大语言模型的核心原理，并渴望亲手从零开始训练属于自己的大模型，我们强烈推荐关注 Datawhale 的另一个开源项目—— [Happy-LLM 从零开始的大语言模型原理与实践教程](https://github.com/datawhalechina/happy-llm) 。该项目将带您深入探索大模型的底层机制，掌握完整的训练流程。\n\n> 注：如果有同学希望了解大模型的模型构成，以及从零手写RAG、Agent和Eval等任务，可以学习Datawhale的另一个项目[Tiny-Universe](https://github.com/datawhalechina/tiny-universe)，大模型是当下深度学习领域的热点，但现有的大部分大模型教程只在于教给大家如何调用api完成大模型的应用，而很少有人能够从原理层面讲清楚模型结构、RAG、Agent 以及 Eval。所以该仓库会提供全部手写，不采用调用api的形式，完成大模型的 RAG 、 Agent 、Eval 任务。\n\n> 注：考虑到有同学希望在学习本项目之前，希望学习大模型的理论部分，如果想要进一步深入学习 LLM 的理论基础，并在理论的基础上进一步认识、应用 LLM，可以参考 Datawhale 的 [so-large-llm](https://github.com/datawhalechina/so-large-lm.git)课程。\n\n> 注：如果有同学在学习本课程之后，想要自己动手开发大模型应用。同学们可以参考 Datawhale 的 [动手学大模型应用开发](https://github.com/datawhalechina/llm-universe) 课程，该项目是一个面向小白开发者的大模型应用开发教程，旨在基于阿里云服务器，结合个人知识库助手项目，向同学们完整的呈现大模型应用开发流程。\n\n## 项目意义\n\n  什么是大模型？\n\n>大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。\n\n  百模大战正值火热，开源 LLM 层出不穷。如今国内外已经涌现了众多优秀开源 LLM，国外如 LLaMA、Alpaca，国内如 ChatGLM、BaiChuan、InternLM（书生·浦语）等。开源 LLM 支持用户本地部署、私域微调，每一个人都可以在开源 LLM 的基础上打造专属于自己的独特大模型。\n\n  然而，当前普通学生和用户想要使用这些大模型，需要具备一定的技术能力，才能完成模型的部署和使用。对于层出不穷又各有特色的开源 LLM，想要快速掌握一个开源 LLM 的应用方法，是一项比较有挑战的任务。\n\n  本项目旨在首先基于核心贡献者的经验，实现国内外主流开源 LLM 的部署、使用与微调教程；在实现主流 LLM 的相关部分之后，我们希望充分聚集共创者，一起丰富这个开源 LLM 的世界，打造更多、更全面特色 LLM 的教程。星火点点，汇聚成海。\n\n  ***我们希望成为 LLM 与普罗大众的阶梯，以自由、平等的开源精神，拥抱更恢弘而辽阔的 LLM 世界。***\n\n## 项目受众\n\n  本项目适合以下学习者：\n\n* 想要使用或体验 LLM，但无条件获得或使用相关 API；\n* 希望长期、低成本、大量应用 LLM；\n* 对开源 LLM 感兴趣，想要亲自上手开源 LLM；\n* NLP 在学，希望进一步学习 LLM；\n* 希望结合开源 LLM，打造领域特色的私域 LLM；\n* 以及最广大、最普通的学生群体。\n\n## 项目规划及进展\n\n   本项目拟围绕开源 LLM 应用全流程组织，包括环境配置及使用、部署应用、微调等，每个部分覆盖主流及特点开源 LLM：\n\n### Example 系列\n\n- [Chat-嬛嬛](./examples/Chat-嬛嬛/readme.md)： Chat-甄嬛是利用《甄嬛传》剧本中所有关于甄嬛的台词和语句，基于LLM进行LoRA微调得到的模仿甄嬛语气的聊天语言模型。\n\n- [Tianji-天机](./examples/Tianji-天机/readme.md)：天机是一款基于人情世故社交场景，涵盖提示词工程 、智能体制作、 数据获取与模型微调、RAG 数据清洗与使用等全流程的大语言模型系统应用教程。\n\n- [AMChat](./examples/AMchat-高等数学/readme.md): AM (Advanced Mathematics) chat 是一个集成了数学知识和高等数学习题及其解答的大语言模型。该模型使用 Math 和高等数学习题及其解析融合的数据集，基于 InternLM2-Math-7B 模型，通过 xtuner 微调，专门设计用于解答高等数学问题。\n\n- [数字生命](./examples/数字生命/readme.md): 本项目将以我为原型，利用特制的数据集对大语言模型进行微调，致力于创造一个能够真正反映我的个性特征的AI数字人——包括但不限于我的语气、表达方式和思维模式等等，因此无论是日常聊天还是分享心情，它都以一种既熟悉又舒适的方式交流，仿佛我在他们身边一样。整个流程是可迁移复制的，亮点是数据集的制作。 \n\n### 已支持模型\n\n

\n ✨ 已支持 50+ 主流大语言模型 ✨
\n 每个模型都提供完整的部署、微调和使用教程
\n 📖 查看完整模型列表和教程 | \n 🎯 快速开始\n

\n\n\n\n \n
\n • MiniCPM5
\n • Qwen3.5
\n • Kimi-K2.5
\n • Step-3.5-Flash
\n • GLM-4.7-Flash
\n • Gemma3
\n • MiniMax-M3
\n • MiniMax-M2.5
\n ","github_created_at":"2023-11-16T02:31:29+00:00","created_at":"2026-07-07T17:32:00.555902+00:00","updated_at":"2026-07-07T19:42:24.899772+00:00","categories":[{"slug":"model-training","name":"Model Training","url":"https://www.graphcanon.com/categories/model-training","markdown_url":"https://www.graphcanon.com/categories/model-training.md","api_url":"https://www.graphcanon.com/api/graphcanon/categories/model-training"},{"slug":"inference-serving","name":"Inference & Serving","url":"https://www.graphcanon.com/categories/inference-serving","markdown_url":"https://www.graphcanon.com/categories/inference-serving.md","api_url":"https://www.graphcanon.com/api/graphcanon/categories/inference-serving"},{"slug":"developer-tools","name":"Developer Tools","url":"https://www.graphcanon.com/categories/developer-tools","markdown_url":"https://www.graphcanon.com/categories/developer-tools.md","api_url":"https://www.graphcanon.com/api/graphcanon/categories/developer-tools"}],"tags":[{"slug":"qwen","name":"qwen"},{"slug":"lora","name":"lora"},{"slug":"llm","name":"llm"},{"slug":"distribution-training","name":"distribution-training"},{"slug":"chatglm","name":"chatglm"},{"slug":"gemma-2b-it","name":"gemma-2b-it"},{"slug":"langchain","name":"langchain"},{"slug":"minicpm","name":"minicpm"}]}}