--- title: "Llama-Chinese" type: "tool" slug: "llamachinese-llama-chinese" canonical_url: "https://www.graphcanon.com/tools/llamachinese-llama-chinese" github_url: "https://github.com/LlamaChinese/Llama-Chinese" homepage_url: "https://llama.family" stars: 14738 forks: 1300 primary_language: "Python" license: null categories: ["llm-frameworks", "developer-tools"] tags: ["llama", "micro-tuning", "pretraining", "open-source", "agent"] updated_at: "2026-07-07T18:30:16.066526+00:00" --- # Llama-Chinese > Llama中文社区：最好的Llama大模型开源生态 该仓库是关于Llama的中文资源社区，包括预训练和微调指南、模型发布等内容。涉及LLM框架及其他相关技术信息。 ## Facts - Repository: https://github.com/LlamaChinese/Llama-Chinese - Homepage: https://llama.family - Stars: 14,738 · Forks: 1,300 · Open issues: 195 · Watchers: 143 - Primary language: Python - Last pushed: 2025-04-06T09:16:55+00:00 ## Categories - [LLM Frameworks](/categories/llm-frameworks.md) - [Developer Tools](/categories/developer-tools.md) ## Tags llama, micro-tuning, pretraining, open-source, agent ## Related tools - [ECC](/tools/affaan-m-ecc.md) - The agent harness performance optimization system (★ 226,962) - [AutoGPT](/tools/significant-gravitas-autogpt.md) - AutoGPT: Build, Deploy, and Run AI Agents (★ 185,417) - [ollama](/tools/ollama-ollama.md) - Get up and running with Kimi-K2.6, GLM-5.1, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. (★ 175,659) - [prompts.chat](/tools/f-prompts-chat.md) - The world's largest open-source prompt library for AI (★ 165,019) - [transformers](/tools/huggingface-transformers.md) - 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models (★ 162,347) - [JavaGuide](/tools/snailclimb-javaguide.md) - Snailclimb/JavaGuide: 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发 (★ 156,863) - [open-webui](/tools/open-webui-open-webui.md) - User-friendly AI Interface (Supports Ollama, OpenAI API, ...) (★ 144,575) - [awesome-llm-apps](/tools/shubhamsaboo-awesome-llm-apps.md) - 100+ AI Agent & RAG apps you can actually run — clone, customize, ship. (★ 116,702) ## README (excerpt) ```text

English ｜ 中文

Llama中文社区

Llama

最好的Llama大模型开源社区

🤗 Hugging Face • 🤖 ModelScope • ✡️ WiseModel

Llama4原生多模态MoE模型发布！

基于Llama的开源中文预训练大模型Atom



## 🗂️ 目录 - [🗂️ 目录](#️-目录) - [📌 Llama中文社区](#-llama中文社区) - [🔥 社区介绍](#-社区介绍) - [为什么选择Llama中文社区？](#为什么选择llama中文社区) - [社区活动](#社区活动) - [立即加入我们！](#立即加入我们) - [🪵 社区资源](#-社区资源) - [💻 算力](#-算力) - [📊 数据](#-数据) - [💬 论坛](#-论坛) - [📱 应用](#-应用) - [📢 最新动态](#-最新动态) - [🤗 模型发布](#-模型发布) - [中文预训练模型Atom](#中文预训练模型atom) - [Llama4官方模型](#llama4官方模型) - [Llama3官方模型](#llama3官方模型) - [Llama3中文微调模型](#llama3中文微调模型) - [Llama2官方模型](#llama2官方模型) - [Llama2中文微调模型](#llama2中文微调模型) - [📌 如何使用Llama模型](#-如何使用llama模型) - [快速上手-使用Anaconda](#快速上手-使用anaconda) - [快速上手-使用Docker](#快速上手-使用docker) - [快速上手-使用llama.cpp](#快速上手-使用llamacpp) - [快速上手-使用gradio](#快速上手-使用gradio) - [快速上手-构建API服务](#快速上手-构建api服务) - [快速上手-使用ollama运行](#快速上手-使用ollama运行) - [🤖 模型预训练](#-模型预训练) - [💡 模型微调](#-模型微调) - [Step1: 环境准备](#step1-环境准备) - [Step2: 数据准备](#step2-数据准备) - [Step3: 微调脚本](#step3-微调脚本) - [LoRA微调](#lora微调) - [全量参数微调](#全量参数微调) - [Step4: 加载微调模型](#step4-加载微调模型) - [LoRA微调](#lora微调-1) - [全量参数微调](#全量参数微调-1) - [🍄 模型量化](#-模型量化) - [🚀 部署加速](#-部署加速) - [TensorRT-LLM](#tensorrt-llm) - [vLLM](#vllm) - [JittorLLMs](#jittorllms) - [lmdeploy](#lmdeploy) - [💪 外延能力](#-外延能力) - [LangChain](#langchain) - [🥇 模型评测](#-模型评测) - [Llama4模型评测](#llama4模型评测) - [Llama2和Llama3对比评测](#llama2和llama3对比评测) - [Llama3模型评测](#llama3模型评测) - [Llama2模型评测](#llama2模型评测) - [📖 学习中心](#-学习中心) - [官方文档](#官方文档) - [社区文档](#社区文档) - [Llama相关论文](#llama相关论文) - [📌 其它](#-其它) - [🎉 致谢](#-致谢) - [🤔 问题反馈](#-问题反馈) ## 📌 Llama中文社区 ### 🔥 社区介绍 欢迎来到Llama中文社区！Llama模型的开源无疑极大促进了大模型技术的发展，我们致力于构建一个开放平台，能够让所有的开发者与技术爱好者一起共创Llama开源生态。从大模型到小模型，从文本到多模态，从软件到硬件算法优化，我们期望开源能够带给全人类以AI普惠。在一个科技爆发的时代，加入Llama Family，与技术一同进步，与社区一同前行，一起迈向AGI！
#### 为什么选择Llama中文社区？ 🚀 **高级工程师团队支持**：社区有一批专注为大家服务的NLP高级工程师，我们有着强大的技术支持和丰富的经验，为您提供专业的指导和帮助。 🎯 **中文优化**：我们致力于在Llama模型的中文处理方面进行优化，探索适用于中文的最佳实践，以提升其性能和适应性【支持Llama2、Llama3、Llama4】。 💡 **创新交流**：我们拥有一支富有创造力和经验的社区成员团队，定期组织线上活动、技术研讨和经验分享，促进成员间的创新交流。 🌐 **全球联结**：我们欢迎来自世界各地的开发者加入社区，构建一个开放、多元化的学习和交流平台。 🤝 **开放共享**：我们鼓励社区成员开源分享代码和模型，推动合作共赢，共同促进中文NLP技术的发展。 #### 社区活动 🗓️ **线上讲座**：邀请行业内专家进行线上讲座，分享Llama在中文NLP领域的最新技术和应用，探讨前沿研究成果。 💻 **项目展示**：成员可展示自己在Llama中文优化方面的项目成果，获得反馈和建议，促进项目协作。 📚 **学习资源**：社区维护丰富的学习资料库，包括教程、文档和论文解读，为成员提供全面的学习支持。 📝 **论文解读**：社区成员共同解读与Llama相关的最新研究论文，深入理解前沿算法和方法。 🎉 **主题活动**：定期举办各类主题活动，包括挑战赛、黑客马拉松和技术沙龙，让社区成员在轻松愉快的氛围中交流和学习。 🌟 **奖励计划**：我们设立奖励计划，对社区中积极参与、贡献优秀的成员给予荣誉和奖励，激励更多优秀人才的加入。 📈 **技术咨询**：我们提供技术咨询服务，解答您在Llama开发和优化过程中遇到的问题，助您快速攻克难关。 🚀 **项目合作**：鼓励成员间的项目合作，共同探索Llama在实际应用中的潜力，打造创新解决方案。 #### 立即加入我们！ 📚 **愿景**：无论您是对Llama已有研究和应用经验的专业开发者，还是对Llama中文优化感兴趣并希望深入探索的新手，我们都热切期待您的加入。在Llama中文社区，您将有机会与行业内顶尖人才共同交流，携手推动中文NLP技术的进步，开创更加美好的技术未来！ 🔗 **温馨提示**：本社区为专业技术交流平台，我们热切期望志同道合的开发者和研究者加入。请遵守社区准则，共同维护积极向上的学习氛围。感谢您的理解和支持！
### 🪵 社区资源 社区资源的丰富性是社区发展的重要保障，它涵盖了各种方面，其中包括但不限于以下四个方面：算力、数据、论坛和应用。在这些方面的积极发展与充分利用，将为社区成员提供更多的机会和支持，推动整个社区向着更加繁荣的方向发展。更多的内容请看[llama.family](https://llama.family/)
#### 💻 算力 - 提供低于市场价格的算力资源，可用于各类计算任务，如深度学习模型的训练、推理等。 - 为社区成员提供专属的在线推理服务，让用户可以快速有效地对模型进行推理操作。 - 提供一键在线微调服务，使用户可以方便地对模型进行微调，以适应不同的任务和数据。 #### 📊 数据 - 开放丰富的训练数据资源，覆盖多个领域和行业，为模型训练提供充足的数据支持。 ``` --- **Machine-readable endpoints** - JSON: [`/api/graphcanon/tools/llamachinese-llama-chinese`](/api/graphcanon/tools/llamachinese-llama-chinese) - LLM index: [/llms.txt](/llms.txt) - Full corpus: [/llms-full.txt](/llms-full.txt) _GraphCanon - The knowledge graph for AI development. https://www.graphcanon.com/_