--- title: "MOSS" type: "tool" slug: "openmoss-moss" canonical_url: "https://www.graphcanon.com/tools/openmoss-moss" github_url: "https://github.com/OpenMOSS/MOSS" homepage_url: "https://txsun1997.github.io/blogs/moss.html" stars: 12156 forks: 1130 primary_language: "Python" license: "Apache-2.0" categories: ["llm-frameworks", "developer-tools"] tags: ["deep-learning", "dialogue-systems", "large-language-models", "natural-language-processing", "chatgpt", "text-generation"] updated_at: "2026-07-07T18:32:27.396932+00:00" --- # MOSS > Open-source tool-augmented conversational language model from Fudan University MOSS is an open-source project by Fudan University, focusing on developing a conversationally augmented large language model. ## Facts - Repository: https://github.com/OpenMOSS/MOSS - Homepage: https://txsun1997.github.io/blogs/moss.html - Stars: 12,156 · Forks: 1,130 · Open issues: 242 · Watchers: 121 - Primary language: Python - License: Apache-2.0 - Last pushed: 2026-05-27T13:16:14+00:00 ## Categories - [LLM Frameworks](/categories/llm-frameworks.md) - [Developer Tools](/categories/developer-tools.md) ## Tags deep-learning, dialogue-systems, large language models, natural-language-processing, chatgpt, text-generation ## Related tools - [ECC](/tools/affaan-m-ecc.md) - The agent harness performance optimization system (★ 226,962) - [AutoGPT](/tools/significant-gravitas-autogpt.md) - AutoGPT: Build, Deploy, and Run AI Agents (★ 185,417) - [ollama](/tools/ollama-ollama.md) - Get up and running with Kimi-K2.6, GLM-5.1, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma and other models. (★ 175,659) - [prompts.chat](/tools/f-prompts-chat.md) - The world's largest open-source prompt library for AI (★ 165,019) - [transformers](/tools/huggingface-transformers.md) - 🤗 Transformers: the model-definition framework for state-of-the-art machine learning models (★ 162,347) - [JavaGuide](/tools/snailclimb-javaguide.md) - Snailclimb/JavaGuide: 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发 (★ 156,863) - [open-webui](/tools/open-webui-open-webui.md) - User-friendly AI Interface (Supports Ollama, OpenAI API, ...) (★ 144,575) - [awesome-llm-apps](/tools/shubhamsaboo-awesome-llm-apps.md) - 100+ AI Agent & RAG apps you can actually run — clone, customize, ship. (★ 116,702) ## README (excerpt) ```text # MOSS

MOSS

[[论文](https://link.springer.com/article/10.1007/s11633-024-1502-8)][[中文版](https://github.com/OpenMOSS/MOSS/blob/main/README.md)] [[English](https://github.com/OpenMOSS/MOSS/blob/main/README_en.md)] [[官方微信群](https://github.com/OpenMOSS/MOSS/blob/main/examples/WeChatGroupQR.jpg)] ## 目录 - [开源清单](#spiral_notepad-开源清单) - [模型](#模型) - [数据](#数据) - [工程方案](#工程方案) - [介绍](#fountain_pen-介绍) - [本地部署](#robot-本地部署) - [硬件要求](#硬件要求) - [下载安装](#下载安装) - [使用示例](#使用示例) - [微调](#fire-微调) - [软件依赖](#软件依赖) - [使用方法](#使用方法) - [友情链接](#link-友情链接) - [未来计划](#construction-未来计划) - [开源协议](#page_with_curl-开源协议) ---- ## :spiral_notepad: 开源清单 ### 模型 - [**moss-moon-003-base**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-base): MOSS-003基座模型，在高质量中英文语料上自监督预训练得到，预训练语料包含约700B单词，计算量约6.67x1022次浮点数运算。 - [**moss-moon-003-sft**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft): 基座模型在约110万多轮对话数据上微调得到，具有指令遵循能力、多轮对话能力、规避有害请求能力。 - [**moss-moon-003-sft-plugin**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft-plugin): 基座模型在约110万多轮对话数据和约30万插件增强的多轮对话数据上微调得到，在`moss-moon-003-sft`基础上还具备使用搜索引擎、文生图、计算器、解方程等四种插件的能力。 - [**moss-moon-003-sft-int4**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft-int4/tree/main): 4bit量化版本的`moss-moon-003-sft`模型，约占用12GB显存即可进行推理。 - [**moss-moon-003-sft-int8**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft-int8): 8bit量化版本的`moss-moon-003-sft`模型，约占用24GB显存即可进行推理。 - [**moss-moon-003-sft-plugin-int4**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft-plugin-int4): 4bit量化版本的`moss-moon-003-sft-plugin`模型，约占用12GB显存即可进行推理。 - [**moss-moon-003-sft-plugin-int8**](https://huggingface.co/OpenMOSS-Team/moss-moon-003-sft-plugin-int8): 8bit量化版本的`moss-moon-003-sft-plugin`模型，约占用24GB显存即可进行推理。 - **moss-moon-003-pm**: 在基于`moss-moon-003-sft`收集到的偏好反馈数据上训练得到的偏好模型，将在近期开源。 - **moss-moon-003**: 在`moss-moon-003-sft`基础上经过偏好模型`moss-moon-003-pm`训练得到的最终模型，具备更好的事实性和安全性以及更稳定的回复质量，将在近期开源。 - **moss-moon-003-plugin**: 在`moss-moon-003-sft-plugin`基础上经过偏好模型`moss-moon-003-pm`训练得到的最终模型，具备更强的意图理解能力和插件使用能力，将在近期开源。 ### 数据 - [**moss-002-sft-data**](https://huggingface.co/datasets/OpenMOSS-Team/moss-002-sft-data): MOSS-002所使用的多轮对话数据，覆盖有用性、忠实性、无害性三个层面，包含由`text-davinci-003`生成的约57万条英文对话和59万条中文对话。 - [**moss-003-sft-data**](https://github.com/OpenMOSS/MOSS/tree/main/SFT_data): `moss-moon-003-sft`所使用的多轮对话数据，基于MOSS-002内测阶段采集的约10万用户输入数据和`gpt-3.5-turbo`构造而成，相比`moss-002-sft-data`，`moss-003-sft-data`更加符合真实用户意图分布，包含更细粒度的有用性类别标记、更广泛的无害性数据和更长对话轮数，约含110万条对话数据。完整数据已全部开源。 - [**moss-003-sft-plugin-data**](https://github.com/OpenMOSS/MOSS/tree/main/SFT_data/conversations/conversation_with_plugins): `moss-moon-003-sft-plugin`所使用的插件增强的多轮对话数据，包含支持搜索引擎、文生图、计算器、解方程等四个插件在内的约30万条多轮对话数据。已[开源](https://huggingface.co/datasets/OpenMOSS-Team/moss-003-sft-data/tree/main)所有数据。 - **moss-003-pm-data**: `moss-moon-003-pm`所使用的偏好数据，包含在约18万额外对话上下文数据及使用`moss-moon-003-sft`所产生的回复数据上构造得到的偏好对比数据，将在近期开源。 ### 工程方案 - [**MOSS Vortex**](https://github.com/OpenLMLab/MOSS_Vortex) - MOSS部署和推理方案 - [**MOSS WebSearchTool**](https://github.com/OpenLMLab/MOSS_WebSearchTool) - MOSS搜索引擎插件部署方案 - [**MOSS Frontend**](https://github.com/singularity-s0/MOSS_frontend) - 基于flutter实现的MOSS-003前端界面 - [**MOSS Backend**](https://github.com/JingYiJun/MOSS_backend) - 基于Go实现的MOSS-003后端 ## :fountain_pen: 介绍 MOSS是一个支持中英双语和多种插件的开源对话语言模型，`moss-moon`系列模型具有160亿参数，在FP16精度下可在单张A100/A800或两张3090显卡运行，在INT4/8精度下可在单张3090显卡运行。MOSS基座语言模型在约七千亿中英文以及代码单词上预训练得到，后续经过对话指令微调、插件增强学习和人类偏好训练具备多轮对话能力及使用多种插件的能力。 **局限性**：由于模型参数量较小和自回归生成范式，MOSS仍然可能生成包含事实性错误的误导性回复或包含偏见/歧视的有害内容，请谨慎鉴别和使用MOSS生成的内容，请勿将MOSS生成的有害内容传播至互联网。若产生不良后果，由传播者自负。 **MOSS用例**：
简单数学应用题
解方程
生 ``` --- **Machine-readable endpoints** - JSON: [`/api/graphcanon/tools/openmoss-moss`](/api/graphcanon/tools/openmoss-moss) - LLM index: [/llms.txt](/llms.txt) - Full corpus: [/llms-full.txt](/llms-full.txt) _GraphCanon - The knowledge graph for AI development. https://www.graphcanon.com/_