悟道：超大规模智能模型系统

悟道是北京智源研究院推出的超大规模多模态智能模型，悟道2.0于2021年发布，基于约4.9TB中文、英文图像与文本数据训练。模型采用开源MoE架构FastMoE，通过多个专家模型协同处理不同类型的输入，提升语言理解和生成能力。

主要特点

• 融合中文、英文文本及图像数据
• 采用混合专家（MoE）架构
• 根据输入内容动态选择合适的专家模型
• 支持多模态理解与语言生成
• 面向大规模模型研究和通用人工智能探索

训练数据

• 约1.2TB中文文本数据
• 约2.5TB中文图像数据
• 约1.2TB英文文本数据

适用方向

适合自然语言处理、多模态研究、机器学习实验、智能问答和通用人工智能相关探索。