XVERSE 元象科技大语言模型

XVERSE-13B | 元象科技大语言模型官网

XVERSE-13B 是由深圳元象科技自主研发的支持多语言的大语言模型。

XVERSE-13B 是由深圳元象科技自主研发的支持多语言的大语言模型（Large Language Model、，主要特点如下：

模型结构：XVERSE-13B 使用主流 Decoder-only 的标准 Transformer 网络结构，支持 8K 的上下文长度（Context Length、，为同尺寸模型中最长，能满足更长的多轮对话、知识问答与摘要等需求，模型应用场景更广泛。
• 训练数据：构建了 1.4 万亿 token 的高质量、多样化的数据对模型进行充分训练，包含中、英、俄、西等 40 多种语言，通过精细化设置不同类型数据的采样比例，使得中英两种语言表现优异，也能兼顾其他语言效果。
• 分词：基于 BPE（Byte-Pair Encoding、算法，使用上百 GB 语料训练了一个词表大小为 100,278 的分词器，能够同时支持多语言，而无需额外扩展词表。
• 训练框架：自主研发多项关键技术，包括高效算子、显存优化、并行调度策略、数据-计算-通信重叠、平台和框架协同等，让训练效率更高，模型稳定性强，在千卡集群上的峰值算力利用率可达到 58.5%，位居业界前列。

XVERSE-13B | 元象科技大语言模型网址入口

https://github.com/xverse-ai/XVERSE-13B

小编发现XVERSE-13B | 元象科技大语言模型网站非常受用户欢迎，请访问XVERSE-13B | 元象科技大语言模型网址入口试用。