产品&解决方案
RWKV-5 30亿参数模型是RWKV第五代大语言模型的一个版本，同样于2023年发布。作为开源项目，模型权重可在官方GitHub仓库免费获取。架构采用非Transformer设计，优化了处理长序列和低内存设备的能力。训练覆盖多语言和多编程语言数据集，支持100多种自然语言和数十种编程语言。应用场景包括聊天机器人、语言翻译和代码生成，并支持Hugging Face transformers库集成。
RWKV-5 15亿参数模型是RWKV系列的第五代大语言模型，于2023年发布。作为开源模型，其权重文件可通过GitHub下载。该模型基于非Transformer架构，采用类似RNN的设计，实现高效推理。训练数据来源于公共数据集如The Pile，支持100多种自然语言（如英语、中文、日语）和数十种编程语言（如Python、JavaScript、C++）。适用于文本生成、代码补全等任务，强调低资源部署性能。
融资次数
2
公司简介
RWKV是国产开源的首个非Transformer架构的大语言模型，目前已经迭代到第六代RWKV-6。RWKV-5的15亿和30亿参数版本已发布，且70亿参数版本会在2024年1月发布。而RWKV-6的15亿和30亿参数版本将在2024年2月发布，然后将继续训练70亿和140亿参数版本。RWKV-5和RWKV-6系列的特点是，支持全球100+种语言，也支持几十种编程语言。
经营范围
一般经营项目是：人工智能硬件销售；人工智能双创服务平台；人工智能公共服务平台技术咨询服务；人工智能公共数据平台；人工智能基础资源与技术平台；人工智能基础软件开发；人工智能应用软件开发；人工智能理论与算法软件开发；人工智能通用应用系统；人工智能行业应用系统集成服务；教学用模型及教具制造；教学用模型及教具销售；软件开发；网络与信息安全软件开发；软件外包服务；软件销售；业务培训（不含教育培训、职业技能培训等需取得许可的培训）；大数据服务；互联网数据服务；数据处理服务；数据处理和存储支持服务；互联网安全服务。（除依法须经批准的项目外，凭营业执照依法自主开展经营活动），许可经营项目是：互联网信息服务。（依法须经批准的项目，经相关部门批准后方可开展经营活动，具体经营项目以相关部门批准文件或许可证件为准）
主营业务
未提供相关信息
深圳元始智能有限公司
有限责任公司(自然人投资或控股)
￥102万
2023-06-15
胡小玲
深圳市南山区蛇口街道渔一社区湾厦路126号南山互联网创新创意服务基地二期B408