图神经网络
智谱AI在图神经网络(GNN)领域开发了多项先进模型,如Graph Transformer和GAT变体。创新点聚焦于提升图数据处理能力和可扩展性,包括自适应边权重学习机制和分层图表示方法,解决了传统GNN在处理复杂图结构(如社交网络)中的泛化问题。技术亮点在融合知识图谱与GNN,实现图模型的端到端训练,优化信息传播效率。
知识图谱技术
源自清华大学知识工程实验室研究,该技术结合符号主义和深度学习,构建大规模动态知识图谱。创新点包括自动化知识抽取和融合机制,利用异构数据源(如公开文本和数据库)实现高效实体关系抽取,并集成推理算法优化知识图谱更新和查询效率。关键技术涉及基于嵌入表示的图谱表示学习和多源知识对齐,以提升图谱的覆盖率和精确度。
大规模预训练模型
智谱AI开发了WuDao系列模型,尤其以WuDao2.0为代表,这是全球最大的预训练模型之一,拥有1.75万亿参数。基于Transformer架构,创新点包括采用高效的分布式训练技术(如DeepSpeed优化和模型并行)、大规模中文数据集预训练,支持多任务学习和few-shot学习。该模型在训练优化上解决了高计算资源消耗问题,通过改进的数据管道和稀疏注意力机制提升性能。
融资次数
17
员工数量
100-499人
专利数量
123
主营业务
智谱AI的主营业务是开发和商业化大规模预训练语言模型(如WuDao系列)及认知智能技术平台,提供基于知识图谱的AI解决方案和服务,以支持企业智能应用。
北京智谱华章科技股份有限公司
其他有限责任公司
¥1,712万
2019-06-11
刘德兵
010-82152508
peipei.wang@aminer.cn
北京市海淀区中关村东路1号院9号楼10层整层