06月27日
知识图谱与大模型融合实践研究报告
—大模型的定义 1.大模型是指参数数量大、结构复杂的深度学习模型，具备涌现能力、通用能力，并能够处理复杂的下游任务，如自然语言处理、图像识别等。 2.大模型是一种能够处理图像和文本输入，并生成文本的大规模多模态模型，主要应用于对话系统、文本摘要和机器翻译。 3.大模型也叫基础模型(FM，FoundationModel)，这类模型基于广泛的训练数据，通常采用大规模自我监督学习的方法...
标签：大模型
01月28日
中国人工智能系列白皮书-大模型技术（2023版）
大模型技术的发展历程 2006年Geoffrey Hinton提出通过逐层无监督预训练的方式来缓解由于梯度消失而导致的深层网络难以训练的问题[1],为神经网络的有效学习提供了重要的优化途径。此后，深度学习在计算机视觉[2]、语音[3]、自然语言处理[4]等众多领域取得了突破性的研究进展，开启了新一轮深度学习的发展浪潮。总结过去十多年的技术发展，基于深度学习的人工智能技术主要经历了如...