证券代码：688787 证券简称：海天瑞声 北京海天瑞声科技股份有限公司 投资者关系活动记录表 编号：2023-021 投资者关系活动类别 √特定对象调研 □分析师会议 □媒体采访 □业绩说明会 □新闻发布会 □路演活动 □现场参观 □电话会议 □其他 （请文字说明其他活动内容） 参与单位名称及人员姓 开源证券 刘逍遥 名 会议时间 2023年12月7日 会议地点 海天瑞声会议室 上市公司接待人员姓名 证券事务代表：张哲 投资者关系负责人：袁璐 投资者关系活动主要内 1、大模型范式下的预训练阶段数据需求和传统 容介绍 的数据需求有什么区别？ 大模型预训练阶段的数据需求和深度学习技术路 线下的传统训练数据需求，两者在形态上基本一致， 都是文本、语音和图像，但在数据规模、质量、来源 等方面，预训练数据较传统训练数据会存在一定差 异。例如，规模上，预训练数据的 token量普遍在万 亿量级，而传统模型数量则大约在 10亿量级。从数 据来源的角度看，由于大模型所需数据规模远超传统 模型，因此其数据来源将更加丰富以满足规模化、多 元化数据需求。具体来说，大模型数据来源除了来自 传统的定向采集外，还将涉及版权数据、公共数 ...