原标题：中文高质量数据集加速建设
大模型如何更懂“中国话”（“十五五”文化热词·推进文化和科技融合）
“过马路时，你要注意看车！”
“我计划明天去车展看车。”
这两句话里的“看车”是一个意思吗？相信不少人要会心一笑，表面上看是同一个词组，但其含义因语境不同发生了变化。
这就是中文里常见的“一词多义”现象。人工智能大模型是一种与人类语言密切相关的技术，要让大模型深刻理解这一现象，离不开中文数据的持续供给。
目前，国内多数模型训练使用的数据，中文数据占比已经超过60%，有的模型达到80%。大模型训练中，中文数据占比提升有何意义？中文高质量数据为何持续增加？如何进一步增加中文数据的开发与供给？记者进行了采访。
数据就像大模型的“知识教材”
不同语言的数据对大模型性能有怎样的影响？“数据就像大模型的‘知识教材’，教材的语言属性不同，会对模型的知识体系产生不同影响。”清华大学计算社会科学与国家治理实验室执行主任、教授孟庆国表示。
从知识来源看，过去我国大模型常面临“数据依赖”风险——英文数据在全球互联网的占比较高，如前沿科技论文、行业标准、文化典籍等多以英文呈现，全球高质量标注数据也多以英文为主。
“语言类大模型一般需要遵循一定的语言习惯。”工业和信息化部信息通信经济专家委员会委员盘和林认为，中文数据占比提高，既方便了用户理解其输出结果，又可以保障和提升我国在大模型上的研发能力。
“若中文数据占比低，模型在关键技术迭代中易受‘数据授权限制’‘更新延迟’等影响。”孟庆国说，中文数据占比提高，助力我国在“数据安全”“技术自主”上迈出关键步伐，有利于我国掌握大模型发展主动权。
“中文数据中独有的文化习惯、隐喻表达、政策术语等在英文数据中难以得到体现。模型长期学习英文数据，所形成的‘英文式认知逻辑’，在理解中文特有的思维方式时容易出现偏差。”科大讯飞消费者AI交互业务部总经理赵艳军介绍，中文数据比重的提升，增强了大模型对中华文化及中国场景的理解能力。比如中医问诊时，“上火”“湿气”等概念需要中文语境才能准确推理。
从知识传承看，中文数据承载着我国数千年的文化积累，中文数据占比提高，能让大模型推动中华文化的数字化传播。“中文数据占比高的模型能讲解‘文言文虚词用法’‘诗词平仄规律’等。比如，在解释‘之乎者也’时，结合《论语》《孟子》等中文典籍案例，让传统文化教育更生动。”孟庆国说。
中文高质量数据供给能力不断增强
中文普通数据和中文高质量数据有何区别？普通数据多为未经审核的网络文本、非专业内容，易出现事实错误或概念混淆。而高质量数据需经过“事实核查、专业审核”，语义准确且来源可追溯。
要理解中文高质量数据的重要性，可从医疗诊断这一专业场景讲起。今年8月，中文临床医学知识图谱“磐医知识图谱”在浙江台州发布。“当前，一些大模型学习的医学知识，来源于互联网公开数据，而这些公开数据，有的不严谨、有的存在矛盾、有的更新滞后，这些情况都会对大模型生成的结果产生负面影响。”浙江省全省医疗智能决策重点实验室主任林辉表示，“磐医知识图谱”中的数据均由医学专家审核，每个知识点都有明确来源，且动态更新医学进展。
大模型性能的提升，体现了中文高质量数据的价值。得益于一系列因素的合力助推，中文高质量数据的供给能力不断增强——
政策有支持。从《“数据要素×”三年行动计划（2024—2026年）》提出“打造高质量人工智能大模型训练数据集”，到国家数据局布局建设数据标注基地，政策利好下，大量中文高质量数据集加速建设。
技术有突破。中文数据因“歧义多、语境依赖强”，早期标注成本是英文数据的1.8—2.5倍，随着技术不断进步，开发难度也在降低。例如，国内某“中文语义标注系统”已可自动区分“打毛衣”“打电话”中“打”的含义，让标注效率提升了3倍，且成本有效降低。
行业有共识。国内垂直场景对“中文适配”大模型的需求不断升温，推动中文数据从“辅助补充”变为“核心资源”，更多企业参与到中文数据的开发之中。如中国移动已建成覆盖超30个行业、超3500TB（太字节）的通用高质量数据集。
协同建标准，细分多场景
Token（通常所说的“词元”）是处理文本的最小数据单元。数据显示，2024年初，我国日均Token的消耗量为1000亿，截至今年9月底，我国日均Token消耗量已突破40万亿。这些数字背后，是中文数据资源的快速积累和价值释放。
如何进一步增强中文数据的开发和供给？专家学者带来了思考和建议。
首先是建标准。现有的中文数据中，重复的内容多、质量高的少，尤其是在医疗、工业等垂直领域，高质量数据更是稀缺。比如医疗数据，有的医院记录病历只写“发烧”，有的会写“发烧38.5摄氏度、伴咳嗽2天”，若无标准的“尺子”判断数据质量，进一步的开发难以推进。
“明确了不同领域的中文标注标准后，才更有利于建设和完善评价、激励机制。”孟庆国认为，应加快研究制定中文数据分级标准，从而释放中文数据的供给活力。
其次是强技术。高质量数据集的建设过程中仍不可避免会遇到大量数据孤岛和合规难题，比如，不同机构的数据因为隐私安全等合规要求，难以跨域流通，导致各机构重复开展数据标注，既浪费资源，又无法形成规模效应。
“可推广应用新一代标注技术，在原始数据不出域且保证隐私安全的条件下，完成跨机构协同标注，从而整合多机构力量，避免重复劳动。”赵艳军说。
此外要补场景。我国产业体系完备，其广度和深度决定了需要更多细分场景的中文数据。“比如，在元宇宙等新兴场景中，中文数据使用量仅为英文的1/5；又如，中医、非遗等传统场景数字化程度低，大量宝贵信息尚未转化为可用数据资源。”孟庆国表示，可推动政产学研用协同，专项采集各种垂直场景中文数据，激活产业应用。
推进文化和科技融合
“十五五”规划建议提出，“推进文化和科技融合”。探索文化和科技融合的有效机制，需要用互联网思维和信息技术改进文化创作生产流程，推动文化建设数智化赋能、信息化转型。
“文化IP+科技体验”，重塑文旅产业生态。通过线上数字平台与线下沉浸场景的结合，多地打造数字文旅空间、开发“旅游+智能体”新应用等，实现文化和科技双向赋能。“文化创作+人工智能”，拓展产业融合场景。当前，以大模型为代表的AI技术，与影视、文博等领域深度融合，催生出AI短剧、博物馆数字文创等新产品，不仅丰富了文化表达方式，也培育出更多文化消费新场景。“特色文化+数字技术”，助力乡村全面振兴。通过数字技术，将地标农产品、乡村非遗技艺融入微短剧等内容创作，能够进一步提升特色文化产品的创意能力和表现力，为乡村全面振兴注入新动能。
——北京大学文化产业研究院学术委员会主任 陈少峰
更多热点速报、权威资讯、深度分析尽在北京日报App
启天配资提示：文章来自网络，不代表本站观点。
相关文章
沪深京行情 实时轮播
热点资讯
