国内刊号:11-2127/TP
国际刊号:1002-8331
发布日期:
作者:冉文议, 万家强, 喻靖峰, 李琪玥, 陈鼎丽, 邢欣来
单位:重庆理工大学 两江人工智能学院,重庆 401135;
关键词:预训练语言模型,主题约束,文本生成,采样策略
基金:重庆市教委科学技术研究计划项目(KJQN202301153)。
预训练语言模型通过精调使其能够具有本地语料的相关知识和用语习惯,但通常面临高昂的训练成本和资源开销。因此,提出了一种基于主题约束的采样方法。该方法利用本地语料构建潜在狄利克雷分布(latent Dirichlet allocation,LDA)主题模型;利用LDA对输出内容进行主题约束。一方面,这种方法简单易实现;另一方面,该方法增强了模型在本地语料上的泛化能力。实验结果表明,所提出的方法在多样性指标和泛化性指标上相较于基线模型明显提升。
来源:2026年第6期
《计算机工程与应用》期刊编辑部