计算机工程与应用

作者：李实, 张朔

单位：东北林业大学 信息与计算机工程学院，哈尔滨 150040；

关键词：自然语言处理,大语言模型（LLM）,模型优化,毒性治理

大语言模型在自然语言处理和生成式AI领域的应用日益广泛，其在提升生产效率的同时也带来了显著的伦理问题，尤其是毒性内容生成问题。毒性内容是指具有攻击性、歧视性或侮辱性的语言输出，这可能对社会秩序、文化多样性和道德标准构成负面影响。随着深度学习技术的不断创新和发展，大语言模型毒性治理问题受到越来越多的关注，现阶段缺少综述性文章对现有的毒性治理技术进行分析和总结。从概念出发，详细阐述了毒性内容的内涵、数据集和毒性分类；围绕毒性治理的两个关键步骤：毒性检测和毒性缓解进行了归纳和总结，然后在此基础上分析了当前毒性治理体系面临的主要挑战，并探讨了可能的改进方向。

来源：2026年第5期

《计算机工程与应用》期刊编辑部

查看计算机工程与应用杂志2026年第5期