数字农科院2.0

基于深度学习的学术论文语步结构分类方法研究

文献类型： 中文期刊

作者： 王末;崔运鹏;陈丽;李欢

作者机构：

关键词： 语步分类;深度学习;双向编码器;神经网络

期刊名称：数据分析与知识发现

ISSN： 2096-3467

年卷期： 2020 年 NULL 卷 2020(6) 期

页码： 60-68

收录情况： CSCD ; CSSCI ; 北大核心

摘要： [目的]以深度学习语言表征模型学习论文句子表达,以此为基础构建论文语步分类模型,提高分类效果.[方法]采用基于深度学习预训练语言表征模型BERT,结合句子文中位置改进模型输入,以标注数据集进行迁移学习,获得句子级的嵌入表达,并以此输入神经网络分类器训练分类模型,实现论文语步分类.[结果]基于公开数据集的实验结果表明,11类别分类任务中,总体准确率提高了29.7%,达到81.3%;在7类别核心语步分类任务中,准确率达到85.5%.[局限]受限于实验环境,所提改进输入模型的预训练参数来源于原始的模型结构,迁移学习的参数对于新模型输入的适用程度可进一步探索.[结论]该方法较传统的"特征构建+机器学习"分类器方法效果有大幅提高,较原始BERT模型亦有一定提高,且无须人工构建特征,模型不局限于特定语言,可应用于中文学术论文的语步分类任务,具有较大的实际应用潜力.

分类号： TP391.1`TP18

  • 相关文献

[1]LSTM模型在耕地面积预测领域的构建与应用. 向雁,侯艳林,姜文来,陈印军,成良强. 2021

[2]图像分析技术在农作物污染损害鉴定中的应用. 强沥文,贾广慧,王伟,周莉. 2023

[3]Study on Recognition of Typical Curing Stages of Jiangxi Tobacco Leaves Based on Image Processing. 段史江,,刘浩,,王爱华,,胡毅翀,,齐飞,,胡强. 2024

[4]Study on Discriminant Model of Flue-curing Stage of Tobacco Leaves in Curing Process. 王志诚,,孟令峰,,王松峰,,谢良文,,李文刚. 2024

[5]粒子群优化的神经网络PID沼气干发酵温度控制. 刘浩,沈星,曲浩丽,王鹏军. 2017

[6]液压机械无级变速箱换段液压故障诊断的BP方法. 张晓辉,太健健,王光明,张海军,王成飞,钟成义. 2016

[7]基于神经网络遗传算法优化棉粕挤压膨化脱酚工艺. 胡维岗,黄庆德,郭安民,张强. 2015

[8]基于神经网络的水稻三化螟识别系统的研究. 王剑,周国民. 2006

[9]基于神经网络和遗传算法的黄芪发酵培养基优化. 朱新术,杨志强,李建喜,王学智,孟嘉仁,张艳,张凯. 2008

[10]基于RSM和GA的温室风送式弥雾机喷雾效果优化分析. 钟丽平,祁力钧,冀荣华,袁雪,梅银成. 2014

[11]用神经网络对水稻飞虱鸣声进行模式分类. 殷柏涛,陈伦裕,张志涛,付强. 1994

[12]水稻籽粒蛋白质含量的高光谱估测研究. 张浩,姚旭国,张小斌,金千瑜,郑可锋. 2009

[13]冬小麦叶面积指数高光谱遥感反演方法对比. 夏天,吴文斌,周清波,周勇. 2013

[14]基于BP神经网络和MODIS-EVI时间序列的土地覆被分类. 于凤鸣,卓义,包玉海. 2008

[15]环渤海地区农村空心化程度与耕地利用集约度的时空变化及其耦合关系. 杨忍,刘彦随,郭丽英,李玉恒. 2013

[16]基于中分辨TM数据的水稻提取方法对比研究. 李志鹏,李正国,刘珍环,吴文斌,谭杰扬. 2014

[17]应用神经网络和统计模型预测大豆生长发育阶段. 张久权,张凌霄,张明华,WATSON Clarence. 2009

[18]基于神经网络遗传算法优化棉粕挤压膨化脱酚工艺. 胡维岗,黄庆德,郭安民,张强. 2014

[19]水稻本体实例构建研究. 李嘉锐,崔运鹏,张学福,苏晓路,郝心宁,鄂志国. 2014

[20]基于NNARMAX模型的地下水位预报研究. 王景雷,齐学斌,吴景社. 2002

作者其他论文 更多>>