登录
|
注册
|
QQ账号登录
|
常见问题
联系我们:
我要上传
首页
浏览
幼儿/小学教育
中学教育
高等教育
研究生考试
外语学习
资格/认证考试
论文
IT计算机
经济/贸易/财会
管理/人力资源
建筑/环境
汽车/机械/制造
研究报告
办公文档
生活休闲
金融/股票/期货
法律/法学
通信/电子
医学/心理学
行业资料
文学/艺术/军事/历史
我的淘豆
我要上传
帮助中心
复制
下载此文档
基于生成对抗网络的类别文本生成 蔡丽坤 (1).pdf
文档分类:
办公文档
|
页数:约12页
举报非法文档有奖
分享到:
1
/
12
下载此文档
搜索
下载此文档
关闭预览
下载提示
1.该资料是网友上传的,本站提供全文预览,预览什么样,下载就什么样。
2.下载该文档所得收入归上传者、原创者。
3.下载的文档,不会出现我们的网址水印。
同意并开始全文预览
(约 1-6 秒)
下载文档到电脑,查找使用更方便
下 载
还剩?页未读,
继续阅读
分享到:
1
/
12
下载此文档
文档列表
文档介绍
基于生成对抗网络的类别文本生成 蔡丽坤 (1).pdf
: .
广西师范大学,吴运兵 1,2,3,陈甘霖 1,2,3,刘翀凌 1,2,3,廖祥文 1,2,3*
(1. 福州大学 计算机与大数据学院,福建 福州 350108;(福州大
学),福建 福州 350108;3. 福州大学 数字福建金融大数据研究所,福建 福州 350108)
摘 要:类别文本生成旨在让机器生成人类可理解的文本,并且赋予生成文本特定的类别属性。现有工作主要采用基
于生成对抗网络的文本生成框架,往往直接采用卷积神经网络进行文本特征的提取,缺乏对文本全局语义的关注;此
外,简单地在生成网络中引入注意力无法有效消除解码过程中的噪声。针对上述问题,本文提出一种将文本全局特征
与局部特征联合建模的方法,通过将长短时记忆网络提取的全局语义信息与卷积神经网络提取的局部语义信息进行
融合,增强生成过程中对文本全局语义信息的关注,并且引入了双重注意力,进一步过滤掉序列生成中的无关信息。
与基准模型相比,本文提出的方法分别在 2 个公开的真实数据集(Movie Review 和 Amazon Review)上取得了至少
和 的 BLEU 值的提升,表明了本文方法的有效性。
关键词:文本生成;生成对抗网络;双重注意力;特征融合;进化学习算法
中图分类号: 文献标志码:A 文章编号:1001-6600(2022)04-0000-00
随着自然语言处理在人工智能领域的迅猛发展,自然语言生成已成为人工智能和自然语言处理
的一个重要研究方向。类别文本生成[1]作为文本生成的一个子任务,旨在生成包含特定语义的文本。
不同类别、不同情感的文本生成,能够使得机器更加人性化。同时,大量具有类别属性的文本的生
成能够在很大程度上缓解大规模标签训练数据集获取困难的问题。
传统的文本生成方法主要基于规则模板[2],通过内容规划,句子规划以及语言实现进行文本的生
成。随后,基于概率统计的方法[3]也被运用到对语言的建模中,该方法将词与上下文的关系编码成条
件概率,从概率统计的角度出发来进行文本的生成。随着深度学习的不断发展,当前大多数的工作
采用端到端的文本生成框架[4],通过数据驱动的方法训练模型,避免了大量手工规则的构造,同时也
提高了模型的泛化能力。
生成对抗网络(generative adversarial networks, GAN)[5]作为深度学习中的一个主流框架,采用
博弈的思想,通过生成网络和判别网络的对抗训练实现网络的优化目标。其中,判别网络的目标是
最大化真实样本与生成样本的距离,反之即为生成网络的目标。目前基于生成对抗网络的文本生成
研究中,大都采用基于 LSTM 的生成网络对文本进行解码。为了获得更丰富的语义表达,Nie 等[6]引
入了关系记忆网络以获得更丰富的上下文依赖关系,并采用注意力机制[7]来实现文本对自身序列的
对齐。但是,当注意力查询与结果不匹配时,会导致对无关信息的关注,从而影响生成文本的多样
性表达。在判别网络方面,现有的工作,如 SentiGAN[8]、CatGAN[9]等,均采用了卷积神经网络[10]来
进行文本特征信息的提取。卷积神经网络采用局部连接的方式大大减少了网络的参数,但同时也造
成了文本中上下文依赖关系的丢失,缺乏对文本全局语义特征的学习,从而影响生成文本的整体流
基于生成对抗网络的类别文本生成 蔡丽坤 (1) 来自淘豆网m.daumloan.com转载请标明出处.
猜你喜欢
初中历史中考总复习计划
5页
创业项目计划书(3篇)
5页
分式方程应用题各类型
7页
2024年网闸合作协议书
68页
幕墙构件的制造方案
13页
八年级英语(冀教版)知识点
6页
2024年湿法混合颗粒机项目建议书
67页
幂的乘方专项练习50题(有答案过程)
6页
入团考试试卷
3页
2024年抗生素项目合作计划书
62页
常见结构性裂缝产生原因分析
6页
职工之家建设方案
7页
体育课课堂常规教学教案
16页
宁波:科技攻关“种海洋”
3页
对公务员的认识(1)
2页
相关文档
更多>>
非法内容举报中心
文档信息
页数
:
12
收藏数
:
0
收藏
顶次数
:
0
顶
上传人
:
妙玉
文件大小
:
1.05 MB
时间
:
2022-04-16
相关标签
通达信指标
DMI指标
盈利能力指标
糖尿病指标
MACD指标
考核指标
kpi指标
cpu的性能指标
技术经济指标
经济技术指标
往来文书
招标投标
传真信函
解决方案
事务文书
活动策划
股份制文书
调研文书
规章制度
统计图表
PPT模板素材
工作计划
工作总结
会议纪要
产品手册
课程设计
求职简历
通知/申请
演讲致辞
说明文书
简明教程
办公软件应用
教育范文
最近更新
人教版六年级下册数学期末测试卷含答案(夺..
人教版一年级上册数学期末测试卷精品【达标..
小升初数学解答题50道精品【历年真题】
人教版三年级上册数学期末测试卷及完整答案..
人教版三年级上册数学期末测试卷及完整答案..
小升初数学解答题大全附答案【黄金题型】
人教版六年级下册数学期末测试卷含答案(模..
人教版六年级下册数学期末测试卷含答案(黄..
小学六年级下册数学期末测试卷精品【黄金题..
小升初数学解答题50道及完整答案一套
小学六年级下册数学期末测试卷(典型题)
人教版六年级下册数学期末测试卷含答案【模..
沪教版一年级上册数学期末测试卷及答案(夺..
人教版六年级下册数学期末测试卷附完整答案..
沪教版一年级上册数学期末测试卷附参考答案..
浙教版一年级上册数学期末测试卷含答案(考..
浙教版一年级上册数学期末测试卷精品加答案..
人教版六年级下册数学期末测试卷【完整版】..
人教版六年级下册数学期末测试卷含完整答案..
人教版六年级下册数学期末测试卷及答案(最..
小学六年级下册数学期末测试卷含答案【能力..
青岛版一年级上册数学期末测试卷含答案【考..
沪教版一年级上册数学期末测试卷(综合卷)..
防地质灾害应急预案幼儿园
人教版六年级下册数学期末测试卷【达标题】..
人教版六年级下册数学期末测试卷及完整答案..
人教版六年级下册数学期末测试卷带答案(典..
人教版六年级下册数学期末测试卷精品(突破..
人教版六年级下册数学期末测试卷附答案【综..
会计手工模拟竞赛操作指引
在线
客服
微信
客服
意见
反馈
手机
查看
返回
顶部