第一句子大全,网罗天下好句子,好文章尽在本站!

阿里谭继伟:基于序列到序列模型的文本摘要及淘宝的实践

时间:2023-05-03

由中国科学院大学主办,百度公司提供支持,读芯术作为指定合作自媒体的AI未来说·青年学术论坛第二期自然语言处理专场已于2019年2月23日下午在中科院举行

友情提示:本文共有 1122 个字,阅读大概需要 3 分钟。

人工智能论坛如今浩如烟海,有硬货、有干货的讲座却百里挑一。由中国科学院大学主办,百度公司提供支持,读芯术作为指定合作自媒体的“AI未来说·青年学术论坛”第二期“自然语言处理”专场已于2019年2月23日下午在中科院举行。谭继伟博士为大家带来报告《基于序列到序列模型的文本摘要及淘宝的实践》。

获取谭博士完整PPT,请后台回复:学术报告

谭继伟,北京大学计算机博士,阿里巴巴高级算法工程师,ACL杰出论文奖获得者。

报告内容:序列到序列模型作为近年来一种有效的文本生成技术,推动了机器翻译、图像文本描述、对话系统等文本生成任务取得了突破性进展,也使得文本摘要研究从早期的抽取原文的模型逐渐向生成新文本的生成式模型发展。这个报告将介绍应用序列到序列模型在文本摘要相关任务上的挑战和我们的探索,包括在文档标题生成、摘要生成以及多文档生成式摘要等任务上的研究工作,以及淘宝算法团队在淘系商品短标题生成上的实践和应用。

基于序列到序列模型的文本摘要及淘宝的实践

谭继伟博士首先对文本摘要进行了简单的概括。根据所开展的任务可以把文本摘要分为单文档摘要、多文档摘要和句子摘要,其中值得注意的是句子摘要,简单来说就是把长句子生成短句子。根据摘要生成的方式又可以把文本摘要分为抽取式摘要和生成式摘要,并且对它们进行了简要的概括。

抽取式方法:

● 抽取已有句子形成摘要。

● 实现简单,能保证句子的可读性。

● 特征工程的方法。

● 内容冗余、句子间连贯性难以保证。

生成式方法:

● 生成新的句子。

● 高质量的理想摘要。

● 句子压缩、重构、融合的方法。

● 自然语言理解和生成一直以来是技术难点。

Seq2seq模型是编码解码框架,最近两年模型有较大的变化,但是总体的思想还是不变的。编码器对输入进行编码,解码器生成相关的内容。Seq2seq模型可以应用到多个任务中,但对于不同的任务需要注意的关键点也不太相同,比如文本摘要和机器翻译,这两个任务之间在形式上是相同的,都是输入文本,输出文本,但在内容上还是不太相同的,对于机器翻译来说,输入和输出的语言是不相同的,但是输入和输出所表达的含义是相同的,对于文本摘要来说,输入和输出的语言是相同的,但输出仅包含输入的部分信息。Seq2seq模型一般适应于短文本的任务,不太适合于长文本的任务。

随后谭继伟博士对新闻标题自动生成、单文档摘要、多文档摘要以及淘宝短标题生成进行了详细介绍,并对它们进行了总结与概括。对于文本摘要的主要挑战是大规模高质量训练数据依赖和端到端学习到的模型不一定满足要求,对于前者提出的可行的解决思路是模型迁移和无平行语料训练,对于后者提出的可行的解决思路是控制原始内容提取和可控解码算法。

本文如果对你有帮助,请点赞收藏《阿里谭继伟:基于序列到序列模型的文本摘要及淘宝的实践》,同时在此感谢原作者。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。
相关阅读
那些你不得不知道的文案赏析句子!

那些你不得不知道的文案赏析句子!

...的作品,并无太大的关联。三、世界杯“我在这里”手机淘宝文案:当这里,灯光变得黯淡;狂欢与庆典,失去魅力;掌声与欢呼,不再激动人心;巨星和追随者,又变回凡人;胜利、失败,显得无关紧要;大笑、痛苦、沉默、怒吼、尖...

2022-11-16 #经典句子

沙雕界可爱句子 谁能看完憋住不笑走出来

沙雕界可爱句子 谁能看完憋住不笑走出来

...是外八字,而我是内八字,我们八字不合跟你聊天不如逛淘宝,淘宝推的都是我想要的,你说的没有一句是我爱听的。好恶心的淘宝,动不动就猜我喜欢什么……我TM果然都很喜欢。我和美女的区别:美女:忘了吃饭;我:忘了刚...

2022-11-25 #经典句子

免费论文查重软件其实都不如知网靠谱!

免费论文查重软件其实都不如知网靠谱!

...不知道HowNet查重是真是假,因此我正好检查一下我使用的淘宝查重是真是假(我的学生使用的是假的),除非他们去图书馆或官方的自我检查网站,否则没人真正可以使用它知网的“学术犯罪”。哪些免费查重软件易于使用?假...

2023-12-01 #经典句子

那些让人瞬间清醒的句子15.0

那些让人瞬间清醒的句子15.0

...钱作代价还不好好学习?给你两拳自用推荐,效果超蚌!淘宝搜索 “巧克梨祛痘膏”支持女明星搞事业!(仅在淘宝有售)文案:网络 侵删 整理:巧克梨

2022-11-21 #经典句子

让你一眼就心酸的句子

让你一眼就心酸的句子

...生看了我的身份证和我说了一句生日快乐我哭了9.今天逛淘宝时突然发现,其实爱情结婚跟逛淘宝是一样的,有个东西他在我购物车里呆了很久,但是,我买了一个刚看到的。

2022-11-25 #经典句子

一些温柔到让你惊叹的神仙句子17.0

一些温柔到让你惊叹的神仙句子17.0

...的每一天都会更可爱吧,晚安呀~自用推荐,效果超蚌!淘宝搜索 “巧克梨祛痘膏”支持女明星搞事业!(仅在淘宝有售)文案:网络整理:巧克梨未经授权 不得转载

2022-11-29 #经典句子

那些第一眼就触动了你的句子13.0

那些第一眼就触动了你的句子13.0

...不要胆怯不要退缩冲就完事儿了!自用推荐,效果超蚌!淘宝搜索 “巧克梨祛痘膏”支持女明星搞事业!(仅在淘宝有售)文案:网络 侵删 整理:巧克梨

2022-12-13 #经典句子

戒尺上文言文频出错 警戒不成反成笑话

戒尺上文言文频出错 警戒不成反成笑话

...子规》只会误导学生。节选《百家姓》就有10个错别字,淘宝客服:介意勿拍无独有偶,市民耿女士也发现最近买来的戒尺上文言文有错误。耿女士家中这把戒尺上印制的是《劝学》一文,但缺少了我们熟知的“青,取之于蓝,...

2023-01-08 #经典句子