NLP论文阅读记录 - 2022 | WOS 一种新颖的优化的与语言无关的文本摘要技术

---

前言

A Novel Optimized Language-Independent Text Summarization Technique（2204）

---

0、论文摘要

大量文本数据以多种语言以电子方式呈现。这些文本将齿轮导向信息冗余。消除这种冗余并减少这些数据的读取时间至关重要。因此，我们需要一种计算机化的文本摘要技术来从具有相关主题的文本文档组中提取相关信息。
本文提出了一种与语言无关的提取摘要技术。所提出的技术提出了一种基于聚类的优化技术。聚类技术确定文本的主要主题，而所提出的优化技术则最大限度地减少冗余并最大化重要性。
使用英语的 BillSum 数据集、德语和俄语的 MLSUM 以及阿拉伯语的 Mawdoo3 来设计和评估实验。使用 ROUGE 指标评估实验。结果表明，与其他依赖于语言和独立于语言的摘要技术相比，所提出的技术是有效的。我们的技术为所有使用的数据集实现了更好的 ROUGE 指标。
对于使用所有三个目标的所有数据集，该技术平均实现了 Rouge-1 41.9%、Rouge-2 18.7%、Rouge-3 39.4% 和 Rouge-4 16.8% 的 F 测量。我们的系统还表现出 26.6%、35.5%、34.65% 和 31.54% w.r.t. 的改进。最近的模型在 ROUGE 度量评估方面对 BillSum 的总结做出了贡献。我们的模型的性能高于对比模型，特别是在二元匹配的 ROUGE_2 的度量结果中。

一、Introduction

1.1目标问题

大量不同语言的电子数据增加了从中挖掘有用信息的难度。人们很难阅读如此庞大的文章信息。因此，有必要采用计算机化的摘要技术来推断重要的内容。并迅速突出信息。计算机摘要技术已应用于不同领域，例如网页和在线表格。例如，[1] 中的作者建议使用文本标记提取来改善搜索结果。 [2] 中的作者提出了一种用于媒体分析的文本标记提取方法。与语言无关的摘要提取器是语言分析应用程序。它们的目标是从单个或多文本文档生成较短的文本，同时保持含义。摘要技术可以根据输入、语言、方法或输出进行分类，如图 1 所示[3,4]。可以对单个文本文档或多文本文档的输入进行摘要。在多文本文档摘要中使用一组相关的文本文档。单文本文档源不会显示不一致，但是，在多文本文档源中可能会发现冲突和冗余。因此，多文本文档源摘要比单源文本文档更困难[3-5]。此外，摘要输出可以是非特定的，讨论一个巨大的社区，也可以是基于文本标记的，强调与文本标记相关的特定主题。这对于将该技术分类为指示性过程非常重要[3,4]。
摘要过程也可以定义为提取式，其中摘要输出是通过根据语言特征和统计方面选择主要短语来生成基于加权和的解决方案[3-8]。而摘要依赖于使用自然语言处理技术分析文本语义来生成掌握源文本文档中主要思想的新短语[3,4]。摘要概要更易于理解，类似于人类所做的摘要，但它们需要对源文本有深刻的了解，并且还需要解析器和文本生成器[6,7]。深度学习和迁移学习可以用于抽象概括。深度学习通常可以产生良好的结果。提取摘要利用预定义的特征选择重要的短语。然后组合所选短语以产生摘要输出。在多文本文档中，由于从多个文本文档中挖掘短语，因此出现了冗余问题。在这种情况下必须处理冗余。此外，受限摘要需要选择最佳的摘要输出，而不是杰出的短语。因此，多文本文档摘要将导致全局优化需求[8-10]。

1.2相关的尝试

1.3本文贡献

总之，我们的贡献如下：
1.本文提出了一种与语言无关的提取摘要技术。
2.所提出的技术提出了一种基于聚类的优化技术。
3. 聚类技术确定文本的主要主题，而所提出的优化技术则最大限度地减少冗余并最大化重要性。
4. 针对不同语言设计并评估实验，以证明模型的独立特征。
5. 在英语、德语、俄语和阿拉伯语语言的数据集上进行实验。

二.前提

三.本文方法

四 实验效果

4.1数据集

4.2 对比模型

4.3实施细节

4.4评估指标

4.5 实验结果

4.6 细粒度分析

---

五 总结

总之，我们将多语言无关的文本摘要过程制定为目标优化过程（同时最大化多个目标）。该模型采用四个阶段：第一阶段是预处理过程，然后进行特征提取和聚类，最后一个阶段是多目标同时优化。通过标记化、停用词去除和规范化等预处理，以统一的形式对句子进行建模。选择统计特征并将其用于每个短语的重要性评分。相关文档的主题是使用质心聚类来定义的。最后一个阶段使用多目标优化进化方法生成最佳摘要，最大化重要性并最小化冗余。结果通过测量 ROUGE 指标验证了我们的模型相对于最先进模型的有效性。我们仍然有一些限制，如下：（i）句子分数是通过实验计算的，可以通过遗传算法计算，以及（ii）我们没有包括输出的一致性，我们可以将其包括到要优化的目标中。

思考