• 2.3 识别文字蕴含

    2.3 识别文字蕴含

    识别文字蕴含（RTE）是判断文本 T 的一个给定片段是否蕴含着另一个叫做“假设”的文本（已经在5讨论过）。迄今为止，已经有 4 个 RTE 挑战赛，在那里共享的开发和测试数据会提供给参赛队伍。这里是挑战赛 3 开发数据集中的文本/假设对的两个例子。标签 True 表示蕴含成立，False 表示蕴含不成立。

    Challenge 3, Pair 34 (True)

    > T: Parviz Davudi was representing Iran at a meeting of the Shanghai Co-operation Organisation (SCO), the fledgling association that binds Russia, China and four former Soviet republics of central Asia together to fight terrorism.>> H: China is a member of SCO.

    Challenge 3, Pair 81 (False)

    > T: According to NC Articles of Organization, the members of LLC company are H. Nelson Beavers, III, H. Chester Beavers and Jennie Beavers Stewart.>> H: Jennie Beavers Stewart is a share-holder of Carolina Analytical Laboratory.

    应当强调，文字和假设之间的关系并不一定是逻辑蕴涵，而是一个人是否会得出结论：文本提供了合理的证据证明假设是真实的。

    我们可以把 RTE 当作一个分类任务，尝试为每一对预测 True/False 标签。虽然这项任务的成功做法似乎看上去涉及语法分析、语义和现实世界的知识的组合，RTE 的许多早期的尝试使用粗浅的分析基于文字和假设之间的在词级别的相似性取得了相当不错的结果。在理想情况下，我们希望如果有一个蕴涵那么假设所表示的所有信息也应该在文本中表示。相反，如果假设中有的资料文本中没有，那么就没有蕴涵。

    在我们的 RTE 特征探测器（2.2）中，我们让词（即词类型）作为信息的代理，我们的特征计数词重叠的程度和假设中有而文本中没有的词的程度（由hyp_extra()方法获取）。不是所有的词都是同样重要的——命名实体，如人、组织和地方的名称，可能会更为重要，这促使我们分别为words 和nes（命名实体）提取不同的信息。此外，一些高频虚词作为“停用词”被过滤掉。

    1. def rte_features(rtepair):
    2.     extractor = nltk.RTEFeatureExtractor(rtepair)
    3.     features = {}
    4.     features['word_overlap'] = len(extractor.overlap('word'))
    5.     features['word_hyp_extra'] = len(extractor.hyp_extra('word'))
    6.     features['ne_overlap'] = len(extractor.overlap('ne'))
    7.     features['ne_hyp_extra'] = len(extractor.hyp_extra('ne'))
    8.     return features

    为了说明这些特征的内容，我们检查前面显示的文本/假设对 34 的一些属性：

    1. >>> rtepair = nltk.corpus.rte.pairs(['rte3_dev.xml'])[33]
    2. >>> extractor = nltk.RTEFeatureExtractor(rtepair)
    3. >>> print(extractor.text_words)
    4. {'Russia', 'Organisation', 'Shanghai', 'Asia', 'four', 'at',
    5. 'operation', 'SCO', ...}
    6. >>> print(extractor.hyp_words)
    7. {'member', 'SCO', 'China'}
    8. >>> print(extractor.overlap('word'))
    9. set()
    10. >>> print(extractor.overlap('ne'))
    11. {'SCO', 'China'}
    12. >>> print(extractor.hyp_extra('word'))
    13. {'member'}

    这些特征表明假设中所有重要的词都包含在文本中，因此有一些证据支持标记这个为 True。

    nltk.classify.rte_classify模块使用这些方法在合并的 RTE 测试数据上取得了刚刚超过 58％的准确率。这个数字并不是很令人印象深刻的，还需要大量的努力，更多的语言学处理，才能达到更好的结果。