1200字范文 > paddlenlp 任务清单中文分词中文纠错文本相似度情感分析词性标注等一键

paddlenlp 任务清单中文分词中文纠错文本相似度情感分析词性标注等一键

时间：2022-11-30 05:50:51

PaddleNLP Taskflow /PaddlePaddle/PaddleNLP/blob/develop/docs/model_zoo/taskflow.md#paddlenlp-taskflow

PaddleNLP Taskflow

PaddleNLP Taskflow 介绍任务清单用法查看使用示例中文分词词性标注命名实体识别文本纠错句法分析情感分析文本相似度『解语』-词类知识标注『解语』-名词短语标注生成式问答智能写诗开放域对话自定义任务FAQ

介绍

paddlenlp.Taskflow提供开箱即用的NLP预置任务，覆盖自然语言理解与自然语言生成两大核心应用，在中文场景上提供产业级的效果与极致的预测性能。

任务清单

随着版本迭代会持续开放更多的应用场景。

安装

环境依赖

python >= 3.6paddlepaddle >= 2.2.0paddlenlp >= 2.2.0

用法

查看使用示例

from paddlenlp import Taskflowseg = Taskflow("word_segmentation")seg.help()>>> Examples:from paddlenlp import Taskflowseg = Taskflow("word_segmentation")seg("第十四届全运会在西安举办")'''['第十四届', '全运会', '在', '西安', '举办']'''seg(["第十四届全运会在西安举办", "三亚是一个美丽的城市"])'''[['第十四届', '全运会', '在', '西安', '举办'], ['三亚', '是', '一个', '美丽', '的', '城市']]'''

中文分词

支持三种模式分词

Base模式（默认）

from paddlenlp import Taskflowseg = Taskflow("word_segmentation")seg("第十四届全运会在西安举办")>>> ['第十四届', '全运会', '在', '西安', '举办']seg(["第十四届全运会在西安举办", "三亚是一个美丽的城市"])>>> [['第十四届', '全运会', '在', '西安', '举办'], ['三亚', '是', '一个', '美丽', '的', '城市']]

快速模式

利用『结巴』中文分词工具，实现文本快速切分。

from paddlenlp import Taskflowseg = Taskflow("word_segmentation", mode="fast")seg("第十四届全运会在西安举办")>>> ['第十四届', '全运会', '在', '西安', '举办']

精确模式

试图将句子中的实体词完整切分，分词精确度高。

seg = Taskflow("word_segmentation", mode="accurate")seg("李伟拿出具有科学性、可操作性的《陕西省高校管理体制改革实施方案》")>>> ['李伟', '拿出', '具有', '科学性', '、', '可操作性', '的', '《', '陕西省高校管理体制改革实施方案', '》']

自定义词典

快速模式词典载入方式：

用户可以在词典文件每一行有两个部分：词语、词频（可省略），用空格隔开。词频省略则自动计算能保证分出该词的词频。

词典文件user_dict.txt示例：

新冠肺炎 8国家卫健委

"国家卫健委修订完成了新冠肺炎诊疗方案"原本的输出结果为：

['国家', '卫健委', '修订', '完成', '了', '新冠', '肺炎', '诊疗', '方案']

装载自定义词典及输出结果示例：

from paddlenlp import Taskflowmy_seg = Taskflow("word_segmentation", mode="fast", user_dict="user_dict.txt")my_seg("国家卫健委修订完成了新冠肺炎诊疗方案")>>> ['国家卫健委', '修订', '完成', '了', '新冠肺炎', '诊疗', '方案']

Base、精确模式词典载入方式：

词典文件每一行表示一个自定义item。

词典文件user_dict.txt示例：

平原上的火焰年末

以默认模型为例，"平原上的火焰计划于年末上映"原本的输出结果为：

['平原', '上', '的', '火焰', '计划', '于', '年末', '上映']

装载自定义词典及输出结果示例：

from paddlenlp import Taskflowmy_seg = Taskflow("word_segmentation", user_dict="user_dict.txt")my_seg("平原上的火焰计划于年末上映")>>> ['平原上的火焰', '计划', '于', '年', '末', '上映']

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。user_dict：用户自定义词典文件，默认为None。task_path：自定义任务路径，默认为None。

词性标注

from paddlenlp import Taskflowtag = Taskflow("pos_tagging")tag("第十四届全运会在西安举办")>>>[('第十四届', 'm'), ('全运会', 'nz'), ('在', 'p'), ('西安', 'LOC'), ('举办', 'v')]tag(["第十四届全运会在西安举办", "三亚是一个美丽的城市"])>>> [[('第十四届', 'm'), ('全运会', 'nz'), ('在', 'p'), ('西安', 'LOC'), ('举办', 'v')], [('三亚', 'LOC'), ('是', 'v'), ('一个', 'm'), ('美丽', 'a'), ('的', 'u'), ('城市', 'n')]]

标签集合：

自定义词典

用户可以通过装载自定义词典来定制化分词和词性标注结果。词典文件每一行表示一个自定义item，可以由一个单词或者多个单词组成，单词后面可以添加自定义标签，格式为item/tag，如果不添加自定义标签，则使用模型默认标签。

词典文件user_dict.txt示例：

赛里木湖/LAKE高/a 山/n海拔最高湖泊

以"赛里木湖是新疆海拔最高的高山湖泊"为例，原本的输出结果为：

[('赛里木湖', 'LOC'), ('是', 'v'), ('新疆', 'LOC'), ('海拔', 'n'), ('最高', 'a'), ('的', 'u'), ('高山', 'n'), ('湖泊', 'n')]

装载自定义词典及输出结果示例：

from paddlenlp import Taskflowmy_tag = Taskflow("pos_tagging", user_dict="user_dict.txt")my_tag("赛里木湖是新疆海拔最高的高山湖泊")>>> [('赛里木湖', 'LAKE'), ('是', 'v'), ('新疆', 'LOC'), ('海拔最高', 'n'), ('的', 'u'), ('高', 'a'), ('山', 'n'), ('湖', 'n'), ('泊', 'n')]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。user_dict：用户自定义词典文件，默认为None。task_path：自定义任务路径，默认为None。

命名实体识别

支持两种模式

快速模式

from paddlenlp import Taskflowner = Taskflow("ner", mode="fast")ner("三亚是一个美丽的城市")>>> [('三亚', 'LOC'), ('是', 'v'), ('一个', 'm'), ('美丽', 'a'), ('的', 'u'), ('城市', 'n')]

精确模式（默认）

from paddlenlp import Taskflowner = Taskflow("ner")ner("《孤女》是九州出版社出版的小说，作者是余兼羽")>>> [('《', 'w'), ('孤女', '作品类_实体'), ('》', 'w'), ('是', '肯定词'), ('', '时间类'), ('九州出版社', '组织机构类'), ('出版', '场景事件'), ('的', '助词'), ('小说', '作品类_概念'), ('，', 'w'), ('作者', '人物类_概念'), ('是', '肯定词'), ('余兼羽', '人物类_实体')]ner(["热梅茶是一道以梅子为主要原料制作的茶饮", "《孤女》是九州出版社出版的小说，作者是余兼羽"])>>> [[('热梅茶', '饮食类_饮品'), ('是', '肯定词'), ('一道', '数量词'), ('以', '介词'), ('梅子', '饮食类'), ('为', '肯定词'), ('主要原料', '物体类'), ('制作', '场景事件'), ('的', '助词'), ('茶饮', '饮食类_饮品')], [('《', 'w'), ('孤女', '作品类_实体'), ('》', 'w'), ('是', '肯定词'), ('', '时间类'), ('九州出版社', '组织机构类'), ('出版', '场景事件'), ('的', '助词'), ('小说', '作品类_概念'), ('，', 'w'), ('作者', '人物类_概念'), ('是', '肯定词'), ('余兼羽', '人物类_实体')]]

只返回实体/概念词：

from paddlenlp import Taskflowner = Taskflow("ner", mode="accurate", entity_only=True)ner("《孤女》是九州出版社出版的小说，作者是余兼羽")>>> [('孤女', '作品类_实体'), ('', '时间类'), ('九州出版社', '组织机构类'), ('出版', '场景事件'), ('小说', '作品类_概念'), ('作者', '人物类_概念'), ('余兼羽', '人物类_实体')]

自定义词典

词典文件user_dict.txt示例：

长津湖/电影类_实体收/词汇用语尾/术语类最大海外票仓

以"《长津湖》收尾，北美是最大海外票仓"为例，原本的输出结果为：

[('《', 'w'), ('长津湖', '作品类_实体'), ('》', 'w'), ('收尾', '场景事件'), ('，', 'w'), ('北美', '世界地区类'), ('是', '肯定词'), ('最大', '修饰词'), ('海外', '场所类'), ('票仓', '词汇用语')]

装载自定义词典及输出结果示例：

from paddlenlp import Taskflowmy_ner = Taskflow("ner", user_dict="user_dict.txt")my_ner("《长津湖》收尾，北美是最大海外票仓")>>> [('《', 'w'), ('长津湖', '电影类_实体'), ('》', 'w'), ('收', '词汇用语'), ('尾', '术语类'), ('，', 'w'), ('北美', '世界地区类'), ('是', '肯定词'), ('最', '修饰词'), ('大', '修饰词'), ('海外票仓', '场所类')]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。user_dict：用户自定义词典文件，默认为None。task_path：自定义任务路径，默认为None。entity_only：是否返回所有词性标签；若设置为True，则只返回实体/概念词；默认为False。

文本纠错

from paddlenlp import Taskflowcorrector = Taskflow("text_correction")corrector('遇到逆竟时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。')>>> [{'source': '遇到逆竟时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。', 'target': '遇到逆境时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。', 'errors': [{'position': 3, 'correction': {'竟': '境'}}]}]corrector(['遇到逆竟时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。','人生就是如此，经过磨练才能让自己更加拙壮，才能使自己更加乐观。'])>>> [{'source': '遇到逆竟时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。', 'target': '遇到逆境时，我们必须勇于面对，而且要愈挫愈勇，这样我们才能朝著成功之路前进。', 'errors': [{'position': 3, 'correction': {'竟': '境'}}]}, {'source': '人生就是如此，经过磨练才能让自己更加拙壮，才能使自己更加乐观。', 'target': '人生就是如此，经过磨练才能让自己更加茁壮，才能使自己更加乐观。', 'errors': [{'position': 18, 'correction': {'拙': '茁'}}]}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。task_path：自定义任务路径，默认为None。

句法分析

from paddlenlp import Taskflowddp = Taskflow("dependency_parsing")ddp("9月9日上午纳达尔在亚瑟·阿什球场击败俄罗斯球员梅德韦杰夫")>>> [{'word': ['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什球场', '击败', '俄罗斯', '球员', '梅德韦杰夫'], 'head': [2, 6, 6, 5, 6, 0, 8, 9, 6], 'deprel': ['ATT', 'ADV', 'SBV', 'MT', 'ADV', 'HED', 'ATT', 'ATT', 'VOB']}]ddp(["9月9日上午纳达尔在亚瑟·阿什球场击败俄罗斯球员梅德韦杰夫", "他送了一本书"])>>> [{'word': ['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什球场', '击败', '俄罗斯', '球员', '梅德韦杰夫'], 'head': [2, 6, 6, 5, 6, 0, 8, 9, 6], 'deprel': ['ATT', 'ADV', 'SBV', 'MT', 'ADV', 'HED', 'ATT', 'ATT', 'VOB']}, {'word': ['他', '送', '了', '一本', '书'], 'head': [2, 0, 2, 5, 2], 'deprel': ['SBV', 'HED', 'MT', 'ATT', 'VOB']}]

输出概率值和词性标签:

ddp = Taskflow("dependency_parsing", prob=True, use_pos=True)ddp("9月9日上午纳达尔在亚瑟·阿什球场击败俄罗斯球员梅德韦杰夫")>>> [{'word': ['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什', '球场', '击败', '俄罗斯', '球员', '梅德韦杰夫'], 'head': [2, 7, 7, 6, 6, 7, 0, 9, 10, 7], 'deprel': ['ATT', 'ADV', 'SBV', 'MT', 'ATT', 'ADV', 'HED', 'ATT', 'ATT', 'VOB'], 'postag': ['TIME', 'TIME', 'PER', 'p', 'PER', 'n', 'v', 'LOC', 'n', 'PER'], 'prob': [0.79, 0.98, 1.0, 0.49, 0.97, 0.86, 1.0, 0.85, 0.97, 0.99]}]

使用ddparser-ernie-1.0进行预测:

ddp = Taskflow("dependency_parsing", model="ddparser-ernie-1.0")ddp("9月9日上午纳达尔在亚瑟·阿什球场击败俄罗斯球员梅德韦杰夫")>>> [{'word': ['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什球场', '击败', '俄罗斯', '球员', '梅德韦杰夫'], 'head': [2, 6, 6, 5, 6, 0, 8, 9, 6], 'deprel': ['ATT', 'ADV', 'SBV', 'MT', 'ADV', 'HED', 'ATT', 'ATT', 'VOB']}]

使用分词结果来输入:

ddp = Taskflow("dependency_parsing")ddp.from_segments([['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什球场', '击败', '俄罗斯', '球员', '梅德韦杰夫']])>>> [{'word': ['9月9日', '上午', '纳达尔', '在', '亚瑟·阿什球场', '击败', '俄罗斯', '球员', '梅德韦杰夫'], 'head': [2, 6, 6, 5, 6, 0, 8, 9, 6], 'deprel': ['ATT', 'ADV', 'SBV', 'MT', 'ADV', 'HED', 'ATT', 'ATT', 'VOB']}]

依存关系可视化：

from paddlenlp import Taskflowddp = Taskflow("dependency_parsing", return_visual=True)result = ddp("9月9日上午纳达尔在亚瑟·阿什球场击败俄罗斯球员梅德韦杰夫")[0]['visual']import cv2cv2.imwrite('test.png', result)

标注关系说明：

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。model：选择任务使用的模型，可选有ddparser，ddparser-ernie-1.0和ddparser-ernie-gram-zh。tree：确保输出结果是正确的依存句法树，默认为True。prob：是否输出每个弧对应的概率值，默认为False。use_pos：是否返回词性标签，默认为False。use_cuda：是否使用GPU进行切词，默认为False。return_visual：是否返回句法树的可视化结果，默认为False。task_path：自定义任务路径，默认为None。

情感分析

使用BiLSTM模型：

from paddlenlp import Taskflowsenta = Taskflow("sentiment_analysis")senta("这个产品用起来真的很流畅，我非常喜欢")>>> [{'text': '这个产品用起来真的很流畅，我非常喜欢', 'label': 'positive', 'score': 0.9938690066337585}]senta(["这个产品用起来真的很流畅，我非常喜欢", "作为老的四星酒店，房间依然很整洁，相当不错。机场接机服务很好，可以在车上办理入住手续，节省时间"])>>> [{'text': '这个产品用起来真的很流畅，我非常喜欢', 'label': 'positive', 'score': 0.9938690066337585}, {'text': '作为老的四星酒店，房间依然很整洁，相当不错。机场接机服务很好，可以在车上办理入住手续，节省时间', 'label': 'positive', 'score': 0.98575067516}]

使用SKEP情感分析预训练模型进行预测：

senta = Taskflow("sentiment_analysis", model="skep_ernie_1.0_large_ch")senta("作为老的四星酒店，房间依然很整洁，相当不错。机场接机服务很好，可以在车上办理入住手续，节省时间。")>>> [{'text': '作为老的四星酒店，房间依然很整洁，相当不错。机场接机服务很好，可以在车上办理入住手续，节省时间。', 'label': 'positive', 'score': 0.984320878982544}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。model：选择任务使用的模型，可选有bilstm和skep_ernie_1.0_large_ch。task_path：自定义任务路径，默认为None。

文本相似度

from paddlenlp import Taskflowsimilarity = Taskflow("text_similarity")similarity([["世界上什么东西最小", "世界上什么东西最小？"]])>>> [{'text1': '世界上什么东西最小', 'text2': '世界上什么东西最小？', 'similarity': 0.992725}]similarity([["光眼睛大就好看吗", "眼睛好看吗？"], ["小蝌蚪找妈妈怎么样", "小蝌蚪找妈妈是谁画的"]])>>> [{'text1': '光眼睛大就好看吗', 'text2': '眼睛好看吗？', 'similarity': 0.74502707}, {'text1': '小蝌蚪找妈妈怎么样', 'text2': '小蝌蚪找妈妈是谁画的', 'similarity': 0.8192149}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。max_seq_len：最大序列长度，默认为128。task_path：自定义任务路径，默认为None。

知识挖掘-词类知识标注

from paddlenlp import Taskflowwordtag = Taskflow("knowledge_mining")wordtag("《孤女》是九州出版社出版的小说，作者是余兼羽")>>> [{'text': '《孤女》是九州出版社出版的小说，作者是余兼羽', 'items': [{'item': '《', 'offset': 0, 'wordtag_label': 'w', 'length': 1}, {'item': '孤女', 'offset': 1, 'wordtag_label': '作品类_实体', 'length': 2}, {'item': '》', 'offset': 3, 'wordtag_label': 'w', 'length': 1}, {'item': '是', 'offset': 4, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '', 'offset': 5, 'wordtag_label': '时间类', 'length': 5, 'termid': '时间阶段_cb_'}, {'item': '九州出版社', 'offset': 10, 'wordtag_label': '组织机构类', 'length': 5, 'termid': '组织机构_eb_九州出版社'}, {'item': '出版', 'offset': 15, 'wordtag_label': '场景事件', 'length': 2, 'termid': '场景事件_cb_出版'}, {'item': '的', 'offset': 17, 'wordtag_label': '助词', 'length': 1, 'termid': '助词_cb_的'}, {'item': '小说', 'offset': 18, 'wordtag_label': '作品类_概念', 'length': 2, 'termid': '小说_cb_小说'}, {'item': '，', 'offset': 20, 'wordtag_label': 'w', 'length': 1}, {'item': '作者', 'offset': 21, 'wordtag_label': '人物类_概念', 'length': 2, 'termid': '人物_cb_作者'}, {'item': '是', 'offset': 23, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '余兼羽', 'offset': 24, 'wordtag_label': '人物类_实体', 'length': 3}]}]wordtag(["热梅茶是一道以梅子为主要原料制作的茶饮","《孤女》是九州出版社出版的小说，作者是余兼羽"])>>> [{'text': '热梅茶是一道以梅子为主要原料制作的茶饮', 'items': [{'item': '热梅茶', 'offset': 0, 'wordtag_label': '饮食类_饮品', 'length': 3}, {'item': '是', 'offset': 3, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '一道', 'offset': 4, 'wordtag_label': '数量词', 'length': 2}, {'item': '以', 'offset': 6, 'wordtag_label': '介词', 'length': 1, 'termid': '介词_cb_以'}, {'item': '梅子', 'offset': 7, 'wordtag_label': '饮食类', 'length': 2, 'termid': '饮食_cb_梅'}, {'item': '为', 'offset': 9, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_为'}, {'item': '主要原料', 'offset': 10, 'wordtag_label': '物体类', 'length': 4, 'termid': '物品_cb_主要原料'}, {'item': '制作', 'offset': 14, 'wordtag_label': '场景事件', 'length': 2, 'termid': '场景事件_cb_制作'}, {'item': '的', 'offset': 16, 'wordtag_label': '助词', 'length': 1, 'termid': '助词_cb_的'}, {'item': '茶饮', 'offset': 17, 'wordtag_label': '饮食类_饮品', 'length': 2, 'termid': '饮品_cb_茶饮'}]}, {'text': '《孤女》是九州出版社出版的小说，作者是余兼羽', 'items': [{'item': '《', 'offset': 0, 'wordtag_label': 'w', 'length': 1}, {'item': '孤女', 'offset': 1, 'wordtag_label': '作品类_实体', 'length': 2}, {'item': '》', 'offset': 3, 'wordtag_label': 'w', 'length': 1}, {'item': '是', 'offset': 4, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '', 'offset': 5, 'wordtag_label': '时间类', 'length': 5, 'termid': '时间阶段_cb_'}, {'item': '九州出版社', 'offset': 10, 'wordtag_label': '组织机构类', 'length': 5, 'termid': '组织机构_eb_九州出版社'}, {'item': '出版', 'offset': 15, 'wordtag_label': '场景事件', 'length': 2, 'termid': '场景事件_cb_出版'}, {'item': '的', 'offset': 17, 'wordtag_label': '助词', 'length': 1, 'termid': '助词_cb_的'}, {'item': '小说', 'offset': 18, 'wordtag_label': '作品类_概念', 'length': 2, 'termid': '小说_cb_小说'}, {'item': '，', 'offset': 20, 'wordtag_label': 'w', 'length': 1}, {'item': '作者', 'offset': 21, 'wordtag_label': '人物类_概念', 'length': 2, 'termid': '人物_cb_作者'}, {'item': '是', 'offset': 23, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '余兼羽', 'offset': 24, 'wordtag_label': '人物类_实体', 'length': 3}]}]

标签集合：

知识挖掘-词类知识标注任务共包含66种词性及专名类别标签，标签集合如下表

WordTag标签集合人物类_实体物体类生物类_动物医学术语类链接地址肯定词人物类_概念物体类_兵器品牌名术语类_生物体个性特征否定词作品类_实体物体类_化学物质场所类疾病损伤类感官特征数量词作品类_概念其他角色类场所类_交通场所疾病损伤类_植物病虫害场景事件叹词组织机构类文化类位置方位宇宙类介词拟声词组织机构类_企事业单位文化类_语言文字世界地区类事件类介词_方位介词修饰词组织机构类_医疗卫生机构文化类_奖项赛事活动饮食类时间类助词外语单词组织机构类_国家机关文化类_制度政策协议饮食类_菜品时间类_特殊日代词英语单词组织机构类_体育组织机构文化类_姓氏与人名饮食类_饮品术语类连词汉语拼音组织机构类_教育组织机构生物类药物类术语类_符号指标类副词词汇用语组织机构类_军事组织机构生物类_植物药物类_中药信息资料疑问词w(标点)

自定义词典

词典文件user_dict.txt示例：

长津湖/电影类_实体收/词汇用语尾/术语类最大海外票仓

以"《长津湖》收尾，北美是最大海外票仓"为例，原本的输出结果为：

[{'text': '《长津湖》收尾，北美是最大海外票仓', 'items': [{'item': '《', 'offset': 0, 'wordtag_label': 'w', 'length': 1}, {'item': '长津湖', 'offset': 1, 'wordtag_label': '作品类_实体', 'length': 3, 'termid': '影视作品_eb_长津湖'}, {'item': '》', 'offset': 4, 'wordtag_label': 'w', 'length': 1}, {'item': '收尾', 'offset': 5, 'wordtag_label': '场景事件', 'length': 2, 'termid': '场景事件_cb_收尾'}, {'item': '，', 'offset': 7, 'wordtag_label': 'w', 'length': 1}, {'item': '北美', 'offset': 8, 'wordtag_label': '世界地区类', 'length': 2, 'termid': '世界地区_cb_北美'}, {'item': '是', 'offset': 10, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '最大', 'offset': 11, 'wordtag_label': '修饰词', 'length': 2, 'termid': '修饰词_cb_最大'}, {'item': '海外', 'offset': 13, 'wordtag_label': '场所类', 'length': 2, 'termid': '区域场所_cb_海外'}, {'item': '票仓', 'offset': 15, 'wordtag_label': '词汇用语', 'length': 2}]}]

装载自定义词典及输出结果示例：

from paddlenlp import Taskflowmy_wordtag = Taskflow("knowledge_mining", user_dict="user_dict.txt")my_wordtag("《长津湖》收尾，北美是最大海外票仓")>>> [{'text': '《长津湖》收尾，北美是最大海外票仓', 'items': [{'item': '《', 'offset': 0, 'wordtag_label': 'w', 'length': 1}, {'item': '长津湖', 'offset': 1, 'wordtag_label': '电影类_实体', 'length': 3}, {'item': '》', 'offset': 4, 'wordtag_label': 'w', 'length': 1}, {'item': '收', 'offset': 5, 'wordtag_label': '词汇用语', 'length': 1}, {'item': '尾', 'offset': 6, 'wordtag_label': '术语类', 'length': 1, 'termid': '动物体构造_cb_动物尾巴'}, {'item': '，', 'offset': 7, 'wordtag_label': 'w', 'length': 1}, {'item': '北美', 'offset': 8, 'wordtag_label': '世界地区类', 'length': 2, 'termid': '世界地区_cb_北美'}, {'item': '是', 'offset': 10, 'wordtag_label': '肯定词', 'length': 1, 'termid': '肯定否定词_cb_是'}, {'item': '最', 'offset': 11, 'wordtag_label': '修饰词', 'length': 1}, {'item': '大', 'offset': 12, 'wordtag_label': '修饰词', 'length': 1, 'termid': '修饰词_cb_大'}, {'item': '海外票仓', 'offset': 13, 'wordtag_label': '场所类', 'length': 4}]}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。linking：实现基于词类的linking，默认为True。task_path：自定义任务路径，默认为None。user_dict：用户自定义词典文件，默认为None。

知识挖掘-名词短语标注

from paddlenlp import Taskflownptag = Taskflow("knowledge_mining", model="nptag")nptag("糖醋排骨")>>> [{'text': '糖醋排骨', 'label': '菜品'}]nptag(["糖醋排骨", "红曲霉菌"])>>> [{'text': '糖醋排骨', 'label': '菜品'}, {'text': '红曲霉菌', 'label': '微生物'}]# 使用`linking`输出粗粒度类别标签`category`，即WordTag的词汇标签。nptag = Taskflow("knowledge_mining", model="nptag", linking=True)nptag(["糖醋排骨", "红曲霉菌"])>>> [{'text': '糖醋排骨', 'label': '菜品', 'category': '饮食类_菜品'}, {'text': '红曲霉菌', 'label': '微生物', 'category': '生物类_微生物'}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。max_seq_len：最大序列长度，默认为64。linking：实现与WordTag类别标签的linking，默认为False。task_path：自定义任务路径，默认为None。

生成式问答

from paddlenlp import Taskflowqa = Taskflow("question_answering")qa("中国的国土面积有多大？")>>> [{'text': '中国的国土面积有多大？', 'answer': '960万平方公里。'}]qa(["中国国土面积有多大？", "中国的首都在哪里？"])>>> [{'text': '中国国土面积有多大？', 'answer': '960万平方公里。'}, {'text': '中国的首都在哪里？', 'answer': '北京。'}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。

智能写诗

from paddlenlp import Taskflowpoetry = Taskflow("poetry_generation")poetry("林密不见人")>>> [{'text': '林密不见人', 'answer': ',但闻人语响。'}]poetry(["林密不见人", "举头邀明月"])>>> [{'text': '林密不见人', 'answer': ',但闻人语响。'}, {'text': '举头邀明月', 'answer': ',低头思故乡。'}]

可配置参数说明

batch_size：批处理大小，请结合机器情况进行调整，默认为1。

开放域对话

支持两种模式

非交互模式：

from paddlenlp import Taskflowdialogue = Taskflow("dialogue")dialogue(["吃饭了吗"])>>> ['刚吃完饭,你在干什么呢?']dialogue(["你好", "吃饭了吗"], ["你是谁？"])>>> ['吃过了,你呢', '我是李明啊']

交互模式：

交互模式下，Taskflow具备多轮对话记忆功能。

from paddlenlp import Taskflowdialogue = Taskflow("dialogue")# 输入`exit`可退出交互模式dialogue.interactive_mode(max_turn=3)'''[Human]:你好[Bot]:你好,很高兴认识你,我想问你一下,你喜欢运动吗?[Human]:喜欢[Bot]:那你喜欢什么运动啊?[Human]:篮球,你喜欢篮球吗[Bot]:当然了,我很喜欢打篮球的'''