CN112417887A - 敏感词句识别模型处理方法、及其相关设备 - Google Patents

敏感词句识别模型处理方法、及其相关设备 Download PDF

Info

Publication number
CN112417887A
CN112417887A CN202011314105.6A CN202011314105A CN112417887A CN 112417887 A CN112417887 A CN 112417887A CN 202011314105 A CN202011314105 A CN 202011314105A CN 112417887 A CN112417887 A CN 112417887A
Authority
CN
China
Prior art keywords
initial
sensitive word
sentence
data source
recognition model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011314105.6A
Other languages
English (en)
Other versions
CN112417887B (zh
Inventor
庞承杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Pinyuan Information Technology Co ltd
Shenzhen Lian Intellectual Property Service Center
Xiaovo Technology Co ltd
Original Assignee
Ping An Puhui Enterprise Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Puhui Enterprise Management Co Ltd filed Critical Ping An Puhui Enterprise Management Co Ltd
Priority to CN202011314105.6A priority Critical patent/CN112417887B/zh
Publication of CN112417887A publication Critical patent/CN112417887A/zh
Application granted granted Critical
Publication of CN112417887B publication Critical patent/CN112417887B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G06F40/247—Thesauruses; Synonyms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Machine Translation (AREA)

Abstract

本申请实施例属于人工智能领域，涉及一种敏感词句识别模型处理方法，包括获取初始数据源；将初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；获取用于对初始敏感词句识别模型进行增量训练的生语料数据源；基于语义相似度，在生语料数据源中对初始敏感词句集合进行迭代扩充，得到增量数据源；通过增量数据源对初始敏感词句识别模型进行训练，得到敏感词句识别模型。本申请还提供一种敏感词句识别模型处理装置、计算机设备及存储介质。此外，本申请还涉及区块链技术，初始数据源和生语料数据源可存储于区块链中。本申请提高了敏感词句识别的兼容性。

Description

敏感词句识别模型处理方法、及其相关设备
技术领域
本申请涉及人工智能技术领域，尤其涉及一种敏感词句识别模型处理方法、装置、计算机设备及存储介质。
背景技术
随着互联网技术的发展，越来越多的信息通过互联网进行发布和传输。互联网上传输的信息多种多样，其中不乏各种类型的敏感词句。在社会治理层面，敏感词句包括违法违规、危害社会安全稳定的不良信息；对于企业机构，敏感词句包括不可泄漏、需要保护的信息；对于个人，敏感词句除了个人隐私的相关信息，还可以包括对获取信息无关的干扰词句。由此可见，敏感词句的监测和识别具有非常广阔的应用场景。
然而，传统的敏感词句识别技术，通常是进行正则匹配，对匹配到的敏感词句进行屏蔽。基于正则建立的规则库往往逻辑复杂。为了保证时效性，需要不断添加新的正则表达式以适应各种敏感词句，往往导致规则库臃肿复杂，维护成本较高，对敏感词句的兼容性较差。
发明内容
本申请实施例的目的在于提出一种敏感词句识别模型处理方法、装置、计算机设备及存储介质，以解决敏感词句识别时兼容性较差的问题。
为了解决上述技术问题，本申请实施例提供一种敏感词句识别模型处理方法，采用了如下所述的技术方案：
获取初始数据源；
将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
为了解决上述技术问题，本申请实施例还提供一种敏感词句识别模型处理装置，采用了如下所述的技术方案：
初始获取模块，用于获取初始数据源；
初始输入模块，用于将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
增量获取模块，用于获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
词句扩充模块，用于基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
初始训练模块，用于通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：
获取初始数据源；
将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：
获取初始数据源；
将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
与现有技术相比，本申请实施例主要有以下有益效果：获取初始数据源后，通过初始敏感词句识别模型和规则库同时对初始数据源进行识别，保证了得到的初始敏感词句集合的准确性；再获取生语料数据源，基于语义相似度在生语料数据源中对初始敏感词句进行迭代扩充，实现对生语料数据源的标注，并得到增量数据源；增量数据源用于对初始敏感词句识别模型进行迭代式训练，无需人工干预，也无需不断扩充规则库，训练完毕的敏感词句识别模型即可准确进行敏感词句的识别，提高了敏感词句识别的兼容性。
附图说明
为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性***架构图；
图2是根据本申请的敏感词句识别模型处理方法的一个实施例的流程图；
图3是根据本申请的敏感词句识别模型处理装置的一个实施例的结构示意图；
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示，***架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是，本申请实施例所提供的敏感词句识别模型处理方法一般由服务器执行，相应地，敏感词句识别模型处理装置一般设置于服务器中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本申请的敏感词句识别模型处理方法的一个实施例的流程图。所述的敏感词句识别模型处理方法，包括以下步骤：
步骤S201，获取初始数据源。
在本实施例中，敏感词句识别模型处理方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式进行通信。需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
具体地，服务器从数据库中提取初始数据源。初始数据源中的样本包括文本、语句以及词语，文本、语句以及词语可以具有不同的来源，对应于不同的数据传输场景。
步骤S202，将初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合。
具体地，服务器将初始数据源中输入完成预训练的初始敏感词句识别模型，并将初始数据源输入以及预先构建的规则库，其中，规则库可以由层层组织的正则表达式构成。由初始敏感词句识别模型和规则库共同识别初始数据源中的敏感词句识别，得到初始敏感词句集合。
步骤S203，获取用于对初始敏感词句识别模型进行增量训练的生语料数据源。
具体地，可以基于初始敏感词句集合对初始敏感词句识别模型进行自动化的增量训练，以提高模型的泛化能力。在增量训练之前，需要先获取生语料数据源，生语料数据源中的样本包括文本、语句以及词语，生语料数据源可以是任何文本数据，例如微博评论、社区回答、邮件内容等。
步骤S204，基于语义相似度，在生语料数据源中对初始敏感词句集合进行迭代扩充，得到增量数据源。
具体地，服务器可以基于语义相似度，在生语料数据源中查找与初始敏感词句集合中各初始敏感词句相似的生语句，从而对初始敏感词句集合中的初始敏感词句进行扩充。基于语义相似度可以将生语料数据源划分为敏感数据源和非敏感数据源，敏感数据源和非敏感数据源可以构成增量数据源。
步骤S205，通过增量数据源对初始敏感词句识别模型进行训练，得到敏感词句识别模型。
具体地，增量数据源包括敏感数据源和非敏感数据源，即，通过语义相似度给生语料数据源添加了样本标签，得到增量数据源。这样，在进行增量训练时，不必人工频繁地在规则库中添加正则语句，避免了规则库变得臃肿庞大，降低了二次开发和维护成本，直接输入生语料数据源即可自动标注得到增量数据源，并通过增量数据源对对初始敏感词句识别模型进行增量训练，得到敏感词句识别模型。
需要强调的是，为进一步保证上述初始数据源和生语料数据源的私密和安全性，上述初始数据源和生语料数据源还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本实施例中，获取初始数据源后，通过初始敏感词句识别模型和规则库同时对初始数据源进行识别，保证了得到的初始敏感词句集合的准确性；再获取生语料数据源，基于语义相似度在生语料数据源中对初始敏感词句进行迭代扩充，实现对生语料数据源的标注，并得到增量数据源；增量数据源用于对初始敏感词句识别模型进行迭代式训练，无需人工干预，也无需不断扩充规则库，训练完毕的敏感词句识别模型即可准确进行敏感词句的识别，提高了敏感词句识别的兼容性。
进一步的，上述步骤S202之前，还可以包括：获取预训练数据源；根据预训练数据源训练初始模型，并在完成预设次数的模型参数调整后，锁定初始模型中预设层的模型参数，得到初始敏感词句识别模型。
具体地，服务器需要先根据预训练数据源对初始模型进行训练，初始模型可以是神经网络模型。
服务器提取预训练数据源中的预训练样本及其对应的样本标签，将预训练样本输入初始模型，得到初始识别结果。根据初始识别结果和样本标签计算预测误差，并根据预测误差调整初始模型的模型参数，然后再将各预训练样本输入模型进行迭代，直至模型收敛，得到初始敏感词句识别模型。
在预训练中，当对初始模型进行预设次数的模型参数调整后，将初始模型中预设层的模型参数进行锁定，即，该预设层的模型参数不会再变化。举例说明，当初始模型的模型参数调整10次后，将神经网络隐藏层中的某一层或者某几层的模型参数进行锁定，使其不再变化。当然，也可以在完成预训练后，将预设层的模型参数进行锁定。
在预设次数的模型参数调整后，初始模型已经学习到了敏感词句在语义向量空间中的特征表征，通过参数锁定，可以保留学习到的特征信息。
本实施例中，在预训练中通过锁定预设层的模型参数，使预设层保留学习到的敏感词句在语义向量空间中的特征表征。
进一步的，上述步骤S202可以包括：
步骤S2021，将初始数据源输入完成预训练的初始敏感词句识别模型，得到初始模型识别结果。
具体地，完成预训练的初始敏感词句识别模型已经可以识别敏感词句，服务器将初始数据源输入初始敏感词句识别模型，由初始敏感词句识别模型进行敏感词句识别，得到初始模型识别结果。
步骤S2022，将初始数据源输入预先构建的规则库，得到规则识别结果。
具体地，规则库是预先构建的，可以设置层层组织的正则表达式，以根据设置好的优先级、覆盖范围以及流转过程进行敏感词句识别。举例说明，在一个应用场景中，规则库中的正则表达式如下：
If条件1:正则表达式1；
If条件2:正则表达式2；
If条件3:正则表达式3；
假设优先级为条件1>条件2>条件3，则先判断初始数据源中的候选词句是否满足条件1，满足条件1则用正则表达式1进行匹配；若流转过程定义候选词句需要均需要经过条件1、条件2和条件3的判断，则根据条件1匹配后再根据条件2进行匹配，然后根据条件3进行匹配。
覆盖范围：获取候选词句范围相关的信息，以根据范围相关的信息选择正则表达式进行敏感语句的识别。例如，在企业中，发送群体消息时，某些信息被指定发送至A类员工，而不发送至B类员工，而另一些信息被指定发送至B类员工，而不发送至A类员工。可以先获取数据包的接收对象的身份信息(此时if条件用于进行范围判断)，身份信息表明了员工所属的员工范围。当范围信息满足条件1，表明员工属于A类员工时，则通过条件1对应的正则表达式进行规则匹配，以便识别不可以发送至A类员工的语句。
步骤S2023，根据规则识别结果对初始模型识别结果进行修正，得到初始敏感词句集合。
具体地，规则库的识别基于严格的正则逻辑，而初始敏感词句识别模型在前期识别效果可能欠佳，因此，将规则库的规则识别结果作为标准，对初始模型识别结果进行修正。
对于每一个候选词句，比对规则识别结果和初始模型识别结果，当规则识别结果和初始模型识别结果不同时，以规则识别结果为准。修正完毕后，即可得到初始敏感词句集合。当某个候选词句的规则识别结果和初始模型识别结果矛盾时，可以将该候选词句以及对应的规则识别结果记录在模型日志中。
本实施例中，同时通过初始敏感词句识别模型和规则库进行敏感词句的识别，并根据规则库的识别结果对初始敏感词句识别模型的结果进行修正，保证了得到的初始敏感词句集合的准确性。
进一步的，上述步骤S204可以包括：
步骤S2041，对于初始敏感词句集合中的每个初始敏感词句，计算初始敏感词句与生语料数据源中各待标注词句的语义相似度。
具体地，初始敏感词句集合中包括多个初始敏感词句，对于每个初始敏感词句，服务器计算初始敏感词句与生语料数据源中各待标注词句的语义相似度。
可以采用多种算法计算语义相似度，例如通过余弦相似度、HowNet相似度(通过中文词义词典HowNet进行语义相似度的计算)、汉明距离以及切比雪夫距离衡量语义相似度。服务器可以采用上述相似度和/或距离中的至少一种，当采用一种以上的相似度和/或距离时，可以通过添加权重来结合多种相似度和/或距离。
此外，还可以预先构建近义词词典和同义词词典，通过查阅词典，在生语料数据源中查找与初始敏感词句同义或近义的待标注词句。
步骤S2042，将得到的语义相似度和预设的相似度阈值相比较，得到比较结果。
具体地，服务器将计算得到的语义相似度和预设的相似度阈值进行数值比较，得到比较结果，比较结果可以是语义相似度小于相似度阈值，或者语义相似度大于或等于相似度阈值。
当待标注词句通过近义词词典或同义词词典与初始敏感词句相匹配时，认为待标注词句与初始敏感词句的语义相似度大于相似度阈值。
步骤S2043，根据得到的比较结果，给各待标注词句添加敏感标注结果。
具体地，根据比较结果，当某个待标注词句存在大于相似度阈值的语义相似度时，将待标注词句标记为敏感，否则标记为非敏感，从而得到待标注词句的敏感标注结果。
步骤S2044，基于敏感标注结果生成增量数据源。
具体地，生语料数据源中的待标注词句添加敏感标注结果后，待标注词句和敏感标注结果即可构建得到增量数据源。
在一个实施例中，服务器还可以获取模型日志，模型日志记录了模型曾识别错误的词句，可以根据模型日志对增量数据源进行补充，以进一步提高模型的识别准确性。
本实施例中，通过计算初始敏感词句和生语料数据源中待标注词句的语义相似度，给待标注词句添加敏感标注结果，可以自动实现对各种生语料数据源的标注，标注后得到的增量数据源用于对模型进行增量训练，保证了模型对各种数据源的兼容性。
进一步的，上述步骤S205可以包括：
步骤S2051，通过增量数据源中的增量训练样本对初始敏感词句识别模型进行预设轮次的训练。
具体地，可以将增量数据源中的样本划分为增量训练样本和增量测试样本。服务器先根据增量训练样本对初始敏感词句识别模型进行预设轮次的训练，其中增量训练样本的敏感标注结果将作为样本标签。
步骤S2052，将增量数据源中的增量测试样本输入初始敏感词句识别模型和规则库，得到模型测试结果和规则测试结果。
具体地，对初始敏感词句识别模型进行预设轮次的训练后，提取增量数据源中的增量测试样本，增量测试样本的敏感标注结果不会发挥作用，服务器将增量测试样本输入经过预设轮次训练的初始敏感词句识别模型和规则库，得到增量测试样本的模型测试结果和规则测试结果。
步骤S2053，基于模型测试结果和规则测试结果计算测试误差。
具体地，当模型测试结果和规则测试结果不同时，以规则库的规则测试结果作为基准，判定模型测试结果错误，并计算增量测试样本中有多少比例的样本预测错误，得到测试误差。
步骤S2054，当测试误差小于预设的测试误差阈值时，对初始敏感词句识别模型中预设层的模型参数进行锁定解除。
具体地，服务器获取预设的测试误差阈值，比较测试误差阈值和测试误差，当测试误差小于预设的测试误差阈值时，表明增量数据源与预训练数据源偏差较小，可以先解除预设层的模型参数的锁定，以便初始敏感词句识别模型可以对全部模型参数进行微调，以便更好地学习敏感词句在语义向量空间中的特征表征。
步骤S2055，当测试误差大于测试误差阈值时，继续锁定初始敏感词句识别模型中预设层的模型参数。
具体地，当测试误差大于预设的测试误差阈值时，表明增量数据源与预训练数据源偏差较大，增量训练可能出现误差，为避免误差在增量学习中的积累，需要继续锁定初始敏感词句识别模型中预设层模型参数。
当测试误差大于测试误差阈值时，可以向预设终端发送提醒信息，以便研发人员看到预设终端的提醒信息后，根据增量数据源人工补充训练样本，或者修改规则库，以便使模型适应新类型的敏感词句。
步骤S2056，根据增量训练样本对初始敏感词句识别模型继续进行训练，得到敏感词句识别模型。
具体地，服务器根据增量训练样本继续对初始敏感词句识别模型进行训练，并在训练结束后得到敏感词句识别模型。服务器还可以在重新训练预设轮次后，或者在增量训练结束后，继续锁定预设层的模型参数，以便保留学习到的敏感词句在语义向量空间中的特征表征。
本实施例中，在增量训练时，根据测试误差对初始敏感词句识别模型预设层的模型参数进行解锁，以便对模型参数进行微调，或者继续锁定以避免误差在训练中的累计，保证了训练得到的敏感词句识别模型识别的准确性。
进一步的，上述步骤S205之后，还可以包括：
步骤S206，获取待识别词句。
具体地，在应用时，服务器接收到传输的数据包后，提取数据包中的待识别词句，以便对待识别词句进行敏感词句识别。
步骤S207，将待识别词句输入敏感词句识别模型，得到敏感识别结果。
具体地，服务器将待识别词句输入敏感词句识别模型，由敏感词句识别模型对待识别词句进行敏感识别，得到敏感识别结果。
步骤S208，当根据敏感识别结果确定待识别词句为敏感词句时，将待识别词句替换为预设字符串。
具体地，当敏感识别结果表明待识别词句为敏感词句时，服务器通过预设字符串对敏感词句进行替换，以实现对敏感词句的过滤。
敏感词句模型可以位于网络中的网关处，以便对经过网关的数据进行敏感词句识别；还可以将敏感词句识别模型设置于主服务器，在这种环境中，所有需要传输的数据都要经过预设的主服务器，以便在数据经过主服务器时进行敏感词句识别。
本实施例中，通过敏感词句识别模型对待识别词句进行识别，并对识别到的敏感词句进行替换，实现了敏感词句的识别与过滤。
进一步的，上述步骤S207可以包括：
获取待识别词句的环境来源信息；将待识别词句发送至与环境来源信息对应的敏感词句识别模型；通过敏感词句模型对待识别词句进行处理，得到敏感识别结果。
具体地，不同的待识别词句来自不同的环境，不同的环境来源对敏感词句识别的时效性具有差别，例如，在企业机构的敏感词句过滤场景中，企业的文件等通常具有大致模版，这时可以使用轻量级的敏感词句识别模型，包括LSTM(Long Short-Term Memory，长短期记忆人工神经网络)网络、GRU(LSTM网络的一种变体)网络、Transformer网络；而在政经新闻等敏感词句的识别过滤场景中，某些信息制造者可能散布敏感信息，并尽量避免被监测到，会设法规避，所以可以考虑重量级的识别模型，例如BERT模型，以保证识别的精度。因此，可以在接收到数据包后，从数据包中获取待识别词句的环境来源信息，确定与环境来源信息相对应的敏感词句识别模型，将待识别词句发送至该敏感词句识别模型。
本实施例中，根据待识别词句的环境来源信息选取对应的待识别词句模型，以满足敏感词句识别在时效性和准确性上的要求。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种敏感词句识别模型处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图3所示，本实施例所述的敏感词句识别模型处理装置300包括：初始获取模块301、初始输入模块302、增量获取模块303、词句扩充模块304以及初始训练模块305，其中：
初始获取模块301，用于获取初始数据源。
初始输入模块302，用于将初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合。
增量获取模块303，用于获取用于对初始敏感词句识别模型进行增量训练的生语料数据源。
词句扩充模块304，用于基于语义相似度，在生语料数据源中对初始敏感词句集合进行迭代扩充，得到增量数据源。
初始训练模块305，用于通过增量数据源对初始敏感词句识别模型进行训练，得到敏感词句识别模型。
本实施例中，获取初始数据源后，通过初始敏感词句识别模型和规则库同时对初始数据源进行识别，保证了得到的初始敏感词句集合的准确性；再获取生语料数据源，基于语义相似度在生语料数据源中对初始敏感词句进行迭代扩充，实现对生语料数据源的标注，并得到增量数据源；增量数据源用于对初始敏感词句识别模型进行迭代式训练，无需人工干预，也无需不断扩充规则库，训练完毕的敏感词句识别模型即可准确进行敏感词句的识别，提高了敏感词句识别的兼容性。
在本实施例的一些可选的实现方式中，敏感词句识别模型处理装置300还包括：预训练获取模块以及模型预训练模块，其中：
预训练获取模块，用于获取预训练数据源。
模型预训练模块，用于根据预训练数据源训练初始模型，并在完成预设次数的模型参数调整后，锁定初始模型中预设层的模型参数，得到初始敏感词句识别模型。
本实施例中，在预训练中通过锁定预设层的模型参数，使预设层保留学习到的敏感词句在语义向量空间中的特征表征。
在本实施例的一些可选的实现方式中，初始输入模块302可以包括：模型输入子模块、规则库输入子模块以及结果修正子模块，其中：
模型输入子模块，用于将初始数据源输入完成预训练的初始敏感词句识别模型，得到初始模型识别结果。
规则库输入子模块，用于将初始数据源输入预先构建的规则库，得到规则识别结果。
结果修正子模块，用于根据规则识别结果对初始模型识别结果进行修正，得到初始敏感词句集合。
本实施例中，同时通过初始敏感词句识别模型和规则库进行敏感词句的识别，并根据规则库的识别结果对初始敏感词句识别模型的结果进行修正，保证了得到的初始敏感词句集合的准确性。
在本实施例的一些可选的实现方式中，词句扩充模块304可以包括：相似度计算子模块、相似度比较子模块、结果添加子模块以及数据源生成子模块，其中：
相似度计算子模块，用于对于初始敏感词句集合中的每个初始敏感词句，计算初始敏感词句与生语料数据库中各待标注词句的语义相似度。
相似度比较子模块，用于将得到的语义相似度和预设的相似度阈值相比较，得到比较结果。
结果添加子模块，用于根据得到的比较结果，给各待标注词句添加敏感标注结果。
数据源生成子模块，用于基于敏感标注结果生成增量数据源。
本实施例中，通过计算初始敏感词句和生语料数据源中待标注词句的语义相似度，给待标注词句添加敏感标注结果，可以自动实现对各种生语料数据源的标注，标注后得到的增量数据源用于对模型进行增量训练，保证了模型对各种数据源的兼容性。
在本实施例的一些可选的实现方式中，初始训练模块305可以包括：增量训练子模块、测试输入子模块、误差计算子模块、锁定解除子模块、继续锁定子模块以及继续训练子模块，其中：
增量训练子模块，用于通过增量数据源中的增量训练样本对初始敏感词句识别模型进行预设轮次的训练。
测试输入子模块，用于将增量数据源中的增量测试样本输入初始敏感词句识别模型和规则库，得到模型测试结果和规则测试结果。
误差计算子模块，用于基于模型测试结果和规则测试结果计算测试误差。
锁定解除子模块，用于当测试误差小于预设的测试误差阈值时，对初始敏感词句识别模型中预设层的模型参数进行锁定解除。
继续锁定子模块，用于当测试误差大于测试误差阈值时，继续锁定初始敏感词句识别模型中预设层的模型参数。
继续训练子模块，用于根据增量训练样本对初始敏感词句识别模型继续进行训练，得到敏感词句识别模型。
本实施例中，在增量训练时，根据测试误差对初始敏感词句识别模型预设层的模型参数进行解锁，以便对模型参数进行微调，或者继续锁定以避免误差在训练中的累计，保证了训练得到的敏感词句识别模型识别的准确性。
在本实施例的一些可选的实现方式中，敏感词句识别模型处理装置300还可以包括：词句获取模块、词句输入模块以及词句替换模块，其中：
词句获取模块，用于获取待识别词句。
词句输入模块，用于将待识别词句输入敏感词句识别模型，得到敏感识别结果。
词句替换模块，用于当根据敏感识别结果确定待识别词句为敏感词句时，将待识别词句替换为预设字符串。
本实施例中，通过敏感词句识别模型对待识别词句进行识别，并对识别到的敏感词句进行替换，实现了敏感词句的识别与过滤。
在本实施例的一些可选的实现方式中，词句输入模块可以包括：信息获取子模块、词句发送子模块以及词句处理子模块，其中：
信息获取子模块，用于获取待识别词句的环境来源信息。
词句发送子模块，用于将待识别词句发送至与环境来源信息对应的敏感词句识别模型。
词句处理子模块，用于通过敏感词句模型对待识别词句进行处理，得到敏感识别结果。
本实施例中，根据待识别词句的环境来源信息选取对应的待识别词句模型，以满足敏感词句识别在时效性和准确性上的要求。
为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过***总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable GateArray，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作***和各类应用软件，例如敏感词句识别模型处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述敏感词句识别模型处理方法的计算机可读指令。
所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
本实施例中，获取初始数据源后，通过初始敏感词句识别模型和规则库同时对初始数据源进行识别，保证了得到的初始敏感词句集合的准确性；再获取生语料数据源，基于语义相似度在生语料数据源中对初始敏感词句进行迭代扩充，实现对生语料数据源的标注，并得到增量数据源；增量数据源用于对初始敏感词句识别模型进行迭代式训练，无需人工干预，也无需不断扩充规则库，训练完毕的敏感词句识别模型即可准确进行敏感词句的识别，提高了敏感词句识别的兼容性。
本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的敏感词句识别模型处理方法的步骤。
本实施例中，获取初始数据源后，通过初始敏感词句识别模型和规则库同时对初始数据源进行识别，保证了得到的初始敏感词句集合的准确性；再获取生语料数据源，基于语义相似度在生语料数据源中对初始敏感词句进行迭代扩充，实现对生语料数据源的标注，并得到增量数据源；增量数据源用于对初始敏感词句识别模型进行迭代式训练，无需人工干预，也无需不断扩充规则库，训练完毕的敏感词句识别模型即可准确进行敏感词句的识别，提高了敏感词句识别的兼容性。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种敏感词句识别模型处理方法，其特征在于，包括下述步骤：
获取初始数据源；
将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
2.根据权利要求1所述的敏感词句识别模型处理方法，其特征在于，在所述将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合的步骤之前，还包括：
获取预训练数据源；
根据所述预训练数据源训练初始模型，并在完成预设次数的模型参数调整后，锁定所述初始模型中预设层的模型参数，得到初始敏感词句识别模型。
3.根据权利要求1所述的敏感词句识别模型处理方法，其特征在于，所述将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合的步骤包括：
将所述初始数据源输入完成预训练的初始敏感词句识别模型，得到初始模型识别结果；
将所述初始数据源输入预先构建的规则库，得到规则识别结果；
根据所述规则识别结果对所述初始模型识别结果进行修正，得到初始敏感词句集合。
4.根据权利要求1所述的敏感词句识别模型处理方法，其特征在于，所述基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源的步骤包括：
对于所述初始敏感词句集合中的每个初始敏感词句，计算初始敏感词句与所述生语料数据源中各待标注词句的语义相似度；
将得到的语义相似度和预设的相似度阈值相比较，得到比较结果；
根据得到的比较结果，给所述各待标注词句添加敏感标注结果；
基于所述敏感标注结果生成增量数据源。
5.根据权利要求1所述的敏感词句识别模型处理方法，其特征在于，所述通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型的步骤包括：
通过所述增量数据源中的增量训练样本对所述初始敏感词句识别模型进行预设轮次的训练；
将所述增量数据源中的增量测试样本输入所述初始敏感词句识别模型和所述规则库，得到模型测试结果和规则测试结果；
基于所述模型测试结果和所述规则测试结果计算测试误差；
当所述测试误差小于预设的测试误差阈值时，对所述初始敏感词句识别模型中所述预设层的模型参数进行锁定解除；
当所述测试误差大于所述测试误差阈值时，继续锁定所述初始敏感词句识别模型中所述预设层的模型参数；
根据所述增量训练样本对所述初始敏感词句识别模型继续进行训练，得到敏感词句识别模型。
6.根据权利要求1所述的敏感词句识别模型处理方法，其特征在于，在所述通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型的步骤之后，还包括：
获取待识别词句；
将所述待识别词句输入所述敏感词句识别模型，得到敏感识别结果；
当根据所述敏感识别结果确定所述待识别词句为敏感词句时，将所述待识别词句替换为预设字符串。
7.根据权利要求6所述的敏感词句识别模型处理方法，其特征在于，将所述待识别词句输入所述敏感词句识别模型，得到敏感识别结果的步骤包括：
获取所述待识别词句的环境来源信息；
将所述待识别词句发送至与所述环境来源信息对应的敏感词句识别模型；
通过所述敏感词句模型对所述待识别词句进行处理，得到敏感识别结果。
8.一种敏感词句识别模型处理装置，其特征在于，包括：
初始获取模块，用于获取初始数据源；
初始输入模块，用于将所述初始数据源输入完成预训练的初始敏感词句识别模型以及预先构建的规则库，得到初始敏感词句集合；
增量获取模块，用于获取用于对所述初始敏感词句识别模型进行增量训练的生语料数据源；
词句扩充模块，用于基于语义相似度，在所述生语料数据源中对所述初始敏感词句集合进行迭代扩充，得到增量数据源；
初始训练模块，用于通过所述增量数据源对所述初始敏感词句识别模型进行训练，得到敏感词句识别模型。
9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的敏感词句识别模型处理方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的敏感词句识别模型处理方法的步骤。
CN202011314105.6A 2020-11-20 2020-11-20 敏感词句识别模型处理方法、及其相关设备 Active CN112417887B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011314105.6A CN112417887B (zh) 2020-11-20 2020-11-20 敏感词句识别模型处理方法、及其相关设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011314105.6A CN112417887B (zh) 2020-11-20 2020-11-20 敏感词句识别模型处理方法、及其相关设备

Publications (2)

Publication Number Publication Date
CN112417887A true CN112417887A (zh) 2021-02-26
CN112417887B CN112417887B (zh) 2023-12-05

Family

ID=74777813

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011314105.6A Active CN112417887B (zh) 2020-11-20 2020-11-20 敏感词句识别模型处理方法、及其相关设备

Country Status (1)

Country Link
CN (1) CN112417887B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113011171A (zh) * 2021-03-05 2021-06-22 北京市博汇科技股份有限公司 一种基于bert的违规文本识别算法及装置
CN113642326A (zh) * 2021-08-16 2021-11-12 广东鸿数科技有限公司 敏感数据识别模型训练方法、敏感数据识别方法及***
CN114239591A (zh) * 2021-12-01 2022-03-25 马上消费金融股份有限公司 敏感词识别方法及装置
CN117216280A (zh) * 2023-11-09 2023-12-12 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090204605A1 (en) * 2008-02-07 2009-08-13 Nec Laboratories America, Inc. Semantic Search Via Role Labeling
CN108509424A (zh) * 2018-04-09 2018-09-07 平安科技（深圳）有限公司 制度信息处理方法、装置、计算机设备和存储介质
CN110209818A (zh) * 2019-06-04 2019-09-06 南京邮电大学 一种面向语义敏感词句的分析方法
CN110222170A (zh) * 2019-04-25 2019-09-10 平安科技（深圳）有限公司 一种识别敏感数据的方法、装置、存储介质及计算机设备
US20200265301A1 (en) * 2019-02-15 2020-08-20 Microsoft Technology Licensing, Llc Incremental training of machine learning tools

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090204605A1 (en) * 2008-02-07 2009-08-13 Nec Laboratories America, Inc. Semantic Search Via Role Labeling
CN108509424A (zh) * 2018-04-09 2018-09-07 平安科技（深圳）有限公司 制度信息处理方法、装置、计算机设备和存储介质
US20200265301A1 (en) * 2019-02-15 2020-08-20 Microsoft Technology Licensing, Llc Incremental training of machine learning tools
CN110222170A (zh) * 2019-04-25 2019-09-10 平安科技（深圳）有限公司 一种识别敏感数据的方法、装置、存储介质及计算机设备
CN110209818A (zh) * 2019-06-04 2019-09-06 南京邮电大学 一种面向语义敏感词句的分析方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113011171A (zh) * 2021-03-05 2021-06-22 北京市博汇科技股份有限公司 一种基于bert的违规文本识别算法及装置
CN113642326A (zh) * 2021-08-16 2021-11-12 广东鸿数科技有限公司 敏感数据识别模型训练方法、敏感数据识别方法及***
CN114239591A (zh) * 2021-12-01 2022-03-25 马上消费金融股份有限公司 敏感词识别方法及装置
CN114239591B (zh) * 2021-12-01 2023-08-18 马上消费金融股份有限公司 敏感词识别方法及装置
CN117216280A (zh) * 2023-11-09 2023-12-12 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置
CN117216280B (zh) * 2023-11-09 2024-02-09 闪捷信息科技有限公司 敏感数据识别模型的增量学习方法、识别方法和装置

Also Published As

Publication number Publication date
CN112417887B (zh) 2023-12-05

Similar Documents

Publication Publication Date Title
CN112084337B (zh) 文本分类模型的训练方法、文本分类方法及设备
CN111897970B (zh) 基于知识图谱的文本比对方法、装置、设备及存储介质
CN112417887B (zh) 敏感词句识别模型处理方法、及其相关设备
CN112101041B (zh) 基于语义相似度的实体关系抽取方法、装置、设备及介质
WO2022174491A1 (zh) 基于人工智能的病历质控方法、装置、计算机设备及存储介质
CN110929125B (zh) 搜索召回方法、装置、设备及其存储介质
CN112215008B (zh) 基于语义理解的实体识别方法、装置、计算机设备和介质
CN112686022A (zh) 违规语料的检测方法、装置、计算机设备及存储介质
CN112632278A (zh) 一种基于多标签分类的标注方法、装置、设备及存储介质
CN111783471B (zh) 自然语言的语义识别方法、装置、设备及存储介质
CN112231569A (zh) 新闻推荐方法、装置、计算机设备及存储介质
CN112287069A (zh) 基于语音语义的信息检索方法、装置及计算机设备
CN114357117A (zh) 事务信息查询方法、装置、计算机设备及存储介质
CN113505601A (zh) 一种正负样本对构造方法、装置、计算机设备及存储介质
CN112686053A (zh) 一种数据增强方法、装置、计算机设备及存储介质
CN115730597A (zh) 多级语义意图识别方法及其相关设备
CN112084779A (zh) 用于语义识别的实体获取方法、装置、设备及存储介质
CN115438149A (zh) 一种端到端模型训练方法、装置、计算机设备及存储介质
CN112528040B (zh) 基于知识图谱的引导教唆语料的检测方法及其相关设备
WO2022073341A1 (zh) 基于语音语义的疾病实体匹配方法、装置及计算机设备
CN114090792A (zh) 基于对比学习的文档关系抽取方法及其相关设备
CN115730237B (zh) 垃圾邮件检测方法、装置、计算机设备及存储介质
CN116796730A (zh) 基于人工智能的文本纠错方法、装置、设备及存储介质
CN114742058B (zh) 一种命名实体抽取方法、装置、计算机设备及存储介质
CN115967549A (zh) 一种基于内外网信息传输的防泄密方法及其相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20231101

Address after: 1701, No. 688 Dalian Road, Yangpu District, Shanghai, 200082 (nominal floor is 20 floors)

Applicant after: XIAOVO TECHNOLOGY CO.,LTD.

Address before: 4 / F, building 1, no.1-9, Lane 99, Shenmei Road, Pudong New Area, Shanghai

Applicant before: Shanghai Pinyuan Information Technology Co.,Ltd.

Effective date of registration: 20231101

Address after: 4 / F, building 1, no.1-9, Lane 99, Shenmei Road, Pudong New Area, Shanghai

Applicant after: Shanghai Pinyuan Information Technology Co.,Ltd.

Address before: Room 202, Block B, Aerospace Micromotor Building, No. 7 Langshan 2nd Road, Xili Street, Nanshan District, Shenzhen, Guangdong Province, 518000

Applicant before: Shenzhen LIAN intellectual property service center

Effective date of registration: 20231101

Address after: Room 202, Block B, Aerospace Micromotor Building, No. 7 Langshan 2nd Road, Xili Street, Nanshan District, Shenzhen, Guangdong Province, 518000

Applicant after: Shenzhen LIAN intellectual property service center

Address before: 518000 Room 201, building A, No. 1, Qian Wan Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong (Shenzhen Qianhai business secretary Co., Ltd.)

Applicant before: PING AN PUHUI ENTERPRISE MANAGEMENT Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant