CN113128209A - 用于生成词库的方法及装置 - Google Patents

用于生成词库的方法及装置 Download PDF

Info

Publication number
CN113128209A
CN113128209A CN202110437047.4A CN202110437047A CN113128209A CN 113128209 A CN113128209 A CN 113128209A CN 202110437047 A CN202110437047 A CN 202110437047A CN 113128209 A CN113128209 A CN 113128209A
Authority
CN
China
Prior art keywords
risk
word
keyword
target
thesaurus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110437047.4A
Other languages
English (en)
Other versions
CN113128209B (zh
Inventor
杨德将
李原
郝萌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202110437047.4A priority Critical patent/CN113128209B/zh
Publication of CN113128209A publication Critical patent/CN113128209A/zh
Application granted granted Critical
Publication of CN113128209B publication Critical patent/CN113128209B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/237Lexical tools
    • G06F40/242Dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/284Lexical analysis, e.g. tokenisation or collocates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/08Insurance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Finance (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Accounting & Taxation (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Abstract

本公开是关于一种用于生成词库的方法及装置、电子设备、计算机可读存储介质和计算机程序产品,涉及计算机领域,进一步涉及数据处理技术领域。具体实现方案为:获取初始风险词;对初始风险词进行扩展,得到扩展风险词;基于初始风险词和扩展风险词,确定关键字信息;基于关键字信息中的每个关键字,生成目标词库。本实现方式可以提高词库精准度。

Description

用于生成词库的方法及装置
技术领域
本公开涉及计算机领域,进一步涉及数据处理技术领域,尤其涉及用于生成词库的方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
目前,在保险行业中,经常存在着保险欺诈等风险问题。对此,为了降低风险,需要进行风险控制。
在风险控制的过程中,往往需要设置风险词库,基于风险词库中的风险词与保单进行匹配,可以提前筛选出具有风险的保单,进行风险预警。在实践中发现,现在的风险词库往往是人工积累并录入确定得到的,因而存在着词库精准度较差的问题。
发明内容
本公开提供了一种用于生成词库的方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
根据第一方面,提供了一种用于生成词库的方法,包括:获取初始风险词;对初始风险词进行扩展,得到扩展风险词;基于初始风险词和扩展风险词,确定关键字信息;基于关键字信息中的每个关键字,生成目标词库。
根据第二方面,提供了一种用于风险检测的方法,包括:基于如上任意一项用于生成词库的方法生成目标词库;基于目标词库对目标对象进行风险检测。
根据第三方面,提供了一种用于生成词库的装置,包括:风险词获取单元,被配置成获取初始风险词;风险词扩展单元,被配置成对初始风险词进行扩展,得到扩展风险词;信息确定单元,被配置成基于初始风险词和扩展风险词,确定关键字信息;词库生成单元,被配置成基于关键字信息中的每个关键字,生成目标词库。
根据第四方面,提供了一种风险检测装置,包括上述用于生成词库的装置以及风险检测单元,风险检测单元,被配置成基于上述用于生成词库的装置生成的目标词库对目标对象进行风险检测。
根据第五方面,提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上任意一项方法。
根据第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上任意一项方法。
根据第七方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上任意一项方法。
根据本公开的技术,提供一种用于生成词库的方法,通过对初始风险词进行扩展,得到扩展风险词,采用扩展风险词能够增强风险词的覆盖面。之后,基于初始风险词和扩展风险词,可以确定关键字信息,从而实现对风险词的进一步信息提取。之后,基于关键字信息中的每个关键字,生成目标词库,所得到的目标词库能够反映初始风险词和扩展风险词中的各个关键字,相较于人工设定的词库,包含更多、更精准的信息量,能够提高词库精准度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开的一个实施例可以应用于其中的示例性***架构图;
图2是根据本公开的用于生成词库的方法的一个实施例的流程图;
图3是根据本公开的用于生成词库的方法的一个应用场景的示意图;
图4是根据本公开的用于生成词库的方法的另一个实施例的流程图;
图5是根据本公开的风险检测方法的一个实施例的流程图;
图6是根据本公开的用于生成词库的装置的一个实施例的结构示意图;
图7是根据本公开的风险检测装置的一个实施例的结构示意图;
图8是用来实现本公开实施例的方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1是根据本公开第一实施例的示例性***架构示意图,其示出了可以应用本公开的用于生成词库的方法的实施例的示例性***架构100。
如如图1所示,***架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以为手机、电脑以及平板等电子设备,在终端设备101、102、103中,可以安装有保险类应用软件,保险类应用软件可以实现保险风险控制,例如识别存在风险的用户并输出相应的提示。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于电视、智能手机、平板电脑、电子书阅读器、车载电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如可以获取终端设备101、102、103中的初始风险词,并对扩展初始风险词,得到扩展风险词,再基于初始风险词和扩展风险词,确定关键字信息,基于关键字信息中的各个关键字生成目标词库。之后,服务器105可以接收终端设备101、102、103发送的用于识别目标用户是否存在风险的指令,并基于目标词库和目标用户之间的匹配情况,确定出风险情况,以及将风险情况返回给终端设备101、102、103。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本公开实施例所提供的用于生成词库的方法可以由终端设备101、102、103执行,也可以由服务器105执行。相应地,用于生成词库的装置可以设置于终端设备101、102、103中,也可以设置于服务器105中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本公开的用于生成词库的方法的一个实施例的流程200。本实施例的用于生成词库的方法,包括以下步骤:
步骤201,获取初始风险词。
在本实施例中,执行主体(如图1中的服务器105或者终端设备101、102、103)在需要生成词库的情况下,可以先获取初始风险词。初始风险词的来源可以为业务方预先提供,也可以为对历史风险数据进行分析得到的风险词,本实施例对此不做限定。其中,初始风险词指的是在风控环节需要关注的存在风险的词,初始风险词的数量可以为一个,也可以为多个,本实施例对此不做限定。在保险行业的风控环节,初始风险词可以为对指定保险造成风险的词,如某个疾病类型,该疾病类型不适用于该指定保险,此时认为该疾病类型为风险词。在广告行业的风控环节,初始风险词可以为不允许出现在广告中的词语。如果初始风险词的来源为业务方预先提供的词包,执行主体可以对词包进行语义识别,用以梳理词包。如将各个初始风险词与相应的风险类别进行映射,并将风险类别和初始风险词映射成JSON(JavaScript Object Notation,JS对象简谱))文件。
步骤202,对初始风险词进行扩展,得到扩展风险词。
在本实施例中,执行主体在获取到初始风险词之后,可以对初始风险词进行扩展,得到扩展风险词。其中,扩展风险词指的是与初始风险词具有关联关系的风险词。对于扩展风险词的确定,执行主体可以基于对初始风险词进行语义联想确定得到,通过语义联想确定出与初始风险词之间的编辑距离小于阈值的风险词,作为扩展风险词。又或者,可以预设有相应的风险词扩展数据库,执行主体在风险词扩展数据库直接查找初始风险词对应的风险词作为扩展风险词。其中,风险词扩展数据库的设定可以基于对历史风险数据进行分析得到。
步骤203,基于初始风险词和扩展风险词,确定关键字信息。
在本实施例中,执行主体能够在初始风险词和扩展风险词中确定关键词,再将关键词拆分成若干关键字,组成关键字信息。对于关键词的确定可以依赖于预设的确定规则。比如对于“轻度疾病A”、“中度疾病A”、“重度疾病A”可以确定“疾病A”为关键词。关键词中的各个字即为关键字。可选的,基于初始风险词和扩展风险词,确定关键字信息可以包括:将初始风险词和扩展风险词输入预设的关键词确定模型,得到相应的若干关键词;基于若干关键词中的各个字,确定得到若干关键字;基于若干关键字,确定关键字信息。进一步可选的,执行主体可以对若干关键词中的各个字进行排序,得到关键字信息。
步骤204,基于关键字信息中的每个关键字,生成目标词库。
在本实施例中,关键字信息中的各个关键字可以按照语义进行排序,使得前后关联的关键字可以共同组成相应的词。并且在关键字信息中还可以包括分词标记,分词标记用于将关键字信息中的各个关键字划分成相应的词组。执行主体可以通过识别关键字信息中的分词标记,并基于分词标记对关键字信息中的各个关键字进行划分,得到若干词组,组成目标词库。
举例来说,在保险行业进行风控的场景下,执行主体可以对历史风险数据进行分析,如对历史存在风险的用户数据进行分析,得到与指定保险对应的初始风险词。之后,执行主体可以对初始风险词进行扩展。具体的,执行主体可以预先对历史存在风险的用户数据进行分析,确定各个初始风险词对应的出现风险的频率;将出现风险的频率由高至低指定数量的初始风险词进行语义联想,得到扩展风险词。其中,语义联想可以采用一些现有的技术手段实现,在此不再赘述。之后,执行主体可以确定初始风险词和扩展风险词中的关键词,并将这些关键词拆分为关键字,对关键字进行不同类型的排列组合,得到关键字信息,关键字信息中包含每种类型对应的关键字排列顺序。执行主体还可以遍历各种类型的关键字排列顺序,基于语义分析,对各个关键字排列顺序中的指定关键字位置打上分词标记,可选将能够组成词语的最后一个关键字对应的位置打上分词标记。之后,执行主体可以基于各个分词标记,对各个关键字排列顺序中的关键字进行划分,组成若干词语,生成目标词库。
继续参见图3,其示出了根据本公开的用于生成词库的方法的一个应用场景的示意图。在图3的应用场景中,执行主体可以用于保险行业的风险控制。执行主体可以先获取指定保险对应的初始风险词301,初始风险词301中可以包括“疾病A”与“骗保”。之后,执行主体可以对初始风险词301进行扩展,得到扩展风险词302,扩展风险词302中可以包括对“疾病A”进行扩展得到的“轻度疾病A”、“中度疾病A”,也可以包括对“骗保”进行扩展得到的“保险骗保”、“工伤骗保”。之后执行主体可以确定初始风险词301和扩展风险词302中的关键词,如“疾病A”和“骗保”、“工伤骗保”以及“保险骗保”。之后,执行主体将关键词拆分为各个字,得到关键字信息303,关键字信息303包括“疾”、“病”、“A”、“骗”、“保”、“工”、“伤”、“保”、“险”。基于各个关键字进行排列组合,可以得到目标词库304,目标词库304可以包括“疾病A”、“骗保”、“疾病A骗保”、“疾病A保险骗保”、“疾病A工伤骗保”等。
本公开上述实施例提供的用于生成词库的方法,通过对初始风险词进行扩展,得到扩展风险词,采用扩展风险词能够增强风险词的覆盖面。之后,基于初始风险词和扩展风险词,可以确定关键字信息,从而实现对风险词的进一步信息提取。之后,基于关键字信息中的每个关键字,生成目标词库,所得到的目标词库能够反映初始风险词和扩展风险词中的各个关键字,相较于人工设定的词库,包含更多、更精准的信息量,能够提高词库精准度。
继续参见图4,其示出了根据本公开的用于生成词库的方法的另一个实施例的流程400。如图4所示,本实施例的用于生成词库的方法可以包括以下步骤:
步骤401,获取初始风险词。
在本实施例中,对于步骤401的详细描述请参照对于步骤201的详细描述,在此不再赘述。
步骤402,在预设的候选扩展词库中,确定各个候选扩展词与初始风险词之间的编辑距离和/或语义相似度。
在本实施例中,预设的候选扩展词库为预先通过人为设置、数据爬取等方式确定的词库,可以包含大量的风险词。执行主体在获取初始风险词之后,可以先确定初始风险词的初始分类,再在预设的候选扩展词库中筛选出若干候选扩展词,再确定若干候选扩展词与初始风险词之间的编辑距离和/或语义相似度。其中,编辑距离指的是两个词之间进行转换所需要的处理次数,语义相似度指的是基于语义分析得到的两个词之间语义的相似程度。编辑距离越短、语义相似度越高说明候选扩展词与初始风险词之间的关联性越强。
在本实施例的一些可选的实现方式中,预设的候选扩展词库通过以下步骤确定得到:获取历史风险信息;基于历史风险信息中各个风险词出现的频率,确定预设的候选扩展词库。
在本实现方式中,历史风险信息可以为历史出现过风险的信息,如历史出现过风险的用户语料。执行主体可以对历史风险信息进行分词,得到若干历史风险信息中出现过的风险词。再将这些风险词在历史风险信息中出现频率较高的预设数量的词加入词库,得到预设的候选扩展词库。如将历史风险信息中出现频率前三的风险词加入词库,得到预设的候选扩展词库。
步骤403,基于编辑距离和/或语义相似度,在各个候选扩展词中确定扩展风险词。
在本实施例中,由于候选扩展词与初始风险词之间的编辑距离越短、语义相似度越高,说明候选扩展词与初始风险词之间的关联性越强。因此,可以按照编辑距离由短至长、和/或语义相似度由高至低的顺序选取预设数量的候选扩展词作为扩展风险词。
步骤404,基于初始风险词和扩展风险词,确定关键字信息。
在本实施例中,对于步骤404的描述请参照对于步骤203的描述,在此不再赘述。
步骤405,基于关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合。
在本实施例中,由于关键字信息中的各个关键字是初始风险词和扩展风险词的关键词进行拆分得到的,因而预设的关键字顺序可以为关键字在关键词中的位置顺序。需要说明的是,对于初始风险词和扩展风险词中存在两个以上关键词的情况,如“工伤骗保”中的“工伤”和“骗保”,可以分别拆分关键词,得到每个关键词对应的关键字,将不同的关键词对应的关键字进行排序时,可以包含不同类型的排序,如“工伤骗保”和“骗保工伤”。执行主体可以按照预设的关键字顺序,将关键字信息中的每个关键字进行排序,得到关键字集合。
在本实施例的一些可选的实现方式中,基于关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合,包括:按照预设的关键字顺序,在初始字典树中对关键字信息中的每个关键字进行遍历;对于每个未预先存储的关键字,按照预设的关键字顺序,将该关键字与该关键字的下一关键字关联存储于初始字典树,得到目标字典树;基于目标字典树中的各个关键字,确定关键字集合。
在本实现方式中,执行主体可以通过建立字典树的方式生成目标词库。其中,字典树指的是一种树形存储结构,除根节点外每个节点只包括一个字符。关键字信息中的每个关键字可以存储在字典树中除根节点以外的各个节点。具体的,执行主体可以按照预设的关键字顺序,也即是关键词的多种类型的排序,在初始字典树中对每个关键字进行遍历。其中,初始字典树指的是需要写入数据的字典树,执行主体可以从存储器中直接读取初始字典树。在对关键字进行遍历的过程中,如果当前关键字未预先存储,则将当前关键字和下一关键字按照键-值对的方式进行关联存储。其中,未预先储存的关键字指的是关键字信息中未预先存储在初始字典树中的关键字。下一关键字是按照预设的关键字顺序进行确定的。如果当前关键字预先存储,则确定当前关键字对应的值,基于当前关键字对应的值遍历下一关键字,直至遍历结束,得到目标字典树。其中,预先存储的关键字指的是关键字信息中预先存储在初始字典树中的关键字。这一过程可以存储关键字信息中的各个关键字至目标字典树。可选的,在确定当前关键字是关键词对应的最后一个字的情况下,可以在当前关键字的存储位置添加分词标记。进一步可选的,在当前关键字的存储位置添加分词标记之后,还可以添加相应的风险类别。
步骤406,在关键字集合中确定分词位置。
在本实施例中,执行主体会在关键词的最后一个字的位置添加分词标记。执行主体通过识别分词标记,可以在关键字集合中将分词标记的位置确定为分词位置。其中,分词位置用于将关键字划分为不同的词。除了基于关键词的最后一个字的位置添加分词标记,确定分词位置,可选的,在关键字集合中确定分词位置还可以包括:对关键字集合中的各种关键字组合进行识别,判断该关键字组合是否为正常词语,如果是,可以基于该关键字组合添加分词标记。例如某个关键词对应有若干关键字,其中一个关键字即可作为该关键词的缩写,表示该关键词的含义。可以将该关键字自身作为一个关键字组合,在其前后位置添加分词标记,再基于分词标记确定分词位置。
步骤407,基于分词位置,将关键字集合划分为至少一个目标词。
在本实施例中,由于分词位置用于描述对关键字的划分位置,通过拆分各个分词位置,可以将任意两个分词位置之间的关键字按照顺序组合成一个目标词,得到至少一个目标词。
步骤408,基于至少一个目标词,生成目标词库。
在本实施例中,可以将至少一个目标词以及各个目标词对应的风险类别对应存储,生成目标词库。
在本实施例的一些可选的实现方式中,基于至少一个目标词,生成目标词库,包括:对于至少一个目标词中的每个目标词,确定该目标词对应的风险类别;基于至少一个目标词和各个目标词对应的风险类别,生成目标词库。
在本实现方式中,在分词标记的位置可以预先设置目标词对应的风险类别,风险类别的设置可以基于语义分类确定得到,分析目标词的语义,确定与之匹配的类别。在生成目标词库的过程中,可以将目标词和风险类别对应存储。举例来说,风险类别可以包括诈病风险、骗保风险等,在生成目标词库的过程中,可以将诈病风险对应的各个目标词和诈病风险关联存储,以及将骗保风险对应的各个目标词和骗保风险关联存储。这一过程可以在基于目标词库进行风险检测时,快速找到风险词对应的风险类别,便于有针对性地输出风险预警。
步骤409,存储目标词库的快照。
在本实施例中,执行主体可以存储目标词库的快照,用以基于快照加载目标词库。
步骤410,获取风险正样本集合和/或风险负样本集合。
在本实施例中,风险正样本集合为存在风险的样本集合,风险负样本集合为不存在风险的样本集合。例如风险正样本集合可以为风险用户构成的集合,风险负样本集合可以为非风险用户构成的集合。
步骤411,基于风险正样本集合和/或风险负样本集合,更新目标词库。
在本实施例中,对于风险正样本集合,可以依次遍历各个风险正样本,用目标词库中的各个词匹配风险正样本,得出对风险正样本的分类,如存在风险或者不存在风险。如果得出的分类为存在风险,则继续遍历。如果得出的分类为不存在风险,则将该风险正样本中的目标风险词更新到目标词库中。例如把该风险正样本中出现频率由高至低预设数量的目标风险词更新到目标词库中。对于风险负样本集合,可以确定各个风险负样本中出现频率由高至低预设数量的风险词,判断这些风险词是否在目标词库中,如果在,则删除,从而实现了对目标词库的更新。
本公开的上述实施例提供的用于生成词库的方法,还可以按照预设的关键字顺序对关键字进行排序,得到关键字集合,再基于关键字对应的关键词划分位置、关键字组合的语义关联情况确定分词位置。之后基于分词位置划分得到至少一个目标词。由这些目标词生成的目标词库能够涵盖更多类型的词,如关键词的缩写词、关键词的不同位置组合词、各个关键词等,从而提高了目标词库的覆盖面。此外,还可以对应存储目标词和风险类别,便于直接根据风险类别确定目标词,风险词的确定查找效率更高。以及,还可以基于编辑距离、语义相似度作为扩展风险词的确定依据,能够确定得到更精准的扩展风险词。以及,进一步结合历史风险信息中各个风险词出现的频率作为扩展风险词的确定依据,扩展风险词更加精准,词库内容更加丰富。以及,还可以基于风险正样本集合和/或风险负样本集合实现有监督的目标词库更新,提高了目标词库的实时性,准确率更高。此外,存储目标词库的快照,可以便于直接读取快照更新目标词库,词库更新更加便利。
继续参见图5,其示出了根据本公开的风险检测方法的一个实施例的流程500。如图5所示,本实施例的风险检测方法可以包括以下步骤:
步骤501,生成目标词库。
在本实施例中,执行主体可以基于上述的用于生成词库的方法生成目标词库。
步骤502,基于目标词库对目标对象进行风险检测。
在本实施例中,目标对象可以为文本、图像等多种形式的资料,如目标用户的保单文本。基于对目标对象进行文本分析、图像识别等处理,识别目标对象所包含的多个关键词,通过将目标对象所包含的多个关键词与目标词库进行匹配,可以确定出目标对象存在风险的概率。如目标对象所包含的多个关键词与目标词库中的各个词语的匹配度越高,说明存在风险的概率越大,从而实现风险预警。
进一步参考图6,作为对上述各图所示方法的实现,本公开提供了一种用于生成词库的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种服务器中。
如图6所示,本实施例的用于生成词库的装置600包括:风险词获取单元601、风险词扩展单元602、信息确定单元603以及词库生成单元604。
风险词获取单元601,被配置成获取初始风险词。
风险词扩展单元602,被配置成对初始风险词进行扩展,得到扩展风险词。
信息确定单元603,被配置成基于初始风险词和扩展风险词,确定关键字信息。
词库生成单元604,被配置成基于关键字信息中的每个关键字,生成目标词库。
在本实施例的一些可选的实现方式中,词库生成单元604进一步被配置成:基于关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合;在关键字集合中确定分词位置;基于分词位置,将关键字集合划分为至少一个目标词;基于至少一个目标词,生成目标词库。
在本实施例的一些可选的实现方式中,词库生成单元604进一步被配置成:按照预设的关键字顺序,在初始字典树中对关键字信息中的每个关键字进行遍历;对于每个未预先存储的关键字,按照预设的关键字顺序,将该关键字与该关键字的下一关键字关联存储于初始字典树,得到目标字典树;基于目标字典树中的各个关键字,确定关键字集合。
在本实施例的一些可选的实现方式中,词库生成单元604进一步被配置成:对于至少一个目标词中的每个目标词,确定该目标词对应的风险类别;基于至少一个目标词和各个目标词对应的风险类别,生成目标词库。
在本实施例的一些可选的实现方式中,风险词扩展单元602进一步被配置成:在预设的候选扩展词库中,确定各个候选扩展词与初始风险词之间的编辑距离和/或语义相似度;基于编辑距离和/或语义相似度,在各个候选扩展词中确定扩展风险词。
在本实施例的一些可选的实现方式中,风险词扩展单元602进一步被配置成:获取历史风险信息;基于历史风险信息中各个风险词出现的频率,确定预设的候选扩展词库。
在本实施例的一些可选的实现方式中,上述装置还包括:集合获取单元,被配置成获取风险正样本集合和/或风险负样本集合;词库更新单元,被配置成基于风险正样本集合和/或风险负样本集合,更新目标词库。
在本实施例的一些可选的实现方式中,上述装置还包括:快照存储单元,被配置成目标词库的快照。
应当理解,用于生成词库的装置600中记载的单元601至单元604分别与参考图2中描述的方法中的各个步骤相对应。由此,上文针对用生成词库的方法描述的操作和特征同样适用于装置600及其中包含的单元,在此不再赘述。
继续参照图7,作为对上述各图所示方法的实现,本公开提供了一种风险检测装置的一个实施例,该装置实施例与图5所示的方法实施例相对应,该装置具体可以应用于各种服务器中。本实施例的风险检测装置700包括上述用于生成词库的装置600以及风险检测单元701;其中,
风险检测单元701,被配置成基于用于生成词库的装置500生成的目标词库对目标对象进行风险检测。
在本实施例中,风险检测单元701与步骤502相对应,上文针对步骤502描述的操作和特征同样适用于风险检测单元701,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。其中,用于生成词库的方法的电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够实现上述用于生成词库的方法或者风险检测方法。可读存储介质存储有计算机指令,计算机指令用于使计算机执行上述用于生成词库的方法或者风险检测方法。计算机程序产品包括计算机程序,计算机程序在被处理器执行时实现上述用于生成词库的方法或者风险检测方法。
图8示出了用来实现本公开实施例的用于生成词库的方法的电子设备800的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,设备800包括处理器801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM803中,还可存储设备800操作所需的各种程序和数据。处理器801、ROM802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器801可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器801执行上文所描述的各个方法和处理,例如用于生成词库的方法。例如,在一些实施例中,用于生成词库的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由处理器801执行时,可以执行上文描述的用于生成词库的方法的一个或多个步骤。备选地,在其他实施例中,处理器801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行用于生成词库的方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (21)

1.一种用于生成词库的方法,包括:
获取初始风险词;
对所述初始风险词进行扩展,得到扩展风险词;
基于所述初始风险词和所述扩展风险词,确定关键字信息;
基于所述关键字信息中的每个关键字,生成目标词库。
2.根据权利要求1所述的方法,其中,所述基于所述关键字信息中的每个关键字,生成目标词库,包括:
基于所述关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合;
在所述关键字集合中确定分词位置;
基于所述分词位置,将所述关键字集合划分为至少一个目标词;
基于所述至少一个目标词,生成所述目标词库。
3.根据权利要求2所述的方法,其中,所述基于所述关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合,包括:
按照所述预设的关键字顺序,在初始字典树中对所述关键字信息中的每个关键字进行遍历;
对于每个未预先存储的关键字,按照所述预设的关键字顺序,将该关键字与该关键字的下一关键字关联存储于所述初始字典树,得到目标字典树;
基于所述目标字典树中的各个关键字,确定所述关键字集合。
4.根据权利要求2所述的方法,其中,所述基于所述至少一个目标词,生成所述目标词库,包括:
对于所述至少一个目标词中的每个目标词,确定该目标词对应的风险类别;
基于所述至少一个目标词和各个目标词对应的风险类别,生成所述目标词库。
5.根据权利要求1所述的方法,其中,所述对所述初始风险词进行扩展,得到扩展风险词,包括:
在预设的候选扩展词库中,确定各个候选扩展词与所述初始风险词之间的编辑距离和/或语义相似度;
基于所述编辑距离和/或语义相似度,在所述各个候选扩展词中确定所述扩展风险词。
6.根据权利要求5所述的方法,其中,所述预设的候选扩展词库通过以下步骤确定得到:
获取历史风险信息;
基于所述历史风险信息中各个风险词出现的频率,确定所述预设的候选扩展词库。
7.根据权利要求1所述的方法,其中,所述方法还包括:
获取风险正样本集合和/或风险负样本集合;
基于所述风险正样本集合和/或所述风险负样本集合,更新所述目标词库。
8.根据权利要求1至7任一项所述的方法,其中,所述方法还包括:
存储所述目标词库的快照。
9.一种风险检测方法,其中,所述方法包括:
基于权利要求1-8中任一项所述的方法生成目标词库;
基于所述目标词库对目标对象进行风险检测。
10.一种用于生成词库的装置,包括:
风险词获取单元,被配置成获取初始风险词;
风险词扩展单元,被配置成对所述初始风险词进行扩展,得到扩展风险词;
信息确定单元,被配置成基于所述初始风险词和所述扩展风险词,确定关键字信息;
词库生成单元,被配置成基于所述关键字信息中的每个关键字,生成目标词库。
11.根据权利要求10所述的装置,其中,所述词库生成单元进一步被配置成:
基于所述关键字信息中的每个关键字和预设的关键字顺序,确定关键字集合;
在所述关键字集合中确定分词位置;
基于所述分词位置,将所述关键字集合划分为至少一个目标词;
基于所述至少一个目标词,生成所述目标词库。
12.根据权利要求11所述的装置,其中,所述词库生成单元进一步被配置成:
按照所述预设的关键字顺序,在初始字典树中对所述关键字信息中的每个关键字进行遍历;
对于每个未预先存储的关键字,按照所述预设的关键字顺序,将该关键字与该关键字的下一关键字关联存储于所述初始字典树,得到目标字典树;
基于所述目标字典树中的各个关键字,确定所述关键字集合。
13.根据权利要求11所述的装置,其中,所述词库生成单元进一步被配置成:
对于所述至少一个目标词中的每个目标词,确定该目标词对应的风险类别;
基于所述至少一个目标词和各个目标词对应的风险类别,生成所述目标词库。
14.根据权利要求10所述的装置,其中,所述风险词扩展单元进一步被配置成:
在预设的候选扩展词库中,确定各个候选扩展词与所述初始风险词之间的编辑距离和/或语义相似度;
基于所述编辑距离和/或语义相似度,在所述各个候选扩展词中确定所述扩展风险词。
15.根据权利要求14所述的装置,其中,所述风险词扩展单元进一步被配置成:
获取历史风险信息;
基于所述历史风险信息中各个风险词出现的频率,确定所述预设的候选扩展词库。
16.根据权利要求10所述的装置,其中,所述装置还包括:
集合获取单元,被配置成获取风险正样本集合和/或风险负样本集合;
词库更新单元,被配置成基于所述风险正样本集合和/或所述风险负样本集合,更新所述目标词库。
17.根据权利要求10至16任一项所述的装置,其中,所述装置还包括:
快照存储单元,被配置成所述目标词库的快照。
18.一种风险检测装置,其中,所述装置包括上述10-17任一项所述的用于生成词库的装置以及风险检测单元;
所述风险检测单元,被配置成基于所述用于生成词库的装置生成的目标词库对目标对象进行风险检测。
19.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-9中任一项所述的方法。
20.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。
21.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-9中任一项所述的方法。
CN202110437047.4A 2021-04-22 2021-04-22 用于生成词库的方法及装置 Active CN113128209B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110437047.4A CN113128209B (zh) 2021-04-22 2021-04-22 用于生成词库的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110437047.4A CN113128209B (zh) 2021-04-22 2021-04-22 用于生成词库的方法及装置

Publications (2)

Publication Number Publication Date
CN113128209A true CN113128209A (zh) 2021-07-16
CN113128209B CN113128209B (zh) 2023-11-24

Family

ID=76779527

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110437047.4A Active CN113128209B (zh) 2021-04-22 2021-04-22 用于生成词库的方法及装置

Country Status (1)

Country Link
CN (1) CN113128209B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114238619A (zh) * 2022-02-23 2022-03-25 成都数联云算科技有限公司 基于编辑距离的中文名词筛选方法及***及装置及介质
CN114661934A (zh) * 2022-03-21 2022-06-24 重庆市规划和自然资源信息中心 基于数据挖掘分析技术多维度监控政务新媒体舆情预警的方法
CN114661974A (zh) * 2022-03-21 2022-06-24 重庆市规划和自然资源信息中心 利用自然语言语义分析的政务网站舆情分析与预警的方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130033694A (ko) * 2011-09-27 2013-04-04 엔에이치엔비즈니스플랫폼 주식회사 컨셉 키워드 확장 데이터 셋 생성방법, 장치 및 컴퓨터로 판독 가능한 기록매체
CN104268176A (zh) * 2012-06-26 2015-01-07 北京奇虎科技有限公司 一种基于搜索关键词的推荐方法及***
CN105653660A (zh) * 2015-12-29 2016-06-08 云南电网有限责任公司电力科学研究院 一种检索关键字的联想方法及装置
US20160217142A1 (en) * 2013-09-29 2016-07-28 Peking University Founder Group Co., Ltd. Method and system of acquiring semantic information, keyword expansion and keyword search thereof
CN108170664A (zh) * 2017-11-29 2018-06-15 有米科技股份有限公司 基于重点关键词的关键词拓展方法和装置
CN108197098A (zh) * 2017-11-22 2018-06-22 阿里巴巴集团控股有限公司 一种关键词组合策略的生成及关键词扩展方法、装置和设备
CN108984596A (zh) * 2018-06-01 2018-12-11 阿里巴巴集团控股有限公司 一种关键词挖掘以及风险反馈的方法、装置及设备
CN110287493A (zh) * 2019-06-28 2019-09-27 中国科学技术信息研究所 风险短语识别方法、装置、电子设备及存储介质
CN110909539A (zh) * 2019-10-15 2020-03-24 平安科技(深圳)有限公司 语料库的词语生成方法、***、计算机设备和存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130033694A (ko) * 2011-09-27 2013-04-04 엔에이치엔비즈니스플랫폼 주식회사 컨셉 키워드 확장 데이터 셋 생성방법, 장치 및 컴퓨터로 판독 가능한 기록매체
CN104268176A (zh) * 2012-06-26 2015-01-07 北京奇虎科技有限公司 一种基于搜索关键词的推荐方法及***
US20160217142A1 (en) * 2013-09-29 2016-07-28 Peking University Founder Group Co., Ltd. Method and system of acquiring semantic information, keyword expansion and keyword search thereof
CN105653660A (zh) * 2015-12-29 2016-06-08 云南电网有限责任公司电力科学研究院 一种检索关键字的联想方法及装置
CN108197098A (zh) * 2017-11-22 2018-06-22 阿里巴巴集团控股有限公司 一种关键词组合策略的生成及关键词扩展方法、装置和设备
CN108170664A (zh) * 2017-11-29 2018-06-15 有米科技股份有限公司 基于重点关键词的关键词拓展方法和装置
CN108984596A (zh) * 2018-06-01 2018-12-11 阿里巴巴集团控股有限公司 一种关键词挖掘以及风险反馈的方法、装置及设备
CN110287493A (zh) * 2019-06-28 2019-09-27 中国科学技术信息研究所 风险短语识别方法、装置、电子设备及存储介质
CN110909539A (zh) * 2019-10-15 2020-03-24 平安科技(深圳)有限公司 语料库的词语生成方法、***、计算机设备和存储介质

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114238619A (zh) * 2022-02-23 2022-03-25 成都数联云算科技有限公司 基于编辑距离的中文名词筛选方法及***及装置及介质
CN114238619B (zh) * 2022-02-23 2022-04-29 成都数联云算科技有限公司 基于编辑距离的中文名词筛选方法及***及装置及介质
CN114661934A (zh) * 2022-03-21 2022-06-24 重庆市规划和自然资源信息中心 基于数据挖掘分析技术多维度监控政务新媒体舆情预警的方法
CN114661974A (zh) * 2022-03-21 2022-06-24 重庆市规划和自然资源信息中心 利用自然语言语义分析的政务网站舆情分析与预警的方法
CN114661934B (zh) * 2022-03-21 2024-03-01 重庆市规划和自然资源信息中心 基于数据挖掘分析技术多维度监控政务新媒体舆情预警的方法
CN114661974B (zh) * 2022-03-21 2024-03-08 重庆市规划和自然资源信息中心 利用自然语言语义分析的政务网站舆情分析与预警的方法

Also Published As

Publication number Publication date
CN113128209B (zh) 2023-11-24

Similar Documents

Publication Publication Date Title
CN113128209B (zh) 用于生成词库的方法及装置
CN113836314B (zh) 知识图谱构建方法、装置、设备以及存储介质
CN113792154A (zh) 故障关联关系的确定方法、装置、电子设备及存储介质
CN112988753B (zh) 一种数据搜索方法和装置
CN112818686A (zh) 领域短语挖掘方法、装置和电子设备
CN112528641A (zh) 建立信息抽取模型的方法、装置、电子设备和可读存储介质
CN112925883A (zh) 搜索请求处理方法、装置、电子设备及可读存储介质
CN112989235A (zh) 基于知识库的内链构建方法、装置、设备和存储介质
US20220198358A1 (en) Method for generating user interest profile, electronic device and storage medium
CN112699237B (zh) 标签确定方法、设备和存储介质
CN114625834A (zh) 企业的行业信息确定方法、装置及电子设备
CN114048315A (zh) 确定文档标签的方法、装置、电子设备和存储介质
CN114254636A (zh) 文本处理方法、装置、设备及存储介质
CN113963197A (zh) 图像识别方法、装置、电子设备和可读存储介质
CN113408280A (zh) 负例构造方法、装置、设备和存储介质
CN112989797A (zh) 模型训练、文本扩展方法,装置,设备以及存储介质
CN112560425A (zh) 模板生成方法、装置、电子设备及存储介质
CN114818736B (zh) 文本处理方法、用于短文本的链指方法、装置及存储介质
CN114118049B (zh) 信息获取方法、装置、电子设备及存储介质
US20210342379A1 (en) Method and device for processing sentence, and storage medium
CN113239149B (zh) 实体处理方法、装置、电子设备和存储介质
CN113204613B (zh) 地址生成方法、装置、设备和存储介质
CN113850072A (zh) 文本情感分析方法、情感分析模型训练方法、装置、设备及介质
CN113641724A (zh) 知识标签挖掘方法、装置、电子设备及存储介质
CN113032540B (zh) 人机交互方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant