CN114281990A - 文档分类方法及装置、电子设备和介质 - Google Patents
文档分类方法及装置、电子设备和介质 Download PDFInfo
- Publication number
- CN114281990A CN114281990A CN202111552308.3A CN202111552308A CN114281990A CN 114281990 A CN114281990 A CN 114281990A CN 202111552308 A CN202111552308 A CN 202111552308A CN 114281990 A CN114281990 A CN 114281990A
- Authority
- CN
- China
- Prior art keywords
- document
- classified
- graph
- vector representation
- content elements
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种文档分类方法及装置、电子设备和介质,涉及人工智能技术领域,尤其涉及云服务、自然语言处理、知识图谱和深度学习技术。实现方案为:获取待分类文档的文档关系信息,其中,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;基于所述文档关系信息,生成所述待分类文档的向量表示;以及基于所述向量表示,确定所述待分类文档所属的目标类别。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及云服务、自然语言处理、知识图谱和深度学习技术,具体涉及一种文档分类方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术:人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
知识图谱是一种结构化的语义知识库,其可以被表示为由节点和边组成的网络拓扑图的形式,其中节点代表实体,节点之间的边代表实体之间的关系。知识图谱具有极强的知识表达能力和灵活性,能够为信息检索、内容推荐、机器问答等不同应用场景提供知识支持。
在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。
发明内容
本公开提供了一种文档分类方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的一方面,提供了一种文档分类方法,包括:获取待分类文档的文档关系信息,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;基于所述文档关系信息,生成所述待分类文档的向量表示;以及基于所述向量表示,确定所述待分类文档所属的目标类别。
根据本公开的一方面,提供了一种文档分类装置,包括:获取模块,被配置为获取待分类文档的文档关系信息,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;表示模块,被配置为基于所述文档关系信息,生成所述待分类文档的向量表示;以及分类模块,被配置为基于所述向量表示,确定所述待分类文档所属的目标类别。
根据本公开的一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器,该存储器存储有可被上述至少一个处理器执行的指令,该指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行上述方法。
根据本公开的一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行上述方法。
根据本公开的一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现上述方法。
根据本公开的一个或多个实施例,能够提高文档分类的效率和准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
图1示出了根据本公开实施例的可以在其中实施本文描述的各种方法的示例性***的示意图;
图2示出了根据本公开实施例的文档分类方法的流程图;
图3A-3C示出了根据本公开实施例的文档关系图的示意图;
图4示出了根据本公开实施例的文档分类模型的结构图;
图5A、5B示出了根据本公开实施例的知识图谱的示意图;
图6示出了根据本公开实施例的文档分类装置的结构图;以及
图7示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
在本公开中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
知识图谱是一种结构化的语义知识库,其可以被表示为由节点和边组成的网络拓扑图的形式,其中节点代表实体,节点之间的边代表实体之间的关系。实体可以是任意事物,例如人物、地点、公司、事件、抽象概念、技术术语等,关系则用来表达不同实体之间的某种联系。根据实体的类型以及实体之间的关系的不同,知识图谱可以存储不同的信息,应用于不同的场景。
随着信息技术的发展,各个应用场景不断涌现出大量文档。通过将文档与相关应用场景的知识图谱中的实体建立关联,可以实现文档的快速查找以及相关信息的快速获取。
例如,在企业知识管理的应用场景中,可以建立企业知识图谱,企业知识图谱中的实体可以是人(例如员工、员工的职位、职级、部门等)、事物(例如项目、开发团队、平台、工具等)、知识(例如文档、技术术语、产品名词等)等。企业中存在大量的文档,例如项目需求文档、项目开发文档、新闻文档、技术手册、行政管理文档、产品帮助文档等。通过将文档与企业知识图谱中的实体相关联,可以帮助用户从不同的实体角度快速查找相关文档以及从相关文档中获取相关信息,从而提升工作效率和用户体验。例如,通过将项目需求文档、项目开发文档与项目实体相关联,可以使产品经理快速查找到某个项目的相关文档,以便对项目进行管理。又例如,通过将技术手册与技术术语实体相关联,可以使技术人员快速获取某种技术的相关文档,以便学习专业技能。还例如,通过将产品帮助文档与产品实体相关联,可以从产品帮助文档中获取产品的相关信息,以向用户提供产品信息问答、知识推荐等服务。
在相关技术中,通常采用关键词匹配的方式来确定文档对应的实体。即,为每个实体设置关键词,通过将文档的标题或内容与实体的关键词进行匹配,确定文档对应的实体。该方法需要手动设置各个实体的关键词。而知识图谱往往处于增量的状态,每当知识图谱中增加了新的实体,均需要挖掘并设置与之匹配的关键词,人力成本高,效率低。
在另一些相关技术中,采用向量匹配的方式来确定文档对应的实体。即,将文档和实体表示成相同维度的向量,通过计算向量距离来确定文档对应的实体。该方法仅通过文档自身的信息来生成文档向量。当文档较长(即包含的文本内容较多)时,文档可能包含多个不同的语义主题,导致文档向量不能准确表达文档的主旨,基于该文档向量来确定对应的实体,准确性较低。
为此,本公开的实施例提供一种文档分类方法,能够提高文档分类的效率和准确性。在本公开实施例的文档分类方法中,文档的每个类别可以对应于知识图谱中的一个实体,相应地,基于本公开实施例的文档分类方法能够准确、高效地挖掘出文档与知识图谱实体之间的对应关系。
下面将结合附图详细描述本公开的实施例。
图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性***100的示意图。参考图1,该***100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。
在本公开的实施例中,服务器120可以运行使得能够执行文档分类方法的一个或多个服务或软件应用。
在某些实施例中,服务器120还可以提供可以包括非虚拟环境和虚拟环境的其他服务或软件应用。在某些实施例中,这些服务可以作为基于web的服务或云服务提供,例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。
在图1所示的配置中,服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解,各种不同的***配置是可能的,其可以与***100不同。因此,图1是用于实施本文所描述的各种方法的***的一个示例,并且不旨在进行限制。
用户可以使用客户端设备101、102、103、104、105和/或106来进行导航。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备,但是本领域技术人员将能够理解,本公开可以支持任何数量的客户端设备。
客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备,例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏***、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作***,例如MICROSOFT Windows、APPLE iOS、类UNIX操作***、Linux或类Linux操作***(例如GOOGLE Chrome OS);或包括各种移动操作***,例如MICROSOFT WindowsMobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏***可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序,例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序,并且可以使用各种通信协议。
网络110可以是本领域技术人员熟知的任何类型的网络,其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例,一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、Wi-Fi)和/或这些和/或其他网络的任意组合。
服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作***的一个或多个虚拟机,或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中,服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。
服务器120中的计算单元可以运行包括上述任何操作***以及任何商业上可用的服务器操作***的一个或多个操作***。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个,包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。
在一些实施方式中,服务器120可以包括一个或多个应用程序,以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序,以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。
在一些实施方式中,服务器120可以为分布式***的服务器,或者是结合了区块链的服务器。服务器120也可以是云服务器,或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(VPS,Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。
***100还可以包括一个或多个数据库130。在某些实施例中,这些数据库可以用于存储数据和其他信息。例如,数据库130中的一个或多个可用于存储诸如音乐文件的信息。数据库130可以驻留在各种位置。例如,由服务器120使用的数据库可以在服务器120本地,或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中,由服务器120使用的数据库例如可以是关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。
在某些实施例中,数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库,例如键值存储库,对象存储库或由文件***支持的常规存储库。
图1的***100可以以各种方式配置和操作,以使得能够应用根据本公开所描述的各种方法和装置。
图2示出了根据本公开实施例的文档分类方法200的流程图。方法200可以在服务器(例如图1中所示的服务器120)处执行,也可以在客户端设备(例如图1中所示的客户端设备101、102、103、104、105和106)处执行。也即,方法200的各个步骤的执行主体可以是图1中所示的服务器120,也可以是图1中所示的客户端设备101、102、103、104、105和106。
如图2所示,方法200包括:
步骤210、获取待分类文档的文档关系信息,文档关系信息用于表示待分类文档与多个已分类文档的关联关系;
步骤220、基于文档关系信息,生成待分类文档的向量表示;以及
步骤230、基于向量表示,确定待分类文档所属的目标类别。
根据本公开的实施例,基于待分类文档与已分类文档的文档关系信息来生成待分类文档的向量表示,基于该向量表示来确定待分类文档所属的目标类别。一方面,无需为各个类别设置关键词,从而提高了文档分类效率。另一方面,由于文档关系信息能够表达待分类文档与已分类文档的关联关系,基于文档关系信息来生成待分类文档的向量表示,能够使所生成的向量表示中包含已分类文档的信息,从而能够利用已分类文档的信息来辅助待分类文档的分类,避免仅依靠待分类文档自身的信息所导致的分类效果有限的问题,提高分类准确性。
以下详细描述方法200的各个步骤。
在步骤210中,获取待分类文档的文档关系信息,文档关系信息用于表示待分类文档与多个已分类文档的关联关系。
文档分类是自然语言处理领域的一种计算任务,指的是将文档映射到预设的类别空间中,即,确定文档对应的类别。类别空间可以根据实际应用场景来设定。
例如,在挖掘文档与知识图谱实体的对应关系的应用场景中,类别空间可以是由知识图谱中的多个实体所组成的集合,集合中的每个实体对应于一个类别。需要说明的是,文档的类别空间可以包括知识图谱中的全部实体,也可以包括知识图谱中的部分实体。通常地,知识图谱中的实体的数量非常庞大,为了提高分类效率,通常仅针对当前业务所需要的有限数量的实体进行文档分类。即,类别空间中的“多个实体”是知识图谱所包括的实体中的一部分,而不是全部。
又例如,在确定文档的情感极性的应用场景中,类别空间可以是由多种情感极性(例如正面、中立、负面等)所组成的集合,每一种情感极性对应于一个类别。在图书馆图书分类的应用场景中,文档可以是图书,类别空间可以是由多个图书分类号所组成的集合,每一个图书分类号对应于一个类别。在识别用户搜索意图的应用场景中,文档可以是用户输入的搜索词或用户的搜索日志,类别空间可以是由多种内容领域(例如新闻、问答、体育等)所组成的集合,每一种内容领域对应于一个类别。
下文以挖掘文档与知识图谱实体的对应关系的应用场景(即文档的类别为知识图谱中的实体)为例,对本公开实施例的文档分类方法进行说明。但是,应当理解,本公开实施例的文档分类方法可以适用于任意应用场景,即,文档的类别可以是任意值,而不仅限于知识图谱中的实体。
在步骤210中,已分类文档指的是已经确定了所属类别的文档。相应地,在挖掘文档与知识图谱实体的对应关系的应用场景中,已分类文档指的是已经完成实体类别映射的文档,即,已经确定了所对应的实体的文档。需要说明的是,已分类文档对应的实体的数量可以是一个,也可以是多个。
根据一些实施例,已分类文档可以通过对高质量文档进行信息匹配来确定。高质量文档指的是具有标题结构或者属性信息的、内容规范的文档,相应地,可以基于高质量文档的标题和/或属性信息,来对该文档进行分类。若成功将该文档对应到某个实体,则该文档即为已分类文档。例如,对于某一个文档,可以将该文档的标题(例如包括不同层级的多个标题)和/或属性信息(例如作者、单位、类别等)与实体的描述信息(例如实体的名称、别名、内容描述等)进行匹配。响应于确定文档的标题或属性信息与某个实体的描述信息相匹配,将该文档标记为已分类文档,并将该文档所匹配的实体标记为该已分类文档所对应的实体。
文档关系信息用于表示待分类文档与多个已分类文档之间的关联关系。可以理解,文档关系信息可以包括多个待分类文档。在实际情况中,由于存在大量内容不规范的、低质量的文档,因此无法通过信息匹配的方式来确定这些文档所对应的实体。这些文档均可以作为本公开实施例的待分类文档,被建模至文档关系信息中,通过方法200来对其进行分类。
如上所述,由于存在大量内容不规范的、低质量的文档,因此文档关系信息中通常包括多个待分类文档,并且待分类文档的数量通常远大于已分类文档的数量。针对文档关系信息中的每一个待分类文档,均可以通过执行本公开实施例的方法200来对其进行分类。换言之,步骤210中的待分类文档可以是文档关系信息所包括的多个待分类文档中的任一待分类文档。
文档关系信息用于表示待分类文档与多个已分类文档之间的关联关系。根据一些实施例,待分类文档和每个已分类文档分别包括多个内容元素。待分类文档和已分类文档可以通过所包括的相同的内容元素相关联。由此,能够利用不同文档中的相同内容,快速建立文档之间的关联关系。
内容元素可以是文档所包括的任意粒度的文本内容,例如字、词、句子、段落等。
可以理解,由于字、词的粒度较小,即使是不同的文档,通常也会具有多个相同的字或词。而句子、段落的粒度较大,不同文档之间很少发生句子或段落的重复。因此,通常选用字或词来建立文档之间的关联关系。进一步地,可以同时选用字和词来建立文档之间的关联关系,从而使文档之间的关系表达更加详细、准确。
根据一些实施例,文档关系信息可以通过多个形如(A,B,C)的三元组来表示,其中,A、C为两个不同的文档(可以是待分类文档,也可以是已分类文档),B为A、C均包括的内容元素。例如,待分类文档Doc1和已分类文档Doc2均包括内容元素Word1,那么可以用三元组(Doc1,Word1,Doc2)来表示待分类文档Doc1和已分类文档Doc2的关联关系。又例如,已分类文档Doc2和已分类文档Doc3均包括内容元素Word2,那么可以用三元组(Doc2,Word2,Doc3)来表示已分类文档Doc2和已分类文档Doc3的关联关系。
根据另一些实施例,文档关系信息可以通过文档关系图来表示。文档关系图可以在执行步骤210之前预先构建,即,方法200还可以包括:在步骤210之前,构建文档关系图。相应地,在执行步骤210时,可以获取已构建的文档关系图,从而获取文档关系信息。
文档关系图可以采用不同的结构(例如不同的节点类型、边类型、边权重设置等)、通过不同的方式来构建。
根据一些实施例,文档关系图可以是仅包括文档节点的无向有权图,每个节点对应于一个文档(可以是待分类文档,也可以是已分类文档),如图3A所示。节点之间的连接边用于表示两个文档相关联,连接边的权重用于表示两个文档的关联程度。
相应地,文档关系图可以按照以下步骤构建:首先,分别获取待分类文档和每个已分类文档所包括的多个内容元素。例如,可以将文档拆分为多个字,或者通过分词算法来将文档拆分为多个词,从而获取每个文档所包括的内容元素。通过判断两个文档是否包括相同的内容元素来确定两个文档节点之间是否有连接边。通过计算相同的内容元素的数量或比例来确定两个文档之间的连接边的权重。例如,可以将两个文档的杰卡德(Jaccard)距离作为两个文档之间的连接边的权重。在图3A中,Jaccard(i,j)表示文档i和文档j之间的Jaccard距离。替换地,也可以去掉图3A中的权重,即,将文档关系图表示为无向无权图。
根据另一些实施例,文档关系图可以是包括文档节点和内容元素节点的无向有权图。每个节点对应于一个文档(可以是待分类文档,也可以是已分类文档)或者一个内容元素(可以是字,也可以是词)。两个内容元素之间的连接边表示两个内容元素出现于同一个文档中,两个内容元素之间的连接边的权重表示这两个内容元素之间的相关程度(下文将两个内容元素之间的相关程度记为“第一相关度”)。文档与内容元素之间的连接边表示该文档包括该内容元素,文档与内容元素之间的连接边的权重表示该文档与该内容元素之间的相关程度(下文将文档与内容元素之间的相关程度记为“第二相关度”)。替换地,也可以去掉上述实施例中的权重,即将文档关系图表示为无向无权图。
相应地,文档关系图可以按照以下步骤构建:首先,分别获取待分类文档和每个已分类文档所包括的多个内容元素。随后,确定任意两个内容元素之间的第一相关度,和任一内容元素与任一文档之间的第二相关度。随后,基于第一相关度和第二相关度,构建文档关系图,文档关系图包括多个节点和多个节点之间的连接边,每个节点对应于一个文档或者一个内容元素,两个内容元素之间的连接边的权重指示两个内容元素之间的第一相关度,内容元素与文档之间的连接边的权重指示该内容元素与该文档之间的第二相关度。基于上述实施例,能够使文档关系图表达的信息更加丰富,从而提升文档分类效果。
第一相关度例如可以是正点互信息(Positive Pointwise Mutual Information,PPMI),第二相关度例如可以是词频-逆文档频率(Term Frequency–Inverse DocumentFrequency,TF-IDF)。
图3B示出了上述实施例对应的文档关系图的一个示例,其中内容元素为词。第一相关度实现为PPMI,PPMI(i,j)表示词i与词j之间的PPMI。第二相关度实现为TF-IDF,TF-IDF(i,j)表示词i与文档j之间的TF-IDF。
图3C示出了上述实施例对应的文档关系图的另一个示例,其中内容元素包括字和词。字与字之间、词与词之间的第一相关度实现为PPMI。字与文档之间、词与文档之间的第二相关度实现为TF-IDF。根据一些实施例,如图3所示,可以进一步设置字与词之间的第三相关度,第三相关度例如也可以实现为TF-IDF。
进一步地,根据一些实施例,任意两个内容元素之间的第一相关度可以按照以下步骤确定:将每个文档划分为至少一个文档块,以得到多个文档块;对于上述多个文档块中的任一文档块,确定该文档块内的两个内容元素在该文档块内的局部相关度;以及将两个内容元素在上述多个文档块内的局部相关度的平均值作为这两个内容元素的第一相关度。由此,能够对文档进行局部分析,避免将虽然共现于同一个长文档中,但距离较远、表达主题不一致的两个词统计为相关,从而提高文档关系图以及文档分类的准确性。
一个文档块包括位于同一个文档中的连续的多个内容元素。需要说明的是,同一个文档的不同文档块可以具有重叠的内容元素。每个文档块可以包括相同数量的内容元素。根据一些实施例,可以采用滑动窗口的方式来将文档划分为多个文档块。即,按照设定的窗口大小(即每个窗口所包括的内容元素的数量)和滑动步长(即每次滑动经过的内容元素的数量),将窗口在文档中滑动,将窗口中的内容元素划分为一个文档块。例如,可以设置窗口大小为50,步长为2,采用滑动窗口的方式来将文档划分为多个文档块,即将文档中的内容元素1-内容元素50划分为一个文档块,内容元素3-内容元素52划分为一个文档块,内容元素5-内容元素54划分为一个文档块,以此类推。
根据一些实施例,可以进一步生成文档关系图中的各个节点的初始向量表示。并且,不同类型节点的初始向量表示的生成方式可以不同。例如,对于文档节点(可以是待分类文档,也可以是已分类文档),可以采用预训练的编码模型(例如Ernie模型、BERT模型等)对文档进行编码,从而得到该文档的初始向量表示。对于内容元素节点(例如字、词),可以将其初始向量表示设置为均值为零的正态分布随机值。可以理解,在后续步骤中,可以基于有标签的数据(例如已分类文档及其对应的类别)来对编码模型以及各节点的初始向量进行更新,以得到更能准确提取文档特征的编码模型,以及生成更能准确表达各节点语义的向量表示。
在步骤220中,基于文档关系信息,生成待分类文档的向量表示。
根据一些实施例,文档关系信息可以通过文档关系图来表示,相应地,步骤220可以包括:获取待分类文档的初始向量表示;以及基于文档关系图,通过图神经网络更新该初始向量表示,以得到待分类文档的向量表示。图神经网络能够全面表达文档关系图的结构和传播特性,更好地挖掘文档间的关联关系,从而提高特征(即向量表示)提取效果和文档分类的准确性。图神经网络例如可以是图卷积神经网络(Graph Convolutional Network,GCN)、图注意力网络(Graph AttenTion network,GAT)、GraphSAGE(Graph SAmple andaggreGatE)网络等,但不限于此。
根据一些实施例,待分类文档的初始向量表示是通过采用预训练的编码模型对待分类文档进行编码而得到的。预训练的编码模型例如可以是Ernie模型、BERT模型等,但不限于此。采用从大语料库上预训练得到的编码模型来生成待分类文档的初始向量表示,能够提高初始向量表示的获取效率和准确性。
根据一些实施例,上述通过图神经网络来更新待分类文档的初始向量表示的步骤进一步包括:基于文档关系图,确定待分类文档的至少一个邻居节点;以及将文档关系图的邻接矩阵、待分类文档初始向量表示和上述至少一个邻居节点各自的向量表示输入图神经网络,以得到图神经网络输出的待分类文档的更新后的向量表示。由此,能够将邻居节点(包括已分类文档)的特征融合到待分类文档的特征中,辅助待分类文档的分类,从而提高分类准确性。
根据一些实施例,图神经网络例如可以通过已分类文档及其对应的实体(即类别标签)训练得出。根据另一些实施例,图神经网络也可以不经过训练,而直接用于对各节点的向量表示进行聚合和更新。
在步骤230中,基于待分类文档的向量表示,确定待分类文档所属的目标类别。
在类别空间为知识图谱实体集合的情况下,目标类别对应于知识图谱中的目标实体。由此,基于本公开实施例的文档分类方法可以准确、高效地挖掘出文档与知识图谱实体之间的对应关系。根据一些实施例,可以将待分类文档的向量表示输入经训练的分类器,以得到分类器输出的目标类别(即目标实体)。分类器例如可以通过已分类文档及其对应的类别标签(即实体标签)训练得出。在训练过程中,分类器的输入为已分类文档的向量表示,输出为已分类文档的预测类别。基于预测类别和真实类别标签来计算分类器的损失值(损失函数例如可以是交叉熵损失函数),基于损失值来调整分类器的参数。上述计算损失值、调整参数的步骤可以循环执行多次,直至损失值小于阈值时,分类器训练完成。
根据一些实施例,上文提及的编码模型、图神经网络、分类器可以作为一个整体的文档分类模型,通过已分类文档及其对应的类别标签(即实体标签)训练得出。
图4示出了根据本公开实施例的文档分类模型400的结构图。如图4所示,文档分类模型400包括编码模型410、图神经网络420和分类器430。
编码模型410以文档为输入,输出文档的初始向量表示Embedding1。词的初始向量表示Embedding2、字的初始向量表示Embedding3为随机生成。各文档、词、字的初始向量表示被输入图神经网络420。
图神经网络420进一步包括计算单元422、聚合单元424以及更新单元426。
计算单元422为一个线性层,用于对初始向量表示进行映射,以提取出更有意义的节点特征信息(如前所述,节点可以是文档、词、字)。线性层的计算过程可以表示为H1=σ(W1X+b1)。其中,X为由各节点的初始向量表示所组成的矩阵,是线性层的输入;W1、b1分别为线性层的权重和偏置,是可训练的参数;σ()为sigmoid激活函数,H1为线性层的输出。
聚合单元424用于将节点的向量表示与其邻居节点的向量表示进行聚合,从而利用邻居节点的信息来丰富自身节点的信息。聚合单元424例如可以包括两个聚合层,即,对文档关系图中的各节点的向量表示进行两次聚合。两次聚合的计算过程可以表示为 其中,H2、H3分别为第一个聚合层、第二个聚合层的输出;A为文档关系图的邻接矩阵;I为单位矩阵;D为文档关系图的度矩阵(可以根据邻接矩阵A计算得出);W2、W3分别为第一个聚合层、第二个聚合层的权重,可以是可训练的参数,也可以采用固定的随机值。经过聚合单元424的聚合处理后,所输出的H3为由各节点的聚合后的向量表示所组成的矩阵。
更新单元426用于对聚合单元424输出的聚合后的各节点的向量表示进行更新,以使聚合后的各节点的向量表示拥有更丰富的信息表征。更新单元426可以采用MLP(MultiLayer Perceptron,多层感知器)结构,例如,采用两层线性层。更新单元426的计算过程可以表示为H4=W5(W4H3+b2)+b3,其中,H4为更新单元426的输出;W4、b2分别为第一个线性层的权重和偏置,W5、b3分别为第二个线性层的权重和偏置,四者是可训练的参数。更新单元426所输出的H4是由各节点的更新后的向量表示所组成的矩阵。如图4所示,更新后的向量表示为Embedding1’、Embedding2’、Embedding3’。
分类器430用于将更新后的文档节点的向量表示Embedding1’映射到分类空间,经过softmax层,对文档节点进行分类,将文档对应到某个实体(即类别)。分类器430可以实现为一层线性层(全连接层)和softmax层的组合,其计算过程可以表示为Y=argmax(softmax(W6H4+b4)),其中,W6、b4分别为线性层的权重和偏置,为可训练的参数;argmax()为对函数求参数的函数,Y=argmax(softmax(W6H4+b4))表示Y为使softmax(W6H4+b4)取最大值时的实体标识。即,分类器430的输出为文档所对应的实体标识Y。
针对图4所示的模型400,可以采用已分类文档来对其进行训练,从而调整模型的可训练参数(例如上文所述的权重W1-W6和偏置b1-b4)。在模型400训练完成后,可以将待分类文档输入模型,从而得到模型输出的待分类文档所对应的实体标识Y,即确定待分类文档对应的目标实体。
根据一些实施例,在目标类别对应于知识图谱中的目标实体的情况下,在通过步骤230确定了待分类文档所属的目标类别之后,可以在知识图谱中将待分类文档与相应的目标实体相关联。将待分类文档与目标实体相关联的方式有多种。
根据一些实施例,可以将待分类文档作为一个实体,添加至知识图谱中,并在该实体和步骤230所确定的目标实体之间建立一条关系边。例如,图5A示出了示出了知识图谱的局部图。经过步骤230,确定待分类文档对应的目标实体为“实体5”。可以将待分类文档作为一个实体,即图5A中的“实体8”,添加至知识图谱中,并在实体8与实体5之间建立一条关系边(如图5A中的虚线所示),从而将待分类文档与目标实体相关联。
可以理解,在图5A中,不同的节点形状表示不同的实体类型。例如,实体5与实体8的类型不同,实体5的类型例如可以是“技术术语”,实体8的类型例如可以是“文档”。
根据另一些实施例,知识图谱中的每个实体具有相关文档属性,相关文档属性用于记录与实体相关联的文档。相应地,在通过步骤230确定了待分类文档对应的目标实体后,可以将待分类文档的标识添加至目标实体的相关文档属性中,从而将待分类文档与目标实体相关联。例如,经过步骤230,确定待分类文档对应的目标实体为“实体5”。如图5B所示,实体5具有类型、名称、相关文档等多个属性。可以将待分类文档的标识“Doc9”添加至实体5的相关文档属性中,从而将待分类文档与目标实体相关联。
根据本公开的实施例,还提供了一种文档分类装置。图6示出了根据本公开实施例的文档分类装置600的结构框图。如图6所示,装置600包括:
获取模块610,被配置为获取待分类文档的文档关系信息,其中,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;
表示模块620,被配置为基于所述文档关系信息,生成所述待分类文档的向量表示;以及
分类模块630,被配置为基于所述向量表示,确定所述待分类文档所属的目标类别。
根据本公开的实施例,基于待分类文档与已分类文档的文档关系信息来生成待分类文档的向量表示,基于该向量表示来确定待分类文档所属的目标类别。一方面,无需为各个类别设置关键词,从而提高了文档分类效率。另一方面,由于文档关系信息能够表达待分类文档与已分类文档的关联关系,基于文档关系信息来生成待分类文档的向量表示,能够使所生成的向量表示中包含已分类文档的信息,从而能够利用已分类文档的信息来辅助待分类文档的分类,避免仅依靠待分类文档自身的信息所导致的分类效果有限的问题,提高分类准确性。
根据一些实施例,所述待分类文档和每个已分类文档分别包括多个内容元素,所述待分类文档与所述已分类文档通过所包括的相同的内容元素相关联。
根据一些实施例,文档关系信息通过文档关系图来表示,装置600还包括:获取单元,被配置为分别获取所述待分类文档和每个已分类文档所包括的多个内容元素;确定单元,被配置为确定任意两个内容元素之间的第一相关度,和任一内容元素与任一文档之间的第二相关度;以及构建单元,被配置为基于所述第一相关度和所述第二相关度,构建所述文档关系图,其中,所述文档关系图包括多个节点和所述多个节点之间的连接边,每个节点对应于一个文档或者一个内容元素,两个内容元素之间的连接边的权重指示所述两个内容元素之间的第一相关度,内容元素与文档之间的连接边的权重指示该内容元素与该文档之间的第二相关度。
根据一些实施例,所述确定单元进一步被配置为:将每个文档划分为至少一个文档块,以得到多个文档块;对于所述多个文档块中的任一文档块,确定所述文档块内的两个内容元素在所述文档块内的局部相关度;以及将所述两个内容元素在所述多个文档块内的局部相关度的平均值作为所述两个内容元素的第一相关度。
根据一些实施例,文档关系信息通过文档关系图来表示,表示模块620进一步包括:初始化单元,被配置为获取所述待分类文档的初始向量表示;以及更新单元,被配置为基于所述文档关系图,通过图神经网络更新所述初始向量表示,以得到所述向量表示。
根据一些实施例,所述初始化单元进一步被配置为:采用预训练的编码模型对所述待分类文档进行编码,以得到所述初始向量表示。
根据一些实施例,所述更新单元进一步被配置为:基于所述文档关系图,确定所述待分类文档的至少一个邻居节点;以及将所述文档关系图的邻接矩阵、所述初始向量表示和所述至少一个邻居节点各自的向量表示输入所述图神经网络,以得到所述图神经网络输出的所述待分类文档的向量表示。
根据一些实施例,目标类别对应于知识图谱中的目标实体。
应当理解,图6中所示装置600的各个模块或单元可以与参考图2描述的方法200中的各个步骤相对应。由此,上面针对方法200描述的操作、特征和优点同样适用于装置600及其包括的模块以及单元。为了简洁起见,某些操作、特征和优点在此不再赘述。
虽然上面参考特定模块讨论了特定功能,但是应当注意,本文讨论的各个模块的功能可以分为多个模块,和/或多个模块的至少一些功能可以组合成单个模块。例如,上面描述的表示模块620和分类模块630在一些实施例中可以组合成单个模块。
还应当理解,本文可以在软件硬件元件或程序模块的一般上下文中描述各种技术。上面关于图6描述的各个模块可以在硬件中或在结合软件和/或固件的硬件中实现。例如,这些模块可以被实现为计算机程序代码/指令,该计算机程序代码/指令被配置为在一个或多个处理器中执行并存储在计算机可读存储介质中。可替换地,这些模块可以被实现为硬件逻辑/电路。例如,在一些实施例中,模块610-630中的一个或多个可以一起被实现在片上***(System on Chip,SoC)中。SoC可以包括集成电路芯片(其包括处理器(例如,中央处理单元(Central Processing Unit,CPU)、微控制器、微处理器、数字信号处理器(Digital Signal Processor,DSP)等)、存储器、一个或多个通信接口、和/或其他电路中的一个或多个部件),并且可以可选地执行所接收的程序代码和/或包括嵌入式固件以执行功能。
根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
参考图7,现将描述可以作为本公开的服务器或客户端的电子设备700的结构框图,其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,电子设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM703中,还可存储电子设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
电子设备700中的多个部件连接至I/O接口705,包括:输入单元706、输出单元707、存储单元708以及通信单元709。输入单元706可以是能向电子设备700输入信息的任何类型的设备,输入单元706可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入,并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元707可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元708可以包括但不限于磁盘、光盘。通信单元709允许电子设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙TM设备、802.11设备、Wi-Fi设备、WiMAX设备、蜂窝通信设备和/或类似物。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如方法200。例如,在一些实施例中,方法200可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到电子设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的方法200的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、***和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。
Claims (19)
1.一种文档分类方法,包括:
获取待分类文档的文档关系信息,其中,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;
基于所述文档关系信息,生成所述待分类文档的向量表示;以及
基于所述向量表示,确定所述待分类文档所属的目标类别。
2.根据权利要求1所述的方法,其中,所述待分类文档和每个已分类文档分别包括多个内容元素,所述待分类文档与所述已分类文档通过所包括的相同的内容元素相关联。
3.根据权利要求1或2所述的方法,其中,所述文档关系信息通过文档关系图表示,所述方法还包括:
分别获取所述待分类文档和每个已分类文档所包括的多个内容元素;
确定任意两个内容元素之间的第一相关度,和任一内容元素与任一文档之间的第二相关度;以及
基于所述第一相关度和所述第二相关度,构建所述文档关系图,其中,所述文档关系图包括多个节点和所述多个节点之间的连接边,每个节点对应于一个文档或者一个内容元素,两个内容元素之间的连接边的权重指示所述两个内容元素之间的第一相关度,内容元素与文档之间的连接边的权重指示该内容元素与该文档之间的第二相关度。
4.根据权利要求3所述的方法,其中,确定任意两个内容元素之间的第一相关度包括:
将每个文档划分为至少一个文档块,以得到多个文档块;
对于所述多个文档块中的任一文档块,确定所述文档块内的两个内容元素在所述文档块内的局部相关度;以及
将所述两个内容元素在所述多个文档块内的局部相关度的平均值作为所述两个内容元素的第一相关度。
5.根据权利要求1-4中任一项所述的方法,其中,所述文档关系信息通过文档关系图来表示,并且其中,基于所述文档关系信息,生成所述待分类文档的向量表示包括:
获取所述待分类文档的初始向量表示;以及
基于所述文档关系图,通过图神经网络更新所述初始向量表示,以得到所述向量表示。
6.根据权利要求5所述的方法,其中,所述初始向量表示是通过采用预训练的编码模型对所述待分类文档进行编码而得到的。
7.根据权利要求5或6所述的方法,其中,基于所述文档关系图,通过图神经网络更新所述初始向量表示包括:
基于所述文档关系图,确定所述待分类文档的至少一个邻居节点;以及
将所述文档关系图的邻接矩阵、所述初始向量表示和所述至少一个邻居节点各自的向量表示输入所述图神经网络,以得到所述图神经网络输出的所述待分类文档的向量表示。
8.根据权利要求1-7中任一项所述的方法,其中,所述目标类别对应于知识图谱中的目标实体。
9.一种文档分类装置,包括:
获取模块,被配置为获取待分类文档的文档关系信息,其中,所述文档关系信息用于表示所述待分类文档与多个已分类文档的关联关系;
表示模块,被配置为基于所述文档关系信息,生成所述待分类文档的向量表示;以及
分类模块,被配置为基于所述向量表示,确定所述待分类文档所属的目标类别。
10.根据权利要求9所述的装置,其中,所述待分类文档和每个已分类文档分别包括多个内容元素,所述待分类文档与所述已分类文档通过所包括的相同的内容元素相关联。
11.根据权利要求9或10所述的装置,其中,所述文档关系信息通过文档关系图表示,所述装置还包括:
获取单元,被配置为分别获取所述待分类文档和每个已分类文档所包括的多个内容元素;
确定单元,被配置为确定任意两个内容元素之间的第一相关度,和任一内容元素与任一文档之间的第二相关度;以及
构建单元,被配置为基于所述第一相关度和所述第二相关度,构建所述文档关系图,其中,所述文档关系图包括多个节点和所述多个节点之间的连接边,每个节点对应于一个文档或者一个内容元素,两个内容元素之间的连接边的权重指示所述两个内容元素之间的第一相关度,内容元素与文档之间的连接边的权重指示该内容元素与该文档之间的第二相关度。
12.根据权利要求11所述的装置,其中,所述确定单元进一步被配置为:
将每个文档划分为至少一个文档块,以得到多个文档块;
对于所述多个文档块中的任一文档块,确定所述文档块内的两个内容元素在所述文档块内的局部相关度;以及
将所述两个内容元素在所述多个文档块内的局部相关度的平均值作为所述两个内容元素的第一相关度。
13.根据权利要求9-12中任一项所述的装置,其中,所述文档关系信息通过文档关系图表示,并且其中,所述表示模块进一步包括:
初始化单元,被配置为获取所述待分类文档的初始向量表示;以及
更新单元,被配置为基于所述文档关系图,通过图神经网络更新所述初始向量表示,以得到所述向量表示。
14.根据权利要求13所述的装置,其中,所述初始化单元进一步被配置为:采用预训练的编码模型对所述待分类文档进行编码,以得到所述初始向量表示。
15.根据权利要求13或14所述的装置,其中,所述更新单元进一步被配置为:
基于所述文档关系图,确定所述待分类文档的至少一个邻居节点;以及
将所述文档关系图的邻接矩阵、所述初始向量表示和所述至少一个邻居节点各自的向量表示输入所述图神经网络,以得到所述图神经网络输出的所述待分类文档的向量表示。
16.根据权利要求9-15中任一项所述的装置,其中,所述目标类别对应于知识图谱中的目标实体。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使计算机执行根据权利要求1-8中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111552308.3A CN114281990A (zh) | 2021-12-17 | 2021-12-17 | 文档分类方法及装置、电子设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111552308.3A CN114281990A (zh) | 2021-12-17 | 2021-12-17 | 文档分类方法及装置、电子设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114281990A true CN114281990A (zh) | 2022-04-05 |
Family
ID=80872868
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111552308.3A Pending CN114281990A (zh) | 2021-12-17 | 2021-12-17 | 文档分类方法及装置、电子设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114281990A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115879515A (zh) * | 2023-02-20 | 2023-03-31 | 江西财经大学 | 文档网络主题建模方法、变分邻域编码器、终端及介质 |
-
2021
- 2021-12-17 CN CN202111552308.3A patent/CN114281990A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115879515A (zh) * | 2023-02-20 | 2023-03-31 | 江西财经大学 | 文档网络主题建模方法、变分邻域编码器、终端及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2018383346B2 (en) | Domain-specific natural language understanding of customer intent in self-help | |
CN113836333A (zh) | 图文匹配模型的训练方法、实现图文检索的方法、装置 | |
US10891322B2 (en) | Automatic conversation creator for news | |
US20200142959A1 (en) | Driving intent expansion via anomaly detection in a modular conversational system | |
WO2022141968A1 (zh) | 对象推荐方法及装置、计算机设备和介质 | |
CN113989593A (zh) | 图像处理方法、检索方法、训练方法、装置、设备及介质 | |
CN113656587B (zh) | 文本分类方法、装置、电子设备及存储介质 | |
CN111737954A (zh) | 文本相似度确定方法、装置、设备和介质 | |
CN113407850B (zh) | 一种虚拟形象的确定和获取方法、装置以及电子设备 | |
CN114595686A (zh) | 知识抽取方法、知识抽取模型的训练方法及装置 | |
CN112506864A (zh) | 文件检索的方法、装置、电子设备及可读存储介质 | |
JP7369228B2 (ja) | ユーザ興味画像の生成方法、装置、電子機器及び記憶媒体 | |
CN115168545A (zh) | 群组搜索方法、装置、电子设备及介质 | |
CN114281990A (zh) | 文档分类方法及装置、电子设备和介质 | |
CN114048383A (zh) | 信息推荐方法及装置、电子设备和介质 | |
CN113806541A (zh) | 情感分类的方法和情感分类模型的训练方法、装置 | |
CN113407579A (zh) | 群组查询方法、装置、电子设备及可读存储介质 | |
CN112954025B (zh) | 基于分层知识图谱推送信息方法、装置、设备、介质 | |
CN115809364B (zh) | 对象推荐方法和模型训练方法 | |
CN115033782B (zh) | 推荐对象的方法、机器学习模型的训练方法、装置和设备 | |
CN113378781B (zh) | 视频特征提取模型的训练方法、装置和电子设备 | |
CN113901314A (zh) | 处理用户查询内容的方法、装置、设备和介质 | |
CN115829653A (zh) | 广告文本的相关度确定方法及装置、设备和介质 | |
CN114596574A (zh) | 文本识别方法、装置、电子设备和介质 | |
CN118296173A (zh) | 文本配图方法及装置、电子设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |