CN112579729B - 文档质量评价模型的训练方法、装置、电子设备和介质 - Google Patents

文档质量评价模型的训练方法、装置、电子设备和介质 Download PDF

Info

Publication number
CN112579729B
CN112579729B CN202011572453.3A CN202011572453A CN112579729B CN 112579729 B CN112579729 B CN 112579729B CN 202011572453 A CN202011572453 A CN 202011572453A CN 112579729 B CN112579729 B CN 112579729B
Authority
CN
China
Prior art keywords
document
quality evaluation
initial
evaluation model
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011572453.3A
Other languages
English (en)
Other versions
CN112579729A (zh
Inventor
韩都晓
邵世臣
李永恒
李梦泽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu China Co Ltd
Original Assignee
Baidu China Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu China Co Ltd filed Critical Baidu China Co Ltd
Priority to CN202011572453.3A priority Critical patent/CN112579729B/zh
Publication of CN112579729A publication Critical patent/CN112579729A/zh
Application granted granted Critical
Publication of CN112579729B publication Critical patent/CN112579729B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/31Indexing; Data structures therefor; Storage structures
    • G06F16/316Indexing structures
    • G06F16/322Trees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开公开了一种文档质量评价模型的训练方法、评价文档质量的方法、装置、设备、介质和产品,涉及深度学习、自然语言处理、知识图谱等领域。文档质量评价模型的训练方法包括:获取初始文档质量评价模型,其中,初始文档质量评价模型是利用多个第一文档训练得到的,每个第一文档具有第一特征数据;获取多个第二文档,其中,每个第二文档具有第二特征数据;利用多个第二文档训练初始文档质量评价模型,以更新初始文档质量评价模型。

Description

文档质量评价模型的训练方法、装置、电子设备和介质
技术领域
本公开涉及人工智能技术领域,尤其涉及深度学习、自然语言处理、知识图谱等领域,更具体地,涉及一种文档质量评价模型的训练方法、评价文档质量的方法、装置、电子设备、介质和程序产品。
背景技术
在线上知识内容迅速扩充的背景下,大量文档层出不穷,并且文档质量良莠不齐。当用户需要获取某类文档时,符合用户要求的文档数量较多,用户通常需要从中选择质量较高的文档。但是,在筛选质量较高的文档时,通常通过对一篇一篇的文档逐个进行人工质量判断来进行选择,导致文档选择的效率较低、人工成本较高。
发明内容
本公开提供了一种文档质量评价模型的训练方法、评价文档质量的方法、装置、电子设备、存储介质以及计算机程序产品。
根据本公开的一方面,提供了一种文档质量评价模型的训练方法,包括:获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;获取多个第二文档,其中,每个所述第二文档具有第二特征数据;以及,利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型。
根据本公开的另一方面,提供了一种评价文档质量的方法,包括:获取待评价文档;以及,利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价。其中,所述评价文档质量的方法还包括利用上述文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
根据本公开的另一方面,提供了一种文档质量评价模型的训练装置,包括:第一获取模块、第二获取模块以及第一训练模块。其中,第一获取模块用于获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据。第二获取模块用于获取多个第二文档,其中,每个所述第二文档具有第二特征数据和标签。第一训练模块用于利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型。
根据本公开的另一方面,提供了一种评价文档质量的装置,包括:第三获取模块、处理模块以及第二训练模块。其中,第三获取模块用于获取待评价文档。处理模块用于利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价。其中,所述评价文档质量的装置还包括第二训练模块,用于利用上述文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器和与所述至少一个处理器通信连接的存储器。其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行:获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;获取多个第二文档,其中,每个所述第二文档具有第二特征数据;以及,利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器和与所述至少一个处理器通信连接的存储器。其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行:获取待评价文档;以及,利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价。其中,所述评价文档质量的方法还包括利用上述文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行:获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;获取多个第二文档,其中,每个所述第二文档具有第二特征数据;以及,利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行:获取待评价文档;以及,利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价。其中,所述评价文档质量的方法还包括利用上述文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现:获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;获取多个第二文档,其中,每个所述第二文档具有第二特征数据;以及,利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现:获取待评价文档;以及,利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价。其中,所述评价文档质量的方法还包括利用上述文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的文档质量评价模型的训练方法的应用场景;
图2示意性示出了根据本公开一实施例的文档质量评价模型的训练方法的流程图;
图3示意性示出了根据本公开一实施例的文档质量评价模型的训练方法的示意图;
图4示意性示出了根据本公开另一实施例的文档质量评价模型的训练方法的示意图;
图5示意性示出了根据本公开另一实施例的文档质量评价模型的训练方法的示意图;
图6示意性示出了根据本公开一实施例的评价文档质量的方法的流程图;
图7示意性示出了根据本公开一实施例的文档质量评价模型的训练装置的框图;
图8示意性示出了根据本公开一实施例的评价文档质量的装置的框图;以及
图9是用来实现本公开实施例的文档质量评价模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的***”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的***等)。
本公开的实施例提供了一种文档质量评价模型的训练方法,包括:获取初始文档质量评价模型,其中,初始文档质量评价模型是利用多个第一文档训练得到的,每个第一文档具有第一特征数据。然后,获取多个第二文档,其中,每个第二文档具有第二特征数据。接下来,利用多个第二文档训练初始文档质量评价模型,以更新初始文档质量评价模型。
图1示意性示出了根据本公开实施例的文档质量评价模型的训练方法的应用场景。
如图1所示,本公开的实施例的应用场景100例如包括待训练文档质量评价模型110和经训练文档质量评价模型120。
在本公开的实施例中,文档质量评价模型可以包括分类模型,该分类模型例如用于对文档进行分类,以将文档分为质量高的文档和质量低的文档。其中,分类模型可以包括树模型,树模型包括但不仅限于决策树、二叉树等等。
在本公开的实施例中,训练样本111中例如包括多个用于训练待训练文档质量评价模型110的文档,训练样本111中的每个文档具有标签,该标签例如表征了对应文档的质量,标签例如包括“质量高”、“质量低”等。利用训练样本111对待训练文档质量评价模型110进行训练,可以得到经训练文档质量评价模型120。
接下来,可以利用经训练文档质量评价模型120对待评价文档121进行质量评价。例如,将待评价文档121输入至经训练文档质量评价模型120中得到文档质量评价结果130,文档质量评价结果130例如包括待评价文档121为质量高文档的概率或者待评价文档121为质量低文档的概率,从而实现对待评价文档121的质量评价。
本公开实施例提供了一种文档质量评价模型的训练方法,下面结合图1的应用场景,参考图2~图5来描述根据本公开示例性实施方式的文档质量评价模型的训练方法。
图2示意性示出了根据本公开一实施例的文档质量评价模型的训练方法的流程图。
如图2所示,本公开实施例的文档质量评价模型的训练方法200例如可以包括操作S210~操作S230。
在操作S210,获取初始文档质量评价模型,其中,初始文档质量评价模型是利用多个第一文档训练得到的,每个第一文档具有第一特征数据。
在操作S220,获取多个第二文档,其中,每个第二文档具有第二特征数据。
在操作S230,利用多个第二文档训练初始文档质量评价模型,以更新初始文档质量评价模型。
在本公开的实施例中,第一文档的第一特征数据例如主要包括文档本身的特征,该第一特征数据随时间变化的程度较低。基于该第一文档的第一特征数据来训练得到初始文档质量评价模型,使得在利用初始文档质量评价模型对文档进行质量评价时,更加关注文档本身的内容。
在本公开的实施例中,第二文档的第二特征数据例如主要包括文档本身的特征之外的其他特征,该第二特征数据随时间变化的程度较高。利用第二文档来对初始质量评价模型进行更新训练,使得更新后的初始质量评价模型在对文档进行质量评价时,更加关注文档中随时间变化的内容。
在本公开的实施例中,通过第一文档训练得到初始文档质量评价模型之后,再利用第二文档来训练更新初始质量评价模型,使得更新后的初始质量评价模型在对文档进行质量评价时,不仅关注文档本身的内容,还同时关注文档中随时间变化的内容,从而提高了初始质量评价模型的模型精度,进而提高了文档质量评价的准确性。
图3示意性示出了根据本公开一实施例的文档质量评价模型的训练方法的示意图。
如图3所示,针对多个第二文档310中的每个第二文档,获取每个第二文档的第二特征数据320。
其中,第二特征数据320例如包括第二文档的作者公信度特征数据321、第二文档的热点特征数据322和第二文档的图特征数据323。
针对第二文档的作者公信度特征数据321,例如可以通过爬虫技术从多个网站中爬取作者在各网站上相关数据信息,并处理相关数据信息生成作者公信度特征数据321。作者公信度特征数据321例如包括多个维度的特征,多个维度例如包括作者相关文档被引用次数、作者相关文档的评分、作者相关文档的被评价次数等等。
针对第二文档的热点特征数据322,可以根据第二文档的标题或者文档主题关键词在多个网站上爬取数据并抽取特征。例如通过爬虫技术从多个网站中爬取文档标题或文档主题关键词在各网站上被引用的次数、关键词触碰新闻或热门排行榜的次数等多维特征,并将该多维特征作为热点特征数据322。示例性地,可以通过TF-IDF(Term Frequency-Inverse Document Frequency)技术提取文档主题关键词,然后基于关键词在网站中的多个热门文档中进行搜索,以得到第二文档的热点特征数据322。
针对第二文档的图特征数据323,图特征数据323表征第二文档、第二文档的作者、阅读第二文档的用户之间的关联关系。例如,从多个网站的相关数据中抽取文档、作者、用户作为节点,确定用户查看文档的行为作为用户节点和文档节点之间的关联边,该关联边可以表征用户阅读文档的时长、次数等。确定作者节点和文档节点之间的关联边,该关联边可以表征该作者对该文档的创作时间和更新时间。通过多个节点和节点之间的关联边可以实现数据的关联整合而得到图数据,基于该图数据可以得到针对每个第二文档的图特征数据323,在一种情况下,该图特征数据323可以反映某一第二文档被多个用户查看,多个用户查看的文档为优质文档的概率较高。
在本公开的实施例中,每个第二文档还可以包括标签330,该标签330例如表征了第二文档为质量高或质量低的文档。在本公开的实施例中,第二文档的标签是基于第二特征数据得到的。例如,当第二文档的第二特征数据满足预设条件时,该第二文档的标签330为“质量高”。例如,当第二文档的作者公信度特征数据321表征作者公信度大于预设公信度、第二文档的热点特征数据322表征第二文档为热点文档、和/或第二文档的图特征数据323表征第二文档的文档、作者、用户之间满足一定关联条件时,可以确定该第二文档为质量高的文档,从而得到针对该第二文档的标签330为“质量高”。
接下来,利用初始文档质量评价模型340处理第二文档的第二特征数据320,得到针对第二文档的文档质量评价结果350。然后,基于针对第二文档的文档质量评价结果350和第二文档的标签330,调整初始文档质量评价模型340的模型参数,以更新初始文档质量评价模型340。例如,当文档质量评价结果350和标签330不一致时,调整初始文档质量评价模型340的模型参数,以使得后续在训练时文档质量评价结果350和标签330尽量一致。
在本公开的实施例中,基于第二特征数据来得到第二文档的标签,使得第二文档的标签更加能够体现第二文档的文档质量,基于具有标签的第二文档来训练更新初始文档质量评价模型,提高了初始质量评价模型的模型精度。
图4示意性示出了根据本公开另一实施例的文档质量评价模型的训练方法的示意图。
如图4所示,获取多个第一文档410,多个第一文档410中的每个第一文档具有第一特征数据420和标签440。该标签440例如表征了第一文档为质量高或质量低的文档。
在本公开的实施例中,第一特征数据420包括第一文档的文档内容特征421、针对第一文档的用户行为特征422和第一文档的作者特征423。
其中,第一文档的文档内容特征421例如包括多维特征,多维特征例如包括第一文档的标题、页数、文档格式类型、文档内容类型、文档上传时间等等。文档格式类型例如为Word、PDF、PPT等。文档内容类型例如为论文类型、教案类型等。
其中,针对第一文档的用户行为特征422例如包括多维特征,多维特征例如包括下载率、点赞量、收藏量、分享量、浏览量、用户评分量、用户评分值等等。
其中,作者特征423例如包括多维特征,多维特征包括作者被关注特征和作者的文档质量特征。作者被关注特征例如包括作者被关注量,作者的文档质量特征例如包括作者所上传的文档质量分值。
在本公开的实施例中,第一文档的标签440例如是基于第一文档的文档属性信息430得到的。例如,处理每个第一文档得到第一文档的至少一个文档属性信息430,然后基于预设的规则处理至少一个文档属性信息,得到第一文档的标签440,该标签440表征了第一文档的文档质量评价。例如,通过自然语言处理技术来处理第一文档,得到该第一文档的文档属性信息430,然后基于文档属性信息430来确定第一文档的标签440。
接下来,利用待训练的文档质量评价模型450处理第一特征数据420,得到针对第一文档的文档质量评价结果460。然后,基于针对第一文档的文档质量评价结果460和第一文档的标签440,调整待训练的文档质量评价模型450的模型参数,以得到初始文档质量评价模型。例如,当文档质量评价结果460和标签440不一致时,调整待训练的文档质量评价模型450的模型参数,以使得得到的初始文档质量评价模型后续在对文档进行处理得到的文档质量评价结果和标签尽量一致。
在本公开的实施例中,文档属性信息可以包括:文档标题信息、文档题文相关性信息、文档可读性信息、文档完整度信息、文档图表信息、文档篇幅信息、文档美观性信息、文档实用性信息、文档作弊信息等等。
如表1所示,处理第一文档得到第一文档的多个文档属性信息,然后基于预设的规则处理至少一个文档属性信息,得到第一文档的标签。例如,当多个文档属性信息中的至少部分文档属性信息满足优质标准时,确定第一文档的标签为“质量高”。示例性地,在标题质量、题文相关性、可读性、完整度等多个文档属性信息均满足优质标准时,确定第一文档的标签为“质量高”。
在本公开的实施例中,基于第一文档的文档属性信息来确定第一文档的标签,使得第一文档的标签更加能够体现第一文档的文档质量,基于具有标签的第一文档来得到初始文档质量评价模型,提高了初始质量评价模型的模型精度。
表1
文档属性 优质标准
标题质量 标题长度、描述完整、表意明确、语法标点使用正确等
题文相关性 正文与题目符合
可读性 内容错误少于5处且无明显广告链接
完整度 连贯有头有尾、明确提示有图/表格
配图/表格质量 有配图、图表清晰、无重复并且图表与正文主题相关
文档篇幅 文档内容一般3页及以上,PPT文档8页及以上
美观性 内容无遮挡、格式工整
实用性 内容对用户有使用价值
作弊 无内容堆砌、无隐藏字符等作弊行为
图5示意性示出了根据本公开另一实施例的文档质量评价模型的训练方法的示意图。
如图5所示,获取至少一个验证文档510,每个验证文档510具有特征数据511和标签512。然后,利用初始文档质量评价模型520处理验证文档510的特征数据511,得到针对验证文档510的文档质量评价结果530。
接下来,基于针对验证文档510的文档质量评价结果530和验证文档510的标签512,从至少一个验证文档510中确定目标验证文档511’,其中,目标验证文档511’的文档质量评价结果的和目标验证文档511’的标签之间不匹配。即,初始文档质量评价模型520对目标验证文档511’的质量评价结果是错误的,进一步可以表明在训练初始文档质量评价模型时,所使用的训练样本中与目标验证文档511’类似的样本数量较少而导致初始文档质量评价模型对目标验证文档511’的质量评价准确性较低。
然后,基于目标验证文档511’,获取多个训练文档540,每个训练文档540的文档属性信息与目标验证文档511’的文档属性信息之间的相似度满足预设相似度,即,训练文档540与目标验证文档511’为相似文档。其中,文档属性信息可以包括文档标题信息、文档题文相关性信息、文档可读性信息、文档完整度信息、文档图表信息、文档篇幅信息、文档美观性信息、文档实用性信息、文档作弊信息等等。在获取到多个训练文档540之后,可以基于多个训练文档540更新初始文档质量评价模型520。
可见,本公开实施例通过利用验证文档对初始文档质量评价模型进行验证,以确定在训练初始文档质量评价模型时所使用的训练样本中数量不足的样本类型,并利用大量该类型的样本来更新初始文档质量评价模型,从而提高初始文档质量评价模型的评价准确性。
图6示意性示出了根据本公开一实施例的评价文档质量的方法的流程图。
如图6所示,本公开实施例的评价文档质量的方法600例如可以包括操作S610~操作S630。
在操作S610,利用文档质量评价模型的训练方法来训练初始文档质量评价模型,以获得文档质量评价模型。
在操作S620,获取待评价文档。
在操作S630,利用文档质量评价模型处理待评价文档,得到针对待评价文档的文档质量评价。
其中,待评价文档例如包括第一特征数据。文档质量评价模型例如是利用上文提及的训练方法来训练初始文档质量评价模型而得到的。
在本公开实施例中,利用文档质量评价模型处理待评价文档得到的文档质量评价包括表征待评价文档为该质量文档的概率。
在一示例中,概率通过分段函数转换为0-5之间的分值,分段函数如公式(1):
其中,prob为模型输出的概率,如果文档为高质量文档,则概率大于0.5,此时文档的质量评价分值大于4分,且概率越接近1分值越接近5。如果文档属于高质量文档的概率小于等于0.5,则文档的质量评价分值小于3分。
在获得多个待评价文档的分值之后,可以按照分值对多个待评价文档进行降序排列,并将排列后的待评价文档推荐给用户,使得用户可以优先选择高质量文档,提高用户选择高质量文档的效率,降低选择高质量文档的人工成本。
图7示意性示出了根据本公开一实施例的文档质量评价模型的训练装置的框图。
如图7所示,本公开实施例的文档质量评价模型的训练装置700例如包括第一获取模块710、第二获取模块720以及第一训练模块730。
第一获取模块710可以用于获取初始文档质量评价模型,其中,初始文档质量评价模型是利用多个第一文档训练得到的,每个第一文档具有第一特征数据。根据本公开实施例,第一获取模块710例如可以执行上文参考图2描述的操作S210,在此不再赘述。
第二获取模块720可以用于获取多个第二文档,其中,每个第二文档具有第二特征数据和标签。根据本公开实施例,第二获取模块720例如可以执行上文参考图2描述的操作S220,在此不再赘述。
第一训练模块730可以用于利用多个第二文档训练初始文档质量评价模型,以更新初始文档质量评价模型。根据本公开实施例,第一训练模块730例如可以执行上文参考图2描述的操作S230,在此不再赘述。
图8示意性示出了根据本公开一实施例的评价文档质量的装置的框图。
如图8所示,本公开实施例的评价文档质量的装置800例如包括第二训练模块810、第三获取模块820以及处理模块830。
第二训练模块810可以用于训练初始文档质量评价模型,以获得文档质量评价模型。根据本公开实施例,第二训练模块810例如可以执行上文参考图6描述的操作S610,在此不再赘述。
第三获取模块820可以用于获取待评价文档。根据本公开实施例,第三获取模块820例如可以执行上文参考图6描述的操作S620,在此不再赘述。
处理模块830可以用于利用文档质量评价模型处理待评价文档,得到针对待评价文档的文档质量评价。根据本公开实施例,处理模块830例如可以执行上文参考图6描述的操作S630,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9是用来实现本公开实施例的文档质量评价模型的训练方法的电子设备的框图。
图9示出了可以用来实施本公开实施例的示例电子设备900的示意性框图。电子设备900旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如文档质量评价模型的训练方法。例如,在一些实施例中,文档质量评价模型的训练方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的文档质量评价模型的训练方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文档质量评价模型的训练方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
该电子设备可以用于执行评价文档质量的方法。该电子设备例如可以包括计算单元、ROM、RAM、I/O接口、输入单元、输出单元、存储单元和通信单元。其中,该电子设备中的计算单元、ROM、RAM、I/O接口、输入单元、输出单元、存储单元和通信单元例如具有与图9中所示的电子设备的计算单元、ROM、RAM、I/O接口、输入单元、输出单元、存储单元和通信单元相同或类似的功能,在此不再赘述。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (15)

1.一种文档质量评价模型的训练方法,包括:
获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;
获取多个第二文档,其中,每个所述第二文档具有第二特征数据;以及
利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型;
其中,所述第一特征数据包括以下至少一项:所述第一文档的文档内容特征;针对所述第一文档的用户行为特征;所述第一文档的作者特征,其中,所述作者特征包括作者被关注特征和作者的文档质量特征中的至少一项;
其中,所述第二特征数据包括以下至少一项:所述第二文档的作者公信度特征数据;所述第二文档的热点特征数据;以及所述第二文档的图特征数据,其中,所述图特征数据表征所述第二文档、所述第二文档的作者、阅读所述第二文档的用户之间的关联关系。
2.根据权利要求1所述的方法,其中,每个所述第二文档还包括标签,所述第二文档的标签是基于所述第二特征数据得到的;
其中,所述利用所述多个第二文档训练所述初始文档质量评价模型包括:
利用所述初始文档质量评价模型处理所述第二文档的第二特征数据,得到针对所述第二文档的文档质量评价结果;以及
基于针对所述第二文档的文档质量评价结果和所述第二文档的标签,调整所述初始文档质量评价模型的模型参数,以更新所述初始文档质量评价模型。
3.根据权利要求1所述的方法,还包括:
获取多个第一文档,其中,每个所述第一文档具有标签;
利用待训练的文档质量评价模型处理所述第一特征数据,得到针对所述第一文档的文档质量评价结果;以及
基于针对所述第一文档的文档质量评价结果和所述第一文档的标签,调整待训练的文档质量评价模型的模型参数,以得到所述初始文档质量评价模型。
4.根据权利要求3所述的方法,还包括:获取每个所述第一文档的标签;所述获取每个所述第一文档的标签包括:
处理所述第一文档,得到所述第一文档的至少一个文档属性信息;以及
基于预设的规则处理所述至少一个文档属性信息,得到所述第一文档的标签,其中,所述第一文档的标签表征了所述第一文档的文档质量评价。
5.根据权利要求4所述的方法,其中,所述文档属性信息包括以下至少一个:
文档标题信息、文档题文相关性信息、文档可读性信息、文档完整度信息、文档图表信息、文档篇幅信息、文档美观性信息、文档实用性信息、文档作弊信息。
6.根据权利要求1或3所述的方法,还包括:
获取至少一个验证文档,每个所述验证文档具有特征数据和标签;
利用所述初始文档质量评价模型处理所述验证文档的特征数据,得到针对所述验证文档的文档质量评价结果;
基于针对所述验证文档的文档质量评价结果和所述验证文档的标签,从所述至少一个验证文档中确定目标验证文档,其中,所述目标验证文档的文档质量评价结果的和所述目标验证文档的标签之间不匹配;
基于所述目标验证文档,获取多个训练文档,其中,每个所述训练文档的文档属性信息与所述目标验证文档的文档属性信息之间的相似度满足预设相似度;以及
基于所述多个训练文档更新所述初始文档质量评价模型。
7.一种评价文档质量的方法,包括:
获取待评价文档;以及
利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价;
其中,所述评价文档质量的方法还包括利用根据权利要求1-6中任意一项所述的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
8.一种文档质量评价模型的训练装置,包括:
第一获取模块,用于获取初始文档质量评价模型,其中,所述初始文档质量评价模型是利用多个第一文档训练得到的,每个所述第一文档具有第一特征数据;
第二获取模块,用于获取多个第二文档,其中,每个所述第二文档具有第二特征数据和标签;以及
第一训练模块,用于利用所述多个第二文档训练所述初始文档质量评价模型,以更新所述初始文档质量评价模型;
其中,所述第一特征数据包括以下至少一项:所述第一文档的文档内容特征;针对所述第一文档的用户行为特征;所述第一文档的作者特征,其中,所述作者特征包括作者被关注特征和作者的文档质量特征中的至少一项;
其中,所述第二特征数据包括以下至少一项:所述第二文档的作者公信度特征数据;所述第二文档的热点特征数据;以及所述第二文档的图特征数据,其中,所述图特征数据表征所述第二文档、所述第二文档的作者、阅读所述第二文档的用户之间的关联关系。
9.一种评价文档质量的装置,包括:
第三获取模块,用于获取待评价文档;
处理模块,用于利用文档质量评价模型处理所述待评价文档,得到针对所述待评价文档的文档质量评价;
其中,所述评价文档质量的装置还包括第二训练模块,用于利用根据权利要求1-6中任意一项所述的训练方法来训练初始文档质量评价模型,以获得所述文档质量评价模型。
10.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求7所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
13.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求7所述的方法。
14.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求7所述的方法。
CN202011572453.3A 2020-12-25 2020-12-25 文档质量评价模型的训练方法、装置、电子设备和介质 Active CN112579729B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011572453.3A CN112579729B (zh) 2020-12-25 2020-12-25 文档质量评价模型的训练方法、装置、电子设备和介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011572453.3A CN112579729B (zh) 2020-12-25 2020-12-25 文档质量评价模型的训练方法、装置、电子设备和介质

Publications (2)

Publication Number Publication Date
CN112579729A CN112579729A (zh) 2021-03-30
CN112579729B true CN112579729B (zh) 2024-05-21

Family

ID=75140114

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011572453.3A Active CN112579729B (zh) 2020-12-25 2020-12-25 文档质量评价模型的训练方法、装置、电子设备和介质

Country Status (1)

Country Link
CN (1) CN112579729B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113515628B (zh) * 2021-05-19 2024-05-10 北京世纪好未来教育科技有限公司 文档检测方法、装置、设备及存储介质
CN113656671B (zh) * 2021-06-16 2024-05-24 北京百度网讯科技有限公司 模型训练方法、链接评分方法、装置、设备、介质和产品
CN114492409B (zh) * 2022-01-27 2022-12-20 百度在线网络技术(北京)有限公司 文件内容的评价方法、装置、电子设备及程序产品

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005158010A (ja) * 2003-10-31 2005-06-16 Hewlett-Packard Development Co Lp 分類評価装置・方法及びプログラム
CN108537289A (zh) * 2018-04-24 2018-09-14 百度在线网络技术(北京)有限公司 数据识别模型的训练方法、装置及存储介质
CN109243618A (zh) * 2018-09-12 2019-01-18 腾讯科技(深圳)有限公司 医学模型的构建方法、疾病标签构建方法及智能设备
CN110266745A (zh) * 2019-03-08 2019-09-20 腾讯科技(深圳)有限公司 基于深度网络的信息流推荐方法、装置、设备及存储介质
CN110515904A (zh) * 2019-08-13 2019-11-29 北京达佳互联信息技术有限公司 媒体文件的质量预测模型训练方法、质量预测方法及装置
CN110569359A (zh) * 2019-08-26 2019-12-13 腾讯科技(深圳)有限公司 识别模型的训练及应用方法、装置、计算设备及存储介质
CN110807154A (zh) * 2019-11-08 2020-02-18 内蒙古工业大学 一种基于混合深度学习模型的推荐方法与***
CN110956018A (zh) * 2019-11-22 2020-04-03 腾讯科技(深圳)有限公司 文本处理模型的训练方法、文本处理方法、装置及存储介质
CN111368075A (zh) * 2020-02-27 2020-07-03 腾讯科技(深圳)有限公司 文章质量预测方法、装置、电子设备及存储介质
CN111523322A (zh) * 2020-04-25 2020-08-11 中信银行股份有限公司 需求文档质量评价模型训练方法及需求文档质量评价方法
CN111737975A (zh) * 2020-05-14 2020-10-02 平安科技(深圳)有限公司 文本内涵质量的评估方法、装置、设备及存储介质
CN111737446A (zh) * 2020-06-22 2020-10-02 北京百度网讯科技有限公司 用于构建质量评估模型的方法、装置、设备及存储介质
CN112016315A (zh) * 2020-10-19 2020-12-01 北京易真学思教育科技有限公司 模型训练、文本识别方法及装置、电子设备、存储介质

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005158010A (ja) * 2003-10-31 2005-06-16 Hewlett-Packard Development Co Lp 分類評価装置・方法及びプログラム
CN108537289A (zh) * 2018-04-24 2018-09-14 百度在线网络技术(北京)有限公司 数据识别模型的训练方法、装置及存储介质
CN109243618A (zh) * 2018-09-12 2019-01-18 腾讯科技(深圳)有限公司 医学模型的构建方法、疾病标签构建方法及智能设备
CN110266745A (zh) * 2019-03-08 2019-09-20 腾讯科技(深圳)有限公司 基于深度网络的信息流推荐方法、装置、设备及存储介质
CN110515904A (zh) * 2019-08-13 2019-11-29 北京达佳互联信息技术有限公司 媒体文件的质量预测模型训练方法、质量预测方法及装置
CN110569359A (zh) * 2019-08-26 2019-12-13 腾讯科技(深圳)有限公司 识别模型的训练及应用方法、装置、计算设备及存储介质
CN110807154A (zh) * 2019-11-08 2020-02-18 内蒙古工业大学 一种基于混合深度学习模型的推荐方法与***
CN110956018A (zh) * 2019-11-22 2020-04-03 腾讯科技(深圳)有限公司 文本处理模型的训练方法、文本处理方法、装置及存储介质
CN111368075A (zh) * 2020-02-27 2020-07-03 腾讯科技(深圳)有限公司 文章质量预测方法、装置、电子设备及存储介质
CN111523322A (zh) * 2020-04-25 2020-08-11 中信银行股份有限公司 需求文档质量评价模型训练方法及需求文档质量评价方法
CN111737975A (zh) * 2020-05-14 2020-10-02 平安科技(深圳)有限公司 文本内涵质量的评估方法、装置、设备及存储介质
CN111737446A (zh) * 2020-06-22 2020-10-02 北京百度网讯科技有限公司 用于构建质量评估模型的方法、装置、设备及存储介质
CN112016315A (zh) * 2020-10-19 2020-12-01 北京易真学思教育科技有限公司 模型训练、文本识别方法及装置、电子设备、存储介质

Also Published As

Publication number Publication date
CN112579729A (zh) 2021-03-30

Similar Documents

Publication Publication Date Title
CN108804512B (zh) 文本分类模型的生成装置、方法及计算机可读存储介质
CN108121700B (zh) 一种关键词提取方法、装置及电子设备
CN112579729B (zh) 文档质量评价模型的训练方法、装置、电子设备和介质
CN111105209B (zh) 适用于人岗匹配推荐***的职位简历匹配方法及装置
CN104899322A (zh) 搜索引擎及其实现方法
CN113722438B (zh) 基于句向量模型的句向量生成方法、装置及计算机设备
CN111160007B (zh) 基于bert语言模型的搜索方法、装置、计算机设备及存储介质
CN112926308B (zh) 匹配正文的方法、装置、设备、存储介质以及程序产品
CN113806660B (zh) 数据评估方法、训练方法、装置、电子设备以及存储介质
CN113609847B (zh) 信息抽取方法、装置、电子设备及存储介质
Wei et al. Online education recommendation model based on user behavior data analysis
CN112506864B (zh) 文件检索的方法、装置、电子设备及可读存储介质
CN113919424A (zh) 文本处理模型的训练、文本处理方法、装置、设备和介质
CN107908649B (zh) 一种文本分类的控制方法
CN114116997A (zh) 知识问答方法、装置、电子设备及存储介质
CN114020904A (zh) 试题文件筛选方法、模型训练方法、装置、设备及介质
CN115248890A (zh) 用户兴趣画像的生成方法、装置、电子设备以及存储介质
CN116561320A (zh) 一种汽车评论的分类方法、装置、设备及介质
CN111199151A (zh) 数据处理方法、及数据处理装置
US20220318253A1 (en) Search Method, Apparatus, Electronic Device, Storage Medium and Program Product
CN112926297B (zh) 处理信息的方法、装置、设备和存储介质
CN113792230B (zh) 服务链接方法、装置、电子设备和存储介质
CN106649255A (zh) 一种对短文本自动分类和识别主题词的方法
CN115048523A (zh) 文本分类方法、装置、设备以及存储介质
CN114329206A (zh) 标题生成方法和装置、电子设备、计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant