CN111610913B - 一种消息鉴别方法、装置及电子设备 - Google Patents
一种消息鉴别方法、装置及电子设备 Download PDFInfo
- Publication number
- CN111610913B CN111610913B CN202010335178.7A CN202010335178A CN111610913B CN 111610913 B CN111610913 B CN 111610913B CN 202010335178 A CN202010335178 A CN 202010335178A CN 111610913 B CN111610913 B CN 111610913B
- Authority
- CN
- China
- Prior art keywords
- message
- target
- rumor
- target content
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例公开了一种消息鉴别方法、装置及电子设备,涉及通信技术领域,可以解决电子设备验证消息的真实性的效率较低的问题。该方法包括:在目标应用程序的界面中显示目标内容的情况下,接收用户对目标内容的第一输入,该目标内容为通过目标应用程序接收的消息的内容;响应于第一输入,基于目标内容与目标对象确定目标数值;其中,该目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合;该目标网络模型用于确定消息是否为谣言消息;根据目标数值,确定目标内容对应的消息是否为谣言消息。本发明实施例应用于电子设备鉴别谣言消息的过程中。
Description
技术领域
本发明实施例涉及通信技术领域,尤其涉及一种消息鉴别方法、装置及电子设备。
背景技术
通常,在电子设备中的某些应用程序(例如资讯类应用程序或社交类应用程序等)接收到消息(例如推送消息)时,若用户需求验证该消息的真实性(即是否为谣言消息),则用户可以先复制该消息,然后打开电子设备中的浏览器应用程序,以在该浏览器应用程序中访问辟谣网站,再将复制的消息粘贴在该辟谣网站中,以查询该消息是否为谣言消息。
然而,上述方法中,由于用户需要进行多次输入,才可以查询某些应用程序接收到的消息是否为谣言消息,因此验证消息的真实性的过程中,用户的操作比较繁琐且耗时,如此导致电子设备验证消息的真实性的效率较低。
发明内容
本发明实施例提供一种消息鉴别方法、装置及电子设备,可以解决电子设备验证消息的真实性的效率较低的问题。
为了解决上述技术问题,本发明实施例采用如下技术方案:
本发明实施例的第一方面,提供一种消息鉴别方法,应用于电子设备,该应用于电子设备包括:在目标应用程序的界面中显示目标内容的情况下,接收用户对目标内容的第一输入,该目标内容为通过目标应用程序接收的消息的内容;响应于第一输入,基于目标内容与目标对象确定目标数值;其中,该目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合,该第一消息集合包括与目标内容对应的真实消息,该第二消息集合包括与目标内容对应的谣言消息;该目标网络模型用于确定消息是否为谣言消息;根据目标数值,确定目标内容对应的消息是否为谣言消息;其中,该真实消息为真实度大于或等于第一预设阈值的消息,该谣言消息为真实度小于第一预设阈值的消息。
本发明实施例的第二方面,提供一种消息鉴别装置,该消息鉴别装置包括:接收模块和确定模块。其中,接收模块,用于在目标应用程序的界面中显示目标内容的情况下,接收用户对目标内容的第一输入,该目标内容为通过目标应用程序接收的消息的内容。确定模块,用于响应于接收模块接收的第一输入,基于目标内容与目标对象确定目标数值;其中,该目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合,该第一消息集合包括与目标内容对应的真实消息,该第二消息集合包括与目标内容对应的谣言消息;该目标网络模型用于确定消息是否为谣言消息;并根据目标数值,确定目标内容对应的消息是否为谣言消息。其中,该真实消息为真实度大于或等于第一预设阈值的消息,该谣言消息为真实度小于第一预设阈值的消息。
本发明实施例的第三方面,提供一种电子设备,该电子设备包括处理器、存储器及存储在存储器上并可在处理器上运行的计算机程序,该计算机程序被处理器执行时实现如第一方面所述的消息鉴别方法的步骤。
本发明实施例的第四方面,提供一种计算机可读存储介质,该计算机可读存储介质上存储计算机程序,该计算机程序被处理器执行时实现如第一方面所述的消息鉴别方法的步骤。
在本发明实施例中,在目标应用程序的界面中显示目标内容的情况下,电子设备可以根据用户对该目标内容的第一输入,基于该目标内容与目标对象确定目标数值,并根据该目标数值,确定该目标内容对应的消息是否为谣言消息。由于用户可以直接对目标应用程序的界面中的目标内容进行第一输入,以使得电子设备可以确定该目标内容对应的消息是否为谣言消息,即用户可以通过一次输入,以通过电子设备验证该目标内容对应的消息是否为谣言消息,而无需用户进行多次输入,因此可以简化用户的操作且节省耗时,如此可以提升电子设备验证消息的真实性的效率。
附图说明
图1为本发明实施例提供的一种安卓操作***的架构示意图;
图2为本发明实施例提供的一种消息鉴别方法的示意图之一;
图3为本发明实施例提供的一种手机的界面的实例示意图之一;
图4为本发明实施例提供的一种消息鉴别方法的示意图之二;
图5为本发明实施例提供的一种消息鉴别方法的示意图之三;
图6为本发明实施例提供的一种消息鉴别方法的示意图之四;
图7为本发明实施例提供的一种消息鉴别方法的示意图之五;
图8为本发明实施例提供的一种手机的界面的实例示意图之二;
图9为本发明实施例提供的一种手机的界面的实例示意图之三;
图10为本发明实施例提供的一种消息鉴别装置的结构示意图之一;
图11为本发明实施例提供的一种消息鉴别装置的结构示意图之二;
图12为本发明实施例提供的一种消息鉴别装置的结构示意图之三;
图13为本发明实施例提供的一种消息鉴别装置的结构示意图之四;
图14为本发明实施例提供的一种消息鉴别装置的结构示意图之五;
图15为本发明实施例提供的一种电子设备的硬件示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述对象的特定顺序。例如,第一消息集合和第二消息集合等是用于区别不同的消息集合,而不是用于描述消息集合的特定顺序。
在本发明实施例的描述中,除非另有说明,“多个”的含义是指两个或两个以上。例如,多个元件是指两个元件或两个以上元件。
本文中术语“和/或”,是一种描述关联对象的关联关系,表示可以存在三种关系,例如,显示面板和/或背光,可以表示:单独存在显示面板,同时存在显示面板和背光,单独存在背光这三种情况。本文中符号“/”表示关联对象是或者的关系,例如输入/输出表示输入或者输出。
在本发明实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本发明实施例提供一种消息鉴别方法、装置及电子设备,由于用户可以直接对目标应用程序的界面中的目标内容进行第一输入,以使得电子设备可以确定该目标内容对应的消息是否为谣言消息,即用户可以通过一次输入,以通过电子设备验证该目标内容对应的消息是否为谣言消息,而无需用户进行多次输入,因此可以简化用户的操作且节省耗时,如此可以提升电子设备验证消息的真实性的效率。
本发明实施例提供的消息鉴别方法、装置及电子设备,可以应用于电子设备确定谣言消息的过程。具体的,可以应用于电子设备根据消息的内容和对象,确定谣言消息的过程中。
本发明实施例中的电子设备可以为具有操作***的电子设备。该操作***可以为安卓(Android)操作***,可以为ios操作***,还可以为其他可能的操作***,本发明实施例不作具体限定。
下面以安卓操作***为例,介绍一下本发明实施例提供的消息鉴别方法所应用的软件环境。
如图1所示,为本发明实施例提供的一种可能的安卓操作***的架构示意图。在图1中,安卓操作***的架构包括4层,分别为:应用程序层、应用程序框架层、***运行库层和内核层(具体可以为Linux内核层)。
其中,应用程序层包括安卓操作***中的各个应用程序(包括***应用程序和第三方应用程序)。
应用程序框架层是应用程序的框架,开发人员可以在遵守应用程序的框架的开发原则的情况下,基于应用程序框架层开发一些应用程序。
***运行库层包括库(也称为***库)和安卓操作***运行环境。库主要为安卓操作***提供其所需的各类资源。安卓操作***运行环境用于为安卓操作***提供软件环境。
内核层是安卓操作***的操作***层,属于安卓操作***软件层次的最底层。内核层基于Linux内核为安卓操作***提供核心***服务和与硬件相关的驱动程序。
以安卓操作***为例,本发明实施例中,开发人员可以基于上述如图1所示的安卓操作***的***架构,开发实现本发明实施例提供的消息鉴别方法的软件程序,从而使得该消息鉴别方法可以基于如图1所示的安卓操作***运行。即处理器或者电子设备可以通过在安卓操作***中运行该软件程序实现本发明实施例提供的消息鉴别方法。
本发明实施例中的电子设备可以为移动电子设备,也可以为非移动电子设备。示例性的,移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本或者个人数字助理(personal digital assistant,PDA)等,非移动电子设备可以为个人计算机(personal computer,PC)、电视机(television,TV)、柜员机或者自助机等,本发明实施例不作具体限定。
下面结合附图,通过具体的实施例及其应用场景对本发明实施例提供的一种消息鉴别方法、装置及电子设备进行详细地说明。
本发明实施例中,用户在使用电子设备中的某个应用程序的过程中,可以对该某个应用程序的界面中的多个消息(即电子设备通过该某个应用程序接收的消息)中的一个消息进行输入,以使得电子设备可以在该某个应用程序的界面中显示该一个消息的内容,从而用户可以查看该一个消息的内容。当用户需求验证该一个消息的真实性时,用户无需进行多次输入,以通过电子设备中的浏览器应用程序访问辟谣网站,以查询该一个消息是否为谣言消息,而是可以对该一个消息的内容进行输入,以使得电子设备可以根据该一个消息的内容和电子设备中的对象,确定一个数值,并根据该一个数值,确定该一个消息是否为谣言消息。
在一种场景下,电子设备可以根据向服务器发送该一个消息,并接收服务器发送的与该一个消息对应的真实消息集合和谣言消息集合,然后电子设备可以根据该一个消息的内容和该真实消息集合,确定一个相似度,并根据该一个消息的内容和该谣言消息集合,确定另一个相似度,从而电子设备可以在该一个相似度小于该另一个相似度的情况下,确定该一个消息为谣言消息,或者,在该一个相似度大于或等于该另一个相似度的情况下,确定该一个消息为真实消息。
在另一种场景下,电子设备可以从服务器获取服务器中的真实消息集合和谣言消息集合,以采用预设算法,基于该真实消息集合和该谣言消息集合进行训练,以得到分类神经网络模型,从而电子设备在接收到用户对该一个消息的内容进行输入时,可以根据该一个消息的内容和该分类神经网络模型,确定该一个消息的内容属于谣言消息的概率值,以在该一个概率值大于一个预设阈值的情况下,确定该一个消息为谣言消息,或者,在该一个概率值小于该一个预设阈值的情况下,确定该一个消息为真实消息。
在又一种场景下,电子设备可以从服务器获取谣言图神经网络(该谣言图神经网络为服务器根据服务器中的至少一个谣言消息、该至少一个谣言消息的发送方信息和该至少一个谣言消息的接收方信息训练得到的),从而电子设备在接收到用户对该一个消息的内容进行输入时,可以根据该一个消息的内容和该谣言图神经网络,确定该一个消息的内容与该至少一个谣言消息的又一个相似度,以在该又一个相似度大于或等于另一个预设阈值的情况下,确定该一个消息为谣言消息。
本发明实施例中,用户无需进行多次输入,以查询某个应用程序接收到的消息是否为谣言消息,而是可以通过一次输入,以通过电子设备验证某个消息是否为谣言消息,因此可以简化用户的操作且节省耗时,如此可以提升电子设备验证消息的真实性的效率。
本发明实施例提供的一种消息鉴别方法,图2示出了本发明实施例提供的一种消息鉴别方法的流程图,该方法可以应用于具有如图1所示的安卓操作***的电子设备。如图2所示,本发明实施例提供的消息鉴别方法可以包括下述的步骤201至步骤203。
步骤201、在目标应用程序的界面中显示目标内容的情况下,电子设备接收用户对目标内容的第一输入。
本发明实施例中,上述目标内容为通过目标应用程序接收的消息的内容。
本发明实施例中,在电子设备前台运行目标应用程序的情况下,用户可以对该目标应用程序的界面中的目标内容对应的消息(即电子设备通过目标应用程序接收的至少一个消息中的消息)进行输入,以使得电子设备可以在该目标应用程序的界面中显示目标内容,从而用户可以对该目标内容进行第一输入。
可选的,本发明实施例中,上述目标应用程序可以为社交类应用程序、资讯类应用程序、网页类应用程序或视频类应用程序等。
可选的,本发明实施例中,上述目标内容可以包括以下至少一项:文字内容、图片内容和视频内容。
本发明实施例中,上述第一输入用于触发电子设备确定目标内容对应的消息是否为谣言消息。
可选的,本发明实施例中,上述第一输入可以包括一个输入或者多个输入。
可选的,本发明实施例中,上述第一输入具体可以为用户对目标内容的长按输入。
可选的,本发明实施例中,上述第一输入可以包括第一子输入和第二子输入,该第一子输入用于触发电子设备选中目标内容,该第二子输入用于触发电子设备确定目标内容对应的消息是否为谣言消息。
可选的,本发明实施例中,用户可以对目标内容进行第一子输入(例如长按输入),以使得电子设备可以选中该目标内容,并在目标应用程序的界面中显示第一控件,从而用户可以对该第一控件进行第二子输入(例如点击输入),以使得电子设备可以确定目标内容对应的消息是否为谣言消息。
示例性的,以电子设备为手机为例进行说明。如图3中的(A)所示,手机显示目标应用程序的界面10,该界面10中显示目标内容(例如文本内容11),从而用户可以对该文本内容11进行第一子输入;如图3中的(B)所示,在用户对文本内容11进行第一子输入之后,手机可以选中该文本内容11,并在界面10中显示第一控件(例如“谣一谣”控件12),然后用户可以对该“谣一谣”控件12进行第二子输入,以使得手机可以确定文本内容11对应的消息是否为谣言消息。
步骤202、电子设备响应于第一输入,基于目标内容与目标对象确定目标数值。
本发明实施例中,上述目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合,该第一消息集合包括与目标内容对应的真实消息,该第二消息集合包括与目标内容对应的谣言消息;该目标网络模型用于确定消息是否为谣言消息。
本发明实施例中,上述真实消息为真实度大于或等于第一预设阈值的消息,上述谣言消息为真实度小于第一预设阈值的消息。
可选的,本发明实施例中,上述目标消息集合为服务器中的与目标内容对应的消息集合,电子设备响应于第一输入,可以从服务器中获取该目标消息集合,以基于目标内容与该目标消息集合确定目标数值。
需要说明的是,上述“与目标内容对应的真实消息”可以理解为:内容的特征信息与目标内容的特征信息相匹配(例如相同)的真实消息;上述“与目标内容对应的谣言消息”可以理解为:内容的特征信息与目标内容的特征信息相匹配(例如相同)的谣言消息。
可选的,本发明实施例中,上述内容的信息可以包括以下至少一项:该内容的主题标签、该内容的关键字、该内容的字符串和该内容的词向量等。
可选的,本发明实施例中,上述目标网络模型可以为分类网络模型或谣言图神经网络。
可选的,本发明实施例中,电子设备可以预先从服务器获取两个消息集合(例如下述实施例中的第三消息集合和第四消息集合),以基于电子设备中的概率预测模型,对该两个消息集合训练,得到分类网络模型,以基于目标内容与该分类网络模型确定目标数值。
可选的,本发明实施例中,服务器可以服务器中的图神经网络模型,对服务器中的至少一个谣言消息、该至少一个谣言消息的发送方信息和该至少一个谣言消息的接收方信息训练,以得到谣言图神经网络,从而电子设备可以预先从服务器获取该谣言图神经网络,以基于目标内容与该谣言图神经网络确定目标数值,或者,电子设备响应于第一输入,可以从服务器获取该谣言图神经网络,以基于目标内容与该谣言图神经网络确定目标数值。
可选的,本发明实施例中,在目标对象为目标消息集合的情况下,上述目标数值可以包括第一相似度和第二相似度,该第一相似度为目标内容与第一消息集合的相似度,该第二相似度为目标内容与第二消息集合的相似度。
可选的,本发明实施例中,在目标对象为目标网络模型,该目标网络模型为分类网络模型的情况下,上述目标数值可以为目标概率值,该目标概率值为目标内容属于谣言消息的概率。
可选的,本发明实施例中,在目标对象为目标网络模型,该目标网络模型为谣言图神经网络的情况下,上述目标数值可以为第一图编辑距离。
需要说明的是,针对“电子设备基于目标内容与目标对象确定目标数值”的具体说明,可以参考下述实施例中的相关描述,本发明实施例在此不予赘述。
步骤203、电子设备根据目标数值,确定目标内容对应的消息是否为谣言消息。
本发明实施例中,用户在需求验证目标应用程序的界面中显示目标内容的真实性(即目标内容对应的消息是否为谣言消息)时,可以直接对该目标内容进行第一输入,以使得电子设备可以基于该目标内容和目标对象,确定目标数值,以根据该目标数值,确定该目标内容对应的消息是否为谣言消息。
本发明实施例提供一种消息鉴别方法,在目标应用程序的界面中显示目标内容的情况下,电子设备可以根据用户对该目标内容的第一输入,基于该目标内容与目标对象确定目标数值,并根据该目标数值,确定该目标内容对应的消息是否为谣言消息。由于用户可以直接对目标应用程序的界面中的目标内容进行第一输入,以使得电子设备可以确定该目标内容对应的消息是否为谣言消息,即用户可以通过一次输入,以通过电子设备验证该目标内容对应的消息是否为谣言消息,而无需用户进行多次输入,因此可以简化用户的操作且节省耗时,如此可以提升电子设备验证消息的真实性的效率。
可以理解,在电子设备显示目标应用程序的界面时,电子设备并不监测该界面中显示的内容,而是在接收到用户对该界面中的某个内容进行输入的情况下,电子设备可以确定该某个内容是否为谣言消息,因此可以避免泄露用户的隐私,且减少电子设备的***能耗。
可选的,在本发明实施例的一种可能的实现方式中,上述目标对象为目标消息集合,上述目标数值包括第一相似度和第二相似度,该第一相似度为目标内容与第一消息集合的相似度,该第二相似度为目标内容与第二消息集合的相似度。具体的,结合图2,如图4所示,上述步骤202具体可以通过下述的步骤202a至步骤202c实现;并且在上述步骤203之前,本发明实施例提供的消息鉴别方法还可以包括下述的步骤301;以及上述步骤203具体可以通过下述的步骤203a或步骤203b实现。
步骤202a、电子设备响应于第一输入,向服务器发送目标内容。
步骤202b、电子设备接收服务器发送的目标消息集合。
本发明实施例中,上述目标消息集合为服务器从服务器中的两个消息集合中确定的与目标内容对应的消息集合,该两个消息集合中的一个消息集合包括至少一个真实消息,该两个消息集合中的另一个消息集合包括至少一个谣言消息。
可选的,本发明实施例中,服务器可以从目标位置(例如官方辟谣网站、资讯类应用程序中的辟谣平台等)获取该目标位置中包括的所有真实消息和所有辟谣消息,并以集合的形式分别存储该真实消息和该所有辟谣消息,以在服务器中存储两个消息集合。
可选的,本发明实施例中,上述两个消息集合中的一个消息集合可以包括服务器中存储的所有真实消息,该两个消息集合中的另一个消息集合可以包括服务器中存储的所有谣言消息。
可选的,本发明实施例中,服务器在接收到电子设备发送的目标内容之后,可以对该目标内容进行检测,以获取该目标内容的信息,然后服务器可以根据该目标内容的信息,从一个消息集合中确定第一消息集合,并从另一个消息集合中确定第二消息集合,以确定目标消息集合,从而服务器可以向电子设备发送该目标消息集合。
可选的,本发明实施例中,针对一个消息集合包括的至少一个真实消息中的每个真实消息,服务器可以采用第三预设算法,基于目标内容的信息和一个真实消息的信息计算得到一个第五相似度,并在该一个第五相似度大于或等于第六预设阈值的情况下,将该一个真实消息确定为与目标内容对应的真实消息,以将至少一个真实消息确定为与目标内容对应的真实消息,从而服务器可以以集合的形式存储该至少一个真实消息,以得到第一消息集合。
可以理解,第一消息集合中包括与目标内容对应的至少一个真实消息。
可选的,本发明实施例中,上述第三预设算法具体可以为图编辑距离算法。
需要说明的是,针对图编辑距离算法的具体说明,可以参考现有技术中的相关描述,本发明实施例在此不予赘述。
可选的,本发明实施例中,针对一个消息集合包括的至少一个谣言消息中的每个谣言消息,服务器可以采用第三预设算法,基于目标内容的信息和一个谣言消息的信息计算得到一个第六相似度,并在该一个第六相似度大于或等于第七预设阈值的情况下,将该一个谣言消息确定为与目标内容对应的谣言消息,以将至少一个谣言消息确定为与目标内容对应的谣言消息,从而服务器可以以集合的形式存储该至少一个谣言消息,以得到第二消息集合。
可以理解,第二消息集合中包括与目标内容对应的至少一个谣言消息。
步骤202c、电子设备根据目标内容和第一消息集合,确定第一相似度,并根据目标内容和第二消息集合,确定第二相似度。
可选的,本发明实施例中,电子设备可以采用第四预设算法,基于目标内容和第一消息集合,确定第一相似度,并基于目标内容和第二消息集合,确定第二相似度。
可选的,本发明实施例中,针对第一消息集合中的至少一个真实消息中的每个真实消息,电子设备可以采用第四预设算法,根据目标内容的信息和一个真实消息的信息计算得到一个第七相似度,以得到至少一个第七相似度,从而电子设备可以采用均值算法,根据该至少一个第七相似度计算得到第一相似度;针对第二消息集合中的至少一个谣言消息中的每个谣言消息,电子设备可以采用第四预设算法,根据目标内容的信息和一个谣言消息的信息计算得到一个第八相似度,以得到至少一个第八相似度,从而电子设备可以采用均值算法,根据该至少一个第八相似度计算得到第二相似度。
可选的,本发明实施例中,电子设备可以检测第一消息集合中的至少一个真实消息中的每个真实消息,以得到至少一个真实消息的信息,然后电子设备可以采用第五预设算法,根据该至少一个真实消息的信息计算得到第一目标信息,从而电子设备可以采用第四预设算法,根据目标内容的信息和该第一目标信息计算得到第一相似度;电子设备可以检测第二消息集合中的至少一个谣言消息中的每个谣言消息,以得到至少一个谣言消息的信息,然后电子设备可以采用第五预设算法,根据该至少一个谣言消息的信息计算得到第二目标信息,从而电子设备可以采用第四预设算法,根据目标内容的信息和该第二目标信息计算得到第二相似度。
可选的,本发明实施例中,上述第四预设算法可以为以下任一项:图编辑距离算法、隐狄利克雷分配模型(latent dirichlet allocation,LDA)算法、欧几里德距离算法、余弦距离算法、特征匹配算法和文字识别算法。
可选的,本发明实施例中,在目标内容为文字内容的情况下,上述第四预设算法可以为以下任一项:图编辑距离算法、隐狄利克雷分配模型(latent dirichlet allocation,LDA)算法、欧几里德距离算法和余弦距离算法;在目标内容为图片内容的情况下,上述第四预设算法可以为以下任一项:特征匹配算法和文字识别算法。
可选的,本发明实施例中,上述第五预设算法具体可以为局部敏感哈希(simhash)算法。
需要说明的是,针对simhash算法的具体说明,可以参考现有技术中的相关描述,本发明实施例在此不予赘述。
步骤301、电子设备判断第一相似度是否小于第二相似度。
步骤203a、在第一相似度小于第二相似度的情况下,电子设备确定目标内容对应的消息为谣言消息。
本发明实施例中,若第一相似度小于第二相似度,则可以认为目标内容对应的消息属于谣言消息的概率大于该消息属于真实消息的概率,因此电子设备可以确定目标内容对应的消息为谣言消息。
步骤203b、在第一相似度大于或等于第二相似度的情况下,电子设备确定目标内容对应的消息为真实消息。
可选的,本发明实施例中,在目标内容为图片内容的情况下,若第一相似度大于或等于第二相似度,则电子设备可以采用文字识别算法,根据目标内容计算得到目标文本内容,从而电子设备可以再次执行步骤202c和步骤203a(或步骤203b),以确定目标内容对应的消息为谣言消息。
本发明实施例中,若第一相似度大于或等于第二相似度,则可以认为目标内容对应的消息属于真实消息的概率大于或等于该消息属于谣言消息的概率,因此电子设备可以确定目标内容对应的消息为真实消息。
本发明实施例中,电子设备可以根据目标内容与第一消息集合的相似度,和该目标内容与第二消息集合的相似度,确定该目标内容对应的消息是否谣言消息,即电子设备可以通过目标内容与多个不同消息集合的多个不同的相似度,确定该目标内容对应的消息是否谣言消息,因此可以提升电子设备确定谣言消息的准确性。
可选的,本发明实施例中,在上述步骤203b中的“电子设备确定目标内容对应的消息为真实消息”之前,本发明实施例提供的消息鉴别方法还可以包括下述的步骤401和步骤402,并且上述步骤203b具体可以通过下述的步骤203c实现。
步骤401、在第一相似度大于或等于第二相似度的情况下,电子设备根据目标内容,从辟谣类网站获取目标真实消息。
本发明实施例中,上述目标真实消息为与目标内容对应的真实消息。
可选的,本发明实施例中,上述辟谣类网站具体可以为权威辟谣网站(例如互联网联合辟谣平台)。
步骤402、电子设备根据目标内容和目标真实消息的内容,确定目标差异度。
本发明实施例中,上述目标差异度为目标内容和目标真实消息的内容的差异度。
可选的,本发明实施例中,电子设备可以采用第六预设算法,根据目标内容和目标真实消息的内容计算得到目标差异度。
可选的,本发明实施例中,上述第六预设算法可以为以下任一项:欧几里德距离算法和余弦距离算法。
步骤203c、在目标差异度小于或等于第二预设阈值的情况下,电子设备确定目标内容对应的消息为真实消息。
本发明实施例中,若目标差异度小于或等于第二预设阈值,则可以认为目标内容的目标内容和目标真实消息的内容的差异度较大(例如目标内容的语义与目标真实消息的内容的语义偏差相背离),从而电子设备可以确定目标内容对应的消息为真实消息。
本发明实施例中,在第一相似度大于或等于第二相似度的情况下,电子设备并不直接确定目标内容对应的消息为真实消息,而是根据目标内容,从辟谣类网站获取目标真实消息,以再次对该目标内容对应的消息进行确定。
本发明实施例中,在第一相似度大于或等于第二相似度的情况下,电子设备可以根据目标内容,从辟谣类网站获取目标真实消息,以根据该目标内容和该目标真实消息,再次确定该目标内容对应的消息是否为谣言消息,因此可以提升电子设备确定谣言消息的准确性。
可选的,在本发明实施例的另一种可能的实现方式中,上述目标对象为目标网络模型,该目标网络模型为分类网络模型。具体的,结合图2,如图5所示,在上述步骤201之前,本发明实施例提供的消息鉴别方法还可以包括下述的步骤501至步骤503。
步骤501、电子设备从服务器中获取第三消息集合和第四消息集合。
本发明实施例中,上述第三消息集合包括至少一个真实消息,上述第四消息集合包括至少一个谣言消息。
可选的,本发明实施例中,服务器可以采用快速响应码(quickresponse code,QR码)编码算法,根据服务器中的两个消息集合中的一个消息集合计算得到第三消息集合,并根据该两个消息集合中的另一个消息集合计算得到第四消息集合。
可选的,本发明实施例中,针对第三消息集合包括的至少一个真实消息中的每个真实消息,服务器可以采用QR码编码算法,根据一个真实消息计算得到一个第一QR码字符,以得到至少一个第一QR码字符,以得到第三消息集合;针对第四消息集合包括的至少一个谣言消息中的每个谣言消息,服务器可以采用QR码编码算法,根据一个谣言消息计算得到一个第二QR码字符,以得到至少一个第二QR码字符,以得到第四消息集合。
可以理解,第三消息集合具体可以为一个二维码空间,该一个二维码空间中包括至少一个真实消息;第四消息集合具体可以为另一个二维码空间,该另一个二维码空间中包括至少一个谣言消息。
本发明实施例中,服务器可以采用QR码编码算法,根据服务器中的两个消息集合分别计算得到第三消息集合和第四消息集合,以减少第三消息集合所占的存储空间大小(即相对于该两个消息集合中包括至少一个真实消息的一个消息集合所占的存储空间大小)和第四消息集合所占的存储空间大小(即相对于该两个消息集合中包括至少一个谣言消息的另一个消息集合所占的存储空间大小)。
步骤502、电子设备采用第一预设算法,基于第三消息集合计算得到目标真实矩阵,并基于第四消息集合计算得到目标谣言矩阵。
本发明实施例中,上述目标真实矩阵包括至少一个真实消息对应的至少一个第一向量数据,针对该至少一个真实消息中的每个真实消息,一个真实消息对应一个第一向量数据,该一个第一向量数据用于指示该一个真实消息的特征信息;上述目标谣言矩阵包括至少一个谣言消息对应的至少一个第二向量数据,针对该至少一个谣言消息中的每个谣言消息,一个谣言消息对应一个第二向量数据,该一个第二向量数据用于指示一个谣言消息的特征信息。
可选的,本发明实施例中,针对第三消息集合包括的至少一个真实消息中的每个真实消息,电子设备可以采用第一预设算法,根据一个真实消息的特征信息计算得到一个第一向量数据,以计算得到至少一个第一向量数据,以得到目标真实矩阵。
可选的,本发明实施例中,针对第四消息集合包括的至少一个谣言消息中的每个谣言消息,电子设备可以采用第一预设算法,根据一个谣言消息的特征信息计算得到一个第二向量数据,以计算得到至少一个第二向量数据,以得到目标谣言矩阵。
可选的,本发明实施例中,上述第一预设算法具体可以为词向量(word2vec)算法。
需要说明的是,针对word2vec算法的具体说明,可以参考现有技术中的相关描述,本发明实施例在此不予赘述。
步骤503、电子设备对目标真实矩阵和目标谣言矩阵训练,得到分类网络模型。
可选的,本发明实施例中,电子设备可以采用第七预设算法,对目标真实矩阵和目标谣言矩阵训练,得到分类网络模型。
可选的,本发明实施例中,上述第七预设算法具体可以为贝叶斯算法、最小绝对收缩和选择(least absolute shrinkage and selection operator,LASSO)算法或二分类算法等。
本发明实施例中,电子设备可以根据从服务器获取的第三消息集合和第四消息集合,快速地得到分类网络模型,因此可以提升电子设备确定目标内容是否为谣言内容的效率。
可选的,本发明实施例中,结合图5,如图6所示,上述步骤202具体可以通过下述的步骤202d和步骤202e实现;并且在上述步骤203之前,本发明实施例提供的消息鉴别方法还可以包括下述的步骤601;以及上述步骤203具体可以通过下述的步骤203d实现,或者,通过下述的步骤203e实现,或者,通过下述的步骤203f至步骤203h实现。
步骤202d、电子设备响应于第一输入,采用第一预设算法,基于目标内容计算得到目标向量数据。
本发明实施例中,上述目标向量数据用于指示目标内容的特征信息。
需要说明的是,针对第一预设算法的具体说明,可以参考上述实施例中的描述,本发明实施例在此不再赘述。
步骤202e、电子设备基于目标向量数据和分类网络模型,计算得到目标概率值。
本发明实施例中,电子设备可以将目标向量数据作为输入数据输入分类网络模型中,以使得该分类网络模型可以对该目标向量数据进行计算,以得到输出数据(即目标概率值)。
步骤601、电子设备判断目标概率值是否大于第三预设阈值。
步骤203d、在目标概率值大于第三预设阈值的情况下,电子设备确定目标内容对应的消息为谣言消息。
可选的,本发明实施例中,在电子设备确定目标内容对应的消息为谣言消息之后,电子设备可以将该目标内容对应的消息存储至第四消息集合中,以得到第五消息集合,从而电子设备可以根据第三消息集合和第五消息集合,再次执行步骤401至步骤403,以对分类网络模型进行更新。
本发明实施例中,若目标概率值大于第三预设阈值,则可以认为目标内容对应的消息属于谣言消息的概率较大,因此电子设备可以确定该目标内容对应的消息为谣言消息。
步骤203e、在目标概率值小于第三预设阈值的情况下,电子设备确定目标内容对应的消息为真实消息。
可选的,本发明实施例中,在电子设备确定目标内容对应的消息为真实消息之后,电子设备可以将该目标内容对应的消息存储至第三消息集合中,以得到第六消息集合,从而电子设备可以根据第六消息集合和第四消息集合,再次执行步骤401至步骤403,以对分类网络模型进行更新。
本发明实施例中,若目标概率值小于第三预设阈值,则可以认为目标内容对应的消息属于真实消息的概率较大,因此电子设备可以确定该目标内容对应的消息为真实消息。
本发明实施例中,电子设备可以根据目标内容与分类网络模型,确定该目标内容对应的消息属于谣言消息的概率,以根据该概率,确定该目标内容对应的消息是否谣言消息,因此可以提升电子设备确定谣言消息的准确性。
步骤203f、在目标概率值等于第三预设阈值的情况下,电子设备根据目标内容和第三消息集合,确定第三相似度,并根据目标内容和第四消息集合,确定第四相似度。
本发明实施例中,上述第三消息集合和第四消息集合均为电子设备从服务器中获取的消息集合,该第三消息集合包括至少一个真实消息,该第四消息集合包括至少一个谣言消息,上述第三相似度为目标内容与第三消息集合的相似度,上述第四相似度为目标内容与第四消息集合的相似度。
可选的,本发明实施例中,电子设备可以采用第四预设算法,根据目标内容和第三消息集合,确定第三相似度,并根据目标内容和第四消息集合,确定第四相似度。
需要说明的是,针对“电子设备采用第四预设算法,根据目标内容和第三消息集合,确定第三相似度,并根据目标内容和第四消息集合,确定第四相似度”的具体说明,可以参考“电子设备采用第四预设算法,基于目标内容和第一消息集合,确定第一相似度,并基于目标内容和第二消息集合,确定第二相似度”的描述,本发明实施例在此不再赘述。
步骤203g、在第四相似度大于或等于第三相似度的情况下,电子设备确定目标内容对应的消息为谣言消息。
步骤203h、在第四相似度小于第三相似度的情况下,电子设备确定目标内容对应的消息为真实消息。
本发明实施例中,在目标概率值等于第三预设阈值的情况下,电子设备可以根据目标内容与第三消息集合的相似度,和该目标内容与第四消息集合的相似度,确定该目标内容对应的消息是否谣言消息,即电子设备可以再次通过目标内容与多个不同消息集合的多个不同的相似度,确定该目标内容对应的消息是否谣言消息,因此可以提升电子设备确定谣言消息的准确性。
可选的,在本发明实施例的又一种可能的实现方式中,上述目标对象为目标网络模型,该目标网络模型为从服务器中获取的谣言图神经网络,该谣言图神经网络为服务器根据服务器中的至少一个谣言消息、该至少一个谣言消息的发送方信息和该至少一个谣言消息的接收方信息训练得到的,上述目标数值为第一图编辑距离。具体的,结合图2,如图7所示,上述步骤202具体可以通过下述的步骤202f至202h实现;并且在上述步骤203之前,本发明实施例提供的消息鉴别方法还可以包括下述的步骤701;以及上述步骤203具体可以通过下述的步骤203i实现,或者,通过下述的步骤203j、步骤203k和步骤203l实现,或者,通过下述的步骤203j、步骤203k和步骤203m实现。
步骤202f、电子设备响应于第一输入,获取目标内容的发送方信息和目标内容的接收方信息。
可选的,本发明实施例中,在电子设备接收到目标内容对应的消息时,电子设备可以根据该目标内容对应的消息,从服务器获取该目标内容的发送方信息和该和目标内容的接收方信息,从而电子设备响应于第一输入,可以从电子设备中获取目标内容的发送方信息和目标内容的接收方信息。
可选的,本发明实施例中,上述目标内容的发送方信息具体可以为该目标内容的历史发送方信息,该历史发送方信息可以包括以下至少一项:发送方的统一资源定位符(uniform resource locator,URL)、该发送方的用户信息(例如用户名称、用户账号等)和该发送方的设备信息(例如设备名称、设备所属厂商等);上述目标内容的接收方信息具体可以为该目标内容的历史接收方信息,该历史接收方信息可以包括以下至少一项:接收方的统一资源定位符(uniform resource locator,URL)、该接收方的用户信息(例如用户名称、用户账号等)和该接收方的设备信息(例如设备名称、设备所属厂商等)。
步骤202g、电子设备采用第二预设算法,基于目标内容、该目标内容的发送方信息和该目标内容的接收方信息,计算得到第一子图网络。
可选的,本发明实施例中,电子设备可以采用第二预设算法,根据目标内容的特征信息计算得到一个第三向量数据,并根据目标内容的发送方信息计算得到一个第四向量数据,以及根据目标内容的接收方信息计算得到一个第五向量数据,从而电子设备可以根据该一个第三向量数据、该一个第四向量数据和该一个第五向量数据,生成第一子图网络。
可以理解,一个第三向量数据、一个第四向量数据和一个第五向量数据分别为第一子图网络中的一个节点。
可选的,本发明实施例中,上述第二预设算法与第一预设算法可以相同。
步骤202h、电子设备根据第一子图网络和谣言图神经网络,确定第一图编辑距离。
本发明实施例中,上述第一图编辑距离用于指示第一子图网络与谣言图神经网络的相似度。
可选的,本发明实施例中,在电子设备计算得到第一子图网络之后,电子设备可以从服务器获取谣言图神经网络,以根据该第一子图网络和谣言图神经网络,确定第一图编辑距离。
可选的,本发明实施例中,针对服务器中的至少一个谣言消息中的每个谣言消息,服务器可以采用采用第二预设算法,根据一个谣言消息的特征信息计算得到一个第六向量数据,并根据该一个谣言消息的发送方信息计算得到一个第七向量数据,以及根据该一个谣言消息的接收方信息计算得到一个第八向量数据,以得到至少一个第六向量数据、至少一个第七向量数据和至少一个第八向量数据,从而服务器可以采用图神经网络生成算法,根据该至少一个第六向量数据、该至少一个第七向量数据和该至少一个第八向量数据,生成谣言图神经网络。
可选的,本发明实施例中,电子设备可以采用图编辑距离算法,根据第一子图网络和谣言图神经网络计算得到第一图编辑距离。
需要说明的是,针对图编辑距离算法的具体说明,可以参考现有技术中的相关描述,本发明实施例在此不予赘述。
步骤701、电子设备判断第一图编辑距离是否大于或等于第四预设阈值。
步骤203i、在第一图编辑距离大于或等于第四预设阈值的情况下,电子设备确定目标内容对应的消息为谣言消息。
可选的,本发明实施例中,在电子设备确定目标内容对应的消息为谣言消息之后,电子设备可以向该目标内容对应的消息发送至服务器,以使得服务器可以根据该目标内容对应的消息,更新该谣言图神经网络。
本发明实施例中,若第一图编辑距离大于或等于第四预设阈值,则可以认为目标内容对应的消息与谣言图神经网络中的至少一个谣言消息的相似度较大,从而电子设备可以确定目标内容对应的消息为谣言消息。
本发明实施例中,电子设备可以根据目标内容、该目标内容的发送方信息和该目标内容的接收方信息,生成第一子图网络,以根据该第一子图网络和谣言图神经网络,确定该目标内容对应的消息是否谣言消息,即电子设备可以根据目标内容的多个信息,确定该目标内容对应的消息是否谣言消息,因此可以提升电子设备确定谣言消息的准确性。
步骤203j、在第一图编辑距离小于第四预设阈值的情况下,电子设备采用第二预设算法,基于第一子图网络和从服务器中获取的真实图神经网络,计算得到第二图编辑距离。
本发明实施例中,上述真实图神经网络为服务器根据服务器中的至少一个真实消息、该至少一个真实消息的发送方信息和该至少一个真实消息的接收方信息训练得到的,上述第二图编辑距离用于指示第一子图网络与真实图神经网络的相似度。
步骤203k、电子设备判断第二图编辑距离是否小于第五预设阈值。
步骤203l、在第二图编辑距离小于第五预设阈值的情况下,电子设备确定目标内容对应的消息为谣言消息。
本发明实施例中,若第二图编辑距离小于第五预设阈值,则可以认为目标内容对应的消息与真实图神经网络中的至少一个真实消息的相似度较小,从而电子设备可以确定目标内容对应的消息为谣言消息。
步骤203m、在第二图编辑距离大于或等于第五预设阈值的情况下,电子设备确定目标内容对应的消息为真实消息。
可选的,本发明实施例中,在电子设备确定目标内容对应的消息为真实消息之后,电子设备可以向该目标内容对应的消息发送至服务器,以使得服务器可以根据该目标内容对应的消息,更新该真实图神经网络。
本发明实施例中,若第二图编辑距离大于或等于第五预设阈值,则可以认为目标内容对应的消息与真实图神经网络中的至少一个真实消息的相似度较大,从而电子设备可以确定目标内容对应的消息为真实消息。
本发明实施例中,在第一图编辑距离小于第四预设阈值的情况下,电子设备可以基于第一子图网和真实图神经网络,再次确定目标内容对应的消息是否为谣言消息,即电子设备可以对该目标内容对应的消息进行多次确定,以确定该目标内容对应的消息是否为谣言消息,因此可以提升电子设备确定谣言消息的准确性。
可选的,本发明实施例中,在上述步骤203之后,本发明实施例提供的消息鉴别方法还可以包括下述的步骤801和步骤802。
步骤801、电子设备根据目标数值,确定谣言指数。
本发明实施例中,上述谣言指数用于指示目标内容对应的消息为谣言消息的概率。
可选的,本发明实施例中,在目标数值包括第一相似度和第二相似度的情况下,电子设备可以采用第八预设算法,根据第二相似度计算得到谣言指数;在目标数值为目标概率值的情况下,电子设备可以采用第八预设算法,根据目标概率值计算得到谣言指数;在目标数值为第一图编辑距离的情况下,可以采用第八预设算法,根据第一图编辑距离(或第二图编辑距离)计算得到谣言指数。
步骤802、电子设备基于谣言指数,显示提示信息。
本发明实施例中,上述提示信息用于向用户提示目标内容对应的消息是否为谣言消息,该提示信息包括以下至少一项:谣言指数、该谣言指数对应的标识和该谣言指数对应的文字信息。
可选的,本发明实施例中,电子设备可以在目标应用程序的界面上悬浮显示提示信息,以向用户提示对应的消息是否为谣言消息。
可选的,本发明实施例中,电子设备可以将目标应用程序的界面更新为第一界面,该第一界面中包括提示信息。
可选的,本发明实施例中,电子设备可以采用第一标记方式显示提示信息。其中,第一标记方式为以下任一项:虚线框标记方式、高亮标记方式、彩色标记方式、灰度标记方式、以预设透明度标记方式以及闪烁标记方式等。
示例性的,结合图3,如图8所示,在手机可以确定文本内容11对应的消息为谣言消息之后,手机可以显示提示信息13,该提示信息13包括谣言指数(例如“谣言指数:10颗星”和文字信息14),以向用户提示目标内容对应的消息为谣言消息。
又示例性的,结合图3,如图9所示,在手机可以确定文本内容11对应的消息为谣言消息之后,手机可以将界面10更新为第一界面15,该第一界面15中显示有提示信息,该提示信息包括谣言指数对应的标识(例如二维码16)和文字信息17,以向用户提示目标内容对应的消息为谣言消息。
本发明实施例中,电子设备可以根据目标数值,确定谣言指数,并基于该谣言指数,向用户提示目标内容对应的消息是否为谣言消息,以使得用户可以快速地验证该目标内容对应的消息是否为谣言消息,如此可以提升用户的使用体验。
图10示出了本发明实施例中涉及的消息鉴别装置的一种可能的结构示意图。如图10所示,消息鉴别装置60可以包括:接收模块61和确定模块62。
其中,接收模块61,用于在目标应用程序的界面中显示目标内容的情况下,接收用户对目标内容的第一输入,该目标内容为通过目标应用程序接收的消息的内容。确定模块62,用于响应于接收模块61接收的第一输入,基于目标内容与目标对象确定目标数值;其中,该目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合,该第一消息集合包括与目标内容对应的真实消息,该第二消息集合包括与目标内容对应的谣言消息;该目标网络模型用于确定消息是否为谣言消息;并根据目标数值,确定目标内容对应的消息是否为谣言消息。其中,真实消息为真实度大于或等于第一预设阈值的消息,谣言消息为真实度小于第一预设阈值的消息。
在一种可能的实现方式中,上述目标对象为目标消息集合,上述目标数值包括第一相似度和第二相似度,该第一相似度为目标内容与第一消息集合的相似度,该第二相似度为目标内容与第二消息集合的相似度。上述确定模块62,具体用于向服务器发送目标内容;并接收服务器发送的目标消息集合,该目标消息集合为服务器从服务器中的两个消息集合中确定的与目标内容对应的消息集合,该两个消息集合中的一个消息集合包括至少一个真实消息,该两个消息集合中的另一个消息集合包括至少一个谣言消息;以及,根据目标内容和第一消息集合,确定第一相似度,并根据目标内容和第二消息集合,确定第二相似度;在第一相似度小于第二相似度的情况下,确定目标内容对应的消息为谣言消息;在第一相似度大于或等于第二相似度的情况下,确定目标内容对应的消息为真实消息。
在一种可能的实现方式中,结合图10,如图11所示,本发明实施例提供的消息鉴别装置60还可以包括:获取模块63。其中,获取模块63,用于在确定模块62确定目标内容对应的消息为真实消息之前,根据目标内容,从辟谣类网站获取目标真实消息,该目标真实消息为与目标内容对应的真实消息。上述确定模块62,还用于根据目标内容和目标真实消息的内容,确定目标差异度。上述确定模块62,具体用于在目标差异度小于或等于第二预设阈值的情况下,确定目标内容对应的消息为真实消息。
在一种可能的实现方式中,上述目标对象为目标网络模型,该目标网络模型为分类网络模型,结合图10,如图12所示,本发明实施例提供的消息鉴别装置60还可以包括:获取模块63、计算模块64和训练模块65。其中,获取模块63,用于在目标应用程序的界面中显示目标内容的情况下,接收模块61接收用户对目标内容的第一输入之前,从服务器中获取第三消息集合和第四消息集合,该第三消息集合包括至少一个真实消息,该第四消息集合包括至少一个谣言消息。计算模块64,用于采用第一预设算法,基于获取模块63获取的第三消息集合计算得到目标真实矩阵,并基于获取模块63获取的第四消息集合计算得到目标谣言矩阵;其中,该目标真实矩阵包括至少一个真实消息对应的至少一个第一向量数据,一个真实消息对应一个第一向量数据,该一个第一向量数据用于指示一个真实消息的特征信息,该目标谣言矩阵包括至少一个谣言消息对应的至少一个第二向量数据,一个谣言消息对应一个第二向量数据,该一个第二向量数据用于指示一个谣言消息的特征信息。训练模块65,用于对计算模块64计算得到的目标真实矩阵和计算模块64计算得到的目标谣言矩阵训练,得到分类网络模型。
在一种可能的实现方式中,上述目标数值为目标概率值,该目标概率值为目标内容对应的消息属于谣言消息的概率。上述确定模块62,具体用于采用第一预设算法,基于目标内容计算得到目标向量数据,该目标向量数据用于指示目标内容的特征信息;并基于目标向量数据和分类网络模型,计算得到目标概率值;在目标概率值大于第三预设阈值的情况下,确定目标内容对应的消息为谣言消息;在目标概率值小于第三预设阈值的情况下,确定目标内容对应的消息为真实消息。
在一种可能的实现方式中,上述确定模块62,还用于在目标概率值等于第三预设阈值的情况下,根据目标内容和第三消息集合,确定第三相似度,并根据目标内容和第四消息集合,确定第四相似度,该第三消息集合和第四消息集合均为消息鉴别装置从服务器中获取的消息集合,该第三消息集合包括至少一个真实消息,该第四消息集合包括至少一个谣言消息,该第三相似度为目标内容与第三消息集合的相似度,该第四相似度为目标内容与第四消息集合的相似度;在第四相似度大于或等于第三相似度的情况下,确定目标内容对应的消息为谣言消息;在第四相似度小于第三相似度的情况下,确定目标内容对应的消息为真实消息。
在一种可能的实现方式中,上述目标对象为目标网络模型,上述目标网络模型为从服务器中获取的谣言图神经网络,该谣言图神经网络为服务器根据服务器中的至少一个谣言消息、该至少一个谣言消息的发送方信息和该至少一个谣言消息的接收方信息训练得到的,该目标数值为第一图编辑距离。上述确定模块62,具体用于获取目标内容的发送方信息和目标内容的接收方信息;并采用第二预设算法,基于目标内容、该目标内容的发送方信息和该目标内容的接收方信息,计算得到第一子图网络;并根据第一子图网络和谣言图神经网络,确定第一图编辑距离,该第一图编辑距离用于指示第一子图网络与谣言图神经网络的相似度;在第一图编辑距离大于或等于第四预设阈值的情况下,确定目标内容对应的消息为谣言消息。
在一种可能的实现方式中,结合图10,如图13所示,本发明实施例提供的消息鉴别装置60还可以包括:计算模块64。其中,计算模块64,用于在第一图编辑距离小于第四预设阈值的情况下,采用第二预设算法,基于第一子图网络和从服务器中获取的真实图神经网络,计算得到第二图编辑距离,该真实图神经网络为服务器根据服务器中的至少一个真实消息、该至少一个真实消息的发送方信息和该至少一个真实消息的接收方信息训练得到的,该第二图编辑距离用于指示第一子图网络与真实图神经网络的相似度。上述确定模块62,还用于在第二图编辑距离小于第五预设阈值的情况下,确定目标内容对应的消息为谣言消息;在第二图编辑距离大于或等于第五预设阈值的情况下,确定目标内容对应的消息为真实消息。
在一种可能的实现方式中,上述确定模块62,还用于在确定目标内容对应的消息是否为谣言消息之后,根据目标数值,确定谣言指数,该谣言指数用于指示目标内容对应的消息为谣言消息的概率。结合图10,如图14所示,本发明实施例提供的消息鉴别装置60还可以包括:显示模块66。其中,显示模块66,用于基于确定模块62确定的谣言指数,显示提示信息,该提示信息用于向用户提示该目标内容对应的消息是否为谣言消息,该提示信息包括以下至少一项:谣言指数、该谣言指数对应的标识和该谣言指数对应的文字信息。
本发明实施例提供的消息鉴别装置能够实现上述方法实施例中消息鉴别装置实现的各个过程,为避免重复,详细描述这里不再赘述。
本发明实施例提供一种消息鉴别装置,由于用户可以直接对目标应用程序的界面中的目标内容进行第一输入,以使得消息鉴别装置可以确定该目标内容对应的消息是否为谣言消息,即用户可以通过一次输入,以通过消息鉴别装置验证该目标内容对应的消息是否为谣言消息,而无需用户进行多次输入,因此可以简化用户的操作且节省耗时,如此可以提升消息鉴别装置验证消息的真实性的效率。
图15为实现本发明各个实施例的一种电子设备的硬件示意图。如图15所示,电子设备100包括但不限于:射频单元101、网络模块102、音频输出单元103、输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。
需要说明的是,本领域技术人员可以理解,图15中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图15所示更多或更少的部件,或者组合某些部件,或者不同的部件布置。在本发明实施例中,电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
其中,处理器110,用于控制用户输入单元107在目标应用程序的界面中显示目标内容的情况下,接收用户对目标内容的第一输入,该目标内容为通过目标应用程序接收的消息的内容;并响应于第一输入,基于目标内容与目标对象确定目标数值;其中,该目标对象为目标消息集合或目标网络模型;该目标消息集合包括第一消息集合和第二消息集合,该第一消息集合包括与目标内容对应的真实消息,该第二消息集合包括与目标内容对应的谣言消息;该目标网络模型用于确定消息是否为谣言消息;以及,根据目标数值,确定目标内容对应的消息是否为谣言消息;其中,该真实消息为真实度大于或等于第一预设阈值的消息,该谣言消息为真实度小于第一预设阈值的消息。
本发明实施例提供一种电子设备,由于用户可以直接对目标应用程序的界面中的目标内容进行第一输入,以使得电子设备可以确定该目标内容对应的消息是否为谣言消息,即用户可以通过一次输入,以通过电子设备验证该目标内容对应的消息是否为谣言消息,而无需用户进行多次输入,因此可以简化用户的操作且节省耗时,如此可以提升电子设备验证消息的真实性的效率。
应理解的是,本发明实施例中,射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将来自基站的下行数据接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信***与网络和其他设备通信。
电子设备通过网络模块102为用户提供了无线的宽带互联网访问,如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元103可以将射频单元101或网络模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与电子设备100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103包括扬声器、蜂鸣器以及受话器等。
输入单元104用于接收音频或视频信号。输入单元104可以包括图形处理器(graphics processing unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或网络模块102进行发送。麦克风1042可以接收声音,并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。
电子设备100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在电子设备100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;传感器105还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(liquidcrystal display,LCD)、有机发光二极管(organic light-emitting diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
进一步的,触控面板1071可覆盖在显示面板1061上,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图15中,触控面板1071与显示面板1061是作为两个独立的部件来实现电子设备的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现电子设备的输入和输出功能,具体此处不做限定。
接口单元108为外部装置与电子设备100连接的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到电子设备100内的一个或多个元件或者可以用于在电子设备100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。处理器110可包括一个或多个处理单元;可选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作***、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
电子设备100还可以包括给各个部件供电的电源111(比如电池),可选的,电源111可以通过电源管理***与处理器110逻辑相连,从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。
另外,电子设备100包括一些未示出的功能模块,在此不再赘述。
可选的,本发明实施例还提供一种电子设备,包括如图15所示的处理器110,存储器109,存储在存储器109上并可在所述处理器110上运行的计算机程序,该计算机程序被处理器110执行时实现上述方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台电子设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本发明的保护之内。
Claims (16)
1.一种消息鉴别方法,应用于电子设备,其特征在于,所述方法包括:
在目标应用程序的界面中显示目标内容的情况下,接收用户对所述目标内容的第一输入,所述目标内容为通过所述目标应用程序接收的消息的内容;
响应于所述第一输入,基于所述目标内容与目标对象确定目标数值;其中,所述目标对象为目标消息集合或目标网络模型;所述目标消息集合包括第一消息集合和第二消息集合,所述第一消息集合包括与所述目标内容对应的真实消息,所述第二消息集合包括与所述目标内容对应的谣言消息;所述目标网络模型用于确定消息是否为谣言消息;
根据所述目标数值,确定所述目标内容对应的消息是否为谣言消息;
其中,所述真实消息为真实度大于或等于第一预设阈值的消息,所述谣言消息为真实度小于所述第一预设阈值的消息;
所述目标对象为所述目标网络模型,所述目标网络模型为从服务器中获取的谣言图神经网络,所述谣言图神经网络为所述服务器根据所述服务器中的至少一个谣言消息、所述至少一个谣言消息的发送方信息和所述至少一个谣言消息的接收方信息训练得到的,所述目标数值为第一图编辑距离;
所述基于所述目标内容与目标对象确定目标数值,包括:
获取所述目标内容的发送方信息和所述目标内容的接收方信息;
采用第二预设算法,基于所述目标内容、所述目标内容的发送方信息和所述目标内容的接收方信息,计算得到第一子图网络;
根据所述第一子图网络和所述谣言图神经网络,确定所述第一图编辑距离,所述第一图编辑距离用于指示所述第一子图网络与所述谣言图神经网络的相似度;
所述根据所述目标数值,确定所述目标内容对应的消息是否为谣言消息,包括:
在所述第一图编辑距离大于或等于第四预设阈值的情况下,确定所述目标内容对应的消息为谣言消息。
2.根据权利要求1所述的方法,其特征在于,所述目标对象为所述目标消息集合,所述目标数值包括第一相似度和第二相似度,所述第一相似度为所述目标内容与所述第一消息集合的相似度,所述第二相似度为所述目标内容与所述第二消息集合的相似度;
所述基于所述目标内容与目标对象确定目标数值,包括:
向服务器发送所述目标内容;
接收所述服务器发送的所述目标消息集合,所述目标消息集合为所述服务器从所述服务器中的两个消息集合中确定的与所述目标内容对应的消息集合,所述两个消息集合中的一个消息集合包括至少一个真实消息,所述两个消息集合中的另一个消息集合包括至少一个谣言消息;
根据所述目标内容和所述第一消息集合,确定所述第一相似度,并根据所述目标内容和所述第二消息集合,确定所述第二相似度;
所述根据所述目标数值,确定所述目标内容对应的消息是否为谣言消息,包括:
在所述第一相似度小于所述第二相似度的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第一相似度大于或等于所述第二相似度的情况下,确定所述目标内容对应的消息为真实消息。
3.根据权利要求2所述的方法,其特征在于,所述确定所述目标内容对应的消息为真实消息之前,所述方法还包括:
根据所述目标内容,从辟谣类网站获取目标真实消息,所述目标真实消息为与所述目标内容对应的真实消息;
根据所述目标内容和所述目标真实消息的内容,确定目标差异度;
所述确定所述目标内容对应的消息为真实消息,包括:
在所述目标差异度小于或等于第二预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
4.根据权利要求1所述的方法,其特征在于,所述目标对象为所述目标网络模型,所述目标网络模型为分类网络模型;所述目标数值为目标概率值,所述目标概率值为所述目标内容对应的消息属于谣言消息的概率;
所述基于所述目标内容与目标对象确定目标数值,包括:
采用第一预设算法,基于所述目标内容计算得到目标向量数据,所述目标向量数据用于指示所述目标内容的特征信息;
基于所述目标向量数据和所述分类网络模型,计算得到所述目标概率值;
所述根据所述目标数值,确定所述目标内容对应的消息是否为谣言消息,包括:
在所述目标概率值大于第三预设阈值的情况下,确定所述目标内容对应的消息为谣言消息;
在所述目标概率值小于所述第三预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
在所述目标概率值等于所述第三预设阈值的情况下,根据所述目标内容和第三消息集合,确定第三相似度,并根据所述目标内容和第四消息集合,确定第四相似度,所述第三消息集合和所述第四消息集合均为所述电子设备从服务器中获取的消息集合,所述第三消息集合包括至少一个真实消息,所述第四消息集合包括至少一个谣言消息,所述第三相似度为所述目标内容与所述第三消息集合的相似度,所述第四相似度为所述目标内容与所述第四消息集合的相似度;
在所述第四相似度大于或等于所述第三相似度的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第四相似度小于所述第三相似度的情况下,确定所述目标内容对应的消息为真实消息。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第一图编辑距离小于所述第四预设阈值的情况下,采用所述第二预设算法,基于所述第一子图网络和从所述服务器中获取的真实图神经网络,计算得到第二图编辑距离,所述真实图神经网络为所述服务器根据所述服务器中的至少一个真实消息、所述至少一个真实消息的发送方信息和所述至少一个真实消息的接收方信息训练得到的,所述第二图编辑距离用于指示所述第一子图网络与所述真实图神经网络的相似度;
在所述第二图编辑距离小于第五预设阈值的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第二图编辑距离大于或等于所述第五预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
7.根据权利要求1至6中任一项所述的方法,其特征在于,所述确定所述目标内容对应的消息是否为谣言消息之后,所述方法还包括:
根据所述目标数值,确定谣言指数,所述谣言指数用于指示所述目标内容对应的消息为谣言消息的概率;
基于所述谣言指数,显示提示信息,所述提示信息用于向用户提示所述目标内容对应的消息是否为谣言消息,所述提示信息包括以下至少一项:所述谣言指数、所述谣言指数对应的标识和所述谣言指数对应的文字信息。
8.一种消息鉴别装置,其特征在于,所述消息鉴别装置包括:接收模块和确定模块;
所述接收模块,用于在目标应用程序的界面中显示目标内容的情况下,接收用户对所述目标内容的第一输入,所述目标内容为通过所述目标应用程序接收的消息的内容;
所述确定模块,用于响应于所述接收模块接收的所述第一输入,基于所述目标内容与目标对象确定目标数值;其中,所述目标对象为目标消息集合或目标网络模型;所述目标消息集合包括第一消息集合和第二消息集合,所述第一消息集合包括与所述目标内容对应的真实消息,所述第二消息集合包括与所述目标内容对应的谣言消息;所述目标网络模型用于确定消息是否为谣言消息;并根据所述目标数值,确定所述目标内容对应的消息是否为谣言消息;
其中,所述真实消息为真实度大于或等于第一预设阈值的消息,所述谣言消息为真实度小于所述第一预设阈值的消息;
所述目标对象为所述目标网络模型,所述目标网络模型为从服务器中获取的谣言图神经网络,所述谣言图神经网络为所述服务器根据所述服务器中的至少一个谣言消息、所述至少一个谣言消息的发送方信息和所述至少一个谣言消息的接收方信息训练得到的,所述目标数值为第一图编辑距离;
所述确定模块,具体用于获取所述目标内容的发送方信息和所述目标内容的接收方信息;
并采用第二预设算法,基于所述目标内容、所述目标内容的发送方信息和所述目标内容的接收方信息,计算得到第一子图网络;并根据所述第一子图网络和所述谣言图神经网络,确定所述第一图编辑距离,所述第一图编辑距离用于指示所述第一子图网络与所述谣言图神经网络的相似度;
在所述第一图编辑距离大于或等于第四预设阈值的情况下,确定所述目标内容对应的消息为谣言消息。
9.根据权利要求8所述的消息鉴别装置,其特征在于,所述目标对象为所述目标消息集合,所述目标数值包括第一相似度和第二相似度,所述第一相似度为所述目标内容与所述第一消息集合的相似度,所述第二相似度为所述目标内容与所述第二消息集合的相似度;
所述确定模块,具体用于向服务器发送所述目标内容;并接收所述服务器发送的所述目标消息集合,所述目标消息集合为所述服务器从所述服务器中的两个消息集合中确定的与所述目标内容对应的消息集合,所述两个消息集合中的一个消息集合包括至少一个真实消息,所述两个消息集合中的另一个消息集合包括至少一个谣言消息;以及,根据所述目标内容和所述第一消息集合,确定所述第一相似度,并根据所述目标内容和所述第二消息集合,确定所述第二相似度;
在所述第一相似度小于所述第二相似度的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第一相似度大于或等于所述第二相似度的情况下,确定所述目标内容对应的消息为真实消息。
10.根据权利要求9所述的消息鉴别装置,其特征在于,所述消息鉴别装置还包括:获取模块;
所述获取模块,用于在所述确定模块确定所述目标内容对应的消息为真实消息之前,根据所述目标内容,从辟谣类网站获取目标真实消息,所述目标真实消息为与所述目标内容对应的真实消息;
所述确定模块,还用于根据所述目标内容和所述目标真实消息的内容,确定目标差异度;
所述确定模块,具体用于在所述目标差异度小于或等于第二预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
11.根据权利要求8所述的消息鉴别装置,其特征在于,所述目标对象为所述目标网络模型,所述目标网络模型为分类网络模型;所述目标数值为目标概率值,所述目标概率值为所述目标内容对应的消息属于谣言消息的概率;
所述确定模块,具体用于采用第一预设算法,基于所述目标内容计算得到目标向量数据,所述目标向量数据用于指示所述目标内容的特征信息;并基于所述目标向量数据和所述分类网络模型,计算得到所述目标概率值;
在所述目标概率值大于第三预设阈值的情况下,确定所述目标内容对应的消息为谣言消息;
在所述目标概率值小于所述第三预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
12.根据权利要求11所述的消息鉴别装置,其特征在于,所述确定模块,还用于在所述目标概率值等于所述第三预设阈值的情况下,根据所述目标内容和第三消息集合,确定第三相似度,并根据所述目标内容和第四消息集合,确定第四相似度,所述第三消息集合和所述第四消息集合均为所述消息鉴别装置从服务器中获取的消息集合,所述第三消息集合包括至少一个真实消息,所述第四消息集合包括至少一个谣言消息,所述第三相似度为所述目标内容与所述第三消息集合的相似度,所述第四相似度为所述目标内容与所述第四消息集合的相似度;
在所述第四相似度大于或等于所述第三相似度的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第四相似度小于所述第三相似度的情况下,确定所述目标内容对应的消息为真实消息。
13.根据权利要求8所述的消息鉴别装置,其特征在于,所述消息鉴别装置还包括:计算模块;
所述计算模块,用于在所述第一图编辑距离小于所述第四预设阈值的情况下,采用所述第二预设算法,基于所述第一子图网络和从所述服务器中获取的真实图神经网络,计算得到第二图编辑距离,所述真实图神经网络为所述服务器根据所述服务器中的至少一个真实消息、所述至少一个真实消息的发送方信息和所述至少一个真实消息的接收方信息训练得到的,所述第二图编辑距离用于指示所述第一子图网络与所述真实图神经网络的相似度;
所述确定模块,还用于在所述第二图编辑距离小于第五预设阈值的情况下,确定所述目标内容对应的消息为谣言消息;
在所述第二图编辑距离大于或等于所述第五预设阈值的情况下,确定所述目标内容对应的消息为真实消息。
14.根据权利要求8至13中任一项所述的消息鉴别装置,其特征在于,所述确定模块,还用于在确定所述目标内容对应的消息是否为谣言消息之后,根据所述目标数值,确定谣言指数,所述谣言指数用于指示所述目标内容对应的消息为谣言消息的概率;
所述消息鉴别装置还包括:显示模块;
所述显示模块,用于基于所述确定模块确定的所述谣言指数,显示提示信息,所述提示信息用于向用户提示所述目标内容对应的消息是否为谣言消息,所述提示信息包括以下至少一项:所述谣言指数、所述谣言指数对应的标识和所述谣言指数对应的文字信息。
15.一种电子设备,其特征在于,包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至7中任一项所述的消息鉴别方法的步骤。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的消息鉴别方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010335178.7A CN111610913B (zh) | 2020-04-24 | 2020-04-24 | 一种消息鉴别方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010335178.7A CN111610913B (zh) | 2020-04-24 | 2020-04-24 | 一种消息鉴别方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111610913A CN111610913A (zh) | 2020-09-01 |
CN111610913B true CN111610913B (zh) | 2021-08-24 |
Family
ID=72199940
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010335178.7A Active CN111610913B (zh) | 2020-04-24 | 2020-04-24 | 一种消息鉴别方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111610913B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112069836A (zh) * | 2020-09-15 | 2020-12-11 | 腾讯科技(深圳)有限公司 | 谣言识别方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101594452B1 (ko) * | 2015-09-08 | 2016-02-17 | 국방과학연구소 | 온라인 게시물의 유언비어 식별장치 |
CN106570162A (zh) * | 2016-11-04 | 2017-04-19 | 北京百度网讯科技有限公司 | 基于人工智能的谣言识别方法及装置 |
CN106599286A (zh) * | 2016-12-23 | 2017-04-26 | 北京奇虎科技有限公司 | 一种信息监控辟谣实现方法和装置、移动终端 |
CN108614855A (zh) * | 2018-03-19 | 2018-10-02 | 众安信息技术服务有限公司 | 一种谣言识别方法 |
CN110928425A (zh) * | 2018-09-17 | 2020-03-27 | 北京搜狗科技发展有限公司 | 信息监控方法及装置 |
-
2020
- 2020-04-24 CN CN202010335178.7A patent/CN111610913B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101594452B1 (ko) * | 2015-09-08 | 2016-02-17 | 국방과학연구소 | 온라인 게시물의 유언비어 식별장치 |
CN106570162A (zh) * | 2016-11-04 | 2017-04-19 | 北京百度网讯科技有限公司 | 基于人工智能的谣言识别方法及装置 |
CN106599286A (zh) * | 2016-12-23 | 2017-04-26 | 北京奇虎科技有限公司 | 一种信息监控辟谣实现方法和装置、移动终端 |
CN108614855A (zh) * | 2018-03-19 | 2018-10-02 | 众安信息技术服务有限公司 | 一种谣言识别方法 |
CN110928425A (zh) * | 2018-09-17 | 2020-03-27 | 北京搜狗科技发展有限公司 | 信息监控方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111610913A (zh) | 2020-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108415652B (zh) | 一种文本处理方法及移动终端 | |
CN107580147B (zh) | 一种通知消息的管理方法和移动终端 | |
CN107943390B (zh) | 一种文字复制方法及移动终端 | |
CN109857494B (zh) | 一种消息提示方法及终端设备 | |
CN110109593B (zh) | 一种截屏方法及终端设备 | |
CN108376096B (zh) | 一种消息显示方法及移动终端 | |
CN108334196B (zh) | 一种文件处理方法及移动终端 | |
CN108460817B (zh) | 一种拼图方法及移动终端 | |
CN107734170B (zh) | 一种通知消息处理方法、移动终端及穿戴设备 | |
CN110930410B (zh) | 一种图像处理方法、服务器及终端设备 | |
CN109062634B (zh) | 一种应用启动方法及移动终端 | |
CN109495616B (zh) | 一种拍照方法及终端设备 | |
CN109388456B (zh) | 一种头像选择方法及移动终端 | |
CN111401463B (zh) | 检测结果输出的方法、电子设备及介质 | |
CN107704182B (zh) | 一种扫码方法及移动终端 | |
CN109951889B (zh) | 一种物联网配网方法及移动终端 | |
CN109522706B (zh) | 一种信息提示方法及终端设备 | |
CN108765522B (zh) | 一种动态图像生成方法及移动终端 | |
CN111464428A (zh) | 音频处理方法、服务器、电子设备及计算机可读存储介质 | |
CN109286726B (zh) | 一种内容显示方法及终端设备 | |
CN111007980A (zh) | 一种信息录入方法及终端设备 | |
CN107809515B (zh) | 一种显示控制方法及移动终端 | |
CN108062370B (zh) | 一种应用程序搜索方法及移动终端 | |
CN111610913B (zh) | 一种消息鉴别方法、装置及电子设备 | |
CN109639880B (zh) | 一种天气信息显示方法及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |