CN116709339B - 一种应用通知消息的检测方法及电子设备 - Google Patents

一种应用通知消息的检测方法及电子设备 Download PDF

Info

Publication number
CN116709339B
CN116709339B CN202211227605.5A CN202211227605A CN116709339B CN 116709339 B CN116709339 B CN 116709339B CN 202211227605 A CN202211227605 A CN 202211227605A CN 116709339 B CN116709339 B CN 116709339B
Authority
CN
China
Prior art keywords
notification message
notification
application
electronic equipment
text classification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211227605.5A
Other languages
English (en)
Other versions
CN116709339A (zh
Inventor
司帅杰
李展
赵明明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202211227605.5A priority Critical patent/CN116709339B/zh
Publication of CN116709339A publication Critical patent/CN116709339A/zh
Application granted granted Critical
Publication of CN116709339B publication Critical patent/CN116709339B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/30—Security of mobile devices; Security of mobile applications
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72436—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for text messaging, e.g. short messaging services [SMS] or e-mails
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72484—User interfaces specially adapted for cordless or mobile telephones wherein functions are triggered by incoming communication events

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请提供一种应用通知消息的检测方法及电子设备，涉及终端技术领域，能够向用户进行风险提醒，保护用户隐私以及财产安全，该方法包括：电子设备接收到第一应用的第一通知消息，获取第一通知消息的属性信息；电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备则显示第二通知消息；第二通知消息包括第一通知消息的通知标题、通知内容、以及电子设备基于第一通知消息创建的风险提示信息，风险提示信息用于向用户提示第一通知消息存在风险。

Description

一种应用通知消息的检测方法及电子设备
技术领域
本申请涉及终端技术领域，尤其涉及一种应用通知消息的检测方法及电子设备。
背景技术
随着智能电子设备(如手机)不断发展以及应用程序数量的增长，电子设备中安装的应用程序也越来越多。各种应用程序为了达到不同的业务目的常常会向用户推送通知消息；其中，不同的应用程序向用户推送的通知消息的内容不同。例如，新闻类应用程序会向用户推送实时新闻、热点；投资理财类应用程序会向用户推送投资理财消息等。
但是，一些恶意应用向用户推送的通知消息的内容存在泄露用户隐私，以及影响用户财产安全的问题。
发明内容
本申请实施例提供一种应用通知消息的检测方法及电子设备，能够向用户进行风险提醒，保护用户隐私以及财产安全。
本申请的实施例采用如下技术方案：
第一方面，提供了一种应用通知消息的检测方法，应用于电子设备，电子设备中安装有第一应用，该方法包括：电子设备接收到第一应用的第一通知消息，获取第一通知消息的属性信息；其中，第一通知消息的属性信息包括第一通知消息的通知标题和通知内容；电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果；其中，文本分类预测结果用于指示第一通知消息是否为目标通知消息，目标通知消息为存在泄露用户隐私或损失用户财产的风险的通知消息；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备则显示第二通知消息；其中，第二通知消息包括第一通知消息的通知标题、通知内容、以及电子设备基于第一通知消息创建的风险提示信息，风险提示信息用于向用户提示第一通知消息存在风险。
基于第一方面，在电子设备接收到第一应用的第一通知消息后，电子设备获取第一通知消息的属性信息，并将第一通知消息的属性信息作为输入运行文本分类模型以得到文本分类预测结果；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备显示第二通知消息，第二通知消息不仅包括第一通知消息的通知标题和通知内容，还包括电子设备基于第一通知消息创建的风险提示信息，由于风险提示信息用于向用户提示第一通知消息存在风险，从而能够向用户进行风险提醒，保护用户隐私以及财产安全。
在第一方面的一种实现方式中，该方法还包括：电子设备接收用户对第二通知消息的第一操作；其中，第一操作用于触发电子设备显示第一通知消息对应的通知内容的详情页；电子设备不响应第一操作；或者，电子设备响应于第一操作显示第一界面，第一界面不包括第一通知消息的通知内容的详情页。
在该实现方式中，电子设备可以设置不响应用户对第二通知消息的操作；或者，电子设备响应于用户对第二通知消息的操作，不显示第一通知消息的通知内容的详情页。这样一来，用户无法看到第一通知消息对应的通知内容的详情页，也不会存在泄露用户隐私以及财产安全的问题。
在第一方面的一种实现方式中，该方法还包括：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备关闭第一应用的消息推送服务。
在该实现方式中，若电子设备识别到第一通知消息为目标通知消息，即文本分类预测结果指示第一通知消息为目标通知消息，电子设备关闭第一应用的消息推送服务。这样，第一应用在使用过程中就不会推送通知消息，从根本上解决了泄露用户隐私以及财产安全的问题。
在第一方面的一种实现方式中，电子设备保存有预设应用名单，预设应用名单包括用户使用频率小于预设频率的应用的应用包名；该方法还包括：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备获取第一应用的应用包名；若第一应用的应用包名在预设名单内，电子设备卸载第一应用。
在该实现方式中，通过将第一应用的应用包名与预设名单相匹配，若第一应用的应用包名在预设名单内，电子设备卸载第一应用，即电子设备卸载用户不常使用的应用。这样一来，可以进一步避免泄露用户隐私以及财产安全的问题。
在第一方面的一种实现方式中，获取第一通知消息的属性信息，包括：若第一应用不是电子设备从应用商店中下载的应用，电子设备获取第一通知消息的属性信息。
通常情况下，应用在电子设备(如手机)的应用商店上架之前，会对应用进行检测，如病毒查杀、木马查杀等。如果检测出应用存在安全隐患，则不会将其在应用商店上架。也就是说，能够在应用商店上架的应用，都不会存在安全隐含，即都为正常应用。在后续使用过程中，也不会推送目标通知消息
在该实现方式中，通过判断第一应用是否从应用商店中下载，若第一应用从应用商店中下载，电子设备可以不执行本申请的方法，正常显示第一应用推送的第一通知消息；若第一应用不是从应用商店中下载，电子设备执行本申请的方法，识别该第一通知消息是否为目标通知消息，以降低设备功耗。
在第一方面的一种实现方式中，电子设备保存有通知消息与风险提示信息的对应关系；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备则显示第二通知消息，包括：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备获取与第一通知消息对应的风险提示信息的属性信息；其中，风险提示信息的属性信息包括提示框和提示内容；电子设备基于风险提示信息的提示框和提示内容，以及第一通知消息的通知标题和通知内容，显示第二通知消息。
在第一方面的一种实现方式中，该方法还包括：电子设备将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件保存；若电子设备保存的日志文件的数量大于预设数量阈值，电子设备向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果；其中，第一通知消息和第一通知消息对应的文本分类预测结果用于更新所述文本分类模型；电子设备接收来自服务器的更新后的文本分类模型；其中，更新后的文本分类模型是由服务器通过空中下载技术OTA更新的。
在该实现方式中，电子设备将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件保存；若电子设备保存的日志文件的数量大于预设数量阈值，电子设备向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果；服务器基于第一通知消息和第一通知消息对应的文本分类预测结果，通过空中下载技术OTA更新所述文本分类模型，即服务器在更新电子设备的***时，同时更新文本分类模型，不需要单独更新文本分类模型，提高了资源利用率。
在第一方面的一种实现方式中，在电子设备获取第一通知消息的属性信息之后，该方法还包括：电子设备组合通知标题和通知内容，并对组合后的通知标题和通知内容进行文本向量化处理，得到预设长度的数值向量；其中，电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果，包括：电子设备将预设长度的数值向量作为输入，运行文本分类模型，对预设长度的数值向量进行向量数量积计算，得到文本分类预测结果；若向量数量积大于预设向量数量积，文本分类预测结果指示第一通知消息为目标通知消息；其中，向量数量积的值用于表征目标词出现在第一通知消息中的频率。
第二方面，提供一种电子设备，该电子设备具有实现上述第一方面或第二方面所述的功能。该功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。
第三方面，提供一种电子设备，该电子设备包括显示屏、存储器和一个或多个处理器；显示屏、存储器和处理器耦合；存储器用于存储计算机程序代码，计算机程序代码包括计算机指令；当处理器执行计算机指令时，使得电子设备执行如下步骤：电子设备接收到第一应用的第一通知消息，获取第一通知消息的属性信息；其中，第一通知消息的属性信息包括第一通知消息的通知标题和通知内容；电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果；其中，文本分类预测结果用于指示第一通知消息是否为目标通知消息，目标通知消息为存在泄露用户隐私或损失用户财产的风险的通知消息；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备则显示第二通知消息；其中，第二通知消息包括第一通知消息的通知标题、通知内容、以及电子设备基于第一通知消息创建的风险提示信息，风险提示信息用于向用户提示第一通知消息存在风险。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备还执行如下步骤：电子设备接收用户对第二通知消息的第一操作；其中，第一操作用于触发电子设备显示第一通知消息对应的通知内容的详情页；电子设备不响应第一操作；或者，电子设备响应于第一操作显示第一界面，第一界面不包括第一通知消息的通知内容的详情页。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备还执行如下步骤：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备关闭第一应用的消息推送服务。
在第三方面的一种实现方式中，电子设备保存有预设应用名单，预设应用名单包括用户使用频率小于预设频率的应用的应用包名；当处理器执行计算机指令时，使得电子设备还执行如下步骤：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备获取第一应用的应用包名；若第一应用的应用包名在预设名单内，电子设备卸载第一应用。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备具体执行如下步骤：若第一应用不是电子设备从应用商店中下载的应用，电子设备获取第一通知消息的属性信息。
在第三方面的一种实现方式中，电子设备保存有通知消息与风险提示信息的对应关系；当处理器执行计算机指令时，使得电子设备具体执行如下步骤：若文本分类预测结果指示第一通知消息为目标通知消息，电子设备获取与第一通知消息对应的风险提示信息的属性信息；其中，风险提示信息的属性信息包括提示框和提示内容；电子设备基于风险提示信息的提示框和提示内容，以及第一通知消息的通知标题和通知内容，显示第二通知消息。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备还执行如下步骤：电子设备将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件保存；若电子设备保存的日志文件的数量大于预设数量阈值，电子设备向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果；其中，第一通知消息和第一通知消息对应的文本分类预测结果用于更新所述文本分类模型；电子设备接收来自服务器的更新后的文本分类模型；其中，更新后的文本分类模型是由服务器通过空中下载技术OTA更新的。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备还执行如下步骤：电子设备组合通知标题和通知内容，并对组合后的通知标题和通知内容进行文本向量化处理，得到预设长度的数值向量。
在第三方面的一种实现方式中，当处理器执行计算机指令时，使得电子设备具体执行如下步骤：电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果，包括：电子设备将预设长度的数值向量作为输入，运行文本分类模型，对预设长度的数值向量进行向量数量积计算，得到文本分类预测结果；若向量数量积大于预设向量数量积，文本分类预测结果指示第一通知消息为目标通知消息；其中，向量数量积的值用于表征目标词出现在第一通知消息中的频率。
第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质中存储有指令，当其在计算机上运行时，使得计算机可以执行上述第一方面中任一项所述的方法。
第五方面，提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机可以执行上述第一方面中任一项所述的方法。
其中，第二方面至第五方面中任一种设计方式所带来的技术效果可参见第一方面中不同设计方式所带来的技术效果，此处不再赘述。
附图说明
图1为本申请实施例提供的一种通知消息展示在通知栏界面的示意图一；
图2为本申请实施例提供的一种通知消息展示在通知栏界面的示意图二；
图3为本申请实施例提供的一种电子设备的硬件结构示意图；
图4为本申请实施例提供的一种电子设备的软件框架示意图；
图5为本申请实施例提供的一种应用通知消息的检测方法的流程示意图；
图6为本申请实施例提供的一种模型训练的流程示意图；
图7为本申请实施例提供的另一种应用通知消息的检测方法的流程示意图；
图8为本申请实施例提供的一种通知消息展示在通知栏界面的示意图三；
图9为本申请实施例提供的又一种应用通知消息的检测方法的流程示意图；
图10为本申请实施例提供的一种通知消息展示在通知栏界面的示意图四；
图11为本申请实施例提供的一种芯片***的结构示意图。
具体实施方式
为了使本领域技术人员更好地理解本申请实施例的方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请的部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
以下，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请实施例的描述中，除非另有说明，“多个”的含义是两个或两个以上。
本申请实施例所公开的通知消息，是指由电子设备中所安装的各种类型应用程序所产生的各种类型的通知消息。例如，从应用层面来讲，可以包括应用更新消息和涉及应用功能的推送消息；具体的，根据应用的不同功能，涉及应用功能的应用推送消息可以是短信应用生成的短信、社交应用生成的推送消息(包括有即时通信消息、评论消息、好友添加消息、新功能推荐消息等)、购物应用生成的推送消息(包括有订单物流更新消息、订单退款消息、新产品上线消息等)、邮件应用生成的新邮件通知、以及其他各类应用生成的推送消息等等。
相关技术中，通知栏界面会展示出每条通知消息，如图1所示，为本申请实施例提供的一种通知消息展示在通知栏界面的示意图，图1以智能手机为例，示出了展示在通知栏界面中的通知消息。其中，不同类型应用程序所产生的通知消息的通知内容不同，如图1所示，该通知消息为新闻类应用产生的热点新闻通知消息；如，该通知消息为“北京：进入各类公共场所核酸阴性证明时限调整…”。
但是，一些应用推送的通知消息的通知内容可能存在泄露用户隐私，以及影响用户财产安全的问题。示例性的，如图2所示，为本申请实施例提供的另一种通知消息展示在通知栏界面的示意图，如图2所示，该通知消息为理财类应用产生的投资理财通知消息；如该通知消息为“养老金怎么投资才能最大化收益”；或者“一本万利，快速致富之道”。
其中，上述投资理财通知消息的通知内容中，可能会存在引导用户进行投资理财的信息(或称引导信息)。一般情况下，由于用户(尤其是中老年用户)的安全防范意识比较薄弱，因此当用户点击这些通信消息后，可能会按照通知消息中包括的引导信息进行操作，从而造成用户财产损失(或影响用户安全)的问题。
而本申请实施例所提供的方案，可以基于文本分类模型对应用推送的通知消息进行检测，当检测到通知消息存在泄露用户隐私或损失用户财产风险时，电子设备在该通知消息中叠加显示风险提示信息，用于向用户提示该通知消息存在风险。在通知消息存在泄露用户隐私或损失用户财产风险的情况下，相对于相关技术，本申请实施例能够向用户进行风险提醒，保护用户隐私以及财产安全。
下面结合说明书附图，对本申请实施例提供的技术方案进行详细介绍。
示例性的，本申请实施例提供的电子设备可以为手机、智能手表、智能手环、平板电脑、桌面型、膝上型、手持计算机、超级移动个人计算机(ultra-mobile personalcomputer，UMPC)、上网本，以及个人数字助理(personal digital assistant，PDA)、增强现实(augmented reality，AR)\虚拟现实(virtual reality，VR)设备等，本申请实施例对该电子设备的具体形态不作限制。
如图3所示，为电子设备100的一种结构示意图。其中，电子设备100可以包括：处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，定位模块181，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。
可以理解的是，本实施例示意的结构并不构成对电子设备100的具体限定。在另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，存储器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。
控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。
处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了***的效率。
在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。
可以理解的是，本实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对电子设备的结构限定。在另一些实施例中，电子设备也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施例中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中，充电管理模块140可以通过电子设备的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142，充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110，内部存储器121，外部存储器，显示屏194，摄像头193，和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施例中，电源管理模块141也可以设置于处理器110中。在另一些实施例中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。
电子设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像，视频等。该显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Mini-LED，Micro-OLED，Micro-OLED，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。
电子设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，颜色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施例中，电子设备可以包括1个或N个摄像头193，N为大于1的正整数。
数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当电子设备在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样，电子设备可以播放或录制多种编码格式的视频，例如：动态图像专家组(moving picture experts group，MPEG)1，MPEG2，MPEG3，MPEG4等。
NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现电子设备的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。
电子设备100可以通过音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，以及应用处理器等实现音频功能。例如音乐播放，录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中，音频模块170可以设置于处理器110中，或将音频模块170的部分功能模块设置于处理器110中。扬声器170A，也称“喇叭”，用于将音频电信号转换为声音信号。受话器170B，也称“听筒”，用于将音频电信号转换成声音信号。麦克风170C，也称“话筒”，“传声器”，用于将声音信号转换为电信号。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130，也可以是3.5mm的开放电子设备平台(open mobile terminal platform，OMTP)标准接口，美国蜂窝电信工业协会(cellular telecommunications industry association of the USA，CTIA)标准接口。
外部存储器接口120可以用于连接外部存储卡，例如Micro SD卡，实现扩展电子设备的存储能力。外部存储卡通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音频，视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令，从而执行电子设备的各种功能应用以及数据处理。例如，在本申请实施例中，处理器110可以通过执行存储在内部存储器121中的指令，内部存储器121可以包括存储程序区和存储数据区。
其中，存储程序区可存储操作***，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储电子设备使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(universal flashstorage，UFS)等。
按键190包括开机键，音量键等。按键190可以是机械按键。也可以是触摸式按键。马达191可以产生振动提示。马达191可以用于来电振动提示，也可以用于触摸振动反馈。指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195，或从SIM卡接口195拔出，实现和电子设备的接触和分离。电子设备可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡，Micro SIM卡，SIM卡等。
可以理解的是，本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件、软件或硬件和软件组合实现。
为了使本申请的技术方案更加清楚，易于理解，下面结合电子设备的软件架构对本申请实施例的方法进行示例说明。
图4为本申请实施例的电子设备的软件结构框图。
分层架构将软件分成若干层，每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中，将AndroidTM分为五层，从上至下分别为应用程序层，应用程序框架层，安卓运行时(Android runtime)和***库，硬件抽象层(hardware abstractionlayer，HAL)、内核层以及驱动层。应理解：本文以AndroidTM***举例来说明，在其他操作***中(例如iOSTM***等)，只要各个功能模块实现的功能和本申请的实施例类似也能实现本申请的方案。
应用程序层可以包括一系列应用程序包(Android application package，APK)。
如图4所示，应用程序层中可以安装各种应用(applications，APPs)。如通话、备忘录、浏览器、联系人、图库、日历、地图、蓝牙、音乐等应用。在本申请中，应用程序层还包括推送通知消息的应用(如第一应用)。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface，API)和编程框架。应用程序框架层包括一些预先定义的函数。
例如，应用程序框架层可以包括窗口管理器，内容提供器，视图***，资源管理器，通知管理器等，本申请实施例对此不作任何限制。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕等。
内容提供器用来存放和获取数据，并使这些数据可以被应用程序访问。所述数据可以包括视频，图像，音频，拨打和接听的电话，浏览历史和书签，电话薄等。
视图***可用于构建应用程序的显示界面。每个显示界面可以由一个或多个控件组成。一般而言，控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏(或称通知栏)、导航栏、微(Widget)件等界面元素。
资源管理器为应用程序提供各种资源，比如本地化字符串，图标，图片，布局文件，视频文件等等。
通知管理器使用应用程序可以在状态栏(或称通知栏)中显示通知信息，可以用于传达告知类型的消息，可以短暂停留后自动消失，无需用户交互。比如通知管理器被用于告知下载完成，消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知，例如后台运行的应用程序的通知，还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息，发出提示音，振动，指示灯闪烁等。
应用程序框架层中还包括AndroidTM***的基础组件，如活动管理服务(activitymanager service，AMS)，包管理服务(package manager service，PMS)等。在本申请中，AndroidTM***的基础组件还包括状态栏通知的管理类(notification manager)，以及***界面应用(system UI manager)。
其中，状态栏通知的管理类负责发通知、清除通知等。***界面应用用于显示状态栏、通知栏、下拉菜单、导航栏以及最近任务等。
如图4所示，Android runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分：一部分是java语音需要调用的功能函数，另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理，堆栈管理，线程管理，安全和异常的管理，以及垃圾回收等功能。
***库可以包括多个功能模块。例如：表面管理器(surface manager)，媒体库(Media Libraries)，三维图形处理库(例如：OpenGL ES)，2D图形引擎(例如：SGL)等。
其中，表面管理器用于对显示子***进行管理，并且为多个应用程序提供了2D和3D图层的融合。媒体库支持多种常用的音频，视频格式回放和录制，以及静态图像文件等。媒体库可以支持多种音视频编码格式，例如：MPEG4，H.264，MP3，AAC，AMR，JPG，PNG等。三维图形处理库用于实现三维图形绘图，图像渲染，合成和图层处理等。2D图形引擎是2D绘图的绘图引擎。
硬件抽象层是位于内核层与硬件之间的接口层，可以用于将硬件抽象化。内核层位于硬件抽象层之下，是硬件和软件之间的层。
如图4所示，驱动层至少包含显示驱动、摄像头驱动、音频驱动、传感器驱动等，本申请实施例对此不作任何限制。
下面结合应用推送通知消息的场景，示例性说明电子设备100的软件***和硬件***的工作流程。
请参考图5，其示出了电子设备100的软件架构、硬件结构以及服务器的交互示意图。本申请实施例这里结合图5所示的交互示意图，介绍电子设备100的软件架构、硬件结构以及服务器协同完成应用通知消息的检测的具体实现流程。其中，软件架构包括应用程序层中的第一应用，以及应用程序框架层中的状态栏通知的管理类(以下称为notification)和***界面应用(以下称为system UI)。硬件结构主要包括只读存储器(read-onlymemory，ROM)。其中，ROM中存储有文本分类模型。如图5所示，该流程可以包括步骤①-步骤⑥。
步骤①：第一应用向notification推送第一通知消息。步骤②：ROM将存储的文本分类模型加载到随机存储器(random access memory，RAM)，供notification检测第一通知消息。在此基础上，notification接收到第一应用的第一通知消息后，运行文本分类模型，以得到文本分类预测结果。
其中，文本分类预测结果用于指示第一通知消息是否为目标通知消息，目标通知消息为存在泄露用户隐私或损失用户财产的风险的通知消息。
若文本分类预测结果指示第一通知消息为目标通知消息，步骤③：notification将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件，保存在ROM中。步骤④：notification通知system UI显示第二通知消息。其中，第二通知消息包括第一通知消息的通知标题、通知内容、以及notification基于第一通知消息创建的风险提示信息，该风险提示信息用于向用户提示第一通知消息存在风险。
步骤⑤：ROM将保存的日志文件上传到服务器，由服务器根据日志文件更新文本分类模型。步骤⑥：服务器将更新后的文本分类模型发送至ROM中。
以下举例说明本申请实施例提供的方法。
应理解，在AndroidTM***中，基于状态栏通知的通知消息是一个全局的***通知，主要通过状态栏通知的管理类(notification manager)实现；其中，notificationmanager负责发送或清除通知消息。
示例性的，一个通知消息可以由以下属性信息构成：
Notification notification＝new NotificationCompat.Builder(context)
.setContentTitle(“This is content title”)//通知标题
.setContentText(“This is content text”)//通知内容
.setWhen(System.currentTimeMillis())
.setSmallIcon(R.drawable.small_icon)//通知小图标
.setLargeIcon(BitmapFactory.decodeResource(getResources())，R.drawable.large_icon))//通知大图标
.build()；
示例性的，一个通知消息可以由通知标题、通知内容、通知小图标、通知大图标以及通知通道(channel)等组成。其中，通知通道(channel)用于管理所有应用推送通知消息的权限；当应用开启推送通知消息的权限时，应用才能够在状态栏显示推送的通知消息。
通常情况下，应用在状态栏显示的通知消息主要包括通知标题和通知内容，如图1所示，该通知消息包括通知标题：“今日头条”和通知内容：“北京：进入各类公共场所核酸阴性证明时限调整…”。因此，在本申请实施例中，可以将通知消息包括的通知标题和通知内容作为一组文本进行训练，得到文本分类模型。
在本申请中，可以将存在泄露用户隐私或损失用户财产的风险的通知消息称为恶意通知消息(或者为本申请上述实施例中所示的目标通知消息)，将不存在泄露用户隐私或损失用户财产的风险的通知消息称为正常通知消息。
在此基础上，将通知消息的文本(即样本数据)作为模型的输入，将标签对应的分类预测结果作为模型的输出，进行模型训练，以得到文本分类模型。其中，在本申请中，样本数据(即通知消息的文本)包括恶意通知消息的文本和正常通知消息的文本。也就是说，本申请将恶意通知消息的文本和正常通知消息的文本均作为训练样本输入机器模型中进行训练。
其中，标签用于指示恶意通知消息的文本中目标词出现的频率，标签对应的分类预测结果包括恶意通知消息(可以表示为lable 1)和正常通知消息(可以表示为lable 0)。其中，目标词指的是能够表征该通知消息为恶意通知消息的一些关键词，如“养老金”、“理财”、“一本万利”等。
应理解，上述仅仅是对目标词的举例说明，当然，不同的恶意通知消息还可以包括其他目标词，本申请实施例对此不作限定。
图6为本申请实施例提供的一种模型训练的流程示意图，示例性的，如图6所示，将恶意通知消息的文本和正常通知消息的文本作为训练样本，输入到机器模型中进行训练。
需要说明的是，在模型训练的过程中，训练样本的数量越多，模型训练结果越准确，即训练得到的文本分类模型越成熟。因此，为了确保训练结果的准确性，训练样本的总数大约在两万条以上，并且每种样本数量不少于一万条。也就是说，恶意通知消息的文本和正常通知消息的文本分别不少于一万条。
进一步的，由于通知消息主要包括通知标题(content title)和通知内容(content text)，因此输入的训练样本要包括通知标题和通知内容。并且，由于通知标题和通知内容属于训练样本的不同文本，为了便于训练，可以对训练样本进行数据预处理。
其中，数据预处理首先将通知标题和通知内容组合在一起，然后对组合后的通知标题和通知内容进行文本向量化处理，得到预设长度的数值向量，最后将预设长度的数值向量输入至机器模型中进行训练，得到最终的文本分类模型。
示例性的，可以使用content title/content text的形式组合通知标题和通知内容，然后对content title/content text进行文本向量化处理，得到预设长度的数值向量。其中，文本向量化处理指的是将组合后的通知标题和通知内容的文字字符转化成固定长度(即上述的预设长度)的数字字符。
在一些实施例中，若组合后的通知标题和通知内容的文字字符的长度小于固定长度，则将组合后的通知标题和通知内容的文字字符转化成数字字符后，可采用空格、或标点符号将数字字符补充到固定长度。在另一些实施例中，若组合后的通知标题和通知内容的文字字符的长度大于固定长度，则可以将组合后的通知标题和通知内容的文字字符截取固定长度，然后将截取后的文字字符转化成数字字符。
后续，再将预设长度的数值向量作为机器模型的输入，将标签对应的分类结果作为机器模型的输出，运行该机器模型进行训练，以得到文本分类模型。示例性的，假设训练样本包括两万条，首先将两万条训练样本进行文本向量化处理，转换成两万条预设长度的数值向量，然后对这两万条预设长度的数值向量依次进行向量运算，即计算该预设长度的数值向量的向量数量积。
应理解，机器模型包括多层输入层(或称卷积层)和一层输出层，经过对预设长度的数值向量的向量数量积的运算之后，机器模型最终输出计算后的一个向量数量积。其中，机器模型输出的向量数量积为：机器模型基于训练样本进行训练后得到的实际值(即实际的分类结果)。
在此基础上，机器模型采用激活函数(如sigmoid)，将训练得到的实际值映射到[0，1]之间，以便于后续处理。需要说明的是，在本申请中，标签对应的分类结果包括lable1和lable0。其中，lable 1用于指示该通知消息为恶意通知消息，lable 0用于指示该通知消息为正常通知消息。因此，机器模型将训练得到的实际值映射到[0，1]，之后，若实际值小于0.5，则表示为lable 0，若实际值大于0.5，则表示为lable 1。
进一步的，从机器模型训练得到的实际值出发，对机器模型进行反向回归训练(即采用反向传播算法)，将得到的实际值(即实际的分类结果)与标签对应的分类结果趋于一致，从而得到训练好的文本分类模型。
在本申请中，上述机器模型可以为卷积神经网络模型(convolutional neuralnetworks，CNN)、变换器模型(transformer)、或支持向量机模型(support vectormachines，SVM)等，本申请对此不作限定。
需要说明的是，在本申请中，可以通过电子设备训练文本分类模型，也可以采用具有模型训练功能的其他装置训练文本分类模型；或者，也可以通过服务器训练该文本分类模型，本申请实施例对此不作限定。
综上，可以通过上述步骤训练文本分类模型，并采用训练好的文本分类模型检测应用推送的通知消息，识别应用推送的通知消息是否为恶意通知消息。示例性的，可以将训练好的文本分类模型存储在只读存储器ROM中，在电子设备开机启动时，将ROM存储的文本分类模型加载至RAM中运行。在此基础上，当应用推送消息时，电子设备可以运行RAM中的文本分类模型，以识别应用推送的通知消息是否为恶意通知消息。
图7为本申请实施例提供的一种应用通知消息的检测方法，如图7所示，该方法可以由S201-S205实现。
S201、电子设备接收到第一应用的第一通知消息。
示例性的，结合图5所示，第一应用向notification manager推送第一通知消息；相应地，notification manager接收到第一应用的第一通知消息。
S202、电子设备获取第一通知消息的属性信息。
其中，第一通知消息的属性信息包括第一通知消息的通知标题和通知内容。
示例性的，结合上述实施例，第一通知消息的属性信息还可以包括通知小图标、通知大图标以及通知通道(channel)等。
在一些实施例中，结合图5所示，第一应用向notification manager推送第一通知消息时，携带有第一通知消息的通知标题和通知内容。因此，在notification manager接收到第一应用的第一通知消息后，notification manager可以获取到第一通知消息的属性信息，即获取到第一通知消息的通知标题和通知内容。
S203、电子设备将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果；其中，文本分类预测结果用于指示第一通知消息是否为目标通知消息。
其中，目标通知消息为存在泄露用户隐私或损失用户财产的风险的通知消息。
结合图5所示，第一应用向notification manager推送第一通知消息后，ROM将存储的文本分类模型加载至notification manager。而后，notification manager将第一通知消息的属性信息作为输入，运行文本分类模型得到文本分类预测结果。
在一些实施例中，电子设备在将第一通知消息的属性信息输入文本分类模型之前，电子设备可以对该第一通知消息的属性信息进行预处理。示例性的，结合上述实施例，电子设备首先将第一通知消息的属性信息(如通知标题和通知内容)进行组合，然后对组合后的通知标题和通知内容进行文本向量化处理，得到预设长度的数值向量。
后续，电子设备将预设长度的数值向量作为输入，运行文本分类模型，对该预设长度的数值向量进行向量数量积计算。其中，若向量数量积大于预设向量数量积，则文本分类预测结果指示第一通知消息为目标通知消息；若向量数量积小于预设向量数量积，则文本分类预测结果指示第一通知消息为正常通知消息。
需要说明的是，在本申请中，预设向量数量积可以为上述[0，1]之间的任一值，例如为0.5。因此当向量数量积大于0.5时，则表示该第一通知消息为目标通知消息(即恶意通知消息)；当向量数量积小于0.5时，则表示该第一通知消息为正常通知消息。
S204、若文本分类预测结果指示第一通知消息为正常通知消息，电子设备显示第一通知消息。
S205、若文本分类预测结果指示第一通知消息为目标通知消息，电子设备显示第二通知消息。
其中，第二通知消息包括第一通知消息的通知标题、通知内容、以及电子设备基于第一通知消息创建的风险提示信息，风险提示信息用于向用户提示第一通知消息存在风险。
示例性的，如图8中(1)所示，若文本分类预测结果指示第一通知消息为正常通知消息，电子设备显示的第一通知消息中包括通知标题和通知内容。如图8中(2)所示，若文本分类预测结果是指第一通知消息为目标通知消息，电子设备显示的第二通知消息中包括第一通知消息的通知标题和通知内容，以及与第一通知消息对应的风险提示信息。
在一些实施例中，电子设备保存有通知消息与风险提示信息的对应关系；在此基础上，若文本分类结果指示第一通知消息为目标通知消息，电子设备获取与第一通知消息对应的风险提示信息的属性信息。其中，风险提示信息的属性信息包括提示框和提示内容。
之后，电子设备基于风险提示信息的提示框和提示内容，创建风险提示信息。例如，结合上述实施例以及图5所示，在电子设备获取到风险提示信息的提示框和提示内容之后，notification manager基于风险提示信息的提示框和提示内容，再重新创建一个函数，将风险提示信息的提示框和提示内容写入重新创建的函数中。这样，电子设备就会显示包括风险提示信息的通知消息(即第二通知消息)。
综上所述，在本申请中，在电子设备接收到第一应用的第一通知消息后，电子设备获取第一通知消息的属性信息，并将第一通知消息的属性信息作为输入运行文本分类模型以得到文本分类预测结果；若文本分类预测结果指示第一通知消息为目标通知消息，电子设备显示第二通知消息，第二通知消息不仅包括第一通知消息的通知标题和通知内容，还包括电子设备基于第一通知消息创建的风险提示信息，由于风险提示信息用于向用户提示第一通知消息存在风险，从而能够向用户进行风险提醒，保护用户隐私以及财产安全。
通常情况下，应用在电子设备(如手机)的应用商店上架之前，会对应用进行检测，如病毒查杀、木马查杀等。如果检测出应用存在安全隐患，则不会将其在应用商店上架。也就是说，能够在应用商店上架的应用，都不会存在安全隐含，即都为正常应用。在后续使用过程中，也不会推送目标通知消息。
基于此，在本申请实施例中，如图9所示，在第一应用推送第一通知消息之后，即电子设备接收到第一应用的第一通知消息后，电子设备可以判断第一应用是否从应用商店中下载。若第一应用不是从应用商店中下载，则电子设备获取第一通知消息的属性信息，以便于检测第一通知消息是否为目标通知消息。若第一应用从应用商店中下载，电子设备显示第一应用推送的第一通知消息。
这样一来，通过判断第一应用是否从应用商店中下载，若第一应用从应用商店中下载，电子设备可以不执行本申请的方法，正常显示第一应用推送的第一通知消息；若第一应用不是从应用商店中下载，电子设备执行本申请的方法，识别该第一通知消息是否为目标通知消息，以降低设备功耗。
为了进一步保护用户隐私以及财产安全，在一些实施例中，电子设备可以设置不响应用户对第二通知消息的操作；或者，电子设备响应于用户对第二通知消息的操作，不显示第一通知消息的通知内容的详情页。这样一来，用户无法看到第一通知消息对应的通知内容的详情页，也不会存在泄露用户隐私以及财产安全的问题。
以电子设备为手机为例，示例性的，如图10中(1)所示，手机接收用户对第二通知消息的第一操作；其中，第一操作用于触发手机显示第一通知消息对应的通知内容的详情页。在一些实施例中，手机不响应该第一操作，即手机接收到用户对第二通知消息的第一操作之后，不会跳转至第一通知消息对应的通知内容的详情页。
或者，如图10中(2)所示，手机响应于第一操作，显示第一界面。该第一界面不包括第一通知消息的通知内容的详情页，即，第一界面为空白页。
结合上述任一实施例，在一些实施例中，若电子设备识别到第一通知消息为目标通知消息，即文本分类预测结果指示第一通知消息为目标通知消息，电子设备关闭第一应用的消息推送服务。这样，第一应用在使用过程中就不会推送通知消息，从根本上解决了泄露用户隐私以及财产安全的问题。
示例性的，结合上述实施例中，电子设备可以关闭第一应用的通知通道(channel)，即电子设备关闭了第一应用推送通知消息的权限。这样，即使第一应用推送了通知消息，也不会在状态栏中显示该推送的通知消息。
需要说明的是，一般情况下，电子设备上都会安装一些用户不常使用的应用，并且这些应用推送目标通知消息的可能性较大。基于此，在本申请实施例中，电子设备还可以保存有预设应用名单，该预设应用名单包括用户使用频率小于预设频率的应用的应用包名。也就是说，该预设名单包括用户不常使用的应用的应用包名。
在此基础上，若文本分类预测结果指示第一通知消息为目标通知消息，电子设备获取第一应用的应用包名，并将第一应用的应用包名与预设名单进行匹配。若第一应用的应用包名在预设名单内，电子设备卸载第一应用。
在该实施例中，通过将第一应用的应用包名与预设名单相匹配，若第一应用的应用包名在预设名单内，电子设备卸载第一应用，即电子设备卸载用户不常使用的应用。这样一来，可以进一步避免泄露用户隐私以及财产安全的问题。
相应的，结合上述任一实施例，若电子设备识别到第一通知消息为目标通知消息，电子设备将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件保存。例如，电子设备将日志文件保存在ROM中。
在一些实施例中，若电子设备保存的日志文件的数量大于预设数量阈值，电子设备向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果。在另一些实施例中，电子设备周期性的向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果。如，电子设备每隔24小时，或48小时向服务器发送第一通知消息，以及与第一通知消息对应的文本分类预测结果。
服务器接收到电子设备发送的第一通知消息，以及与第一通知消息对应的文本分类预测结果，并基于第一通知消息，以及与第一通知消息对应的文本分类预测结果训练并更新文本分类模型。后续，服务器将更新后的文本分类模型发送至电子设备，由电子设备保存在ROM中。
在一些实施例中，服务器可以通过空中下载技术(over-the-air technology，OTA)更新文本分类模型，即服务器在更新电子设备的***时，同时更新文本分类模型，不需要单独更新文本分类模型，提高了资源利用率。需要说明的是，服务器还可以通过其他方式更新文本分类模型，此处不再一一列举。
上述以服务器更新文本分类模型为例进行示意，当然，电子设备还可以自主更新文本分类模型。示例性的，电子设备将第一通知消息，以及与第一通知消息对应的文本分类预测结果作为一组日志文件保存之后，可以在电子设备开机(如每一次开机)时更新文本分类模型。
需要说明的是，本申请的各个实施例所记载的内容可以解释、说明本申请的其他实施例中的技术方案，各个实施例中记载的技术特征也可以在其他实施例中应用，与其他实施例中的技术特征进行结合形成新的方案，本申请只是示例性地列举几个实施例进行说明，并不代表本申请局限于此。
本申请实施例提供一种电子设备，该电子设备可以包括显示屏、存储器以及一个或多个处理器；存储器中存储有计算机程序代码，计算机程序代码包括计算机指令，当计算机指令被所述处理器执行时，使得电子设备可执行上述实施例中电子设备执行的各个功能或者步骤。该电子设备的结构可以参考图3所示的电子设备100的结构。
本申请实施例还提供一种芯片***，如图11所示，该芯片***1800包括至少一个处理器1801和至少一个接口电路1802。其中，处理器1801可以是上述实施例中图3所示的处理器110。接口电路1802例如可以为处理器110和外部存储器之间的接口电路；或者为处理器110和内部存储器121之间的接口电路。
上述处理器1801和接口电路1802可通过线路互联。例如，接口电路1802可用于从其它装置(例如电子设备的存储器)接收信号。又例如，接口电路1802可用于向其它装置(例如处理器1801)发送信号。示例性的，接口电路1802可读取存储器中存储的指令，并将该指令发送给处理器1801。当所述指令被处理器1801执行时，可使得电子设备执行上述实施例中电子设备执行的各个步骤。当然，该芯片***还可以包含其他分立器件，本申请实施例对此不作具体限定。
本申请实施例还提供一种计算机可读存储介质，该计算机可读存储介质包括计算机指令，当计算机指令在电子设备上运行时，使得该电子设备执行上述方法实施例中的各个功能或者步骤。
本申请实施例还提供一种计算机程序产品，该计算机程序产品包括计算机指令；当计算机指令在电子设备上运行时，使得该电子设备执行上述方法实施例中的各个功能或者步骤。
通过以上实施方式的描述，所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个装置，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是一个物理单元或多个物理单元，即可以位于一个地方，或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个可读取存储介质中。基于这样的理解，本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该软件产品存储在一个存储介质中，包括若干指令用以使得一个设备(可以是单片机，芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何在本申请揭露的技术范围内的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (8)

1.一种应用通知消息的检测方法，其特征在于，应用于电子设备，所述电子设备中安装有第一应用，所述方法包括：
所述电子设备接收到所述第一应用的第一通知消息，获取所述第一通知消息的属性信息；其中，所述第一通知消息的属性信息包括所述第一通知消息的通知标题和通知内容；
所述电子设备组合所述通知标题和所述通知内容，并对组合后的所述通知标题和所述通知内容进行文本向量化处理，得到预设长度的数值向量；
所述电子设备将所述预设长度的数值向量作为输入，运行文本分类模型，对所述预设长度的数值向量进行向量数量积计算，得到文本分类预测结果；
若所述向量数量积大于预设向量数量积，所述文本分类预测结果指示所述第一通知消息为目标通知消息；其中，所述向量数量积的值用于表征目标词出现在第一通知消息中的频率；所述目标通知消息为存在泄露用户隐私或损失用户财产的风险的通知消息；
若所述文本分类预测结果指示所述第一通知消息为所述目标通知消息，所述电子设备则显示第二通知消息；其中，所述第二通知消息包括所述第一通知消息的通知标题、通知内容、以及所述电子设备基于所述第一通知消息创建的风险提示信息，所述风险提示信息用于向用户提示所述第一通知消息存在风险；
其中，所述方法还包括：
所述电子设备接收用户对所述第二通知消息的第一操作；其中，所述第一操作用于触发所述电子设备显示所述第一通知消息对应的通知内容的详情页；
所述电子设备不响应所述第一操作；或者，所述电子设备响应于所述第一操作显示第一界面，所述第一界面不包括所述第一通知消息的通知内容的详情页。
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
若所述文本分类预测结果指示所述第一通知消息为所述目标通知消息，所述电子设备关闭所述第一应用的消息推送服务。
3.根据权利要求1或2所述的方法，其特征在于，所述电子设备保存有预设应用名单，所述预设应用名单包括用户使用频率小于预设频率的应用的应用包名；所述方法还包括：
若所述文本分类预测结果指示所述第一通知消息为所述目标通知消息，所述电子设备获取所述第一应用的应用包名；
若所述第一应用的应用包名在所述预设应用名单内，所述电子设备卸载所述第一应用。
4.根据权利要求1或2所述的方法，其特征在于，所述获取所述第一通知消息的属性信息，包括：
若所述第一应用不是所述电子设备从应用商店中下载的应用，所述电子设备获取所述第一通知消息的属性信息。
5.根据权利要求1所述的方法，其特征在于，所述电子设备保存有通知消息与风险提示信息的对应关系；若所述文本分类预测结果指示所述第一通知消息为所述目标通知消息，所述电子设备则显示第二通知消息，包括：
若所述文本分类预测结果指示所述第一通知消息为所述目标通知消息，所述电子设备获取与所述第一通知消息对应的风险提示信息的属性信息；其中，所述风险提示信息的属性信息包括提示框和提示内容；
所述电子设备基于所述风险提示信息的提示框和提示内容，以及所述第一通知消息的通知标题和通知内容，显示所述第二通知消息。
6.根据权利要求1、2或5中任一项所述的方法，其特征在于，所述方法还包括：
所述电子设备将所述第一通知消息，以及与所述第一通知消息对应的文本分类预测结果作为一组日志文件保存；
若所述电子设备保存的所述日志文件的数量大于预设数量阈值，所述电子设备向服务器发送所述第一通知消息，以及与所述第一通知消息对应的文本分类预测结果；其中，所述第一通知消息和所述第一通知消息对应的文本分类预测结果用于更新所述文本分类模型；
所述电子设备接收来自服务器的更新后的文本分类模型；
其中，所述更新后的文本分类模型是由所述服务器通过空中下载技术OTA更新的。
7.一种电子设备，其特征在于，包括：显示屏、存储器和一个或多个处理器；所述显示屏、所述存储器和所述处理器耦合；
所述存储器用于存储计算机程序代码，所述计算机程序代码包括计算机指令；当所述处理器执行所述计算机指令时，使得所述电子设备执行如权利要求1-6中任一项所述的方法。
8.一种计算机可读存储介质，其特征在于，包括计算机指令；当所述计算机指令在电子设备上运行时，使得所述电子设备执行如权利要求1-6中任一项所述的方法。
CN202211227605.5A 2022-10-09 2022-10-09 一种应用通知消息的检测方法及电子设备 Active CN116709339B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211227605.5A CN116709339B (zh) 2022-10-09 2022-10-09 一种应用通知消息的检测方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211227605.5A CN116709339B (zh) 2022-10-09 2022-10-09 一种应用通知消息的检测方法及电子设备

Publications (2)

Publication Number Publication Date
CN116709339A CN116709339A (zh) 2023-09-05
CN116709339B true CN116709339B (zh) 2024-07-12

Family

ID=87834529

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211227605.5A Active CN116709339B (zh) 2022-10-09 2022-10-09 一种应用通知消息的检测方法及电子设备

Country Status (1)

Country Link
CN (1) CN116709339B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104580093A (zh) * 2013-10-21 2015-04-29 腾讯科技（深圳）有限公司 网站通知消息的处理方法、装置及***
CN106940641A (zh) * 2016-01-05 2017-07-11 阿里巴巴集团控股有限公司 通知消息的处理方法和装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102752730B (zh) * 2012-07-19 2014-04-16 腾讯科技（深圳）有限公司 消息处理的方法及装置
CN104346569B (zh) * 2013-07-31 2019-02-22 北京猎豹移动科技有限公司 移动终端中恶意广告的识别方法、装置和移动终端
KR102480293B1 (ko) * 2014-08-04 2022-12-23 에스 차이루도 가부시키가이샤 위험 검출 장치, 위험 검출 방법, 및 위험 검출 프로그램을 기록한 컴퓨터로 읽을 수 있는 매체
CN106686599B (zh) * 2015-11-05 2020-10-20 创新先进技术有限公司 一种用于应用信息的风险管理的方法与设备
CN105389518A (zh) * 2015-12-24 2016-03-09 北京奇虎科技有限公司 通知栏消息接管方法、装置及移动终端
CN105611513A (zh) * 2016-02-29 2016-05-25 宇龙计算机通信科技(深圳)有限公司 一种移动终端短信显示方法及***
CN107454126B (zh) * 2016-05-31 2021-10-22 华为终端有限公司 一种消息推送方法、服务器及终端
CN106095453B (zh) * 2016-06-16 2019-12-24 北京金山安全软件有限公司 一种信息展示方法、装置及电子设备
US20180018459A1 (en) * 2016-07-15 2018-01-18 Trustlook Inc. Notification of Maliciousness Categorization of Application Programs for Mobile Devices
CN109089229B (zh) * 2017-06-13 2022-06-14 腾讯科技（深圳）有限公司 进行风险提示的方法、装置、存储介质及终端
US11500507B2 (en) * 2017-09-30 2022-11-15 Huawei Technologies Co.. Ltd. Notification display method and terminal
EP3820130B1 (en) * 2018-08-23 2023-12-20 Huawei Technologies Co., Ltd. Method and electronic device for processing notification message
CN114971107A (zh) * 2021-02-25 2022-08-30 华为技术有限公司 一种隐私风险反馈方法、装置及第一终端设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104580093A (zh) * 2013-10-21 2015-04-29 腾讯科技（深圳）有限公司 网站通知消息的处理方法、装置及***
CN106940641A (zh) * 2016-01-05 2017-07-11 阿里巴巴集团控股有限公司 通知消息的处理方法和装置

Also Published As

Publication number Publication date
CN116709339A (zh) 2023-09-05

Similar Documents

Publication Publication Date Title
CN110910872B (zh) 语音交互方法及装置
CN111724775B (zh) 一种语音交互方法及电子设备
CN113778663B (zh) 一种多核处理器的调度方法及电子设备
US20220358089A1 (en) Learning-Based Keyword Search Method and Electronic Device
US20170249934A1 (en) Electronic device and method for operating the same
CN112269853B (zh) 检索处理方法、装置及存储介质
CN113806473A (zh) 意图识别方法和电子设备
US20210405767A1 (en) Input Method Candidate Content Recommendation Method and Electronic Device
US20230041690A1 (en) Intelligent reminding method and device
CN114077529B (zh) 日志上传方法、装置、电子设备及计算机可读存储介质
US12050633B2 (en) Data processing method and apparatus
CN114079642B (zh) 一种邮件处理方法及电子设备
CN112740148A (zh) 一种向输入框中输入信息的方法及电子设备
CN113656089B (zh) 应用程序中的类验证方法和装置
CN116128571B (zh) 广告曝光量分析方法及相关装置
CN116483734A (zh) 一种基于编译器的插桩方法、***及相关电子设备
CN116069219B (zh) 一种获取日程信息的方法和电子设备
CN116709339B (zh) 一种应用通知消息的检测方法及电子设备
CN113128265A (zh) 一种人物识别方法及装置
CN113380240B (zh) 语音交互方法和电子设备
CN114817521B (zh) 搜索方法和电子设备
CN117133281B (zh) 语音识别方法和电子设备
CN116027933B (zh) 处理服务信息的方法和装置
CN117711014B (zh) 隔空手势识别方法、装置、电子设备及可读存储介质
CN117952579A (zh) 一种信息获取方法及移动终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant