CN107810497B - 呈现搜索结果的方法、***、和介质 - Google Patents

Abstract

提供一种用于呈现搜索结果的方法、***和、介质。根据一些实施例，该方法包括：接收与搜索查询相对应的文本；确定与搜索查询相关联的内容评级分值是否低于预定阈值，其中，通过下述步骤计算分值：识别使用搜索查询检索的第一多个搜索结果，其中，每个搜索结果与多个内容评级类中的一个相关联；以及计算内容评级分值，该内容评级分值是与内容评级类的至少一个相关联的搜索结果在第一多个搜索结果之中的比例；响应于确定该内容评级分值低于预定阈值，识别将要基于搜索查询呈现的第二多个搜索结果；以及使第二多个搜索结果被呈现。

Description

呈现搜索结果的方法、***、和介质

相交申请的交叉引用

本申请要求于2015年2月20日提交的美国专利申请No.14/628,093的优先权的权益，其全部内容通过参考的方式并入在本文中。

技术领域

本公开主题涉及一种用于呈现搜索结果的方法、***、和介质。

背景技术

内容提供者将大量内容发布到诸如视频分享网站和社交媒体网站的内容网站，用于消费。例如，具有移动电话的个人能记录事件并且将视频发布到社交媒体网站，用于任何人浏览。此外，诸如例如教育机构、广告商、和/或制作公司的更多正式的发布者产生将会在与个人相同的内容网站上发布的内容。想要探查可用内容的消费者可以在内容网站上执行搜索，以检索内容的最终列表。然而，从搜索检索的某些内容被认为违禁的和/或不适于呈现给消费者。例如，儿童可能在各种计算设备上搜索诸如视频、音频记录、电视节目等的媒体内容。父母可能不想要他们的孩子能够浏览来自可以导致被检索的成人内容(例如，暴力内容、色情内容、亵渎、药物使用等)搜索查询的结果。此外，呈现给儿童的成人内容或者其它方面的违禁的内容的单个实例能够被视为具有破坏性效果。然而，可能难以识别可以导致成人内容的搜索查询。

因此，期望提供用于呈现搜索结果的新方法、***和介质。

发明内容

提供一种用于呈现搜索结果的方法、***、和介质。

根据公开主题的一些实施例提供一种用于呈现搜索结果的方法，该方法包括：接收与在用户设备上录入的搜索查询相对应的文本；确定与该搜索查询相关联的内容评级分值是否低于预定阈值，其中，该分值通过下述操作来计算：识别使用该搜索查询检索的第一多个搜索结果，其中，第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及计算该内容评级分值，该内容评级分值是与内容评级类中的至少一个相关联的搜索结果在第一多个搜索结果之中的比例；响应于确定该内容评级分值低于预定阈值，识别要基于该搜索查询呈现的第二多个搜索结果；以及使第二多个搜索结果呈现在用户设备上。

根据公开主题的一些实施例提供一种用于呈现搜索结果的***，该***包括：硬件处理器，硬件处理器被编程以：接收与用户设备上录入的搜索查询相对应的文本；确定与该搜索查询相关联的内容评级分值是否低于预定阈值，其中，硬件处理器被进一步编程以：识别使用该搜索查询检索的第一多个搜索结果，其中，第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及计算该内容评级分值，该内容评级分值是与内容评级类中的至少一个相关联的搜索结果在第一多个搜索结果之中的比例；响应于确定该内容评级分值低于预定阈值，识别要基于该搜索查询呈现的第二多个搜索结果；以及使第二多个搜索结果在用户设备上呈现。

根据公开主题的一些实施例提供一种非暂时性计算机可读介质，该计算机可读介质包含计算机可执行指令，计算机可执行指令当由处理器执行时，使处理器执行用于呈现搜索结果的方法。该方法包括：接收与用户设备上录入的搜索查询相对应的文本；确定与该搜索查询相关联的内容评级分值是否低于预定阈值，其中，该分值通过下述操作来计算：识别使用该搜索查询检索的第一多个搜索结果，其中，第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及计算该内容评级分值，该内容评级分值是与内容评级类中的至少一个相关联的搜索结果在第一多个搜索结果之中的比例；响应于确定该内容评级分值低于预定阈值，识别将要基于该搜索查询呈现的第二多个搜索结果；以及使第二多个搜索结果呈现在用户设备上。

根据公开主题的一些实施例提供一种用于呈现搜索结果的***，该***包括：用于接收与用户设备上录入的搜索查询相对应的文本的装置；用于确定与该搜索查询相关联的内容评级分值是否低于预定阈值的装置，其中，通过用于识别使用该搜索查询检索的第一多个搜索结果计算分值，其中，第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及用于计算该内容评级分值的装置，该内容评级分值是与内容评级类中的至少一个相关联的搜索结果在第一多个搜索结果之中的比例；响应于确定该内容评级分值低于预定阈值，用于识别要基于该搜索查询呈现的第二多个搜索结果的装置；以及用于使第二多个搜索结果呈现在用户设备上的装置。

在一些实施例中，该***进一步包括用于将权重应用到第一多个搜索结果中的每个的装置，其中，使用权重计算与内容评级类中的至少一个相关联的搜索结果的比例。

在一些实施例中，基于相关联的搜索结果与该搜索查询的相关性确定权重。

在一些实施例中，基于与第一多个搜索结果的每个相关联的内容评级类，识别第二多个搜索结果。

在一些实施例中，第二多个搜索结果为第一多个搜索结果的子集。

在一些实施例中，所述多个内容评级类与对适于所有年龄的内容所指定的第一内容评级类和对适于成人的内容所指定的第二内容评级类相对应。

在一些实施例中，所述预定阈值包括第一阈值和第二阈值，以及该***进一步包括：响应于确定该内容评级分值高于预定阈值，用于确定与所述多个内容评级类中的第一内容评级类相关联的搜索结果与该搜索查询的第一相关性和与所述多个内容评级类中的第二内容评级类相关联的搜索结果与该搜索查询的第二相关性的装置；用于确定第一相关性是否与第二相关性类似或大于第二相关性的装置；用于响应于确定第一相关性与第二相关性类似或大于第二相关性，识别要呈现的第三多个搜索结果的装置；以及用于使第三多个搜索结果呈现在用户设备上的装置。

在一些实施例中，该***进一步包括：用于响应于确定该内容评级分值高于第二预定阈值，禁止呈现基于该搜索查询的搜索结果的装置；以及用于使得呈现已经禁止所述搜索结果的呈现的指示的装置。

在一些实施例中，与该搜索查询相对应的所接收的文本是从注释人员接收的，以及该***进一步包括：用于确定该搜索查询是否能够使一个或多个搜索结果被呈现的装置；响应于确定该搜索查询使得第二多个搜索结果被呈现，用于使对该注释人员的所述确定的指示与对修改所述搜索查询的请求一起呈现的装置；用于从该注释人员接收附加的搜索查询并且确定该附加的搜索查询中的每个是否能够使一个或多个搜索结果被呈现的装置；以及用于响应于该搜索查询、该附加搜索查询、以及响应于该搜索查询和该附加搜索查询的一个或多个搜索结果，确定是否应当调整内容评级分值的装置。

附图说明

当关于以下附图考虑时，参考本公开主题的以下详细描述，能够更全面地显而易见本公开主题的各种目的、特征和优点，其中，相同的参考数字指示相同的元件。

图1示出根据公开主题的一些实施例的用于呈现搜索结果的***的示例的示意图。

图2示出根据公开主题的一些实施例的能够被使用在服务器和/或用户设备中的硬件的示例。

图3示出根据公开主题的一些实施例的用于呈现搜索结果的信息流程图的示例。

图4示出根据公开主题的一些实施例的用于计算与搜索查询相关联的安全性分值的过程的示例。

图5示出根据公开主题的一些实施例的用于确定是否阻止搜索查询的过程的示例。

图6示出根据公开主题的一些实施例的用于分类搜索查询的过程的示例。

图7示出根据公开主题的一些实施例的用于计算搜索查询的相关分值和相关联的搜索结果的过程的示例。

图8A和8B示出根据公开主题的一些实施例的用于分别指示搜索查询已经被阻止并且用于呈现基于搜索查询检索的搜索结果的用户界面的示例。

图9示出根据公开主题的一些实施例的用于接收用户输入以过滤搜索结果的用户界面的示例。

具体实施方式

根据各种实施例，提供用于呈现搜索结果的机制(能够包括方法、***、和介质)。

在一些实施例中，本文中描述的机制能从用户设备接收搜索查询，并且能够基于与关于搜索查询检索的搜索结果相关的信息，确定搜索查询是否被阻止。如果确定阻止搜索查询，则机制能够使已经阻止搜索查询的指示呈现在用户设备上。如果确定搜索查询未被阻止，则机制能够使一些或全部检索的搜索结果呈现在用户设备上。在一些实施例中，能够与其中写入搜索查询的语言无关地进行搜索查询是否被阻止的确定。

在一些实施例中，机制能够使用任何适合的技术，确定搜索查询被阻止。例如，在一些实施例中，机制能够确定与被指示为用于呈现(例如，呈现给特定年龄的儿童)安全的内容相关联的搜索结果的比例，并且如果该比例超出阈值，则能够确定搜索查询未被阻止。另一示例是，在一些实施例中，机制能够生成与搜索结果相关联的内容评级的分布或内容评级的分类，并且能够计算分布的偏斜以确定搜索结果是否朝向适合特定人口统计(例如，适于儿童、适于成人、和/或任何其他适合的人口统计)的内容偏斜。又一示例是，在一些实施例中，机制能够确定指示与查询相关联的搜索结果的相对安全性的搜索查询相关联的分类。分类的特定示例能够包括：儿童很可能搜索和很可能产生安全内容的查询、儿童很可能搜索并且很可能产生成人内容的查询、儿童不可能搜索和/或不应当搜索的查询、中性查询(例如广义的查询)并且可能产生成人内容，和/或可能产生特定类型的成人内容(例如，色情内容、暴力、药物使用、和/或任何其他类型的成人内容)的查询。

在一些实施例中，响应于确定搜索查询未被阻止，机制能够识别将要呈现的搜索结果的子集。例如，在一些实施例中，如果搜索查询被确定为是安全的(例如，基于与从查询返回的搜索结果相关联的成人内容的比例，基于查询的分类，和/或基于任何其他适合的信息)，能够呈现与特定内容评级或内容评级的特定类相关联的所有搜索结果(例如，适于所有年龄的搜索结果，和/或任何其他适合的内容评级或内容评级的类)。另一示例是，如果搜索查询被确定为可能安全(例如基于确定与搜索结果相关联的成人内容的比例是在特定范围中和/或基于查询的分类)，机制能够识别将要呈现的特定搜索结果。在一些这种实施例中，能够基于任何适合的信息识别搜索结果，该任何适合的信息诸如与搜索结果相关联的内容评级或内容评级的类、搜索结果的受欢迎度、搜索结果与搜索查询的相关性和/或任何其他适合的信息。

本文中描述的机制能够被使用在多种应用中。例如，在一些实施例中，能够识别和能够阻止倾向检索与成人内容相关联的搜索结果的搜索查询，这防止成人结果将要被呈现给特定用户或特定设备。另一示例是，在一些实施例中，能够识别涉及倾向检索可以包括安全和不安全内容二者的宽范围的搜索结果的宽泛搜索词项的搜索查询(例如，单个词、国家名等)，并且施行进一步分析以识别视为包括安全内容的搜索结果的子集。更特定的示例是，在搜索查询倾向检索安全和不安全搜索结果二者的实例中，例如，通过基于与搜索查询的相关性、关于搜索结果而频繁访问的搜索结果的相对安全性、具有特定人口统计(例如，儿童和/或任何其他适合的人口统计)的搜索结果的受欢迎度，和/或任何其他适合的信息，评级搜索结果，本文中描述的机制能够使用于呈现的、被误标记为安全的搜索结果不呈现。例如，能够实现这些机制以减少暴露于这种风险。

应当注意到，尽管本文中描述的实施例与视频内容相关，并且响应于接收搜索查询来呈现来自视频内容语料库的搜索结果，但是本文中描述的机制能够被用于呈现来自任何适合语料库的搜索结果。例如，在一些实施例中，语料库能够包括音频内容(例如，音乐、无线电节目、有声读物、和/或任何其他适合的内容)、游戏、电子文档(例如，电子邮件、电子书、和/或任何其他适合的电子文档)和/或任何其他适合的内容语料库。

转到图1，示出能够用于根据公开主题的一些实施例使用的、响应于搜索查询，提供搜索结果的硬件的示例100。如图示的，硬件100能够包括诸如搜索服务器102和安全性分值服务器104的一个或多个服务器、通信网络106、和一个或多个用户设备108。

搜索服务器102能够是用于接收搜索查询的任何适合的服务器，确定搜索查询是否被阻止，和/或响应于搜索查询，确定用于呈现的那些搜索结果。例如，在一些实施例中，搜索服务器102能够基于指示与特定内容评级或内容评级的类相关联的搜索结果的比例的信息，确定搜索查询是否被阻止，如下关于图3-图5示出和描述。附加地或可替选地，在一些实施例中，搜索服务器102能够基于指示搜索结果与特定搜索查询的相关性的信息，确定搜索查询是否被阻止。另一示例是，在一些实施例中，搜索服务器102能够确定将要呈现基于搜索查询检索的那些搜索结果。在更具体的示例中，在一些实施例中，如下关于图4和5图所描述，搜索服务器102能够基于搜索结果与搜索查询的相关性，识别将要呈现的那些搜索结果。在一些实施例中，能够省略搜索服务器102。

安全性分值服务器104能够是用于计算指示特定搜索查询的适合性的分值的任何适合的服务器。例如，在一些实施例中，如下关于图4示出和描述的，安全性分值服务器104能够通过检索与搜索查询相关联的搜索结果并且确定与内容评级的两种类中的一个类相关联的所检索的搜索结果的比例来计算分值。然而，应当注意到能够选择任何适合的指定的内容评级或内容评级的类(例如，确定在搜索结果集中包括的内容项中的每个是否具有属于三种内容评级类中的一个的内容评级)。另一示例是，在一些实施例中，如下关于图4描述的，安全性分值服务器104能够通过生成对应于与搜索查询相关联的搜索结果的内容评级的分布来计算分值并且能够计算分布偏斜。又一示例是，在一些实施例中，如下关于图7示出和描述的，安全性分值服务器104能够确定与搜索查询相关联的分类。在一些实施例中，能够省略安全性分值服务器104。

在一些实施例中，通信网络106能够是一个或多个有线和/或无线网络的任何适合的组合。例如，通信网络106能够包括互联网、移动数据网络、卫星网络、局域网、广域网、电话网络、有线电视网、WiFi网络、WiMax网络、和/或任何其他适合的通信网络中的任何一个或多个。

用户设备108能够包括适于录入搜索查询和/或呈现搜索结果的任何一个或多个用户设备。例如，在一些实施例中，用户设备108能够包括诸如移动电话的移动设备、平板计算机、膝上型计算机、车辆(例如，汽车、轮船、飞机或任何其他适合的车辆)娱乐***、便携式媒体播放器、或任何其他适合的移动设备。另一示例是，在一些实施例中，用户设备108能够包括诸如台式计算机、机顶盒、电视、流媒体播放器、游戏控制台、或任何其他适合的非移动设备的非移动设备。

尽管搜索服务器102和安全性分值服务器104被示为单独的设备，但在一些实施例中，这些设备中的任何一个或多个能够组合成一个设备。另外，尽管仅在图1中示出了一个搜索服务器102和一个安全性分值服务器104，以避免过于复杂的图，但在一些实施例中，能够使用这些设备中的每个的任何适合数量。

尽管仅在图1中示出一个用户设备108，以避免过于复杂的图，但是在一些实施例中，能够使用这些设备中的每个的任何适合数量，或这些设备的任何适合类型。

在一些实施例中，能够使用任何适合的硬件，实现搜索服务器102、安全性分值服务器104、和用户设备108。例如，在一些实施例中，能够使用任何适合的通用计算机或专用计算机，实现设备102、104、和108。例如，可以使用专用计算机，实现服务器。任何这种通用计算机或专用计算机能够包括任何适合的硬件。例如，如图2的示例硬件200中图示的，这种硬件能够包括硬件处理器202、存储器和/或存储204、输入设备控制器206、输入设备208、显示器/音频驱动器210、显示器和音频输出电路212、通信接口214、天线216、和总线218。

在一些实施例中，硬件处理器202能够包括用于控制通用计算机或专用计算机的功能的任何适合的硬件处理器，诸如微处理器、微控制器、数字信号处理器、专用逻辑件、和/或任何其他适合的电路。

在一些实施例中，存储器和/或存储204能够是用于存储程序、数据、媒体内容、和/或任何其他适合的信息的任何适合的存储器和/或存储。例如，存储器和/或存储204能够包括随机存取存储器、只读存储器、闪速存储器、硬盘存储器、光学介质、和/或任何其他适合的存储器。

在一些实施例中，输入设备控制器206能够是用于控制和接收来自一个或多个输入设备208的输入的任何适合的电路。例如，输入设备控制器206能够是用于接收来自触摸屏、来自一个或多个按钮、来自语音识别电路、来自麦克风、来自相机、来自光学传感器、来自加速度计、来自温度传感器、来自近场传感器、和/或任何其他类型的输入设备输入的电路。

在一些实施例中，显示器/音频驱动器210能够是用于控制和驱动向一个或多个显示器/音频输出电路212输出的任何适合的电路。例如，显示器/音频驱动器210能够是用于驱动LCD显示器、扬声器、LED、或任何其他类型的输出设备的电路。

通信接口214能够是用于与诸如图1所示的通信网络106的一个或多个通信网络接口连接的任何适合的电路。例如，接口214能够包括网络接口卡电路、无线通信电路、和/或任何其他适合类型的通信网络电路。

在一些实施例中，天线216能够是用于与通信网络无线地通信的任何适合的一个或多个天线。在一些实施例中，能够在不需要时省略天线216。

在一些实施例中，总线218能够是用于在两个或更多个组件202、204、206、210、和214之间通信的任何适合的机制。

根据一些实施例，能够在硬件200中包括任何其他适合的组件。

转到图3，根据公开主题的一些实施例示出用于确定搜索查询是否被阻止的信息流程图的示例300，以及如果确定搜索查询未被阻止，则呈现基于该查询检索的搜索结果。在一些实施例中，能够在用户设备108、搜索服务器102、和/或安全性分值服务器104上实现信息流程图300。

在302处，用户设备108能够通过从用户接收搜索查询开始。搜索查询能够与内容任何适合的语料库的搜索相对应。例如，在一些实施例中，搜索查询能够与视频内容的搜索相对应。另一示例是，在一些实施例中，搜索查询能够与包括任何适合的信息的数据库(例如，与媒体内容相关的信息、与文档相关的信息、和/或任何其他适合的信息)的所搜相对应。在一些实施例中，搜索查询能够包括任何适合的字符并且能够具有任何适合的长度。在一些实施例中，能够以任何适合的方式接收搜索查询。例如，在一些实施例中，当从键盘和/或触摸屏接收的文本输入时，当从通过用户设备108的麦克风接收到的、和/或以任何其他适合的方式接收到的所说的话语，使用语音识别技术转换的文本输入时，能够接收搜索查询。

在304，搜索服务器102能够接收搜索查询并且能够从安全性分值服务器104请求指示搜索查询的安全性的信息。在一些实施例中，接收的信息能够包括指示与搜索结果相关联的内容评级或内容评级的分类的信息，该所述结果与搜索查询相关联进行检索。例如，在一些实施例中，接收的信息能够指示与对应于特定内容评级或内容评级的类(例如，适于所有年龄，和/或任何其他适合的内容评级)的内容相关联的搜索结果的比例。另一示例是，如下关于图4的框406描述的，在一些实施例中，接收的信息能够指示与搜索结果相关联的内容评级的分布的偏斜。在一些实施例中，请求的信息能够被用于确定搜索查询是否被阻止(如下关于框308描述的)和/或被用于确定与将要呈现的搜索查询相关联的那些搜索结果(如下关于框312描述的)。

注意，在一些实施例中，搜索服务器102能够以任何适合的方式解析接收的搜索查询并且能够评估基于搜索查询的解析部分检索的搜索结果。例如，在一些实施例中，搜索服务器102能够解析检索的搜索查询，以确定搜索查询的意图。更具体的示例是，在一些实施例中，搜索服务器102能够解析接收的搜索查询，以确定特定词和/或短语涉及成人内容和/或与成人内容相关。在一些实施例中，搜索服务器102能够使用任何适合的技术解析搜索查询。例如，在一些实施例中，搜索服务器102能够确定与在搜索查询中包括的词和/或短语相关的词和/或短语(例如，同义词、与查询中的特定名称相关联的实体类型、查询中频繁出现有词和/或短语的词、和/或任何其他适合的相关词和/或短语)。在一些实施例中，响应于确定搜索查询涉及成人内容和/或与成人内容相关，搜索服务器102能够使搜索查询被阻止(例如，通过呈现没有搜索结果将会被呈现的指示)。

在306处，安全性分值服务器104能够响应于从搜索服务器102接收请求来计算安全性分值。安全性分值服务器104能够使用任何适合的信息和适合的技术计算安全性分值。例如，如下关于图4示出和描述的，在一些实施例中，安全性分值服务器104能够检索与搜索查询相关联的一组未过滤的搜索结果并且能够确定与特定内容评级或内容评级的类相关联的搜索结果的比例(例如，适于所有年龄，和/或任何其他适合的内容评级或内容评级的类)。另一示例是，如下关于图6示出和描述的，在一些实施例中，安全性分值服务器104能够确定与搜索查询相关联的分类(例如，该查询很可能与成人内容相关联，该查询很可能与成人内容不相关联，该查询是儿童不太可能和/或不应当录入的查询，和/或任何其他适合的分类)。注意，在一些实例中，对特定搜索查询，预先确定安全性分值和/或分类。在一些这种实施例中，安全性分值服务器104能够访问与先前分析的搜索查询相对应的存储的安全性分值和/或存储的分类的数据库，而不是计算分值和/或分类。然后，安全性分值服务器104能够将安全性得分布送到搜索服务器102。

在308处，搜索服务器102能够使用任何适合的信息和任何适合的技术，基于接收的安全性分值，确定搜索查询是否被阻止。例如，在一些实施例中，响应于确定与对应于特定内容评级或内容评级的类的查询相关联的搜索结果的比例(例如适于所有年龄，和/或任何其他适合的内容评级)低于预定阈值(例如小于搜索结果的50％，和/或任何其他适合的比例)，搜索服务器102能够确定完全阻止查询(即，将会不呈现搜索结果)。另一示例是，在一些实施例中，搜索服务器102能够响应于确定与搜索查询相关联的搜索结果与对应于不适合内容(例如，仅适于成人，和/或任何其他适合的内容评级)的比例低于预定阈值，确定未阻止查询。另一示例是，在一些实施例中，搜索服务器102能够响应于确定与对应于特定内容评级或内容评级的类(例如，适于所有年龄，和/或任何其他适合的内容评级)的查询相关联的搜索结果的比例在预定范围内(例如，在搜索结果的50％和90％之间，和/或任何其他适合的范围)，确定搜索查询将被部分地阻止。在下面描述中，关于图5示出和描述用于确定搜索查询是否被阻止的过程的更具体示例。又一示例是，如以下关于图6所示出和描述的，在一些实施例中，搜索服务器102能够响应于确定搜索查询与特定分类(例如，儿童未搜索和/或不应当搜索的特定分类、与对应于成人内容的搜索结果相关联的特定分类，和/或任何其他适合的分类)相关联，确定搜索查询被阻止。

在一些实施例中，基于任何适合的信息，能够确定其处搜索服务器102确定阻止或允许搜索查询的预定阈值。例如，在一些实施例中，能够基于与搜索查询本身相关联的参数确定预定阈值，该参数诸如搜索查询的长度(例如，搜索查询的词和/或字符的数量)和/或搜索查询中的单个词的长度和/或复杂度。更具体的示例是，在一些实施例中，响应于确定搜索查询具有多于词的特定数量和/或具有大于预定阈值的平均词长度(例如，指示由年长的孩子、青少年、和/或成人录入搜索查询)，搜索服务器102能够确定与指示内容适于儿童的内容评级的类相关联的搜索结果的比例能够相对低于用于更短搜索查询和/或具有更短平均词长的搜索查询的阈值。另一示例是，在一些实施例中，能够基于与在用户设备108上认证的用户账户相关联的评估模式，计算预定阈值。更具体的示例是，如果确定已经呈现与特定内容评级类相对应的内容(例如，适于青少年、适于成人、和/或任何其他适合的内容评级)，则搜索服务器102能够确定在适于所有年龄时指示的搜索结果的比例能够是相对较低的。

注意，在一些实施例中，基于指示搜索查询先前已经由用户(例如儿童、父母、老师和/或任何其他适合的用户)标记为不适合查询和/或可能生成与成人内容相关联的搜索结果的信息，搜索服务器102能够确定搜索查询将会被完全阻止。在一些实施例中，搜索服务器102能够从用户接收这种指示并且能够存储标记的搜索查询的指示，用于未来使用。

如果在308处确定搜索查询将会被完全阻止(在308处为“是”)，则在310处用户设备108能够呈现已经阻止搜索查询的指示。例如，如下关于图8A示出和描述的，在一些实施例中，用户设备108能够呈现指示阻止搜索查询并且响应于该查询没有返回搜索结果的消息。在一些实施例中，该消息能够指示用于阻止搜索查询的原因，例如，该消息指示该查询被确定为涉及成人内容(例如，仅适于成人、和/或任何其他适合类型的内容)和/或被确定为涉及特定类型的成人内容(例如，暴力、色情内容、亵渎、和/或任何其他类型的成人内容)。

注意，在一些实施例中，以任何适合的方式，能够执行正确地阻止被阻止的搜索查询、正确地允许未被阻止或允许的搜索查询的验证以及测量特定查询的阻塞(例如，与“国外政策”或“税务准备”相关的非儿童不适合查询)。例如，在一些实施例中，被阻止的搜索查询能够与先前确定为不安全的搜索查询的存储列表(例如，与高比例的成人内容相关联)进行比较。更具体的示例是，在一些实施例中，被阻止的搜索查询的词和/或短语能够与不安全搜索查询的列表上的词和/或短语进行比较。另一示例是，在一些实施例中，能够(例如，由注释人员)手动地验证被阻止的搜索查询。此外，在一些实施例中，手动验证的搜索查询的列表能够包括由注释人员提交并且被确定为检索不适合的比例的成人内容的搜索查询，而不是初始地被标记为被阻止并且随后手动验证的搜索查询。在一些这种实施例中，能够存储手动验证的搜索查询，以验证已经被阻止的其他搜索查询。

还注意，尽管能够使用上述验证特征，以确定是否通过例如执行图5的过程500的应用来正确的阻止查询，但是这个仅是示例性的。可替选地，在一些实施例中，能够使用这些验证特征，以评估是否正确地阻止搜索查询，或是否将会通过执行图5的过程500或本文中描述的其他过程的应用正确地阻止一些搜索查询。

在这个示例中，能够通过向一个或多个注释人员提供有用于至少评估执行本文中描述的过程的应用的部分的界面开始交互验证过程。在更具体的示例中，交互验证过程能够请求一个或多个注释人员通过提供用于输入将会导致接收不安全内容的搜索查询的界面来评估应用。

在一些实施例中，界面能够是包括用于接收由执行图5的过程500的应用提供的搜索查询的字段的搜索查询界面或任何其他适合的界面，该应用接收搜索查询并且确定允许还是阻止搜索查询。可替选地，界面能够是提供了由执行图5的过程500的应用提供的特征的部分的搜索查询界面。例如，界面能够包括用于输入搜索查询的搜索字段和将搜索查询发送到安全性分值服务器或任何其他适合的服务器的交互元件(例如“获得结果(GetResults)”按钮)。

在一些实施例中，交互验证过程能够将指令发送到注释人员，以通过以任何适合的语言将文本输入、语音输入、或任何其他适合的输入提供到搜索输入界面中来尝试接收不安全内容。

应当注意到，能够将任何适合的指令呈现给一个或多个注释人员。例如，在一些实施例中，交互验证过程能够将多个指令发送到注释人员-例如，用于将注释人员相信将会检索到不安全内容的搜索查询输入到搜索输入界面中的一个指令以及用于评估搜索结果并且指示搜索结果中的一个或多个是否包括不安全内容的另一指令。

在一些实施例中，响应于从注释人员接收到候选搜索查询，交互验证过程能够发送候选搜索查询，以识别将要被呈现的搜索结果(例如，关于图3的框312描述的)，以计算安全性分值(例如，关于图3和图4描述的)，和/或以确定是否阻止搜索查询(例如，关于图3、图5、和图6所述)。在更具体的示例中，交互验证过程能够将候选搜索查询发送到安全性分值服务器，其中安全性分值服务器返回指示允许还是阻止该候选搜索查询的响应。在这个示例中，如果候选搜索查询被确定为允许，则能够在该界面中呈现响应于候选搜索查询的搜索结果的子集(例如，前5个、前10个等)。继续该示例，交互验证过程能够提示注释人员在未来尝试检索不安全搜索结果中提供后续候选搜索查询。例如，基于允许候选搜索查询的反馈，该交互验证过程能够提示注释人员提供可以获得不安全内容的细化或者修改的搜索查询。在另一示例中，交互验证过程能够为注释人员呈现输入的搜索查询的列表，使得能够评估搜索查询的进度和它们相关联的结果(例如，[搜索查询1]...[搜索查询N]，其中每个是用于指示阻止还是允许该查询或指示具有不安全内容的查询的颜色编码)。可替选地，如果候选搜索查询被确定为被阻止，交互验证过程能够将用户成功地获得用于输入的搜索查询(例如，成人意图查询)的不安全搜索结果的指示发送到注释人员。例如，尽管响应于阻止输入的搜索查询，本文中描述的实施例可以不呈现搜索结果，但是由交互验证过程提供的指示能够包括无安全搜索结果响应于输入的搜索查询的消息或指示(例如，“注释员A：对于您的查询不存在良好的结果”)。

在一些实施例中，响应于接收对候选搜索查询做出响应的搜索结果的子集，交互验证过程能够将请求发送到注释人员，以评估搜索结果的子集并且指示每个搜索结果对于呈现是否是安全的。在更具体的示例中，能够向注释人员呈现用于确定搜索结果对于呈现是否是安全的的标准集(例如，“是对小于5岁的儿童安全的结果吗？”)。

响应于处理候选搜索查询和/或以便搜索结果对于呈现是否被视为安全的接收指示，交互验证过程能够以任何适合的方式使用这种评估数据。例如，交互验证过程能够评估由注释人员输入并且获得不安全搜索结果的候选搜索查询，并且调整安全性分值服务器的分类器的一个或多个参数(例如，安全性分值的阈值、权重、范围等)。附加地或可替选地，交互验证过程能够提供在安全性分值服务器中操作的分类器的至少一部分需要进一步评估的推荐或指示(例如，附加的候选搜索查询、阈值或权重的附加的调整等)。

回到图3，如果在308处，确定搜索查询没有完全地被阻止(在308处为“否”)，在312处，搜索服务器102能够确定与将要呈现搜索查询相关联的那些搜索结果。搜索服务器102能够使用任何适合的技术或技术组合，以识别将要呈现的搜索结果。例如，在一些实施例中，搜索服务器102能够基于相对安全性分值和/或搜索查询的分类来选择搜索结果。更具体的示例是，如果安全性分值指示与查询相关联的搜索结果的比例低于预定阈值(例如，小于50％、小于40％、和/或任何其他适合的比例)，该查询与成人内容相关联，则搜索服务器102能够确定将要呈现与特定内容评级或内容评级的类(例如，指示该内容适于所有年龄的内容评级或内容评级的类、被确定为儿童感兴趣的内容评级或内容评级的类、和/或任何其他适合的评级)相关联的所有搜索结果。

另一示例是，如果安全性分值指示与查询相关联的搜索结果的比例在特定范围内(例如在50％和90％之间、在40和80％之间、和/或任何其他适合的范围)，该查询与成人内容评级或成人内容评级的类相关联，则如下关于图5示出和描述的，搜索服务器102能够确定仅将特定搜索结果呈现。在一些实施例中，特定搜索结果能够包括被确定为儿童感兴趣的那些的特定搜索结果和/或被预测为与具有确定性的特定级别(例如，大于70％置信度、大于80％置信度、和/或任何其他适合的确定性)的特定内容评级或内容评级的类(例如，适于所有年龄、和/或任何其他适合的评级)相关联的那些的特定搜索结果。在一些实施例中，基于任何适合的分类技术，能够确定将内容评级或内容评级的类指定到搜索结果的确定性的级别。一特定的示例是，用于将内容评级或内容评级的类指定到搜索结果的分类器能够存储与指定的内容评级或内容评级的类相关联的置信度值的指示。在一些实施例中，能够基于任何适合的信息确定内容评级或内容评级的类，该任何适合的信息诸如已经被用于检索搜索结果的搜索词项、对搜索结果的访问者的人口统计、搜索结果的受欢迎度、通常访问搜索结果的时刻、和/或任何其他适合的信息。

在一些实施例中，搜索服务器102能够基于任何适合的信息(例如，内容评级或内容评级的类，与搜索查询的相关性、与搜索结果相关联的内容的创建的日期、与从用户设备浏览的媒体内容相关联的浏览统计、和/或任何其他适合的信息)或信息的组合，排名基于搜索查询检索的一组候选搜索结果，并且能够基于排名选择该组候选搜索结果的子集。更具体的示例是，在一些实施例中，搜索服务器102能够使与对应于特定内容评级或内容评级的类(例如，适于所有年龄，和/或任何其他适合的内容评级)的内容相关联的搜索结果排名更高。另一更具体的示例是，在一些实施例中，搜索服务器102能够使与还被确定为具有与搜索结果的相关性的特定级别(例如，如下关于图7描述而确定的)的特定内容评级或内容评级的类的相对应的搜索结果排名更高。又一更具体的示例是，在一些实施例中，搜索服务器102能够使与已经最近(例如，最后一天内、最后一周内、和/或任何其他适合的时间段内)(例如，在用户设备108和/或与用户设备108上验证的用户账户相关联的任何其他用户设备上)呈现的媒体内容项相关的搜索结果排名更高。又一更具体的示例是，在一些实施例中，搜索服务器102能够使与已经最近呈现的媒体内容项相关的搜索结果排名更低。

在一些实施例中，当选择搜索结果以呈现时，搜索服务器102能够确定特定搜索结果(例如，不与内容评级相关联的特定搜索结果和/或其中内容评级可能不正确的特定搜索结果)是否适于呈现。例如，在一些实施例中，搜索服务器102能够确定与搜索结果的内容评级或内容评级的类相关联的置信度值，并且如果置信度值低于预定阈值(例如，低于90％置信度、低于80％置信度、和/或任何其他适合的值)，则能够确定要求进一步分析。搜索服务器102能够使用任何适合的信息来确定是否将要呈现未评级的搜索结果和/或与被指定有低置信度的内容评级或内容评级的类相关联的搜索结果。例如，在一些实施例中，搜索服务器102能够识别与关于浏览搜索结果频繁观看和/或基于浏览搜索结果推荐的内容相关联的内容评级。另一示例是，在一些实施例中，搜索服务器102能够确定将呈现与指示内容适于呈现并且被指定有高置信度值(例如，大于80％置信度，和/或任何其他适合的值)的评级相关联的搜索结果。在一些这种实施例中，响应于确定搜索查询与安全内容和成人内容二者相关联，能够认为与特定搜索结果相关联的置信度值更大。再一个示例是，在一些实施例中，搜索服务器102能够确定内容评级或内容评级的类是否已经被指定到在任何其他内容评级数据库(例如，存储与特定电影、视频、电视节目、视频游戏、和/或任何其他适合的内容相关的信息的数据库)中、与搜索结果相关联的内容项。

在一些实施例中，能够使用与一组未过滤的搜索查询相关联的相关联的内容评级或内容评级的类(例如，不限于任何特定内容评级或内容评级的类)，该一组未过滤的搜索查询与搜索结果相关联，来确定在框306处计算的安全性分值。在一些这种实施例中，搜索服务器102能够执行第二搜索，以确定与将要呈现搜索查询相关联的那些结果。例如，在一些实施例中，能够使用任何适合的内容评级或内容评级的类过滤第二搜索。更具体的示例是，在一些实施例中，第二搜索能够限于被指示为适于所有年龄、适于比特定年龄更年幼的儿童的内容、和/或任何其他适合的内容。

注意，在一些实施例中，搜索服务器102能够基于任何适合的信息来确定不被呈现的搜索结果。例如，在一些实施例中，搜索服务器102能够响应于确定与预定搜索结果的数量相比更少的搜索结果的数量(例如，少于5个、少于10个、和/或任何其他适合的数量)与特定内容评级或内容评级的类(例如，适于所有年龄和/或任何其他适合的评级)相关联，来确定将不被呈现的搜索结果。注意，在一些实例中，即使搜索结果中的成人内容的比例是相对低的，例如，如果存在对该搜索查询返回的相对少的搜索结果，这个也能够发生。此外，注意，这个能够发生在其中与搜索查询相关联的最高排名的结果与成人内容相对应的实例中。另一示例是，在一些实施例中，搜索服务器102能够基于搜索结果与搜索查询的相关性来确定搜索结果不被呈现。例如，如果(例如，使用关于图7示出和描述的技术确定的)最相关的搜索结果不满足相关性的阈值的级别，则搜索服务器102能够确定搜索结果将不被呈现。另一示例是，在一些实施例中，如果存在与搜索查询的最小相关性级相关联的搜索结果的预定数量相比更少的搜索结果的预定数量(例如，少于3个，少于5个、和/或任何其他适合的数量)，则搜索服务器102能够确定搜索结果将不被呈现。

在一些实施例中，然后，搜索服务器102能够将所选择的搜索结果的指示发送到用户设备108。

在314处，用户设备108能够使所选搜索结果被呈现。例如，如下关于图8示出和描述的，在一些实施例中，关于搜索查询呈现搜索结果。在一些实施例中，以任何适合的方式，呈现搜索结果。例如，在一些实施例中，单独的搜索结果能够包括任何适合的信息，诸如该搜索结果相对于其他返回的搜索结果的排名的指示、与搜索结果相关联的名称和/或标题的指示、与搜索结果相关联的日期(例如，创建的日期、修改的日期、和/或任何其他适合的日期)的指示，和/或任何其他适合的信息。在一些实施例中，选择单独的搜索结果能够使与搜索结果相关联的内容被呈现。例如，在其中搜索结果与媒体内容项相关联的实例中，选择搜索结果能够使媒体内容项开始在用户设备108上呈现。

转到图4，根据公开主题的一些实施例，示出用于计算与搜索查询相关联的安全性分值的过程的示例400。

在402处，过程400能够通过接收到在用户设备上录入的搜索查询来开始。如上关于图3的框304描述的，在一些实施例中，过程400能够从搜索服务器102接收搜索查询。在一些实施例中，搜索查询能够包括任何适合的字符并且能够具有任何适合的长度。

在404处，过程400能够确定与搜索查询相关联的前N个(例如，5个、10个、20个、100个、1000个、和/或任何其他适合的数量)搜索结果。过程400能够使用任何适合的技术或技术组合来确定前N个搜索结果。例如，在一些实施例中，过程400能够使用相关联的搜索引擎，以访问由搜索查询产生的搜索结果并且能够存储前N个结果。

在一些实施例中，每个搜索结果能够与内容评级或内容评级的类相关联。例如，在其中搜索结果与媒体内容项相关联的实例中，内容评级或内容评级的类能够指示媒体内容项是否包括特定类型的内容(例如，色情内容、暴力、亵渎、和/或任何其他类型的内容)，该内容评级或内容评级的类建议的最小年龄(例如，适于所有年龄、适于大于特定年龄的儿童、适于成人、和/或任何其他适合的年龄和/或年龄范围)浏览该内容，和/或任何其他适合的信息。更具体的示例是，内容评级能够包括适合浏览观众的指示，诸如“普通观众”、“儿童”、“青少年”、“成人”、和/或任何其他适合的内容评级。在一些实施例中，内容评级或内容评级的类能够与任何适合的内容评级***(例如，由特定国家使用的内容评级***、应用于诸如电影、视频游戏、电视节目等的特定类型的内容的内容评级***、和/或任何其他适合类型的内容评级***)相关联。

能够以任何适合的方式识别和/或存储与搜索结果相关联的内容评级或内容评级的类。例如，在一些实施例中，能够与搜索结果相关联来存储内容评级或内容评级的类的指示，并且过程400能够访问例如在搜索服务器102和/或安全性分值服务器104的存储器204中存储的指示。另一示例是，在一些实施例中，过程400能够识别超级链接到搜索结果的内容项。在识别内容项后，过程400能够通过访问与内容标识符(例如，内容项的名称、与内容项相对应的标识编号、和/或任何其他适合的标识符)相关联而存储内容评级或内容评级的类的数据库，来确定相关的内容评级或内容评级的类。注意，在一些实施例中，过程400能够识别内容评级或内容评级的类来更新与搜索结果相关联的先前存储的内容评级或内容评级的类。

在一些实施例中，N个检索的搜索结果能够与两种类的内容评级中的一个相对应。例如，在一些实施例中，两种类的内容评级能够与用于不同年龄的儿童的适合性的不同级别相对应。更具体的示例是，在一些实施例中，两种类的内容评级能够与指示内容适于所有年龄的评级和指示内容仅适于成人的评级相对应。另一具体的示例是，在一些实施例中，两种类的内容评级能够与指示内容适于所有年龄的评级和指示内容适于大于特定年龄的儿童(例如，7岁、13岁、和/或任何其他适合的年龄)的评级相对应。在一些实施例中，两种类的内容评级能够各自包括多个内容评级。例如，在一些实施例中，两种类的内容评级中的第一种能够包括适于所有年龄评级的内容(例如，“G”评级、和/或任何其他适合的名称)和指示为儿童感兴趣的内容(例如，“Y”评级和/或任何其他适合的名称)。

在一些实施例中，以任何适合的方式，能够过滤N个检索的搜索结果，以包括与两种类的内容评级相对应的那些搜索结果。例如，在一些实施例中，能够与搜索结果相关联地存储用于搜索结果的内容评级的指示，以及两种类的内容评级能够被用作搜索词项，以将检索的搜索结果限制到与两种类的内容评级相对应的那些搜索结果。

注意，在一些实施例中，过程400能够基于任何适合的信息，识别两种类的内容评级。例如，在一些实施例中，基于与在用户设备108上验证的用户账户相关联的信息，识别两种类的内容评级。更具体的示例是，信息能够指示与用户设备108相关联的儿童的年龄，以及能够基于年龄，确定两种类的内容评级。更具体的示例是，如果指示的年龄为5，则第一类的内容评级能够与适于5岁或更年少的儿童的内容相对应，以及第二类的内容评级能够与仅适于成人的内容相对应。

在一些实施例中，在框404处，过程400能够接收未按内容评级或内容评级的类过滤的一组搜索结果。在一些这种实施例中，使用任何适合的技术或技术的组合，过程400能够去除不与两种类的内容评级中的一种相对应的搜索结果。例如，在一些实施例中，过程400能够(例如，从搜索结果列表、从搜索服务器102的存储器304、和/或任何其他适合的位置)删除在框404处识别的前N个结果中的任何。附加地或可替选地，在一些实施例中，过程400能够与搜索结果的标识符相关联地存储特定搜索结果不与两种类的内容评级中的一个相对应的指示，而不是从前N个搜索结果的组去除该搜索结果。

附加地或可替选地，在一些实施例中，过程400能够接收类的排序列表并且能够选择用于确定去除那些搜索结果的上限(例如，排序列表顶部处的类)和下限(例如，排序列表底部处的类)。例如，在一些实施例中，能够基于内容是适合的年龄，排序类列表(例如，第一类适于所有年龄，第二类适于7岁和更年少的儿童，第三类适于13岁和更年少的儿童，和/或任何其他适合的类)。然后，以任何适合的方式选择上下限。例如，在一些实施例中，然后，过程400能够基于将允许的内容选择下限。另一示例是，在一些实施例中，过程400能够基于在所有情形下将被阻止的内容(例如，仅适于成人的内容和/或任何其他适合的内容)选择上限。然后，过程400能够去除与上下限之间的内容评级类相对应的内容。

还注意到，在一些实施例中，能够使用内容评级的类的任何适合的数量。例如，在一些实施例中，能够使用内容评级的类的三个或更多个，其中，下限与将被允许的内容相对应，上限与将被阻止的内容相对应，以及中间类与在呈现前将经过进一步分析的内容相对应。更具体的示例是，在一些实施例中，下限能够与适于所有年龄和/或被确定为儿童感兴趣的内容相对应，上限能够与适于成人的内容相对应，以及中间类能够对应于与中间内容评级相关联的任何内容(例如，适于与特定年龄的儿童相比更年少的儿童的内容、未评级的内容、和/或任何其他适合的内容评级)。

在406，过程400能够计算与两种类的内容评级中的一个相关联的搜索结果的比例。在一些实施例中，过程400能够使用在去除不对应于两种类的内容评级中的一类的内容后在该组搜索结果中剩余的搜索结果，来计算该比例。一个具体的示例是，在两种类的内容评级与适于所有年龄和/或被确定为儿童感兴趣的内容(例如“G”和“Y”内容)和仅适于成人的内容(例如“MA”和“X”内容)相对应的实例中，过程400能够使用下述公式来计算被评级为仅适于成人的内容的比例：

其中，(MA&X)指示与MA和/或X内容评级相关联的内容项的数量，以及(G&Y)指示与G和/或Y内容评级相关联的内容项的数量。注意，在一些实施例中，在不需要去除不与两种类的内容评级中的一类相对应的搜索结果的情况下，能够计算该比例。在一些这种实施例中，能够与相应的内容评级的指示相关联地存储搜索结果，以及过程400能够计数与两种类的内容评级中的每个相关联的搜索结果的数量，以计算该比例。

在一些实施例中，搜索结果的比例能够基于任何适合的信息而被加权。例如，在一些实施例中，在比例的计算中，能够对特定搜索结果(例如，如0.8搜索结果、如1.2搜索结果、和/或任何其他适合的权重)较重或较轻地加权。例如，能够基于搜索结果与搜索查询的相关性，确定特定搜索结果的权重。一更具体的示例是，在一些实施例中，能够基于相关性，排名N个搜索结果，以及更相关搜索结果(例如，排名更高的搜索结果)能够与更大权重相关联。一具体的示例是，在一些实施例中，使用下述公式，能够计算用于特定搜索结果的权重：

其中，R为搜索结果在排名中的位置，以及p是大于0的值(例如，0.1、0.5、1、2、和/或任何其他适合的值)。继续这个示例，排名在前的结果(例如，排名第一的结果)能够与0或1的R相关联，并且能够接收与排名100的结果相比更高的权重(与99或100的R相关联)。在一些实施例中，如果特定搜索结果的相关性被确定为低于预定阈值(例如，低于特定排名和/或相关性的任何其他适合的阈值)，则该搜索结果能够从对该比例的计算中略去。

在一些实施例中，能够以任何适合的方式确定搜索结果与搜索查询的相关性。例如，如下关于图5的框514描述的，在一些实施例中，能够通过计算指示在搜索结果中包括的和/或与搜索结果相关联的、在搜索查询中的多个词和/或短语的分值来确定该相关性。另一示例是，在一些实施例中，能够使用关于图7示出和描述的技术来确定相关性。

另一示例是，在一些实施例中，能够基于与搜索结果相关联的信息检索分值，确定特定搜索结果的权重。信息检索分值能够是基于任何适合的信息并且能够使用任何适合的技术进行计算。例如，在一些实施例中，信息检索分值能够包括与搜索结果相关联的相关性分值、与搜索结果相关联的质量分值(例如，基于已经浏览搜索结果的次数和/或任何其他适合的度量)、指示与搜索结果相关联的语言的信息、指示与搜索结果相关联的日期的信息(例如，创建的日期、最后修改搜索结果的日期、和/或任何其他适合的日期)，和/或任何其他适合的度量。在一些实施例中，权重能够是缩放版的信息检索分值，诸如信息检索分值的对数、信息检索分值的指数幂、通过常数缩放的信息检索分值、和/或任何其他适合的缩放方法。

另一示例是，在一些实施例中，能够基于搜索结果的受欢迎度确定特定搜索结果的权重。更具体的示例是，在一些实施例中，已经更经常地和/或较近地选择的搜索结果能够与不经常和/或较久远地选择的搜索结果相比接收更高的权重。另一更具体的示例是，与用户更长持续时间观看(例如，完全观看、观看超出特定持续时间、和/或任何其他适合的度量)的内容项相关联的搜索结果能够与用户观看更短持续时间的搜索结果相比接收更高的权重。

又一示例是，在一些实施例中，能够基于与搜索结果相关联的联合访问信息确定特定搜索结果的权重。一具体的示例是，如果在第二搜索结果前后，频繁地访问搜索结果(例如，占5％访问、占10％访问和/或、占任何其他适合的百分比)，则能够基于与第二搜索结果相关联的信息确定搜索结果的权重。在一些实施例中，与第二搜索结果相关联的信息能够包括任何适合的信息，诸如与第二搜索结果相关联的内容评级或内容评级的类、与第二搜索结果相关联的受欢迎度量度(例如，如上所述)、和/或任何其他适合的信息。一具体的示例是，如果确定第二搜索结果通常被视为安全的(例如，与指示搜索结果不包含成人内容和/或适于所有年龄的内容评级或内容评级的类相关联)，能够以任何其他适合的方式增加和/或更新特定搜索结果的排名和/或权重。

在一些实施例中，能够基于信息的任何适合组合，计算特定搜索结果的权重。例如，在一些实施例中，指示搜索结果与搜索查询的相关性的信息能够与指示与搜索结果和搜索查询相关联的信息检索分值的信息进行组合。更具体的示例是，权重能够基于相关性和与信息检索分值相关联的度量的积，诸如相关性乘以信息检索分值和/或相关性乘以缩放版的信息检索分值。另一示例是，在一些实施例中，权重能够基于相关性、信息检索分值和/或受欢迎度量度的组合。注意，在一些实施例中，搜索结果能够与多个权重相关联，并且每个能够与不同类型的信息相对应。例如，在一些实施例中，能够基于信息检索分值指定第一权重，能够基于搜索结果与查询的相关性指定第二权重，以及能够基于搜索结果的受欢迎度指定第三权重。然后，能够使用任何适合的数学运算(例如，能够将权重中的一个或多个与搜索结果相关联的分值相加，将权重中的一个或多个与搜索结果相关联的分值相乘，和/或任何其他适合的运算)，将多个权重应用到搜索结果。

在一些实施例中，过程400能够将与两种类的内容评级中的一类相关联的搜索结果的比例(即，安全性分值)发送到请求指示特定搜索查询的适合性的信息的任何设备，诸如如上关于图3的框304描述的搜索服务器102。

注意，在一些实施例中，不是计算与两种类的内容评级中的一类相关联的搜索结果的比例或除计算与两种类的内容评级中的一类相关联的搜索结果的比例之外，过程400能够分析与N个搜索结果相关联的内容评级的分布。例如，在一些实施例中，过程400能够生成指示与不同内容评级或内容评级的类相对应的搜索结果的数量(例如，指示为对所有年龄安全的数量、指示为适于青少年的数量、指示为仅对成人安全的数量、和/或任何其他适合的内容评级)的分布。然后，过程400能够计算分布的任何适合统计。例如，在一些实施例中，过程400能够计算分布的偏斜。更具体的示例是，在一些实施例中，过程400能够确定分布是否朝向适于所有年龄的搜索结果更偏斜或朝向仅适于成人的搜索结果更偏斜。一具体的示例是，在一些实施例中，过程400能够确定分布具有正偏斜，其指示分布的右侧是更大的(例如，为长尾、粗尾、和/或任何其他适合的度量)，以及其存在与视为适于所有年龄的搜索结果相比与成人内容相关联的更多搜索结果。另一具体的示例是，在一些实施例中，过程400能够确定分布具有负偏斜，其指示分布的左侧是更大的，以及其与成人内容相关联的搜索结果相比存在更多认为适于所有年龄的搜索结果。在一些实施例中，能够使用任何适合的度量，诸如分布的峰度、皮尔逊偏度系数、和/或任何其他适合的度量，量化内容评级或内容评级的类的分布的偏斜。在一些实施例中，过程400能够计算任何其他适合的统计，诸如平均内容评级、中值内容评级、模式内容评级、内容评级的标准偏差、内容评级的四分差、和/或任何其他适合的统计。如上关于图3的框308描述的，在一些实施例中，与分布相关联的一个或多个统计能够被用于确定是否例如由搜索服务器102阻止搜索查询。例如，如果搜索结果的分布被确定为朝向成人内容偏斜超过特定量以上，则搜索服务器102能够确定搜索查询将要被阻止。另一具体的示例是，如果确定分布的平均值、中值、和/或众数与适于所有年龄的内容相关联，并且标准偏差被确定为小于预定阈值，则搜索服务器102能够确定搜索查询将被允许。

注意，尽管本文中描述了在计算搜索结果的比例和/或分析搜索结果的分布之前，过滤搜索结果以排除不与内容评级的指定类相对应的搜索结果和/或去除不与内容评级的指定类相对应的搜索结果，这个仅仅是示例性的。在一些实施例中，过程400能够使用任何适合的搜索结果和/或所有搜索结果，计算搜索结果的比例和/或分析搜索结果的分布。例如，在一些实施例中，能够计算与内容评级的任何适合的类相对应的搜索结果的多个比例。一具体的示例是，在总搜索结果之外，计算适于青少年和适于成人的内容的比例。另一示例是，在一些实施例中，能够使用所有搜索结果，计算搜索结果的分布的分析，与内容评级或内容评级的类无关。此外，在一些实施例中，搜索结果的组能够额外地包括不与内容评级或内容评级的类相关联的搜索结果。

转到图5，根据公开主题的一些实施例示出用于确定允许还是阻止搜索查询的过程的示例500。

在502处，过程500通过接收到指示搜索查询的安全性的信息开始。例如，在一些实施例中，接收的信息能够包括与关于搜索查询检索的搜索结果相关的信息。更具体的示例是，在一些实施例中，接收的信息能够指示与特定内容评级或内容评级的类(例如，适于所有年龄、适于特定年龄的儿童、仅适于成人、和/或任何其他适合的内容评级)相关联的搜索结果的数量和/或比例。另一更具体的示例是，在一些实施例中，接收的信息能够指示与搜索结果相对应的内容评级的分布的偏斜。又一更具体的示例是，在一些实施例中，接收的信息能够包括搜索结果与搜索查询的相关性和/或搜索结果与特定人口统计的相关性(例如，特定年龄的儿童、和/或任何其他适合的人口统计)。

在504处，过程500能够确定指示对于呈现为安全的搜索结果的比例是否超出第一预定阈值。在一些实施例中，基于任何适合的标准，搜索结果能够被指示为安全。例如，在一些实施例中，基于与搜索结果相关联的内容评级或内容评级的类，搜索结果能够被指示为安全。更具体的示例是，在一些实施例中，与指示该内容适于特定年龄(例如，所有年龄、超过特定年龄的儿童、和/或任何其他适合的年龄)的内容评级相关联的搜索结果能够被视为安全。另一更具体的示例是，在一些实施例中，与指示该内容不包含特定类型的成人内容(例如，暴力、色情内容、药物使用、亵渎、和/或任何其他适合类型的成人内容)的内容评级相关联的搜索结果被视为安全。注意，在一些实施例中，能够基于任何适合的信息和/或标准确定指示为对呈现是安全的的搜索结果的数量和/或比例，并且可以不同于如关于图3的框312描述的、指示为对呈现是安全的的搜索结果。

第一预定阈值能够是任何适合的比例(例如，50％、70％、90％、和/或任何其他适合的比例)。在一些实施例中，能够基于任何适合的信息来确定第一预定阈值。例如，在一些实施例中，能够基于与用户设备108的用户相关联的信息来确定第一预定阈值。例如，在一些实施例中，用户能够例如通过在用户设备108上呈现的用户界面来指示所需的安全性的级别。更具体的示例是，在一些实施例中，用户能够指示限制过程500如何被用在确定搜索查询是否被阻止和/或特定类型的成人内容是否被阻止中。

如果在504，确定指示为对呈现是安全的搜索结果的比例超出第一预定阈值(在504处为“是”)，在505处，过程500能够确定安全搜索结果是否是与搜索查询相关。过程500能够使用任何适合的信息和/或技术来确定搜索结果与搜索查询的相关性。例如，在一些实施例中，能够根据搜索查询中、在搜索结果中存在的词的数量、搜索结果的受欢迎度、和/或任何其他适合的信息确定相关性。关于图7示出和描述用于确定搜索结果与搜索查询的相关性的过程的更具体示例。在一些实施例中，过程500能够确定用于一些和/或全部安全搜索结果的总相关性分值。例如，在一些实施例中，过程500能够计算用于一组安全搜索结果的相关性分值的最小值、最大值、平均值、和/或任何其他适合的度量。然后，过程500能够通过确定总相关性分值是否超出预定阈值来确定安全搜索结果是否与搜索查询相关。

如果在505处，确定安全搜索结果与搜索查询相关(在505处为“是”)，则在506处，如上关于图3的框312描述的，过程500能够允许搜索查询。然后，过程500能够允许与搜索查询相关联的一些或全部搜索结果被呈现。

如果在504处，确定指示为对呈现是安全的搜索结果的比例不超出第一预定阈值(在504处为“否”)，则在步骤508处，过程500能够确定指示为对呈现是不安全的搜索结果的比例超出第二预定阈值。类似地，如上关于框504描述的，基于诸如与搜索结果相关联的内容评级或内容评级的类的任何适合的标准，搜索结果能够被指示为是不安全的。例如，与指示该内容适于特定年龄(例如仅适合成人、适合青少年和/或任何其他特定年龄)和/或包含特定类型的成人内容的内容评级相关联的搜索结果能够被视为不安全。

第二预定阈值能够是任何适合的比例(例如，20％、30％、和/或任何其他适合的比例)。如上关于框504描述的，类似于第一预定阈值，能够基于诸如与用户设备108的用户相关联的信息的任何适合的信息，确定第二预定阈值。

如果在508处，确定指示为对呈现是不安全的的搜索结果的比例超出第二预定阈值(在508处为“是”)，则在510处，过程500完全阻止搜索查询。如上关于图3的框310描述的，能够在用户设备108上呈现已经阻止搜索查询的指示。

如果在508处，确定指示为对呈现是不安全的搜索结果的比例未超出第二预定阈值(在508处为“否”)，则在511处，过程500能够利用特定标准识别已经被确定为安全的一组搜索结果。例如，在一些实施例中，搜索结果的组能够是利用大于特定置信度值(例如，大于80％置信度、大于90％置信度、和/或任何其他适合的值)已经被确定为对呈现是安全的那些。更具体的示例是，在一些实施例中，该组的搜索结果能够是已经被确定为与具有大于特定置信度值的内容评级的特定类(例如，适于所有年龄、确定为儿童感兴趣、和/或任何其他适合的内容评级类)相关联的那些。在一些实施例中，利用特定标准已经确定为安全的、在搜索结果的组中包括的搜索结果能够是被视为对呈现是特别安全的的那些搜索结果。搜索结果的组能够包括搜索结果的任何适合数量(例如，0、5、10、20和/或任何其他适合的数量)。在一些实施例中，搜索结果的组能够是框504中识别的安全搜索结果的子集。

在512处，过程500能够确定已经确定为对呈现是特别安全的、在搜索结果的组中识别的搜索结果(即，上文关于框511识别的那些搜索结果)的数量是否超出第三预定阈值。在一些实施例中，第三预定阈值能够是搜索结果的任何适合的数量(例如，1、2、3、5、10、和/或任何其他适合的数量)。

如果在512处，确定在搜索结果的组中的、确定为对呈现是特定安全的搜索结果的数量没有超出第三预定阈值(例如，在512处为“否”)，则在510，过程500能够阻止搜索查询。

如果在512处，确定在搜索结果的组中的、确定为对呈现是特别安全的搜索结果的数量超出第三预定阈值(在512处为“是”)，则在514处，过程500能够确定搜索结果的组中的搜索结果的相关性是否与被视为不安全的搜索结果的相关性类似和/或大于该相关性。能够以任何适合的方式并且使用任何适合的技术，确定搜索结果与搜索查询的相关性。例如，在一些实施例中，基于指示在搜索查询中包括的词和/或短语每隔多久出现在搜索结果中的分值，来确定相关性。更具体的示例是，在一些实施例中，与包括在搜索查询中包括更小比例的词和/或短语的搜索结果相比，包括搜索查询中包括的更大比例的词和/或短语的搜索结果能够接收更高相关性分值。另一示例是，在一些实施例中，基于指示搜索结果与特定人口统计(例如，特定年龄的儿童、和/或任何其他适合的人口统计)相关程度的信息来确定相关性。更具体的示例是，如果搜索查询是能够指示宽范围的内容项(例如，乐队名称、儿童电视节目的名称和/或涉及儿童和成人的任何其他适合的内容项)的词和/或短语，则与儿童不感兴趣的那些搜索结果相比，过程500能够确定与儿童感兴趣的内容项(例如，卡通、涉及儿童的电视节目、和/或任何其他适合的内容项)相关联的搜索结果将被视为更相关。另一示例是，在一些实施例中，能够使用关于图7示出和描述的技术确定相关性。

在一些实施例中，过程500能够计算用于安全结果的总相关性分值(例如，用于指示为对呈现是安全的的子集和/或所有搜索结果的相关性分值的平均值、权重平均值、最小分值、最大分值、和/或任何其他适合类型的总分值)和用于不安全结果的总相关性分值，以及能够将两个总相关性分值比较，以确定两个总分值是否类似和/或与不安全结果相比安全搜索结果是否是与搜索查询更相关。在一些实施例中，为计算总相关性分值选择的安全和/或不安全搜索结果的子集能够基于任何适合的信息，诸如搜索结果的排名、搜索结果与搜索查询的相关性、和/或任何其他适合的信息。例如，在一些实施例中，确定为最相关和/或最高排名的搜索结果能够被包括在子集中。在一些实施例中，如果不安全总相关性分值和安全总相关性分值之间的差小于预定数(例如，小于1、小于0.1、和/或任何其他适合数)，则低于用于不安全结果的总相关性分值的用于安全结果的总相关性分值被认为类似。更具体的示例是，如果与安全结果相关联的总相关性分值为0.2，以及与不安全结果相关联的总相关性分值为0.15，则过程500能够确定与不安全结果相比安全结果更相关。另一更具体的示例是，如果与安全结果相关联的总相关性分值为0.3，以及与不安全结果相关联的总相关性分值为0.35，则过程500能够确定相关性分值中的差为0.05，并且能够确定该差是否小于预定阈值(例如，小于0.05、小于0.1、和/或任何其他适合的值)。在一些这种实施例中，其中差小于预定阈值的总相关性分值能够被视为类似。

如果在514处，确定在搜索结果的组中的、确定为对呈现是特别安全的安全结果的相关性不类似于和/或大于不安全结果的相关性(在514处为“否”)，则在510处，过程500能够阻止搜索查询。

如果在514处，确定在搜索结果的组中的、确定为对呈现是特定安全的安全结果的相关性类似于和/或大于不安全结果的相关性(在514处为“是”)，则在516处，过程500能够允许基于搜索查询检索的搜索结果的子集被呈现。例如，如上关于图3的框312描述的，基于任何适合的信息和/或使用任何适合的技术，能够确定搜索结果的子集。例如，在一些实施例中，(例如，基于内容评级或内容评级的类)能够呈现仅确定为儿童感兴趣的搜索结果。附加地或可替选地，在一些实施例中，呈现被确定为相关和/或受欢迎的搜索结果。在一些实施例中，能够从关于框511识别的搜索结果的组(例如，视为对呈现是特别安全的那些搜索结果)，选择所呈现的搜索结果。

转到图6，根据公开主题的一些实施例示出用于分类搜索查询的过程的示例600。如上关于图3的框308描述的，在一些实施例中，能够执行过程600，以确定搜索查询是否被阻止。

在602处，过程600能够通过接收到用户设备上录入的搜索查询开始。如上所述，搜索查询能够包括词和/或短语的任何适合的数量和任何适合的字符。

在604处，过程600能够接收与在用户设备上验证的用户账户相关联的简档相关的信息。在一些实施例中，用户账户能够与诸如媒体内容分享服务、社交网站、和/或任何其他适合的服务和/或网站的任何适合服务和/或网站上的账户相对应。在一些实施例中，简档能够包括与用户账户的用户相关的任何适合的信息。例如，在一些实施例中，简档能够指示与用户相关联的诸如年龄、性别、和/或任何其他适合的信息的人口统计信息。另一示例是，在一些实施例中，简档能够指示关于验证用户账户的诸如用户设备的名称和/或型号的用户设备的信息，用户是否已经在用户设备上使用特定输入模式(例如，麦克风和/或语音识别技术、触摸屏、和/或任何其他适合的输入模式)，使用用户设备的用户的交互速度(例如，打字速度、手势速度、和/或任何其他适合的交互速度)、和/或任何其他适合的用户设备信息。又一示例是，在一些实施例中，简档能够指示用户目前是否登录到用户账户和/或是否在多个用户之间共享用户账户。又一示例是，在一些实施例中，简档能够指示目前与用户设备相关联的网际协议(IP)地址。更具体的示例是，在一些实施例中，IP地址能够指示用户设备目前是否在学校、图书馆、和/或任何其他特定的位置。

过程600能够在606处接收与搜索查询相关的信息。例如，在一些实施例中，信息能够包括与接收的搜索查询相关联的时间和/或日期信息。更具体的示例是，在一些实施例中，信息能够包括提交查询的那天的时间、提交查询的那周的一天、和/或任何其他适合的时间和/或日期信息。另一示例是，在一些实施例中，信息能够包括在搜索查询中包含的特定短语的指示。具体的示例是，如果接收的查询为“视频主要演员鲍勃布朗(Videostarring Bob Brown)”，则该信息能够指示查询包括四个词，词“鲍勃(Bob)”和“布朗(Brown)”形成短语，并该短语指示人员的姓名。在一些实施例中，信息能够进一步包括与短语相关联的实体的类型的识别(例如，短语为人员的姓名、乐队的名称、电视节目的名称、地点的名称、和/或任何其他适合的信息)。

在608处，过程600能够接收与将在608处响应于搜索查询检索的搜索结果相关的信息。例如，在一些实施例中，信息能够包括搜索结果与搜索查询的相关性的指示(如关于图5和图7描述的)。另一示例是，在一些实施例中，信息能够指示将基于搜索查询检索的搜索结果的数量和/或指示与特定内容评级或内容评级的类相关联的搜索结果的数量。又一示例是，在一些实施例中，信息能够指示与搜索结果相关联的浏览统计，诸如已经选择和/或浏览搜索结果的次数、已经浏览与搜索结果相关联的内容项的次数、和/或与内容项相关联的评论的数量、和/或任何其他适合的信息。

在610处，过程600能够接收指示与用户账户相关联的先前活动的信息。例如，在一些实施例中，信息能够指示使用用户账户先前浏览(例如，最近10分钟内、最近一天内、最近一周内、和/或在任何其他适合的时间段)的媒体内容项。更具体的示例是，在一些实施例中，信息能够指示呈现每个浏览的媒体内容项的持续的时间、和/或呈现的媒体内容项的片断。另一示例是，在一些实施例中，信息能够指示在特定时间段内(例如，最近10分钟内、最近一天内、和/或在任何其他适合的时间段)、在用户设备上录入的其他搜索查询。

在612处，过程600能够使用先前经过训练的分类器，生成指示搜索查询的相对安全性的搜索查询的分类。在一些实施例中，分类能够指示该搜索查询属于任何适合的组。在一些实施例中，分类组能够包括：可能由特定组(例如特定年龄的儿童)搜索、具有与成人内容相关联的低可能性的搜索查询，可能由特定组搜索、具有与成人内容相关联的高概率的搜索查询，不可能由特定组搜索的搜索查询，是中性的并且可以与成人内容相关联的搜索查询，可能与特定类型的成人内容(例如，色情、暴力、药物使用、和/或任何其他类型的成人内容)相关的搜索查询。具体的示例是，包括儿童电视节目的名称的搜索查询能够被指定给指示该搜索查询是很可能由儿童录入并且具有与成人内容相关联的低可能性的分类。另一具体的示例是，对应于宽泛搜索词项的搜索查询(例如，国家的名称、单个词、和/或任何其他适合的搜索词项)能够被指定给指示该搜索查询是中性的并且一些搜索结果可以与成人内容相关联的分类。在一些实施例中，能够包括任何其他适合的分类组。在一些实施例中，分类能够指示预测与搜索查询相关联的搜索结果是否满足除了搜索查询的安全性之外的特定标准，诸如与搜索查询相关联的搜索结果是否主要涉及被确定为教、/或任何其他适合的标准的内容。

在一些实施例中，能够使用任何适合的技术和/或技术组合训练分类器。例如，在一些实施例中，能够使用任何适合的机器学习技术训练分类器，该机器学习技术诸如线性和/或逻辑回归、神经网络、随机梯度下降、随机森林、和/或判决树、任何适合的推动技术、最近邻聚类算法、和/或任何其他适合的技术。

在一些实施例中，生成的分类能够由过程600发送到诸如搜索服务器102的任何适合的设备。如上关于图3的框308和框312所述，然后，搜索服务器102能够使用分类，以确定搜索查询是否被阻止和/或与搜索查询相关联的那些搜索结果是否被呈现。

转到图7，根据公开主题的一些实施例示出用于计算搜索结果与搜索查询的相关性分值的过程的示例700。在一些实施例中，能够通过任何适合的设备和/或过程实现关于过程700描述的技术，以确定搜索结果与搜索查询的相关性。

在702处，过程700通过接收到搜索查询和基于搜索查询检索的搜索结果开始。如上所述，搜索查询能够包括词和/或短语的任何适合的数量。在一些实施例中，每个词和/或短语能够被视为搜索查询的词项。具体的示例是，如果搜索查询为“视频主要演员鲍勃布朗(video starring Bob Brown)”，“视频(video)”、“主要演员(starring)”、“鲍勃(Bob)”、“布朗(Brown)”和/或“鲍勃布朗(Bob Brown)”能够各自被视为搜索查询的词项。此外，如上所述，能够使用任何适合的技术和/或技术组合检索搜索结果。

在704处，过程700能够接收指示搜索结果与搜索查询的相关性的一个或多个类型的证据。例如，在一些实施例中，一个或多个类型的证据能够包括：在搜索查询中包括的词和/或短语被包括在搜索结果中(例如，在搜索结果的标题中、在搜索结果的描述中、在与搜索结果相关联的元数据中、和/或在搜索结果的任何其他部分中)的次数、当基于搜索查询检索时，先前已经选择搜索结果的次数、与对应于搜索结果的内容项相关联的浏览数量、和/或任何其他适合的信息。

在706处，过程700能够对每个类型的证据和对搜索查询中的每个词项来估计搜索结果与搜索查询相关的可能性。具体的示例是，如果证据的类型为被包括在搜索结果中的搜索查询的词和/或短语并且搜索词项为“Bob Brown”的次数，则过程700能够确定存在与具有标题“山姆斯密斯演讲(Sam Smith Speech)”的搜索结果相比标题“鲍勃布朗传记(BobBrown Biography)”的搜索结果与搜索查询相关的更高可能性。能够使用任何适合的信息估计该可能性。例如，在一些实施例中，能够使用过去搜索查询的标志和/或搜索结果确定该可能性。此外，能够使用诸如神经网络、Bayesian统计、回归、和/或任何其他适合的技术的任何适合的统计和/或机器学习技术估计该可能性。

在708处，过程700能够跨越搜索查询的词项结合搜索结果与搜索查询相关的估计的可能性，导致搜索结果与搜索查询的相关估计可能性，作为每种类型的证据的整体。具体的示例是，如果存在在704处接收的三个类型的证据，则过程700能够生成三个估计的可能性，三个估计的可能性中的每个与三个类型的证据中的一个相对应。能够以任何适合的方式结合与搜索查询词项和每个类型的证据相对应的估计的可能性。例如，在一些实施例中，能够使用调和平均值、权重调和平均值、平均值、和/或任何其他适合的方法，结合与用于单个类型证据的搜索查询中的每个词项相对应估计的可能性。具体的示例是，如果用于基于证据的一个类型的搜索词项的词项“视频(video)”、“主要演员(starring)”和“鲍勃布朗(Bob Brown)”的可能性为“0.2”、“0.5”、和“0.7”，则能够计算“0.2”、“0.5”、和“0.7”的调和平均值和/或权重调和平均值。在其中使用权重调和平均值的实施例中，使用任何适合的信息计算用于每个词项的权重。

过程700能够通过跨越证据类型结合搜索结果与搜索查询相关的估计的可能性来计算相关性分值。具体的示例是，如果搜索查询为“视频主要演员鲍勃布朗(videostarring Bob Brown)”并且存在证据的三个类型，则过程700能够结合在框708处计算的、搜索结果与“video starring Bob Brown”相关的三个可能性(即，用于证据的每个类型的可能性)。与框708类似，可能性能够以任何适合的方式结合，诸如调和平均值、权重调和平均值、平均值、和/或任何其他适合的方法。

在一些实施例中，然后能够由任何适合的用户设备和/或过程使用相关性分值，以例如识别将要被呈现的搜索结果(例如，如上关于图3的框312描述的)、以计算安全性分值(例如，如上关于图3和图4描述的)、和/或确定搜索查询是否被阻止(例如，如上关于图3、图5和图6描述的)。

转到图8A，根据公开主题的一些实施例，示出用于指示已经阻止搜索查询的用户界面的示例800。如图示的，用户界面800能够包括标志802、搜索查询输入804、和阻止查询指示806。

标志802能够是与用户界面800的提供者相关联的任何适合的标志。在一些实施例中，标志802能够包括任何适合的文本、图像、图标、动画、图形、视频、和/或任何其他适合的内容。注意，例如，示出用户界面800中的标志802的位置，并且标志802能够位于任何适合的位置处。在一些实施例中，能够省略标志802。

搜索查询输入804能够是用于从用户设备接收搜索查询的任何适合的用户界面控制。例如，如图8A所示，搜索查询输入804能够包括文本输入框，其能够从诸如键盘、触摸屏小键盘、麦克风和/或任何其他适合的源的任何适合的源接收文本。

阻止查询指示806能够是阻止在搜索查询输入804中输入的搜索查询的任何适合的指示。例如，如图8A所示，阻止查询指示806能够包括表明搜索查询已经被阻止的文本。在一些实施例中，阻止查询指示806能够包括指示搜索被阻止的原因的文本，例如其表明该查询被确定为是有关成人内容的文本。在一些实施例中，阻止查询指示806能够包括任何适合的超级链接、图像、图标、图形、动画、和/或任何其他适合的内容。例如，在一些实施例中，在阻止查询指示806中包括的超级链接能够链接到说明特定搜索查询如何和/或为何已经被阻止的页面。

转到图8B，根据公开主题的一些实施例示出用于呈现基于搜索查询检索的搜索结果的用户界面的示例850。如所示，用户界面850能够包括搜索结果的组856。

搜索结果的组856能够包括诸如单独的搜索结果858的单独的搜索结果的任何适合的数量(例如1个、2个、5个、10个、20个和/或任何其他适合的数量)。在一些实施例中，单独的搜索结果858能够包括诸如与搜索结果相关联的排名、与搜索结果相关联的标题、与搜索结果相关联的日期(例如，创建的日期、修改的日期、和/或任何其他适合的日期)和/或任何其他适合的信息的任何适合的信息。

在一些实施例中，单独的搜索结果858能够包括图像860。图像860能够是与单独的搜索结果858相关联的任何适合的图像。例如，在其中单独的搜索结果858与媒体内容项相对应的实例中，图像860能够是与媒体内容项相关联的图像，诸如来自视频内容项的截屏、与媒体内容项的创建者相关联的图像、和/或任何其他适合的图像。在一些实施例中，能够省略图像860。

转到图9，根据公开主题的一些实施例示出用于接收用户输入(例如，来自孩子的父母的输入)以允许搜索查询被呈现和/或过滤搜索结果的用户界面的示例900。如图示的，用户界面900能够包括标题902和输入组904。

标题902能够是指示用户界面900的内容的任何适合的标题。在一些实施例中，标题902能够包括任何适合的文本、图像、图形、图标、动画、视频、超级链接、和/或任何其他适合的内容。注意，用户界面900中的标题902的位置作为示例被示出，并且能够在任何适合的位置呈现标题902。在一些实施例中，能够省略标题902。

输入组904能够包括用于指示特定特征和/或项将要被允许的任何适合的用户输入。输入组904中的单个输入能够包括诸如单选按钮、复选框、文本输入、和/或任何其他适合的用户界面元素的任何适合的用户界面元素。

在一些实施例中，输入组904能够包括允许搜索输入906。在一些实施例中，选择允许搜索输入906能够允许搜索查询被录入并且基于录入的搜索查询来检索和呈现搜索结果。类似地，在一些实施例中，对允许搜索输入906取消选择能够使搜索查询的录入被阻止和/或禁止。

另一示例是，输入组904能够包括允许内容输入组908。在一些实施例中，允许内容输入组908能够允许用户指示与是安全的搜索结果相关联的内容评级将要被呈现。在一些这种实施例中，如上关于图3的框312描述的，响应于接收搜索查询，将会仅呈现与被选内容评级相对应的搜索结果。附加地或可替选地，在一些实施例中，如上关于图3的框308描述的，如果存在少于预定数量的与指示的内容评级相关联的(例如，少于5个、少于10个、和/或任何其他适合的数量)搜索结果，则能够完全阻止搜索查询。

尽管未在图9中示出，但是在一些实施例中，输入组904能够包括接收任何适合的信息的任何其他输入，诸如儿童的年龄、将要被阻止的成人内容的类型，和/或任何其他适合的信息。

应当理解到能够以不限于图中示出和描述的次序和顺序的任何次序或顺序执行或实现图3-图7的过程的上述框的至少一些。另外，能够在适合情况下基本上同时地或并行地实行或执行图3-7的过程的以上的框中的一些，以减少时延和处理时间。附加地或可替选地，能够省略图3-图7的过程的上述框中的一些。

在一些实施例中，任何适合的计算机可读介质能够被用于存储用于执行本文中的功能和/或过程的指令。例如，在一些实施例中，计算机可读介质能够是暂时性的或非暂时性的。例如，非暂时性计算机可读介质能够包括诸如磁介质(诸如，硬盘、软盘、和/或任何其他适合的磁介质)、光学介质(诸如，光盘、数字视频盘、蓝光盘、和/或任何其他适合的光学介质)、半导体介质(诸如，闪速存储器、电可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、和/或任何其他适合的半导体介质)、在传输期间没有瞬间或没有持久的任何外表的任何适合的介质、和/或任何适合的有形介质的介质。另一示例是，暂时性计算机可读介质能够包括网络上的、电线中、导体中、光纤中、电路中、在传输期间瞬间的并且没有持久的任何外表的任何适合的介质中、和/或任何适合的无形介质中的信号。

在其中这里描述的***收集关于用户的个人信息，或者利用个人信息的情形下，可以对用户提供有以控制程序或特征是否收集用户信息(例如，关于用户的社交网络、社交行为或活动、职业、用户的偏好、或用户的当前位置)的机会。此外，某些数据可以在其被存储或被使用之前以一个或多个方式进行处理，使得移除个人标识信息。例如，可以处理用户的身份，使得对于该用户不能够确定个人标识信息，或者在获得了位置信息的地方可以使用户的地理位置一般化(诸如，被概括为城市、邮政编码、或州级别)，使得不能够确定用户的特定位置。因此，用户可以在如何关于用户而收集并且如何由内容服务器使用上具有控制。

因此，提供用于呈现搜索结果的方法、***和介质。

尽管已经在前面的说明性实施例中描述并且图示了本发明，但是应当理解的是，已经仅通过示例做出了本公开，并且在不脱离仅由以下的权利要求限定的本发明的精神和范围的情况下，能够在本发明的实施方式的细节上做出许多改变。能够以各种方式组合和重新布置所公开的实施例的特征。

Claims (24)

1.一种用于呈现搜索结果的方法，包括：

接收与在用户设备上录入的搜索查询相对应的文本；

确定与所述搜索查询相关联的内容评级分值是否低于预定阈值，其中，所述分值通过以下操作来计算：

识别使用所述搜索查询检索的第一多个搜索结果，其中，所述第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及

计算所述内容评级分值，所述内容评级分值是与所述内容评级类的至少一个相关联的搜索结果在所述第一多个搜索结果之中的比例；

响应于确定所述内容评级分值低于所述预定阈值，识别将要基于所述搜索查询呈现的第二多个搜索结果；以及

使所述第二多个搜索结果呈现在所述用户设备上，

其中，所述预定阈值包括第一阈值和第二阈值，以及其中，所述方法进一步包括：

响应于确定所述内容评级分值高于所述预定阈值，确定与所述多个内容评级类中的第一内容评级类相关联的搜索结果与所述搜索查询的第一相关性和与所述多个内容评级类中的第二内容评级类相关联的搜索结果与所述搜索查询的第二相关性；

确定所述第一相关性是否与所述第二相关性类似或大于所述第二相关性；

响应于确定所述第一相关性与所述第二相关性类似或大于所述第二相关性，识别将要呈现的第三多个搜索结果；以及

使所述第三多个搜索结果呈现在所述用户设备上。

2.如权利要求1所述的方法，进一步包括将权重应用到所述第一多个搜索结果中的每个，其中，与所述内容评级类中的至少一个相关联的搜索结果的所述比例是使用所述权重计算的。

3.如权利要求2所述的方法，其中，所述权重是基于相关联的搜索结果与所述搜索查询的相关性确定的。

4.如权利要求1所述的方法，其中，所述第二多个搜索结果是基于与所述第一多个搜索结果中的每个相关联的所述内容评级类来识别的。

5.如权利要求1所述的方法，其中，所述第二多个搜索结果是所述第一多个搜索结果的子集。

6.如权利要求1所述的方法，其中，所述多个内容评级类与对适于所有年龄的内容所指定的第一内容评级类和对适于成人的内容所指定的第二内容评级类相对应。

7.如权利要求1所述的方法，进一步包括：

响应于确定所述内容评级分值高于第二预定阈值，禁止呈现基于所述搜索查询的搜索结果；以及

使得呈现已经禁止所述搜索结果的呈现的指示。

8.如权利要求1所述的方法，其中，与所述搜索查询相对应的所接收的文本是从注释人员接收的，以及其中，所述方法进一步包括：

确定所述搜索查询是否能够使一个或多个搜索结果被呈现；

响应于确定所述搜索查询使所述第二多个搜索结果被呈现，使对所述注释人员的所述确定的指示与对修改所述搜索查询的请求一起被呈现；

从所述注释人员接收附加的搜索查询并且确定所述附加的搜索查询中的每个是否将使一个或多个搜索结果被呈现；以及

响应于所述搜索查询、所述附加的 搜索查询、以及响应于所述搜索查询和所述附加搜索查询的所述一个或多个搜索结果，确定是否应当调整所述内容评级分值。

9.一种用于呈现搜索结果的***，所述***包括：

硬件处理器，所述硬件处理器被编程以：

接收与用户设备上录入的搜索查询相对应的文本；

确定与所述搜索查询相关联的内容评级分值是否低于预定阈值，其中，所述硬件处理器被进一步编程以：

识别使用所述搜索查询检索的第一多个搜索结果，其中，所述第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及

计算所述内容评级分值，所述所述内容评级分值是与所述内容评级类中的至少一个相关联的搜索结果在所述第一多个搜索结果之中的比例；

响应于确定所述内容评级分值低于所述预定阈值，识别将要基于所述搜索查询呈现的第二多个搜索结果；以及

使所述第二多个搜索结果在所述用户设备上呈现，

其中，所述预定阈值包括第一阈值和第二阈值，以及其中，所述硬件处理器被进一步编程以：

响应于确定所述内容评级分值高于所述预定阈值，确定与所述多个内容评级类中的第一内容评级类相关联的搜索结果与所述搜索查询的第一相关性和与所述多个内容评级类中的第二内容评级类相关联的搜索结果与所述搜索查询的第二相关性；

确定所述第一相关性是否与所述第二相关性类似或大于所述第二相关性；

响应于确定所述第一相关性与所述第二相关性类似或大于所述第二相关性，识别要呈现的第三多个搜索结果；以及

使所述第三多个搜索结果呈现在所述用户设备上。

10.如权利要求9所述的***，其中，所述硬件处理器被进一步编程，以将权重应用到所述第一多个搜索结果中的每个，其中，与所述内容评级类中的至少一个相关联的搜索结果的所述比例是使用所述权重来计算的。

11.如权利要求10所述的***，其中，所述权重是基于所述相关联的搜索结果与所述搜索查询的相关性来确定的。

12.如权利要求9所述的***，其中，所述第二多个搜索结果是基于与所述第一多个搜索结果的每个相关联的内容评级类来识别的。

13.如权利要求9所述的***，其中，所述第二多个搜索结果为所述第一多个搜索结果的子集。

14.如权利要求9所述的***，其中，所述多个内容评级类与对适于所有年龄的内容所指定的第一内容评级类和对适于成人的内容所指定的第二内容评级类相对应。

15.如权利要求9所述的***，其中，所述硬件处理器被进一步编程以：

响应于确定所述内容评级分值高于第二预定阈值，禁止呈现基于所述搜索查询的搜索结果；以及

使得呈现已经禁止所述搜索结果的呈现的指示。

16.如权利要求9所述的***，其中，与所述搜索查询相对应的所接收的文本是从注释人员接收的，以及其中，所述硬件处理器被进一步编程以：

确定所述搜索查询是否能够使一个或多个搜索结果被呈现；

响应于确定所述搜索查询使所述第二多个搜索结果被呈现，使对所述注释人员的所述确定的指示与对修改所述搜索查询的请求一起被呈现；

从所述注释人员接收附加的搜索查询并且确定所述附加的搜索查询中的每个是否能够使一个或多个搜索结果被呈现；以及

响应于所述搜索查询、所述附加的 搜索查询、以及响应于所述搜索查询和所述附加的搜索查询的所述一个或多个搜索结果，确定是否应当调整所述内容评级分值。

17.一种非暂时性计算机可读介质，所述计算机可读介质包含计算机可执行指令，所述计算机可执行指令当由处理器执行时，使所述处理器执行用于呈现搜索结果的方法，所述方法包括：

接收与用户设备上录入的搜索查询相对应的文本；

确定与所述搜索查询相关联的内容评级分值是否低于预定阈值，其中，所述分值通过下述操作来计算：

识别使用所述搜索查询检索的第一多个搜索结果，其中，所述第一多个搜索结果中的每个搜索结果与多个内容评级类中的一个相关联；以及

计算所述内容评级分值，所述内容评级分值是与所述内容评级类中的至少一个相关联的搜索结果在所述第一多个搜索结果之中的比例；

响应于确定所述内容评级分值低于所述预定阈值，识别将要基于所述搜索查询呈现的第二多个搜索结果；以及

使所述第二多个搜索结果呈现在所述用户设备上，

其中，所述预定阈值包括第一阈值和第二阈值，以及其中，所述方法进一步包括：

响应于确定所述内容评级分值高于所述预定阈值，确定与所述多个内容评级类中的第一内容评级类相关联的搜索结果与所述搜索查询的第一相关性和与所述多个内容评级类中的第二内容评级类相关联的搜索结果与所述搜索查询的第二相关性；

确定所述第一相关性是否与所述第二相关性类似或大于所述第二相关性；

响应于确定所述第一相关性与所述第二相关性类似或大于所述第二相关性，识别要呈现的第三多个搜索结果；以及

使所述第三多个搜索结果呈现在所述用户设备上。

18.如权利要求17所述的非暂时性计算机可读介质，其中，所述方法进一步包括将权重应用到所述第一多个搜索结果中的每个，其中，与所述内容评级类中的至少一个相关联的搜索结果的所述比例是使用所述权重来计算的。

19.如权利要求18所述的非暂时性计算机可读介质，其中，所述权重是基于所述相关搜索结果与所述搜索查询的相关性来确定的。

20.如权利要求17所述的非暂时性计算机可读介质，其中，所述第二多个搜索结果是基于与所述第一多个搜索结果的每个相关联的所述内容评级类来识别的。

21.如权利要求17所述的非暂时性计算机可读介质，其中，所述第二多个搜索结果是所述第一多个搜索结果的子集。

22.如权利要求17所述的非暂时性计算机可读介质，其中，所述多个内容评级类与对适于所有年龄的内容所指定的第一内容评级类和对适于成人的内容所指定的第二内容评级类相对应。

23.如权利要求17所述的非暂时性计算机可读介质，其中，所述方法进一步包括：

响应于确定所述内容评级分值高于第二预定阈值，禁止呈现基于所述搜索查询的搜索结果；以及

使得呈现已经禁止所述搜索结果的呈现的指示。

24.如权利要求17所述的非暂时性计算机可读介质，其中，与所述搜索查询相对应的所接收的文本是从注释人员接收的，以及其中，所述方法进一步包括：

确定所述搜索查询是否能够使一个或多个搜索结果被呈现；

响应于确定所述搜索查询使所述第二多个搜索结果被呈现，使对所述注释人员的所述确定的指示与对修改所述搜索查询的请求一起被呈现；

从所述注释人员接收附加的搜索查询并且确定所述附加的搜索查询中的每个是否能够使一个或多个搜索结果被呈现；以及

响应于所述搜索查询、所述附加的 搜索查询以及响应于所述搜索查询和所述附加的搜索查询的所述一个或多个搜索结果，确定是否应当调整所述内容评级分值。

Images