CN111602147B - 基于非局部神经网络的机器学习模型 - Google Patents

Abstract

在一个实施例中，一种方法包括：基于包括多个阶段的神经网络来训练基线机器学习模型，其中每个阶段包括多个神经块；访问分别包括多个内容对象的多个训练样本；确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数和一个或更多个一元函数；基于该多个训练样本和该一个或更多个非局部操作来生成一个或更多个非局部块；从神经网络的多个阶段中确定一个阶段；以及通过在神经网络的所确定阶段中的多个神经块中的至少两个神经块之间***一个或更多个非局部块中的每一个来训练非局部机器学习模型。

Description

基于非局部神经网络的机器学习模型

技术领域

本公开总体上涉及在网络环境内使用机器学习的图像和视频分析，特别地涉及用于智能助理(smart assistant)***的硬件和软件。

背景

助理***可以基于用户输入、位置感知和从各种在线源访问信息(如天气状况、交通拥堵、新闻、股票价格、用户日程、零售价格等)的能力的组合来代表用户提供信息或服务。用户输入可以包括文本(例如，在线聊天)(尤其是在即时消息传递应用或其他应用中的文本)、声音(voice)、图像或其组合。助理***可以基于用户输入来执行礼宾类型的服务(例如，预订晚餐、购买活动门票、安排旅行)或者提供信息。助理***也可以基于在线信息和事件执行管理或数据处理任务，而无需用户启动或交互。可以由助理***执行的那些任务的示例可以包括日程管理(例如，对晚餐约会发送用户由于交通状况而要迟到的告警信息，更新双方的日程，以及改变餐馆预订时间)。助理***可以通过计算设备、应用编程接口(API)、以及用户设备上应用激增(proliferation)的组合来实现。

可以包括社交网络网站的社交网络***可以使它的用户(例如个人或组织)能够与它交互以及通过它彼此交互。社交网络***可以利用来自用户的输入来在社交网络***中创建并存储与用户相关联的用户简档(user profile)。用户简档可以包括用户的人口统计信息、通信渠道信息以及关于个人兴趣的信息。社交网络***还可以用来自用户的输入来创建并存储用户与社交网络***的其他用户的关系的记录，以及提供服务(例如，简档/动态消息(news feed)帖子、照片分享、事件组织、消息传递、游戏或广告)以便于在用户之间或当中的社会交互。

社交网络***可以通过一个或更多个网络向用户的移动设备或其他计算设备发送与它的服务相关的内容或消息。用户还可以在用户的移动设备或其他计算设备上安装软件应用，用于访问用户的用户简档和在社交网络***内的其他数据。社交网络***可以生成一组个性化的内容对象以显示给用户，例如关连(connect)到该用户的其他用户的汇集的动态(story)的动态消息。

特定实施例的概述

在特定实施例中，助理***可以帮助用户获得信息或服务。助理***可以使用户能够在有状态和多轮会话(stateful and multi-turn conversations)中通过多模态用户输入(如声音、文本、图像、视频)与它进行交互，以获得帮助。助理***可以创建和存储用户简档，该用户简档包括与用户相关联的个人信息和上下文信息。在特定实施例中，助理***可以使用自然语言理解来分析用户输入。分析可以基于用户简档，以获得更个性化和上下文感知的理解。助理***可以基于分析来解析与用户输入相关联的实体。在特定实施例中，助理***可以与不同的代理交互，以获得与解析的实体相关联的信息或服务。助理***可以通过使用自然语言生成来为用户生成关于信息或服务的响应。通过与用户的交互，助理***可以使用对话管理技术来管理和转发与用户的会话流。在特定实施例中，助理***还可以通过汇总(summarize)信息来帮助用户有效且高效地消化所获得的信息。助理***还可以通过提供帮助用户与在线社交网络交互(例如，创建帖子、评论、消息)的工具，来帮助用户更好地参与在线社交网络。助理***另外可以帮助用户管理不同的任务，如持续跟踪事件。在特定实施例中，助理***可以基于用户简档、在没有用户输入的情况下主动执行与用户兴趣和偏好相关的任务。在特定实施例中，助理***可以检查隐私设置，以确保根据用户的隐私设置来允许访问用户的简档或其他用户信息以及执行不同的任务。

在特定实施例中，助理***可以使用一个或更多个非局部机器学习模型来分析包括语音(speech)、文本、图像、视频或它们的组合中的一个或更多个的内容对象。非局部机器学习模型可以基于深度神经网络。在深度神经网络中，卷积操作(convolutionaloperations)和循环操作(recurrent operations)可以是一次处理一个局部邻域(localneighborhood)的构建块(building block)。在特定实施例中，非局部机器学习模型可以使用非局部操作作为用于捕获长程依赖关系(long-range dependency)的一系列通用的构建块。非局部机器学习模型可以使用非局部操作来将一个位置处的响应计算为所有位置处的特征的加权和。构建块可以***到多个计算机视觉架构中。在特定实施例中，非局部机器学习模型可以应用于视频分类任务。作为示例而不是作为限制，非局部机器学习模型即使在没有任何附加功能(bells and whistles)的情况下也可以在Kinetics和Charades数据集(即，两个公共数据集)上对抗或胜过当前竞争获胜者。在特定实施例中，非局部机器学习模型也可以应用于静态图像识别。作为示例而不是作为限制，非局部机器学习模型改进了对COCO(即，公共数据集)任务集的对象检测/分割和姿态估计。尽管本公开以特定方式描述了基于特定构建块的特定机器学习模型，但是本公开以任何合适的方式设想了基于任何合适构建块的任何合适的机器学习模型。

在特定实施例中，助理***可以基于包括多个阶段的神经网络来训练基线机器学习模型。每个阶段可以包括多个神经块。助理***然后可以访问分别包括多个内容对象的多个训练样本。在特定实施例中，助理***可以确定一个或更多个非局部操作。每个非局部操作可以基于一个或更多个成对函数和一个或更多个一元函数。在特定实施例中，助理***可以基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块。助理***然后可以从神经网络的多个阶段中确定一个阶段。在特定实施例中，助理***还可以通过将一个或更多个非局部块中的每一个***神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。

本文公开的某些实施例可以提供一个或更多个技术优势。这些实施例的技术优势可以包括通过使用非局部操作计算任何两个位置之间的交互，而不管它们的位置距离如何，来直接捕获深度神经网络的长程依赖关系。这些实施例的另一个技术优势可以包括即使只使用深度神经网络中的几个层，也能通过使用非局部操作来获得最佳结果。这些实施例的另一个技术优势可以包括通过非局部操作保持可变的输入大小，并且容易地将非局部操作与其他操作(例如卷积)组合。本文公开的某些实施例可以不提供、提供一些或全部上述技术优势。鉴于本公开的附图、说明书和权利要求，一个或更多个其他技术优点对于本领域技术人员来说可以是显而易见的。

本文公开的实施例仅仅是示例，并且本公开的范围不限于它们。特定实施例可以包括本文公开的实施例的部件、元件、特征、函数、操作或步骤中的全部、一些或没有一个被包括。根据本发明的实施例在涉及方法、存储介质、***、助理***和计算机程序产品的所附权利要求中被具体公开，其中，在一个权利要求类别(例如，方法)中提到的任何特征也可以在另一个权利要求类别(例如，***)中被要求保护。所附权利要求中的从属性或往回引用仅出于形式原因被选择。然而，也可以要求保护由对任何前面的权利要求的有意往回引用(特别是多项引用)而产生的任何主题，使得权利要求及其特征的任何组合被公开并且可被要求保护，而不考虑在所附权利要求中选择的从属性。可以被要求保护的主题不仅包括如在所附的权利要求中阐述的特征的组合，而且还包括在权利要求中的特征的任何其他组合，其中，在权利要求中提到的每个特征可以与权利要求中的任何其他特征或其他特征的组合相结合。此外，本文描述或描绘的实施例和特征中的任一个可以在单独的权利要求中和/或以与本文描述或描绘的任何实施例或特征的任何组合或以与所附权利要求的任何特征的任何组合被要求保护。

在实施例中，一种方法，特别地用于在助理***中使用的方法，用于通过使用户能够在会话中利用用户输入与该助理***交互来帮助用户获得信息或服务，从而获得帮助，其中用户输入包括声音、文本、图像或视频或它们的任意组合，该助理***特别地通过计算设备、应用编程接口(API)、以及用户设备上应用激增的组合来实现，该方法可以包括由一个或更多个计算***：

基于包括多个阶段的神经网络来训练基线机器学习模型，其中每个阶段包括多个神经块；

访问分别包括多个内容对象的多个训练样本；

确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数和一个或更多个一元函数；

基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块；

从神经网络的多个阶段中确定一个阶段；以及

通过将一个或更多个非局部块中的每一个***神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。

神经网络可以包括卷积神经网络或循环神经网络中的一个或更多个。

多个内容对象中的每一个可以包括文本、音频剪辑、图像或视频中的一个或更多个。

神经网络可以基于二维架构或三维架构中的一个或更多个。

在实施例中，一种方法可以包括：

基于基线机器学习模型来分别生成多个内容对象的多个特征表示。

生成一个或更多个非局部块中的每一个可以包括：

将一个或更多个非局部操作中的每一个应用于多个内容对象之一的特征表示。

在实施例中，一种方法可以包括：

为多个内容对象中的每一个确定输出位置和与该输出位置相关联的多个位置。

输出位置可以在空间、时间或时空中的一个或更多个中。

一个或更多个非局部操作中的每一个可以基于函数

其中：

x_i可以指示输出位置处的特征表示；

x_j可以指示多个位置之一处的特征表示；

y_i可以指示输出位置处的输出响应；

f(x_i,x_j)可以指示成对函数；

g(x_j)可以指示一元函数；以及

C(x)可以指示归一化因子。

成对函数可以基于以下一项或更多项：

高斯函数

嵌入高斯函数

其中θ是x_i的嵌入，并且φ是x_j的嵌入；

点积函数

或者

级联函数

其中ReLU指示整流线性单元的函数，并且其中w_f是将θ(x_i)和φ(x_j)的级联向量投影到标量(scalar)的权重向量。

在实施例中，一种方法可以包括：

通过对内容对象的特征表示应用子采样(subsampling)，来为多个内容对象中的每一个生成子采样的内容对象，子采样的内容对象可以与子采样的特征表示相关联。

子采样可以包括池化(pooling)，池化可以包括最大池化或平均池化中的一种或更多种。

生成一个或更多个非局部块中的每一个可以包括：

将一个或更多个非局部操作中的每一个应用于多个内容对象之一的特征表示和对应于该内容对象的子采样的内容对象的子采样的特征表示。

在实施例中，一种方法可以包括：

为多个内容对象中的每一个确定输出位置；以及

为对应于内容对象的多个子采样的内容对象中的每一个确定与该输出位置相关联的多个位置。

一个或更多个非局部操作中的每一个可以基于函数

并且：

x_i可以指示输出位置处的特征表示；

可以指示多个位置之一处的子采样特征表示；

y_i可以指示输出位置处的输出响应；

可以指示成对函数；

可以指示一元函数；以及

可以指示归一化因子。

成对函数可以基于以下一项或更多项：

高斯函数

嵌入高斯函数

其中θ是x_i的嵌入，并且φ是/>

的嵌入；

点积函数

或者

级联函数

其中ReLU指示整流线性单元的函数，并且其中w_f是将θ(x_i)和/>

的级联向量投影到标量的权重向量。

在实施例中，一种方法可以包括：

接收查询内容对象；以及

基于非局部机器学习模型来确定查询内容对象的类别。

在实施例中，一个或更多个计算机可读非暂时性存储介质可以体现软件，该软件在被执行时能够操作来：

基于包括多个阶段的神经网络训练基线机器学习模型，其中每个阶段包括多个神经块；

访问分别包括多个内容对象的多个训练样本；

确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数和一个或更多个一元函数；

基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块；

从神经网络的多个阶段中确定一个阶段；以及

通过将一个或更多个非局部块中的每一个***神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。

在实施例中，一种***可以包括：一个或更多个处理器和耦合到该处理器的非暂时性存储器，存储器包括由处理器能够执行的指令，处理器在执行指令时能够操作来：

基于包括多个阶段的神经网络训练基线机器学习模型，其中每个阶段包括多个神经块；

访问分别包括多个内容对象的多个训练样本；

确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数和一个或更多个一元函数；

基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块；

从神经网络的多个阶段中确定一个阶段；以及

通过将一个或更多个非局部块中的每一个***神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。

在实施例中，一个或更多个计算机可读非暂时性存储介质可以体现软件，该软件在被执行时能够操作来执行根据本发明或任何上面提到的实施例的方法。

在实施例中，一种***可以包括：一个或更多个处理器；以及耦合到处理器并包括由处理器能够执行的指令的至少一个存储器，处理器当执行指令时能够操作来执行根据本发明或任何上面提到的实施例的方法。

在实施例中，优选地包括计算机可读非暂时性存储介质的计算机程序产品当在数据处理***上被执行时能够操作来执行根据本发明或任何上面提到的实施例的方法。

在实施例中，一种助理***用于通过使用户能够在会话中利用用户输入与该助理***交互来帮助用户获得信息或服务，从而获得帮助，其中用户输入包括声音、文本、图像或视频或它们的任意组合，该助理***特别地通过计算设备、应用编程接口(API)、以及用户设备上应用激增的组合来实现，该***可以包括：一个或更多个处理器；以及耦合到处理器的非暂时性存储器，该存储器包括由处理器能够执行的指令，该处理器在执行指令时能够操作来执行根据本发明或任何上面提到的实施例的方法。

在实施例中，助理***可以通过执行以下特征或步骤中的至少一个或更多个来帮助用户：

-创建并存储包括与用户相关联的个人信息和上下文信息的用户简档

-使用自然语言理解来分析用户输入，其中分析可以基于用户简档，以获得更个性化和上下文感知的理解

-基于分析来解析与用户输入相关联的实体

-与不同的代理交互，以获得与解析的实体相关联的信息或服务

-通过使用自然语言生成来为用户生成关于信息或服务的响应

-通过与用户的交互，使用对话管理技术来管理和转发与用户的会话流

-通过汇总信息，帮助用户有效和高效地消化获得的信息

-通过提供帮助用户与在线社交网络交互(例如，创建帖子、评论、消息)的工具，来帮助用户更好地参与在线社交网络

-帮助用户管理不同的任务，如持续跟踪事件

-在与用户相关的时间，而没有用户输入的情况下，基于用户简档主动执行与用户兴趣和偏好相关的预授权任务

-每当有必要确保访问用户简档和执行不同的任务都遵守用户的隐私设置时就检查隐私设置。

在实施例中，助理***可以包括以下部件中的至少一个或更多个：

-消息传递平台，其用于从与用户相关联的客户端***接收基于文本模态的用户输入和/或接收基于图像或视频模态的用户输入，并在该消息传递平台内使用光学字符识别技术对其进行处理，以将用户输入转换成文本，

-音频语音识别(ASR)模块，其用于从与用户相关联的客户端***接收基于音频模态的用户输入(例如，用户可以对其说话或者发送包括语音的视频)，并将基于音频模态的用户输入转换成文本，

-助理xbot，其用于接收消息传递平台或ASR模块的输出。

在实施例中，一种***可以包括：

至少一个客户端***(130)，特别是电子设备，

根据本发明或本文任何实施例的至少一个助理***(140),

该客户端***和助理***特别地通过网络(110)彼此连接，

其中，客户端***包括用于允许客户端***(130)的用户与助理***(140)交互的助理应用(136)，

其中，助理应用(136)将用户输入传送给助理***(140)，并且基于用户输入，助理***(140)生成响应并将所生成的响应发送给助理应用(136)，并且助理应用(136)向客户端***(130)的用户呈现响应，

其中特别地，用户输入是音频或口头或视觉的，并且响应可以是文本或者也可以是音频或口头或视觉的。

在实施例中，一种***可以包括社交网络***(160)，其中，客户端***特别地包括用于访问社交网络***(160)的社交网络应用(134)。

附图简述

图1示出了与助理***相关联的示例网络环境。

图2示出了助理***的示例架构。

图3示出了助理***响应用户请求的示例流程图。

图4示出了用于视频分类的非局部机器学习模型的示例时空非局部操作。

图5示出了示例时空非局部块。

图6示出了嵌入高斯实例化的示例流程图。

图7示出了基于嵌入高斯实例化的示例时空非局部块。

图8示出了点积实例化的示例流程图。

图9示出了级联(concatenation)实例化的示例流程图。

图10示出了由非局部机器学习模型计算的非局部块行为的几个示例的示例可视化。

图11示出了多个非局部机器学习模型的训练过程的示例曲线。

图12示出了用于训练非局部机器学习模型的示例方法。

图13示出了示例社交图。

图14示出了嵌入空间的示例视图。

图15示出了示例人工神经网络。

图16示出了示例计算机***。

示例实施例的描述

图1示出了与助理***相关联的示例网络环境100。网络环境100包括通过网络110彼此连接的客户端***130、助理***140、社交网络***160和第三方***170。尽管图1示出了客户端***130、助理***140、社交网络***160、第三方***170和网络110的特定布置，但是本公开设想了客户端***130、助理***140、社交网络***160、第三方***170和网络110的任何合适的布置。作为示例而不是作为限制，客户端***130、社交网络***160、助理***140和第三方***170中的两个或更多个可以绕过网络110彼此直接连接。作为另一个示例，客户端***130、助理***140、社交网络***160和第三方***170中的两个或更多个可以全部或部分地在物理上或逻辑上彼此位于同一位置。此外，尽管图1示出了特定数量的客户端***130、助理***140、社交网络***160、第三方***170和网络110，但是本公开设想了任何合适数量的客户端***130、助理***140、社交网络***160、第三方***170和网络110。作为示例而不是作为限制，网络环境100可以包括多个客户端***130、助理***140、社交网络***160、第三方***170和网络110。

本公开设想了任何合适的网络110。作为示例而不是作为限制，网络110的一个或更多个部分可以包括自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、互联网的一部分、公共交换电话网(PSTN)的一部分、蜂窝电话网、或这些中的两个或更多个的组合。网络110可以包括一个或更多个网络110。

链路150可以将客户端***130、助理***140、社交网络***160和第三方***170连接到通信网络110或连接到彼此。本公开设想了任何合适的链路150。在特定实施例中，一个或更多个链路150包括一个或更多个有线链路(诸如例如数字用户线路(DSL)或有线电缆数据服务接口规范(DOCSIS))、无线链路(诸如例如Wi-Fi或全球微波接入互操作性(WiMAX))、或光链路(诸如例如同步光网络(SONET)或同步数字体系(SDH))。在特定实施例中，一个或更多个链路150各自包括自组织网络、内联网、外联网、VPN、LAN、WLAN、WAN、WWAN、MAN、互联网的一部分、PSTN的一部分、基于蜂窝技术的网络、基于卫星通信技术的网络、另一链路150、或两个或更多个这种链路150的组合。链路150不需要在整个网络环境100中一定是相同的。一个或更多个第一链路150可以在一个或更多个方面上不同于一个或更多个第二链路150。

在特定实施例中，客户端***130可以是一种电子设备，该电子设备包括硬件、软件或嵌入式逻辑部件、或两个或更多个这样的组件的组合并且能够执行由客户端***130实现或支持的适当功能。作为示例而不是作为限制，客户端***130可以包括计算机***，如台式计算机、笔记本或膝上型计算机、上网本、平板计算机、电子书阅读器、GPS设备、相机、个人数字助理(PDA)、手持电子设备、蜂窝电话、智能手机、智能扬声器、其他合适的电子设备、或其任何合适的组合。在特定实施例中，客户端***130可以是智能助理设备。关于智能助理设备的更多信息可以在2018年4月9日提交的美国专利申请第15/949011号、2018年4月10日提交的美国专利申请第62/655751号、2018年1月3日提交的美国专利申请第29/631910号、2018年1月2日提交的美国专利申请第29/631747号、2018年1月3日提交的美国专利申请第29/631913号和2018年1月3日提交的美国专利申请第29/631914号中找到，这些专利申请通过引用并入。本公开设想了任何合适的客户端***130。客户端***130可以使在客户端***130处的网络用户能够访问网络110。客户端***130可以使它的用户能够与在其他客户端***130处的其他用户进行通信。

在特定实施例中，客户端***130可以包括web浏览器132，例如MICROSOFTINTERNET EXPLORER、GOOGLE CHROME或MOZILLA FIREFOX，并且可以具有一个或更多个附加件、插件或其他扩展件，例如TOOLBAR或YAHOO TOOLBAR。在客户端***130处的用户可以输入统一资源定位符(URL)或将web浏览器132引导到特定的服务器(例如服务器162或与第三方***170相关联的服务器)的其他地址，并且web浏览器132可以生成超文本传输协议(HTTP)请求并将HTTP请求传递到服务器。服务器可以接受HTTP请求，并响应于HTTP请求而向客户端***130传递一个或更多个超文本标记语言(HTML)文件。客户端***130可以基于来自服务器的HTML文件来显现web界面(例如网页)用于呈现给用户。本公开设想了任何合适的源文件。作为示例而不是作为限制，可以根据特定的需要根据HTML文件、可扩展超文本标记语言(XHTML)文件或可扩展标记语言(XML)文件来显现web界面。这样的界面还可以执行脚本，诸如例如且没有限制地，用JAVASCRIPT、JAVA、MICROSOFT SILVERLIGHT编写的脚本、标记语言和脚本的组合(例如AJAX(异步JAVASCRIPT和XML))等。在本文，在适当的情况下，对web界面的引用包括一个或更多个相应的源文件(浏览器可以使用这些源文件来显现web界面)，反之亦然。

在特定实施例中，客户端***130可以包括安装在客户端***130上的社交网络应用134。客户端***130处的用户可以使用社交网络应用134来访问在线社交网络。客户端***130处的用户可以使用社交网络应用134来与用户的社交关连(connection)(例如，朋友、关注者(follower)、关注账户、联系人等)进行通信。客户端***130处的用户还可以使用社交网络应用134来与在线社交网络上的多个内容对象(例如，帖子、新闻文章、临时内容等)交互。作为示例而不是作为限制，用户可以使用社交网络应用134浏览热门话题和突发新闻。

在特定实施例中，客户端***130可以包括助理应用136。客户端***130的用户可以使用助理应用136来与助理***140交互。在特定实施例中，助理应用136可以包括独立的应用。在特定实施例中，助理应用136可以被集成到社交网络应用134或另一个合适的应用(例如，消息传递应用)中。在特定实施例中，助理应用136也可以集成到客户端***130、助理硬件设备或任何其他合适的硬件设备中。在特定实施例中，可以经由web浏览器132访问助理应用136。在特定实施例中，用户可以经由不同的模态提供输入。作为示例而不是作为限制，模态可以包括音频、文本、图像、视频等。助理应用136可以将用户输入传送给助理***140。基于用户输入，助理***140可以生成响应。助理***140可以将生成的响应发送给助理应用136。然后，助理应用136可以向客户端***130的用户呈现响应。所呈现的响应可以基于不同的模态，如音频、文本、图像和视频。作为示例而不是作为限制，用户可以口头向助理应用136询问交通信息(即，经由音频模态)。然后，助理应用136可以将请求传送给助理***140。助理***140可以相应地生成结果并将其发送回助理应用136。助理应用136还可以以文本向用户呈现结果。

在特定实施例中，助理***140可以帮助用户从不同源检索信息。助理***140还可以帮助用户向不同的服务提供者请求服务。在特定实施例中，助理***140可以经由客户端***130中的助理应用136接收用户对信息或服务的请求。助理***140可以使用自然语言理解来基于用户简档和其他相关信息分析用户请求。分析的结果可以包括与在线社交网络相关联的不同实体。然后，助理***140可以检索信息或请求与这些实体相关联的服务。在特定实施例中，当为用户检索信息或请求服务时，助理***140可以与社交网络***160和/或第三方***170交互。在特定实施例中，助理***140可以使用自然语言生成技术来为用户生成个性化的通信内容。个性化通信内容可以包括例如检索到的信息或所请求服务的状态。在特定实施例中，助理***140可以使用户能够通过使用对话管理技术来在有状态和多轮会话中与它进行关于信息或服务的交互。在下面图2的讨论中更详细地描述了助理***140的功能。

在特定实施例中，社交网络***160可以是可以托管在线社交网络的网络可寻址计算***。社交网络***160可以生成、存储、接收并发送社交网络数据(诸如例如，用户简档数据、概念简档数据、社交图信息或与在线社交网络相关的其他合适的数据)。社交网络***160可以由网络环境100的其他部件直接地或经由网络110来访问。作为示例而不是作为限制，客户端***130可以使用web浏览器132或与社交网络***160相关联的原生(native)应用(例如，移动社交网络应用、消息传递应用、另一合适的应用或其任何组合)直接地或经由网络110来访问社交网络***160。在特定实施例中，社交网络***160可以包括一个或更多个服务器162。每个服务器162可以是单一服务器(unitary server)或跨越多台计算机或多个数据中心的分布式服务器。服务器162可以具有各种类型，诸如例如且没有限制，web服务器、新闻服务器、邮件服务器、消息服务器、广告服务器、文件服务器、应用服务器、交换服务器、数据库服务器、代理服务器、适合于执行本文描述的功能或进程的另一服务器、或者其任何组合。在特定实施例中，每个服务器162可以包括用于执行由服务器162实现或支持的适当功能的硬件、软件或嵌入式逻辑组件、或两个或更多个这样的部件的组合。在特定实施例中，社交网络***160可以包括一个或更多个数据储存器164。数据储存器164可以用于存储各种类型的信息。在特定实施例中，可以根据特定的数据结构来组织存储在数据储存器164中的信息。在特定实施例中，每个数据储存器164可以是关系数据库、纵列(columnar)数据库、相关性数据库或其他合适的数据库。尽管本公开描述或示出了特定类型的数据库，但是本公开设想了任何合适类型的数据库。特定实施例可以提供使客户端***130、社交网络***160或第三方***170能够管理、检索、修改、添加或删除存储在数据储存器164中的信息的接口。

在特定实施例中，社交网络***160可以在一个或更多个数据储存器164中存储一个或更多个社交图。在特定实施例中，社交图可以包括多个节点——其可以包括多个用户节点(各自对应于特定用户)或多个概念节点(各自对应于特定概念)——以及关连节点的多条边。社交网络***160可以向在线社交网络的用户提供与其他用户通信和交互的能力。在特定实施例中，用户可以经由社交网络***160加入在线社交网络，且然后添加与社交网络***160中的他们想要关连到的多个其他用户的关连(例如，关系)。在本文，术语“朋友”可以指用户经由社交网络***160与其形成关连、关联(association)或关系的社交网络***160的任何其他用户。

在特定实施例中，社交网络***160可以向用户提供对由社交网络***160支持的各种类型的项目或对象采取动作的能力。作为示例而不是作为限制，项目和对象可以包括社交网络***160的用户可以属于的群组或社交网络、用户可能感兴趣的事件或日历条目、用户可以使用的基于计算机的应用、允许用户经由服务来购买或销售商品的交易、用户可以执行的与广告的交互、或其他合适的项目或对象。用户可以与能够在社交网络***160中或者由第三方***170的外部***表示的任何事物进行交互，第三方***170与社交网络***160分离并且经由网络110耦合到社交网络***160。

在特定实施例中，社交网络***160能够链接各种实体。作为示例而不是作为限制，社交网络***160可以使用户能够彼此交互以及从第三方***170或其他实体接收内容，或者允许用户通过应用编程接口(API)或其他通信渠道与这些实体交互。

在特定实施例中，第三方***170可以包括一种或更多种类型的服务器、一个或更多个数据储存器、一个或更多个接口(包括但不限于API)、一个或更多个web服务、一个或更多个内容源、一个或更多个网络或任何其他合适的部件(例如，服务器可以与这些部件通信)。第三方***170可以由与操作社交网络***160的实体不同的实体进行操作。然而，在特定实施例中，社交网络***160和第三方***170可以结合彼此来操作以向社交网络***160或第三方***170的用户提供社交网络服务。在这个意义上，社交网络***160可以提供平台或骨干网，其他***(例如第三方***170)可以使用该平台或骨干网来在整个互联网上向用户提供社交网络服务和功能。

在特定实施例中，第三方***170可以包括第三方内容对象提供者。第三方内容对象提供者可以包括可以被传递到客户端***130的内容对象的一个或更多个源。作为示例而不是作为限制，内容对象可以包括关于用户感兴趣的事情或活动的信息，诸如例如电影放映时间、电影评论、餐馆评论、餐馆菜单、产品信息和评论或其他合适的信息。作为另一个示例而不是作为限制，内容对象可以包括激励内容对象(例如优惠券、折扣券、礼品券或其他合适的激励对象)。

在特定实施例中，社交网络***160还包括用户生成的内容对象，其可以增强用户与社交网络***160的交互。用户生成的内容可以包括用户可以添加、上传、发送或“发布”到社交网络***160的任何内容。作为示例而不是作为限制，用户将帖子从客户端***130传送到社交网络***160。帖子可以包括数据，例如状态更新或其他文本数据、位置信息、照片、视频、链接、音乐或其他类似数据或媒体。内容还可以由第三方通过“通信渠道”(例如动态消息或流)来添加到社交网络***160。

在特定实施例中，社交网络***160可以包括各种服务器、子***、程序、模块、日志和数据储存器。在特定实施例中，社交网络***160可以包括下列项中的一个或更多个：web服务器、动作记录器、API请求服务器、相关性和排序引擎、内容对象分类器、通知控制器、动作日志、第三方内容对象暴露日志、推理模块、授权/隐私服务器、搜索模块、广告定位模块(advertisement-targeting module)、用户界面模块、用户简档储存器、关连储存器、第三方内容储存器或位置储存器。社交网络***160还可以包括合适的部件，如网络接口、安全机构、负载平衡器、故障转移服务器、管理和网络操作控制台、其他合适的部件、或其任何合适的组合。在特定实施例中，社交网络***160可以包括用于存储用户简档的一个或更多个用户简档储存器。用户简档可以包括例如，传记信息、人口统计信息、行为信息、社交信息或其他类型的描述性信息(例如工作经历、教育历史、爱好或偏好、兴趣、亲和性或位置)。兴趣信息可以包括与一个或更多个类别相关的兴趣。类别可以是一般的或特定的。作为示例而不是作为限制，如果用户“赞(like)”关于一种品牌的鞋的文章，则该类别可以是品牌，或者“鞋”或“衣服”的一般类别。关连储存器可以用于存储关于用户的关连信息。关连信息可以指示具有相似或共同的工作经历、组成员资格、爱好、教育历史或者以任何方式相关或共享共同属性的用户。关连信息还可以包括在不同用户和内容(内部和外部)之间的用户定义的关连。web服务器可以用于经由网络110将社交网络***160链接到一个或更多个客户端***130或一个或更多个第三方***170。web服务器可以包括邮件服务器或用于在社交网络***160和一个或更多个客户端***130之间接收并路由(routing)消息的其他消息传递功能。API请求服务器可以允许第三方***170通过调用一个或更多个API来访问来自社交网络***160的信息。动作记录器可以用于从web服务器接收关于用户在社交网络***160上或之外的动作的通信。结合动作日志，可以维护用户暴露于第三方内容对象的第三方内容对象日志。通知控制器可以向客户端***130提供关于内容对象的信息。信息可以作为通知被推送到客户端***130，或者信息可以响应于从客户端***130接收的请求而从客户端***130中被拉取。授权服务器可以用于实施社交网络***160的用户的一个或更多个隐私设置。用户的隐私设置确定与用户相关联的特定信息可以如何被共享。授权服务器可以诸如例如通过设置适当的隐私设置来允许用户选择加入(opt in)或选择退出(opt out)使他们的动作由社交网络***160记录或者与其他***(例如，第三方***170)共享。第三方内容对象储存器可以用于存储从第三方(例如第三方***170)接收的内容对象。位置储存器可以用于存储从客户端***130接收的与用户相关联的位置信息。广告定价模块可以组合社交信息、当前时间、位置信息或其他合适的信息以用通知的形式向用户提供相关广告。

图2示出了助理***140的示例架构。在特定实施例中，助理***140可以帮助用户获得信息或服务。助理***140可以使用户能够在有状态和多轮会话中用多模态用户输入(如声音、文本、图像、视频)与其进行交互，以获得帮助。助理***140可以创建和存储包括与用户相关联的个人信息和上下文信息的用户简档。在特定实施例中，助理***140可以使用自然语言理解来分析用户输入。分析可以基于用户简档，以获得更个性化和上下文感知的理解。助理***140可以基于分析来解析与用户输入相关联的实体。在特定实施例中，助理***140可以与不同的代理交互，以获得与解析的实体相关联的信息或服务。助理***140可以通过使用自然语言生成来为用户生成关于信息或服务的响应。通过与用户的交互，助理***140可以使用对话管理技术来管理和转发与用户的会话流。在特定实施例中，助理***140还可以通过汇总信息来帮助用户有效和高效地消化所获得的信息。助理***140还可以通过提供帮助用户与在线社交网络交互(例如，创建帖子、评论、消息)的工具，来帮助用户更好地参与在线社交网络。助理***140另外可以帮助用户管理不同的任务，如持续跟踪事件。在特定实施例中，助理***140可以在与用户相关的时间，而没有用户输入的情况下，基于用户简档主动执行与用户兴趣和偏好相关的预授权任务。在特定实施例中，助理***140可以检查隐私设置，以确保根据用户的隐私设置来允许访问用户的简档或其他用户信息以及执行不同的任务。关于根据隐私设置来帮助用户的更多信息可以在2018年5月22日提交的美国专利申请第62/675090号中找到，该专利申请通过引用并入。

在特定实施例中，助理***140可以从与用户相关联的客户端***130中的助理应用136接收用户输入。在特定实施例中，用户输入可以是用户生成的输入，其在单轮中被发送到助理***140。如果用户输入基于文本模态，则助理***140可以在消息传递平台205接收它。如果用户输入基于音频模态(例如，用户可以对助理应用136说话或者向助理应用136发送包括语音的视频)，则助理***140可以使用音频语音识别(ASR)模块210对其进行处理，以将用户输入转换成文本。如果用户输入基于图像或视频模态，则助理***140可以使用消息传递平台205内的光学字符识别技术对其进行处理，以将用户输入转换成文本。消息传递平台205或ASR模块210的输出可以在助理xbot 215处接收。关于处理基于不同模态的用户输入的更多信息可以在2018年8月2日提交的美国专利申请第16/053600号中找到，该专利申请通过引用并入。

在特定实施例中，助理xbot 215可以是一种类型的聊天机器人(chat bot)。助理xbot 215可以包括可编程服务通道，可编程服务通道可以是用作用户个人助理的软件代码、逻辑或例程(routine)。助理xbot 215可以作为助理***140的用户门户。因此，助理xbot 215可以被认为是一种类型的会话代理。在特定实施例中，助理xbot 215可以将文本用户输入发送到自然语言理解(NLU)模块220，以解释用户输入。在特定实施例中，NLU模块220可以从用户上下文引擎225和语义信息聚合器(semantic information aggregator)230获得信息，以准确理解用户输入。用户上下文引擎225可以存储用户的用户简档。用户的用户简档可以包括用户简档数据，该用户简档数据包括与用户相关联的人口统计信息、社交信息和上下文信息。用户简档数据还可以包括通过动态消息、搜索日志、消息传递平台205等上的会话聚合的用户对多个主题的兴趣和偏好。用户简档的使用可以被隐私检查模块245保护，以确保用户的信息只能用于他/她的利益，而不与任何其他人共享。关于用户简档的更多信息可以在2018年4月30日提交的美国专利申请第15/967239号中找到，该专利申请通过引用并入。语义信息聚合器230可以向NLU模块220提供与多个预定义的域(domain)、意图(intent)和槽(slot)相关联的本体数据(ontology data)。在特定实施例中，域可以表示交互的社交背景，例如，教育。意图可以是语义意图的预定义分类中的元素，其可以指示用户与助理***140交互的目的。在特定实施例中，如果用户输入包括文本/语音输入，则意图可以是NLU模块220的输出。NLU模块220可以将文本/语音输入分类为预定义分类的成员，例如，对于输入“播放贝多芬的第五交响乐”，NLU模块220可以将输入分类为具有意图[意图:播放_音乐]。在特定实施例中，域可以在概念上是意图集合的命名空间，例如，音乐。槽可以是具有用户输入的命名子串，表示基本语义实体。例如，“比萨饼”的槽可以是[槽：盘子]。在特定实施例中，有效或预期命名槽的集合可以基于分类的意图。作为示例而不是作为限制，对于[意图：播放_音乐]，槽可以是[槽：歌曲_名称]。语义信息聚合器230还可以从社交图、知识图和概念图中提取信息，并从用户上下文引擎225检索用户简档。语义信息聚合器230还可以通过确定聚合什么信息、注释用户输入的n-grams(n元文法)、基于聚合的信息用置信度分数对n-grams进行排序、将排序的n-grams公式化为可以被NLU模块220用于理解用户输入的特征来处理来自这些不同源的信息。关于聚合语义信息的更多信息可以在2018年4月30日提交的美国专利申请第15/967342号中找到，该专利申请通过引用并入。基于用户上下文引擎225和语义信息聚合器230的输出，NLU模块220可以以个性化和上下文感知的方式从用户输入中识别域、意图和一个或更多个槽。作为示例而不是作为限制，用户输入可以包括“告诉我如何去星巴克(show me how to get to the Starbucks)”。NLU模块220可以基于用户的个人信息和相关联的上下文信息来识别用户想要去的特定星巴克。在特定实施例中，NLU模块220可以包括语言词典(lexicon of language)、解析器(parser)和语法规则，以将句子划分成内部表示。NLU模块220还可以包括一个或更多个程序，该程序使用语用学(pragmatics)来执行朴素(naive)语义或随机语义分析，以理解用户输入。在特定实施例中，解析器可以基于包括多个长短期记忆(LSTM)网络的深度学习架构。作为示例而不是作为限制，解析器可以基于递归神经网络语法(RNNG)模型，这是一种类型的递归和循环LSTM算法。关于自然语言理解的更多信息可以在2018年6月18日提交的美国专利申请第16/011062号、2018年7月2日提交的美国专利申请第16/025317号、和2018年7月17日提交的美国专利申请第16/038120号中找到，这些专利申请中的每一个通过引用并入。

在特定实施例中，来自NLU模块220的所识别的域、意图和一个或更多个槽可以被发送到对话引擎235。在特定实施例中，对话引擎235可以管理用户与助理xbot 215之间的会话流和对话状态。对话引擎235另外可以存储用户和助理xbot 215之间的先前会话。在特定实施例中，对话引擎235可以与实体解析模块240通信，以解析与一个或更多个槽相关联的实体，这支持对话引擎235转发用户和助理xbot 215之间的会话流。在特定实施例中，实体解析模块240可以在解析实体时访问社交图、知识图和概念图。实体可以包括例如独特的用户或概念，每个用户或概念可以具有唯一的标识符(ID)。作为示例而不是作为限制，知识图可以包括多个实体。每个实体可以包括与一个或更多个属性值相关联的单个记录。特定记录可以与唯一的实体标识符相关联。对于实体的一个属性，每个记录可以有不同的值。每个属性值可以与置信度概率相关联。属性值的置信度概率表示该值对于给定属性是准确的概率。每个属性值也可以与语义权重相关联。属性值的语义权重可以表示考虑到所有可用信息该值在语义上如何适合给定属性。例如，知识图可以包括电影“火星救援(TheMartian)”(2015年)的实体，该实体包括已经从多个内容源(例如，Facebook、Wikipedia、电影评论源、媒体数据库和娱乐内容源)提取、并且然后被去重(deduped)、解析和融合以生成知识图的单个唯一记录的信息。实体可以与指示电影“火星救援”(2015年)的类型(genre)的空间属性值相关联。关于知识图的更多信息可以在2018年7月27日提交的美国专利申请第16/048049号和2018年7月27日提交的美国专利申请第16/048101号中找到，这些专利申请中的每一个通过引用并入。实体解析模块240另外可以从用户上下文引擎225请求与用户输入相关联的用户的用户简档。在特定实施例中，实体解析模块240可以与隐私检查模块245通信，以保证实体的解析不违反隐私策略。在特定实施例中，隐私检查模块245可以使用授权/隐私服务器来实施隐私策略。作为示例而不是作为限制，待解析的实体可以是在他/她的隐私设置中指定他/她的身份不应该在在线社交网络上可搜索的另一个用户，因此实体解析模块240可以响应于请求而不返回该用户的标识符。基于从社交图、知识图、概念图和用户简档获得的信息，并遵循适用的隐私策略，实体解析模块240因此可以以个性化和上下文感知的方式准确地解析与用户输入相关联的实体。在特定实施例中，每个解析的实体可以与由社交网络***160托管的一个或更多个标识符相关联。作为示例而不是作为限制，标识符可以包括唯一的用户标识符(ID)。在特定实施例中，每个解析的实体也可以与置信度分数相关联。关于解析实体的更多信息可以在2018年7月27日提交的美国专利申请第16/048049号和2018年7月27日提交的美国专利申请第16/048072号中找到，这些专利申请中的每一个通过引用并入。

在特定实施例中，对话引擎235可以基于所识别的意图和域以及所解析的实体与不同的代理通信。在特定实施例中，代理可以是充当一个域的多个内容提供者之间的中介者(broker)的一种实现。内容提供者可以是负责执行与意图相关联的动作或完成与意图相关联的任务的实体。作为示例而不是作为限制，多个特定于设备的实现(例如，对客户端***130的或客户端***130上的消息传递应用的实时调用)可以由单个代理在内部处理。可替代地，这些特定于设备的实现可以由与多个域相关联的多个代理来处理。在特定实施例中，代理可以包括第一方代理250和第三方代理255。在特定实施例中，第一方代理250可以包括可由助理***140访问和控制的内部代理(例如，与在线社交网络提供的服务相关联的代理(Messenger、Instagram))。在特定实施例中，第三方代理255可以包括助理***140不能控制的外部代理(例如，音乐流代理(声田(Spotify))、门票销售代理(Ticketmaster))。第一方代理250可以与第一方提供者260相关联，该第一方提供者260提供由社交网络***160托管的内容对象和/或服务。第三方代理255可以与第三方提供者265相关联，该第三方提供者265提供由第三方***170托管的内容对象和/或服务。

在特定实施例中，从对话引擎235到第一方代理250的通信可以包括请求由第一方提供者260提供的特定内容对象和/或服务。因此，第一方代理250可以从第一方提供者260检索所请求的内容对象和/或执行命令第一方提供者260执行所请求服务的任务。在特定实施例中，从对话引擎235到第三方代理255的通信可以包括请求由第三方提供者265提供的特定内容对象和/或服务。因此，第三方代理255可以从第三方提供者265检索所请求的内容对象和/或执行命令第三方提供者265执行所请求服务的任务。第三方代理255可以访问隐私检查模块245，以保证在与第三方提供者265交互之前没有隐私侵犯。作为示例而不是作为限制，与用户输入相关联的用户可以在他/她的隐私设置中指定他/她的简档信息对于任何第三方内容提供者是不可见的。因此，当从第三方提供者265检索与用户输入相关联的内容对象时，第三方代理255可以在不向第三方提供者265透露哪个用户正在请求内容对象的情况下完成检索。

在特定实施例中，第一方代理250或第三方代理255中的每一个可以被指定用于特定域。作为示例而不是作为限制，域可以包括天气、运输、音乐等。在特定实施例中，助理***140可以协同使用多个代理来响应用户输入。作为示例而不是作为限制，用户输入可以包括“指引我到我的下一个会议(direct me to my next meeting)”。助理***140可以使用日历代理来检索下一个会议的位置。助理***140然后可以使用导航代理来指引用户到下一个会议。

在特定实施例中，第一方代理250或第三方代理255中的每一个可以从用户上下文引擎225检索用户简档，从而以个性化和上下文感知的方式执行任务。作为示例而不是作为限制，用户输入可以包括“为我预订去机场的乘坐(book me a ride to the airport)”。运输代理可以执行预订乘坐的任务。运输代理可以在预订乘坐之前从用户上下文引擎225检索用户的用户简档。例如，用户简档可以指示用户更喜欢出租车，因此运输代理可以为用户预订出租车。作为另一个示例，与用户简档相关联的上下文信息可以指示用户赶时间，因此运输代理可以为用户从拼车服务(例如，Uber、Lyft)预订乘坐，因为从拼车服务获得乘坐可能比出租车公司更快。在特定实施例中，第一方代理250或第三方代理255中的每一个在执行任务时可以考虑其他因素。作为示例而不是作为限制，其他因素可以包括价格、评级、效率、与在线社交网络的伙伴关系等。

在特定实施例中，对话引擎235可以与会话理解编写器(CU编写器)270通信。对话引擎235可以将所请求的内容对象和/或所请求服务的状态发送给CU编写器270。在特定实施例中，对话引擎235可以将所请求的内容对象和/或所请求服务的状态作为<k,c,u,d>元组(tuple)发送，其中k指示知识源、c指示通信目标、u指示用户模型，并且d指示话语(discourse)模型。在特定实施例中，CU编写器270可以包括自然语言生成器(NLG)271和用户界面(UI)有效载荷生成器272。自然语言生成器271可以基于对话引擎235的输出生成通信内容。在特定实施例中，NLG271可以包括内容确定部件、句子规划器和表层实现(surfacerealization)部件。内容确定部件可以基于知识源、通信目标和用户的期望来确定通信内容。作为示例而不是作为限制，确定可以基于描述逻辑。描述逻辑可以包括例如三个基本观念(notion)，它们是个体(表示域中的对象)、概念(描述个体集合)和角色(表示个体或概念之间的二元关系)。描述逻辑可以由一组构造器来表征，该构造器允许自然语言生成器271从原子(atomic)概念/角色构建复杂概念/角色。在特定实施例中，内容确定部件可以执行以下任务来确定通信内容。第一任务可以包括翻译任务，其中对自然语言生成器271的输入可以被翻译成概念。第二任务可以包括选择任务，其中可以基于用户模型从翻译任务产生的概念中选择相关概念。第三任务可以包括验证任务，其中可以验证所选概念的一致性。第四任务可以包括实例化任务，其中被验证的概念可以被实例化为可由自然语言生成器271处理的可执行文件。句子规划器可以确定通信内容的组织，使其为人所理解。表层实现部件可以确定要使用的特定单词、句子的顺序以及通信内容的风格。UI有效载荷生成器272可以确定要呈现给用户的通信内容的优选模态。在特定实施例中，CU编写器270可以与隐私检查模块245通信，以确保通信内容的生成遵循隐私策略。在特定实施例中，在生成通信内容并确定通信内容的模态时，CU编写器270可以从用户上下文引擎225检索用户简档。因此，对于用户来说，通信内容可以是更加自然、个性化和上下文感知的。作为示例而不是作为限制，用户简档可以指示用户喜欢会话中的短句，因此生成的通信内容可以基于短句。作为另一个示例而不是作为限制，与用户简档相关联的上下文信息可以指示用户正在使用仅输出音频信号的设备，因此UI有效载荷生成器272可以将通信内容的模态确定为音频。关于自然语言生成的更多信息可以在2018年4月30日提交的美国专利申请第15/967279号和2018年4月30日提交的美国专利申请第15/966455号中找到，这些专利申请中的每一个通过引用并入。

在特定实施例中，CU编写器270可以将生成的通信内容发送给助理xbot 215。在特定实施例中，助理xbot 215可以将通信内容发送到消息传递平台205。消息传递平台205还可以经由助理应用136向客户端***130发送通信内容。在替代实施例中，助理xbot 215可以将通信内容发送到文本到语音(TTS)模块275。TTS模块275可以将通信内容转换成音频剪辑。TTS模块275还可以经由助理应用136将音频剪辑发送到客户端***130。

在特定实施例中，助理xbot 215可以在不接收用户输入的情况下与主动推断(proactive inference)层280交互。主动推断层280可以基于从用户上下文引擎225检索的用户简档来推断用户兴趣和偏好。在特定实施例中，主动推断层280还可以与主动代理285就推断进行通信。主动代理285可以基于推断执行主动任务。作为示例而不是作为限制，主动任务可以包括向用户发送内容对象或提供服务。在特定实施例中，每个主动任务可以与一个议程项目(agenda item)相关联。议程项目可以包括循环出现的项目，如每日摘要。议程项目也可以包括一次性项目。在特定实施例中，主动代理285可以在执行主动任务时从用户上下文引擎225检索用户简档。因此，主动代理285可以以个性化和上下文感知的方式执行主动任务。作为示例而不是作为限制，主动推断层可以推断用户喜欢Maroon 5乐队，并且主动代理285可以针对用户生成Maroon 5的新歌曲/专辑的推荐。

在特定实施例中，主动代理285可以基于用户简档生成与主动任务相关联的候选实体。该生成可以基于使用确定性滤波器从结构化数据储存器检索候选实体的直接后端查询。可替代地，该生成可以基于机器学习模型，该机器学习模型基于用户简档、实体属性以及用户和实体之间的相关性进行训练。作为示例而不是作为限制，机器学习模型可以基于支持向量机(SVM)。作为另一个示例而不是作为限制，机器学习模型可以基于回归模型(regression model)。作为另一个示例而不是作为限制，机器学习模型可以基于深度卷积神经网络(DCNN)。在特定实施例中，主动代理285还可以基于用户简档和与候选实体相关联的内容来对生成的候选实体进行排序。排序可以基于用户兴趣与候选实体之间的相似性。作为示例而不是作为限制，助理***140可以生成表示用户兴趣的特征向量和表示候选实体的特征向量。助理***140然后可以计算表示用户兴趣的特征向量和表示候选实体的特征向量之间的相似性分数(例如，基于余弦相似性)。可替代地，排序可以基于排序模型，其基于用户反馈数据进行训练。

在特定实施例中，主动任务可以包括向用户推荐候选实体。主动代理285可以调度(schedule)推荐，从而将推荐时间与推荐的候选实体相关联。推荐的候选实体也可以与优先级和到期时间相关联。在特定实施例中，推荐的候选实体可以被发送到主动调度器。主动调度器可以基于与任务相关联的优先级和其他相关因素(例如，推荐的候选实体的点击和印象)来确定向用户发送推荐的候选实体的实际时间。在特定实施例中，主动调度器然后可以将具有确定的实际时间的推荐候选实体发送到异步层(asynchronous tier)。异步层可以将推荐的候选实体临时存储为作业(job)。在特定实施例中，异步层可以在确定的实际时间将作业发送到对话引擎235以进行执行。在替代实施例中，异步层可以通过将其发送到其他表层(例如，与社交网络***160相关联的其他通知服务)来执行作业。在特定实施例中，对话引擎235可以识别与用户相关联的对话意图、状态和历史。基于对话意图，对话引擎235可以从推荐的候选实体中选择一些候选实体来发送给客户端***130。在特定实施例中，对话状态和历史可以指示用户是否参与了与助理xbot 215的正在进行的会话。如果用户参与了正在进行的会话，并且推荐任务的优先级低，则对话引擎235可以与主动调度器通信，以重新调度将所选候选实体发送到客户端***130的时间。如果用户参与了正在进行的会话并且推荐任务的优先级高，则对话引擎235可以发起与用户的新的对话会话(session)，其中可以呈现所选候选实体。因此，可以防止正在进行的会话的中断。当确定发送所选择的候选实体不会中断用户时，对话引擎235可以将所选择的候选实体发送到CU编写器270，以根据用户的隐私设置生成包括所选候选实体的个性化和上下文感知的通信内容。在特定实施例中，CU编写器270可以将通信内容发送给助理xbot 215，助理xbot 215然后可以经由消息传递平台205或TTS模块275将其发送给客户端***130。关于主动帮助用户的更多信息可以在2018年4月30日提交的美国专利申请第15/967193号和2018年7月16日提交的美国专利申请第16/036827号中找到，这些专利申请中的每一个通过引用并入。

在特定实施例中，助理xbot 215可以响应于用户输入与主动代理285通信。作为示例而不是作为限制，用户可以要求助理xbot 215设置提醒。助理xbot 215可以请求主动代理285设置这样的提醒，并且主动代理285可以在稍后主动执行提醒用户的任务。

在特定实施例中，助理***140可以包括汇总器(summarizer)290。汇总器290可以向用户提供定制的动态消息汇总。在特定实施例中，汇总器290可以包括多个元代理(metaagent)。多个元代理可以使用第一方代理250、第三方代理255或主动代理285来生成动态消息汇总。在特定实施例中，汇总器290可以从主动推断层280检索用户兴趣和偏好。汇总器290然后可以从实体解析模块240检索与用户兴趣和偏好相关联的实体。汇总器290还可以从用户上下文引擎225检索用户简档。基于来自主动推断层280、实体解析模块240和用户上下文引擎225的信息，汇总器290可以为用户生成个性化的和上下文感知的汇总。在特定实施例中，汇总器290可以将汇总发送给CU编写器270。CU编写器270可以处理汇总并将处理结果发送给助理xbot 215。然后，助理xbot 215可以经由消息传递平台205或TTS模块275向客户端***130发送经处理的汇总。关于汇总的更多信息可以在2018年4月30日提交的美国专利申请第15/967290号中找到，该专利申请通过引用并入。

图3示出了助理***140响应用户请求的示例流程图。在特定实施例中，助理xbot215可以在接收到用户请求时访问请求管理器305。请求管理器305可以包括上下文提取器306和会话理解对象生成器(CU对象生成器)307。上下文提取器306可以提取与用户请求相关联的上下文信息。上下文提取器306还可以基于在客户端***130上执行的助理应用136来更新上下文信息。作为示例而不是作为限制，上下文信息的更新可以包括在客户端***130上显示内容项目。作为另一个示例而不是作为限制，上下文信息的更新可以包括在客户端***130上设置警报。作为另一个示例而不是作为限制，上下文信息的更新可以包括在客户端***130上播放歌曲。CU对象生成器307可以生成与用户请求相关的特定内容对象。内容对象可以包括与用户请求相关联的对话会话数据和特征，其可以与助理***140的所有模块共享。在特定实施例中，请求管理器305可以将上下文信息和生成的内容对象存储在数据储存器310中，数据储存器310是在助理***140中实现的特定数据储存器。

在特定实施例中，请求管理器305可以将生成的内容对象发送到NLU模块220。NLU模块220可以执行多个步骤来处理内容对象。在步骤221，NLU模块220可以生成内容对象的白名单(whitelist)。在特定实施例中，白名单可以包括匹配用户请求的解释数据。在步骤222，NLU模块220可以基于白名单执行特征化。在步骤223，NLU模块220可以基于特征化产生的特征对用户请求执行域分类/选择，以将用户请求分类到预定义的域中。可以基于两个相关的过程进一步处理域分类/选择结果。在步骤224a，NLU模块220可以使用意图分类器来处理域分类/选择结果。意图分类器可以确定与用户请求相关联的用户意图。在特定实施例中，每个域可以有一个意图分类器来确定给定域中最可能的意图。作为示例而不是作为限制，意图分类器可以基于机器学习模型，该模型可以将域分类/选择结果作为输入，并计算输入与特定预定义意图相关联的概率。在步骤224b，NLU模块可以使用元意图(meta-intent)分类器来处理域分类/选择结果。元意图分类器可以确定描述用户意图的类别。在特定实施例中，多个域共有的意图可以由元意图分类器处理。作为示例而不是作为限制，元意图分类器可以基于机器学习模型，该模型可以将域分类/选择结果作为输入，并计算输入与特定预定义元意图相关联的概率。在步骤225a，NLU模块220可以使用槽标记器(slottagger)来注释与用户请求相关联的一个或更多个槽。在特定实施例中，槽标记器可以为用户请求的n-grams注释一个或更多个槽。在步骤225b，NLU模块220可以使用元槽标记器为来自元意图分类器的分类结果注释一个或更多个槽。在特定实施例中，元槽标记器可以标记通用槽，如对项目的引用(例如，第一个)、槽的类型、槽的值等。作为示例而不是作为限制，用户请求可以包括“将我账户中的500美元兑换成日元(change 500dollars in myaccount to Japanese yen)”。意图分类器可以将用户请求作为输入，并将其公式化为向量。意图分类器然后可以基于表示用户请求的向量和表示不同预定义意图的向量之间的向量比较来计算用户请求与不同预定义意图相关联的概率。以类似的方式，槽标记器可以将用户请求作为输入，并将每个单词公式化为向量。意图分类器然后可以基于表示单词的向量和表示不同预定义槽的向量之间的向量比较来计算每个单词与不同预定义槽相关联的概率。用户的意图可以被分类为“兑换钱(changing money)”。用户请求的槽可以包括“500”、“美元(dollars)”、“账户(account)”和“日元(Japanese yen)”。用户的元意图可以被分类为“金融服务(financial service)”。元槽(meta slot)可以包括“金融(finance)”。

在特定实施例中，NLU模块220可以通过从语义信息聚合器230提取语义信息来改进内容对象的域分类/选择。在特定实施例中，语义信息聚合器230可以以下述方式聚合语义信息。语义信息聚合器230可以首先从用户上下文引擎225检索信息。在特定实施例中，用户上下文引擎225可以包括离线聚合器226和在线推断服务227。离线聚合器226可以处理从先前时间窗口收集的与用户相关联的多个数据。作为示例而不是作为限制，数据可以包括从先前90天的窗口收集的动态消息帖子/评论、与动态消息帖子/评论的交互、Instagram帖子/评论、搜索历史等。处理结果可以作为用户简档的一部分存储在用户上下文引擎225中。在线推断服务227可以分析由助理***140在当前时间接收的与用户相关联的会话数据。分析结果也可以作为用户简档的一部分存储在用户上下文引擎225中。在特定实施例中，离线聚合器226和在线推断服务227都可以从多个数据中提取个性化特征。提取的个性化特征可以被助理***140的其他模块使用，以更好地理解用户输入。在特定实施例中，语义信息聚合器230然后可以在以下步骤中处理从用户上下文引擎225检索的信息，即用户简档。在步骤231，语义信息聚合器230可以基于自然语言处理(NLP)来处理从用户上下文引擎225检索的信息。在特定实施例中，语义信息聚合器230可以：通过文本标准化来切分(tokenize)文本，从文本中提取句法(syntax)特征，并基于NLP从文本中提取语义特征。语义信息聚合器230另外可以从上下文信息中提取特征，该上下文信息是从用户和助理***140之间的对话历史访问的。语义信息聚合器230还可以基于上下文信息进行全局单词嵌入、特定于域的嵌入和/或动态嵌入。在步骤232，处理结果可以由实体标记器用实体来注释。在步骤233，基于注释，语义信息聚合器230可以为检索到的信息生成字典。在特定实施例中，字典可以包括可以离线动态更新的全局字典特征。在步骤234，语义信息聚合器230可以对由实体标记器标记的实体进行排序。在特定实施例中，语义信息聚合器230可以与包括社交图、知识图和概念图的不同图330通信，以提取与从用户上下文引擎225检索的信息相关的本体数据。在特定实施例中，语义信息聚合器230可以聚合用户简档、排序的实体和来自图330的信息。语义信息聚合器230然后可以将聚合的信息发送到NLU模块220，以促进域分类/选择。

在特定实施例中，NLU模块220的输出可以被发送到共指(co-reference)模块315，以解释与用户请求相关联的内容对象的指代。在特定实施例中，共指模块315可用于识别用户请求所指的项目。共指模块315可以包括指代创建316和指代消解(referenceresolution)317。在特定实施例中，指代创建316可以为由NLU模块220确定的实体创建指代。指代消解317可以准确地解析这些指代。作为示例而不是作为限制，用户请求可以包括“为我找到最近的沃尔玛并指引我到那里(find me the nearest Walmart and direct methere)”。共指模块315可以将“那里(there)”解释为“最近的沃尔玛(the nearestWalmart)”。在特定实施例中，共指模块315可以在必要时访问用户上下文引擎225和对话引擎235，以用提高的准确性来解释指代。

在特定实施例中，所识别的域、意图、元意图、槽和元槽以及所解析的指代可以被发送到实体解析模块240以解析相关实体。实体解析模块240可以执行通用的和特定于域的实体解析。在特定实施例中，实体解析模块240可以包括域实体解析241和通用实体解析242。域实体解析241可以通过将槽和元槽归类到不同的域来解析实体。在特定实施例中，可以基于从图330中提取的本体数据来解析实体。本体数据可以包括不同槽/元槽和域之间的结构关系。本体也可以包括槽/元槽可以如何在较高级别包括域的层次结构内被分组、相关，并根据相似性和差异细分的信息。通用实体解析242可以通过将槽和元槽归类到不同的通用主题来解析实体。在特定实施例中，解析也可以基于从图330中提取的本体数据。本体数据可以包括不同槽/元槽和通用主题之间的结构关系。本体也可以包括槽/元槽可以如何在较高级别包括主题的层次结构内被分组、相关，并根据相似性和差异细分的信息。作为示例而不是作为限制，响应于对特斯拉(Tesla)汽车的优点的询问的输入，通用实体解析242可以将特斯拉汽车解析为车辆(vehicle)，并且域实体解析241可以将特斯拉汽车解析为电动汽车(electric car)。

在特定实施例中，实体解析模块240的输出可以被发送到对话引擎235，以转发与用户的会话流。对话引擎235可以包括对话意图解析236和对话状态更新/排序器237。在特定实施例中，对话意图解析236可以基于用户和助理***140之间的对话历史来解析与当前对话会话相关联的用户意图。对话意图解析236可以将NLU模块220确定的意图映射到不同的对话意图。对话意图解析236还可以基于来自NLU模块220、实体解析模块240的信号以及用户和助理***140之间的对话历史来对对话意图进行排序。在特定实施例中，对话状态更新/排序器237可以对当前对话会话的对话状态进行更新/排序。作为示例而不是作为限制，如果对话会话结束，对话状态更新/排序器237可以将对话状态更新为“完成(completed)”。作为另一个示例而不是作为限制，对话状态更新/排序器237可以基于与对话状态相关联的优先级来对对话状态进行排序。

在特定实施例中，对话引擎235可以就对话意图和相关联的内容对象与任务完成模块335进行通信。在特定实施例中，任务完成模块335可以针对不同的对话意图对不同的对话假设进行排序。任务完成模块335可以包括动作选择部件336。在特定实施例中，对话引擎235另外可以对照关于对话状态的对话策略320进行检查。在特定实施例中，对话策略320可以包括描述代理340的动作执行计划的数据结构。代理340可以在注册的内容提供者中进行选择来完成该动作。数据结构可以由对话引擎235基于意图和与该意图相关联的一个或更多个槽来构造。对话策略320还可以包括通过逻辑操作符互相关的多个目标。在特定实施例中，目标可以是对话策略的一部分的输出结果，并且它可以由对话引擎235构造。目标可以由具有一个或更多个命名参量的标识符(例如，字符串)来表示，该一个或更多个命名参量将目标参数化。作为示例而不是作为限制，目标及其关联的目标参量可以表示为{确认_艺术家，参量:{艺术家:“Madonna”}}。在特定实施例中，对话策略可以基于树形结构表示，其中目标被映射到树叶。在特定实施例中，对话引擎235可以执行对话策略320来确定要执行的下一个动作。对话策略320可以包括通用策略321和特定于域的策略322，它们都可以指导如何基于对话状态选择下一个***动作。在特定实施例中，任务完成模块335可以与对话策略320通信，以获得下一个***动作的指导。在特定实施例中，动作选择部件336因此可以基于对话意图、相关联的内容对象和来自对话策略320的指导来选择动作。

在特定实施例中，任务完成模块335的输出可以被发送到CU编写器270。在替代实施例中，所选择的动作可能需要一个或更多个代理340参与。因此，任务完成模块335可以向代理340通知所选择的动作。同时，对话引擎235可以接收更新对话状态的指令。作为示例而不是作为限制，更新可以包括等待代理的响应。在特定实施例中，CU编写器270可以基于任务完成模块335的输出使用NLG 271而为用户生成通信内容。在特定实施例中，NLG 271可以使用不同的语言模型和/或语言模板来生成自然语言输出。自然语言输出的生成可以是特定于应用的。自然语言输出的生成也可以针对每个用户进行个性化。CU编写器270还可以使用UI有效载荷生成器272来确定所生成的通信内容的模态。由于所生成的通信内容可以被认为是对用户请求的响应，所以CU编写器270可以另外使用响应排序器273来对所生成的通信内容进行排序。作为示例而不是作为限制，排序可以指示响应的优先级。

在特定实施例中，CU编写器270的输出可以被发送到响应管理器325。响应管理器325可以执行不同的任务，包括存储/更新从数据储存器310检索的对话状态326以及生成响应327。在特定实施例中，CU编写器270的输出可以包括自然语言字符串、语音或带有参数的动作中的一个或更多个。因此，响应管理器325可以基于CU编写器270的输出来确定要执行什么任务。在特定实施例中，所生成的响应和通信内容可以被发送到助理xbot 215。在替代实施例中，如果所确定的通信内容的模态是音频，则CU编写器270的输出可以另外发送到TTS模块275。然后，由TTS模块275生成的语音和由响应管理器325生成的响应可以被发送到助理xbot 215。

在特定实施例中，助理***140可以使用一个或更多个非局部机器学习模型来分析包括语音、文本、图像、视频或它们的组合中的一个或更多个的内容对象。非局部机器学习模型可以基于深度神经网络。在深度神经网络中，卷积操作和循环操作可以是一次处理一个局部邻域的构建块。在特定实施例中，非局部机器学习模型可以使用非局部操作作为用于捕获长程依赖关系的一系列通用的构建块。非局部机器学习模型可以使用非局部操作来将一个位置处的响应计算为所有位置处的特征的加权和。构建块可以***到多个计算机视觉架构中。在特定实施例中，非局部机器学习模型可以应用于视频分类的任务。作为示例而不是作为限制，非局部机器学习模型即使没有任何附加功能也可以在Kinetics和Charades数据集(即，两个公共数据集)上对抗或胜过当前竞争获胜者。在特定实施例中，非局部机器学习模型也可以应用于静态图像识别。作为示例而不是作为限制，非局部机器学习模型可以改进对COCO(即，公共数据集)任务集的对象检测/分割和姿态估计。尽管本公开以特定方式描述了基于特定构建块的特定机器学习模型，但是本公开以任何合适的方式设想了基于任何合适构建块的任何合适的机器学习模型。

在特定实施例中，助理***140可以基于包括多个阶段的神经网络来训练基线机器学习模型。每个阶段可以包括多个神经块。助理***140然后可以访问分别包括多个内容对象的多个训练样本。在特定实施例中，助理***140可以确定一个或更多个非局部操作。每个非局部操作可以基于一个或更多个成对函数和一个或更多个一元函数。在特定实施例中，助理***140可以基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块。助理***140然后可以从神经网络的多个阶段中确定一个阶段。在特定实施例中，助理***140还可以通过将一个或更多个非局部块中的每一个***神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。

捕获长程依赖关系在深度神经网络中可能是至关重要的。对于序列数据(例如，在语音、语言中)，循环操作可以是长程依赖关系建模的主要解决方案。对于图像数据，长距离依赖关系可以通过由卷积操作的深层堆栈形成的大感受野(receptive fields)来建模。

卷积操作和循环操作都可以在空间或时间上处理局部邻域。因此，只有在重复应用这些操作时，才能捕获长程依赖关系，从而在数据中逐步传播信号。重复局部操作可能有几个限制。首先，它在计算上效率低下。其次，它会导致需要仔细解决的优化困难。最后，这些挑战使得实现多跳(multi-hop)依赖关系建模变得困难，在多跳依赖关系建模中，消息需要在远的位置之间来回传递。

图4示出了用于视频分类的非局部机器学***均来计算(图4中仅示出了最高加权的特征)。在这个由非局部机器学习模型计算的示例中，注意它如何将第一帧中的球(ball)与最后两帧中的球联系起来。更多的示例在图10中。位置集合可以在空间、时间或时空中。因此，非局部操作可适用于图像、序列和视频问题。

使用非局部操作可以有几个技术优势：(a)与循环和卷积操作的渐进行为相比，非局部操作可以通过计算任意两个位置之间的交互来直接捕获长程依赖关系，而不管它们的位置距离如何；(b)即使只使用几个层(例如，5层)，非局部操作也可以是高效的，并能获得其最佳结果；(c)最后，非局部操作可以保持可变的输入大小，并且可以容易地与其他操作(例如，卷积)组合。

在特定实施例中，非局部操作的有效性可以在视频分类的应用中示出。在视频中，长程交互可以发生在空间和时间上的远的像素之间。作为非局部机器学习模型的基本单元的单个非局部块可以以前馈方式直接捕获这些时空依赖关系。非局部机器学习模型的架构可以称为非局部神经网络。在特定实施例中，使用几个非局部块，非局部神经网络对于视频分类可以比二维(2D)和三维(3D)卷积网络以及2D和3D卷积网络的膨胀变体(inflatedvariant)更准确。此外，非局部神经网络可以比它们的3D卷积对应体(counterpart)在计算上更经济。在本文公开的实施例中，在Kinetics和Charades数据集上呈现全面的消融研究(ablation studies)。在特定实施例中，非局部机器学习模型通过仅使用RGB并且在没有任何附加功能(例如，光流、多尺度测试)的情况下，在两个数据集上获得与最新的竞争获胜者相当或比其更好的结果。

在本文公开的实施例中，还给出了在COCO数据集上的对象检测、分割和姿态估计的实验，以证明非局部操作的一般性。作为示例而不是作为限制，非局部块可以在强掩蔽R-CNN基线(即，常规工作)之上以小的额外计算成本提高所有三个任务的准确性。结合视频上的证据，这些图像实验表明非局部操作通常是有用的，并成为设计深度神经网络的基本构建块。

非局部图像处理.非局部均值是一种经典的滤波算法，该算法计算图像中所有像素的加权均值。它允许远处的像素促成基于片(patch)外观相似性的在一位置处的经滤波的响应。这种非局部滤波的思想后来发展到了BM3D(块匹配3D)，它对一组相似但非局部的片执行滤波。即使与深度神经网络相比，BM3D也是一种可靠的图像去噪基线。非局部匹配也是成功的纹理合成、超分辨率和修复算法的关键。

条件随机场.长程依赖关系可以通过诸如条件随机场(CRF)的图形模型来建模。在深度神经网络的上下文中，可以利用CRF来对网络的语义分割预测进行后处理。CRF的迭代平均场推断可以转化为循环网络并联合训练。相反，本文公开的实施例可以是用于计算非局部滤波的简单前馈。

序列的前馈建模.最近出现了使用前馈(即，非循环)网络来对语音和语言中的序列进行建模的趋势。在这些方法中，长期依赖关系被受益于非常深的一维(1D)卷积的大感受野捕获。这些前馈模型适合并行实现，并且比广泛使用的循环模型更高效。

自注意力(Self-attention).非局部机器学***均来计算序列(例如，句子)中某个位置处的响应。自注意力可以被视为非局部均值的一种形式，并且在这个意义上，本文公开的实施例可以将机器翻译的自注意力连接(bridge)到适用于计算机视觉中的图像和视频问题的更一般的一类非局部滤波操作。

关系网络.关系网络最近被提议用于关系推理任务。关系网络计算其输入中所有位置对处的特征嵌入的函数。非局部机器学习模型也可以处理所有对。但是，与通过求和将所有对聚合成单个输出向量的关系网络不同，非局部机器学习模型可以产生与它可能可变大小的输入具有相同大小的输出。这可以允许非局部操作之后跟随卷积或递归层，或者非局部操作被使用一次以上，使得其容易且灵活地集成到计算机视觉中使用的标准网络架构中。

视频分类架构.视频分类的一个自然解决方案是将用于图像的卷积神经网络(CNN)和用于序列的递归神经网络(RNN)的成功性结合起来。相比之下，前馈模型通过时空中的3D卷积(C3D)来实现，并且3D滤波器可以通过“膨胀(inflating)”预先训练的2D滤波器来形成。除了对原始视频输入进行端到端建模，还发现光流和轨迹可能会有所帮助。流和轨迹都是现成的模块，可以找到长程的、非局部的依赖关系。

在下文中，给出了非局部操作的一般定义，然后提供了它的几个具体实例化。

在特定实施例中，深度神经网络中的通用非局部操作可以定义为：

在特定实施例中，与非局部机器学习模型相关联的一个或更多个非局部操作中的每一个都可以基于上述函数。如本文所使用的，i可以指示其响应将被计算的输出位置的索引，并且j可以指示列举所有可能位置的索引。在特定实施例中，输出位置可以在空间、时间或时空中的一个或更多个中。x可以指示输入信号，并且y可以指示具有与x相同大小的输出信号。在特定实施例中，成对函数f可以计算i和所有j之间的标量。标量可以表示一种关系，如亲和性。在特定实施例中，一元函数g可以计算位置j处输入信号的表示。响应还可以通过归一化因子C(x)归一化。在特定实施例中，输入信号可以包括内容对象。作为示例而不是作为限制，内容对象可以包括文本、音频剪辑、图像或视频中的一个或更多个。在特定实施例中，输入信号可以包括内容对象的特征表示。因此，x_i可以指示输出位置处的特征表示；x_j可以指示多个位置之一处的特征表示；并且y_i可以指示输出位置处的输出响应。

等式(1)中的非局部行为可以是由于在操作中考虑了所有位置

的事实。作为比较，卷积操作可以对局部邻域中的加权输入求和(例如，在内核大小为3的1D情形中i-1≤j≤i+1)，并且在时间i的循环操作通常可以仅基于当前和最新的时间步骤(例如，j＝i或i-1)。

非局部操作也可以不同于卷积神经网络中的全关连(fc)层。等式(1)可以基于不同位置之间的关系计算响应，而fc使用学习的权重。换句话说，在fc中，与在非局部层中不同，x_j和x_i之间的关系可以不是输入数据的函数。此外，等式(1)中的公式可以支持可变大小的输入，并在输出中保持对应的大小。相反，fc层可能需要固定大小的输入/输出，并且丢失位置对应性(例如，位置i处从x_i到y_i的对应)。

在特定实施例中，非局部操作可以是灵活的构建块，并且容易与卷积/循环层一起使用。构建块可以被称为非局部块。它可以被添加到深度神经网络的早期部分，不像经常在最后使用的fc层。这可以允许建立一个更丰富的层次结构，该层次结构将非局部和局部信息结合起来。在特定实施例中，生成一个或更多个非局部块中的每一个可以包括将一个或更多个非局部操作中的每一个应用于多个内容对象之一的特征表示。在特定实施例中，应用非局部操作还可以包括针对多个内容对象中的每一个确定输出位置和与输出位置相关联的多个位置。

在特定实施例中，成对函数f和一元函数g可以基于多个不同的版本。在特定实施例中，非局部机器学习模型可以对不同版本的这些选项不敏感，这表明通用的非局部行为可以是针对不同任务(例如，视频分析)观察到的改进的主要原因。

在特定实施例中，为了简单起见，一元函数g可以是线性嵌入的形式：g(x_j)＝W_gx_j。W_g可以指示要学习的权重矩阵。在特定实施例中，线性嵌入可以实现为，例如，空间中的1×1卷积或时空中的1×1×1卷积。

在特定实施例中，成对函数f可以基于不同的函数。作为示例而不是作为限制，不同的函数可以包括高斯、嵌入高斯、点积、级联、任何合适的函数或其任意组合中的一个或更多个。

高斯.在特定实施例中，成对函数f的一个选项可以包括高斯函数，其可以被公式化为：

在特定实施例中，

可以是点积相似性。在替代实施例中，欧几里德(Euclidean)距离可以是适用的。然而，在现代深度学习平台中，点积可能更易于实现。在特定实施例中，归一化因子可以被设置为/>

嵌入高斯.在特定实施例中，成对函数f的另一个选项可以包括高斯函数的扩展，以计算嵌入空间中的相似性。在特定实施例中，它可以被公式化为：

在特定实施例中，θ(x_i)＝W_θx_i和φ(x_j)＝W_φx_j可以是两个嵌入。在特定实施例中，归一化因子可以被设置为

可以注意到，最近提出的用于机器翻译的自注意力模型(即，常规工作)可以是嵌入高斯版本中非局部操作的特殊情形。这可以从以下事实看出：对于给定的i，/>

可以成为沿维度j的softmax计算。因此

这是自注意力模型中的自注意力形式。因此，非局部机器学习模型可以通过将这个最新的自注意力模型关联到经典的非局部均值计算机视觉方法来提供洞察力，并且将自注意力模型中顺序的自注意力网络扩展到用于计算机视觉中的图像/视频识别的通用空间/时空非局部网络。尽管与自注意力模型有关系，注意力行为(由于softmax)在图像和视频分析的应用中可能不是必需的。为了说明这一点，接下来将描述非局部操作的两个替代版本。

点积.在特定实施例中，成对函数f的另一个选项可以包括点积相似性，其被公式化为：

f(x_i，x_j)＝θ(x_i)^Tφ(x_j) (4)

在特定实施例中，点积相似性可以基于嵌入版本。在特定实施例中，归一化因子可以被设置为C(x)＝N。N可以指示x中的位置数量，而不是f的总和，因为其可以简化梯度计算。像这样的归一化可以使输入具有可变的大小。点积和嵌入高斯版本之间的主要区别可能在于softmax的存在，它起着激活函数的作用。

级联.级联被关系网络中的成对函数用于视觉推理。在特定实施例中，成对函数f的另一个选项可以基于级联形式，其被公式化为：

如本文所使用的，[·,·]可以表示级联，并且w_f可以指示将级联向量投影到标量的权重向量。在特定实施例中，归一化因子可以被设置为C(x)＝N。如本文所使用的，ReLU可以指示整流线性单元的函数。

以上几个变体可以证明通用非局部操作的灵活性。在特定实施例中，成对函数f的替代版本是可能的，并且可以提高非局部机器学习模型的性能。

图5示出了示例时空非局部块500。在特定实施例中，如等式(1)中所表征的非局部操作可以被包装到非局部块500中。非局部块500可以并入许多现有架构中。在特定实施例中，非局部块500可以被定义为：

z_i＝W_zy_i+x_i (6)

其中y_i可以表示等式(1)中给出的响应，且“+x_i”可以表示残差连接(residualconnection)。残差连接可以允许新的非局部块500被***到任何预先训练的模型中，而不破坏其初始行为(例如，如果W_z被初始化为零)。在图5中，非局部块500获取由x表示的输入501，用由θ表示的嵌入502、由φ表示的另一个嵌入503和由g表示的一元函数505来处理它。嵌入502和503的结果被由f表示的成对函数504进一步处理。成对函数504和一元函数505的结果经过由

表示的矩阵乘法506。矩阵乘法506的结果被1×1×1卷积507处理。输入501和1×1×1卷积507的结果被由/>

表示的元素级求和(element-wise sum)508处理，这产生由z表示的输出509。

在特定实施例中，成对函数504可以用包括高斯、嵌入高斯、点积或级联中的一个或更多个的不同实例化来实现。图6示出了嵌入高斯实例化的示例流程图。如图6所显示的，基于嵌入高斯的成对函数504用矩阵乘法506处理嵌入502和503，之后应用softmax操作601。图7示出了基于嵌入高斯实例化的示例时空非局部块500。在图7中，特征图被显示为其张量的形状，例如，对于1024个通道的T×H×W×1024(当被注意到时，执行适当的整形)。有512个通道的瓶颈。

表示矩阵乘法506，且/>

表示元素级求和508。在每个行上执行softmax操作601。高斯版本可以通过移除θ和φ来完成。等式(2)、(3)或(4)中的成对计算可以简单地通过图7所示的矩阵乘法506来完成。

图8示出了点积实例化的示例流程图。如图8所显示的，基于点积的成对函数504用矩阵乘法506处理嵌入502和503，之后应用缩放1/N的操作801。图9示出了级联实例化的示例流程图。如图9所显示的，基于级联的成对函数504用级联(Concat)操作901处理嵌入502和503。然后成对函数504使用矩阵乘法506处理由w_f表示的权重因子902和级联操作901的结果。矩阵乘法506的结果由整流线性单元(ReLU)903进一步处理，之后应用缩放1/N的操作801。

在特定实施例中，非局部块500的成对计算在用于高级、子采样的特征图中时可以是轻量级的。作为示例而不是作为限制，图7中的典型值可以是T＝4并且H＝W＝14或7。在特定实施例中，由矩阵乘法506完成的成对计算可以与标准网络中的典型卷积层相比较。在特定实施例中，可以进一步采用以下实现来使其更加高效。

非局部块的实现.在特定实施例中，由W_g、W_θ和

表示的通道数量可以被设置为x中通道数量的一半。这可以将块的计算减少大约一半。在特定实施例中，等式(6)中的权重矩阵W_z可以计算y_i上的位置级嵌入，将通道的数量与x的通道数量相匹配，如图7所示。

在特定实施例中，可以使用子采样技巧来进一步减少计算。在特定实施例中，非局部机器学***均池化中的一种或更多种。在特定实施例中，子采样可以在空间域中执行，这可以将成对计算的量减1/4。在特定实施例中，子采样可以不改变非局部行为，而是可以仅使计算更稀疏。在特定实施例中，子采样可以通过在图7中的φ和g之后添加最大池化层来完成。在特定实施例中，这些高效的修改可以用于所有非局部块500。

对应于子采样的内容对象，成对函数504可以基于高斯函数

嵌入高斯函数/>

(其中，θ是x_i的嵌入502并且φ是/>

的嵌入503)、点积函数

或级联函数/>

中的一个或更多个，其中ReLU指示整流线性单元903的函数，并且其中w_f是将θ(x_i)和/>

的级联向量投影到标量的权重向量902。

为了理解非局部网络的行为，对视频分类任务进行了全面的消融实验。相应地，多个内容对象可以包括多个视频。本小节首先给出了用于该任务的基线网络架构(即基线机器学习模型)的描述，然后给出了这些基线网络架构到3D卷积神经网络和在本文公开的实施例中的非局部神经网络的扩展。作为示例而不是作为限制，3D卷积神经网络可以包括3DConvNet，这是常规工作。在特定实施例中，训练非局部机器学习模型可以包括基于基线机器学习模型分别为多个内容对象生成多个特征表示。

2D ConvNet基线(C2D).在特定实施例中，构造简单的2D基线架构来隔离非局部神经网络关于3D ConvNet的时间效应。在构造的2D基线架构中，时间维度被简单地处理(即，仅通过池化)。表1示出了在ResNet-50(即，常规的卷积神经网络)骨干网下构造的C2D基线。在表1中，3D输出映射和滤波器内核的维度以T×H×W表示(2D内核以H×W表示)，其中通道数量在后面。残差块(residual block)在括号中示出。在特定实施例中，输入视频剪辑可以包括32个帧，每个帧具有224×224个像素(即，输入是32×224×224)。表1中的所有卷积本质上都是逐帧处理输入的2D内核(被实现为1×k×k内核)。该模型可以直接从在ImageNet(即，公共数据集)上预先训练的ResNet权重初始化。在特定实施例中，ResNet-101(即，另一个常规卷积神经网络)对应体可以以相同的方式构建。涉及时间域的唯一操作可能是池化层。换句话说，这个基线可以仅聚合时间信息。

表1.用于视频的基线ResNet-50 C2D模型

膨胀的3D ConvNet(I3D).如在常规工作中所做的那样，可以通过“膨胀”内核来将表1中的C2D模型转化成3D卷积对应体。作为示例而不是作为限制，2D k×k内核可以被膨胀为跨越t个帧的3D t×k×k内核。该内核可以从(例如，在ImageNet上预训练的)2D模型初始化：t×k×k内核中t个平面中的每一个可以由预训练的k×k权重初始化，并重新缩放1/t。如果视频包括在时间上重复的单个静态帧，则该初始化可以产生与运行在静态帧上的2D预训练模型相同的结果。

在特定实施例中，可能有两种情形的膨胀。一种情形可以包括将残差块中的3×3内核膨胀到3×3×3，这可以表示为I3D_3×3×3。另一种情形可以包括将残差块中的第一个1×1内核膨胀到3×1×1，这可以表示为I3D_3×1×1。由于3D卷积可能是计算密集型的，因此对于每两个残差块，可以仅膨胀一个内核。在特定实施例中，膨胀更多层示出了回报递减(diminishing return)。作为示例而不是作为限制，conv₁可膨胀至5×7×7。常规工作已表明I3D模型比CNN(卷积神经网络)+LSTM(长短期记忆)对应体更准确。

非局部网络.在特定实施例中，非局部块500可以被***到C2D模型或I3D模型中，以将它们转变成非局部神经网络。在特定实施例中，可以增加不同数量的非局部块500。作为示例而不是作为限制，本文公开的实施例研究增加1、5或10个非局部块500。实现细节将在下一节上下文中描述。

训练.在特定实施例中，非局部机器学习模型可以在ImageNet上预先训练。在特定实施例中，可以使用32帧输入剪辑来进一步微调非局部机器学习模型。这些剪辑可以通过从原始全长视频中随机裁剪出64个连续帧，然后每隔一帧丢弃一个来形成。在特定实施例中，空间大小可以是从缩放视频中随机裁剪的224×224个像素，该视频的短边(shorterside)是在[256，320]像素中随机采样的。在特定实施例中，非局部机器学习模型可以在8-GPU机器上训练，并且每个GPU在一个小批量(mini-batch)中可以具有8个剪辑(因此总共具有64个剪辑的小批量大小)。在特定实施例中，非局部机器学习模型可以被总共训练400k次迭代，以0.01的学习速率开始，并且每150k次迭代将其减少10倍。在特定实施例中，可以使用0.9的动量(momentum)和0.0001的权重衰减。在特定实施例中，可以在全局池化层之后采用丢弃(dropout)，其中丢弃比率为0.5。在特定实施例中，可以在应用时利用启用的BatchNorm(BN)(即，常规工作)对非局部机器学习模型进行微调。这与微调ResNet的常见做法形成了对比，在这种做法中，BN被冻结。在特定实施例中，在图像/视频分析的应用中启用BN可以减少过拟合(overfit)。在特定实施例中，非局部块500中引入的权重层可以基于常规工作来初始化。在特定实施例中，可以在表示W_z的最后的1×1×1层之后添加BN层。在特定实施例中，BN层可以不被添加到非局部块500中的其他层。在特定实施例中，BN层的缩放参数可以被初始化为零。这可以确保整个非局部块500的初始状态是身份映射，因此它可以被***到任何预先训练的网络中，同时保持其初始行为。

推断.在特定实施例中，可以对视频执行空间全卷积推断，该视频的短边被重新缩放到256。对于时域，在本文公开的实施例中，可以从全长视频中均匀地采样10个剪辑，并且可以对其单独计算softmax分数。最终预测可以包括所有剪辑的平均softmax分数。在特定实施例中，推断可以包括接收查询内容对象，并基于非局部机器学习模型来确定查询内容对象的类别。

在本文公开的实施例中，对具有挑战性的Kinetics数据集(公共数据集)进行全面研究。也报告了关于Charades数据集(公共数据集)的结果，以显示本文公开的非局部机器学习模型的一般性。

Kinetics包含大约246k个训练视频和20k个验证视频。这是一项涉及400个人类动作类别的分类任务。在特定实施例中，所有非局部机器学习模型在训练集上被训练，并在验证集上被测试。

图10示出了由非局部机器学习模型计算的非局部块500的行为的几个示例的示例可视化。类似地，图4也可视化了由非局部机器学习模型计算的非局部块500的行为的几个示例。在图10中，res₃中非局部块500的行为的示例由基于Kinetics训练的5块非局部机器学习模型来计算。这些示例来自留存的(held-out)验证视频。箭头的起点表示一个x_i，终点表示x_j。每个x_i的20个最高权重箭头被可视化。这4帧来自32帧输入，以8帧的步长示出。这些可视化示出了模型如何找到相关线索来支持其预测。在特定实施例中，非局部机器学习模型可以学习寻找有意义的关系线索，而不管空间和时间上的距离。

图11示出了多个非局部机器学习模型的训练过程的示例曲线。特别地，示例曲线包括ResNet-50 C2D基线1101相对具有5个块的非局部C2D 1103的训练过程、以及ResNet-50 C2D基线1102相对具有5个块的非局部C2D1104的验证过程。如本文所使用的，“非局部C2D”表示基于C2D架构的非局部机器学习模型。第1名(top-1)的训练误差(1101和1103)和验证误差(1102和1104)在图11中示出。验证误差以与训练误差相同的方式计算(因此它是在训练时具有相同随机抖动的1-剪辑(1-clip)测试)。关于图11的更多细节在下面公开。在特定实施例中，在整个训练过程中，非局部C2D模型在训练和验证误差方面始终优于C2D基线。

表2.在Kinetics动作分类上具有第1名和第5名的分类准确度(％)的消融

(a)实例化:1个不同类型的非局部块被添加到C2D基线中。所有条目都相对于ResNet-50。

(b)阶段:1个非局部块被添加到不同的阶段。所有条目都相对于ResNet-50。

(c)更深的非局部模型：添加到C2D基线的1、5和10个非局部块之间的比较。示出了ResNet-50(顶部)和ResNet-101(底部)的结果。

(d)空间相对时间相对时空：分别沿空间、时间和时空维度应用的非局部操作之间的比较。使用5个非局部块。

(e)非局部相对3D卷积：5块非局部C2D相对膨胀的3D ConvNet(I3D)。所有条目都相对于ResNet-101。参数和FLOP的数量是相对于C2D基线(43.2M和34.2B)。

(f)非局部3D ConvNet：5个非局部块被添加到最佳I3D模型之上。这些结果表明，非局部操作是3D卷积的补充。

(g)更长的剪辑:表2f中的模型经过微调，并在128-帧剪辑上进行测试。非局部操作的增益是一致的。

表2示出了消融结果，该结果分析如下。

实例化.表2a比较了(刚好在res₄的最后的残差块之前)添加到C2D基线的单个非局部块500的不同类型。在特定实施例中，即使添加一个非局部块500也可以导致比基线提高大约1％。在特定实施例中，嵌入高斯、点积和级联版本类似执行，直到某些随机变型(72.7到72.9)。如前所讨论的，高斯内核的非局部操作变得类似于自注意力模块的常规工作。然而，本文公开的实验表明，该模块的注意力(softmax)行为可能不是视频分类应用中的改进的关键。相反，更有可能的是，非局部行为是必不可少的，并且其对实例化不敏感。在本公开关于实验的其余部分中，默认使用嵌入高斯版本。在特定实施例中，嵌入高斯版本可能更容易可视化，因为其softmax分数在[0，1]的范围内。

在哪个阶段添加非局部块？在特定实施例中，非局部机器学习模型可以从神经网络的多个阶段中确定一个阶段，以***一个或更多个非局部块500。表2b比较了添加到ResNet的不同阶段的单个非局部块500。非局部块500刚好在一个阶段的最后的残差块之前被添加。非局部块500在res₂、res₃或res₄上的改进是相似的，并且在res₅上的改进稍小。一种可能的解释可以是res₅具有小的空间大小(7×7)，它可能不足以提供精确的空间信息。表2d中研究了非局部块500利用空间信息的更多证据。

使用非局部块更深入.表2c示出了更多非局部块500的结果。本文公开的实施例在ResNet-50中添加1个块(到res₄)、5个块(3个到res₄并且2到res₃，添加到每隔一个的残差块)和10个块(到res₃和res₄中的每个残差块)。本文公开的实施例类似地将ResNet-101中的这些非局部块添加到对应的残差块。表2c表明更多的非局部块500通常导致更好的结果。在特定实施例中，多个非局部块500可以执行长程多跳通信。消息可以在时空中远的位置之间来回传递，这可能很难通过局部模型来实现。值得注意的是，非局部块500的改进可能不仅仅是因为它们增加了基线模型的深度。为了了解这一点，注意到在表2c中，非局部5块ResNet-50模型具有73.8的准确度，高于更深的ResNet-101基线的73.1。然而，5块ResNet-50只有ResNet-101基线的70％的参数和80％的FLOP，而且也比较浅。这种比较表明，源于非局部块500的改进是对以标准方式更深入的补充。在特定实施例中，标准残差块而不是非局部块500被添加到基线模型。准确度没有增加。这再次表明，非局部块500的改进可能不仅仅是因为它们增加了深度。

时空中的非局部性.在特定实施例中，非局部机器学习模型可以自然地处理时空信号。这可以是一个很好的特性，因为视频中的相关对象可以以很远的空间和长期的时间间隔出现，而它们的依赖关系可以被非局部机器学习模型捕获。在表2d中，研究了沿空间、时间或时空应用的非局部块500的效果。作为示例而不是作为限制，在纯空间的版本中，非局部依赖关系仅发生在相同的帧内，即，在等式(1)中，它仅在索引i的相同帧中对索引j求和。纯时间的版本可以类似地建立。表2d表明纯空间和纯时间的版本都比C2D基线有所改善，但不如时空版本。

非局部网相对3D ConvNet.表2e比较了非局部机器学习模型的非局部C2D版本与膨胀的3D ConvNet的常规工作。在特定实施例中，非局部操作和3D卷积可以被视为将C2D扩展到时间维度的两种方式。表2e还比较了相对于基线的参数和FLOP的数量。非局部C2D(NLC2D)模型比I3D对应体更准确(例如，75.1相对74.4)，同时具有更少数量的FLOP(1.2×相对1.5×)。这种比较表明，当单独使用时，非局部机器学习模型可比3D卷积更有效。

非局部3D ConvNet.尽管有上述比较，非局部操作和3D卷积可以对问题的不同方面建模，即3D卷积可以捕获局部依赖关系。表2f示出了将5个非局部块500***I3D_3×1×1模型中的结果。这些非局部I3D(NL I3D)模型比它们的I3D对应体提高了(+1.6个点的准确度)，表明非局部操作和3D卷积是互补的。

较长的序列.在特定实施例中，研究了较长输入视频上的非局部机器学习模型的一般性。在特定实施例中，非局部机器学习模型可以采用由128个连续帧构成的输入剪辑，而无需子采样。因此，网络中所有层的序列比32帧的对应体长4倍。为了将这个模型放入存储器中，小批量大小被减小到每个GPU 2个剪辑。由于使用了小的小批量，在这种情形中所有的BN层都被冻结。在特定实施例中，该模型可以从用32帧输入训练的对应模型初始化。在特定实施例中，该模型可以以0.0025的学习速率开始，在128帧输入上使用与32帧情形相同的迭代次数进行微调(尽管小批量大小现在更小)。其他实现细节与之前相同。表2g示出了128帧剪辑的结果。与表2f中的32帧对应体相比，所有模型在较长的输入上都有更好的结果。在特定实施例中，NL I3D模型可以相对于I3D对应体保持其收益，表明非局部机器学习模型可以在较长的序列上很好地工作。

与最先进结果的比较.表3示出了I3D模型常规工作的结果(最上面一行中的两个结果)和Kinetics 2017年竞争获胜者常规工作的结果(中间一行中的四个结果)。在表3中，带有

的数字指示测试集上的结果，否则指示验证集上的结果。Kinetics 2017年竞争获胜者的最佳结果利用了音频信号(中间一行中的最后三个结果)，因此它们不是纯视觉解决方案。在特定实施例中，这些是可能在许多方面不同的***的比较。尽管如此，非局部机器学习模型(NL I3D)还是远远超过了所有现有的基于RGB或RGB+流的方法。不使用光流，也没有任何附加功能，非局部机器学习模型与2017年竞争获胜者的精心设计的结果相当。

表3.与在Kinetics中最先进的结果的比较。

Charades是具有8k训练视频、1.8k验证视频和2k测试视频的公共视频数据集。这是一个具有157个动作类别的多标签分类任务。在特定实施例中，每个类别的sigmoid输出用于处理多标签特性。非局部机器学习模型在Kinetics(128帧)上被初始化预训练。小批量大小被设置为每个GPU1个剪辑。在特定实施例中，非局部机器学习模型被训练200k次迭代，从0.00125的学习速率开始且每75k次迭代将其减少10。使用类似于Kinetics中的抖动策略的抖动策略来确定224×224裁剪窗口的位置，但是视频被重新缩放，使得裁剪窗口输出288×288像素，在其上非局部神经网络被微调。测试在320个像素的单一尺度上进行。表4示出了与对Charades的常规工作的先前结果的比较。非局部机器学习模型的结果基于ResNet-101。NL I3D使用5个非局部块500。I3D从常规工作中获得的结果是Charades的2017年竞争获胜者，这也是从在Kinetics中预先训练的模型中微调出来的。本文公开的I3D基线高于以前的结果。作为受控的比较，非局部神经网络在测试集上比I3D基线提高了2.3％。

表4.训练/验证划分和训练验证/测试划分上Charades数据集的分类准确度(％)。

在特定实施例中，还研究了静态图像识别的非局部机器学习模型。针对COCO(即，公共数据集)对象检测/分割和人体姿态估计(关键点检测)在掩蔽R-CNN基线(即，常规工作)上进行实验。模型在COCO train2017(即2014年的trainval35k)上进行训练，并在val2017(即2014年的minival)上进行测试。

对象检测和实例分割.非局部机器学习模型通过(刚好在res₄最后的残差块之前)添加一个非局部块500来修改掩蔽R-CNN骨干网。所有模型都通过ImageNet预训练进行微调。评估是在标准基线ResNet-50/101和高基线ResNeXt-152(X152)上进行的，后者是一项常规工作。与采用关于区域提议网络(RPN)的阶段式训练的常规工作不同，本文公开的实施例使用具有端到端联合训练的改进实现，这导致比常规工作更高的基线。

表5示出了COCO上的框(box)和掩蔽平均精度(AP)。在表5中，骨干网是ResNet-50/101或ResNeXt-152，两者都具有特征金字塔网络(FPN)(即，常规神经网络架构)。可以看出，单个非局部块500在涉及检测和分割的所有度量上改进了所有R50/101和X152基线。AP^框在所有情形中都增加1个点(例如，R101中+1.3个点)。非局部块500具有与增加模型容量互补的良好效果，即使当模型从R50/101升级到X152时也是如此。这种比较表明，尽管深度/容量增加了，但现有模型也没有充分捕获非局部依赖关系。此外，上述收益的成本非常低。单个非局部块500仅将<5％的计算增加到基线模型。在特定实施例中，更多的非局部块500被添加到骨干网，但是出现回报递减。

表5.添加1个非局部块(NL)到掩蔽R-CNN，用于COCO对象检测和实例分割。

关键点检测.接下来评估用于关键点检测的掩蔽R-CNN中的非局部块500。在常规工作中，掩蔽R-CNN使用8个卷积层的堆栈来将关键点预测为1-hot掩蔽。这些层是局部操作，并且可能会忽略跨长距离的关键点之间的依赖关系。本文公开的实施例将4个非局部块500***关键点头部(在每2个卷积层之后)。表6示出了关于COCO的结果。在R101的强基线上，向关键点头部添加4个非局部块500导致关键点AP增加1个点。如果将一个额外的非局部块500添加到骨干网，如针对对象检测所做的那样，则可以观察到关键点AP比基线总共增加1.4个点。特别地，可以看出AP₇₅的更严格的标准提高了2.4点，表明更强的局部化性能。

表6.将非局部块(NL)添加到掩蔽R-CNN中，用于COCO关键点检测。骨干网是具有FPN的ResNet-101。

本文公开的实施例提出了一类新的神经网络，其通过非局部操作来捕获长程依赖关系。在特定实施例中，非局部块500可以与任何现有架构组合。示出了非局部建模对于视频分类、对象检测和分割以及姿态估计的任务的重要性。在所有任务中，非局部块500的简单添加提供了对基线的可靠改进。在特定实施例中，非局部层可以成为未来网络架构的必要部件。

图12示出了用于训练非局部机器学习模型的示例方法1200。方法可以开始于步骤1210，其中助理***140可以基于包括多个阶段的神经网络来训练基线机器学习模型，其中每个阶段包括多个神经块。在步骤1220，助理***140可以访问分别包括多个内容对象的多个训练样本。在步骤1230，助理***140可以确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数504和一个或更多个一元函数505。在步骤1240，助理***140可以基于多个训练样本和一个或更多个非局部操作来生成一个或更多个非局部块500。在步骤1250，助理***140可以从神经网络的多个阶段中确定一个阶段。在步骤1260，助理***140可以通过将一个或更多个非局部块500中的每一个***到神经网络的所确定阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型。在适当的情况下，特定实施例可以重复图12的方法的一个或更多个步骤。尽管本公开描述并示出了图12方法的特定步骤如以特定的顺序发生，但是本公开设想了图12方法的任何合适的步骤以任何合适的顺序发生。此外，尽管本公开描述并示出了用于训练非局部机器学习模型的示例方法包括图12的方法的特定步骤，但是本公开设想了用于训练非局部机器学习模型的任何合适的方法包括任何合适的步骤，在适当的情况下，这些合适的步骤可以包括图12的方法的所有、一些步骤或者可以不包括图12的方法的步骤。此外，尽管本公开描述并示出了执行图12的方法的特定步骤的特定部件、设备或***，但是本公开设想了执行图12的方法的任何合适步骤的任何合适的部件、设备或***的任何合适的组合。

图13示出了示例社交图1300。在特定实施例中，社交网络***160可以在一个或更多个数据储存器中存储一个或更多个社交图1300。在特定实施例中，社交图1300可以包括多个节点——该多个节点可以包括多个用户节点1302或多个概念节点1304——以及关连这些节点的多条边1306。每个节点可以与唯一的实体(即，用户或概念)相关联，每个实体可以具有唯一的标识符(ID)，如唯一的号码或用户名。出于教导的目的，以二维视觉映射表示(two-dimensional visual map representation)示出了图13中所示的示例社交图1300。在特定实施例中，社交网络***160、客户端***130、助理***140或第三方***170可以访问社交图1300和相关社交图信息以用于合适的应用。社交图1300的节点和边可以作为数据对象被存储在例如数据储存器(例如社交图数据库)中。这种数据储存器可以包括社交图1300的节点或边的一个或更多个可搜索或可查询的索引。

在特定实施例中，用户节点1302可以对应于社交网络***160或助理***140的用户。作为示例而不是作为限制，用户可以是与社交网络***160或助理***140交互或通信或通过社交网络***160或助理***140交互或通信的个人(人类用户)、实体(例如，企业、公司或第三方应用)或(例如，个人或实体的)团体。在特定实施例中，当用户向社交网络***160注册账户时，社交网络***160可以创建对应于用户的用户节点1302，并将用户节点1302存储在一个或更多个数据储存器中。本文描述的用户和用户节点1302在适当的情况下可以指注册的用户和与注册的用户相关联的用户节点1302。另外或作为替代方案，在适当的情况下，本文描述的用户和用户节点1302可以指没有向社交网络***160注册的用户。在特定实施例中，用户节点1302可以与由用户提供的信息或由各种***(包括社交网络***160)收集的信息相关联。作为示例而不是作为限制，用户可以提供他或她的姓名、简档图片、联系信息、出生日期、性别、婚姻状况、家庭状况、职业、教育背景、偏好、兴趣或其他人口统计信息。在特定实施例中，用户节点1302可以与对应于与用户相关联的信息的一个或更多个数据对象相关联。在特定实施例中，用户节点1302可以对应于一个或更多个web界面。

在特定实施例中，概念节点1304可以对应于概念。作为示例而不是作为限制，概念可以对应于地点(诸如例如，电影院、餐馆、地标或城市)；网站(诸如例如，与社交网络***160相关联的网站或与web应用服务器相关联的第三方网站)；实体(诸如例如，个人、企业、团体、运动队或名人)；资源(诸如例如，音频文件、视频文件、数字照片、文本文件、结构化文档或应用)，其可以位于社交网络***160内或外部服务器(例如web应用服务器)上；不动产或知识产权(诸如例如，雕塑、绘画、电影、游戏、歌曲、想法、照片或书面作品)；游戏；活动；想法或理论；另一个合适的概念；或者两个或更多个这样的概念。概念节点1304可以与由用户提供的概念的信息或由各种***(包括社交网络***160和助理***140)收集的信息相关联。作为示例而不是作为限制，概念的信息可以包括名称或标题；一个或更多个图像(例如，书籍的封面的图像)；位置(例如，地址或地理位置)；网站(其可以与URL相关联)；联系信息(例如，电话号码或电子邮件地址)；其他合适的概念信息；或者这样的信息的任何合适的组合。在特定实施例中，概念节点1304可以与一个或更多个数据对象相关联，一个或更多个数据对象对应于与概念节点1304相关联的信息。在特定实施例中，概念节点1304可以对应于一个或更多个web界面。

在特定实施例中，社交图1300中的节点可以表示web界面(其可以被称为“简档界面”)或者由web界面表示。简档界面可以由社交网络***160或助理***1130托管或是社交网络***160或助理***1130可访问的。简档界面也可以在与第三方***170相关联的第三方网站上被托管。作为示例而不是作为限制，对应于特定外部web界面的简档界面可以是特定外部web界面，并且简档界面可以对应于特定概念节点1304。简档界面可以由其他用户的全部或选定子集可查看。作为示例而不是作为限制，用户节点1302可以具有相应的用户简档界面，其中相应的用户可以添加内容、作出声明或以其他方式表达他或她自己。作为另一示例而不是作为限制，概念节点1304可以具有相应的概念简档界面，其中一个或更多个用户可以添加内容、作出声明或表达他们自己，特别是关于对应于概念节点1304的概念。

在特定实施例中，概念节点1304可以表示由第三方***170托管的第三方web界面或资源。第三方web界面或资源可以包括表示动作或活动的内容、可选择的图标或其他图标或其他可交互对象(其可以例如用JavaScript、AJAX或PHP代码来实现)以及其他元素。作为示例而不是作为限制，第三方web界面可以包括可选择的图标，例如“赞”、“签到(check-in)”、“吃”、“推荐”，或其他合适的动作或活动。查看第三方web界面的用户可以通过选择图标之一(例如，“签到”)来执行动作，使客户端***130向社交网络***160发送指示用户的动作的消息。响应于该消息，社交网络***160可以在对应于用户的用户节点1302和对应于第三方web界面或资源的概念节点1304之间创建边(例如，签到类型边)，并将边1306存储在一个或更多个数据储存器中。

在特定实施例中，社交图1300中的一对节点可以通过一条或更多条边1306关连到彼此。关连一对节点的边1306可以表示在该对节点之间的关系。在特定实施例中，边1306可以包括或表示对应于在一对节点之间的关系的一个或更多个数据对象或属性。作为示例而不是作为限制，第一用户可以指示第二用户是第一用户的“朋友”。响应于该指示，社交网络***160可以向第二用户发送“好友请求”。如果第二用户确认“好友请求”，则社交网络***160可以在社交图1300中创建将第一用户的用户节点1302关连到第二用户的用户节点1302的边1306，并将边1306作为社交图信息存储在一个或更多个数据储存器1613中。在图13的示例中，社交图1300包括指示在用户“A”和用户“B”的用户节点1302之间的朋友关系的边1306、以及指示在用户“C”和用户“B”的用户节点1302之间的朋友关系的边。尽管本公开描述或示出了关连特定用户节点1302的具有特定属性的特定边1306，但是本公开设想了关连用户节点1302的具有任何适当属性的任何适当边1306。作为示例而不是作为限制，边1306可以表示友谊、家庭关系、商业或雇佣关系、粉丝关系(包括例如，赞等)、关注者关系、访问者关系(包括例如，访问、查看、签到、分享等)、订购者关系、上级/下级关系、互惠关系、非互惠关系、另一种合适类型的关系、或两种或更多种这样的关系。此外，尽管本公开一般将节点描述为被关连，但是本公开也将用户或概念描述为被关连。在本文，对被关连的用户或概念的引用在适当的情况下可以指在社交图1300中由一条或更多条边1306关连的对应于那些用户或概念的节点。

在特定实施例中，在用户节点1302和概念节点1304之间的边1306可以表示由与用户节点1302相关联的用户朝着与概念节点1304相关联的概念执行的特定动作或活动。作为示例而不是作为限制，如图13所示，用户可以“赞”、“出席”、“播放”、“收听”、“烹饪”、“工作”或“观看”概念，其中每个可以对应于边类型或子类型。对应于概念节点1304的概念简档界面可以包括例如可选择的“签到”图标(诸如例如，可点击的“签到”图标)或可选择的“添加到收藏夹”图标。类似地，在用户点击这些图标之后，社交网络***160可以响应于对应于相应动作的用户动作来创建“收藏夹”边或“签到”边。作为另一示例而不是作为限制，用户(用户“C”)可以使用特定的应用(声田(SPOTIFY)，其为在线音乐应用)来收听特定的歌曲(“想象(Imagine)”)。在这种情况下，社交网络***160可以在对应于用户的用户节点1302和对应于歌曲和应用的概念节点1304之间创建“收听”边1306和“使用”边(如图13所示)，以指示用户收听了歌曲并使用了应用。此外，社交网络***160可以在对应于歌曲和应用的概念节点1304之间创建“播放”边1306(如图13所示)，以指示特定的歌曲由特定的应用播放。在这种情况下，“播放”边1306对应于由外部应用(声田)对外部音频文件(歌曲“想象”)执行的动作。尽管本公开描述了关连用户节点1302和概念节点1304的具有特定属性的特定边1306，但是本公开设想了关连用户节点1302和概念节点1304的具有任何适当属性的任何适当边1306。此外，尽管本公开描述了表示单个关系的在用户节点1302和概念节点1304之间的边，但是本公开设想了表示一个或更多个关系的在用户节点1302和概念节点1304之间的边。作为示例而不是作为限制，边1306可以表示用户喜欢并使用了特定概念。可替代地，另一条边1306可以表示用户节点1302和概念节点1304之间(如图13所示，用户“E”的用户节点1302和“声田”的概念节点1304之间)的每种类型的关系(或多个单一关系)。

在特定实施例中，社交网络***160可以在社交图1300中的用户节点1302和概念节点1304之间创建边1306。作为示例而不是作为限制，(诸如例如，通过使用由用户的客户端***130托管的web浏览器或专用应用)查看概念简档界面的用户可以通过点击或选择“赞”图标来指示他或她喜欢由概念节点1304表示的概念，这可以使用户的客户端***130向社交网络***160发送指示用户喜欢与概念简档界面相关联的概念的消息。响应于该消息，社交网络***160可以在与用户相关联的用户节点1302和概念节点1304之间创建边1306，如由在用户和概念节点1304之间的“赞”边1306所示的。在特定实施例中，社交网络***160可以将边1306存储在一个或更多个数据储存器中。在特定实施例中，边1306可以由社交网络***160响应于特定用户动作而自动形成。作为示例而不是作为限制，如果第一用户上传图片、观看电影或收听歌曲，则可以在对应于第一用户的用户节点1302和对应于那些概念的概念节点1304之间形成边1306。尽管本公开描述了以特定方式形成特定边1306，但是本公开设想了以任何合适的方式形成任何合适的边1306。

图14示出了向量空间1400的示例视图。在特定实施例中，可以在d维向量空间中表示对象或n-gram，其中d表示任何合适的维数。尽管向量空间1400被示为三维空间，但这仅仅是为了说明的目的，因为向量空间1400可以具有任何合适的维度。在特定实施例中，n-gram可以在向量空间1400中被表示为向量，该向量被称为项目嵌入(term embedding)。每个向量可以包括对应于向量空间1400中的特定点(即，向量的终点)的坐标。作为示例而不是作为限制，如图14所示，向量1410、1420和1430可以被表示为向量空间1400中的点。n-gram可以被映射到相应的向量表示。作为示例而不是作为限制，通过应用由字典定义的函数

n-gramst₁和t₂可以分别映射到向量空间1400中的向量/>

和/>

使得/>

并且/>

作为另一个示例而不是作为限制，可以利用被训练为将文本映射到向量表示的字典，或者这种字典本身可以通过训练来生成。作为另一个示例而不是作为限制，模型(例如Word2vec)可以用于将n-gram映射到向量空间1400中的向量表示。在特定实施例中，可以通过使用机器学习模型(例如，神经网络)将n-gram映射到向量空间1400中的向量表示。机器学习模型可能已经使用训练数据的序列(例如，每个包括n-gram的多个对象的语料库(corpus))进行了训练。

在特定实施例中，对象可以在向量空间1400中被表示为向量，该向量被称为特征向量或对象嵌入。作为示例而不是作为限制，通过应用函数

对象e₁和e₂可以分别映射到向量空间1400中的向量/>

和/>

使得/>

并且/>

在特定实施例中，可以基于对象的一个或更多个特性、属性或特征、对象与其他对象的关系或与对象相关联的任何其他合适的信息来将对象映射到向量。作为示例而不是作为限制，函数/>

可以通过特征提取将对象映射到向量，特征提取可以从初始测量数据集开始，并构建导出值(例如，特征)。作为示例而不是作为限制，通过使用算法检测或隔离对象的各种期望部分或形状，包括视频或图像的对象可以被映射到向量。用于计算向量的特征可以基于从边检测、拐角(corner)检测、团块(blob)检测、脊线(ridge)检测、尺度不变特征变换、边方向、变化强度、自相关、运动检测、光流、阈值化、团块提取、模板匹配、霍夫(Hough)变换(例如，线、圆、椭圆、任意形状)获得的信息或任何其他合适的信息。作为另一个示例而不是作为限制，包括音频数据的对象可以基于特征(例如频谱斜率、音调系数、音频频谱质心、音频频谱包络、梅尔频率倒频谱(Mel-frequency cepstrum)或任何其他合适的信息)来被映射到向量。在特定实施例中，当对象具有太大而无法有效地被处理的数据或者包括冗余数据时，函数/>

可以使用所变换的精简特征集(例如，特征选择)来将对象映射到向量。在特定实施例中，函数

可以基于与对象e相关联的一个或更多个n-grams来将对象e映射到向量/>

尽管本公开描述了以特定方式在向量空间中表示n-gram或对象，但本公开设想了以任何合适的方式在向量空间中表示n-gram或对象。

在特定实施例中，社交网络***160可以计算向量空间1400中的向量的相似性度量。相似性度量可以是余弦相似性、Minkowski距离、Mahalanobis距离、Jaccard相似性系数或任何合适的相似性度量。作为示例而不是作为限制，

和/>

的相似性度量可以是余弦相似性/>

作为另一个示例而不是作为限制，/>

和/>

的相似性度量可以是欧几里德距离/>

两个向量的相似性度量可以表示分别对应于两个向量的两个对象或n-grams彼此之间的相似程度，如通过向量空间1400中两个向量之间的距离所测量的。作为示例而不是作为限制，基于相应向量之间的距离，向量1410和向量1420可以对应于比对应于向量1410和向量1430的对象与彼此更相似的对象。尽管本公开描述了以特定方式计算向量之间的相似性度量，但本公开设想了以任何合适的方式计算向量之间的相似性度量。

关于向量空间、嵌入、特征向量和相似性度量的更多信息可以在2015年11月23日提交的美国专利申请第14/949436号、2016年10月5日提交的美国专利申请第15/286315号和2016年11月30日提交的美国专利申请第15/365789号中找到，这些专利申请中的每一个通过引用并入。

图15示出了示例人工神经网络(“ANN”)1500。在特定实施例中，ANN可以指包括一个或更多个节点的计算模型。示例ANN 1500可以包括输入层1510、隐藏层1520、1530、1560和输出层1550。ANN 1500的每个层可以包括一个或更多个节点，如节点1505或节点1515。在特定实施例中，ANN的每个节点可以关连到ANN的另一个节点。作为示例而不是作为限制，输入层1510的每个节点可以关连到隐藏层1520的一个或更多个节点。在特定实施例中，一个或更多个节点可以是偏置节点(例如，层中不关连到前一层中的任何节点并且不从其接收输入的节点)。在特定实施例中，每层中的每个节点可以关连到前一层或后一层的一个或更多个节点。尽管图15描绘了具有特定层数、特定节点数和节点间特定关连的特定ANN，但是本公开设想了具有任何合适层数、任何合适节点数和节点间任何合适关连的任何合适的ANN。作为示例而不是作为限制，尽管图15描绘了输入层1510的每个节点和隐藏层1520的每个节点之间的关连，但是输入层1510的一个或更多个节点可以不关连到隐藏层1520的一个或更多个节点。

在特定实施例中，ANN可以是前馈ANN(例如，没有循环或回路的ANN，其中节点之间的通信从输入层开始在一个方向上流动，并前进到连续层)。作为示例而不是作为限制，隐藏层1520的每个节点的输入可以包括输入层1510的一个或更多个节点的输出。作为另一个示例而不是作为限制，输出层1550的每个节点的输入可以包括隐藏层1560的一个或更多个节点的输出。在特定实施例中，ANN可以是深度神经网络(例如，包括至少两个隐藏层的神经网络)。在特定实施例中，ANN可以是深度残差网络。深度残差网络可以是前馈ANN，其包括组织成残差块的隐藏层。第一残差块之后的每个残差块的输入可以是前一个残差块的输出和前一个残差块的输入的函数。作为示例而不是作为限制，到残差块N的输入可以是F(x)+x，其中F(x)可以是残差块N-1的输出，x可以是到残差块N-1的输入。尽管本公开描述了特定的ANN，但是本公开设想了任何合适的ANN。

在特定实施例中，激活函数可以对应于ANN的每个节点。节点的激活函数可以针对给定输入定义节点的输出。在特定实施例中，节点的输入可以包括输入集合。作为示例而不是作为限制，激活函数可以是恒等式函数(identity function)、二进制阶跃函数、逻辑函数或任何其他合适的函数。作为另一个示例而不是作为限制，节点k的激活函数可以是sigmoid函数

双曲线正切函数/>

整流器F_k(s_k)＝max(0，s_k)或任何其他合适的函数F_s(s_k)，其中s_k可以是节点k的有效输入。在特定实施例中，对应于节点的激活函数的输入可以被加权。每个节点可以使用基于加权输入的对应激活函数来生成输出。在特定实施例中，节点之间的每个关连可以与权重相关联。作为示例而不是作为限制，节点1505和节点1515之间的关连1525可以具有0.4的加权系数，这可以指示节点1505的输出乘以0.4被用作节点1515的输入。作为另一个示例而不是作为限制，节点k的输出y_k可以是y_k＝F_k(s_k)，其中F_k可以是对应于节点k的激活函数，s_k＝∑_j(w_jkx_j)可以是节点k的有效输入，x_j可以是关连到节点k的节点j的输出，并且w_jk可以是节点j和节点k之间的加权系数。在特定实施例中，输入层的节点的输入可以基于表示对象的向量。尽管本公开描述了节点的特定输入和输出，但是本公开考虑了节点的任何合适的输入和输出。此外，尽管本公开可以描述节点之间的特定关连和权重，但是本公开考虑了节点之间的任何合适的关连和权重。

在特定实施例中，可以使用训练数据来训练ANN。作为示例而不是作为限制，训练数据可以包括ANN 1500的输入和预期输出。作为另一个示例而不是作为限制，训练数据可以包括向量，每个向量表示训练对象和每个训练对象的预期标签。在特定实施例中，训练ANN可以包括通过优化目标函数来修改与ANN的节点之间的关连相关联的权重。作为示例而不是作为限制，可以使用训练方法(例如，共轭梯度法、梯度下降法、随机梯度下降)来反向传播作为表示训练对象的每个向量之间的距离测量的平方和误差(例如，使用最小化平方和误差的成本函数)。在特定实施例中，可以使用丢弃技术来训练ANN。作为示例而不是作为限制，在训练时可以暂时忽略一个或更多个节点(例如，不接收输入并且不生成输出)。对于每个训练对象，ANN的一个或更多个节点都可以有被忽略的一定概率。针对特定训练对象忽略的节点可以不同于针对其他训练对象忽略的节点(例如，可以逐个对象地临时忽略节点)。尽管本公开描述了以特定方式训练ANN，但是本公开设想了以任何合适的方式训练ANN。

在特定实施例中，计算***的一个或更多个对象(例如，内容或其他类型的对象)可以与一个或更多个隐私设置相关联。一个或更多个对象可以存储在任何合适的计算***或应用上，或者以其他方式与任何合适的计算***或应用相关联，该计算***或应用诸如例如是社交网络***160、客户端***130、助理***140、第三方***170、社交网络应用、助理应用、消息传递应用、照片共享应用或者任何其他合适的计算***或应用。尽管本文讨论的示例是在在线社交网络的上下文中，但是这些隐私设置可以应用于任何其他合适的计算***。对象的隐私设置(或“访问设置”)可以以任何合适的方式——诸如例如与对象相关联地、在授权服务器上用索引、以另一种合适的方式、或其任何合适的组合——被存储。关于对象的隐私设置可以指定如何可以在在线社交网络中访问、存储或以其他方式使用(例如，查看、共享、修改、复制、执行、显现或识别)该对象(或与该对象相关联的特定信息)。在对象的隐私设置允许特定用户或其他实体访问该对象时，该对象可以被描述为相对于该用户或其他实体是“可见的”。作为示例而不是作为限制，在线社交网络的用户可以指定关于用户简档页面的隐私设置，该隐私设置识别可以访问在用户简档页面上的工作经历信息的一组用户，因而排除其他用户访问该信息。

在特定实施例中，对象的隐私设置可以指定不应当被允许访问与对象相关联的某些信息的用户或其他实体的“黑名单(blocked list)”。在特定实施例中，黑名单可以包括第三方实体。黑名单可以指定一个或更多个用户或实体，对象对这些用户或实体是不可见的。作为示例而不是作为限制，用户可以指定不可以访问与用户相关联的相册的用户集合，因而排除那些用户访问相册(同时也可能允许不在指定用户集合内的某些用户访问相册)。在特定实施例中，隐私设置可以与特定社交图元素相关联。社交图元素(例如节点或边)的隐私设置可以指定可以如何使用在线社交网络来访问社交图元素、与社交图元素相关联的信息、或与社交图元素相关联的对象。作为示例而不是作为限制，对应于特定照片的特定概念节点1304可以具有指定照片仅可以由在照片中标记的用户以及在照片中标记的用户的朋友访问的隐私设置。在特定实施例中，隐私设置可以允许用户选择加入或选择退出使他们的内容、信息或动作被社交网络***160或助理***140存储/记录或者与其他***(例如，第三方***170)分享。尽管本公开描述了以特定方式使用特定隐私设置，但是本公开设想了以任何合适的方式使用任何合适的隐私设置。

在特定实施例中，隐私设置可以基于社交图1300的一个或更多个节点或边。可以为社交图1300的一条或更多条边1306或边类型、或者关于社交图1300的一个或更多个节点1302、1304或节点类型，指定隐私设置。应用于关连两个节点的特定边1306的隐私设置可以控制对应于这两个节点的两个实体之间的关系对于在线社交网络的其他用户是否可见。类似地，应用于特定节点的隐私设置可以控制对应于该节点的用户或概念对于在线社交网络的其他用户是否可见。作为示例而不是作为限制，第一用户可以向社交网络***160共享对象。该对象可以与通过边1306关连到第一用户的用户节点1302的概念节点1304相关联。第一用户可以指定应用于关连到对象的概念节点1304的特定边1306的隐私设置，或者可以指定应用于关连到概念节点1304的所有边1306的隐私设置。作为另一个示例而不是作为限制，第一用户可以共享特定对象类型的对象集合(例如，图像集合)。第一用户可以针对与第一用户相关联的该特定对象类型的所有对象将隐私设置指定为具有特定的隐私设置(例如，指定由第一用户发布的所有图像仅对第一用户的朋友和/或在图像中标记的用户可见)。

在特定实施例中，社交网络***160可以向第一用户呈现“隐私向导(privacywizard)”(例如，在网页、模块、一个或更多个对话框或任何其他合适的界面内)，以帮助第一用户指定一个或更多个隐私设置。隐私向导可以显示指令、合适的隐私相关信息、当前隐私设置、用于接受来自第一用户的一个或更多个输入(其指定隐私设置的改变或确认)的一个或更多个输入字段、或其任何合适的组合。在特定实施例中，社交网络***160可以向第一用户提供“仪表板(dashboard)”功能，该功能可以向第一用户显示第一用户的当前隐私设置。仪表板功能可以在任何适当的时间显示给第一用户(例如，在来自调用仪表板功能的第一用户的输入之后，在特定事件或触发动作发生之后)。仪表板功能可以允许第一用户以任何合适的方式在任何时间修改第一用户的一个或更多个当前隐私设置(例如，将第一用户重定向到隐私向导)。

与对象相关联的隐私设置可以指定允许访问或拒绝访问的任何合适的粒度(granularity)。作为示例而不是作为限制，可以为特定用户(例如，只有我、我的室友、我的老板)、在特定分离度内的用户(例如，朋友、朋友的朋友)、用户团体(例如，游戏俱乐部、我的家人)、用户网络(例如，特定雇主的雇员、特定大学的学生或校友)、所有用户(“公众”)、无用户(“私人的”)、第三方***170的用户、特定应用(例如，第三方应用、外部网站)、其他合适的实体、或其任何合适的组合来指定访问或拒绝访问。尽管本公开描述了允许访问或拒绝访问的特定粒度，但是本公开考虑了允许访问或拒绝访问的任何合适粒度。

在特定实施例中，一个或更多个服务器162可以是用于实施隐私设置的授权/隐私服务器。响应于来自用户(或其他实体)的对存储在数据储存器164中的特定对象的请求，社交网络***160可以向数据储存器164发送对该对象的请求。请求可以识别与该请求相关联的用户，并且对象只有在授权服务器基于与该对象相关联的隐私设置确定该用户被授权访问该对象时才可以被发送给该用户(或者该用户的客户端***130)。如果请求用户未被授权访问该对象，则授权服务器可以阻止所请求的对象从数据储存器164中被检索，或者可以阻止所请求的对象被发送给用户。在搜索-查询上下文中，只有当查询用户被授权访问对象时，例如，如果对象的隐私设置允许其被显露给查询用户、被查询用户发现或以其他方式对查询用户可见，才可以提供对象作为搜索结果。在特定实施例中，对象可以表示通过用户的动态消息对用户可见的内容。作为示例而不是作为限制，一个或更多个对象对于用户的“热门话题(Trending)”页面可以是可见的。在特定实施例中，对象可以对应于特定用户。对象可以是与特定用户相关联的内容，或者可以是特定用户的账户或存储在社交网络***160或其他计算***上的信息。作为示例而不是作为限制，第一用户可以通过在线社交网络的“你可能认识的人(People You May Know)”功能或者通过查看第一用户的朋友列表来查看在线社交网络的一个或更多个第二用户。作为示例而不是作为限制，第一用户可以指定他们不希望在他们的动态消息或朋友列表中看到与特定第二用户相关联的对象。如果对象的隐私设置不允许其被显露给用户、被用户发现或对用户可见，则该对象可以从搜索结果中排除。尽管本公开描述了以特定方式实施隐私设置，但是本公开设想了以任何合适的方式实施隐私设置。

在特定实施例中，与用户相关联的相同类型的不同对象可以具有不同的隐私设置。与用户相关联的不同类型的对象可以具有不同类型的隐私设置。作为示例而不是作为限制，第一用户可以指定第一用户的状态更新是公开的，但是第一用户共享的任何图像仅对在线社交网络上第一用户的朋友可见。作为另一个示例而不是作为限制，用户可以为不同类型的实体(如个人用户、朋友的朋友、关注者、用户团体或公司实体)指定不同的隐私设置。作为另一个示例而不是作为限制，第一用户可以指定可以查看由第一用户发布的视频的一组用户，同时防止视频对第一用户的雇主可见。在特定实施例中，可以为不同的用户组或用户人口统计提供不同的隐私设置。作为示例而不是作为限制，第一用户可以指定与第一用户在同一所大学上学的其他用户可以查看第一用户的照片，但是作为第一用户的家庭成员的其他用户不能查看那些相同的照片。

在特定实施例中，社交网络***160可以为特定对象类型的每个对象提供一个或更多个默认隐私设置。被设置为默认的对象的隐私设置可以由与该对象相关联的用户来改变。作为示例而不是作为限制，由第一用户发布的所有图像可以具有默认隐私设置，即仅对于第一用户的朋友可见，并且对于特定图像，第一用户可以改变图像的隐私设置，以对于朋友和朋友的朋友可见。

在特定实施例中，隐私设置可以允许第一用户指定(例如，通过选择退出，通过不选择加入)社交网络***160或助理***140是否可以出于任何目的接收、收集、记录或存储与用户相关联的特定对象或信息。在特定实施例中，隐私设置可以允许第一用户指定特定应用或进程是否可以访问、存储或使用与用户相关联的特定对象或信息。隐私设置可以允许第一用户选择加入或选择退出使对象或信息被特定应用或进程访问、存储或使用。社交网络***160或助理***140可以访问这样的信息，以便向第一用户提供特定的功能或服务，而社交网络***160或助理***140不能出于任何其他目的访问该信息。在访问、存储或使用这样的对象或信息之前，社交网络***160或助理***140可以提示用户提供隐私设置，该隐私设置指定哪些应用或进程(如果有的话)可以在允许任何这样的动作之前访问、存储或使用对象或信息。作为示例而不是作为限制，第一用户可以经由与在线社交网络相关的应用(例如，消息传递app)向第二用户传输消息，并且可以指定社交网络***160或助理***140不应该存储这种消息的隐私设置。

在特定实施例中，用户可以指定社交网络***160或助理***140是否可以访问、存储或使用与第一用户相关联的特定类型的对象或信息。作为示例而不是作为限制，第一用户可以指定由第一用户通过社交网络***160或助理***140发送的图像不可以被社交网络***160或助理***140存储。作为另一个示例而不是作为限制，第一用户可以指定从第一用户发送给特定第二用户的消息不可以被社交网络***160或助理***140存储。作为又一个示例而不是作为限制，第一用户可以指定经由特定应用发送的所有对象可以被社交网络***160或助理***140保存。

在特定实施例中，隐私设置可以允许第一用户指定是否可以从特定客户端***130或第三方***170访问与第一用户相关联的特定对象或信息。隐私设置可以允许第一用户选择加入或选择退出从特定设备(例如，用户智能电话上的电话簿)、从特定应用(例如，消息传递app)或从特定***(例如，电子邮件服务器)访问对象或信息。社交网络***160或助理***140可以提供关于每个设备、***或应用的默认隐私设置，和/或可以提示第一用户为每个上下文指定特定的隐私设置。作为示例而不是作为限制，第一用户可以利用社交网络***160或助理***140的定位服务特征来提供用户附近的餐馆或其他地方的推荐。第一用户的默认隐私设置可以指定社交网络***160或助理***140可以使用从第一用户的客户端设备130提供的位置信息来提供基于位置的服务，但是社交网络***160或助理***140不可以存储第一用户的位置信息或将其提供给任何第三方***170。第一用户然后可以更新隐私设置，以允许第三方图像共享应用使用位置信息来对照片进行地理标记。

在特定实施例中，隐私设置可以允许用户指定可以从其访问对象的一个或更多个地理位置。对象的访问或拒绝访问可以取决于试图访问对象的用户的地理位置。作为示例而不是作为限制，用户可以共享对象并指定只有同一城市的用户可以访问或查看该对象。作为另一个示例而不是作为限制，第一用户可以共享对象，并且指定该对象仅在第一用户处于特定位置时对第二用户可见。如果第一用户离开特定位置，对象不可以再对第二用户可见。作为另一个示例而不是作为限制，第一用户可以指定对象仅对在距离第一用户的阈值距离内的第二用户可见。如果第一用户随后改变了位置，则可以访问该对象的原始第二用户可能失去访问权，而新的第二用户组可以在他们进入第一用户的阈值距离内时获得访问权。

在特定实施例中，社交网络***160或助理***140可具有可将用户的个人或生物信息用作输入以用于用户认证或体验个性化目的的功能。用户可以选择利用这些功能来增强他们在在线社交网络上的体验。作为示例而不是作为限制，用户可以向社交网络***160或助理***140提供个人或生物信息。用户的隐私设置可以指定这样的信息仅可用于特定的进程(如认证)，并且还指定这样的信息不能与任何第三方***170共享，或者不能用于与社交网络***160或助理***140相关联的其他进程或应用。作为另一个示例而不是作为限制，社交网络***160可以为用户提供向在线社交网络提供声纹记录的功能。作为示例而不是作为限制，如果用户希望利用在线社交网络的这一功能，则用户可以提供他或她自己声音的声音记录，以提供在线社交网络上的状态更新。声音输入的记录可以与用户的声纹进行比较，以确定用户说了什么词语。用户的隐私设置可以指定这种声音记录可以仅用于声音输入目的(例如，认证用户、发送声音消息、改进声音识别以便使用在线社交网络的声音操作特征)，并且还指定这种声音记录不可以与任何第三方***170共享，或者不可以被与社交网络***160相关联的其他进程或应用使用。作为另一个示例而不是作为限制，社交网络***160可以为用户提供向在线社交网络提供参考图像(例如，面部轮廓、视网膜扫描)的功能。在线社交网络可以将参考图像与稍后接收的图像输入进行比较(例如，用于认证用户，在照片中标记用户)。用户的隐私设置可以指定这种声音记录仅可用于有限的目的(例如，认证、在照片中标记用户)，并且还指定这种声音记录不能与任何第三方***170共享，或者不能被与社交网络***160相关联的其他进程或应用使用。

图16示出了示例计算机***1600。在特定实施例中，一个或更多个计算机***1600执行本文描述或示出的一个或更多个方法的一个或更多个步骤。在特定实施例中，一个或更多个计算机***1600提供本文描述或示出的功能。在特定实施例中，在一个或更多个计算机***1600上运行的软件执行本文描述或示出的一个或更多个方法的一个或更多个步骤，或者提供本文描述或示出的功能。特定实施例包括一个或更多个计算机***1600的一个或更多个部分。在本文，在适当的情况下，对计算机***的引用可以包括计算设备，反之亦然。此外，在适当的情况下，对计算机***的引用可以包括一个或更多个计算机***。

本公开设想了任何合适数量的计算机***1600。本公开设想了计算机***1600采取任何合适的物理形式。作为示例而不是作为限制，计算机***1600可以是嵌入式计算机***、片上***(SOC)、单板计算机***(SBC)(诸如例如，模块上计算机(COM)或模块上***(SOM))、台式计算机***、膝上型或笔记本计算机***、交互式信息亭、大型机、计算机***网状网、移动电话、个人数字助理(PDA)、服务器、平板计算机***、或者这些的两个或更多个的组合。在适当的情况下，计算机***1600可以包括一个或更多个计算机***1600；可以是整体式的或分布式的；跨越多个位置；跨越多台机器；跨越多个数据中心；或者驻留在云中，云可以包括在一个或更多个网络中的一个或更多个云部件。在适当的情况下，一个或更多个计算机***1600可以在没有实质性空间或时间限制的情况下执行本文描述或示出的一个或更多个方法的一个或更多个步骤。作为示例而不是作为限制，一个或更多个计算机***1600可以实时地或以批处理模式来执行本文描述或示出的一个或更多个方法的一个或更多个步骤。在适当的情况下，一个或更多个计算机***1600可以在不同的时间或在不同的位置处执行本文描述或示出的一个或更多个方法的一个或更多个步骤。

在特定实施例中，计算机***1600包括处理器1602、存储器1604、存储装置1606、输入/输出(I/O)接口1608、通信接口1610和总线1612。尽管本公开描述并示出了具有在特定布置中的特定数量的特定部件的特定计算机***，但是本公开设想了具有在任何合适布置中的任何合适数量的任何合适部件的任何合适的计算机***。

在特定实施例中，处理器1602包括用于执行指令(例如构成计算机程序的那些指令)的硬件。作为示例而不是作为限制，为了执行指令，处理器1602可以从内部寄存器、内部高速缓存、存储器1604或存储装置1606中检索(或取回)指令；将这些指令解码并执行它们；以及然后将一个或更多个结果写到内部寄存器、内部高速缓存、存储器1604或存储装置1606。在特定实施例中，处理器1602可以包括用于数据、指令或地址的一个或更多个内部高速缓存。在适当的情况下，本公开设想了包括任何合适数量的任何合适的内部高速缓存的处理器1602。作为示例而不是作为限制，处理器1602可以包括一个或更多个指令高速缓存、一个或更多个数据高速缓存、以及一个或更多个转译后备缓冲区(TLB)。在指令高速缓存中的指令可以是在存储器1604或存储装置1606中的指令的副本，并且指令高速缓存可以加速处理器1602对那些指令的检索。在数据高速缓存中的数据可以是：在存储器1604或存储装置1606中的数据的副本，用于使在处理器1602处执行的指令进行操作；在处理器1602处执行的先前指令的结果，用于由在处理器1602处执行的后续指令访问或者用于写到存储器1604或存储装置1606；或其他合适的数据。数据高速缓存可以加速由处理器1602进行的读或写操作。TLB可以加速关于处理器1602的虚拟地址转译。在特定实施例中，处理器1602可以包括用于数据、指令或地址的一个或更多个内部寄存器。在适当的情况下，本公开设想了包括任何合适数量的任何合适的内部寄存器的处理器1602。在适当的情况下，处理器1602可以包括一个或更多个算术逻辑单元(ALU)；可以是多核处理器；或者包括一个或更多个处理器1602。尽管本公开描述并示出了特定的处理器，但是本公开设想了任何合适的处理器。

在特定实施例中，存储器1604包括用于存储用于使处理器1602执行的指令或用于使处理器1602操作的数据的主存储器。作为示例而不是作为限制，计算机***1600可以将指令从存储装置1606或另一个源(诸如例如，另一个计算机***1600)加载到存储器1604。处理器1602然后可以将指令从存储器1604加载到内部寄存器或内部高速缓存。为了执行指令，处理器1602可以从内部寄存器或内部高速缓存中检索指令并将它们解码。在指令的执行期间或之后，处理器1602可以将一个或更多个结果(其可以是中间结果或最终结果)写到内部寄存器或内部高速缓存。处理器1602然后可以将这些结果中的一个或更多个写到存储器1604。在特定实施例中，处理器1602仅执行在一个或更多个内部寄存器或内部高速缓存中或在存储器1604(而不是存储装置1606或其他地方)中的指令，并且仅对在一个或更多个内部寄存器或内部高速缓存中或在存储器1604(而不是存储装置1606或其他地方)中的数据进行操作。一个或更多个存储器总线(其可以各自包括地址总线和数据总线)可以将处理器1602耦合到存储器1604。如下所述，总线1612可以包括一个或更多个存储器总线。在特定实施例中，一个或更多个存储器管理单元(MMU)驻留在处理器1602和存储器1604之间，并且便于由处理器1602请求的对存储器1604的访问。在特定实施例中，存储器1604包括随机存取存储器(RAM)。在适当的情况下，该RAM可以是易失性存储器。在适当的情况下，该RAM可以是动态RAM(DRAM)或静态RAM(SRAM)。此外，在适当的情况下，该RAM可以是单端口RAM或多端口RAM。本公开设想了任何合适的RAM。在适当的情况下，存储器1604可以包括一个或更多个存储器1604。尽管本公开描述并示出了特定的存储器，但是本公开设想了任何合适的存储器。

在特定实施例中，存储装置1606包括用于数据或指令的大容量存储装置。作为示例而不是作为限制，存储装置1606可以包括硬盘驱动器(HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(USB)驱动器、或这些中的两个或更多个的组合。在适当的情况下，存储装置1606可以包括可移动或不可移动(或固定)介质。在适当的情况下，存储装置1606可以在计算机***1600的内部或外部。在特定实施例中，存储装置1606是非易失性固态存储器。在特定实施例中，存储装置1606包括只读存储器(ROM)。在适当的情况下，该ROM可以是掩模编程ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可变ROM(EAROM)、或闪存、或这些中的两个或更多个的组合。本公开设想了采用任何合适的物理形式的大容量存储装置1606。在适当的情况下，存储装置1606可以包括便于在处理器1602和存储装置1606之间的通信的一个或更多个存储装置控制单元。在适当的情况下，存储装置1606可以包括一个或更多个存储装置1606。尽管本公开描述并示出了特定的存储装置，但是本公开设想了任何合适的存储装置。

在特定实施例中，I/O接口1608包括为在计算机***1600和一个或更多个I/O设备之间的通信提供一个或更多个接口的硬件、软件或两者。在适当的情况下，计算机***1600可以包括这些I/O设备中的一个或更多个。这些I/O设备中的一个或更多个可以实现在人和计算机***1600之间的通信。作为示例而不是作为限制，I/O设备可以包括键盘、小键盘、麦克风、监视器、鼠标、打印机、扫描仪、扬声器、静态摄像机、触笔、平板计算机、触摸屏、跟踪球、视频摄像机、另一个合适的I/O设备、或这些中的两个或更多个的组合。I/O设备可以包括一个或更多个传感器。本公开设想了任何合适的I/O设备以及用于它们的任何合适的I/O接口1608。在适当的情况下，I/O接口1608可以包括使处理器1602能够驱动这些I/O设备中的一个或更多个的一个或更多个设备或软件驱动器。在适当的情况下，I/O接口1608可以包括一个或更多个I/O接口1608。尽管本公开描述并示出了特定的I/O接口，但是本公开设想了任何合适的I/O接口。

在特定实施例中，通信接口1610包括提供用于在计算机***1600和一个或更多个其他计算机***1600或一个或更多个网络之间的通信(诸如例如，基于包的通信)的一个或更多个接口的硬件、软件或两者。作为示例而不是作为限制，通信接口1610可以包括用于与以太网或其他基于有线的网络进行通信的网络接口控制器(NIC)或网络适配器、或用于与无线网络(例如WI-FI网络)进行通信的无线NIC(WNIC)或无线适配器。本公开设想了任何合适的网络和用于它的任何合适的通信接口1610。作为示例而不是作为限制，计算机***1600可以与自组织网络、个域网(PAN)、局域网(LAN)、广域网(WAN)、城域网(MAN)或互联网的一个或更多个部分、或这些中的两个或更多个的组合进行通信。这些网络中的一个或更多个的一个或更多个部分可以是有线的或无线的。作为示例，计算机***1600可以与无线PAN(WPAN)(诸如例如，蓝牙WPAN)、WI-FI网络、WI-MAX网络、蜂窝电话网络(诸如例如，全球移动通信***(GSM)网络)、或其他合适的无线网络、或这些中的两个或更多个的组合进行通信。在适当的情况下，计算机***1600可以包括用于这些网络中的任一个的任何合适的通信接口1610。在适当的情况下，通信接口1610可以包括一个或更多个通信接口1610。尽管本公开描述并示出了特定的通信接口，但是本公开设想了任何合适的通信接口。

在特定实施例中，总线1612包括将计算机***1600的部件耦合到彼此的硬件、软件或两者。作为示例而不是作为限制，总线1612可以包括加速图形端口(AGP)或其他图形总线、扩展工业标准架构(EISA)总线、前端总线(FSB)、HYPERTRANSPORT(HT)互连、工业标准架构(ISA)总线、INFINIBAND互连、低引脚数(LPC)总线、存储器总线，微通道架构(MCA)总线、***部件互连(PCI)总线、PCI-Express(扩展)(PCIe)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线、或任何其他合适的总线、或这些中的两个或更多个的组合。在适当的情况下，总线1612可以包括一个或更多个总线1612。尽管本公开描述并示出了特定总线，但是本公开设想了任何合适的总线或互连。

在本文，在适当的情况下，一个或更多个计算机可读非暂时性存储介质可以包括一个或更多个基于半导体的或其他集成电路(IC)(诸如例如，现场可编程门阵列(FPGA)或专用IC(ASIC))、硬盘驱动器(HDD)、混合硬盘驱动器(HHD)、光盘、光盘驱动器(ODD)、磁光盘、磁光盘驱动器、软盘、软盘驱动器(FDD)、磁带、固态驱动器(SSD)、RAM驱动器、安全数字(SECURE DIGITAL)卡或驱动器、任何其他合适的计算机可读非暂时性存储介质、或这些中的两个或更多个的任何合适组合。在适当的情况下，计算机可读非暂时性存储介质可以是易失性的、非易失性的或者易失性和非易失性的组合。

本文中，除非另有明确指示或通过上下文另有指示，否则“或”是包括性的而非排他性的。因此在本文，除非另有明确指示或通过上下文另有指示，否则“A或B”意指“A、B或两者”。此外，除非另有明确指示或通过上下文另有指示，否则“和”既是联合的又是各自的。因此在本文，除非另有明确指示或通过上下文另有指示，否则“A和B”意指“A和B，联合地或各自地”。

本公开的范围包括本领域中的普通技术人员将理解的对本文描述或示出的示例实施例的所有改变、替换、变化、变更和修改。本公开的范围不限于本文描述或示出的示例实施例。此外，尽管本公开将本文的相应实施例描述并示为包括特定的部件、元件、特征、功能、操作或步骤，但是这些实施例中的任何一个可以包括本领域中的普通技术人员将理解的在本文任何地方描述或示出的任何部件、元件、特征、功能、操作或步骤的任何组合或置换。此外，在所附权利要求中对适合于、被布置成、能够、被配置成、实现来、可操作来、或操作来执行特定功能的装置或***或装置或***的部件的引用包括该装置、***、部件，无论它或那个特定功能是否被激活、开启或解锁，只要该装置、***或部件是这样被调整、被布置、使能够、被配置、被实现、可操作的、或操作的。此外，尽管本公开将特定实施例描述或示为提供特定优点，但是特定实施例可以提供这些优点中的一些、全部或不提供这些优点。

Claims (23)

1.一种用于在助理***中使用的方法，用于通过使用户能够在会话中利用用户输入与所述助理***交互来帮助用户获得信息或服务，从而获得帮助，其中所述用户输入包括声音、文本、图像或视频或它们的任意组合，所述助理***通过计算设备、应用编程接口(API)、以及用户设备上应用激增的组合来实现，所述方法包括：

基于包括多个阶段的神经网络来训练基线机器学习模型，其中每个阶段包括多个神经块；

访问分别包括多个内容对象的多个训练样本；

确定一个或更多个非局部操作，其中每个非局部操作基于一个或更多个成对函数和一个或更多个一元函数；

基于所述多个训练样本和所述一个或更多个非局部操作来生成一个或更多个非局部块；

从所述神经网络的所述多个阶段中确定一个阶段；以及

通过将所述一个或更多个非局部块中的每一个***所述神经网络的所确定的阶段中的多个神经块中的至少两个神经块之间来训练非局部机器学习模型，

其中所述助理***使用一个或更多个非局部机器学习模型来分析包括语音、文本、图像、视频或它们的组合中的一个或更多个的内容对象。

2.根据权利要求1所述的方法，其中，所述神经网络包括卷积神经网络或循环神经网络中的一个或更多个。

3.根据权利要求1或2所述的方法，其中，所述多个内容对象中的每一个包括文本、音频剪辑、图像或视频中的一个或更多个。

4.根据权利要求1或2所述的方法，其中，所述神经网络基于二维架构或三维架构中的一个或更多个。

5.根据权利要求1或2所述的方法，还包括：

基于所述基线机器学习模型来分别生成关于所述多个内容对象的多个特征表示。

6.根据权利要求5所述的方法，其中，生成所述一个或更多个非局部块中的每一个包括：

将所述一个或更多个非局部操作中的每一个应用于所述多个内容对象之一的特征表示。

7.根据权利要求5所述的方法，还包括：

为所述多个内容对象中的每一个确定输出位置和与该输出位置相关联的多个位置。

8.根据权利要求7所述的方法，其中，所述输出位置在空间、时间或时空中的一个或更多个中。

9.根据权利要求7所述的方法，其中，所述一个或更多个非局部操作中的每一个基于函数

并且其中：

x_i指示所述输出位置处的特征表示；

x_j指示所述多个位置之一处的特征表示；

y_i指示所述输出位置处的输出响应；

f(x_i,x_j)指示所述成对函数；

g(x_j)指示所述一元函数；以及

C(x)指示归一化因子。

10.根据权利要求9所述的方法，其中，所述成对函数基于以下一项或更多项：

高斯函数

嵌入高斯函数

其中θ是x_i的嵌入，并且φ是x_j的嵌入；

点积函数f(x_i，x_j)＝θ(x_i)^Tφ(x_j)；或者

级联函数

其中ReLU指示整流线性单元的函数，并且其中w_f是将θ(x_i)和φ(x_j)的级联向量投影到标量的权重向量。

11.根据权利要求5所述的方法，还包括：

通过对所述多个内容对象中的每个内容对象的特征表示应用子采样，来为所述内容对象生成子采样的内容对象，其中所述子采样的内容对象与子采样的特征表示相关联。

12.根据权利要求11所述的方法，其中，所述子采样包括池化，所述池化包括最大池化或平均池化中的一种或更多种。

13.根据权利要求11所述的方法，其中，生成所述一个或更多个非局部块中的每一个包括：

将所述一个或更多个非局部操作中的每一个应用于所述多个内容对象之一的特征表示和对应于该内容对象的子采样的内容对象的子采样的特征表示。

14.根据权利要求11所述的方法，还包括：

为所述多个内容对象中的每一个确定输出位置；以及

为对应于所述内容对象的多个子采样的内容对象中的每一个确定与所述输出位置相关联的多个位置。

15.根据权利要求14所述的方法，其中，所述一个或更多个非局部操作中的每一个基于函数

并且其中：

x_i指示所述输出位置处的特征表示；

指示所述多个位置之一处的子采样的特征表示；

y_i指示所述输出位置处的输出响应；

指示所述成对函数；

指示所述一元函数；以及

指示归一化因子。

16.根据权利要求15所述的方法，其中，所述成对函数基于以下一项或更多项：

高斯函数

嵌入高斯函数

其中θ是x_i的嵌入，并且φ是/>

的嵌入；

点积函数

或者

级联函数

其中ReLU指示整流线性单元的函数，并且其中w_f是将θ(x_i)和/>

的级联向量投影到标量的权重向量。

17.根据权利要求1或2所述的方法，还包括：

接收查询内容对象；以及

基于所述非局部机器学习模型来确定所述查询内容对象的类别。

18.一种体现软件的计算机可读非暂时性存储介质，所述软件在被执行时能够操作来执行根据权利要求1至17中的任一项的方法。

19.一种助理***，其用于通过使用户能够在会话中利用用户输入与所述助理***交互来帮助用户获得信息或服务，从而获得帮助，其中所述用户输入包括声音、文本、图像或视频或它们的任意组合，所述助理***通过计算设备、应用编程接口(API)、以及用户设备上应用激增的组合来实现，所述助理***包括：一个或更多个处理器；以及耦合到所述处理器的非暂时性存储器，所述存储器包括能够由所述处理器执行的指令，所述处理器在执行所述指令时能够操作来执行根据权利要求1至17中的任一项所述的方法。

20.根据权利要求19所述的助理***，其用于通过执行以下特征或步骤中的至少一个或更多个来帮助用户：

-创建并存储包括与用户相关联的个人信息和上下文信息的用户简档

-使用自然语言理解来分析所述用户输入，其中所述分析能够基于所述用户简档，以获得更个性化和上下文感知的理解

-基于所述分析来解析与所述用户输入相关联的实体

-与不同的代理交互，以获得与解析的实体相关联的信息或服务

-通过使用自然语言生成来为用户生成关于信息或服务的响应

-通过与用户的交互，使用对话管理技术来管理和转发与该用户的会话流

-通过汇总信息，帮助用户有效和高效地消化获得的信息

-通过提供帮助用户与在线社交网络交互的工具，来帮助用户更好地参与所述在线社交网络

-帮助用户管理不同的任务，如持续跟踪事件

-在与用户相关的时间，而没有用户输入的情况下，基于所述用户简档主动执行与用户兴趣和偏好相关的预授权任务

-每当有必要确保访问用户简档和执行不同的任务都遵守用户的隐私设置时就检查隐私设置。

21.根据权利要求19或20所述的助理***，包括以下部件中的至少一个或更多个：

-消息传递平台，其用于从与用户相关联的客户端***接收基于文本模态的用户输入和/或接收基于图像或视频模态的用户输入，并在所述消息传递平台内使用光学字符识别技术对所述用户输入进行处理，以将所述用户输入转换成文本，

-音频语音识别ASR模块，其用于从与用户相关联的所述客户端***接收基于音频模态的用户输入，并将基于音频模态的所述用户输入转换成文本，

-助理xbot，其用于接收所述消息传递平台或所述ASR模块的输出。

22.一种用于网络环境的***，包括：

至少一个客户端***，特别是电子设备，

根据权利要求19至21中的任一项所述的至少一个助理***，

所述客户端***和所述助理***通过网络彼此连接，

其中，所述客户端***包括用于允许所述客户端***的用户与所述助理***交互的助理应用，

其中，所述助理应用将用户输入传送给所述助理***，并且基于所述用户输入，所述助理***生成响应并将所生成的响应发送给所述助理应用，并且所述助理应用向所述客户端***的用户呈现所述响应，

其中，所述用户输入是音频或口头或视觉的，并且所述响应能够是文本或者也能够是音频或口头或视觉的。

23.根据权利要求22所述的***，还包括社交网络***，

其中，所述客户端***包括用于访问所述社交网络***的社交网络应用。

Images