CN112734446A

CN112734446A - 基于视觉和重力检测的商品验证方法和装置

Info

Publication number: CN112734446A
Application number: CN202011618780.8A
Authority: CN
Inventors: 卢彬; 高铁柱
Original assignee: Beijing Missfresh Ecommerce Co Ltd
Current assignee: Beijing Missfresh Ecommerce Co Ltd
Priority date: 2020-12-31
Filing date: 2020-12-31
Publication date: 2021-04-30

Abstract

本公开提供了基于视觉和重力检测的商品验证方法和装置，所述方法包括：获取智能售货柜内当前货品的视觉检测信息和重力检测信息；若所述智能售货柜的网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息；若所述智能售货柜的网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，并在接收到所述后台服务器返回的信息后，生成第二交易记录信息。以此方式，在发生网络通信故障时，能够快速生成交易订单，保证货品正常交易，提高消费者用户体验的基于视觉和重力检测的商品验证方案。

Description

基于视觉和重力检测的商品验证方法和装置

技术领域

本公开的实施例一般涉及图像识别技术领域，并且更具体地，涉及基于视觉和重力检测的商品验证方法和装置。

背景技术

为了使人们的生活更加便捷，近年来在地铁站、公交站和医院等场所出现的智能售货柜越来越多。智能售货柜是一种基于移动支付场景随时取货及时扣款的自动售卖机器，由于智能售货柜不受时间、地点的限制，即当有购物需求时，人们可就地进行购买，从而在很大程度上节省了人力，而且，交易过程也十分简便，是一种全新的商业零售形式。

在使用过程中，智能售货柜通过图像采集设备采集智能售货柜内发生货品交易前后的货品图像，并将采集到的货品图像发送至后台服务器，通过图像处理技术识别出发生交易的目标货品，进而生成交易订单，完成交易。

但是，在现有技术中，发生货品交易时，难免会发生通信故障，使得采集到的货品图像不能及时的发送至后台服务器，从而影响交易订单的生成效率，影响消费者的用户体验。

发明内容

根据本公开的实施例，提供了一种在发生网络通信故障时，快速生成交易订单，保证货品正常交易，提高消费者用户体验的基于视觉和重力检测的商品验证方案。

在本公开的第一方面，提供了一种基于视觉和重力检测的商品验证方法，包括：

获取智能售货柜内当前货品的视觉检测信息和重力检测信息；

若所述智能售货柜的网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息；

若所述智能售货柜的网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，并在接收到所述后台服务器返回的信息后，生成第二交易记录信息。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，根据所述重力检测信息生成第一交易记录信息之后，还包括：

按照预设时间间隔判断所述网络通信状况是否满足预设条件，若网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，在接收到所述后台服务器返回的信息后，根据返回的信息对所述第一交易记录信息进行修正。

按照预设时间间隔判断所述网络通信状况是否满足预设条件，若网络通信状况满足预设条件，将所述视觉检测信息和所述第一交易记录信息发送至后台服务器，并接收后台服务器返回的对所述第一交易记录信息进行修正的修正信息。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述视觉检测信息包括智能售货柜柜门打开时采集的第一图像信息和智能售货柜柜门关闭后采集的第二图像信息。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述视觉检测信息包括智能售货柜柜门关闭后采集的图像信息。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，所述重力检测信息包括：

所述智能售货柜内货品摆放位置处的重力传感器采集到的重力变化信息。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，网络通信状况表征为数据传输速度；

所述判断所述网络通信状况是否满足预设条件，包括：

判断数据传输速度是否大于预设阈值。

如上所述的方面和任一可能的实现方式，进一步提供一种实现方式，还包括：

记录当前时间点，将所述当前时间点和所述第一交易记录信息整合为报表信息，按时间顺序添加至交易记录报表中。

在本公开的第二方面，提供了一种基于视觉和重力检测的商品验证装置，包括：

检测信息获取模块，用于获取智能售货柜内当前货品的视觉检测信息和重力检测信息；

交易记录信息生成模块，用于若所述智能售货柜的网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息；

在本公开的第三方面，提供了一种电子设备，包括存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。

在本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如以上所述的方法。

应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

通过本公开的基于视觉和重力检测的商品验证方法，在发送网络通信故障时，仍然能够快速生成交易订单，保证货品正常交易，从而提高消费者用户体验。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了本公开实施例一的基于视觉和重力检测的商品验证方法的流程图；

图2示出了本公开实施例二的基于视觉和重力检测的商品验证方法的流程图；

图3示出了本公开实施例三的基于视觉和重力检测的商品验证装置的结构示意图；

图4示出了本公开实施例四的基于视觉和重力检测的商品验证设备的结构示意图。

具体实施方式

为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。

另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

本公开的实施例中，通过对智能售货柜内货品位置处的受重力大小的变化进行检测，同时对智能售货柜内货品的图像进行检测，在通信故障是，通过重力检测信息生成货品交易订单，保证货品正常交易，从而提高消费者用户体验。

具体地，如图1所示，为本公开实施例一的基于视觉和重力检测的商品验证方法的流程图。从图1中可以看出，本实施例的方法，可以包括以下步骤：

S101：获取智能售货柜内当前货品的视觉检测信息和重力检测信息。

本实施例中的智能售货柜，内部可以分为多个层，每层可以用来摆放不同的货品。摆放货品的位置处设置有重力检测装置，例如压力传感器，并将货品放置在重力检测装置上，这样，当发生货品交易时，交易货品从所述重力检测装置上移开，重力检测装置采集到的重力检测信息会发生变化(即压力数值发生变化)，同时可以生成一个脉冲电信号，发送给智能售货柜的处理器，智能货柜的处理器可以根据该电信号生成对应的交易订单，以完成交易。

同时，智能售货柜内还可以设置有图像采集装置，例如摄像头，图像采集装置可以采集智能售货柜内货品的图像，通过采集货品交易前后的图像作为视觉检测信息，并将视觉检测信息发送至与智能售货柜通信连接的后台服务器，后台服务器可以利用图像处理技术识别出在后采集的图像中相对于在前采集的图像中确实的货品图像，进而利用图像差分算法等方法确定发生交易的货品，并将发生交易货品的信息返回至智能售货柜，智能售货柜在接收到后台服务器返回的交易货品的信息后，根据发生交易的货品的货品信息生成对应的交易订单，以完成交易。

在本实施例中，当发生货品交易时，首先需要获取智能售货柜内当前货品的视觉检测信息和重力检测信息。判断是否发生货品交易时，可以通过检测智能售货柜的柜门的开关状态来判断是否发生货品交易，或者可以通过判断是否接收到用户输入的人脸图像信息、指纹信息，或者在移动终端APP上的认证信息等来判断是否发生货品交易。具体地，当智能售货柜的柜门打开时，采集智能售货柜内的当前货品的视觉检测信息和重力检测信息，或者，当智能货柜的人脸识别模块采集到用户的人脸图像进而打开智能售货柜的柜门时，采集智能售货柜内的当前货品的视觉检测信息和重力检测信息。

S102：若所述智能售货柜的网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息。

在本实施例中，当获取到智能售货柜内当前货品的视觉检测信息和重力检测信息后，检测所述智能售货柜的当前的网络通信状况。通常情况下，现有技术中的智能货柜将采集到的视觉检测信息通过网络发送至后台服务器，并在接收到后台服务器返回的交易货品的信息后，生成交易订单，客户可以根据交易订单完成支付，从而完成货品交易。当然，当网络通信故障时，智能售货柜采集到的视觉检测信息由于无法发送至后台服务器，导致发生交易的货品不能识别，因此，也不能生成交易订单，从而影响货品交易的正常进行，影响了用户体验。

本公开的技术方案，能够避免因网络通信故障时影响交易订单生成的现象。在本公开的实施例中，当网络通信状况良好时，仍然将智能售货柜采集到的视觉检测信息发送至后台服务器，并在接收到后台服务器返回的交易货品的信息后，生成交易订单。但是，当网络通信状况较差或者网络通信故障时，通过获取到的重力检测信息来判断是否发生货品交易。例如，当某货品被拿走后，该货品下的重力检测装置采集到的压力数值会发生变化，根据重力检测装置采集的到的压力数值的变化信息可以确定发生货品交易，同时根据预先存储在智能售货柜本地的重力检测装置的位置与货品类型的对应关系，可以确定发生交易的货品的信息，例如货品的类型、规格和价格等，进而生成交易订单。用户可以根据生成的交易订单完成支付，从而完成货品交易。因此，在本实施例中，需要判断当前的网络通信状况。

在一些实施例中，当前的网络通信状况表征为数据传输速度，例如可以表示为MB/s，即每秒传输多少MB的数据。则在判断当前的网络的通信状况时，可以预先设定判断标准值，判断当前的网络通信状况是否满足预设条件可以为判断当前网络的数据传输速度是否大于所述预设的判断标准值，若当前网络的数据传输速度大于所述预设的判断标准值，则为满足预设条件，若当前网络的数据传输速度不大于所述预设的判断标准值，则为不满足预设条件。在本实施例中，所述判断标准值可以根据实际需要确定，具体地，在本公开的技术方案中，网络通信一般是用来传输智能货柜采集到的货品图像的，则可以根据采集到的货品图像封装后的数据包的大小来设定所述判断标准值的大小，并且可以适当放大所述判断标准值。

在当前的网络通信状况满足预设条件时，则说明当前网络的通信状况不会影响货品图片的发送以及以后货品信息的接收，进而不影响交易订单的生成和用户的支付，保证货品交易的正常进行。

在本实施例中，当当前的网络通信状况不满足预设条件时，则不向服务器发送货品图片，而是根据采集到的重力检测信息直接生成第一交易记录信息，该第一交易记录信息可以是发生交易的货品的类型、规格和价格等，根据货品的类型、规格和价格等生成交易订单，以便于客户根据交易订单完成支付。

S103：若所述智能售货柜的网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，并在接收到所述后台服务器返回的信息后，生成第二交易记录信息。

本实施例的基于视觉和重力检测的商品验证方法，在发生网络通信故障时，仍然能够快速生成交易订单，在本次交易结束后，即可准备进行下一次交易，无需客户等待网络恢复，从而保证货品正常交易，提高消费者用户体验。

作为本公开的一个较为具体的实施例，继续参见图2。如图2所示，为本公开实施例二的基于视觉和重力检测的商品验证方法的流程图。本实施例的基于视觉和重力检测的商品验证方法，包括以下步骤：

S201：获取智能售货柜内当前货品的视觉检测信息和重力检测信息。

在本实施例中，仍然通过设置在智能售货柜内的图像采集装置采集货品图像，通过重力检测装置采集货品的重力检测信息。关于获取智能售货柜内当前货品的视觉检测信息和重力检测信息的具体实现过程参见实施例一，这里不再重复赘述。

S202：检测所述智能售货柜的当前的网络通信状况。

在本实施例中，当获取到智能货柜内当前货品的视觉检测信息和重力检测信息后，同样需要检测所述智能货柜的当前的网络通信状况，从而判断是通过视觉检测信息生成交易订单还是通过重力检测信息生成交易订单，这样能够保证交易订单的正常生成，不影响货品的正常交易。

本实施例中，可以获取网络通信速度的具体数值信息。

S203：判断所述网络通信状况是否满足预设条件，若所述网络通信状况不满足预设条件，则进入步骤S204，若所述网络通信状况满足预设条件，则进入步骤S206。

在获取到网络通信速度的具体数值信息后，判断所述网络通信状况是否满足预设条件，具体地，可以为网络通信速度的具体数值是否大于预设阈值。并当所述网络通信状况不满足预设条件，则进入步骤S204，若所述网络通信状况满足预设条件，则进入步骤S206。

S204：响应于所述网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息。

当当前的网络通信状况不满足预设条件时，则不向服务器发送货品图片，而是根据采集到的重力检测信息直接生成第一交易记录信息，该第一交易记录信息可以是发生交易的货品的类型、规格和价格等，根据货品的类型、规格和价格等生成交易订单，以便于客户根据交易订单完成支付。

S205：按照预设时间间隔判断网络通信状况是否满足预设条件，直到网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，在接收到所述后台服务器返回的信息后，根据返回的信息对所述第一交易记录信息进行修正。

在本实施例中，当通过重力检测信息生成第一交易记录信息后，由于根据重力检测信息生成的第一交易记录信息可能存在错误，因此，需要对第一交易记录信息进行核对和修正。因此，在本实施例中，在交易完成之后，若交易订单是根据重力检测信息生成的，则可以进一步按照预设时间间隔检测并判断网络通信状况是否满足预设条件，并在网络通信状况满足预设条件时，将预先采集到的视觉检测信息发送至后台服务器，以令后台服务器根据所述视觉检测信息确定发生交易的货品，然后将发生交易的货品信息再发送至所述智能货柜，智能货柜根据接收到的发生交易的货品信息对已经生成的第一交易记录信息进行核对，并在发生错误时，对该错误进行修正，生成修正后的第一交易记录信息。

并且，进一步地，还可以在对该错误进行修正后，将修正后的第一交易记录信息发送给对应的客户。当然，在未对该错误进行修正时，则无需通知对应的客户。

S206：响应于所述网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，并在接收到所述后台服务器返回的信息后，生成第二交易记录信息。

在本实施例中，当当前的网络通信状况满足预设条件时，则向服务器发送视觉检测信息。并在接收到所述后台服务器返回的信息后，生成第二交易记录信息。

在一些实施例中，所述视觉检测信息包括智能售货柜柜门打开时采集的第一图像信息和智能售货柜柜门关闭后采集的第二图像信息。后台服务器根据所述第一图像信息和所述第二图像信息利用图像差分算法可以确定第二图像信息中相对于第一图像信息缺失的货品信息，该缺失的货品即为发生交易的货品。然后将发生交易的货品信息返回至智能售货柜，智能售货柜个根据返回的货品信息生成第二交易记录信息。

在一些实施例中，所述视觉检测信息包括智能售货柜柜门关闭后采集的图像信息。台服务器根据本次接收到的智能售货柜柜门关闭后采集的图像信息以及上一次接收到的智能售货柜柜门关闭后采集的图像信息利用图像差分算法可以确定第二图像信息中相对于第一图像信息缺失的货品信息，该缺失的货品即为发生交易的货品。然后将发生交易的货品信息返回至智能售货柜，智能售货柜个根据返回的货品信息生成第二交易记录信息。这样，可以减少网络传输的数据量，降低对网络通信状况的要求。本实施例中的第二交易记录信息也可以为发生交易的货品的类型、规格和价格等。

本实施例的基于视觉和重力检测的商品验证方法，无论网络通信状况是否存在故障，都然能够快速生成交易订单，保证货品正常交易，从而提高消费者用户体验。

此外，作为本公开的一个可选实施例，在上述实施例中，还可以包括：

记录当前时间点，将所述当前时间点和所述第一交易记录信息整合为报表信息，按时间顺序添加至交易记录报表中，进而生成交易记录信息报表，当发生交易错误时，可以根据所述交易记录信息报表对交易信息进行核对，进一步提高用户体验。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。

以上是关于方法实施例的介绍，以下通过装置实施例，对本公开所述方案进行进一步说明。

图3示出了本公开实施例三的基于视觉和重力检测的商品验证装置的结构示意图。本实施例的基于视觉和重力检测的商品验证装置，包括：

检测信息获取模块301，用于获取智能售货柜内当前货品的视觉检测信息和重力检测信息。

交易记录信息生成模块302，用于若所述智能售货柜的网络通信状况不满足预设条件，根据所述重力检测信息生成第一交易记录信息；若所述智能售货柜的网络通信状况满足预设条件，将所述视觉检测信息发送至后台服务器，并在接收到所述后台服务器返回的信息后，生成第二交易记录信息

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

图4示出了本公开实施例四的基于视觉和重力检测的商品验证设备的结构示意图。图4出的终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图4示，计算机***包括中央处理单元(CPU)401，其可以基于存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM403中，还存储有***操作所需的各种程序和数据。CPU 401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。

以下部件连接至I/O接口405：包括键盘、鼠标等的输入部分406；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407；包括硬盘等的存储部分408；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也基于需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、半导体存储器等等，基于需要安装在驱动器410上，以便于从其上读出的计算机程序基于需要被安装入存储部分408。

特别地，基于本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，所述计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分409从网络上被下载和安装，和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时，执行本申请的方法中限定的上述功能。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)等等。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

此外，虽然采用特定次序描绘了各操作，但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行，或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地，在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims

1.基于视觉和重力检测的商品验证方法，其特征在于，包括：

2.根据权利要求1所述的基于视觉和重力检测的商品验证方法，其特征在于，根据所述重力检测信息生成第一交易记录信息之后，还包括：

3.根据权利要求1所述的基于视觉和重力检测的商品验证方法，其特征在于，根据所述重力检测信息生成第一交易记录信息之后，还包括：

4.根据权利要求1至3任一项所述的基于视觉和重力检测的商品验证方法，其特征在于，所述视觉检测信息包括智能售货柜柜门打开时采集的第一图像信息和智能售货柜柜门关闭后采集的第二图像信息。

5.根据权利要求1至3任一项所述的基于视觉和重力检测的商品验证方法，其特征在于，所述视觉检测信息包括智能售货柜柜门关闭后采集的图像信息。

6.根据权利要求4所述的基于视觉和重力检测的商品验证方法，其特征在于，所述重力检测信息包括：

7.根据权利要求6所述的基于视觉和重力检测的商品验证方法，特征在于，网络通信状况表征为数据传输速度；

所述判断所述网络通信状况是否满足预设条件，包括：

判断数据传输速度是否大于预设阈值。

8.根据权利要求7所述的基于视觉和重力检测的商品验证方法，特征在于，还包括：

9.一种电子设备，包括存储器和处理器，所述存储器上存储有计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1～8中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1～8中任一项所述的方法。