CN113887884A - 商超服务*** - Google Patents
商超服务*** Download PDFInfo
- Publication number
- CN113887884A CN113887884A CN202111070182.6A CN202111070182A CN113887884A CN 113887884 A CN113887884 A CN 113887884A CN 202111070182 A CN202111070182 A CN 202111070182A CN 113887884 A CN113887884 A CN 113887884A
- Authority
- CN
- China
- Prior art keywords
- commodity
- information
- image
- user
- business
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007405 data analysis Methods 0.000 claims abstract description 26
- 230000008451 emotion Effects 0.000 claims description 55
- 238000004458 analytical method Methods 0.000 claims description 21
- 238000001514 detection method Methods 0.000 claims description 18
- 230000003993 interaction Effects 0.000 claims description 8
- 230000005021 gait Effects 0.000 claims description 7
- 230000007613 environmental effect Effects 0.000 claims description 5
- 230000002452 interceptive effect Effects 0.000 claims description 2
- 230000006399 behavior Effects 0.000 description 29
- 230000004927 fusion Effects 0.000 description 21
- 238000012549 training Methods 0.000 description 16
- 230000009471 action Effects 0.000 description 14
- 230000008909 emotion recognition Effects 0.000 description 11
- 230000001815 facial effect Effects 0.000 description 9
- 238000000034 method Methods 0.000 description 8
- 238000000605 extraction Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 235000021152 breakfast Nutrition 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 235000011888 snacks Nutrition 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 235000015895 biscuits Nutrition 0.000 description 1
- 235000008429 bread Nutrition 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000008267 milk Substances 0.000 description 1
- 210000004080 milk Anatomy 0.000 description 1
- 235000013336 milk Nutrition 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
- G06Q30/0224—Discounts or incentives, e.g. coupons or rebates based on user history
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Strategic Management (AREA)
- Human Resources & Organizations (AREA)
- Evolutionary Computation (AREA)
- Economics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Development Economics (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Marketing (AREA)
- General Business, Economics & Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Game Theory and Decision Science (AREA)
- Educational Administration (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种商超服务***,包括:图像采集模块,分布式的设置在商超内的第一预设位置,用于采集所述商超的环境图像,所述环境信息包括人员行为图像和商品状态图像;音频采集模块,分布式的设置在商超内的第二预设位置,用于采集所述商超内的音频信息;数据分析模块,分别与所述图像采集模块和所述音频采集模块连接,用于基于所述环境图像和所述音频信息生成顾客服务策略和商品管理策略;执行模块,与所述数据分析单元连接,用于基于执行所述顾客服务策略和商品管理策略。实现减少商超的人力成本,提高管理和服务效率。
Description
技术领域
本申请涉及智能零售技术领域,具体涉及一种商超服务***。
背景技术
现有的商超需要人员盘点、看店等人工商品管理,还需要店员进行推广、与消费者交互等人工对顾客服务等。存在所需人力多,成本高、效率低等问题。目前出现了一些无人商超,虽然借助RFID等技术水平解决了无人收付款的问题。但是从目前的发展水平现有的商超需要人员盘点、看店、推广、与消费者交互人工商品管理和人工对顾客服务等。
因此,如何减少商超的人力成本,提高管理和服务效率成为亟待解决的技术问题。
发明内容
本申请提供了一种商超服务***,以至少解决相关技术中所存在的技术问题。
根据本申请提供一种商超服务***,包括:图像采集模块,分布式的设置在商超内的第一预设位置,用于采集所述商超的环境图像,所述环境信息包括人员行为图像和商品状态图像;音频采集模块,分布式的设置在商超内的第二预设位置,用于采集所述商超内的音频信息;数据分析模块,分别与所述图像采集模块和所述音频采集模块连接,用于基于所述环境图像和所述音频信息生成顾客服务策略和商品管理策略;执行模块,与所述数据分析单元连接,用于基于执行所述顾客服务策略和商品管理策略。
可选地,所述数据分析模块包括:行为分析单元,用于基于所述行为图像和/或所述音频信息构建用户画像,基于所述用户画像与预设用户画像的对比结果提供与用户对应的服务信息,所述服务信息包括:商品广告、商超优惠信息、商品推荐信息和服务推荐信息中的至少之一。
可选地,所述数据分析模块包括:商品分析单元,用于基于所述商品状态图像识别商品状态,并基于所述商品状态对商品进行盘点,所述商品状态包括:商品缺货状态、商品整齐度和商品名称中的至少之一。
可选地,所述行为分析单元还用于基于所述行为图像和所述音频信息识别用户选购商品时的情绪类别,基于所述情绪类别评估用户对商品的喜好程度;根据所述喜好程度结合营销数据库与用户进行实时的营销互动。
可选地,所述行为分析单元还用于基于所述音频信息提取语音信息,并对语音信息进行语音识别,得到语音识别内容;基于所述语音识别内容生成与用户进行语音交互的交互内容。
可选地,所述商品缺货状态包括缺货程度、缺货商品信息和缺货位置中的至少之一,所述商品分析单元还用于基于商品状态确定各个商品的销售热度和货架位置的销售热度;综合所述商品的销售热度和货架位置的销售热度确定当前货架的补货商品种类和各类商品摆放位置。
可选地,所述数据分析模块还包括:用户偏好分析单元,用于基于所述行为图像提取用户人脸信息、步态信息、位置信息和时间信息,基于所述人脸信息、所述步态信息、所述位置信息、所述时间信息以及所述商品状态得到用户的购物偏好信息,其中,所述购物偏好包括:具有不同用户画像的用户处于商超的购物状态、购物时段、选购商品类型偏好中的至少之一。
可选地,所述数据分析模块还用于统计历史所述购物偏好信息和历史所述商品状态,得到统计结果;基于所述统计结果预测在预设时段的补货商品种类和各类商品摆放位置。
可选地,所述数据分析模块还用于将所述环境图像输入预警检测模块,得到预警检测结果,所述预警检测模型基于标记有预警特征的图像信息训练得到,所述预警特征包括:火情预警特征或盗窃预警特征;当所述预警检测结果中存在预警状况时,所述执行模块执行预警。
可选地,所述图像采集模块和所述音频采集模块集成在服务机器人中,所述服务机器人还包括显示装置,用于显示顾客服务内容。
本申请的商超服务***,图像采集模块,采集所述商超的环境图像,所述环境信息包括人员行为图像和商品状态图像;音频采集模块,采集所述商超内的音频信息;数据分析模块在得到图像信息采集的环境图像和音频采集模块采集的音频信息后,可以对环境图像中的顾客的行为图像和商品状态图像进行分析,再结合音频信息可以分析得到顾客所需的服务以及商品所需的管理,依次来生成服务策略和商品管理策略,并通过执行模块执行顾客服务策略和商品管理策略。进而实现减少商超的人力成本,提高管理和服务效率。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本申请提供的商超服务***框架结构示意图;
图2为本申请提供的另一商超服务***框架结构示意图。
具体实施方式
为了更清楚的阐释本申请的整体构思,下面结合说明书附图以示例的方式进行详细说明。
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
本申请实施例提供了一种商超服务***,参见图1,可以包括:
图像采集模块10,分布式的设置在商超内的第一预设位置,用于采集所述商超的环境图像,所述环境信息包括人员行为图像和商品状态图像;音频采集模块20,分布式的设置在商超内的第二预设位置,用于采集所述商超内的音频信息;数据分析模块30,分别与所述图像采集模块和所述音频采集模块连接,用于基于所述环境信息和所述音频信息生成顾客服务策略和商品管理策略;执行模块40,与所述数据分析单元连接,用于基于执行所述顾客服务策略和商品管理策略。
其中,图像采集模块10可以为布置于商超内的摄像头、可以为商超服务机器人自带摄像头等,图像采集模块10采集的商超环境图像可以包括顾客的图像和商品的图像,具体的,可以包括顾客的行为图像和商品状态图像。
对于行为图像的采集可以通过安装在店铺内的摄像头获取,其中,获取的方式可以包括采集用户在选购商品、在商超内行动时的视频流或图像。示例性的,在用户进入店铺开始选购商品时,店铺内的摄像头对进入摄像头拍摄区域的的顾客进行图像或视频采集,作为用户在店铺内的行为信息。以选购商品行为为例,在检测到用户发生第一目标动作时,开始获取用户的行为信息,在用户发生第二目标动作时,结束获取用户的行为信息。具体的,在检测到用户发生第一目标动作时,可以表征用户开始选购商品,例如,用户在某一商品或某一区域前停留超过预设时长,或拿起某一商品时。在检测到用户发生第二目标动作时,可以表征用户暂停选购商品,例如,用户带走商品或重新放到货架上。在本实施例中,可以获取用户在第一目标动作和第二目标动作之间的行为信息。在本实施例中,还可以采集用户在商超内的行动信息,例如,行走时的步态图像、在商超内的位置信息、人脸信息等。
对于商品状态图像的采集可以利用摄像头实时采集货架的实时状态图像。作为可选地实施例,获取包含货架的视频流;每隔预设时长按照预设坐标在所述视频流中截取货架图像作为所述实时状态图像。示例性的,可以每隔预设时长截取预设帧数的视频流,并在视频流的图像中将货架在图像中的位置进行标定,例如可以在图像中标定货架的左上角坐标和右下角坐标,通过标定的坐标截取货架图像,作为货架的实时状态图像。其中,货架的实时状态图像可以包括货架上商品状态图像。
音频采集模块20,可以为安装在图像采集装置附近的麦克风,可以实时采集商超内各种音频信息。数据分析模块30在得到图像信息采集的环境图像和音频采集模块20采集的音频信息后,可以对环境图像中的顾客的行为图像和商品状态图像进行分析,再结合音频信息可以分析得到顾客所需的服务以及商品所需的管理,依次来生成服务策略和商品管理策略,并通过执行模块40执行顾客服务策略和商品管理策略。进而实现减少商超的人力成本,提高管理和服务效率。
作为示例性的实施例,如图2所示,数据分析模块30可以包括行为分析单元31,该行为分析单元31可以基于行为图像和/或所述音频信息构建用户画像,基于所述用户画像与预设用户画像的对比结果提供与用户对应的服务信息,所述服务信息包括:商品广告、商超优惠信息、商品推荐信息和服务推荐信息中的至少之一。
示例性的,在得到环境图像和音频信息后,对环境图像进行识别,例如,可以识别环境图像中的顾客的行为信息、人脸信息、年龄、性别等信息,可以基于音频信息识别顾客的需求信息,例如,可以通过多麦克风采集环境声音,并通过降噪算法提取有效的人声,进行语音识别。可以得到顾客的当前需求信息。因此,可以基于解析到的顾客的行为信息、人脸信息、年龄、性别等信息以及当前需求信息构建顾客当前用户画像,再将当前用户画像与预存的用户画像进行对比,得到相似度大于预设相似度的预先用户画像,基于得到的预设用户画像提供与预设用户画像对应的服务,例如,对用户提供对应的商品广告、商超优惠信息、商品推荐信息和服务推荐信息等。提升用户体验度,进一步加深顾客对商超的了解程度。
作为示例性的实施例,数据分析模块30还可以包括商品分析单元32,用于基于所述商品状态图像识别商品状态,并基于所述商品状态对商品进行盘点,所述商品状态包括:商品缺货状态、商品整齐度和商品名称中的至少之一。具体的,在得到商品状态图像后,将所述实时商品状态图像输入至预先训练的商品状态检测模型,得到商品状态信息,商品状态检测模型可以采用神经网络模型,例如,卷积神经网络模型、深度卷积神经网络模型等。可以采用训练样本对商品状态检测模型进行预先训练。具体的,可以采集标注的商品缺货状态、商品整齐度和商品名称的数据对模型进行训练,在本实施例中,可以缺货检测为例对训练过程进行说明:
将训练图像中的商品和缺货位置进行手工标注,在带有GPU的硬件环境下对货架模型进行训练,以提高模型训练的收敛速度。采用带动量因子(Momentum)的小批量(Mini-batch)随机梯度下降法(SGD)来训练网络。其中,每一批量图像样本数量(Batchsize)设置为8,动量因子设为固定值0.95,权值衰减(Decay)为4×10-4。权重的初始化会影响模型训练的收敛速度,初始学***翻转的方式进行数据增强。最终得到的训练图像大小为608*608,Loss基本收敛到稳定值且小于0.1,表明网络模型已经达到了预期的训练效果停止训练,得到最终模型。在本实施例中,使用方向梯度直方图(HOG)特征,不需要人为分析图像特征,同时对于图像颜色、亮度变化敏感度较小,鲁棒性较高。
作为可选的实施例,在训练时,可以在训练样本图像中分别标记商品缺货状态、商品整齐度和商品名称标签,进行训练,在本实施例中,对于每种商品状态信息的检测可以采用单独的模型,也可以采用一个模型。在得到商品的实时状态后,基于商品的实时状态进行自动的商品盘点,可以省去人工逐个检查商品,并逐个进行盘点,节省人工成本,提高商品盘点效率。
在上述实施例中,商品分析单元32可以识别商品状态,行为分析单元31还可以基于行为图像和所述音频信息识别用户选购商品时的情绪类别,结合商品状态和选购某一商品使得情绪类别可以确定用户对于某一商品或某类商品的喜好程度,作为示例性的实施例,行为分析单元31还用于基于所述行为图像和所述音频信息识别用户选购商品时的情绪类别,基于所述情绪类别评估用户对商品的喜好程度;根据所述喜好程度结合营销数据库与用户进行实时的营销互动。
在获取到用户的选购商品的行为图像和音频信息之后,可以基于行为图像和音频信息提取用户在查看展示商品时的生物特征信息,该生物特征可以为用户在选购或查看展示商品时表现出来的生物特征信息,例如,人脸表情、语气、肢体动作等生物特征信息,在选购或查看商品时所表现出的生物特征信息可以反应用户对于当前商品的态度,例如,喜欢、讨厌或中立。作为示例性的实施例,对于生物特征的提取可以采用与生物特征类型对应的提取方法,示例性的,对于人脸图像或肢体动作的提取,可以基于目标检测算法进行提取,例如,可以采用Faster R-CNN模型、SSD模型或YOLO模型进行检测。对于语音信息可以在对音频信息进行去噪处理,并采用语音分类模型进行分类得到用户音频信息。上述生物特征信息的提取方法只是举例说明,其他可在音频、视频或图像中提取生物特征的方法在本实施例中同样适用。
对于情绪类别的识别,可以采用情绪识别模型进行,情绪识别模型可以基于样本数据进行训练,将大量的生物特征信息作为训练样本,将情绪类别作为情绪识别模型的输出对情绪识别模型进行训练,在本实施例中,生物特征信息可以为多种类型,对应的情绪识别模型可以为与生物特征信息一一对应的多个模型,也可以为一个模型,采用多种生物特征信息共同进行训练。在本实施例中,情绪识别模型可以采用二分类或多分类的卷积神经网络模型。在本实施例中,在情绪识别模型训练完成后,可以将提取到生物特征信息输入模型,得到与生物特征信息对应的情绪类别的置信度,将置信度大于预设值的情绪类别作为情绪识别模型的输出。在本申请实施例中,情绪类别可以为二分类结果,例如,喜欢和讨厌。也可以为多分类结果,例如,喜欢、讨厌和中立等。
对于情绪类别的识别是基于用户选购和查看某一商品时所展现出的情绪,将该情绪与该展示商品关联,可以得到用户当前对该展示商品的态度。可以精准的了解用户当下所需或感兴趣的商品,也可以精准了解当下用户不感兴趣的商品,能够实时预测用户需求,并给予用户实时需求进行针对性的营销。以实现更为针对性的营销。
作为示例性的实施例,情绪类别可以融合多方面特征进行识别,示例性的,基于所述人脸图像、语音信息和肢体动作分别提取面部特征、声纹特征和姿态特征;将所述面部特征输入预先训练的面部情绪识别模型,得到面部情绪类别;将所述声纹特征输入预先训练的语音情绪识别模型,得到语音情绪类别;将所述姿态特征输入预先训练的姿态情绪识别模型,得到姿态情绪类别;基于情绪融合模型将所述面部情绪类别、所述语音情绪类别和所述姿态情绪类别进行情绪融合,得到用户情绪类别。
在对情绪类别进行融合时,还可以基于所述人脸图像、语音信息和肢体动作分别确定人脸姿态、语音清晰度和动作幅度;基于所述人脸姿态、语音清晰度和动作幅度确定所述面部情绪类别、所述语音情绪类别和所述姿态情绪类别在所述情绪融合模型中的实时融合权重;基于所述实时融合权重和所述情绪融合模型将所述面部情绪类别、所述语音情绪类别和所述姿态情绪类别进行情绪融合,得到用户情绪类别。具体的,权重的确定可以采用分别获取所述面部情绪类别、所述语音情绪类别和所述姿态情绪类别对应的预设融合权重;分别将所述人脸姿态、语音清晰度和动作幅度与人脸参考姿态、语音参考清晰度和动作参考幅度进行对比;基于对比结果对所述预设融合权重进行调整得到所述实时融合权重,其中,融合权重之和为1。示例性的,将实际提取的人脸姿态、语音清晰度和动作幅度分别与预设状态下的人脸参考姿态语音清参考晰度和动作参考幅度进行对比,得到对应的预设融合权重调整比例。示例性的,在人脸完整度为人脸参考完整度的百分之六十,对应的将面部情绪类别的预设融合权重下降对应的比例,同理,也可以按照比例对语音情绪类别的预设融合权重和姿态情绪类别的预设融合权重进行调整。在本实施例中,可以按照比例进行调整,也可以按照他方式进行调整,最终得到各个情绪类别的实际融合权重。
作为示例性的实施例,商品分析单元32还用于基于商品状态确定各个商品的销售热度和货架位置的销售热度;综合所述商品的销售热度和货架位置的销售热度确定当前货架的补货商品种类和各类商品摆放位置,实现商品更加合理化的管理。
基于所述实际融合权重和所述情绪融合模型将所述面部情绪类别、所述语音情绪类别和所述姿态情绪类别进行情绪融合,得到用户情绪类别。在示例性的实施例中,基于实时融合权重对各个情绪类别在融合时进行实时调整,可以减小拍摄环境对预测结果的影响,进一步提升判断用户实时情绪状态的准确定,进而提升实时针对用户的营销策略的准确性。
示例性的,在得到商品状态后,可以统计某一时间段内,例如,一天、一周或者更长或更短的时间段的各个商品的缺货程度、缺货位置等确定各个商品的销售热度和货架位置的销售热度,其中,货架位置的销售热度可以为货架出现缺货位置概率较大的位置,例如,货架顶部位置,货架中层位置等。在得到各个商品的销售热度后,选择销售热度大于预设热度的商品作为热卖商品,并分析当前商品的搭配商品。例如,若牛奶为热卖品,其搭配商品可以为早餐面包或早餐饼干;例如,酒水为热卖品,其搭配商品可以为对应的零食、小吃等。以提升整体货物的整体向量,并且基于识别到的用户购买信息的反馈(基于商品状态,例如缺货商品、缺货位置等)调整商品的摆放,使商品摆放更加符合顾客的购买需求。
作为示例性的实施例,还可以基于环境图像对用户的偏好进行分析,以便能够根据用户偏好更加合理的管理商品。示例性的,数据分析模块30还包括:用户偏好分析单元33,用于基于所述行为图像提取用户人脸信息、步态信息、位置信息和时间信息,基于所述人脸信息、所述步态信息、所述位置信息、所述时间信息以及所述商品状态得到用户的购物偏好信息,其中,所述购物偏好包括:具有不同用户画像的用户处于商超的购物状态、购物时段、选购商品类型偏好中的至少之一。
在得到用户画像、用户购物偏好信息、用户购物时的情绪类别,以及商品的状态,可以基于上述分析结果对商超的商品备货进行预测,例如,统计历史所述购物偏好信息和历史所述商品状态,得到统计结果;基于所述统计结果预测在预设时段的补货商品种类和各类商品摆放位置。作为示例性的实施例,可以统计一段时长内的用户画像、用户购物偏好信息、用户购物时的情绪类别以及商品状态,例如,统计用户画像的分类,每一类用户画像的购物偏好、喜好商品、购物时段,每一购物时段所采购的商品等。可以基于统计结果按照时段针对不同的用户画像的用户进行备货或进行商品摆放。可以更好针对不同的顾客进行备货和商品摆放,提升用户购物体验,增加商超销售业绩。在本实施例中,还可以基于预测的某一时段的用户画像和用户购物偏好等提供针对性的推广和优惠活动。
以具体的实施例进行示例性的说明:可以采集不同用户画像的用户的购物时段、选购商品信息、选购商品时的情绪类别、货架位置的销售热度得到不同用户画像的用户在不同购物时段喜欢的商品、讨厌的商品、购买的商品以及选购时热衷的或货架的位置等购物大数据,可以基于该购物大数据分析的,对在每一时段时段的不同需要重点备货的种类,商品的摆放的位置进行针对性的调整。
示例性的,商超服务***还可以实现自动看店,具体的,数据分析模块30还用于将所述环境图像输入预警检测模块,得到预警检测结果,所述预警检测模型基于标记有预警特征的图像信息训练得到,所述预警特征包括:火情预警特征或盗窃预警特征;当所述预警检测结果中存在预警状况时,所述执行模块40执行预警。
以盗窃预警特征为例,摄像头会对商超进行监控,同时利用人体识别等算法判断商超内是否有人员活动,并且判断该活动动作是否符合预设盗窃特征。在符合时可以进行语音提醒,远程呼叫或者异常报警等服务。
作为示例性的实施例,商超服务***中图像采集模块10和所述音频采集模块20集成在服务机器人中,所述服务机器人还包括显示装置,用于显示顾客服务内容。示例性的,机器人包含:屏幕、麦克风传感器、多个摄像头、喇叭、控制单元、电池这几个大的模块。屏幕用来展示机器人表情及商品信息等其他信息的展示。麦克风传感器用来捕捉环境中的声音,用来进行语音识别。摄像头用来对环境进行监控,获取的图像用来进行图像处理。喇叭用来播放各种音频。控制单元是整个机器人核心,负责处理各种传感器的数据,并通过网络与后台服务器进行数据交互,同时负责屏幕的显示。
作为示例性的实施例,后台服务器中可以包括数据分析模块30,用于根据环境图像和所述音频信息生成顾客服务策略和商品管理策略。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的客户端,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例中所提供的方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
本申请中未述及的地方采用或借鉴已有技术即可实现。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种商超服务***,其特征在于,包括:
图像采集模块,分布式的设置在商超内的第一预设位置,用于采集所述商超的环境图像,所述环境信息包括人员行为图像和商品状态图像;
音频采集模块,分布式的设置在商超内的第二预设位置,用于采集所述商超内的音频信息;
数据分析模块,分别与所述图像采集模块和所述音频采集模块连接,用于基于所述环境图像和所述音频信息生成顾客服务策略和商品管理策略;
执行模块,与所述数据分析单元连接,用于基于执行所述顾客服务策略和商品管理策略。
2.如权利要求1所述的商超服务***,其特征在于,所述数据分析模块包括:
行为分析单元,用于基于所述行为图像和/或所述音频信息构建用户画像,基于所述用户画像与预设用户画像的对比结果提供与用户对应的服务信息,所述服务信息包括:商品广告、商超优惠信息、商品推荐信息和服务推荐信息中的至少之一。
3.如权利要求2所述的商超服务***,其特征在于,所述数据分析模块包括:
商品分析单元,用于基于所述商品状态图像识别商品状态,并基于所述商品状态对商品进行盘点,所述商品状态包括:商品缺货状态、商品整齐度和商品名称中的至少之一。
4.如权利要求2所述的商超服务***,其特征在于,所述行为分析单元还用于基于所述行为图像和所述音频信息识别用户选购商品时的情绪类别,基于所述情绪类别评估用户对商品的喜好程度;根据所述喜好程度结合营销数据库与用户进行实时的营销互动。
5.如权利要求2或3所述的商超服务***,其特征在于,
所述行为分析单元还用于基于所述音频信息提取语音信息,并对语音信息进行语音识别,得到语音识别内容;基于所述语音识别内容生成与用户进行语音交互的交互内容。
6.如权利要求3所述的商超服务***,其特征在于,
所述商品缺货状态包括缺货程度、缺货商品信息和缺货位置中的至少之一,所述商品分析单元还用于基于商品状态确定各个商品的销售热度和货架位置的销售热度;综合所述商品的销售热度和货架位置的销售热度确定当前货架的补货商品种类和各类商品摆放位置。
7.如权利要求6所述的商超服务***,其特征在于,所述数据分析模块还包括:
用户偏好分析单元,用于基于所述行为图像提取用户人脸信息、步态信息、位置信息和时间信息,基于所述人脸信息、所述步态信息、所述位置信息、所述时间信息以及所述商品状态得到用户的购物偏好信息,其中,所述购物偏好包括:具有不同用户画像的用户处于商超的购物状态、购物时段、选购商品类型偏好中的至少之一。
8.如权利要求7所述的商超服务***,其特征在于,所述数据分析模块还用于统计历史所述购物偏好信息和历史所述商品状态,得到统计结果;
基于所述统计结果预测在预设时段的补货商品种类和各类商品摆放位置。
9.如权利要求1所述的商超服务***,其特征在于,所述数据分析模块还用于将所述环境图像输入预警检测模块,得到预警检测结果,所述预警检测模型基于标记有预警特征的图像信息训练得到,所述预警特征包括:火情预警特征或盗窃预警特征;
当所述预警检测结果中存在预警状况时,所述执行模块执行预警。
10.如权利要求1所述的商超服务***,其特征在于,
所述图像采集模块和所述音频采集模块集成在服务机器人中,所述服务机器人还包括显示装置,用于显示顾客服务内容。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111070182.6A CN113887884A (zh) | 2021-09-13 | 2021-09-13 | 商超服务*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111070182.6A CN113887884A (zh) | 2021-09-13 | 2021-09-13 | 商超服务*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113887884A true CN113887884A (zh) | 2022-01-04 |
Family
ID=79009260
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111070182.6A Pending CN113887884A (zh) | 2021-09-13 | 2021-09-13 | 商超服务*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113887884A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116823378A (zh) * | 2023-03-24 | 2023-09-29 | 深圳市丰宜科技有限公司 | 无人零售设备可视化营销方法 |
CN117114694A (zh) * | 2022-12-29 | 2023-11-24 | 珠海深蓝网络科技有限公司 | 一种基于crm的大数据分析***及方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107358451A (zh) * | 2017-07-17 | 2017-11-17 | 竹间智能科技(上海)有限公司 | 一种交互式智能魔镜 |
CN109117824A (zh) * | 2018-08-31 | 2019-01-01 | 北京旷视科技有限公司 | 商品的管理方法、装置、电子设备及储存介质 |
CN109165992A (zh) * | 2018-07-16 | 2019-01-08 | 北京旷视科技有限公司 | 一种智能导购方法、装置、***及计算机存储介质 |
CN109993595A (zh) * | 2017-12-29 | 2019-07-09 | 北京三星通信技术研究有限公司 | 个性化推荐商品及服务的方法、***及设备 |
CN111951258A (zh) * | 2020-08-21 | 2020-11-17 | 名创优品(横琴)企业管理有限公司 | 一种基于边缘计算的货架缺货预警分析***及方法 |
CN113313904A (zh) * | 2021-07-29 | 2021-08-27 | 深圳市轻生活科技有限公司 | 一种基于5g网络实现智能商铺报警的方法及*** |
-
2021
- 2021-09-13 CN CN202111070182.6A patent/CN113887884A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107358451A (zh) * | 2017-07-17 | 2017-11-17 | 竹间智能科技(上海)有限公司 | 一种交互式智能魔镜 |
CN109993595A (zh) * | 2017-12-29 | 2019-07-09 | 北京三星通信技术研究有限公司 | 个性化推荐商品及服务的方法、***及设备 |
CN109165992A (zh) * | 2018-07-16 | 2019-01-08 | 北京旷视科技有限公司 | 一种智能导购方法、装置、***及计算机存储介质 |
CN109117824A (zh) * | 2018-08-31 | 2019-01-01 | 北京旷视科技有限公司 | 商品的管理方法、装置、电子设备及储存介质 |
CN111951258A (zh) * | 2020-08-21 | 2020-11-17 | 名创优品(横琴)企业管理有限公司 | 一种基于边缘计算的货架缺货预警分析***及方法 |
CN113313904A (zh) * | 2021-07-29 | 2021-08-27 | 深圳市轻生活科技有限公司 | 一种基于5g网络实现智能商铺报警的方法及*** |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117114694A (zh) * | 2022-12-29 | 2023-11-24 | 珠海深蓝网络科技有限公司 | 一种基于crm的大数据分析***及方法 |
CN117114694B (zh) * | 2022-12-29 | 2024-05-07 | 河南中信科大数据科技有限公司 | 一种基于crm的大数据分析***及方法 |
CN116823378A (zh) * | 2023-03-24 | 2023-09-29 | 深圳市丰宜科技有限公司 | 无人零售设备可视化营销方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110033298B (zh) | 信息处理设备及其控制方法、***和存储介质 | |
JP5671133B2 (ja) | 動的広告コンテンツ選択 | |
JP4778532B2 (ja) | 顧客情報収集管理システム | |
US20150006243A1 (en) | Digital information gathering and analyzing method and apparatus | |
CN107463608A (zh) | 一种基于人脸识别的信息推送方法及*** | |
CN110648186B (zh) | 数据分析方法、装置、设备及计算机可读存储介质 | |
CN110163715A (zh) | 信息推荐方法、装置、设备及*** | |
JP5002441B2 (ja) | マーケティングデータ分析方法、マーケティングデータ分析システム、データ分析サーバ装置およびプログラム | |
CN113674037B (zh) | 一种基于购物行为的数据采集和推荐方法 | |
KR101779096B1 (ko) | 지능형 영상분석 기술 기반 통합 매장관리시스템에서의 객체 추적방법 | |
JP2004348618A (ja) | 顧客情報収集管理方法及びそのシステム | |
JP2017033401A (ja) | 顧客情報収集装置、顧客情報収集システムおよび顧客情報収集方法 | |
JP5780348B1 (ja) | 情報提示プログラム及び情報処理装置 | |
CN107928275A (zh) | 信息推荐方法、智能镜子及存储介质 | |
CN113887884A (zh) | 商超服务*** | |
US20200387865A1 (en) | Environment tracking | |
KR20190082048A (ko) | 시각 정보에 기초한 고객 아이템 추천 방법 및 장치 | |
EP2136329A2 (en) | Comprehensive computer implemented system and method for adapting the content of digital signage displays | |
CN109074498A (zh) | 用于pos区域的访问者跟踪方法和*** | |
CN110348869A (zh) | 数据处理方法、装置、计算设备及*** | |
KR102335918B1 (ko) | 빅 데이터와 인공 지능 알고리즘을 통한 고객 개인 맞춤형 패션 디자인 판매용 디지털 사이니지 | |
CN111951043A (zh) | 信息投放处理方法、装置、存储介质与电子设备 | |
KR20190056667A (ko) | Pos 및 영상 기반의 상권 분석 시스템 및 방법 | |
US20190279233A1 (en) | Real-World Analytics Monitor | |
KR20230044382A (ko) | 안면 인식 및 IoT 기반 애드큐레이션 사이니지 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |