CN115997093A - 食品管理***和冷藏库 - Google Patents

食品管理***和冷藏库 Download PDF

Info

Publication number
CN115997093A
CN115997093A CN202180054004.6A CN202180054004A CN115997093A CN 115997093 A CN115997093 A CN 115997093A CN 202180054004 A CN202180054004 A CN 202180054004A CN 115997093 A CN115997093 A CN 115997093A
Authority
CN
China
Prior art keywords
food
refrigerator
camera
information
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180054004.6A
Other languages
English (en)
Inventor
堀井慎一
Z·拉法伊
松井岩徹
假屋崎拓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of CN115997093A publication Critical patent/CN115997093A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D29/00Arrangement or mounting of control or safety devices
    • F25D29/005Mounting of control devices
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D29/00Arrangement or mounting of control or safety devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D2500/00Problems to be solved
    • F25D2500/06Stock management
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D2600/00Control issues
    • F25D2600/06Controlling according to a predetermined profile
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D2700/00Means for sensing or measuring; Sensors therefor
    • F25D2700/02Sensors detecting door opening
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F25REFRIGERATION OR COOLING; COMBINED HEATING AND REFRIGERATION SYSTEMS; HEAT PUMP SYSTEMS; MANUFACTURE OR STORAGE OF ICE; LIQUEFACTION SOLIDIFICATION OF GASES
    • F25DREFRIGERATORS; COLD ROOMS; ICE-BOXES; COOLING OR FREEZING APPARATUS NOT OTHERWISE PROVIDED FOR
    • F25D2700/00Means for sensing or measuring; Sensors therefor
    • F25D2700/06Sensors detecting the presence of a product

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Thermal Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Combustion & Propulsion (AREA)
  • Evolutionary Computation (AREA)
  • Economics (AREA)
  • Quality & Reliability (AREA)
  • Finance (AREA)
  • Operations Research (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Accounting & Taxation (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Cold Air Circulating Systems And Constructional Details In Refrigerators (AREA)

Abstract

本公开提供能够高精度地检测收纳于冷藏库(1)的食品的食品管理***(1000)。食品管理***(1000)管理收纳于冷藏库(1)的食品,该食品管理***(1000)包括:冷藏室用摄像机(21),其设置于冷藏库(1)的上部,拍摄包含冷藏库(1)的冷藏室(11)的开口部的拍摄范围;抽屉用摄像机(22),其设置于冷藏库(1)的上部,拍摄包含从冷藏室(11)以外的收纳室拉出的抽屉的拍摄范围;食品检测部,其基于冷藏室用摄像机(21)和抽屉用摄像机(22)中的至少任一个的拍摄结果,检测进出冷藏库(1)的食品。

Description

食品管理***和冷藏库
技术领域
本公开涉及食品管理***和冷藏库。
背景技术
专利文献1公开通过设置于冷藏室的上部的摄像机检测进出冷藏室的食品的库存管理***。
现有技术文献
专利文献
专利文献1:日本特开2018-146177号公报
发明内容
发明要解决的课题
本公开提供能够高精度地检测收纳于冷藏库的食品的食品管理***和冷藏库。
用于解决课题的方法
本公开提供一种食品管理***,其管理收纳于冷藏库的食品,所述食品管理***包括:第1摄像机,其设置于所述冷藏库的上部,拍摄包含所述冷藏库的冷藏室的开口部的拍摄范围;第2摄像机,其设置于所述冷藏库的上部,拍摄包含从所述冷藏室以外的收纳室拉出的抽屉的拍摄范围;和食品检测部,其基于所述第1摄像机和所述第2摄像机中的至少任一个的拍摄结果,检测进出所述冷藏库的食品。
本公开提供一种冷藏库,其能够收纳食品,所述食品管理***包括:第1摄像机,其设置于所述冷藏库的上部,拍摄包含所述冷藏库的冷藏室的开口部的拍摄范围;第2摄像机,其设置于所述冷藏库的上部,拍摄包含从所述冷藏室以外的收纳室拉出的抽屉的拍摄范围;和食品检测部,其基于所述第1摄像机和所述第2摄像机中的至少任一个的拍摄结果,检测进出所述冷藏库的食品。
此外,在该说明书中包含2020年9月3日申请的日本专利申请/特愿2020-148479号的全部内容。
发明效果
本公开的食品管理***和冷藏库除进出冷藏室的食品之外,还能够根据拍摄结果检测进出由抽屉收纳食品的收纳室的食品,所以能够高精度地检测进出冷藏库的食品。
附图说明
图1是表示食品管理***的结构的图。
图2是从前方侧观察冷藏库的图。
图3是从右侧方侧观察冷藏库的图。
图4是表示冷藏库的结构的框图。
图5是表示终端装置和食品管理服务器的结构的框图。
图6是表示食品管理数据库的一例的图。
图7是表示冷藏库的动作的流程图。
图8是表示冷藏库和食品管理服务器的动作的流程图。
图9是表示食品管理画面的一例的图。
图10是表示终端装置和食品管理服务器的动作的流程图。
具体实施方式
(成为本发明的基础的见解等)
一般而言,在冷藏库中,不仅是冷藏室,也在蔬菜室或冷冻室等具有抽屉的收纳室中收纳食品。因此,为了高精度地检测收纳于冷藏库的食品,除冷藏室之外,还考虑具有抽屉的收纳室,期望进出库的食品的检测。
因此,本公开提供能够高精度地检测收纳于冷藏库的食品的食品管理***和冷藏库。
下面,参照附图详细地说明实施方式。但是,有时省略必要以上的详细说明。例如,有时省略关于已知事项的详细说明或者实质上相同结构的重复说明。
此外,附图和以下的说明是为了便于本领域技术人员充分理解本发明而提供的,并非用于限定本发明的范围。
[1.结构]
图1是表示食品管理***1000的结构的图。
食品管理***1000是对冷藏库1收纳的食品管理剩余量、或开始保存的保存开始日期、保质期或消费期限的到期日期等的***。
食品管理***1000包括冷藏库1。冷藏库1与设置于用户P的自家H的通信装置5进行通信连接,经由通信装置5与食品管理服务器4进行通信。
冷藏库1包括前表面开口的主箱体10。在主箱体10中形成有冷藏室11、制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15。在冷藏室11的前表面的开口部设置有旋转式的左门11A和右门11B。在制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15中分别设置有收纳食品的抽屉12A、13A、14A、15A。
在以下的说明中,在不区别左门11A和右门11B的情况下,称为“门”,标注“11C”的附图标记来总称。另外,在以下的说明中,在不区别抽屉12A、13A、14A、15A的情况下,称为“抽屉”,标注“16A”的附图标记来总称。
冷藏库1包括摄像机模块2。
在此,参照图2和图3对冷藏库1所具有的摄像机模块2的结构进行说明。
图2是从前方侧观察冷藏库1的图。图2所示的冷藏库1的左门11A和右门11B为打开状态。图3是从右侧观察冷藏库1的图。图3所示的冷藏库1的抽屉15A为打开状态。此外,抽屉16A从对应的收纳室拉出的状态为打开状态,收纳于对应的收纳室的状态为关闭状态。
在图2和图3中,图示出X轴、Y轴和Z轴。X轴、Y轴和Z轴相互正交。Z轴表示上下方向。X轴和Y轴与水平方向平行。X轴表示左右方向。Y轴表示前后方向。X轴的正方向表示右方向。Y轴的正方向表示前方向。Z轴的正方向表示上方向。
摄像机模块2具有冷藏室用摄像机21和抽屉用摄像机22。作为冷藏库1的上部,设置于主箱体10的上表面。
此外,冷藏室用摄像机21与“第1摄像机”的一例对应。另外,抽屉用摄像机22与“第2摄像机”的一例对应。
冷藏室用摄像机21是用于检测进出冷藏室11的食品的摄像机。
冷藏室用摄像机21的拍摄范围是能够从冷藏室11的前上方拍摄进出冷藏室11的食品的范围,包含冷藏室11的开口部10A。
例如,冷藏室用摄像机21的拍摄范围主视时包含图2所示的范围A1。范围A1是在左门11A和右门11B处于打开状态下包含设置于左门11A的门搁架11A1、11A2、11A3、11A4、设置于右门11B的门搁架11B1、11B2、11B3、11B4、和冷藏室11的开口部10A的范围。另外,冷藏室用摄像机21的拍摄范围侧视时包含图3所示的范围A3。范围A3是在前后方向上包含从打开状态的门11C至搁板111、112、113、114的前方端部的范围,且是在上下方向上包含冷藏室11的开口部10A的范围。此外,搁板111、112、113、114是设置在冷藏室11内且将冷藏室11划分为多个区的部件。
抽屉用摄像机22是用于检测进出制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15的食品的摄像机。
抽屉用摄像机22的拍摄范围是能够从冷藏室11的前上方拍摄进出制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15中的每一个的食品的范围,包含拉出的状态的抽屉16A。
例如,抽屉用摄像机22的拍摄范围主视时包含图2所示的范围A2。范围A2是在冷藏库1的主视时包含抽屉12A、13A、14A、15A的范围。另外,抽屉用摄像机22的拍摄范围侧视时包含图3所示的范围A4。范围A4是在前后方向上包含拉出的状态的抽屉12A、13A、14A、15A的范围。
此外,在图2中图示为,在冷藏库1的上部,抽屉用摄像机22和冷藏室用摄像机21沿左右方向依次并排设置。然而,其为用于对摄像机模块2包括的摄像机进行说明的方便的图示,也可以不像图2那样设置。
另外,在图3中图示为,在冷藏库1的上部,抽屉用摄像机22和冷藏室用摄像机21沿前后方向依次并排设置。然而,其为用于对摄像机模块2包括的摄像机进行说明的方便的图示,也可以不像图3那样设置。
回到图1的说明,食品管理***1000包括具有触摸面板32的终端装置3。终端装置3例如由智能手机或平板终端构成。终端装置3安装有用于管理收纳于冷藏库1的食品的应用程序,通过该应用的功能与食品管理服务器4进行通信。
在以下的说明中,将用于管理收纳于冷藏库1的食品的应用程序称为“食品管理用应用”,并标注“323”的附图标记。
在图1中,由实线表示在家的用户P,由虚线表示从自家H外出的用户P。终端装置3在用于在家的用户P的情况下,通过食品管理用应用323的功能,经由通信装置5、或者不经由通信装置5,和与全球网络GN连接的食品管理服务器4进行通信。另外,终端装置3在用于从自家H外出的用户P的情况下,通过食品管理用应用323的功能,不经由通信装置5而与食品管理服务器4进行通信。
通信装置5与包含因特网、电话网、其它通信网的全球网络GN连接,和与全球网络GN连接的食品管理服务器4进行通信。通信装置5是用于将终端装置3与全球网络GN连接的接口装置。通信装置5具有调制解调器的功能、或路由功能、NAT(Network AddressTranslation,网络地址转换)功能等功能。通信装置5传送在终端装置3和与全球网络GN连接的食品管理服务器4之间收发的数据。
食品管理***1000包括食品管理服务器4。食品管理服务器4是管理收纳于冷藏库1的食品的服务器装置,与全球网络GN连接。此外,在各图中,由一个框表现食品管理服务器4,但其不一定意味食品管理服务器4由单一的服务器装置构成。例如,食品管理服务器4也可以包含处理内容不同的多个服务器装置而构成。
接着,对冷藏库1、终端装置3和食品管理服务器4的结构进行说明。
图4是表示冷藏库1的结构的框图。
冷藏库1包括冷藏库控制部100、冷藏库通信部101、拍摄部102、传感器部103和冷却部104。
包括冷藏库控制部100、CPU或MPU等执行程序的处理器即冷藏库处理器110、和冷藏库存储部120,控制冷藏库1的各部。冷藏库控制部100以冷藏库处理器110读出存储于冷藏库存储部120的控制程序121并执行处理的方式,通过硬件和软件的协作来执行各种处理。冷藏库控制部100通过读出并执行控制程序121,作为检测值处理部100A、拍摄控制部100B、动态图像处理部100C和食品检测部100D发挥作用。
冷藏库存储部120具有存储冷藏库处理器110执行的程序或被冷藏库处理器110处理的数据的存储区域。冷藏库存储部120存储冷藏库处理器110执行的控制程序121、与冷藏库1的设定相关的设定数据122、冷藏库ID123、其它各种数据。关于冷藏库ID123在后面叙述。冷藏库存储部120具有非易失性的存储区域。另外,冷藏库存储部120也可以包括易失性的存储区域,构成冷藏库处理器110的工作区域。
冷藏库通信部101包括符合规定的通信标准的通信硬件,通过冷藏库控制部100的控制,按照规定的通信标准和与全球网络GN连接的设备进行通信。在本实施方式中,冷藏库通信部101按照规定的通信标准,与食品管理服务器4进行通信。冷藏库通信部101使用的通信标准可以是无线通信标准(例如IEEE802.11a/11b/11g/11n/11ac,Bluetooth(注册商标)),也可以是有线通信标准。
拍摄部102包括摄像机模块2。拍摄部102向冷藏库控制部100输出冷藏室用摄像机21和抽屉用摄像机22各自的拍摄结果。在本实施方式中,冷藏室用摄像机21和抽屉用摄像机22拍摄动态图像。因此,拍摄部102向冷藏库控制部100输出动态图像的数据作为拍摄结果。
传感器部103包括各种传感器,针对每个传感器向冷藏库控制部100输出传感器的检测值。传感器部103包括左门开闭传感器1031、右门开闭传感器1032、制冰室开闭传感器1033、新鲜冻结室开闭传感器1034、冷冻室开闭传感器1035、蔬菜室开闭传感器1036、照度传感器1037和人体感测传感器1038。
在以下的说明中,在不区别左门开闭传感器1031、右门开闭传感器1032、制冰室开闭传感器1033、新鲜冻结室开闭传感器1034、冷冻室开闭传感器1035和蔬菜室开闭传感器1036而进行总称的情况下,称为“开闭传感器”并标注“1039”的附图标记。此外,开闭传感器1039的检测形式采用测距式或接触式等任意的形式。
左门开闭传感器1031设置于冷藏室11的规定的位置,检测左门11A的开闭状态。
右门开闭传感器1032设置于冷藏室11的规定的位置,检测右门11B的开闭状态。
制冰室开闭传感器1033设置于制冰室12的规定的位置,检测抽屉12A的开闭状态。
新鲜冻结室开闭传感器1034设置于新鲜冻结室13的规定的位置,检测抽屉13A的开闭状态。
冷冻室开闭传感器1035设置于冷冻室14的规定的位置,检测抽屉14A的开闭状态。
蔬菜室开闭传感器1036设置于蔬菜室15的规定的位置,检测抽屉15A的开闭状态。
照度传感器1037检测配置冷藏库1的场所的照度。照度传感器1037例如设置于摄像机模块2的前表面或侧面、冷藏库1的前表面。
人体感测传感器1038检测存在于冷藏库1周围的人。在本实施方式中,人体感测传感器1038例如设置于冷藏库1的前表面,在冷藏库1周围检测存在于冷藏库1的前方的人。
冷却部104包括压缩机1041、或冷凝器1042、毛细管1043、冷却器1044、将冷却器1044生成的冷气输送至各收纳室的冷却风扇1045、和对由冷却风扇1045输送的冷气进行分流的风门1046等冷却冷藏库1的各收纳室的机构,按照冷藏库控制部100的控制,冷却冷藏库1的各收纳室。
如上所述,冷藏库控制部100作为检测值处理部100A、拍摄控制部100B、动态图像处理部100C和食品检测部100D发挥作用。
检测值处理部100A基于从传感器部103输出的开闭传感器1039的各个检测值,对左门11A、右门11B、抽屉12A、13A、14A、15A分别判定是打开状态还是关闭状态。例如,检测值处理部100A基于检测值是否低于规定的阈值,判定是打开状态还是关闭状态。此外,该规定的阈值也可以针对左门11A、右门11B、抽屉12A、13A、14A、15A而不同。检测值处理部100A在判定为任一个是打开状态的情况下,向拍摄控制部100B和动态图像处理部100C输出表示是打开状态的开闭状态信息。另外,检测值处理部100A在判定为左门11A、右门11B、抽屉12A、13A、14A、15A均为关闭状态的情况下,向拍摄控制部100B和动态图像处理部100C输出表示是关闭状态的开闭状态信息。
另外,检测值处理部100A基于从传感器部103输出的照度传感器1037和人体感测传感器1038的检测值,判定在冷藏库1周围是否存在人。例如,检测值处理部100A基于检测值是否低于规定的阈值,判定在冷藏库1周围是否存在人。检测值处理部100A在判定为在冷藏库1周围存在人的情况下,向拍摄控制部100B输出表示存在人的人存在有无信息。另外,检测值处理部100A在判定为在冷藏库1周围不存在人的情况下,向拍摄控制部100B输出表示不存在人的人存在有无信息。
拍摄控制部100B控制拍摄部102,使冷藏室用摄像机21和抽屉用摄像机22拍摄动态图像。参照图7对拍摄控制部100B的详情进行说明。
动态图像处理部100C对冷藏室用摄像机21和抽屉用摄像机22的拍摄结果进行各种处理,将实施了处理的拍摄结果存储于冷藏库存储部120。参照图7对动态图像处理部100C的详情进行说明。
食品检测部100D基于冷藏室用摄像机21和抽屉用摄像机22的拍摄结果,检测进出冷藏库1的食品。参照图8对食品检测部100D的详情进行说明。
图5是表示终端装置3和食品管理服务器4的结构的框图。
首先,对食品管理服务器4的结构进行说明。
食品管理服务器4包括服务器控制部40和服务器通信部41。
服务器控制部40包括CPU或MPU等执行程序的处理器即服务器处理器410和服务器存储部420,控制食品管理服务器4的各部。服务器控制部40以服务器处理器410读出存储于服务器存储部420的控制程序421并执行处理的方式,通过硬件和软件的协作来执行各种处理。服务器控制部40通过读出并执行控制程序421,作为食品识别部4100发挥作用。
服务器存储部420具有存储服务器处理器410执行的程序或由服务器处理器410处理的数据的存储区域。服务器存储部420存储服务器处理器410执行的控制程序421、与食品管理服务器4的设定相关的设定数据422、食品管理数据库423、其它各种数据。服务器存储部420具有非易失性的存储区域。另外,服务器存储部420也可以包括易失性的存储区域,构成服务器处理器410的工作区域。
图6是表示食品管理数据库423的一例的图。
食品管理数据库423是保存冷藏库1收纳的食品的各种信息的数据库。
食品管理数据库423存储的一条记录R具有用户ID4231、冷藏库ID123、食品名信息4232、剩余量信息4233、保存部位信息4234、保存开始日期信息4235、到期日期信息4236、到期日期通知时刻信息4237、新通知时刻信息4238、和食品图像数据4239。
此外,食品管理数据库423保存的一条记录R还可以具有一个或多个其它类型的信息。
用户ID4231是识别利用食品管理用应用323的用户P的识别信息,被适当地分配给利用食品管理用应用323的用户P。
冷藏库ID123是用于识别冷藏库1的识别信息。冷藏库ID123是例如冷藏库1的制造编号或冷藏库1的序列号等。
食品名信息4232是表示食品的名称的信息。在一条记录R中,一个或多个食品名信息4232与用户ID4231相关联。
剩余量信息4233是表示食品的剩余量的信息。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的剩余量信息4233相关联。图6的剩余量信息4233所示的食品的剩余量以与食品的名称对应的单位表示。剩余量信息4233所示的剩余量由服务器控制部40适当地更新。
保存部位信息4234是表示食品的保存部位的信息。在本实施方式中,保存部位信息4234示出冷藏库1具有的收纳室中的任一个作为保存部位。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的保存部位信息4234相关联。
保存开始日期信息4235是表示食品的保存开始日期的信息。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的保存开始日期信息4235相关联。
到期日期信息4236是表示食品的保质期或消费期限的到期日期的信息。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的到期日期信息4236相关联。
到期日期通知时刻信息4237是表示向用户P通知相关联的到期日期信息4236所示的到期日期的时刻的信息。如图6所示,到期日期通知时刻信息4237所示的时刻是从到期日期信息4236所示的到期日期起几天前的时刻。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的到期日期通知时刻信息4237相关联。
新通知时刻信息4238是表示新通知食品收纳在冷藏库1中的时刻的信息。如图6所示,新通知时刻信息4238所示的时刻是从保存开始日期信息4235所示的保存开始日期起几天内的时刻。
食品图像数据4239是食品的图像即食品图像FG的图像数据。在一条记录R中,与用户ID4231相关联的食品名信息4232和相同数量的食品图像数据4239相关联。
回到图5的说明,服务器通信部41包括符合规定的通信标准的通信电路或连接器等通信硬件,通过服务器控制部40的控制,按照规定的通信标准和与全球网络GN连接的设备进行通信。在本实施方式中,服务器通信部41与冷藏库1和终端装置3进行通信。
如上所述,服务器控制部40作为食品识别部4100发挥作用。
食品识别部4100识别食品检测部100D检测到的食品。参照图8对食品识别部4100的详情进行说明。
接着,对终端装置3的功能性结构进行说明。
终端装置3包括终端控制部30、终端通信部31和触摸面板32。
终端控制部30包括CPU或MPU等执行程序的处理器即终端处理器310、和终端存储部320,控制终端装置3的各部。终端控制部30以终端处理器310读出存储于终端存储部320的控制程序321并执行处理的方式,通过硬件和软件的协作来执行各种处理。在终端装置3上预先安装食品管理用应用323。食品管理用应用323是通过由终端处理器310从终端存储部320读出并执行,使终端控制部30作为应用执行部3100发挥作用的程序。
终端存储部320是存储终端处理器310执行的程序或由终端处理器310处理的数据的存储区域。终端存储部320存储终端处理器310执行的控制程序321、与终端装置3的设定相关的设定数据322、食品管理用应用323、用户ID4231、其它各种数据。终端存储部320具有非易失性的存储区域。另外,终端存储部320也可以包括易失性的存储区域,构成终端处理器310的工作区域。
终端通信部31包括符合规定的通信标准的通信电路等通信硬件,通过终端控制部30的控制,按照规定的通信标准和与全球网络GN连接的设备进行通信。在本实施方式中,终端通信部31根据应用执行部3100的控制,按照规定的通信标准与食品管理服务器4进行通信。在本实施方式中,终端通信部31使用的通信标准例示出无线通信标准,但也可以是有线通信标准。
触摸面板32包括液晶显示面板等显示面板和与显示面板重叠、或者一体设置的触摸传感器。显示面板通过终端控制部30的控制,显示各种图像。触摸传感器检测触摸操作,并将其向终端控制部30输出。终端控制部30基于来自触摸传感器的输入,执行与触摸操作对应的处理。
如上所述,终端控制部30作为应用执行部3100发挥作用。
应用执行部3100控制终端通信部31,与食品管理服务器4收发各种信息。应用执行部3100在终端装置3和通信装置5能够进行通信连接的情况下,经由通信装置5与食品管理服务器4收发各种信息,在除此以外的情况下,不经由通信装置5而与食品管理服务器4收发各种信息。因此,即使用户P不位于自家H内或者自家H的周边,终端装置3也能够通过食品管理用应用323的功能与食品管理服务器4收发各种信息。
另外,应用执行部3100在触摸面板32上显示与收纳于冷藏库1的食品的管理相关的用户界面。在以下的说明中,将该用户界面称为“食品管理用UI”,并标注“3200”的附图标记。应用执行部3100通过在触摸面板32上显示食品管理用UI3200,向用户P提供与收纳于冷藏库1的食品相关的各种信息,另外,从用户P接收与收纳于冷藏库1的食品相关的各种输入。
[2.动作]
接着,对食品管理***1000的各部的动作进行说明。
首先,对与食品的管理相关的食品管理***1000的各部的动作进行说明。
图7是表示冷藏库1的动作的流程图。
在图7所示的动作中,传感器部103向冷藏库控制部100输出各种传感器的检测值。而且,在图7所示的动作中,检测值处理部100A基于从传感器部103接收到的各种检测值执行处理。
拍摄控制部100B判别在冷藏库1周围是否存在人(步骤SA1)。
拍摄控制部100B在从检测值处理部100A获取到表示存在人的人存在有无信息的情况下,在步骤SA1中判别为肯定,在从检测值处理部100A获取到表示不存在人的人存在有无信息的情况下,在步骤SA1中判别为否定。
拍摄控制部100B在判别为在冷藏库1周围存在人的情况下(步骤SA1:YES),开始冷藏室用摄像机21和抽屉用摄像机22进行的动态图像的拍摄(步骤SA3)。
另一方面,拍摄控制部100B在判别为在冷藏库1周围不存在人的情况下(步骤SA1:NO),判别左门11A、右门11B、抽屉12A、13A、14A、15A中的任一个是否为打开状态(步骤SA2)。
拍摄控制部100B在从检测值处理部100A获取到表示打开状态的开闭状态信息的情况下,在步骤SA2中判别为肯定,在从检测值处理部100A获取到表示关闭状态的开闭状态信息的情况下,在步骤SA2中判别为否定。
拍摄控制部100B在判别为左门11A、右门11B、抽屉12A、13A、14A、15A均不是打开状态的情况下(步骤SA2:NO),将处理返回步骤SA1,再次执行步骤SA1的处理。
拍摄控制部100B在判别为左门11A、右门11B、抽屉12A、13A、14A、15A中的任一个为打开状态的情况下(步骤SA2:YES),执行步骤SA3的处理。
如果在步骤SA3中开始拍摄,则动态图像处理部100C针对构成动态图像的每一帧执行步骤SA4-步骤SA8的处理。
如果通过冷藏室用摄像机21和抽屉用摄像机22开始拍摄,则动态图像处理部100C从检测值处理部100A获取开闭状态信息(步骤SA4)。
接着,动态图像处理部100C针对冷藏室用摄像机21和抽屉用摄像机22各自的拍摄结果,缩小1帧的拍摄图像(步骤SA5)。此处所说的缩小是指所谓调整大小。
动态图像处理部100C将缩小1帧的拍摄图像和在步骤SA4中获取的开闭状态信息相关联地存储于冷藏库存储部120(步骤SA6)。此外,动态图像处理部100C在每次进行步骤SA6时,以时间序列排列存储。
接着,拍摄控制部100B与步骤SA1同样地判别在冷藏库1周围是否存在人(步骤SA7)。
在拍摄控制部100B判别为在冷藏库1周围存在人的情况下(步骤SA7:YES),动态图像处理部100C再次执行步骤SA4以后的处理。
另一方面,拍摄控制部100B在判别为在冷藏库1周围不存在人的情况下(步骤SA7:NO),与步骤SA2同样地判别是否左门11A、右门11B、抽屉12A、13A、14A、15A均为关闭状态(步骤SA8)。
在拍摄控制部100B判别为左门11A、右门11B、和抽屉12A、13A、14A、15A都不是关闭状态的情况下(步骤SA8:NO),动态图像处理部100C再次执行步骤SA4以后的处理。
另一方面,拍摄控制部100B在判别为左门11A、右门11B、抽屉12A、13A、14A、15A均为关闭状态的情况下(步骤SA8:YES),结束冷藏室用摄像机21和抽屉用摄像机22进行的拍摄(步骤SA9)。
接着,对与基于冷藏室用摄像机21和抽屉用摄像机22的拍摄结果的食品的管理相关的动作进行说明。
图8是表示冷藏库1和食品管理服务器4的动作的流程图。在图8中,流程图FB表示冷藏库1的动作。另外,在图8中,流程图FC表示食品管理服务器4的动作。
冷藏库1的食品检测部100D判别在冷藏库存储部120中是否存储有作为冷藏室用摄像机21和抽屉用摄像机22的拍摄结果的动态图像(步骤SB1)。
食品检测部100D在判别为动态图像未存储于冷藏库存储部120的情况下(步骤SB1:NO),再次执行步骤SB1的处理。
另一方面,食品检测部100D在判别为动态图像存储于冷藏库存储部120的情况下(步骤SB1:YES),执行有效帧判定处理(步骤SB2)。
有效帧判定处理从构成存储于冷藏库存储部120的动态图像的帧判定有效帧,从动态图像提取被判定为有效帧的帧,另一方面,对未被确定为有效帧的帧进行从动态图像废弃的处理。有效帧是指映出有左门11A、右门11B、抽屉12A、13A、14A、15A中的至少任一个为打开状态时的像的帧。
在此,对有效帧判定处理中的有效帧的判定方法说明多个方法。
<第1方法>
第1方法是基于与帧相关联的开闭状态信息的判定。
食品检测部100D在有效帧的判定中,将表示打开状态的开闭状态信息相关联的帧判定为有效帧,将打开关闭状态的开闭状态信息相关联的帧判定为不是有效帧。
<第2方法>
第2方法是基于图像的差分提取的判定。
食品检测部100D通过进行构成动态图像的帧的差分提取,确定映出有左门11A、右门11B、抽屉12A、13A、14A、15A均为打开状态时的像的帧。而且,食品检测部100D将确定出的帧判定为有效帧,将确定出的帧以外的帧判定为不是有效帧。例如,食品检测部100D对关闭状态的帧进行差分提取,将在左门11A、右门11B、抽屉12A、13A、14A、15A中的任一个存在差分的帧判定为有效帧。此外,成为差分提取的基准的关闭状态的帧例如是构成动态图像的帧中最老的帧。
<第3方法>
第3方法是基于第1方法和第2方法的判定。
食品检测部100D将表示打开状态的开闭状态信息相关联的帧判定为有效帧。接着,食品检测部100D以表示关闭状态的开闭状态信息相关联的帧为对象,进行对于关闭状态的帧的差分提取,将在左门11A、右门11B、抽屉12A、13A、14A、15A中的任一个存在差分的帧判定为有效帧。
食品检测部100D如果执行有效帧判定处理,则从有效帧检测进出冷藏库1的食品(步骤SB3)。在步骤SB3的处理中,在从有效帧检测到食品的情况下,对于检测到的食品,也一并检测食品的种类和进出库的收纳室。此外,作为食品的种类,食品检测部100D以比食品名广义的分类进行检测。例如在实际进出库的食品为牛奶的情况下,食品检测部100D在步骤SB3中将食品的种类检测为“包装饮料”。
例如,食品检测部100D基于形状或颜色等特征量,从有效帧检测进出冷藏库1的食品。另外,例如,食品检测部100D基于形状或颜色等特征量,对检测到的食品的种类进行检测。另外,例如,食品检测部100D基于摄像机的种类或有效帧中映出的抽屉16A的像的尺寸等,对检测到的食品进出的收纳室进行检测。
在步骤SB3中,检测所需的数据存储于冷藏库控制部100可获取的存储区域。
食品检测部100D根据有效帧判别是否检测到进出冷藏库1的食品(步骤SB4)。
食品检测部100D在根据有效帧判别为没有检测到进出冷藏库1的食品的情况下(步骤SB4:NO),将处理返回步骤SB1,再次执行步骤SB1以后的处理。此外,在步骤SB4中从判别为否定到再次执行步骤SB1期间,食品检测部100D也可以进行有效帧的废弃。由此,能够防止没有检测到食品的不需要的动态图像继续存在于冷藏库存储部120。
另一方面,食品检测部100D在判别为检测到进出冷藏库1的食品的情况下(步骤SB4:YES),进行进出库判定处理(步骤SB5)。
进出库判定处理是判定步骤SB3检测到的食品是进入冷藏库1的食品还是出库的食品的处理。
例如,食品检测部100D在进出库判定处理中,基于有效帧判定在步骤SB3中检测到的食品的像的动态图像中的移动方向。在食品的像的移动方向为后方、即靠近冷藏库1的方向的情况下,食品检测部100D判定为检测到的食品是入库到冷藏库1的食品。另外,在食品的像的移动方向为前方、即远离冷藏库1的方向的情况下,食品检测部100D判定为检测到的食品是从冷藏库1出库的食品。
接着,食品检测部100D从有效帧截取检测到的食品的食品图像FG(步骤SB6)。
在以下的说明中,将截取的食品图像FG称为“截取食品图像”。
食品检测部100D利用冷藏库通信部101向食品管理服务器4发送向食品管理服务器4请求食品的管理的食品管理请求信息(步骤SB7)。
向食品管理服务器4发送的食品管理请求信息包含冷藏库存储部120存储的冷藏库ID123。
另外,向食品管理服务器4发送的食品管理请求信息包含表示进行动态图像的拍摄的日期时间的日期时间信息。
另外,向食品管理服务器4发送的食品管理请求信息针对在步骤SB3中检测到的每一个食品包含截取食品图像的图像数据、表示进出库判定处理的判定结果的进出库判定结果信息、表示检测到的入库地址或出库地址的保存部位信息4234、和表示检测到的食品的种类的食品种类信息。
参照流程图FC,食品管理服务器4的服务器控制部40的食品识别部4100通过服务器通信部41判别是否接收到食品管理请求信息(步骤SC1)。
食品识别部4100在判别为未接收到食品管理请求信息的情况下(步骤SC1:NO),再次执行步骤SC1的处理。
另一方面,食品识别部4100在判别为接收到食品管理请求信息的情况下(步骤SC1:YES),基于食品管理请求信息中所含的图像数据所示的截取食品图像,进行食品识别处理(步骤SC2)。
本实施方式的食品识别处理是从截取食品图像识别食品,并针对识别出的食品从食品信息数据库获取食品图像FG和食品名信息4232的处理。
食品信息数据库是保存与食品相关的信息的数据库,例如,按每个食品保存食品图像FG的图像数据和食品名信息4232。食品信息数据库可以存储于食品管理服务器4,也可以存储于食品管理服务器4能够进行通信的设备。
例如,食品的识别如下进行。
食品识别部4100从保存于食品信息数据库的食品图像FG确定与截取食品图像的一致度最高的食品图像FG。一致度例如基于形状或颜色等特征量通过规定的算法计算。而且,食品识别部4100识别为确定出的食品图像FG所示的食品是截取食品图像所示的食品。
此外,食品识别部4100也可以通过AI(Artificial Intelligence,人工智能)进行食品的识别。例如进行从教师用的食品图像FG学习食品的颜色或形状等特征量的机器学习处理,构建已学习模型。该已学习模型存储于服务器存储部420。食品识别部4100将食品管理请求信息中所含的食品图像FG作为输入数据,参照已学习模型,识别该食品图像FG所示的食品。在此,该已学习模型存储于与全球网络GN连接的食品管理服务器4以外的设备,也可以是在食品管理服务器4中识别食品的结构。在该结构的情况下,食品识别部4100向存储已学习模型的设备发送食品管理请求信息中所含的食品图像,并从该设备获取食品的确定结果。而且,食品识别部4100将获取的确定结果所示的食品识别为截取食品图像所示的食品。
食品识别部4100如果进行食品的识别,则针对识别出的食品从食品信息数据库获取食品图像FG和食品名信息4232。
接着,食品识别部4100如果进行食品识别处理,则基于食品识别处理的处理结果更新食品管理数据库423(步骤SC3)。
在此,对步骤SC3进行详述。
首先,食品识别部4100从食品管理数据库423确定具有管理请求信息中所含的冷藏库ID123的记录R。
接着,食品识别部4100基于接收到的食品管理请求信息中所含的进出库判定结果信息,判定识别出的食品是进入冷藏库1的食品还是从冷藏库1出库的食品。
食品识别部4100在判定为识别出的食品是从冷藏库1出库的食品的情况下,在确定出的记录R中,更新与识别出的食品的食品名信息4232相关联的信息。
更具体而言,食品识别部4100进行减少剩余量信息4233所示的剩余量的处理。减少的数量例如在进行食品识别处理时基于食品管理请求信息中所含的食品图像FG来计算。在此,在更新后的剩余量信息4233示出零的情况下,食品识别部4100也可以将保存开始日期信息4235所示的保存开始日期和到期日期信息4236所示的到期日期设为空白。
食品识别部4100在判定为识别出的食品是进入冷藏库1的食品的情况下,对于过去入库过的食品,在确定出的记录R中,更新与识别出的食品的食品名信息4232相关联的信息。
更具体而言,食品识别部4100进行增加剩余量信息4233所示的剩余量的处理。增加的数量例如在进行食品识别处理时基于食品管理请求信息中所含的截取食品图像来计算。另外,食品识别部4100进行使食品管理请求信息中所含的日期时间信息所示的年月日成为保存开始日期信息4235所示的保存开始日期的处理。另外,食品识别部4100进行如下处理:通过运算或查询等规定的方法,获取基于食品管理请求信息中所含的日期时间信息所示的年月日的到期日期,并将到期日期信息4236所示的到期日期变更为获取的到期日期。
另外,食品识别部4100在判定为识别出的食品是进入冷藏库1的食品的情况下,对于过去未入库过的食品,将新的各种信息与确定出的记录R的用户ID4231相关联。
在与确定出的记录R的用户ID4231相关联的各种信息中包含食品名信息4232、剩余量信息4233、保存部位信息4234、保存开始日期信息4235、到期日期信息4236、到期日期通知时刻信息4237、新通知时刻信息4238和食品图像数据4239。
在此,食品名信息4232是在进行食品识别处理时获取的食品名信息4232。
另外,剩余量信息4233例如表示在进行食品识别处理时基于食品管理请求信息中所含的截取食品图像而计算出的剩余量。
另外,保存部位信息4234是食品管理请求信息中所含的保存部位信息4234。
另外,保存开始日期信息4235表示食品管理请求信息中所含的日期时间信息所示的年月日。
另外,到期日期信息4236表示基于食品管理请求信息中所含的日期时间信息所示的年月日的到期日期或者空白。
另外,到期日期通知时刻信息4237和新通知时刻信息4238表示默认的时刻或者空白。
另外,食品图像数据4239表示在进行食品识别处理时获取的食品图像FG。
由此,在食品管理***1000中,冷藏库1从拍摄结果的动态图像判定有效帧,从有效帧检测食品,并将检测到的食品的食品图像FG从有效帧截取。而且,在食品管理***1000中,食品管理服务器4从截取食品图像进行食品的识别。通过这样的作用分配,抑制冷藏库1向食品管理服务器4发送的数据量,同时能够在食品管理服务器4中进行食品的识别。因此,在食品管理***1000中,能够抑制通信量的增大,同时识别进出冷藏库1的食品。
接着,对应用执行部3100在食品管理用UI3200中显示食品管理画面SKG时的食品管理***1000的动作进行说明。食品管理画面SKG是与收纳于冷藏库1的食品的管理相关的画面。
首先,在动作的说明之前,对食品管理画面SKG进行说明。
图9是表示食品管理画面SKG的一例的图。
食品管理画面SKG按每个食品包含与食品相关的对象OB。图9所示的食品管理画面SKG包含与牛奶相关的对象OB1、与啤酒相关的对象OB2和与鸡蛋相关的对象OB3。
一个对象OB包含食品图像FG、剩余量信息4233和保存开始日期信息4235。另外,在食品的到期日期符合到期日期通知时刻信息4237所示的时刻的情况下,一个对象OB包含警告接近食品的到期日期的到期日期警告信息KJ。另外,在食品的保存开始日期符合新通知时刻信息4238所示的时刻的情况下,一个对象OB包含明示是新收纳的食品的新收纳明示信息MJ。
图9所示的对象OB1包含表示牛奶的食品图像FG1、表示牛奶的剩余量的剩余量信息4233、表示牛奶的保存开始日期的保存开始日期信息4235、和到期日期警告信息KJ。
另外,图9所示的对象OB2包含表示啤酒的食品图像FG2、表示啤酒的剩余量的剩余量信息4233、表示啤酒的保存开始日期的保存开始日期信息4235、和新收纳明示信息MJ。
另外,图9所示的对象OB3包含表示鸡蛋的食品图像FG3、表示鸡蛋的剩余量的剩余量信息4233、和表示鸡蛋的保存开始日期的保存开始日期信息4235。
食品管理画面SKG具有收纳室切换按钮B1。收纳室切换按钮B1是用于对冷藏库1的每个收纳室切换在食品管理画面SKG上显示的对象OB的种类的软件按钮。如果对收纳室切换按钮B1进行触摸操作,则在食品管理画面SKG中,一览显示冷藏库1的收纳室的名称。如果从一览中通过触摸操作选择一个收纳室,则在食品管理画面SKG中,显示关于表示所选择的收纳室的保存部位信息4234的对象OB。
食品管理画面SKG具有清除按钮B2。清除按钮B2是用于从食品管理画面SKG中的显示清除对象OB的软件按钮。在食品管理画面SKG中,在选择了一个或多个对象OB的状态下通过触摸操作选择清除按钮B2的情况下,所选择的对象OB成为非显示。另外,在食品管理数据库423中,在操作清除按钮B2时所选择的对象OB所示的与食品相关的各种信息被清除。
食品管理画面SKG具有更新按钮B3和表示最新的更新日期时间的更新日期时间信息J2。更新按钮B3是用于更新食品管理画面SKG显示的对象OB和对象OB具有的各种信息的软件按钮。如果对更新按钮B3进行触摸操作,则更新日期时间信息J2所示的更新日期时间变为进行了更新的最新的日期时间。
参照图10,对应用执行部3100在食品管理用UI3200中显示食品管理画面SKG时的食品管理***1000的动作进行说明。
图10是表示终端装置3和食品管理服务器4的动作的流程图。在图10中,流程图FD表示终端装置3的动作,流程图FE表示食品管理服务器4的动作。
终端装置3的应用执行部3100判别是否从食品管理服务器4请求记录R(步骤SD1)。
例如,应用执行部3100在食品管理用UI3200中接收到指示食品管理画面SKG的显示的触摸操作的情况下,在步骤SD1中判别为肯定。
另外,例如,应用执行部3100在食品管理画面SKG中对更新按钮B3进行了触摸操作的情况下,在步骤SD1中判别为肯定。
应用执行部3100在判别为请求记录R的情况下(步骤SD1:YES),通过终端通信部31向食品管理服务器4发送请求记录R的记录请求信息(步骤SD2)。在步骤SD2中发送的记录请求信息中包含终端存储部320存储的用户ID4231。
参照流程图FE,食品管理服务器4的服务器控制部40如果通过服务器通信部41接收记录请求信息(步骤SE1),则从食品管理数据库423确定包含接收到的记录请求信息中所含的用户ID4231的记录R(步骤SE2)。
而且,服务器控制部40向终端装置3发送由服务器通信部41确定的记录R(步骤SE3)。
参照流程图FD,终端装置3的应用执行部3100如果通过终端通信部31接收记录R(步骤SD3),则生成食品管理画面SKG(步骤SD4)。
在此,举出接收图6所示的记录R并生成图9所示的食品管理画面SKG的情况为例,对步骤SD4的处理进行详述。
应用执行部3100判别当前日期是否符合与表示牛奶的食品名信息4232相关联的到期日期通知时刻信息4237所示的时刻。在生成图9的对象OB1的情况下,应用执行部3100判别为肯定,生成到期日期警告信息KJ。此外,在判别为否定的情况下,不生成到期日期警告信息KJ。
接着,应用执行部3100判别与表示牛奶的食品名信息4232相关联的保存开始日期信息4235所示的保存开始日期是否符合与表示牛奶的食品名信息4232相关联的新通知时刻信息4238所示的时刻。在图9的对象OB的生成中,应用执行部3100判别为否定,不生成新收纳明示信息MJ。此外,在判别为肯定的情况下,应用执行部3100生成新收纳明示信息MJ。
应用执行部3100生成包含生成的到期日期警告信息KJ、与表示牛奶的食品名信息4232相关联的食品图像数据4239所示的食品图像FG、和与表示牛奶的食品名信息4232相关联的保存开始日期信息4235的对象OB1。
此外,应用执行部3100在未生成到期日期警告信息KJ的情况下,在对象OB1中不包含到期日期警告信息KJ,在生成新收纳明示信息MJ的情况下,在对象OB1中包含新收纳明示信息MJ。
应用执行部3100对于对象OB2、OB3也分别与对象OB1同样地生成,使生成的对象OB1、OB2、OB3包含在食品管理画面SKG中。
此外,应用执行部3100生成与洋葱相关的对象OB,但图9所示的食品管理画面SKG是显示收纳于冷藏室11的对象OB的画面,所以不将与洋葱相关的对象OB包含在图9所示的食品管理画面SKG中。与洋葱相关的对象OB包含在显示收纳于蔬菜室15的对象OB的食品管理画面SKG中。
回到图9所示的流程图FD的说明,应用执行部3100如果生成食品管理画面SKG,则在食品管理用UI3200中显示生成的食品管理画面SKG(步骤SD5)。
此外,在上述的食品管理画面SKG中,能够由用户P对每个食品修正显示的信息。可修正的信息是在食品管理数据库423中与用户ID4231相关联的各种信息。应用执行部3100在食品管理画面SKG中进行了信息的修正的情况下,向食品管理服务器4发送请求食品管理数据库423的更新的更新请求信息。而且,食品管理服务器4基于接收到的更新请求信息来更新食品管理数据库423。例如,在进行了啤酒的剩余量信息4233从3瓶变为2瓶的修正的情况下,应用执行部3100向食品管理服务器4发送将与啤酒的食品名信息4232相关联的剩余量信息4233更新为表示2瓶的剩余量的剩余量信息4233的更新请求信息。而且,食品管理服务器4将剩余量信息4233所示的剩余量从3瓶更新为2瓶。这样,因为能够由用户P修正信息,所以即使在存在冷藏库1中的食品的错误检测、和食品管理服务器4的食品的错误识别的情况下,食品管理***1000也可进行适当的食品的管理。此外,在食品识别部4100通过AI进行食品的识别的情况下,食品识别部4100也可以对由用户P修正的内容进行机器学习,将修正的内容反映在已学习模型中。
[3.效果等]
如上所述,食品管理***1000管理收纳于冷藏库1的食品。食品管理***1000包括:冷藏室用摄像机21,其设置于冷藏库1的上部,拍摄包含冷藏库1的冷藏室11的开口部10A的拍摄范围;抽屉用摄像机22,其设置于冷藏库1的上部,拍摄包含从冷藏室11以外的收纳室拉出的抽屉16A的拍摄范围;食品检测部100D,其基于冷藏室用摄像机21和抽屉用摄像机22中的至少任一个的拍摄结果,检测进出冷藏库1的食品。
冷藏库1包括:冷藏室用摄像机21,其设置于冷藏库1的上部,拍摄包含冷藏库1的冷藏室11的开口部10A的拍摄范围;抽屉用摄像机22,其设置于冷藏库1的上部,拍摄包含从冷藏室11以外的收纳室拉出的抽屉16A的拍摄范围;食品检测部100D,其基于冷藏室用摄像机21和抽屉用摄像机22中的至少任一个的拍摄结果,检测进出冷藏库1的食品。
根据食品管理***1000和冷藏库1,除进出冷藏室11的食品之外,还能够根据拍摄结果检测进出由抽屉16A收纳食品的收纳室的食品,所以能够高精度地检测进出冷藏库1的食品。另外,根据食品管理***1000,能够高精度地检测进出冷藏库1的食品,所以能够高精度地管理收纳于冷藏库1的食品。
另外,根据食品管理***1000和冷藏库1,通过利用2台摄像机拍摄不同的拍摄范围,与利用1台摄像机拍摄2台摄像机的拍摄范围的情况比较,能够缩窄每1台的拍摄范围。因此,能够抑制在每1台的拍摄结果中包含不必要的信息,所以食品管理***1000和冷藏库1能够减少来自拍摄结果的食品的检测中的处理负荷,并且能够更高精度地根据拍摄结果检测食品。
食品管理***1000包括识别食品检测部100D检测到的食品的食品识别部4100。
根据该结构,能够识别能够高精度地检测到的食品,所以能够根据实际进出冷藏库1的食品,识别进出冷藏库1的食品。
食品管理***1000包括具有冷藏室用摄像机21、抽屉用摄像机22和食品检测部100D的冷藏库1。
根据该结构,在冷藏库1中,因为可以进行进出冷藏库1的食品的检测,所以不需要包括例如检测食品的专用的设备,能够简化食品管理***1000的***结构。
冷藏库1具有检测门11C和抽屉16A的开闭的开闭传感器1039。冷藏室用摄像机21和抽屉用摄像机22在开闭传感器1039检测到打开状态的情况下开始拍摄,在开闭传感器1039检测到关闭状态的情况下结束拍摄。
根据该结构,能够将进出冷藏库1的食品高精度地包含在拍摄结果中,并且能够防止不必要的拍摄。由此,能够防止不必要的拍摄,并且更高精度地检测进出冷藏库1的食品。
冷藏室用摄像机21和抽屉用摄像机22拍摄动态图像。
根据该结构,与以静态图像进行拍摄的情况比较,能够不依赖于进出库的食品的速度或进出库的手的角度等,而将进出冷藏库1的食品高精度地包含于拍摄结果。因此,能够利用摄像机更高精度地检测进出冷藏库1的食品。
[4.其它实施方式]
如上,作为在本申请中公开的示例,对上述实施方式进行了说明。然而,本发明的技术不限于此,也能够应用于进行了变更、替换、附加、省略等的实施方式。另外,也能够将在上述实施方式中说明的各构成要素组合,设为新的实施方式。
因此,下面举例说明其他实施方式。
在上述的实施方式中,是抽屉用摄像机22的拍摄范围包含制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15的结构。然而,抽屉用摄像机22的拍摄范围不限于该范围,也可以设为将一个或多个任意的收纳室组合的范围。例如,抽屉用摄像机22的拍摄范围可以是仅包含冷冻室14和蔬菜室15的范围,也可以是仅包含蔬菜室15的范围。
例如,上述的实施方式是冷藏库1包括具有通过摄像机模块2、即冷藏室用摄像机21和抽屉用摄像机22进行拍摄的功能的部件的结构。然而,冷藏库1也可以是以不构成摄像机模块2这样的部件的方式包括冷藏室用摄像机21和抽屉用摄像机22的结构。
例如,在上述的实施方式中,冷藏库1是存储冷藏库ID123的结构,但冷藏库1也可以是取代冷藏库ID123而存储识别食品管理请求信息的发送源的识别信息的结构。在该结构的情况下,食品管理数据库423的一条记录R取代冷藏库ID123而具有识别食品管理请求信息的发送源的识别信息。
例如,在上述的实施方式中,是记录R保存于食品管理数据库423,食品管理服务器4进行冷藏库1检测的食品的管理的结构,但也可以是记录R存储于终端存储部320,食品管理用应用323管理与冷藏库1检测的食品相关的各种信息的结构。在该结构的情况下,应用执行部3100作为食品识别部4100发挥作用,进行食品的识别,另外,与上述的食品管理服务器4同样地适当更新存储于终端存储部320的记录R的内容。在该结构的情况下,食品管理***1000无需包括食品管理服务器4,***结构简易。
例如,形成于冷藏库1的主箱体10的房间的种类不限于冷藏室11、制冰室12、新鲜冻结室13、冷冻室14和蔬菜室15,可以少,也可以形成其它种类的房间。另外,设置于冷藏室11的前表面的开口部的门的数量也可以是一个。
例如,冷藏库控制部100、终端控制部30和服务器控制部40的功能也可以通过多个处理器或半导体芯片来实现。
图4和图5所示的各部为一例,具体安装方式没有特别限制。即,不一定需要安装与各部个别地对应的硬件,当然也能够设为通过一个处理器执行程序来实现各部的功能的结构。另外,可以将在上述的实施方式中由软件实现的功能的一部分设为由硬件实现,或者也可以将由硬件实现的功能的一部分由软件实现。此外,对于冷藏库1、终端装置3和食品管理服务器4的其它各部的具体细节结构,在不脱离本发明的主旨的范围内也能够任意变更。
另外,例如,图7、图8和图10所示的动作的步骤单位是为了使食品管理***1000的各部的动作容易理解而根据主要处理内容进行了分割,本发明不受处理单位的分割的方法或名称限制。也可以根据处理内容分割成更多的步骤单位。另外,也可以分割成一个步骤单位包含更多的处理。另外,该步骤的顺序在不妨碍本发明的主旨的范围内也可以适当地替换。
此外,上述的实施方式用于例示本发明的技术,所以能够在权利要求书或其均等的范围内进行各种变更、替换、附加、省略等。
产业上的可利用性
如上,本发明的食品管理***和冷藏库能够用于进出冷藏库的食品的检测的用途。
附图标记说明
1 冷藏库
11 冷藏室
11A 左门(门)
11B 右门(门)
11C 门
12A、13A、14A、15A、16A 抽屉
21 冷藏室用摄像机(第1摄像机)
22 抽屉用摄像机(第2摄像机)
100D 食品检测部
1000 食品管理***
1031 左门开闭传感器(开闭传感器)
1032 右门开闭传感器(开闭传感器)
1033 制冰室开闭传感器(开闭传感器)
1034 新鲜冻结室开闭传感器(开闭传感器)
1035 冷冻室开闭传感器(开闭传感器)
1036 蔬菜室开闭传感器(开闭传感器)
1039 开闭传感器
4100 食品识别部。

Claims (6)

1.一种食品管理***,管理收纳于冷藏库的食品,其特征在于,包括:
第1摄像机,其设置于所述冷藏库的上部,拍摄包含所述冷藏库的冷藏室的开口部的拍摄范围;
第2摄像机,其设置于所述冷藏库的上部,拍摄包含从所述冷藏室以外的收纳室拉出的抽屉的拍摄范围;和
食品检测部,其基于所述第1摄像机和所述第2摄像机中的至少任一个的拍摄结果,检测进出所述冷藏库的食品。
2.如权利要求1所述的食品管理***,其特征在于,包括:
识别所述食品检测部检测到的食品的食品识别部。
3.如权利要求1或2所述的食品管理***,其特征在于:
包括具有所述第1摄像机、所述第2摄像机和所述食品检测部的所述冷藏库。
4.如权利要求3所述的食品管理***,其特征在于:
所述冷藏库具有检测门和抽屉的开闭的开闭传感器,
所述第1摄像机和所述第2摄像机在所述开闭传感器检测到打开状态的情况下开始拍摄,在所述开闭传感器检测到关闭状态的情况下结束拍摄。
5.如权利要求1~4中任一项所述的食品管理***,其特征在于:
所述第1摄像机和所述第2摄像机拍摄动态图像。
6.一种冷藏库,能够收纳食品,其特征在于,包括:
第1摄像机,其设置于所述冷藏库的上部,拍摄包含所述冷藏库的冷藏室的开口部的拍摄范围;
第2摄像机,其设置于所述冷藏库的上部,拍摄包含从所述冷藏室以外的收纳室拉出的抽屉的拍摄范围;和
食品检测部,其基于所述第1摄像机和所述第2摄像机中的至少任一个的拍摄结果,检测进出所述冷藏库的食品。
CN202180054004.6A 2020-09-03 2021-07-26 食品管理***和冷藏库 Pending CN115997093A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020148479A JP7142225B2 (ja) 2020-09-03 2020-09-03 食品管理システム、及び冷蔵庫
JP2020-148479 2020-09-03
PCT/JP2021/027566 WO2022049920A1 (ja) 2020-09-03 2021-07-26 食品管理システム、及び冷蔵庫

Publications (1)

Publication Number Publication Date
CN115997093A true CN115997093A (zh) 2023-04-21

Family

ID=80491936

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180054004.6A Pending CN115997093A (zh) 2020-09-03 2021-07-26 食品管理***和冷藏库

Country Status (5)

Country Link
US (1) US20230324113A1 (zh)
EP (1) EP4209734A4 (zh)
JP (3) JP7142225B2 (zh)
CN (1) CN115997093A (zh)
WO (1) WO2022049920A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7211152B2 (ja) 2019-02-25 2023-01-24 日立金属株式会社 トランス装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001294308A (ja) 2000-04-10 2001-10-23 Matsushita Electric Ind Co Ltd 物品収納庫
JP2003042626A (ja) * 2001-07-26 2003-02-13 Toshiba Corp 冷蔵庫
CN105605881B (zh) * 2013-04-23 2020-01-21 Lg电子株式会社 冰箱及其控制方法
JP5918210B2 (ja) 2013-12-26 2016-05-18 ソフトバンク株式会社 管理システム及びプログラム
JP6550696B2 (ja) * 2014-07-18 2019-07-31 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 判定装置、および、判定方法
KR20170060713A (ko) * 2015-11-25 2017-06-02 롯데알미늄 주식회사 내부 투시가 가능한 냉장고
JP6877734B2 (ja) 2017-03-06 2021-05-26 株式会社ロボ・ガレージ 物品貯蔵庫の在庫管理装置
JP7211700B2 (ja) 2017-10-06 2023-01-24 東芝ライフスタイル株式会社 冷蔵庫、表示システム
JP7113281B2 (ja) 2017-12-20 2022-08-05 パナソニックIpマネジメント株式会社 冷蔵庫
JP2018124053A (ja) * 2018-02-20 2018-08-09 三菱電機株式会社 冷蔵庫
CN111102797A (zh) * 2018-10-25 2020-05-05 上海瀚强信息科技有限公司 一种基于人工智能的智慧冰箱
JP7263060B2 (ja) 2019-03-11 2023-04-24 株式会社日本マイクロニクス 電気的接続装置
CN113124633B (zh) * 2019-12-31 2022-04-01 海信集团有限公司 冰箱

Also Published As

Publication number Publication date
WO2022049920A1 (ja) 2022-03-10
JP2022162053A (ja) 2022-10-21
EP4209734A4 (en) 2024-02-14
JP2022042853A (ja) 2022-03-15
EP4209734A1 (en) 2023-07-12
JP7142225B2 (ja) 2022-09-27
JP2024088755A (ja) 2024-07-02
US20230324113A1 (en) 2023-10-12

Similar Documents

Publication Publication Date Title
CN116057337A (zh) 食品检测装置
KR20120117464A (ko) 냉장고 및 냉장고의 제어방법
JP2024088755A (ja) プログラム、端末装置、及び食品管理システム
US11335010B2 (en) Methods for viewing and tracking stored items
JP7281755B2 (ja) 冷蔵庫
WO2021057769A1 (zh) 用于查看并跟踪所储存的物品的方法
JP7340766B2 (ja) 冷蔵庫
US11288506B2 (en) Refrigerator appliances and methods for tracking stored items
CN116057336A (zh) 食品管理***
JP7475000B2 (ja) 入出庫管理装置、入出庫管理システム、及び、入出庫管理方法
JP7289083B2 (ja) 冷蔵庫
US11692767B2 (en) Refrigerator appliance and methods of user identification
JP7289084B2 (ja) 冷蔵庫
JP2023079899A (ja) プログラム、端末装置、およびレシピ表示システム
US20230316755A1 (en) Refrigerator appliance and methods for tracking stored items in a freezer chamber
WO2023095536A1 (ja) 検出装置、検出装置の制御方法、及びプログラム
US20230058922A1 (en) Appliance with collocated cameras
JP2024058085A (ja) 物品管理システム、物品管理システムの制御方法、物品管理装置、及びプログラム
JP2023099664A (ja) 冷蔵庫
CN114022947A (zh) 冰箱食材的管理方法、设备和冰箱

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination