CN113051421A - 油烟机、食材识别方法及烹饪辅助方法 - Google Patents

油烟机、食材识别方法及烹饪辅助方法 Download PDF

Info

Publication number
CN113051421A
CN113051421A CN201911388231.3A CN201911388231A CN113051421A CN 113051421 A CN113051421 A CN 113051421A CN 201911388231 A CN201911388231 A CN 201911388231A CN 113051421 A CN113051421 A CN 113051421A
Authority
CN
China
Prior art keywords
food material
food
image
sample set
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911388231.3A
Other languages
English (en)
Inventor
秦英哲
李美恒
赵亮
陈璐
王掞帷
刘诗琪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hisense Co Ltd
Hisense Guangdong Kitchen and Bath System Co Ltd
Original Assignee
Hisense Co Ltd
Hisense Guangdong Kitchen and Bath System Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hisense Co Ltd, Hisense Guangdong Kitchen and Bath System Co Ltd filed Critical Hisense Co Ltd
Priority to CN201911388231.3A priority Critical patent/CN113051421A/zh
Publication of CN113051421A publication Critical patent/CN113051421A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F24HEATING; RANGES; VENTILATING
    • F24CDOMESTIC STOVES OR RANGES ; DETAILS OF DOMESTIC STOVES OR RANGES, OF GENERAL APPLICATION
    • F24C15/00Details
    • F24C15/20Removing cooking fumes
    • F24C15/2021Arrangement or mounting of control or safety systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

本发明涉及厨房家电技术领域,公开了一种油烟机、食材识别方法及烹饪辅助方法,通过第一图像采集装置采集的食材图像,并根据食材图像确定所述食材图像对应的食材颜色,从预先建立的资料库中找出与其匹配的所有食材样本,得到第一食材样本集合,再根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与上述信息均匹配的所有食材样本,从而得到食材识别结果,通过不同条件来筛选符合条件的食材样本,有利于准确识别食材,具有较佳的食材识别效果,提高了识别效率。

Description

油烟机、食材识别方法及烹饪辅助方法
技术领域
本发明涉及油烟机技术领域,特别是涉及一种油烟机、食材识别方法及烹饪辅助方法。
背景技术
目前,油烟机是一种常用的厨房电器,其安装在灶具上方,用于将使用灶具过程中产生的油烟排出室外。目前,为了提高油烟机的智能化程度,人们通过在一些油烟机上设置摄像头来实现烹饪过程辅助等功能,比如通过摄像头识别食材种类,以便于提示用户如何烹饪等,但是,现有技术的食材识别效果较差。
发明内容
本发明实施例的目的是提供一种油烟机、食材识别方法及烹饪辅助方法,其能够获得较佳的食材识别效果。
为了解决上述技术问题,本发明实施例提供一种油烟机,包括第一图像采集装置和控制装置;
所述第一图像采集装置用于采集食材图像,并将所述食材图像发送至所述控制装置;
所述控制装置用于:
接收所述食材图像;
根据所述食材图像,确定所述食材图像的食材颜色;
从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
作为优选方案,所述控制装置用于根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,具体包括:
所述控制装置用于:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
作为优选方案,所述油烟机还包括第二图像采集装置,所述第二图像采集装置用于实时采集锅中食物图像,并将实时采集的锅中食物图像发送至所述控制装置;
则所述控制装置还用于:
根据所述食材识别结果,确定当前锅中食物种类;
根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
接收第二图像采集装置实时采集的锅中食物图像;
根据所述锅中食物图像,确定当前锅中食物的颜色值;
根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
根据所述当前锅中食物生熟程度,输出提示信息。
作为优选方案,所述油烟机还包括机壳,所述机壳上开设有第一窗口和第二窗口;
所述第一图像采集装置包括第一摄像头、第一透明保护层和第一防油保护罩,所述第一防油保护罩连接在所述机壳的内侧壁上,形成第一容纳腔;所述第一摄像头容置在所述第一容纳腔内;所述第一透明保护层安装在所述第一窗口上,所述第一摄像头与所述第一透明保护层正对设置;
所述第二图像采集装置包括第二摄像头、第二透明保护层和第二防油保护罩,所述第二防油保护罩连接在所述机壳的内侧壁上,形成第二容纳腔;所述第二摄像头容置在所述第二容纳腔内;所述第二透明保护层安装在所述第二窗口上,所述第二摄像头与所述第二透明保护层正对设置;
所述控制装置分别与所述第一摄像头和所述第二摄像头电连接。
作为优选方案,所述第一窗口开设于所述机壳的侧面,所述第二窗口开设于所述机壳的正面。
作为优选方案,所述第一图像采集装置还包括:
第一固定支架,所述第一固定支架容置在所述第一容纳腔内,所述第一固定支架包括第一连接部和第二连接部,所述第一摄像头的一端通过所述第一连接部连接在所述机壳的内侧壁上,所述第一摄像头的另一端通过所述第二连接部连接在所述机壳的内侧壁上;以及
第二固定支架,所述第二固定支架容置在所述第二容纳腔内,所述第二固定支架包括第三连接部和第四连接部,所述第二摄像头的一端通过所述第三连接部连接在所述机壳上,所述第二摄像头的另一端通过所述第四连接部连接在所述机壳上。
作为优选方案,所述油烟机还包括风机控制输出模块、语音输出模块、按键输入模块和照明灯,所述控制装置分别与所述风机控制输出模块、所述语音输出模块、所述按键输入模块和所述照明灯电连接。
为了解决相同的技术问题,本发明实施例还提供一种食材识别方法,包括:
接收第一图像采集装置采集的食材图像;
根据所述食材图像,确定所述食材图像的食材颜色;
从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
作为优选方案,所述根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,具体包括:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
作为优选方案,所述对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息,具体包括:
确定灰度化处理后的所述食材图像中的每个像素点的灰度值;
获取相邻两个所述像素点的灰度值之间的差值大于等于预设灰度差阈值的所有像素点,并相应生成线条图;
根据所述线条图,得到所述食材图像的食材形状信息。
作为优选方案,每一个所述食材样本还包括相应食材的食材种类;
则在所述从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果之后,还包括:
获取所述第四食材样本集合的食材样本的数量;
当所述第四食材样本集合中的食材样本的数量大于等于1时,输出所述第四食材样本集合中的所有食材样本的食材种类;
当所述第四食材样本集合中不存在食材样本时,输出识别失败结果。
为了解决相同的技术问题,本发明实施例还提供一种烹饪辅助方法,包括:
通过所述的食材识别方法获取食材识别结果;
根据所述食材识别结果,确定当前锅中食物种类;
根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
接收第二图像采集装置实时采集的锅中食物图像;
根据所述锅中食物图像,确定当前锅中食物的颜色值;
根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
根据所述当前锅中食物生熟程度,输出提示信息。
本发明实施例提供一种油烟机、食材识别方法及烹饪辅助方法,通过第一图像采集装置采集的食材图像,并根据食材图像确定所述食材图像对应的食材颜色,从预先建立的资料库中找出与其匹配的所有食材样本,得到第一食材样本集合,再根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与上述信息均匹配的所有食材样本,从而得到食材识别结果,通过不同条件来筛选符合条件的食材样本,有利于准确识别食材,具有较佳的食材识别效果;此外,先找出符合食材颜色的第一食材样本集合,再进一步对第一食材样本集合进行食材样本筛选,避免了重复匹配不符合条件的食材样本,提高了识别效率。
附图说明
图1是本发明提供的油烟机的一个实施例的结构示意图;
图2是图1的沿A-A方向的剖视图;
图3是图2在C处的局部放大图;
图4是图1的沿B-B方向的剖视图;
图5是图4在D处的局部放大图;
图6是本发明提供的油烟机的一个实施例的控制关系图;
图7是本发明提供的油烟机的另一个实施例的控制关系图;
图8是本发明提供的食材识别方法的一个实施例的流程示意图;
图9是本发明提供的烹饪辅助方法的一个实施例的流程示意图;
其中,1、机壳;2、第一图像采集装置;21、第一摄像头;22、第一透明保护层;23、第一防油保护罩;241、第一连接部;242、第二连接部;3、第二图像采集装置;31、第二摄像头;32、第二透明保护层;33、第二防油保护罩;341、第三连接部;342、第四连接部;4、控制装置;5、语音输出模块;6、按键输入模块;7、照明灯;8、风机控制输出模块。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
结合图1和图6所示,图1是本发明提供的油烟机的一个实施例的结构示意,图6是本发明提供的油烟机的一个实施例的控制关系图。
本发明优选实施例的油烟机包括第一图像采集装置2和控制装置4;
所述第一图像采集装置2用于采集食材图像,并将所述食材图像发送至所述控制装置;
所述控制装置4用于:
接收所述食材图像;
根据所述食材图像,确定所述食材图像的食材颜色;
从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
在本发明实施例中,通过第一图像采集装置2采集的食材图像,并根据食材图像确定所述食材图像对应的食材颜色,从预先建立的资料库中找出与其匹配的所有食材样本,得到第一食材样本集合,再根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与上述信息均匹配的所有食材样本,从而得到食材识别结果,通过不同条件来筛选符合条件的食材样本,有利于准确识别食材,具有较佳的食材识别效果;此外,先找出符合食材颜色的第一食材样本集合,再进一步对第一食材样本集合进行食材样本筛选,避免了重复匹配不符合条件的食材样本,提高了识别效率。
在一种可选的实施方式中,所述控制装置4用于根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,具体包括:
所述控制装置4用于:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
需要说明的是,所述食材图像的食材外形特征信息可以是比较容易识别出来的食材特征,比如西红柿的披针形花瓣特征、黄瓜上的点状特征等,可根据实际要求在资料库中进行预先存储设置。
在本发明实施例中,通过对食材图像进行灰度处理,再通过边缘检测得到所述食材图像的食材形状信息,并从第一食材样本集合中找出与该食材形状信息匹配的第二食材样本集合,然后从第二食材样本集合中找出与食材图像的食材外形特征信息匹配的第三食材样本集合,最后从第三食材样本集合中找出与食材图像的食材尺寸信息匹配的第四食材样本集合,从而逐步筛选符合各个条件的食材样本,避免了重复匹配不符合条件的食材样本,提高了识别效率。
在一种可选的实施方式中,所述控制装置4用于对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息,具体包括:
所述控制装置4用于:
确定灰度化处理后的所述食材图像中的每个像素点的灰度值;
获取相邻两个所述像素点的灰度值之间的差值大于等于预设灰度差阈值的所有像素点,并相应生成线条图;
根据所述线条图,得到所述食材图像的食材形状信息。
在具体实施当中,由于食材一般与其所处环境的颜色具有较大差别,比如西红柿放置在砧板上时,拍摄到的食材图像包含了西红柿与砧板,可以找出相邻像素点灰度值相差较大的像素点,从而获得西红柿的形状信息。其中,所述预设灰度差阈值可以根据实际要求进行设置,在此不做更多的赘述。
在一种可选的实施方式中,每一个所述食材样本还包括相应食材的食材种类(即食材名称);则所述控制装置4还用于:
在所述从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果之后,获取所述第四食材样本集合的食材样本的数量;
当所述第四食材样本集合中的食材样本的数量大于等于1时,输出所述第四食材样本集合中的所有食材样本的食材种类;
当所述第四食材样本集合中不存在食材样本时,输出识别失败结果。
在具体实施当中,可以通过显示屏或语音播报等方式输出食材识别结果。当所述第四食材样本集合中的食材样本的数量为多个时,可以让用户确认哪个食材样本才是实际的食材,比如通过触控屏或按键或语音控制等方式进行确认。
下面举例说明本发明实施例提供的油烟机的识别食材的过程:
以识别西红柿进行举例,首先,通过第一图像采集装置2对食物进行拍照,保存为第一画面;然后,通过所述第一图像采集装置2获取第一画面的颜色,并从资料库中选出与该种颜色相匹配的食材样本,如西红柿为红色,而红色食物有西红柿、猪肉、苹果、圣女果、辣椒;接着,把第一画面进行灰度处理,生成第二画面(黑白照片);对第二画面进行边缘检测,得到当前食材的形状,并把此形状与上述挑选出的红色食物的形状进行对比,进一步选出形状类似的食物,如西红柿趋近于圆形,而为圆形的食物有西红柿、猪肉、苹果、圣女果;再进一步识别食物的外形特征,如西红柿有披针形的花瓣,则在上述圆形的食物中找出具备披针形特征的食物,其中,具备披针形特征的食物有西红柿、圣女果;接着,此时,识别食物的尺寸,如西红柿一般直径为5-10cm,圣女果一般直径为1-2cm,则可正确识别食物为西红柿。最后,在识别成功后,通过语音播报出所识别的食物为西红柿。
在一种可选的实施方式中,所述油烟机还包括第二图像采集装置3,所述第二图像采集装置3用于实时采集锅中食物图像,并将实时采集的锅中食物图像发送至所述控制装置4;则所述控制装置4还用于:
根据所述食材识别结果,确定当前锅中食物种类;
根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
接收第二图像采集装置3实时采集的锅中食物图像;
根据所述锅中食物图像,确定当前锅中食物的颜色值;
根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
根据所述当前锅中食物生熟程度,输出提示信息。
在本发明实施例中,通过预先配置不同食物种类的预设映射表,每一预设映射表分别记载该种食物种类的食物颜色范围与食物生熟程度的映射关系,根据当前锅中食物种类,获取与当前锅中食物种类对应的预设映射表,通过第二图像采集装置3采集锅中食物图像,根据锅中食物图像确定当前锅中食物的颜色值,并根据当前锅中食物的颜色值以及该预设映射表,确定当前锅中食物生熟程度,从而根据当前锅中食物生熟程度,输出提示信息,以辅助用户进行烹饪。
在一种可选的实施方式中,所述油烟机还包括机壳1,所述机壳1上开设有第一窗口;第一图像采集装置2包括第一摄像头21、第一透明保护层22和第一防油保护罩23,所述第一防油保护罩23连接在所述机壳1的内侧壁上,形成第一容纳腔;所述第一摄像头21容置在所述第一容纳腔内;所述第一透明保护层22安装在所述第一窗口上,所述第一摄像头21与所述第一透明保护层22正对设置。
在本发明实施例中,通过设置第一防油保护罩23,且第一防油保护罩23连接在机壳1的内侧壁上,以形成容置第一摄像头21的第一容纳腔,从而隔绝了第一摄像头21后方的油烟,避免了油烟污染第一摄像头21,另外,第一透明保护层22安装在第一窗口上,第一摄像头21与第一透明保护层22正对设置,从而隔绝了第一摄像头21前方的油烟,避免了油烟污染第一摄像头21,使得第一摄像头21能够清晰地拍摄到影像。
结合图2和图3所示,为了固定所述第一摄像头21,本实施例的所述第一图像采集装置2还包括第一固定支架,所述第一固定支架容置在所述第一容纳腔内,所述第一固定支架包括第一连接部241和第二连接部242,所述第一摄像头21的一端通过所述第一连接部241连接在所述机壳1的内侧壁上,所述第一摄像头21的另一端通过所述第二连接部242连接在所述机壳1的内侧壁上。通过第一固定支架的第一连接部241和第二连接部242分别将第一摄像头21的两端固定,从而使得所述第一摄像头21能够牢靠地连接在所述机壳1上,确保了所述第一摄像头21能够正常使用。
优选地,所述第一窗口开设于所述机壳1的侧面,即将所述第一图像采集装置2设于所述机壳1的侧面,比如左侧或右侧。在具体应用中,通过将所述第一图像采集装置2设于所述机壳1的侧面,以使得所述第一摄像头21可拍摄到油烟机周围的图像,如拍摄用户的烹饪准备工作,比如洗菜、切菜等。通过采集用户在洗菜等过程中的食材图像,以进行后续的食材识别流程。
结合图1、图4和图5所示,在一种可选的实施方式中,本实施例的所述机壳1上还开设有第二窗口,所述第二图像采集装置3包括第二摄像头31、第二透明保护层32和第二防油保护罩33,所述第二防油保护罩33连接在所述机壳1的内侧壁上,形成第二容纳腔;所述第二摄像头31容置在所述第二容纳腔内;所述第二透明保护层32安装在所述第二窗口上,所述第二摄像头31与所述第二透明保护层32正对设置。同理,类似于所述第一图像采集装置2,所述第二图像采集装置3能够隔绝第二摄像头31的外部油烟,避免了油烟污染所述第二摄像头31,使得所述第二摄像头31能够清晰地拍摄到影像。
优选地,所述第二窗口开设于所述机壳1的正面,即将所述第二图像采集装置3设于所述机壳1的正面,用于拍摄锅中的食物。在具体应用中,可以根据上述第一摄像头21拍摄后得出的食材的种类,用于辅助烹饪过程,比如,根据已得知的食材的种类,通过所述第二摄像头31拍摄锅中的食物,根据所述第二摄像头31拍摄的食材颜色以监控食物变化过程,具体地,随着烹饪的进行,食材颜色会逐步发生变化,如煎牛排时,刚入锅的牛排为鲜红色,随着烹饪进行,牛排会逐步变为深棕色,当棕色深到一定程度则可认为牛排煎熟。
在一种可选的实施方式中,所述第一透明保护层22和所述第二透明保护层32均为透明玻璃,透明玻璃清晰度高,在保护所述第一摄像和所述第二摄像时,可以确保拍摄的清晰度,并且透明玻璃便于清洁。
结合图4和图5所示,为了固定所述第二摄像头31,本实施例的所述第二图像采集装置3还包括第二固定支架,所述第二固定支架容置在所述第二容纳腔内,所述第二固定支架包括第三连接部341和第四连接部342,所述第二摄像头31的一端通过所述第三连接部341连接在所述机壳1上,所述第二摄像头31的另一端通过所述第四连接部342连接在所述机壳1上。通过第二固定支架的第三连接部341和第四连接部342分别将第二摄像头31的两端固定,从而使得所述第二摄像头31能够牢靠地连接在所述机壳1上,确保了所述第二摄像头31能够正常使用。
请参阅图7,其是本发明提供的油烟机的另一个实施例的控制关系图。
在本发明实施例中,所述控制装置4安装在所述机壳1上,所述控制装置4分别与所述第一摄像头21和所述第二摄像头31电连接。通过所述控制装置4分别与所述第一摄像头21和所述第二摄像头31电连接,从而将所述第一摄像头21和所述第二摄像头31拍摄的画面进行存储或处理等。在一种可选的实施方式中,所述油烟机还包括风机控制输出模块8、语音输出模块5、按键输入模块6和照明灯7,所述风机控制输出模块8、所述语音输出模块5、所述按键输入模块6和照明灯7安装在所述机壳1上,并与所述控制模块4电连接。通过所述控制装置4分别与所述风机控制输出模块8、语音输出模块5、按键输入模块6和照明灯7电连接,以便于控制油烟机的各个功能和外部设备。举例而言,若所述控制装置4检测到所述按键输入模块6的按键输入开机指令,则打开风机,若检测到按键输入调整风量,则切换风机风量,若检测到按键输入开关照明灯指令,则开关照明灯7;若所述第二图像采集装置3检测到在火力较大的情况(可以通过第二图像采集装置3检测灶具的旋钮的旋转角度等方式)下用户长时间没有对食材进行翻炒,则通过语音输出模块5播报语音提示用户进行翻炒;若所述第二图像采集装置3检测到锅中食物烧焦,冒出黑烟时,则通过语音输出模块5播报语音提示用户正在干烧等。
另外,本实施例的所述“根据所述当前锅中食物生熟程度,输出提示信息”,具体可以是通过语音播报的方式来提醒用户,比如,若判定当前锅中食物已经熟了,则可以通过语音输出模块5播报语音提示用户烹饪完成。
在具体实施当中,所述油烟机还可以判断用户是否在准备烹饪,比如,若所述第一图像采集装置2的拍摄画面为人像,且持续一段时间都有人在画面中,并且在进行切菜等烹饪准备,则认为准备进行烹饪。在具体应用中,可以通过第一图像采集装置2拍摄到用户正在进行的烹饪准备动作,如切肉、洗菜等,还可以识别用户正在准备的食材,如用户在洗蔬菜时,蔬菜是一大把,油烟机可根据这一大把蔬菜的外形、颜色、大小等识别出蔬菜的种类,如识别出西红柿、大白菜、苦瓜等,用户在切菜时蔬菜的形状会改变,此时油烟机可随之动态记录蔬菜切出的形状等数据,经过处理后进行保存,油烟机会随着用户的行动,依次记录每一种食材的形状、大小等,在用户开始烹饪时,可以调用这些数据来判断食材的烹饪程度。
在本发明实施例中,所述控制装置4具体可以是一块智能板,其作为油烟机的核心中央处理器,在油烟机中处于核心地位,可处理油烟机的所有工作。所有数据均在本地智能板上处理,确保第一图像采集装置2和所述第二图像采集装置3传输的信息能快速、可靠、安全地计算,确保视频图像处理不会受电信运营商网速的影响;此外,所述智能板能检测食物的起始状态,并根据起始状态准确判断食物种类,所述智能板还能记录食物的变化过程,如被切碎的过程,被煮熟的过程,食物在变化的过程中智能板也能跟踪状态。所述智能板具备一定的烹饪辅助能力,如检测食物的烹饪程度、是否需翻炒、是否干烧等。
相应地,本发明实施例还提供一种食材识别方法,请参阅图8,其是本发明提供的食材识别方法的一个实施例的流程示意图。所述食材识别方法适用于上述的油烟机,由所述油烟机的控制装置4执行,包括:
步骤S101,接收第一图像采集装置2采集的食材图像;
步骤S102,根据所述食材图像,确定所述食材图像的食材颜色;
步骤S103,从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
步骤S104,根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
在一种可选的实施方式中,所述步骤S104“根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果”,具体包括:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
在本发明实施例中,通过对食材图像进行灰度处理,再通过边缘检测得到所述食材图像的食材形状信息,并从第一食材样本集合中找出与该食材形状信息匹配的第二食材样本集合,然后从第二食材样本集合中找出与食材图像的食材外形特征信息匹配的第三食材样本集合,最后从第三食材样本集合中找出与食材图像的食材尺寸信息匹配的第四食材样本集合,从而逐步筛选符合各个条件的食材样本,避免了重复匹配不符合条件的食材样本,提高了识别效率。
在一种可选的实施方式中,所述对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息,具体包括:
确定灰度化处理后的所述食材图像中的每个像素点的灰度值;
获取相邻两个所述像素点的灰度值之间的差值大于等于预设灰度差阈值的所有像素点,并相应生成线条图;
根据所述线条图,得到所述食材图像的食材形状信息。
在具体实施当中,由于食材一般与其所处环境的颜色具有较大差别,比如西红柿放置在砧板上时,拍摄到的食材图像包含了西红柿与砧板,可以找出相邻像素点灰度值相差较大的像素点,从而获得西红柿的形状信息。其中,所述预设灰度差阈值可以根据实际要求进行设置,在此不做更多的赘述。
在一种可选的实施方式中,每一个所述食材样本还包括相应食材的食材种类(即食材名称);则在所述从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果之后,还包括:
获取所述第四食材样本集合的食材样本的数量;
当所述第四食材样本集合中的食材样本的数量大于等于1时,输出所述第四食材样本集合中的所有食材样本的食材种类;
当所述第四食材样本集合中不存在食材样本时,输出识别失败结果。
在具体实施当中,可以通过显示屏或语音播报等方式输出食材识别结果。当所述第四食材样本集合中的食材样本的数量为多个时,可以让用户确认哪个食材样本才是实际的食材,比如通过触控屏或按键或语音控制等方式进行确认。
下面举例说明本发明实施例提供的食材识别方法:
以识别西红柿进行举例,首先,通过第一图像采集装置2对食物进行拍照,保存为第一画面;然后,通过所述第一图像采集装置2获取第一画面的颜色,并从资料库中选出与该种颜色相匹配的食材样本,如西红柿为红色,而红色食物有西红柿、猪肉、苹果、圣女果、辣椒;接着,把第一画面进行灰度处理,生成第二画面(黑白照片);对第二画面进行边缘检测,得到当前食材的形状,并把此形状与上述挑选出的红色食物的形状进行对比,进一步选出形状类似的食物,如西红柿趋近于圆形,而为圆形的食物有西红柿、猪肉、苹果、圣女果;再进一步识别食物的外形特征,如西红柿有披针形的花瓣,则在上述圆形的食物中找出具备披针形特征的食物,其中,具备披针形特征的食物有西红柿、圣女果;接着,此时,识别食物的尺寸,如西红柿一般直径为5-10cm,圣女果一般直径为1-2cm,则可正确识别食物为西红柿。最后,在识别成功后,通过语音播报出所识别的食物为西红柿。
相应地,本发明实施例还提供一种烹饪辅助方法,请参阅图9,其是本发明提供的烹饪辅助方法的一个实施例的流程示意图。所述烹饪辅助方法适用于上述的油烟机,由所述油烟机的控制装置4执行,包括:
步骤S201,通过所述的食材识别方法获取食材识别结果;
步骤S202,根据所述食材识别结果,确定当前锅中食物种类;
步骤S203,根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
步骤S204,接收第二图像采集装置3实时采集的锅中食物图像;
步骤S205,根据所述锅中食物图像,确定当前锅中食物的颜色值;
步骤S206,根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
步骤S207,根据所述当前锅中食物生熟程度,输出提示信息。
在本发明实施例中,通过预先配置不同食物种类的预设映射表,每一预设映射表分别记载该种食物种类的食物颜色范围与食物生熟程度的映射关系,根据当前锅中食物种类,获取与当前锅中食物种类对应的预设映射表,通过第二图像采集装置3采集锅中食物图像,根据锅中食物图像确定当前锅中食物的颜色值,并根据当前锅中食物的颜色值以及该预设映射表,确定当前锅中食物生熟程度,从而根据当前锅中食物生熟程度,输出提示信息,以辅助用户进行烹饪。
其中,所述步骤S207“根据所述当前锅中食物生熟程度,输出提示信息”,具体可以是通过语音播报的方式来提醒用户,比如,若判定当前锅中食物已经熟了,则可以通过语音输出模块5播报语音提示用户进行翻炒。
综上,本发明实施例提供一种油烟机、食材识别方法及烹饪辅助方法,通过第一图像采集装置2采集的食材图像,并根据食材图像确定所述食材图像对应的食材颜色,从预先建立的资料库中找出与其匹配的所有食材样本,得到第一食材样本集合,再根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与上述信息均匹配的所有食材样本,从而得到食材识别结果,通过不同条件来筛选符合条件的食材样本,有利于准确识别食材,具有较佳的食材识别效果;此外,先找出符合食材颜色的第一食材样本集合,再进一步对第一食材样本集合进行食材样本筛选,避免了重复匹配不符合条件的食材样本,提高了识别效率。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和替换,这些改进和替换也应视为本发明的保护范围。

Claims (10)

1.一种油烟机,其特征在于,包括第一图像采集装置和控制装置;
所述第一图像采集装置用于采集食材图像,并将所述食材图像发送至所述控制装置;
所述控制装置用于:
接收所述食材图像;
根据所述食材图像,确定所述食材图像的食材颜色;
从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
2.如权利要求1所述的油烟机,其特征在于,所述控制装置用于根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,具体包括:
所述控制装置用于:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
3.如权利要求1或2所述的油烟机,其特征在于,所述油烟机还包括第二图像采集装置;
所述第二图像采集装置用于实时采集锅中食物图像,并将实时采集的锅中食物图像发送至所述控制装置;
则所述控制装置还用于:
根据所述食材识别结果,确定当前锅中食物种类;
根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
接收第二图像采集装置实时采集的锅中食物图像;
根据所述锅中食物图像,确定当前锅中食物的颜色值;
根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
根据所述当前锅中食物生熟程度,输出提示信息。
4.如权利要求3所述的油烟机,其特征在于,所述油烟机还包括机壳,所述机壳上开设有第一窗口和第二窗口;
所述第一图像采集装置包括第一摄像头、第一透明保护层和第一防油保护罩,所述第一防油保护罩连接在所述机壳的内侧壁上,形成第一容纳腔;所述第一摄像头容置在所述第一容纳腔内;所述第一透明保护层安装在所述第一窗口上,所述第一摄像头与所述第一透明保护层正对设置;
所述第二图像采集装置包括第二摄像头、第二透明保护层和第二防油保护罩,所述第二防油保护罩连接在所述机壳的内侧壁上,形成第二容纳腔;所述第二摄像头容置在所述第二容纳腔内;所述第二透明保护层安装在所述第二窗口上,所述第二摄像头与所述第二透明保护层正对设置;
所述控制装置分别与所述第一摄像头和所述第二摄像头电连接。
5.如权利要求4所述的油烟机,其特征在于,所述第一窗口开设于所述机壳的侧面,所述第二窗口开设于所述机壳的正面。
6.如权利要求4所述的油烟机,其特征在于,所述第一图像采集装置还包括:
第一固定支架,所述第一固定支架容置在所述第一容纳腔内,所述第一固定支架包括第一连接部和第二连接部,所述第一摄像头的一端通过所述第一连接部连接在所述机壳的内侧壁上,所述第一摄像头的另一端通过所述第二连接部连接在所述机壳的内侧壁上;以及
第二固定支架,所述第二固定支架容置在所述第二容纳腔内,所述第二固定支架包括第三连接部和第四连接部,所述第二摄像头的一端通过所述第三连接部连接在所述机壳上,所述第二摄像头的另一端通过所述第四连接部连接在所述机壳上。
7.如权利要求4所述的油烟机,其特征在于,所述油烟机还包括风机控制输出模块、语音输出模块、按键输入模块和照明灯,所述控制装置分别与所述风机控制输出模块、所述语音输出模块、所述按键输入模块和所述照明灯电连接。
8.一种食材识别方法,其特征在于,包括:
接收第一图像采集装置采集的食材图像;
根据所述食材图像,确定所述食材图像的食材颜色;
从预先建立的资料库中找出与所述食材图像的食材颜色相匹配的所有食材样本,得到第一食材样本集合;其中,所述资料库存储有多个食材样本,每一个所述食材样本均包括相应食材的食材颜色、食材形状、食材外形特征和食材尺寸;
根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,得到食材识别结果。
9.如权利要求8所述的食材识别方法,其特征在于,所述根据所述食材图像,确定所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息,并从所述第一食材样本集合中找出与所述食材图像的食材形状信息、食材外形特征信息和食材尺寸信息均匹配的所有食材样本,具体包括:
对所述食材图像进行灰度处理;
对灰度处理后的所述食材图像进行边缘检测,得到所述食材图像的食材形状信息;
从所述第一食材样本集合中找出与所述食材图像的食材形状信息相匹配的所有食材样本,得到第二食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材外形特征信息;
从所述第二食材样本集合中找出与所述食材图像的食材外形特征信息相匹配的所有食材样本,得到第三食材样本集合;
根据灰度处理后的所述食材图像,确定所述食材图像的食材尺寸信息;
从所述第三食材样本集合中找出与所述食材图像的食材尺寸信息相匹配的所有食材样本,得到第四食材样本集合,并根据所述第四食材样本集合得到食材识别结果。
10.一种烹饪辅助方法,其特征在于,包括:
通过如权利要求8或9所述的食材识别方法获取食材识别结果;
根据所述食材识别结果,确定当前锅中食物种类;
根据所述当前锅中食物种类,获取与所述当前锅中食物种类对应的预设映射表;其中,所述预设映射表记载有食物颜色范围与食物生熟程度的映射关系;
接收第二图像采集装置实时采集的锅中食物图像;
根据所述锅中食物图像,确定当前锅中食物的颜色值;
根据所述预设映射表和当前锅中食物的颜色值,确定当前锅中食物生熟程度;
根据所述当前锅中食物生熟程度,输出提示信息。
CN201911388231.3A 2019-12-27 2019-12-27 油烟机、食材识别方法及烹饪辅助方法 Pending CN113051421A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911388231.3A CN113051421A (zh) 2019-12-27 2019-12-27 油烟机、食材识别方法及烹饪辅助方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911388231.3A CN113051421A (zh) 2019-12-27 2019-12-27 油烟机、食材识别方法及烹饪辅助方法

Publications (1)

Publication Number Publication Date
CN113051421A true CN113051421A (zh) 2021-06-29

Family

ID=76507668

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911388231.3A Pending CN113051421A (zh) 2019-12-27 2019-12-27 油烟机、食材识别方法及烹饪辅助方法

Country Status (1)

Country Link
CN (1) CN113051421A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113503572A (zh) * 2021-06-30 2021-10-15 宁波方太厨具有限公司 用于保护烟机内摄像头的自清洁防护***及其清洁方法
CN114440276A (zh) * 2022-01-21 2022-05-06 珠海格力电器股份有限公司 油烟机自动控制方法、***、存储介质及电子设备

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113503572A (zh) * 2021-06-30 2021-10-15 宁波方太厨具有限公司 用于保护烟机内摄像头的自清洁防护***及其清洁方法
CN113503572B (zh) * 2021-06-30 2023-03-14 宁波方太厨具有限公司 用于保护烟机内摄像头的自清洁防护***及其清洁方法
CN114440276A (zh) * 2022-01-21 2022-05-06 珠海格力电器股份有限公司 油烟机自动控制方法、***、存储介质及电子设备

Similar Documents

Publication Publication Date Title
US11229311B2 (en) Food preparation system
CN100538742C (zh) 食品材料烹调操作识别***及食品材料烹调操作识别方法
US11448403B2 (en) Cooking appliance with a user interface
CN110488696B (zh) 一种智能防干烧方法及***
CN113051421A (zh) 油烟机、食材识别方法及烹饪辅助方法
CN108679658B (zh) 溢出检测方法、装置、电子设备和智能家电
CN107440475A (zh) 烹饪的方法、烹饪器具及计算机存储介质
EP3685633A1 (en) Monitoring system and food preparation system
CN110469883B (zh) 一种多传感器融合的烟机转速控制方法和烟机
CN106326960A (zh) 烹饪设备的控制方法和烹饪设备
CN110234040A (zh) 一种烹饪设备的食材图像获取方法以及烹饪设备
CN107831692B (zh) 厨具控制方法、装置和电子设备
CN105911237A (zh) 一种烹饪方法及烹饪装置
CN110037534B (zh) 一种锅体加热方法及锅具
CN111594881A (zh) 一种基于大数据的智能燃气灶检测与控制***
CN211650375U (zh) 一种油烟机
CN111706885B (zh) 具有干烧识别功能的智能家居
CN111754736A (zh) 基于物联网的干烧预警***
CN111788433B (zh) 交互模块
CN114440276B (zh) 油烟机自动控制方法、***、存储介质及电子设备
CN112099372A (zh) 菜谱生成方法、装置和烹饪设备、移动终端及存储介质
CN113303665B (zh) 一种儿童友好型的料理机控制方法及***
JP2019201396A (ja) 情報処理装置、情報処理方法、情報処理プログラム及びコンテンツ配信システム
US20230213205A1 (en) Domestic appliance device
CN114937168A (zh) 一种脏污识别方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination