CN116668838B - 图像处理方法与电子设备 - Google Patents

图像处理方法与电子设备 Download PDF

Info

Publication number
CN116668838B
CN116668838B CN202211635006.7A CN202211635006A CN116668838B CN 116668838 B CN116668838 B CN 116668838B CN 202211635006 A CN202211635006 A CN 202211635006A CN 116668838 B CN116668838 B CN 116668838B
Authority
CN
China
Prior art keywords
image
camera
electronic device
conversion
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211635006.7A
Other languages
English (en)
Other versions
CN116668838A (zh
Inventor
黎浩翔
郗东苗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Publication of CN116668838A publication Critical patent/CN116668838A/zh
Application granted granted Critical
Publication of CN116668838B publication Critical patent/CN116668838B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

本申请提供一种图像处理方法与电子设备,涉及图像处理领域,可以提高图像处理的质量,满足用户的需求。电子设备接收用户对相机应用程序的第一操作,响应第一操作启动摄像头获取第一图像。电子设备响应第一操作还显示预览界面,在预览界面中显示第一图像的色相和饱和度基于作用于RGB颜色空间中任意两个颜色值的第一转换关系被调整后得到的第二图像,在预览界面中还显示用于拍摄的第一控件。电子设备可以进一步获取至少包括亮度值和相关色温的环境信息,并响应于用户对第一控件的第二操作,保存第一图像的色相和饱和度基于根据环境信息作用于RGB颜色空间中三个颜色值的第二转换关系调整后得到的目标图像。

Description

图像处理方法与电子设备
技术领域
本申请涉及图像处理领域,具体涉及一种图像处理方法与电子设备。
背景技术
查找表(look up table,LUT)广泛应用于图像处理;例如,查找表可以用于图像颜色校正、图像增强或者图像伽马校正等;具体地,可以在图像信号处理器(Image SignalProcessing,ISP)中加载查找表,根据查找表可以对原始图像作处理,进行原始图像的像素值映射,改变图像的颜色风格,从而实现不同的图像效果。
目前,芯片***可以通过预设在终端中的数量有限的查找表对图像进行调整,有限的查找表对图像的颜色校正效果比较单一,无法满足用户的需求。
因此,在芯片***受到限制的情况下,如何进一步提高图像处理的图像质量成为一个亟需解决的问题。
发明内容
本申请提供了一种图像处理方法与电子设备,能够结合环境信息对原始图像进行图像处理,提高目标图像的图像质量。
第一方面,本申请提供了一种应用于电子设备的图像处理方法。电子设备接收用户对相机应用程序的第一操作,响应第一操作启动摄像头获取第一图像。电子设备响应第一操作还显示预览界面,在预览界面中显示第一图像的色相和饱和度基于作用于RGB颜色空间中任意两个颜色值的第一转换关系被调整后得到的第二图像,在预览界面中还显示用于拍摄的第一控件。电子设备可以进一步获取至少包括亮度值和相关色温的环境信息,并响应于用户对第一控件的第二操作,保存第一图像的色相和饱和度基于根据环境信息作用于RGB颜色空间中三个颜色值的第二转换关系调整后得到的目标图像。
本申请提供的图像处理方法在预览界面显示第二图像,第二图像是使用作用于RGB颜色空间中任意两个颜色值的第一转换关系调整第一图像的色相和饱和度得到的图像,并在保存时使用根据环境信息作用于RGB颜色空间中三个颜色值的第二转换关系进一步调整第一图像的色相和饱和度,可以呈现出与环境信息相匹配的色彩调整效果,更能满足用户需求。此外,本申请提供的图像处理方法在预览时使用第一转换关系对第一图像的色相和饱和度进行处理,在保存时再让相机算法库调用图形处理器对第一图像进行运算,可以速度更快地将调整效果展现给用户,且节省功耗,提高用户体验。
在一种可能的实现方式中,电子设备预先存储了多个转换关系,电子设备接收第二操作之后,基于第一图像从多个转换关系中确定作用于RGB颜色空间中三个颜色值的第三转换关系。电子设备基于环境信息和第三转换关系参数可以进一步确定第二转换关系。
本申请提供的图像处理方法可以使用有限的转换关系和动态变化的环境信息得到动态变化的调整效果,使图像的调整效果更好,更能满足用户需求。
在一种可能的实施方式中,电子设备判断第一图像中包括人像,通过识别性别、年龄、生活地域中的一项或多项特征信息确定第三转换关系。
电子设备执行人脸识别算法,如果发现第一图像中包括人像,电子设备可以执行人脸解析算法得到人像的性别、年龄、生活地域信息,并根据这些信息中的一项或者多项确定第三转换关系。电子设备通过对不同性别、年龄、生活地域的人像使用不同的转换关系,可以使不同的人像经过处理后都更加自然、效果更好。
在一种可能的实现方式中,电子设备根据使用前置摄像头或后置摄像头确定第三转换关系。
用户在使用前置摄像头与后置摄像头时拍摄的画面主体一般不相同,在使用前置摄像头时更多地是拍摄人像,使用后置摄像头时可能是拍摄风景或者人物,而且在使用前置摄像头时因为电子设备与被拍摄对象的距离很近,所以用户对于光线、角度等的调整会更好,而使用后置摄像头时因为电子设备与被拍摄对象的距离较远,用户的调整措施有限,因此电子设备通过判断用户此时使用的是前置摄像头还是后置摄像头来确定第三转换关系可以获得更好的图像处理效果。
在一种可能的实现方式中,电子设备显示的预览界面中包括多个指示拍摄模板的第二控件,每个第二控件指示一个拍摄模板,响应于用户对第二控件的第三操作,电子设备可以直接确定与第二控件指示的拍摄模板对应的第三转换关系。
本申请提供的图像处理方法可以根据用户的选择直接确定拍摄模板,给用户提供更自由的选择,提高用户体验。
在一种可能的实现方式中,电子设备判断亮度值和相关色温满足第一阈值范围时,确定第二转换关系为:LUT(x,y)=LUT00。
在一种可能的实现方式中,电子设备判断亮度值和相关色温满足第二阈值范围时,确定第二转换关系为:
在一种可能的实现方式中,电子设备判断亮度值和相关色温满足第三阈值范围时,确定第二转换关系为:
其中LUT00、LUT10、LUT01、LUT11表示第三转换关系,LUT(x,y)表示第二转换关系。
电子设备根据亮度值和相关色温的范围,使用插值法将第三转换关系转换为第二转换关系,可以将预存的有限的第三转换关系通过调整得到更适合的第二转换关系,使图像的处理效果更好。
在一种可能的实现方式中,电子设备在确定第二转换关系之后,再将在第一颜色空间的第一图像转换为第二颜色空间的第三图像,再对第三图像的目标区域进行处理得到第四图像,然后将第二颜色空间的第四图像转换为第一颜色空间的目标图像。
电子设备将第一图像由第一颜色空间转换为第二颜色空间的第三图像,便于使用第二转换关系对第三图像进行进一步处理,第二转换关系对第二颜色空间的图像的处理效果要好于对第一颜色空间的图像的处理效果,处理完毕后再转换回第一颜色空间的图像,便于后续的处理流程。
在一种可能的实现方式中,电子设备判断第一图像中包括人像后,进一步识别人像的脸部区域,再使用第二转换关系对第三图像的脸部区域进行处理。
在用户拍摄的图像中具有人脸的情况下,用户会对人脸部分更加关注,电子设备使用人脸识别算法对人脸区域进行识别,再对人脸区域使用第二转换关系调整,使图像中人脸区域更加突出,颜色调整效果更好,也更加节省功耗。
在一种可能的实现方式中,电子设备通过对第一图像的解析获得环境信息。
因为电子设备需要对图像进行解析才能确定第三转换关系,因此在解析时同时获得环境信息可以减少算法执行的次数,进一步降低功耗。
在一种可能的实现方式中,电子设备接收传感器采集到的环境信息。
由传感器获取的环境信息更为准确,电子设备接收传感器传入的环境信息再与第三转换关系融合,可以获得更加准确的第二转换关系,获得更好的图像处理效果。第二方面,本申请提供了一种芯片***,该芯片***应用于电子设备,该芯片***包括用于调用计算机指令以使得电子设备执行第一方面中的任一种图像处理方法的处理器。第三方面,本申请提供了一种电子设备,该电子设备包括:处理器、存储器、摄像头和显示屏。其中显示屏用于显示预览界面,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,处理器调用计算机指令以使得电子设备执行第一方面中的任一种图像处理方法。
在一种可能的实现方式中,电子设备包括图像信号处理器,图像信号处理器调用计算机指令以使得电子设备将第一图像的色相和饱和度基于第一转换关系调整得到第二图像。
在一种可能的实现方式中,电子设备包括图形处理器,图形处理器调用计算机指令以使得电子设备将第一图像的色相和饱和度基于第二转换关系调整得到目标图像。
调整第一图像得到第二图像的算法相比于调整第一图像得到目标图像的算法更简单,图像信号处理器中执行算法要比图形处理器执行算法的功耗更低、速度更快,因此在预览时由图像信号处理器执行算法,可以降低功耗、提高速度。第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序代码,当计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
第五方面,提供了一种计算机程序产品,该计算机程序产品包括:计算机程序代码,当所述计算机程序代码被电子设备运行时,使得该电子设备执行第一方面中的任一种图像处理方法。
第六方面,本申请提供了一种图像处理装置,该图像处理装置包括:显示单元和处理单元,显示单元包括显示屏和摄像头,用于显示预览界面;处理单元用于执行第一方面中的任一种图像处理方法。
在一种可能的实现方式中,图像处理装置预先存储了多个转换关系,处理单元接收第二操作之后,基于第一图像从多个转换关系中确定作用于RGB颜色空间中三个颜色值的第三转换关系。处理单元基于环境信息和第三转换关系参数可以进一步确定第二转换关系。
在一种可能的实现方式中,处理单元判断第一图像中包括人像,通过识别性别、年龄、生活地域中的一项或多项特征信息确定第三转换关系。
在一种可能的实现方式中,处理单元用于根据使用前置摄像头或后置摄像头确定第三转换关系。
在一种可能的实现方式中,显示单元显示的预览界面中包括多个用于指示拍摄模板的第二控件,每个第二控件指示一个拍摄模板,处理单元用于响应于用户对第二控件的第三操作,从而确定与第二控件指示的拍摄模板对应的第三转换关系。
在一种可能的实现方式中,处理单元用于将在第一颜色空间的第一图像转换为第二颜色空间的第三图像,然后根据第二转换关系对第三图像的目标区域进行处理,得到第四图像,以及将第二颜色空间的第四图像转换为第一颜色空间的目标图像。
在一种可能的实现方式中,处理单元判断第一图像中包括人像后,进一步识别人像的脸部区域,再使用第二转换关系对第三图像的脸部区域进行处理。
在一种可能的实现方式中,图像处理装置包括图像信号处理器与图形处理器;其中,图像信号处理器用于调用计算机指令以使得电子设备将第一图像的色相和饱和度基于第一转换关系调整得到第二图像;图形处理器用于调用计算机指令以使得电子设备将第一图像的色相和饱和度基于第二转换关系调整得到目标图像。
附图说明
图1是一种适用于本申请的硬件***的示意图;
图2是本申请实施例提供的***架构的示意图;
图3是本申请实施例提供的一种应用场景的示意图;
图4是本申请实施例提供的另一种应用场景的示意图;
图5(a)、图5(b)、图5(c)和图5(d)是电子设备执行本申请实施例提供的图像处理方法的一种显示界面的示意图;
图6(a)、图6(b)、图6(c)和图6(d)是电子设备执行本申请实施例提供的图像处理方法的另一种显示界面的示意图;
图7(a)、图7(b)和图7(c)是电子设备执行本申请实施例提供的图像处理方法的另一种显示界面的示意图;
图8是本申请实施例提供的一种图像数据处理示意图;
图9是本申请实施例提供的一种融合三维查找表方法的示意图;
图10是本申请实施例提供的另一种融合三维查找表方法的示意图;
图11是本申请实施例提供的另一种融合三维查找表方法的示意图;
图12(a)、图12(b)和图12(c)是经过本申请实施例提供的图像处理方法处理的像素点的RGB颜色空间变化示意图;
图13(a)、图13(b)、图13(c)和图13(d)是本申请实施例提供的图像处理方法处理前后变化对比图;
图14(a)和图14(b)是本申请实施例提供的一种图像处理方法中信号交互示意图;
图15是本申请实施例提供的另一种图像处理方法中信号交互示意图;
图16(a)、图16(b)、图16(c)、图16(d)、图16(e)和图16(f)是电子设备执行本申请实施例提供的图像处理方法的另一种显示界面的示意图;
图17是本申请实施例提供的芯片***的示意图。
具体实现方式
以下实施例中所使用的术语是为了描述实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”和“该”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。还应当理解,在本申请以下各实施例中,“一个或多个”是指一个、两个或两个以上。术语“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系;例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
在本说明书中描述的参考“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
以下介绍电子设备、用于这样的电子设备的图像处理方法和用于使用这样的图像处理方法的装置的实施例。在一些实施例中,电子设备可以是还包含其他功能诸如个人数字助理和/或音乐播放器功能的便携式电子设备,诸如手机、平板电脑、具备无线通讯功能的可穿戴电子设备(如智能手表)等。便携式电子设备的示例性实施例包括但不限于搭载或者其他操作***的便携式电子设备。上述便携式电子设备也可以是其他便携式电子设备,诸如膝上型计算机(Laptop)等。还应当理解的是,在其他一些实施例中,上述电子设备也可以不是便携式电子设备,而是台式计算机。
示例性的,图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110,显示屏120,摄像头130,内部存储器140,用户标识模块(subscriber identificationmodule,SIM)卡接口150,通用串行总线(universal serial bus,USB)接口160,充电管理模块170,电源管理模块171,电池172,传感器模块180,移动通信模块190,无线通信模块200,天线1以及天线2等。其中传感器模块180可以包括压力传感器180A,指纹传感器180B,触摸传感器180C,环境光传感器180D等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件、软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括中央处理单元(central processing unit,CPU)、应用处理器(application processor,AP),调制解调处理器,图形处理单元(graphics processing unit,GPU),图像信号处理器(image signalprocessor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),,基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的部件,也可以集成在一个或多个处理器中。中央处理单元又被称为中央处理器,图形处理单元又被称为图形处理器。在一些实施例中,电子设备100也可以包括一个或多个处理器110。其中,控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。在其他一些实施例中,处理器110中还可以设置存储器,用于存储指令和数据。示例性地,处理器110中的存储器可以为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从存储器中直接调用。这样就避免了重复存取,减少了处理器110的等待时间,因而提高了电子设备100处理数据或执行指令的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路间(inter-integrated circuit,I2C)接口、集成电路间音频(inter-integrated circuiitsound,I2S)接口、脉冲编码调制(pulse code modulation,PCM)接口、通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口、移动产业处理器接口(mobile industry processor interface,MIPI)、用输入输出(general-purpose input/output,GPIO)接口、SIM卡接口和/或USB接口等。其中,USB接口160是符合USB标准规范的接口,具体可以是Mini USB接口、Micro USB接口、USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。该USB接口160也可以用于连接耳机,通过耳机播放音频。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,用于示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块190、无线通信模块200、调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
电子设备100通过GPU,显示屏120,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏120和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏120用于显示图像、视频等。显示屏120包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emittingdiode,OLED)、有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED)、柔性发光二极管(flex light-emittingdiode,FLED)、Miniled、MicroLed、Micro-oLed、量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或多个显示屏120。
在本申请的一些实施例中,当显示面板采用OLED、AMOLED、FLED等材料时,上述图1中的显示屏120可以被弯折。这里,上述显示屏120可以被弯折是指显示屏可以在任意部位被弯折到任意角度,并可以在该角度保持,例如,显示屏120可以从中部左右对折。也可以从中部上下对折。
电子设备100的显示屏120可以是一种柔性屏,目前,柔性屏以其独特的特性和巨大的潜力而备受关注。柔性屏相对于传统屏幕而言,具有柔韧性强和可弯曲的特点,可以给用户提供基于可弯折特性的新交互方式,可以满足用户对于电子设备的更多需求。对于配置有可折叠显示屏的电子设备而言,电子设备上的可折叠显示屏可以随时在折叠形态下的小屏和展开形态下大屏之间切换。因此,用户在配置有可折叠显示屏的电子设备上使用分屏功能,也越来越频繁。
内部存储器140可以用于存储一个或多个计算机程序,该一个或多个计算机程序包括指令。处理器110可以通过运行存储在内部存储器140的上述指令,从而使得电子设备100执行本申请一些实施例中所提供的显示方法,以及各种应用以及数据处理等。内部存储器140可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***;该存储程序区还可以存储一个或多个应用(比如图库、联系人等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如照片,联系人等)等。此外,内部存储器140可以包括高速随机存取存储器,还可以包括非易失性存储器,例如一个或多个磁盘存储部件,闪存部件,通用闪存存储器(universal flash storage,UFS)等。在一些实施例中,处理器110可以通过运行存储在内部存储器140的指令,和/或存储在设置于处理器110中的存储器的指令,来使得电子设备100执行本申请实施例中所提供的图像处理方法,以及其他应用及数据处理。
内部存储器140可以用于存储本申请实施例中提供的图像处理方法的相关程序,处理器110可以用于在图像处理时调用内部存储器140中存储的图像处理方法的相关程序,执行本申请实施例的图像处理方法。
传感器模块180可以包括压力传感器180A、指纹传感器180B、触摸传感器180C、环境光传感器180D等。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏120。压力传感器180A的种类很多,例如可以是电阻式压力传感器、电感式压力传感器或电容式压力传感器。电容式压力传感器可以是包括至少两个具有导电材料的平行板,当力作用于压力传感器180A,电极之间的电容改变,电子设备100根据电容的变化确定压力的强度。当触摸操作作用于显示屏120时,电子设备100根据压力传感器180A检测触摸操作。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令;当触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
指纹传感器180B用于采集指纹。电子设备100可以利用采集的指纹特性实现解锁、访问应用锁、拍摄和接听来电等功能。
触摸传感器180C,也称为触控器件。触摸传感器180C可以设置于显示屏120,由触摸传感器180C与显示屏120组成触摸屏,触摸屏也称为触控屏。触摸传感器180C用于检测作用于其上或其附近的触摸操作。触摸传感器180C可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏120提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180C也可以设置于电子设备100的表面,并且与显示屏120设置于不同的位置。
环境光传感器180D用于感知环境光亮度值。电子设备100可以根据感知的环境光亮度值自适应调节显示屏120亮度值。环境光传感器180D也可用于拍摄时自动调节白平衡。环境光传感器180D还可以将设备所处的环境信息传入GPU。
电子设备100可以通过摄像头130获取图像,通过处理器110中的ISP、GPU、视频编解码器、NPU等对图像进行处理,通过显示屏120实现拍摄过程中与用户的交互。
ISP用于处理摄像头130反馈的数据。例如,拍摄时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将电信号传递给ISP处理,转化为肉眼可见的图像。ISP可以对图像的噪点、亮度值和色彩进行算法优化,ISP还可以优化拍摄场景的曝光和色温等参数。在一些实施例中,ISP可以设置在摄像头130中。
摄像头130用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的红绿蓝(red green blue,RGB),YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头130,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3和MPEG4。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别、人脸识别、语音识别、文本理解等。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。
软件结构中可以包括应用层210、应用框架层220、硬件抽象层230、驱动层240以及硬件层250。
应用程序层210可以包括相机、图库等应用程序。
应用程序框架层220为应用程序层的应用程序提供应用程序编程接口(application programming interface,API)和编程框架。应用程序框架层还可以包括一些预定义的函数。
例如,应用程序框架层220可以包括相机访问接口。相机访问接口中可以包括相机管理与相机设备。其中,相机管理可以用于提供管理相机的访问接口,相机设备可以用于提供访问相机的接口。
硬件抽象层230用于将硬件抽象化。比如,硬件抽象层可以包相机抽象层以及其他硬件设备抽象层。相机抽象层中可以包括相机设备1、相机设备2等。相机硬件抽象层可以与相机算法库相连接,相机硬件抽象层可以调用相机算法库中的算法。
相机算法库可以包括相机算法、图像算法等算法指令以及执行部分图像处理步骤。
驱动层240用于为不同硬件设备提供驱动。比如,驱动层可以包括相机驱动、数字信号处理器驱动以及图形处理器驱动。
硬件层250可以包括传感器、图像处理器、数字信号处理器、图形处理器、存储器以及其他硬件设备。
为了便于理解,本申请以下实施例将以具有图1和图2所示结构的手机为例,结合附图对本申请实施例提供的图像处理方法进行具体阐述。
示例性地,图3是本申请实施例提供的图像处理方法的应用场景示意图。本申请的图像处理方法可以应用于图像处理。例如,可以对拍摄的图像的全部区域根据环境信息进行颜色调整得到目标图像,从而实现更好的效果,满足用户的需求。
示例性地,图4是本申请实施例提供的图像处理方法的另一种应用场景示意图。本申请的图像处理方法可以应用于局部图像处理。例如,可以对拍摄的图像的人脸区域根据环境信息进行颜色调整得到目标图像,从而在人脸区域实现更好的效果,满足用户的需求。
查找表是一种事先将颜色值存储在一张缓存表中,当需要运算的时候直接从这张表中索引出对应的颜色值的技术。根据变量的个数,可以将查找表分为一维查找表(1Dlook up table,1D LUT)、二维查找表(2D look up table,2D LUT)和三维查找表(3D lookup table,3D LUT)。例如,1D LUT只能根据一个单独变量的变化进行调整,在RGB颜色空间中就是单独调整R或G或B的值,因此仅能实现对单一的亮度、对比度、白平衡等的调整,无法实现精准的颜色转换;而2D LUT和3D LUT因为可以针对RGB值进行关联调整,从而可以实现较为精准的颜色转换,达到调整图像色相和饱和度的效果。其中,三维查找表可以理解为带有R,G,B三个自变量的函数,当输入R1,G1,B1三个值后,会输出与之存在对应关系的R2,G2,B2三个值。因此,三维查找表对颜色的转换效果更加精准,不仅可以调整色相和饱和度,还可以针对相同色相不同亮度值的颜色进行调整。下面结合图5(a)至图17对本申请实施例提供的图像处理方法进行详细描述。
实施例一
示例性的,图5(a)示出了电子设备的一种图形用户界面(graphical userinterface,GUI),该GUI为电子设备的桌面301。当电子设备检测到用户点击桌面301上的相机应用程序(application,APP)的图标302的操作后,可以启动相机应用,显示如图5(b)所示的另一GUI。图5(b)所示的GUI可以是相机APP在拍摄模式下的显示界面,在GUI可以包括取景框303与控件。比如,该控件可以包括用于指示拍摄的控件304以及用于指示相册的控件305。在GUI还包括功能区和拍摄模式选择区。
功能区包括智能识图控件、AI摄影控件306、闪光灯控件、LUT控件以及设置控件。需要说明的是,图5(b)所示的控件并不构成对功能区的具体限定。在本申请另一些实施例中,功能区可以包括比图5(b)所示的控件更多或更少的控件,或者,功能区可以包括图5(b)所示的控件中某些控件的组合,或者,功能区可以包括图5(b)所示的控件中某些控件的子控件。
拍摄模式选择区包括大光圈模式、夜景模式、人像模式、拍照模式、录像模式、多镜录像模式以及更多选项。需要说明的是,图5(b)所示的模式并不构成对拍摄模式选择区的具体限定。在本申请另一些实施例中,模式选择区可以包括比图5(b)所示的模式更多或更少的模式,或者,拍摄模式选择区可以包括图5(b)所示的模式中某些模式的组合。
取景框303内可以显示摄像头采集到的图像。
如图5(b)所示,电子设备检测到用户点击AI摄影控件306的操作,开启“AI摄影”功能,根据拍摄对象智能优化色彩效果,一键拍摄美图。响应于用户对AI摄影控件306的操作,AI控件306会改变显示效果与开启前进行区别,如采取高亮、改变颜色等显示效果。
如图5(c)所示,在AI摄影功能打开时,电子设备对预览图像进行自动识别,当识别到预览图像中存在人脸时,会自动启动人像模式,对人脸进行对焦,在人脸区域显示对焦框307,并在预览框中显示人像模式标识308,用户可以点击拍摄控件304进行拍摄。如图5(d)所示,响应于用户的拍摄操作,电子设备将被第二转换关系调整过的图片保存到相册中,并在控件305中显示被第二转换关系调整过的图片。
在一种可能的实现方式中,电子设备在启动人像模式之后,用户点击拍摄控件304进行拍摄之前,电子设备可以在取景框303中显示被第一转换关系调整过色相和饱和度的预览图像。
在一种可能的实现方式中,电子设备在启动人像模式之后,用户点击拍摄控件304进行拍摄之前,电子设备可以在取景框303中显示被第二转换关系调整过色相和饱和度的预览图像。
在一种可能的实现方式中,AI摄影控件306为默认开启状态,用户启动相机应用时AI摄影控件已经开启。
在一种可能的实现方式中,在AI摄影控件306关闭时,电子设备也会对预览图像进行自动识别。
在一种可能的实现方式中,如图5(a)所示,当电子设备检测到用户点击桌面301上的相机应用的图标302的操作后,可以启动相机应用,显示如图6(a)所示的另一GUI,在GUI的功能区中包括LUT选择控件309。
如图6(a)所示,电子设备检测到用户点击LUT控件309的操作。如图6(b)所示,电子设备响应于用户的操作,取景框303中可以显示多个不同图像效果的拍摄模板选择框310,拍摄模板选择框310中可以包括模板1、模板2、模板3、模板4、模板5等等,用户可以点击模板2。如图6(c)所示,电子设备响应于用户的操作,取景框303中显示的预览图像与模板2相同,用户可以点击拍摄控件304。如图6(d)所示,电子设备响应于用户的操作,将被第二转换关系调整过色相和饱和度的图片保存到相册中,并在控件305中显示被第三转换关系调整过色相和饱和度的图片。
在一种可能的实现方式中,如图5(a)所示,当电子设备检测到用户点击桌面301上的相机应用的图标302的操作后,可以启动相机应用,显示如图7(a)所示的GUI,GUI中包括指示转换前后摄像头的控件311,用户可以点击控件311进入到前置摄像头拍照界面。电子设备响应于用户的操作,显示如图7(b)所示的另一GUI,GUI中包括功能区和模式选择区。电子设备会自动进入人像模式,当识别到预览图像中存在人脸时,对人脸进行对焦,在人脸区域显示对焦框312,用户可以点击拍摄控件304进行拍摄。如图7(c)所示,电子设备响应于用户的拍摄操作,将经过第二转换关系调整过色相和饱和度的图片保存到相册中,并在控件305中显示经过第二转换关系调整过的图片。
在一种可能的实现方式中,电子设备在进入人像模式之后,用户点击拍摄控件304进行拍摄之前,电子设备可以在取景框中显示经过第一转换关系调整过色相和饱和度的预览图像。在一种可能的实现方式中,电子设备在进入人像模式之后,用户点击拍摄控件304进行拍摄之前,电子设备可以在取景框中显示经过第二转换关系调整过色相和饱和度的预览图像。
在一种可能的实现方式中,用户点击桌面301上的相机应用的图标302的操作后,可以启动相机应用,相机应用直接进入前置摄像头的拍摄界面,显示如图7(b)所示的GUI。
在一种可能的实现方式中,第一转换关系指二维查找表,第二转换关系指三维查找表。
应理解,上述图像处理方法并不局限于拍照模式,也包括在人像模式、录像模式、电影模式等相机模式中使用,上述图像处理方法并不局限于拍照,也包括摄像,上述拍照模式用于举例说明,并不对本申请作任何限定。
应理解,上述用户用于指示拍摄行为的操作可以包括用户点击拍摄的控件304,也可以包括用户设备通过语音指示电子设备进行拍摄行为,或者,还可以包括用户其他的指示电子设备进行拍摄行为。上述为举例说明,并不对本申请作任何限定。
上述结合图5(a)至图7(c)对用户在电子设备上进行操作的图形显示界面进行了描述,下面结合图8至图15对电子设备运行的算法进行描述。
坏点校正401(defect pixel correction,DPC)通过在亮度值域上取其他周围像素点均值来解决传感器上光线采集的点形成的阵列所存在的缺陷,或者光信号进行转化的过程中存在的错误亮度值。
黑电平校正402(black level correction,BLC)用于对黑电平进行校正处理,黑电平是指在经过一定校准的显示装置上,没有一行光亮输出的视频信号电平。进行黑电平校正一方面是因为图像传感器存在暗电流,导致在没有光照的情况下像素也存在电压输出的问题;另一方面,因为图像传感器进行模数转换时精度不够。以8比特(bit)为例,每个像素有效范围是0至255,图像传感器可能无法将接近于0的信息转化出来。根据用户的视觉特性(对暗处细节比较敏感),图像传感器的厂商一般会在模数转换时增加一个固定的偏移量使输出的像素在5(非固定值)至255之间,然后传输至ISP处理进行减法处理,将像素5(非固定值)调整至0,使得每个像素有效范围为0至255。
镜头阴影校正403(lens shading correction,LSC)用于消除由于镜头光学***原因造成的图像四周颜色以及亮度值与图像中心不一致的问题。
降噪404(noise reduction,NR)可以是指Raw域降噪。Raw域降噪用于减少图像中的噪声。图像中存在的噪声会影响用户的视觉体验,通过降噪可以在一定程度上提高图像的图像质量。
自动白平衡405(auto white balance,AWB)用于使得白色在任何色温下相机均能把它还原成白色。由于色温的影响,白纸在低色温下会偏黄,高色温下会偏蓝。白平衡的目的在于使得白色物体在任何色温下均为R=G=B,从而呈现出白色。
颜色插值406(demosaic)用于使每个像素上同时包含RGB三个分量。
颜色校正矩阵407(color correction matrix,CCM)用于校准除白色以外其他颜色的准确度。
全局色调映射408(global tone mapping,GTM)用于解决高动态图像的灰度值分布不均匀的问题。
伽马处理409(gamma)用于通过调整伽马曲线来调整图像的亮度值、对比度与动态范围等。
RGB→YUV410用于将RGB颜色空间的图像转换为YUV颜色空间的图像。
颜色降噪411(noise reduction in chroma,NR Chroma)用于对YUV颜色空间图像(UV)进行色相与饱和度的降噪。
亮度值降噪412(noise reduction in luma,NR Luma)用于YUV颜色空间图像(Y)进行亮度的降噪。
第一处理413(还称为413步骤)用于调整YUV图像的宽度。比如,YUV颜色空间的图像不满足128字节对齐约束,即图像的图像宽度不是128的整数倍,则可以调整图像宽度。比如,调整图像宽度的方式可以为在图像值末尾添加0。
YUV→RGB414用于将YUV颜色空间的图像转换为RGB颜色空间的图像,可以根据不同拍照模式选择不同的转换矩阵。比如,因为HDR模式为10比特,SDR模式为8比特,因此电子设备在HDR模式下使用第一矩阵进行转换,在SDR模式下选用第二矩阵进行转换。
融合三维查找表415用于根据环境信息对第三转换关系进行融合,比如基于环境信息由第三转换关系得到第二转换关系,融合可以为线性,也可以为非线性,可以为二维,也可以为三维或多维。环境信息可以包括亮度值(light value,LV)、相关色温(correlatedcolor temperature,CCT)、光比(light ratio,LR)等。
在一种可能的实现方式中,环境信息为亮度值和相关色温,融合为线性,比如,亮度值与相关色温各有2个档次,那么第二转换关系分为三种情况:
设x为亮度值,y为相关色温,x0,x1为两个具体的亮度值且0<x0<x1,y0,y1为两个具体的相关色温且0<y0<y1,LUT00、LUT01、LUT10和LUT11为四个不同的第三转换关系,即四个不同的三维查找表。
第一,当传入的亮度值和相关色温位于预先设定的LUT表覆盖区间,比如图9中的点1位置(即第一阈值范围为0<x<x0,0<y<y0)时,直接使用预定的LUT表,即LUT(x,y)=LUT00;
第二,当传入的亮度值和相关色温位于预先设定的两个LUT表之间,比如图10中的点2位置(即第二阈值范围为x0<x<x1,0<y<y0)时,使用对应的两个LUT表进行一次线性插值,具体为:
第三,当传入的亮度值和相关色温位于预先设定的四个LUT表之间,比如图11中的点3位置(即第三阈值范围为x0<x<x1,y0<y<y1)时,使用对应的四个LUT表进行双线性插值,具体为:
示例性地,一个人在室内日光灯的照射下,环境色温较低,原始图像中像素点A的RGB颜色空间的数值为(R=223,G=166,B=124),使用与此时的较低相关色温融合后的三维查找表对图像进行处理后,与点A对应的点B的RGB颜色空间的数值为(R=233,G=187,B=155)。
当这个人从室内到室外时,在太阳光的照射下,环境色温升高,原始图像中像素点A所在位置的像素点变更为像素点A’,其在三维空间中的位置如图12(a)所示,其RGB颜色空间的数值为(R=224,G=192,B=187),此时若仍使用原来的、低相关色温融合后的三维查找表对图像进行处理后,与点A’对应的点B’在RGB三维空间中的位置如图12(b)所示,其RGB颜色空间的数值为(R=224,G=192,B=187)。此时,如果使用本申请实施例中的图像处理方法,使用与此时较高相关色温融合后的三维查找表对图像进行处理后,与点A’对应的点C在RGB三维空间中的位置如图12(c)所示,其RGB颜色空间的数值为(R=240,G=193,B=172)。
图13(a)为上述A’、B’、C三个像素点位于同一个RGB三维空间中的示意图,不难看出,根据拍摄时所处的不同相关色温对第三转换关系进行融合得到第二转换关系,再基于不同的第二转换关系对图像进行处理,所得到的图像结果不同。
图13(b)、图13(c)、图13(d)分别为图13(a)中A’、B’、C三个像素点所对应的实际效果图,即图13(b)为在较高色温下获取的图像,图13(c)为在较高色温下使用与较低色温融合的三维查找表处理的图像,图13(d)为在较高色温下使用与较高色温融合的三维查找表处理的图像,可以明显看出图13(c)与图13(d)的效果不同,且与图13(b)相比,图13(c)的整体图像更亮,而图13(d)图像则更加自然,效果更好。
插值转换416用于根据融合后的第二转换关系对输入图像进行颜色校正处理。
示例性地,插值算法包括线性插值、双线性插值、三线性插值、四面体插值等插值算法。
其中,四面体插值算法可以包括以下步骤:
步骤一:根据第二转换关系构建三维颜色空间;将三维颜色空间进行均匀的划分,得到多个立方块;比如,可以将三维空间的各个维度均匀的划分为32份,得到32×32×32个立方块;
步骤二:在RGB颜色空间的图像中获取一个像素点的像素值,根据像素值确定该像素点在三维颜色空间中最近邻的立方块;
步骤三:在该立方体的八个顶点中确定与像素值最邻近的4个点;
步骤四:对4个点的像素值进行加权平均处理得到该像素点映射后的像素值;依次遍历图像中的每一个像素点进行上述四面体插值算法处理,得到目标图像。
RGB→YUV417是指将RGB颜色空间的图像转换为YUV颜色空间的图像。
第二处理418用于在输入图像的图像格式不满足128字节对齐约束的情况下,则将输出图像调整与输入图像的格式相同。
边缘增强419用于突出、加强和改善图像中不同灰度区域之间的边界和轮廓。
对比度420用于调整过暗或者过亮图像的对比度使图像更加鲜明。
格式化输出421用于输出不同格式的图像。
直接存储器访问422用于实现不同速度的硬件装置的交互。
示例性地,摄像头130获取的图像,输入坏点校正模块,解决传感器上光线采集的点形成的阵列所存在的缺陷,或者光信号进行转化的过程中存在的错误。坏点校正模块输出的图像输入黑电平校正模块,将每个像素有效范围调整为0至255。黑电平校正模块输出的图像输入镜头阴影校正模块,将图像四周颜色以及亮度值调整到与图像中心一致。镜头阴影校正模块输出的图像输入降噪模块,减少图像中的噪声。降噪模块输出的图像经过自动白平衡模块,将被色温影响的白色物体的RGB值调整为R=G=B,呈现出白色。自动白平衡模块输出的图像输入颜色插值模块,将每个像素上同时包含R、G、B三个分量。颜色插值模块输出的图像输入颜色校正矩阵模块,对除了白色以外的其他颜色的准确度进行校正。颜色校正矩阵模块输出的图像输入全局色调映射模块,解决高动态图像的灰度值分布不均匀的问题。全局色调映射模块输出的图像输入伽马处理模块,调整图像的亮度、对比度与动态范围。伽马处理模块输出的图像输入RGB→YUV模块,将RGB颜色空间的图像转换为YUV颜色空间的图像。RGB→YUV模块输出的UV图像输入颜色降噪模块,对图像进行色相和饱和度的降噪。RGB→YUV模块输出的Y图像输入亮度降噪模块,对图像进行亮度的降噪。颜色降噪模块输出的UV图像和亮度降噪模块输出的Y图像都输入第一处理模块,将YUV图像的宽度调整为128的整数倍。第一处理模块输出的图像输入YUV→RGB模块,将YUV颜色空间的图像转换为RGB颜色空间的图像。
电子设备将环境信息输入融合三维查找表模块,将环境信息和第三转换关系进行融合,得到第二转换关系。YUV→RGB模块输出的图像和融合三维查找表模块输出的第二转换关系都输入插值转换模块,将图像和第二转换关系通过四面体插值进行颜色校正处理。插值转换模块输出的图像输入RGB→YUV模块,将RGB颜色空间的图像转换为YUV颜色空间的图像。RGB→YUV模块输出的图像输入第二处理模块,将YUV图像的宽度调整为获取图像的宽度。
亮度降噪模块输出的Y图像输入边缘增强模块,将图像中不同灰度区域之间的边界和轮廓进行突出、加强和改善。边缘增强模块输出的图像输入对比度模块,调整过暗或过亮图像的对比度。将第二处理模块输出的图像和对比度模块输出的图像输入格式化输出模块,输出目标图像。
示例性地,图8示意的模块(一个模块代表一个方法步骤)并不构成对本申请的图像处理方法的具体限定,图8示意的图像处理模块仅为功能模块,本申请的图像处理方法可以包括比图示更多或更少的模块,或者组合某些模块,或者拆分某些模块,或者不同的模块布置。图示的模块可以以硬件、软件或软件和硬件的组合实现。
优选地,本申请的图像处理方法中同时包括401-422步骤,可以得到更好的图像处理效果。
处理器110包括中央处理器、图形处理器、图像信号处理器、数字信号处理器等,401~412步骤由图像信号处理器执行,413~418步骤由相机算法库调用图形处理器、数字信号处理器或者中央处理器执行。示例性地,全部步骤都可以由图像信号处理器执行,或者都由图形处理器、数字信号处理器或者中央处理器执行。
在一个示例中,如图8所示,第一颜色空间可以是指YUV颜色空间;第二颜色空间可以是指RGB颜色空间。
示例性地,如图8所示,对第三图像的目标区域进行处理,得到第四图像可以是指插值转换416中通过四面体插值算法对RGB颜色空间的图像进行处理,得到映射后的RGB颜色空间的图像。
应理解,第三图像的目标区域可以为第三图像的全部区域,也可以为第三图像的部分区域,如脸部所在区域、建筑所在区域、植物所在区域、动物所在区域、特殊图形所在区域等。
应理解,上述通过YUV颜色空间与RGB颜色空间进行举例说明,本申请中第一颜色空间与第二颜色空间可以是指不同的颜色空间,对第一颜色空间与第二颜色空间不作任何具体限定。
在一种可能的实现方式中,电子设备可以基于环境信息选择合适的第一转换关系,如相关色温越高、亮度值越大,图像越偏向于饱和度高的暖色调等;从而基于环境信息和第一转换关系对图像的色相和饱和度进行处理。
在一种可能的实现方式中,电子设备可以基于环境信息直接调整图像的显示效果,如亮度值越大,图像饱和度越高等。
图14(a)和图14(b)是本实施例提供的图像处理方法的示意***互图。该方法500包括步骤S501至步骤S516,下面分别对这些步骤进行详细的描述。
步骤S501、相机应用程序发送启动指令。
在一个示例中,电子设备检测到用户点击相机应用的操作,响应于用户的操作启动相机;在相机应用程序运行后,相机应用程序可以发送用于指示摄像头采集图像的启动指令。
可以理解地,上述步骤可以在相机的拍摄模式执行,在人像模式、录像模式等其他模式中也可以执行。
示例性地,如图2所示,用户下发启动指令,启动指令可以通过应用层210、应用框架层220、硬件抽象层230、驱动层240将拍摄指令传输至硬件层250。传感器接收启动指令后,获取摄像头采集到的实时图像。
步骤S502、图像信号处理器获取第一图像后对第一图像进行解析得到解析结果和环境信息,并将第一图像的色相和饱和度基于第一转换关系调整为预览图像。
示例性地,在检测到用户点击启动相机应用程序的操作后,图像信号处理器可以基于摄像头获取第一图像。
示例性地,第一图像可以是图像信号处理器对摄像头采集到的图像执行图8中401~412步骤后的图像。
示例性地,图像信号处理器可以对第一图像进行解析,例如对图像中是否具有人像、是否具有建筑、是否具有特定风景(如日出、日落、满月、森林、建筑等)以及图像中的人像的性别、年龄(幼儿、少年、青年、中年、老年等)、生活区域(亚洲区域、欧洲区域、非洲区域、中东区域等)等进行解析。
示例性地,图像信号处理器对图像进行解析的过程还包括对图像进行解析得到拍照时所处的环境信息。
示例性地,图8中的401~412步骤以及419~421步骤由图像信号处理器完成,413和418步骤由相机算法库完成,414~417步骤由图形处理器或数字信号处理器或中央处理器完成。
应理解,图8中的401~421步骤可以全部由图像信号处理器完成,也可以全部由相机算法库完成。
示例性地,图像信号处理器将第一图像的色相和饱和度基于第一转换关系调整为预览图像可以指使用二维颜色查找表对第一图像进行处理,二维颜色查找表可以对第一图像的色相和饱和度进行调整,进而得到预览图像。使用二维颜色查找表对第一图像进行处理生成预览图像,一方面可以在不使用相机算法库调用图形处理器的情况下显示类似的处理效果,加快处理速度,另一方面也可以降低电子设备的功耗,节能且减少发热,提高用户体验。
步骤S503、图像信号处理器将预览图像发送给相机应用程序。
示例性地,图像信号处理器将预览图像通过相机设备驱动、相机硬件抽象层以及相机访问接口发送到相机应用程序,用户可以在相机应用程序的显示预览界面中看到经过第一转换关系调整过的预览图像,该图像与被第二转换关系调整后的图像效果类似,便于用户调整自身的拍照角度、环境位置等。
步骤S504、相机应用程序向图像信号处理器发送拍摄指令。
示例性地,电子设备检测到用户点击拍摄控件的操作,响应于用户的操作,相机应用程序向图像信号处理器发送拍摄指令。
步骤S505、图像信号处理器向相机硬件抽象层发送第一图像、解析结果和环境信息。
应理解,相机硬件抽象层位于硬件抽象层,硬件抽象层包括相机硬件抽象层与其他硬件设备的抽象层;硬件抽象层是位于操作***内核与硬件电路之间的接口层,用于将硬件抽象化,可以参见图2所示的***架构。
示例性地,图像信号处理器通过驱动层240向硬件抽象层230发送第一图像、解析结果和环境信息。
步骤S506、相机硬件抽象层根据解析结果确定第三转换关系的标识。
示例性地,第三转换关系可以指预先存储的三维查找表,相机硬件抽象层根据解析结果选择一个或多个三维查找表,并得到其对应的标识。
步骤S507、相机硬件抽象层向相机算法库发送第二图像、环境信息和第三转换关系的标识。
可以理解的,第一图像、环境信息和第三转换关系的标识可以同时发送,也可以分别进行发送。
步骤S508、相机算法库对第一图像进行第一处理得到第三图像,根据第三转换关系的标识确定第三转换关系。
应理解,相机算法库可以包括相机算法、图像算法等算法指令以及执行部分图像处理步骤。
示例性地,相机算法库可以将宽度不满足128字节对齐的第一图像进行对齐,比如在图像末尾添加0。
步骤S509、相机算法库向图形处理器发送第三图像、环境信息和第三转换关系。
步骤S510、图形处理器基于环境信息和第三转换关系得到第二转换关系,基于第二转换关系将第三图像转换为第四图像。
图形处理器可以采用基于环境信息对第三转换关系进行融合,得到第二转换关系。
示例性地,第二转换关系包括线性关系、非线性关系、三维关系等。在一个示例中,图形处理器可以根据第二转换关系与插值算法对第三图像进行图像处理,得到第四图像。
步骤S511、图形处理器向相机算法库发送第四图像。
步骤S512、相机算法库对第四图像进行第二处理得到第五图像。
示例性地,在第一图像宽度不满足128字节对齐时,相机算法库可以将第四图像的宽度调整为与第一图像相同的第五图像,恢复原图像宽度。
步骤S513、相机算法库向相机硬件抽象层发送第五图像。
步骤S514、相机硬件抽象层向图像信号处理器发送第五图像。
步骤S515、图像信号处理器对第五图像与调整后的第一图像进行处理得到目标图像。
示例性地,图像信号处理器接收到经过第二转换关系调整后的第六图像,将其与经如图8所示的边缘增强419和对比度420调整的第一图像进行处理得到目标图像。
S516、图像信号处理器向相机应用程序发送目标图像。
例如,相机应用程序接收到目标图像后,在相机的显示界面上显示目标图像。
在一种可能的实现方式中,相机应用程序通过相机访问接口、相机硬件抽象层将摄像头的使用情况发送给相机硬件抽象层;相机硬件抽象层根据摄像头的使用情况确定预先存储的三维查找表的标识,比如,相机算法库根据使用的是前置摄像头选择拍摄模板1,使用的是后置摄像头选择拍摄模板2,使用的是长焦镜头选择拍摄模板3等。
应理解,上述摄像头的使用情况可以包括是否使用摄像头、使用哪个/哪些摄像头、使用前置摄像头或者后置摄像头、使用潜望式摄像头、使用长焦摄像头等。
在一种可能的实现方式中,传感器可以直接获得拍照时的环境信息,并与图像信号处理器对第一图像进行解析得到的环境信息一起经过相机硬件抽象层,由相机算法库发送到图形处理器。环境信息可以由一个传感器获取,也可以由多个传感器分别获取。示例性地,图像信号处理器也可以不对图像进行解析得到环境信息,图形处理器仅依据传感器获取的环境信息对图像进行处理。
在一种可能的实现方式中,图像信号处理器可以将第一图像经过相机硬件抽象层发送至相机算法库,由相机算法库直接对第一图像进行第一处理得到第四图像。
图15是本实施例提供的图像处理方法的另一种示意***互图。该方法600包括步骤S601至步骤S614,下面分别对这些步骤进行详细的描述。
步骤S601、相机应用程序发送启动指令。
步骤S602、相机应用程序向相机硬件抽象层发送第三转换关系的标识。
示例性地,用户在拍摄界面中选择确定拍摄模板,该拍摄模板对应第三转换关系,相机应用程序将该拍摄模板对应的第三转换关系的标识通过相机访问接口发送到相机硬件抽象层。
步骤S603、图像信号处理器获取第一图像后对第一图像进行解析得到环境信息。
步骤S604、图像信号处理器向相机硬件抽象层发送第一图像和环境信息。
步骤S605、相机硬件抽象层向相机算法库发送第一图像、环境信息和第三转换关系的标识。
步骤S606、相机算法库对第一图像进行第一处理得到第三图像,根据第三转换关系的标识确定第三转换关系。
步骤S607、相机算法库向图形处理器发送第三图像、环境信息和第三转换关系。
步骤S608、图形处理器根据环境信息和第三转换关系确定第二转换关系,根据第二转换关系将第三图像转换为第四图像。
步骤S609、图形处理器向相机算法库发送第四图像。
步骤S610、相机算法库对第四图像进行第二处理得到第五图像。
步骤S611、相机算法库向硬件抽象层发送第五图像。
步骤S612、相机硬件抽象层向图像信号处理器发送第五图像。
步骤S613、图像信号处理器对第五图像与调整后的第一图像进行处理得到目标图像。
步骤S614、图像信号处理器向相机应用程序发送目标图像。
应理解,上述以GPU中执行根据第二转换关系对图像进行处理的过程进行举例说明;根据第二转换关系对图像进行处理的过程还可以在DSP或者CPU中执行,或者其他目标处理器中执行,目标处理器可以是指用于图像处理支持并行计算,并且独立于图像信号处理ISP芯片的处理器。
实施例二
在一个示例中,用户可以在图库中获取完成拍摄的第一图像并选择一个拍摄模板,电子设备将完成拍摄的第一图像发送至图像信号处理器,将和拍摄模板对应的第三转换关系的标识发送至相机硬件抽象层;图像信号处理器对第一图像进行解析得到环境信息,并将第一图像和环境信息发送至相机硬件抽象层;相机硬件抽象层将第一图像、环境信息和第三转换关系的标识发送至相机算法库;相机算法库对第一图像进行第一处理得到第三图像,根据第三转换关系的标识确定第三转换关系,并将第三图像、环境信息和第三转换关系发送至图形处理器;图形处理器根据环境信息和第三转换关系确定第二转换关系,根据第二转换关系将第三图像转换为第四图像,并将第四图像发送至相机算法库;相机算法库对第四图像进行第二处理得到第五图像,并将第五图像经过相机硬件抽象层发送至图像信号处理器;图像信号处理器对第五图像与调整后的第一图像进行处理得到目标图像。
示例性地,图16(a)示出了电子设备的显示桌面301的示意图。当电子设备检测到用户点击桌面301上的图库应用的图标313的操作后,可以启动图库应用,在图库应用中选择一张图片,然后显示如图16(b)所示的另一GUI;图16(b)所示的显示界面中包括取景框314,取景框314中显示图片;在显示界面中还包括编辑选项315,电子设备检测到用户点击编辑选项315的操作,响应于用户的操作电子设备显示编辑界面,如图16(c)所示;在图16(c)的界面里包括LUT选项317、裁剪选项、调节选项、更多选项等其他选项,电子设备检测到用户点击LUT选项317的操作后,显示如图16(d)所示的界面;在图16(d)的界面中显示多个不同滤镜效果的拍摄模板选择框318,模式选择框318中可以包括模板1、模板2、模板3、模板4、模板5等等,电子设备检测到用户点击拍摄模板选择框318中的模板2的操作后,电子设备根据模板2对图片1进行图像处理,处理流程可以参见上述图8所示的流程图,显示如图16(e)所示的界面;在图16(e)所示的界面中显示经过模板2处理过的图像,图16(e)所示的界面中还包括保存控件319;电子设备检测到用户点击保存控件319的操作后,将经过模板2处理过的图像保存到图库中,如图16(f)所示。
应理解,上述以GPU中执行根据第二转换关系对图像进行处理的过程进行举例说明;根据第二转换关系对图像进行处理的过程还可以在DSP或者CPU中执行,或者其他目标处理器中执行,目标处理器可以是指用于图像处理支持并行计算,并且独立于图像信号处理ISP芯片的处理器。应理解,实施例二是通过图库应用触发图像处理指令,通过图像处理指令调用相机算法库中的三维查找表算法,相机算法库将图像与第二转换关系发送至GPU或者DSP中进行处理,得到目标图像;此外,由于获取的是已完成拍摄的图像,则无需通过传感器获取图像和环境信息,可以从图库中直接调用完成拍摄的图像以及保存的拍摄时采集的环境信息。
应理解,此时的环境信息也可以由图像信号处理器或者相机算法库由已完成拍摄的图像分析得到。
如图17所示,本申请还提供了一种芯片***,该芯片***应用于电子设备100,芯片***包括一个或多个处理器110,处理器110用于调用计算机指令以使得电子设备100执行本申请中任一方法实施例所述的图像处理方法。
在一种可能的实现方式中,芯片***还包括输入和输出接口,用于输入和输出图片数据。
本申请还提供了一种计算机程序产品,该计算机程序产品被处理器110执行时实现本申请中任一方法实施例所述的图像处理方法。
该计算机程序产品可以存储在内部存储器140或外部存储器中,该计算机程序产品经过预处理、编译、汇编和链接等处理过程从而被转换为能够被处理器110执行的可执行目标文件。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被计算机执行时实现本申请中任一方法实施例所述的图像处理方法。该计算机程序可以是高级语言程序,也可以是可执行目标程序。
本申请提供的图像处理装置包括显示单元和处理单元。显示单元包括显示屏120、摄像头130,显示单元用于显示预览界面,预览界面还显示用于拍摄的第一控件;处理单元包括处理器110,处理单元用于接收用户对相机应用程序的第一操作,响应第一操作启动摄像头获取第一图像。处理单元还用于将第一图像的色相和饱和度基于作用于RGB颜色空间中任意两个颜色值的第一转换关系被调整后得到的第二图像。处理单元可以进一步获取至少包括亮度值和相关色温的环境信息,并响应于用户对第一控件的第二操作,保存第一图像的色相和饱和度基于根据环境信息作用于RGB颜色空间中三个颜色值的第二转换关系调整后得到的目标图像。
需要说明的是,上述处理装置以功能单元的形式体现。这里的术语“单元”可以通过软件和/或硬件形式实现,对此不作具体限定。
例如,“单元”可以是实现上述功能的软件程序、硬件电路或二者结合。硬件电路可能包括应用特有集成电路(application specific integrated circuit,ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其他支持所描述的功能的合适组件。
因此,在本申请的实施例中描述的各示例的单元,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和设备的具体工作过程以及产生的技术效果,可以参考前述方法实施例中对应的过程和技术效果,在此不再赘述。在本申请所提供的几个实施例中,所揭露的***、装置和方法,可以通过其他的方式实现。例如,以上所描述的方法实施例的一些特征可以忽略,或不执行。以上所描述的装置实施例是示意性的,单元的划分,为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个***。另外,各单元之间的耦合或各个组件之间的耦合可以是直接耦合,也可以是间接耦合,上述耦合包括电的、机械的或其他形式的连接。
应理解,在本申请的各种实施例中,各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请的实施例的实施过程构成任何限定。
总之,以上为本申请技术方案的较佳实施例而已,并非用于限定本申请的保护范围。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (16)

1.一种图像处理方法,其特征在于,应用于电子设备,所述图像处理方法包括:
接收用户对相机应用程序的第一操作,响应所述第一操作启动摄像头,基于所述摄像头获取第一图像;
响应所述第一操作显示预览界面,所述预览界面包括第二图像和第一控件,所述第二图像为所述第一图像的色相和饱和度基于第一转换关系被调整后得到的图像,所述第一转换关系被作用于RGB颜色空间中任意两个颜色值,所述第一控件为拍摄控件;
获取环境信息,所述环境信息至少包括亮度值和相关色温;
接收用户对所述第一控件的第二操作,响应所述第二操作保存目标图像,所述目标图像为所述第一图像的色相和饱和度基于第二转换关系被调整后得到的图像,所述第二转换关系根据所述环境信息被作用于RGB颜色空间中三个颜色值;
其中,所述电子设备包括预先存储的多个转换关系,在接收所述第二操作之后,所述方法还包括:
基于所述第一图像从所述多个转换关系中确定第三转换关系,所述第三转换关系被作用于RGB颜色空间中三个颜色值;
基于所述环境信息对所述第三转换关系进行融合,得到所述第二转换关系。
2.根据所述权利要求1所述的图像处理方法,其特征在于,该方法还包括:
判断所述第一图像中包括人像,识别所述人像的特征信息,从所述多个转换关系中确定所述第三转换关系,所述特征信息包括性别、年龄、生活地域中的一项或多项。
3.根据权利要求1所述的图像处理方法,其特征在于,所述摄像头包括前置摄像头和后置摄像头,所述方法还包括:
判断启动的所述摄像头为所述前置摄像头或所述后置摄像头,从所述多个转换关系中确定所述第三转换关系。
4.根据权利要求1所述的图像处理方法,其特征在于,所述方法还包括:
所述预览界面包括多个第二控件,每个所述第二控件指示一个拍摄模板,每个所述拍摄模板对应所述多个转换关系中的一个转换关系;
接收用户对所述第二控件的第三操作;
响应所述第三操作确定与所述第二控件指示的拍摄模板所对应的所述第三转换关系。
5.根据权利要求1至4中任一项所述的图像处理方法,其特征在于,所述方法还包括:
判断所述亮度值x和所述相关色温y满足第一阈值范围,确定所述第二转换关系为:
LUT(x,y)=LUT00,
LUT00表示第三转换关系,LUT(x,y)表示第二转换关系;
其中,所述第一阈值范围为预先设定的LUT表覆盖区间,所述第一阈值范围为0<x<x0,0<y<y0
6.根据权利要求1至4中任一项所述的图像处理方法,其特征在于,所述方法还包括:
判断所述亮度值x和所述相关色温y满足第二阈值范围,确定所述第二转换关系为:
LUT00和LUT10表示第三转换关系,LUT(x,y)表示第二转换关系;
其中,所述第二阈值范围为预先设定的两个LUT表之间,所述第二阈值范围为x0<x<x1,0<y<y0
7.根据权利要求1至4中任一项所述的图像处理方法,其特征在于,所述方法还包括:
判断所述亮度值x和所述相关色温y满足第三阈值范围,确定所述第二转换关系为:
LUT00、LUT10、LUT01、LUT11表示第三转换关系,LUT(x,y)表示第二转换关系;
其中,所述第三阈值范围为预先设定的四个LUT表之间,所述第三阈值范围为x0<x<x1,y0<y<y1
8.根据权利要求1至4中任一项所述的图像处理方法,其特征在于,在确定所述第二转换关系之后,所述方法还包括:
将所述第一图像转换为第三图像,其中所述第一图像为第一颜色空间的图像,所述第三图像为第二颜色空间的图像;
对所述第三图像的目标区域基于所述第二转换关系被调整后得到第四图像;
将所述第四图像转换为所述目标图像,其中所述第四图像为所述第二颜色空间的图像,所述目标图像为所述第一颜色空间的图像。
9.根据权利要求8所述的图像处理方法,其特征在于,所述方法还包括:
判断所述第一图像中包括人像,识别所述人像的脸部区域;
确定所述第三图像的目标区域为所述脸部区域。
10.根据权利要求1至4、9中任一项所述的图像处理方法,其特征在于,该方法还包括:解析所述第一图像获得所述环境信息。
11.根据权利要求1至4、9中任一项所述的图像处理方法,其特征在于,该方法还包括:接收传感器采集到的所述环境信息。
12.一种芯片***,其特征在于,所述芯片***应用于电子设备,所述芯片***包括处理器,所述处理器用于调用计算机指令以使得所述电子设备执行如权利要求1-11中任一项所述的图像处理方法。
13.一种电子设备,其特征在于,所述电子设备包括:处理器、存储器、摄像头和显示屏;所述显示屏用于显示所述预览界面;所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述处理器调用所述计算机指令以使得所述电子设备执行如权利要求1至11中任一项所述的图像处理方法。
14.根据权利要求13所述的电子设备,其特征在于,所述处理器包括图像信号处理器,所述图像信号处理器调用所述计算机指令以使得所述电子设备执行将所述第一图像的色相和饱和度基于所述第一转换关系调整得到所述第二图像。
15.根据权利要求13所述的电子设备,其特征在于,所述处理器包括图形处理器,所述图形处理器调用所述计算机指令以使得所述电子设备执行将所述第一图像的色相和饱和度基于所述第二转换关系调整得到所述目标图像。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行权利要求1至11中任一项所述的图像处理方法。
CN202211635006.7A 2022-11-22 2022-12-19 图像处理方法与电子设备 Active CN116668838B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2022114672507 2022-11-22
CN202211467250 2022-11-22

Publications (2)

Publication Number Publication Date
CN116668838A CN116668838A (zh) 2023-08-29
CN116668838B true CN116668838B (zh) 2023-12-05

Family

ID=87726607

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211635006.7A Active CN116668838B (zh) 2022-11-22 2022-12-19 图像处理方法与电子设备

Country Status (1)

Country Link
CN (1) CN116668838B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101778190A (zh) * 2009-01-08 2010-07-14 华晶科技股份有限公司 数字影像的肤色调整方法
JP2013115546A (ja) * 2011-11-28 2013-06-10 Casio Comput Co Ltd 画像処理装置、及びプログラム
CN110808002A (zh) * 2019-11-28 2020-02-18 北京迈格威科技有限公司 屏幕的显示补偿方法、装置及电子设备
JP2020088709A (ja) * 2018-11-29 2020-06-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
CN112887582A (zh) * 2019-11-29 2021-06-01 深圳市海思半导体有限公司 一种图像色彩处理方法、装置及相关设备
CN113132695A (zh) * 2021-04-21 2021-07-16 维沃移动通信有限公司 镜头阴影校正方法、装置及电子设备
CN113727017A (zh) * 2021-06-16 2021-11-30 荣耀终端有限公司 拍摄方法、图形界面及相关装置
CN113810602A (zh) * 2021-08-12 2021-12-17 荣耀终端有限公司 一种拍摄方法及电子设备
CN113965694A (zh) * 2021-08-12 2022-01-21 荣耀终端有限公司 录像方法、电子设备及计算机可读存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109155071B (zh) * 2017-06-30 2021-01-29 华为技术有限公司 一种颜色检测的方法及终端

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101778190A (zh) * 2009-01-08 2010-07-14 华晶科技股份有限公司 数字影像的肤色调整方法
JP2013115546A (ja) * 2011-11-28 2013-06-10 Casio Comput Co Ltd 画像処理装置、及びプログラム
JP2020088709A (ja) * 2018-11-29 2020-06-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
CN110808002A (zh) * 2019-11-28 2020-02-18 北京迈格威科技有限公司 屏幕的显示补偿方法、装置及电子设备
CN112887582A (zh) * 2019-11-29 2021-06-01 深圳市海思半导体有限公司 一种图像色彩处理方法、装置及相关设备
CN113132695A (zh) * 2021-04-21 2021-07-16 维沃移动通信有限公司 镜头阴影校正方法、装置及电子设备
CN113727017A (zh) * 2021-06-16 2021-11-30 荣耀终端有限公司 拍摄方法、图形界面及相关装置
CN113810602A (zh) * 2021-08-12 2021-12-17 荣耀终端有限公司 一种拍摄方法及电子设备
CN113965694A (zh) * 2021-08-12 2022-01-21 荣耀终端有限公司 录像方法、电子设备及计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于3DLUT技术在照片调色中的研究;潘子希;;福建信息技术教育(02);全文 *

Also Published As

Publication number Publication date
CN116668838A (zh) 2023-08-29

Similar Documents

Publication Publication Date Title
US20150332636A1 (en) Image display device and method
US10929961B2 (en) Electronic device and method for correcting images using external electronic device
WO2023130922A1 (zh) 图像处理方法与电子设备
EP4175275A1 (en) White balance processing method and electronic device
CN114463191A (zh) 一种图像处理方法及电子设备
CN116668862B (zh) 图像处理方法与电子设备
WO2023124201A1 (zh) 图像处理方法与电子设备
CN116437198B (zh) 图像处理方法与电子设备
CN116668838B (zh) 图像处理方法与电子设备
CN115631250B (zh) 图像处理方法与电子设备
US20230058472A1 (en) Sensor prioritization for composite image capture
CN115516494A (zh) 用于生成图像的方法及其电子装置
CN117395495B (zh) 一种图像处理方法及电子设备
CN116051368B (zh) 图像处理方法及其相关设备
CN116709042B (zh) 一种图像处理方法和电子设备
CN116723417B (zh) 一种图像处理方法和电子设备
CN115426458B (zh) 光源检测方法及其相关设备
CN115514947B (zh) 一种ai自动白平衡的算法和电子设备
WO2023160221A1 (zh) 一种图像处理方法和电子设备
CN115705663B (zh) 图像处理方法与电子设备
CN115988339B (zh) 图像处理方法、电子设备、存储介质及程序产品
CN116029951B (zh) 图像处理方法与电子设备
US20230137831A1 (en) Electronic device for improving image quality
CN115955611B (zh) 图像处理方法与电子设备
CN116029914B (zh) 图像处理方法与电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant