JP6978542B2 - 電子装置及びその制御方法 - Google Patents
電子装置及びその制御方法 Download PDFInfo
- Publication number
- JP6978542B2 JP6978542B2 JP2020066303A JP2020066303A JP6978542B2 JP 6978542 B2 JP6978542 B2 JP 6978542B2 JP 2020066303 A JP2020066303 A JP 2020066303A JP 2020066303 A JP2020066303 A JP 2020066303A JP 6978542 B2 JP6978542 B2 JP 6978542B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- parameters
- mode
- layer
- artificial intelligence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 50
- 238000013473 artificial intelligence Methods 0.000 claims description 177
- 238000012545 processing Methods 0.000 claims description 74
- 230000015654 memory Effects 0.000 claims description 43
- 230000008569 process Effects 0.000 claims description 22
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 11
- 238000013527 convolutional neural network Methods 0.000 description 8
- 230000006835 compression Effects 0.000 description 7
- 238000007906 compression Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 230000000306 recurrent effect Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 241000023320 Luma <angiosperm> Species 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical group COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
Claims (15)
- 複数のレイヤを含む人工知能モデルに対する情報が保存されたメモリと、
入力映像を補間処理し、前記補間処理された映像に基づいて出力映像を獲得するプロセッサと
を含み、
前記プロセッサは、
前記複数のレイヤのうち少なくとも1つで用いられるパラメータのアップデートが必要な場合、第1モード又は第2モードで動作し、
前記第1モードは、前記パラメータがアップデートされる前記人工知能モデルを用いて処理された映像及び前記補間処理された映像に基づいて前記出力映像を獲得し、
前記第2モードは、前記人工知能モデルを用いずに、前記補間処理された映像に基づいて前記出力映像を獲得する、電子装置。 - 前記プロセッサは、
前記複数のレイヤのうち少なくとも1つで用いられるフィルタのパラメータに対するアップデートが必要な場合、前記フィルタの現在のパラメータ及びアップデートされる対象パラメータの間の差に基づいて、前記第1モード又は前記第2モードを選択することを特徴とする請求項1に記載の電子装置。 - 前記人工知能モデルに含まれた前記複数のレイヤのそれぞれは、
異なるパラメータを含むフィルタを用いて、前記補間処理された映像に対する残差映像を生成し、
前記プロセッサは、
前記人工知能モデルから出力される残差映像及び前記補間処理された映像に基づいて前記出力映像を獲得することを特徴とする請求項1に記載の電子装置。 - 前記プロセッサは、
前記第1モードが選択されると、前記複数のレイヤのうち少なくとも1つのレイヤで用いられるパラメータをリアルタイムでアップデートし、前記パラメータのアップデートに基づいて残りのレイヤのうち少なくとも1つで用いられるパラメータをリアルタイムで補償することを特徴とする請求項1に記載の電子装置。 - 前記プロセッサは、
前記少なくとも1つの中間レイヤで用いられる前記パラメータのリアルタイムアップデートに基づいて、前記複数のレイヤのうち最初のレイヤ及び最後のレイヤのそれぞれで用いられるパラメータをリアルタイムで補償することを特徴とする請求項4に記載の電子装置。 - 前記プロセッサは、
第1中間レイヤで用いられる第1パラメータがリアルタイムでアップデートされると、前記第1パラメータのアップデートに基づいて、前記最初のレイヤ及び前記最後のレイヤのそれぞれで用いられるパラメータをリアルタイムで補償し、
前記第1中間レイヤがアップデートされた後、第2中間レイヤで用いられる第2パラメータがリアルタイムでアップデートされると、前記第1パラメータ及び前記第2パラメータのアップデートに基づいて、前記最初のレイヤ及び前記最後のレイヤのそれぞれで用いられるパラメータをリアルタイムで補償することを特徴とする請求項5に記載の電子装置。 - 前記プロセッサは、
前記第2モードで動作する間、前記人工知能モデルに含まれた第1中間レイヤで用いられる第1パラメータをアップデートして前記第2モードを前記第1モードに切り替え、
前記第1モードにおいて第2中間レイヤで用いられる第2パラメータがリアルタイムでアップデートされると、前記第1パラメータ及び前記第2パラメータのアップデートに基づいて、前記最初のレイヤ及び前記最後のレイヤのそれぞれで用いられるパラメータをリアルタイムで補償することを特徴とする請求項5に記載の電子装置。 - 前記残りのレイヤのうち少なくとも1つで用いられるパラメータを補償するための補償パラメータは、
前記少なくとも1つの中間レイヤが前記アップデートされたパラメータを含む前記人工知能モデルの学習に基づいて獲得されることを特徴とする請求項4に記載の電子装置。 - 前記プロセッサは、
前記入力映像のデータ伝送速度又は前記入力映像に対する情報のうち少なくとも一方に基づいて、前記パラメータのアップデートの要否を識別することを特徴とする請求項1に記載の電子装置。 - ディスプレイを更に含み、
前記プロセッサは、
前記出力映像を出力するように前記ディスプレイを制御し、
前記出力映像は、
4K又は8K以上の高解像度映像であることを特徴とする請求項1に記載の電子装置。 - 複数のレイヤを含む人工知能モデルに対する情報を保存する電子装置の制御方法において、
入力映像を補間処理するステップと、
前記複数のレイヤのうち少なくとも1つで用いられるパラメータのアップデートが必要な場合、第1モード又は第2モードに応じて出力映像を獲得するステップと
を含み、
前記第1モードは、前記補間処理された映像を前記パラメータのアップデートされる前記人工知能モデルを用いて処理した映像及び前記補間処理された映像に基づいて前記出力映像を獲得し、
前記第2モードは、前記人工知能モデルを用いずに、前記補間処理された映像に基づいて前記出力映像を獲得する、制御方法。 - 前記入力映像を処理するステップは、
前記複数のレイヤのうち少なくとも1つで用いられるフィルタのパラメータに対するアップデートが必要な場合、前記フィルタの現在のパラメータ及びアップデートされる対象パラメータの間の差に基づいて、前記第1モード又は前記第2モードを選択することを特徴とする請求項11に記載の制御方法。 - 前記人工知能モデルに含まれた前記複数のレイヤのそれぞれは、
異なるパラメータを含むフィルタを用いて前記補間処理された映像に対する残差映像を生成し、
前記電子装置は、
前記人工知能モデルから出力される残差映像及び前記補間処理された映像に基づいて前記出力映像を獲得することを特徴とする請求項11に記載の制御方法。 - 前記第1モードが選択されると、前記複数のレイヤのうち少なくとも1つのレイヤで用いられるパラメータをリアルタイムでアップデートし、前記パラメータのアップデートに基づいて残りのレイヤのうち少なくとも1つで用いられるパラメータをリアルタイムで補償するステップを更に含むことを特徴とする請求項11に記載の制御方法。
- 複数のレイヤを含む人工知能モデルに関する情報を保存する電子装置のプロセッサによって実行される場合、前記電子装置が動作するようにするコンピュータ命令を保存する非一時的なコンピュータ読み取り可能な媒体において、前記動作は、
入力映像を補間処理するステップと、
前記複数のレイヤのうち少なくとも1つで用いられるパラメータのアップデートが必要な場合、第1モード又は第2モードに応じて出力映像を獲得するステップと
を含み、
前記第1モードは、前記補間処理された映像を前記パラメータのアップデートされる前記人工知能モデルを用いて処理した映像及び前記補間処理された映像に基づいて前記出力映像を獲得し、
前記第2モードは、前記人工知能モデルを用いずに、前記補間処理された映像に基づいて前記出力映像を獲得する、非一時的なコンピュータ読み取り可能な媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2019-0099609 | 2019-08-14 | ||
KR1020190099609A KR20210020387A (ko) | 2019-08-14 | 2019-08-14 | 전자 장치 및 그 제어 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021034009A JP2021034009A (ja) | 2021-03-01 |
JP6978542B2 true JP6978542B2 (ja) | 2021-12-08 |
Family
ID=69159578
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020066303A Active JP6978542B2 (ja) | 2019-08-14 | 2020-04-01 | 電子装置及びその制御方法 |
Country Status (6)
Country | Link |
---|---|
US (2) | US11100607B2 (ja) |
EP (2) | EP3907695B1 (ja) |
JP (1) | JP6978542B2 (ja) |
KR (1) | KR20210020387A (ja) |
CN (1) | CN112399120B (ja) |
WO (1) | WO2021029505A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200137380A1 (en) * | 2018-10-31 | 2020-04-30 | Intel Corporation | Multi-plane display image synthesis mechanism |
CN110727633A (zh) * | 2019-09-17 | 2020-01-24 | 广东高云半导体科技股份有限公司 | 基于SoC FPGA的边缘人工智能计算***构架 |
TWI733341B (zh) * | 2020-02-20 | 2021-07-11 | 瑞昱半導體股份有限公司 | 用於圖像放大與增強的方法與裝置 |
CN113707101B (zh) * | 2021-08-23 | 2022-11-04 | 深圳创维-Rgb电子有限公司 | 一种Mini LED背光控制方法、装置及相关设备 |
WO2024043731A1 (ko) * | 2022-08-24 | 2024-02-29 | 삼성전자 주식회사 | 인터폴레이션을 수행하는 전자 장치, 동작 방법, 및 저장 매체 |
CN115861343B (zh) * | 2022-12-12 | 2024-06-04 | 中山大学·深圳 | 基于动态隐式图像函数的任意尺度图像表示方法及*** |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014078068A1 (en) | 2012-11-13 | 2014-05-22 | Intel Corporation | Content adaptive transform coding for next generation video |
US9153231B1 (en) | 2013-03-15 | 2015-10-06 | Amazon Technologies, Inc. | Adaptive neural network speech recognition models |
US20170127045A1 (en) * | 2015-10-28 | 2017-05-04 | Toppano Co., Ltd. | Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof |
WO2018053340A1 (en) | 2016-09-15 | 2018-03-22 | Twitter, Inc. | Super resolution using a generative adversarial network |
CN108205813B (zh) * | 2016-12-16 | 2022-06-03 | 微软技术许可有限责任公司 | 基于学习网络的图像风格化 |
JP6704583B2 (ja) | 2016-12-27 | 2020-06-03 | 株式会社デンソーアイティーラボラトリ | 学習システムおよび学習方法 |
US11048997B2 (en) * | 2016-12-27 | 2021-06-29 | Texas Instruments Incorporated | Reduced complexity convolution for convolutional neural networks |
KR102592721B1 (ko) | 2017-01-11 | 2023-10-25 | 한국전자통신연구원 | 이진 파라미터를 갖는 컨볼루션 신경망 시스템 및 그것의 동작 방법 |
US10607319B2 (en) | 2017-04-06 | 2020-03-31 | Pixar | Denoising monte carlo renderings using progressive neural networks |
US10489887B2 (en) | 2017-04-10 | 2019-11-26 | Samsung Electronics Co., Ltd. | System and method for deep learning image super resolution |
US10176551B2 (en) * | 2017-04-27 | 2019-01-08 | Apple Inc. | Configurable convolution engine for interleaved channel data |
CN107087201B (zh) * | 2017-05-10 | 2019-11-08 | 西安万像电子科技有限公司 | 图像处理方法和装置 |
CN109218727B (zh) * | 2017-06-30 | 2021-06-25 | 书法报视频媒体(湖北)有限公司 | 视频处理的方法和装置 |
JP6925911B2 (ja) * | 2017-08-30 | 2021-08-25 | 株式会社日立製作所 | 機械学習装置及び機械学習方法 |
US20190095794A1 (en) | 2017-09-26 | 2019-03-28 | Intel Corporation | Methods and apparatus for training a neural network |
US10776688B2 (en) | 2017-11-06 | 2020-09-15 | Nvidia Corporation | Multi-frame video interpolation using optical flow |
CN109862370A (zh) * | 2017-11-30 | 2019-06-07 | 北京大学 | 视频超分辨率处理方法及装置 |
JP7242185B2 (ja) * | 2018-01-10 | 2023-03-20 | キヤノン株式会社 | 画像処理方法、画像処理装置、画像処理プログラム、および、記憶媒体 |
CN108259997B (zh) | 2018-04-02 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 图像相关处理方法及装置、智能终端、服务器、存储介质 |
CN109903221B (zh) | 2018-04-04 | 2023-08-22 | 华为技术有限公司 | 图像超分方法及装置 |
CN108596841B (zh) | 2018-04-08 | 2021-01-19 | 西安交通大学 | 一种并行实现图像超分辨率及去模糊的方法 |
CN109785279B (zh) * | 2018-12-28 | 2023-02-10 | 江苏师范大学 | 一种基于深度学习的图像融合重建方法 |
US10997690B2 (en) * | 2019-01-18 | 2021-05-04 | Ramot At Tel-Aviv University Ltd. | Method and system for end-to-end image processing |
-
2019
- 2019-08-14 KR KR1020190099609A patent/KR20210020387A/ko active Search and Examination
- 2019-12-19 US US16/720,433 patent/US11100607B2/en active Active
-
2020
- 2020-01-10 EP EP21182796.9A patent/EP3907695B1/en active Active
- 2020-01-10 EP EP20151293.6A patent/EP3779862B1/en active Active
- 2020-01-28 WO PCT/KR2020/001262 patent/WO2021029505A1/en active Application Filing
- 2020-02-24 CN CN202010112631.8A patent/CN112399120B/zh active Active
- 2020-04-01 JP JP2020066303A patent/JP6978542B2/ja active Active
-
2021
- 2021-07-01 US US17/364,941 patent/US11574385B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN112399120B (zh) | 2023-09-19 |
US20210327027A1 (en) | 2021-10-21 |
JP2021034009A (ja) | 2021-03-01 |
US20210049740A1 (en) | 2021-02-18 |
CN112399120A (zh) | 2021-02-23 |
EP3907695B1 (en) | 2022-09-28 |
KR20210020387A (ko) | 2021-02-24 |
US11574385B2 (en) | 2023-02-07 |
US11100607B2 (en) | 2021-08-24 |
WO2021029505A1 (en) | 2021-02-18 |
EP3779862B1 (en) | 2021-09-15 |
EP3779862A1 (en) | 2021-02-17 |
EP3907695A1 (en) | 2021-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6978542B2 (ja) | 電子装置及びその制御方法 | |
US11861809B2 (en) | Electronic apparatus and image processing method thereof | |
US11978178B2 (en) | Electronic device, control method thereof, and system | |
KR20200079697A (ko) | 영상 처리 장치 및 그 영상 처리 방법 | |
KR102616700B1 (ko) | 영상 처리 장치 및 그 영상 처리 방법 | |
US11216953B2 (en) | Apparatus and method for image region detection of object based on seed regions and region growing | |
CN112866803B (zh) | 电子装置及其控制方法 | |
JP6841888B2 (ja) | 映像処理装置及び映像処理方法 | |
EP3850828B1 (en) | Electronic device and method of controlling thereof | |
US20230386057A1 (en) | Electronic apparatus and image processing method thereof | |
US11436442B2 (en) | Electronic apparatus and control method thereof | |
KR20210108027A (ko) | 전자 장치 및 그 제어 방법 | |
KR20240077363A (ko) | 전자 장치 및 그 제어 방법 | |
KR20240114171A (ko) | 전자 장치 및 그 영상 처리 방법 | |
KR20230164980A (ko) | 전자 장치 및 그 영상 처리 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200401 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210706 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211102 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211111 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6978542 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |