JP2018182562A - Image projection system, image processing apparatus, and game machine - Google Patents

Image projection system, image processing apparatus, and game machine Download PDF

Info

Publication number
JP2018182562A
JP2018182562A JP2017080614A JP2017080614A JP2018182562A JP 2018182562 A JP2018182562 A JP 2018182562A JP 2017080614 A JP2017080614 A JP 2017080614A JP 2017080614 A JP2017080614 A JP 2017080614A JP 2018182562 A JP2018182562 A JP 2018182562A
Authority
JP
Japan
Prior art keywords
image
diaphragm
audio signal
amplitude
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017080614A
Other languages
Japanese (ja)
Other versions
JP6922368B2 (en
Inventor
邦和 鈴木
Kunikazu Suzuki
邦和 鈴木
芳樹 舩石
Yoshiki Funaishi
芳樹 舩石
拓也 中島
Takuya Nakajima
拓也 中島
太祐 平野
Daisuke Hirano
太祐 平野
進 大竹
Susumu Otake
進 大竹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2017080614A priority Critical patent/JP6922368B2/en
Publication of JP2018182562A publication Critical patent/JP2018182562A/en
Application granted granted Critical
Publication of JP6922368B2 publication Critical patent/JP6922368B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Slot Machines And Peripheral Devices (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image projection system that projects an image to a speaker that produces a low frequency effect sound, an image processing apparatus, and a game machine.SOLUTION: The image projection system includes: a speaker device 50 including a diaphragm 41 that moves according to an amplitude of a supplied audio signal; an image processing apparatus 10 that performs a process of converting an input image into a projection image P2 using movement of the diaphragm corresponding to the amplitude of the audio signal supplied to the speaker device; and a projection device 30 that projects the projection image output from the image processing device onto the diaphragm.SELECTED DRAWING: Figure 1

Description

本発明は、投影装置から投影面に画像を投影する画像投影システム、画像処理装置及び遊技機に関する。   The present invention relates to an image projection system, an image processing apparatus and a game machine for projecting an image from a projection device to a projection surface.

近年、投影装置から投影面に画像を投影するプロジェクションマッピングシステムが注目されている。プロジェクションマッピングシステムでは、投影面に画像を投影する際に生じる画像の歪みを補正する処理が行われる。このような補正処理に関する従来技術として、投影する画像を補正するための膨大な計算を不要とする投影システムが、特許文献1に開示されている。   In recent years, a projection mapping system for projecting an image from a projection apparatus onto a projection plane has attracted attention. In a projection mapping system, processing is performed to correct image distortion that occurs when projecting an image onto a projection plane. As a prior art related to such correction processing, Patent Document 1 discloses a projection system which does not require a large amount of calculation for correcting an image to be projected.

特開2013−118596号公報(2013年6月13日公開)JP, 2013-118596, A (June 13, 2013 release)

ところで、スロットマシン等の遊技機においては、上述のプロジェクションマッピングシステムによる表示演出とともに、スピーカによる効果音の出力は遊技機の演出の効果を左右する重要な要素である。特に、低域の効果音を発するスピーカを遊技機の正面側(観測者側)の中央付近に配置し、音が観測者に聴こえやすくすることが有効と期待できる。   By the way, in a gaming machine such as a slot machine, along with the display effect by the above-mentioned projection mapping system, the output of sound effects by a speaker is an important element which influences the effect of the effect of the gaming machine. In particular, it can be expected to be effective to arrange a speaker that emits low-range sound effects near the center of the front side (observer side) of the gaming machine to make it easier for the observer to hear the sound.

ただし、遊技機の正面側の中央付近には、投影装置から画像が投影される投影面(スクリーン)が配置されることが通常である。このため、上述のプロジェクションマッピングシステムによって、音を発するスピーカに画像を歪みなく投影するためには、スピーカの動きを検出することが必要となる。   However, in the vicinity of the center on the front side of the gaming machine, a projection screen (screen) on which an image is projected from the projection device is usually arranged. For this reason, in order to project an image on a speaker which emits a sound without distortion by the above-mentioned projection mapping system, it is necessary to detect the movement of the speaker.

特許文献1には、カメラによってスクリーンに投影された投影画像を取得し、投影すべき画像を補正する技術は開示されているものの、スクリーンの動き自体を検出する技術については開示されていない。   Patent Document 1 discloses a technique for acquiring a projection image projected on a screen by a camera and correcting the image to be projected, but does not disclose a technique for detecting the movement of the screen itself.

本発明は、上記の問題点に鑑みてなされたものであり、その目的は、音を発するスピーカへの画像の投影を実現する画像投影システム、画像処理装置及び遊技機を提供することにある。   The present invention has been made in view of the above problems, and an object thereof is to provide an image projection system, an image processing apparatus, and a game machine that realize projection of an image onto a speaker that emits sound.

上記の課題を解決するために、本発明の一態様に係る画像投影システムは、供給されるオーディオ信号の振幅に応じて動く振動板を含むスピーカ装置と、上記スピーカ装置に供給されるオーディオ信号の振幅に応じた上記振動板の動きを用いて、入力画像を投影画像に変換する処理を行う画像処理装置と、上記画像処理装置から出力される投影画像を、上記振動板に投影する投影装置とを備える。   In order to solve the above problems, an image projection system according to an aspect of the present invention includes a speaker device including a diaphragm that moves according to the amplitude of an audio signal supplied, and an audio signal supplied to the speaker device. An image processing apparatus for converting an input image into a projection image using movement of the diaphragm according to the amplitude; and a projection apparatus for projecting a projection image output from the image processing apparatus onto the diaphragm Equipped with

上記構成によれば、オーディオ信号の振幅に応じた振動板の動きを用いて、入力画像を投影画像に変換する処理を行うので、音を発するスピーカ装置の振動板を含む投影面への画像の投影を実現することができる。   According to the above configuration, the process of converting the input image into the projection image is performed using the movement of the diaphragm according to the amplitude of the audio signal, so that the image on the projection plane including the diaphragm of the speaker device that emits sound Projection can be realized.

上記画像処理装置は、予め用意された、上記スピーカ装置に供給されるオーディオ信号の振幅と上記振動板の動きとの対応関係を参照することによって、上記オーディオ信号の振幅から、上記振動板の動きを算出する算出部を有することが好ましい。   The image processing apparatus moves the diaphragm from the amplitude of the audio signal by referring to the correspondence relationship between the amplitude of the audio signal supplied to the speaker device and the movement of the diaphragm prepared in advance. It is preferable to have a calculation unit that calculates

上記構成によれば、振動板の動きを実測するための、カメラやTOF、各種センサ等が不要となるので、装置構成の簡素化が図られる。   According to the above configuration, the camera, the TOF, various sensors, and the like for measuring the movement of the diaphragm are not necessary, and the device configuration can be simplified.

上記オーディオ信号には、上記オーディオ信号の各振幅に応じた上記振動板の動きを表す情報が予め付加されていても良い。   Information representing the movement of the diaphragm in accordance with each amplitude of the audio signal may be added in advance to the audio signal.

上記スピーカ装置は、その内部空間が、それぞれが密閉空間である前室及び後室に分けられており、上記投影装置は、上記前室の内部に配置されていても良い。   The internal space of the speaker device may be divided into a front chamber and a rear chamber, which are respectively sealed spaces, and the projection device may be disposed inside the front chamber.

本発明の一態様に係る遊技機は、上記画像投影システムを備える。   A game machine according to an aspect of the present invention includes the image projection system.

本発明の一態様に係る画像処理装置は、供給されるオーディオ信号の振幅に応じて動く振動板を含むスピーカ装置に供給されるオーディオ信号の振幅に応じた上記振動板の動きを用いて、入力画像を投影画像に変換する処理を行う変換部と、上記オーディオ信号の振幅から、上記振動板の動きを算出する算出部とを備える。   An image processing apparatus according to an aspect of the present invention uses a motion of the diaphragm according to the amplitude of an audio signal supplied to a speaker apparatus including a diaphragm that moves according to the amplitude of the audio signal supplied. The image processing apparatus includes a conversion unit that converts an image into a projection image, and a calculation unit that calculates the movement of the diaphragm from the amplitude of the audio signal.

なお、本発明の各態様に係る画像投影システムに含まれる画像処理装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記画像処理装置が備える各部として動作させることにより上記画像処理装置をコンピュータにて実現させる画像処理装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。さらに、本発明の各態様に係る画像処理装置は集積回路として実現してもよく、この場合には、上記集積回路を備えるチップなども本発明の範疇に入る。   Note that the image processing apparatus included in the image projection system according to each aspect of the present invention may be realized by a computer, and in this case, the image processing is performed by operating the computer as each unit included in the image processing apparatus. A control program of an image processing apparatus for realizing the apparatus by a computer, and a computer readable recording medium recording the same also fall within the scope of the present invention. Furthermore, the image processing apparatus according to each aspect of the present invention may be realized as an integrated circuit, and in this case, a chip or the like provided with the above integrated circuit also falls within the scope of the present invention.

本発明によれば、音を発するスピーカへの画像の投影を実現することができる。   According to the present invention, it is possible to realize projection of an image on a speaker that emits sound.

本発明の一実施形態に係る画像投影システムの構成例を示す模式図である。It is a schematic diagram which shows the structural example of the image projection system which concerns on one Embodiment of this invention. 上記画像投影システムを含むスロットマシンの構成例を示す全体概略図である。FIG. 31 is an overall schematic view showing a configuration example of a slot machine including the image projection system. 上記画像投影システムに含まれる画像処理装置及びオーディオ処理装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the image processing apparatus contained in the said image projection system, and an audio processing apparatus. 上記画像投影システムに含まれるスピーカユニットの構成例を示す模式図である。It is a schematic diagram which shows the structural example of the speaker unit contained in the said image projection system. 上記スピーカユニットの振動板の動きと、上記スピーカユニットに入力されるオーディオ信号の振幅との関係を説明するための説明図である。(a)は、上記オーディオ信号の振幅の時間的変化を示す図、(b)は、上記オーディオ信号の振幅が振幅Iであるときに上記振動板の動きが動きIであることを示す図、(c)は、上記オーディオ信号の振幅が振幅IIであるときに上記振動板の動きが動きIIであることを示す図、(d)は、上記オーディオ信号の振幅が振幅IIIであるときに上記振動板の動きが動きIIIであることを示す図である。It is explanatory drawing for demonstrating the relationship between the movement of the diaphragm of the said speaker unit, and the amplitude of the audio signal input into the said speaker unit. (A) shows the temporal change of the amplitude of the audio signal, (b) shows that the movement of the diaphragm is movement I when the amplitude of the audio signal is the amplitude I. (C) is a diagram showing that the movement of the diaphragm is movement II when the amplitude of the audio signal is amplitude II, (d) is the case where the amplitude of the audio signal is amplitude III It is a figure which shows that the motion of a diaphragm is motion III.

本発明の一実施形態について、図1から図5に基づいて説明すると以下のとおりである。なお、本明細書において、「画像」とは、静止画像、動画像、又はそれらの組み合わせ、のいずれでもよく、また、3次元ポリゴンを含む映像であってもよい。   One embodiment of the present invention is described below with reference to FIGS. 1 to 5. In the present specification, the “image” may be a still image, a moving image, or a combination thereof, and may be an image including a three-dimensional polygon.

図1は、本実施形態に係る画像投影システム1の構成例を示す模式図である。   FIG. 1 is a schematic view showing a configuration example of an image projection system 1 according to the present embodiment.

図1に示すように、画像投影システム1は、画像処理装置10と、オーディオ処理装置20と、スピーカ装置50とを備えている。スピーカ装置50は投影装置30及びスピーカユニット40を含んでいる。投影装置30は、画像処理装置10から入力される投影画像P2を、ミラー55によって反射させ、投影面51aに投影する。投影面51aを見る者(以下では「観測者」と表記する)は、例えばアクリル板、ガラスといった透明部材からなる表示面50aを通して、投影面51aに投影された画像を見ることになる。スピーカユニット40は、オーディオ処理装置20から入力されるオーディオ信号A2の振幅の変化に基づき振動板41を動かし、外部に音を発する。   As shown in FIG. 1, the image projection system 1 includes an image processing device 10, an audio processing device 20, and a speaker device 50. The speaker device 50 includes the projection device 30 and the speaker unit 40. The projection device 30 causes the mirror 55 to reflect the projection image P2 input from the image processing device 10, and projects the projection image P2 on the projection surface 51a. A viewer of the projection surface 51a (hereinafter referred to as "observer") sees the image projected on the projection surface 51a through the display surface 50a made of a transparent member such as an acrylic plate or glass. The speaker unit 40 moves the diaphragm 41 based on the change in the amplitude of the audio signal A2 input from the audio processing device 20, and emits a sound to the outside.

なお、投影装置30が投影画像P2を広角に投影できる装置であれば、投影装置30をミラー55付近に配置し、投影装置30から投影面51aに投影画像P2を直接投影しても良い。この場合、ミラー55は不要である。   If the projection device 30 can project the projection image P2 at a wide angle, the projection device 30 may be disposed near the mirror 55, and the projection image P2 may be directly projected from the projection device 30 onto the projection surface 51a. In this case, the mirror 55 is unnecessary.

スピーカ装置50は、その内部空間が、それぞれが密閉空間である前室51及び後室52に分けられており、所謂ASW(アコースティックサブウーハー)型のサブウーファーを構成している。後室52にはスピーカユニット40が配置されている。前室51にはバスレフポート53aが、後室52にはバスレフポート53bが、それぞれ設けられている。スピーカユニット40の振動板41は、前室51と後室52との境界平面の一つである投影面51aの一部を構成している。振動板41の動きによって発せられる音は、スピーカ装置50の外部に直接伝わらず、必ずバスレフポート53aを経由し、スピーカ装置50の外部に伝えられる。なお、バスレフポート53aを設けずに、前室51を密閉された状態としても良い。   The internal space of the speaker device 50 is divided into a front chamber 51 and a rear chamber 52 which are respectively sealed spaces, and constitutes a so-called ASW (Acoustic Subwoofer) type subwoofer. In the rear room 52, a speaker unit 40 is disposed. A bass reflex port 53a is provided in the front room 51, and a bass reflex port 53b is provided in the rear room 52, respectively. The diaphragm 41 of the speaker unit 40 constitutes a part of a projection surface 51 a which is one of the boundary planes between the front chamber 51 and the rear chamber 52. The sound generated by the movement of the diaphragm 41 is transmitted to the outside of the speaker device 50 via the bass reflex port 53a without being directly transmitted to the outside of the speaker device 50. The front chamber 51 may be sealed without providing the bass reflex port 53a.

また、前室51には、投影装置30及びミラー55が配置されている。投影装置30は、前室51の内部における位置が固定された載置板54によって支持され、前室51の奥側から前室51の前側(観測者側)に向けて投影光30aを出射するように配置されている。一方、ミラー55は、前室51と外部との境界平面の一つである面によって支持され、投影装置30から投影された投影光30aを投影面51a側に反射させるように配置されている。投影装置30、ミラー55及び投影面51aは、所謂プロジェクションマッピングシステムを構成している。   In the front chamber 51, the projection device 30 and the mirror 55 are disposed. The projection device 30 is supported by the mounting plate 54 whose position in the front chamber 51 is fixed, and emits the projection light 30 a from the back side of the front chamber 51 toward the front side (observer side) of the front chamber 51 It is arranged as. On the other hand, the mirror 55 is supported by a surface which is one of the boundary planes between the front chamber 51 and the outside, and is disposed so as to reflect the projection light 30a projected from the projection device 30 toward the projection surface 51a. The projection device 30, the mirror 55 and the projection surface 51a constitute a so-called projection mapping system.

このようにして、スピーカ装置50では、前室51の内部に投影装置30を配置し、前室51と外部との境界平面によってミラー55を支持し、前室51と後室52との境界平面を投影面51aとして用いている。これによって、スピーカ装置50の前室51は、ASW型のサブウーファーの前室の役割を担うとともに、プロジェクションマッピングシステムを配置するための空間の役割も担うことになる。したがって、プロジェクションマッピングシステムを配置するための空間を別途確保する必要はなくなり、別途確保した場合と比較すれば、省スペース化が図られることになる。   Thus, in the speaker device 50, the projection device 30 is disposed inside the front chamber 51, and the mirror 55 is supported by the boundary plane between the front chamber 51 and the outside, and the boundary plane between the front chamber 51 and the rear chamber 52. Is used as the projection surface 51a. As a result, the front room 51 of the speaker device 50 plays a role of a front room of the ASW subwoofer and also plays a role of a space for arranging a projection mapping system. Therefore, it is not necessary to separately secure a space for arranging the projection mapping system, and space saving can be achieved as compared with the case of separately securing.

図2は、画像投影システム1を含むスロットマシン(遊技機)100の構成例を示す全体概略図である。   FIG. 2 is an overall schematic view showing a configuration example of a slot machine (game machine) 100 including the image projection system 1.

図2に示すように、スロットマシン100は、その上部に画像投影システム1が配置され、その下部にスタートスイッチやストップスイッチ、ベットボタン等の操作スイッチが設けられている。スロットマシン100では、画像投影システム1が、振動板41を含む投影面51aに遊技状態に応じた画像(ここでは、3つのリール画像)を投影し、表示面50aを通して、投影面51aに投影された画像が観測者(ここでは、スロットマシン100の遊技者である)に視認される。なお、スピーカユニット40の前面は前室51によって覆われているので、遊技者の手等がスピーカユニット40に当たってしまうことは回避される。   As shown in FIG. 2, in the slot machine 100, the image projection system 1 is disposed in the upper part, and operation switches such as a start switch, a stop switch, and a bet button are provided in the lower part. In the slot machine 100, the image projection system 1 projects an image (here, three reel images) according to the game state onto the projection surface 51a including the diaphragm 41, and is projected onto the projection surface 51a through the display surface 50a. The captured image is viewed by the observer (here, the player of the slot machine 100). Since the front surface of the speaker unit 40 is covered by the front chamber 51, the player's hand or the like can be prevented from hitting the speaker unit 40.

ここで、本発明の特徴部分である、音を発するスピーカユニット40の振動板41を含む投影面51aへの画像の投影を実現する手法について、図4及び図5を用いて説明する。   Here, a method of realizing the projection of an image on the projection surface 51 a including the diaphragm 41 of the speaker unit 40 that emits a sound, which is a characteristic part of the present invention, will be described using FIGS. 4 and 5.

図4は、スピーカユニット40の構成例を示す模式図である。   FIG. 4 is a schematic view showing a configuration example of the speaker unit 40. As shown in FIG.

図4に示すように、スピーカユニット40は、振動板41と、オーディオ処理装置20から入力されるオーディオ信号A2の振幅の変化に基づき振動板41を動かす振動器42とを含んでいる。振動板41は、略円錐形状の部材であり、且つ、動く際は略円錐形状の形状を保持しつつ、スピーカユニット40が音を発する向きに沿って前後に動く。ここでは、動きの停止時における振動板41の開口端41aの位置を基準位置とする。(1)基準位置から音を発する向きに移動した距離を(+)の動き、(2)基準位置から音を発する向きとは逆の向きに移動した距離を(−)の動き、とする。それら開口端41aの動きは、すなわち、振動板41全体の動きである。   As shown in FIG. 4, the speaker unit 40 includes a diaphragm 41 and a vibrator 42 that moves the diaphragm 41 based on a change in the amplitude of the audio signal A2 input from the audio processing device 20. The diaphragm 41 is a member having a substantially conical shape, and moves back and forth along the direction in which the speaker unit 40 emits a sound while maintaining the substantially conical shape when moving. Here, the position of the opening end 41a of the diaphragm 41 at the time of the stop of movement is taken as the reference position. (1) The distance of movement from the reference position to the direction of emitting sound is (+) movement, and (2) The distance of movement from the reference position to the direction opposite to the direction of sound emission is the movement of (-). The movement of the open ends 41 a is, in other words, the movement of the entire diaphragm 41.

図5は、スピーカユニット40の振動板41の動きと、スピーカユニット40に入力されるオーディオ信号A2の振幅との関係を説明するための説明図であり、(a)は、オーディオ信号A2の振幅の時間的変化を示す図、(b)は、オーディオ信号A2の振幅が振幅Iであるときに振動板41の動きが動きIであることを示す図、(c)は、オーディオ信号A2の振幅が振幅IIであるときに振動板41の動きが動きIIであることを示す図、(d)は、オーディオ信号A2の振幅が振幅IIIであるときに振動板41の動きが動きIIIであることを示す図である。   FIG. 5 is an explanatory view for explaining the relationship between the movement of the diaphragm 41 of the speaker unit 40 and the amplitude of the audio signal A2 input to the speaker unit 40. FIG. 5A shows the amplitude of the audio signal A2. (B) shows that the movement of the diaphragm 41 is movement I when the amplitude of the audio signal A2 is amplitude I, (c) shows the amplitude of the audio signal A2 (D) shows that the movement of the diaphragm 41 is movement III when the amplitude of the audio signal A2 is amplitude III, when the movement of the diaphragm 41 is movement II when the amplitude II is the amplitude II FIG.

なお、振動板41の動きは、カメラやTOF(Time Of Flight)、各種センサ等を用いて、実際に計測される。この実測手法については公知の手法であり、ここでは説明を行わない。   The movement of the diaphragm 41 is actually measured using a camera, TOF (Time Of Flight), various sensors, and the like. This measurement method is a known method and will not be described here.

例えば、図5の(a)に示したように、オーディオ信号A2の振幅が時間的変化する場合を考えてみる。スピーカユニット40へのオーディオ信号A2の入力が開始すると、オーディオ信号A2の振幅の変化に基づき振動板41は動くことになる。オーディオ信号A2の振幅が振幅Iであるとき、図5の(b)に示したように、振動板41の動きは(+)の動きである動きIである。オーディオ信号A2の振幅が振幅IIであるとき、図5の(c)に示したように、振動板41の動きは(+)の動きである動きIIである。なお、動きIIは動きIよりも小さい。オーディオ信号A2の振幅が振幅IIIであるとき、図5の(d)に示したように、振動板41の動きは(−)の動きである動きIIIである。   For example, as shown to (a) of FIG. 5, the case where the amplitude of audio signal A2 changes temporally is considered. When the input of the audio signal A2 to the speaker unit 40 starts, the diaphragm 41 moves based on the change of the amplitude of the audio signal A2. When the amplitude of the audio signal A2 is an amplitude I, as shown in FIG. 5B, the motion of the diaphragm 41 is a motion I which is a motion of (+). When the amplitude of the audio signal A2 is the amplitude II, as shown in (c) of FIG. 5, the movement of the diaphragm 41 is the movement II which is the movement of (+). Note that the movement II is smaller than the movement I. When the amplitude of the audio signal A2 is the amplitude III, as shown in (d) of FIG. 5, the movement of the diaphragm 41 is the movement III which is the movement of (−).

発明者らは、動く振動板41(を含む投影面51a)への画像の投影を実現するに当たり、振動板41の動きを、カメラやTOF、各種センサ等を用いて取得しつつ、投影画像をリアルタイムに生成することには限界があると考えた。装置構成の複雑化を招くことにつながるためである。   In realizing the projection of the image on the moving diaphragm 41 (including the projection surface 51a), the inventors obtain the projection image while acquiring the movement of the diaphragm 41 using a camera, TOF, various sensors, etc. I thought that there is a limit in generating in real time. This is because it leads to the complication of the device configuration.

そこで、別の視点から、振動板41の動きを取得できないか多くの検討を行った。その結果、上述のとおり、オーディオ信号A2の振幅に対する振動板41の動きを予めサンプリングしておき、そのサンプリング結果を基にして、オーディオ信号A2の振幅と振動板41の動きとの対応関係を用意し、この予め用意された対応関係を参照することによって、オーディオ信号A2の振幅から振動板41の動きを算出可能であることを見出し、発明を完成させるに至った。   Therefore, many studies were made as to whether the movement of the diaphragm 41 could be acquired from another viewpoint. As a result, as described above, the movement of the diaphragm 41 with respect to the amplitude of the audio signal A2 is sampled in advance, and the correspondence between the amplitude of the audio signal A2 and the movement of the diaphragm 41 is prepared based on the sampling result By finding out the correspondence relationship prepared in advance, it is found that the motion of the diaphragm 41 can be calculated from the amplitude of the audio signal A2, and the present invention has been completed.

以下、画像投影システム1に含まれる画像処理装置10及びオーディオ処理装置20について、上述の特徴点に関係する構成及び動作に着目して説明する。図3は、画像投影システム1に含まれる画像処理装置10及びオーディオ処理装置20の概略構成を示すブロック図である。   Hereinafter, the image processing apparatus 10 and the audio processing apparatus 20 included in the image projection system 1 will be described focusing on the configuration and operation related to the above-mentioned feature points. FIG. 3 is a block diagram showing a schematic configuration of the image processing apparatus 10 and the audio processing apparatus 20 included in the image projection system 1.

図3に示すように、画像処理装置10は、入力画像P1を入力として、投影装置30に出力する投影画像P2をリアルタイムに生成する装置であり、一例としてGPU(Graphics Processing Unit)を備えるグラフィックデバイスである。また、画像処理装置10には、オーディオ信号A1及び音量切替信号S1も入力される。画像処理装置10は、特に、算出部11と、変換部12と、記憶部13とを含んでおり、オーディオ信号A2の振幅に応じたスピーカユニット40の振動板41の動きを算出する処理、及び算出された動きを用いて、入力画像P1を投影画像P2へ変換する処理を少なくとも実行する。画像処理は、ROM(Read Only Memory)等の記憶部であるバイナリコード記憶部21にバイナリコードとして格納されているプログラムを読み出して実行することを想定しているが、この手法に限られるものではない。   As shown in FIG. 3, the image processing apparatus 10 is an apparatus that generates a projected image P2 to be output to the projection apparatus 30 in real time with the input image P1 as an input, and is a graphic device including a GPU (Graphics Processing Unit) as an example. It is. Further, the audio signal A1 and the volume switching signal S1 are also input to the image processing apparatus 10. The image processing apparatus 10 includes, among other things, the calculation unit 11, the conversion unit 12, and the storage unit 13, and a process of calculating the movement of the diaphragm 41 of the speaker unit 40 according to the amplitude of the audio signal A2. At least the process of converting the input image P1 into the projection image P2 is executed using the calculated motion. The image processing assumes reading and executing a program stored as a binary code in the binary code storage unit 21 which is a storage unit such as a ROM (Read Only Memory), but the method is not limited to this method. Absent.

算出部11は、記憶部13に予め記憶された動き情報を参照することによって、オーディオ信号A1の振幅からスピーカユニット40の振動板41の動きを算出する。   The calculation unit 11 calculates the movement of the diaphragm 41 of the speaker unit 40 from the amplitude of the audio signal A1 by referring to the movement information stored in advance in the storage unit 13.

記憶部13に予め記憶された動き情報は、オーディオ信号A1の振幅と振動板41の動きとの対応関係を表す情報である。動き情報は、オーディオ信号A1の各振幅と、その各振幅と一対一に対応する振動板41の動きと、をテーブル形式に纏めたものである。オーディオ信号A1の各振幅が最大から最小まで順に並べられており、各振幅のときに実測された振動板41の動きを用いて、オーディオ信号A1の各振幅に対応する振動板41の動きを決めることになる。なお、動き情報を作成する際は、オーディオ信号A1として、画像投影システム1に入力されると想定される複数のオーディオ信号を用意しても良い。オーディオ信号の一つ一つに対し、各振幅に対応する振動板41の動きを実測する。これによって、同一の振幅に対する複数の振動板41の動きを得ることができる。それら複数の振動板41の動きを平均化処理することによって、振動板41の動きを実測する際の計測誤差の影響を軽減し、各振幅に対する振動板41の動きを精度よく決めることが可能となる。   The motion information stored in advance in the storage unit 13 is information representing the correspondence between the amplitude of the audio signal A1 and the motion of the diaphragm 41. The motion information is a table that summarizes the amplitudes of the audio signal A1 and the motions of the diaphragm 41 corresponding to the respective amplitudes. The amplitudes of the audio signal A1 are arranged in order from the maximum to the minimum, and the movement of the diaphragm 41 corresponding to each amplitude of the audio signal A1 is determined using the movement of the diaphragm 41 measured at each amplitude. It will be. Note that when creating motion information, a plurality of audio signals assumed to be input to the image projection system 1 may be prepared as the audio signal A1. The movement of the diaphragm 41 corresponding to each amplitude is measured for each of the audio signals. This makes it possible to obtain the motions of the plurality of diaphragms 41 for the same amplitude. By averaging the movements of the plurality of diaphragms 41, it is possible to reduce the influence of measurement errors when measuring the movement of the diaphragm 41 and to determine the movement of the diaphragm 41 for each amplitude with high accuracy. Become.

なお、オーディオ信号A1は、オーディオ処理装置20に入力される。オーディオ処理装置20は、オーディオ信号A1の振幅を増幅又は減衰し、増幅又は減衰したオーディオ信号A1をオーディオ信号A2としてスピーカユニット40に出力する。このため、記憶部13に予め記憶された動き情報を参照する際、オーディオ信号A1に対する増幅率又は減衰率を考慮する必要があることに留意すべきである。   The audio signal A1 is input to the audio processing device 20. The audio processing device 20 amplifies or attenuates the amplitude of the audio signal A1, and outputs the amplified or attenuated audio signal A1 to the speaker unit 40 as an audio signal A2. Therefore, it should be noted that when referring to the motion information stored in advance in the storage unit 13, it is necessary to consider the amplification factor or the attenuation factor for the audio signal A1.

オーディオ信号A1の振幅が増幅されれば、その増幅されたオーディオ信号A1であるオーディオ信号A2の振幅はオーディオ信号A1の振幅よりも大きくなり、一方、オーディオ信号A1の振幅が減衰されれば、その減衰されたオーディオ信号A1であるオーディオ信号A2の振幅はオーディオ信号A1の振幅よりも小さくなる。動き情報は、オーディオ信号A1の振幅を基に作成されているので、オーディオ信号A1の振幅が増幅又は減衰された場合には、その分だけ、振動板41の動きも大きく又は小さくする必要があるからである。   If the amplitude of the audio signal A1 is amplified, the amplitude of the audio signal A2 which is the amplified audio signal A1 becomes larger than the amplitude of the audio signal A1, while if the amplitude of the audio signal A1 is attenuated, The amplitude of the audio signal A2, which is the attenuated audio signal A1, is smaller than the amplitude of the audio signal A1. Since the motion information is generated based on the amplitude of the audio signal A1, when the amplitude of the audio signal A1 is amplified or attenuated, it is necessary to increase or decrease the motion of the diaphragm 41 accordingly. It is from.

具体的には、算出部11は、オーディオ信号A1に対する増幅率又は減衰率を表す音量切替信号S1から、増幅率又は減衰率を取得する。算出部11は、オーディオ信号A1の振幅が増幅又は減衰された場合には、取得された増幅率又は減衰率に応じて、動き情報に記載された動きよりも大きく又は小さくなるように動きを算出する。   Specifically, the calculation unit 11 obtains the amplification factor or the attenuation factor from the volume switching signal S1 indicating the amplification factor or the attenuation factor for the audio signal A1. When the amplitude of the audio signal A1 is amplified or attenuated, the calculation unit 11 calculates the movement so as to be larger or smaller than the movement described in the movement information, according to the acquired amplification factor or attenuation factor. Do.

なお、オーディオ信号A1に対する増幅率又は減衰率が予め想定される場合であれば、オーディオ信号A1の振幅を増幅又は減衰したオーディオ信号A2の振幅を基に動き情報を作成しておけば良い。そうすることによって、オーディオ信号A1の振幅が増幅又は減衰されるとき、増幅率又は減衰率に応じて動き情報に記載された動きを大きくしたり小さくしたりする処理が不要となる。動き情報をそのまま参照すれば良いことになるので、振動板41の動きを算出する処理の効率化が図られる。   If the amplification factor or attenuation factor for the audio signal A1 is assumed in advance, motion information may be created based on the amplitude of the audio signal A2 obtained by amplifying or attenuating the amplitude of the audio signal A1. By doing so, when the amplitude of the audio signal A1 is amplified or attenuated, processing for increasing or decreasing the motion described in the motion information according to the amplification factor or attenuation factor is not necessary. Since it is sufficient to refer to the movement information as it is, it is possible to improve the efficiency of the process of calculating the movement of the diaphragm 41.

変換部12は、入力画像P1を、振動板41の動きに追従する投影画像P2へ変換する。具体的には、変換部12は、まず、算出部11によって算出された動きを用いて、動く振動板41を含む投影面51aの形状を特定する。そして、変換部12は、入力画像P1に対し、特定された形状の投影面51aに投影される画像の歪みを補正する処理を行い、補正処理を行った入力画像P1を投影画像P2として出力する。この補正処理は周知であるため詳細な説明を省略する。   The conversion unit 12 converts the input image P1 into a projection image P2 that follows the movement of the diaphragm 41. Specifically, using the movement calculated by the calculation unit 11, the conversion unit 12 first specifies the shape of the projection surface 51a including the moving diaphragm 41. Then, the conversion unit 12 performs, on the input image P1, a process of correcting distortion of the image projected on the projection plane 51a of the specified shape, and outputs the input image P1 subjected to the correction process as the projection image P2. . Since this correction process is well known, the detailed description is omitted.

以上で説明したとおり、画像投影システム1によれば、オーディオ信号A1の振幅から振動板41の動きを算出することができる。言いかえれば、オーディオ信号A1の波形から振動板41の動きを算出することができる。したがって、音を発するスピーカユニット40の振動板41を含む投影面51aへの画像の投影を実現することができる。   As described above, according to the image projection system 1, the movement of the diaphragm 41 can be calculated from the amplitude of the audio signal A1. In other words, the movement of the diaphragm 41 can be calculated from the waveform of the audio signal A1. Therefore, it is possible to realize the projection of the image on the projection surface 51 a including the diaphragm 41 of the speaker unit 40 that emits a sound.

以上により、振動板41の音による動きと連動した投影画像P2による表示演出が可能となる。例えば、音楽等により振動板41が動いているにもかかわらず、振動板41があたかも存在しないような画像又はあたかも静止しているかのような画像による表示演出である。逆に、振動板41の動きを強調するような画像などの表示演出であっても良い。   As described above, the display effect by the projected image P2 interlocked with the movement of the diaphragm 41 due to the sound becomes possible. For example, although the diaphragm 41 is moving by music etc., it is a display effect by the image as if the diaphragm 41 does not exist or the image as if it was still. Conversely, display effects such as an image that emphasizes the movement of the diaphragm 41 may be used.

なお、本実施形態では、振動板41の動きを、予め用意された動き情報を参照することによって、オーディオ信号A1から算出しているが、この例に限るものではない。   In the present embodiment, the movement of the diaphragm 41 is calculated from the audio signal A1 by referring to previously prepared movement information, but the present invention is not limited to this example.

例えば、オーディオ信号A1の各振幅に応じた振動板41の動きを表す情報を、オーディオ信号A1に予め付加しても良い。この場合、算出部11は、オーディオ信号A1に付加された情報から各振幅に応じた動きを算出することができる。これによって、記憶部13は不要となるので、画像処理装置10の構成を簡素化することができる。   For example, information representing the movement of the diaphragm 41 in accordance with each amplitude of the audio signal A1 may be added in advance to the audio signal A1. In this case, the calculation unit 11 can calculate the motion corresponding to each amplitude from the information added to the audio signal A1. As a result, the storage unit 13 becomes unnecessary, so the configuration of the image processing apparatus 10 can be simplified.

また、本実施形態では、振動板41の開口端41aの動きを例として説明しているが、この例に限るものではない。振動板41の動きが、振動板41の各位置によって異なる場合でも、オーディオ信号A1の各振幅に応じた振動板41の各位置の動きを算出することによって、本実施形態と同様の効果を得ることができる。   Moreover, in this embodiment, although the movement of the opening end 41a of the diaphragm 41 is demonstrated as an example, it does not restrict to this example. Even when the movement of the diaphragm 41 differs depending on each position of the diaphragm 41, the same effect as that of the present embodiment can be obtained by calculating the movement of each position of the diaphragm 41 according to each amplitude of the audio signal A1. be able to.

また、本実施形態では、スピーカ装置50はASW型のサブウーファーを構成しているが、この例に限るものではない。音を発するスピーカ装置であれば、どのような形式のスピーカ装置であっても、本発明は適用可能である。   Moreover, although the speaker apparatus 50 comprises the ASW type subwoofer in this embodiment, it does not restrict to this example. The present invention is applicable to any type of speaker device as long as it is a speaker device that emits sound.

また、本実施形態では、遊技機としてスロットマシンを例として説明しているが、この例に限るものではない。画像による視覚的な演出を行う遊技機であれば、本発明は適用可能である。   Further, in the present embodiment, a slot machine is described as an example of a gaming machine, but the present invention is not limited to this example. The present invention is applicable to any gaming machine that provides visual effects by images.

最後に、画像処理装置10の算出部11及び変換部12は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPUを用いてソフトウェアによって実現してもよい。CPUを用いて実現する場合、画像処理装置10の算出部11及び変換部12は、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラムおよび各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROMまたは記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)などを備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。   Finally, the calculation unit 11 and the conversion unit 12 of the image processing apparatus 10 may be realized by a logic circuit (hardware) formed in an integrated circuit (IC chip) or the like, or realized by software using a CPU. May be In the case of realization using a CPU, the calculation unit 11 and the conversion unit 12 of the image processing apparatus 10 are a CPU that executes instructions of a program that is software that realizes each function, the computer and the various data are computer (or CPU) The ROM or the storage device (these are referred to as a "recording medium") readably recorded, a RAM (Random Access Memory) for expanding the program, and the like are provided. The object of the present invention is achieved by the computer (or CPU) reading the program from the recording medium and executing the program. As the recording medium, a “non-transitory tangible medium”, for example, a tape, a disk, a card, a semiconductor memory, a programmable logic circuit or the like can be used. The program may be supplied to the computer via any transmission medium (communication network, broadcast wave, etc.) capable of transmitting the program. The present invention can also be realized in the form of a data signal embedded in a carrier wave, in which the program is embodied by electronic transmission.

本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。   The present invention is not limited to the above-described embodiments, and various modifications can be made within the scope of the claims, and embodiments obtained by appropriately combining the technical means disclosed in the different embodiments. Is also included in the technical scope of the present invention.

1 画像投影システム、10 画像処理装置、11 算出部、12 変換部、13 記憶部、20 オーディオ処理装置、30 投影装置、40 スピーカユニット、41 振動板、50 スピーカ装置、50a 表示面、51a 投影面、100 スロットマシン(遊技機)、A1 オーディオ信号、A2 オーディオ信号、P1 入力画像、P2 投影画像   Reference Signs List 1 image projection system, 10 image processing device, 11 calculation unit, 12 conversion unit, 13 storage unit, 20 audio processing device, 30 projection device, 40 speaker unit, 41 diaphragm, 50 speaker device, 50a display surface, 51a projection surface , 100 slot machine (game machine), A1 audio signal, A2 audio signal, P1 input image, P2 projection image

Claims (6)

供給されるオーディオ信号の振幅に応じて動く振動板を含むスピーカ装置と、
上記スピーカ装置に供給されるオーディオ信号の振幅に応じた上記振動板の動きを用いて、入力画像を投影画像に変換する処理を行う画像処理装置と、
上記画像処理装置から出力される投影画像を、上記振動板に投影する投影装置と
を備えることを特徴とする画像投影システム。
A speaker device including a diaphragm that moves according to the amplitude of the supplied audio signal;
An image processing apparatus that performs processing of converting an input image into a projection image using movement of the diaphragm in accordance with the amplitude of an audio signal supplied to the speaker apparatus;
An image projection system comprising: a projection device for projecting a projection image output from the image processing device onto the diaphragm.
上記画像処理装置は、
予め用意された、上記スピーカ装置に供給されるオーディオ信号の振幅と上記振動板の動きとの対応関係を参照することによって、上記オーディオ信号の振幅から、上記振動板の動きを算出する算出部を有することを特徴とする請求項1に記載の画像投影システム。
The image processing apparatus is
A calculation unit for calculating the movement of the diaphragm from the amplitude of the audio signal by referring to the correspondence relationship between the amplitude of the audio signal supplied to the speaker device and the movement of the diaphragm, which is prepared in advance. The image projection system according to claim 1, comprising:
上記オーディオ信号には、上記オーディオ信号の各振幅に応じた上記振動板の動きを表す情報が予め付加されていることを特徴とする請求項1に記載の画像投影システム。   2. The image projection system according to claim 1, wherein information representing the movement of the diaphragm in accordance with each amplitude of the audio signal is added in advance to the audio signal. 上記スピーカ装置は、その内部空間が、それぞれが密閉空間である前室及び後室に分けられており、
上記投影装置は、上記前室の内部に配置されていることを特徴とする請求項1〜3のいずれか1項に記載の画像投影システム。
In the speaker device, the internal space is divided into a front room and a rear room, each of which is a closed space,
The image projection system according to any one of claims 1 to 3, wherein the projection device is disposed inside the front chamber.
請求項1から4のいずれか1項に記載された画像投影システムを備える遊技機。   A gaming machine comprising the image projection system according to any one of claims 1 to 4. 供給されるオーディオ信号の振幅に応じて動く振動板を含むスピーカ装置に供給されるオーディオ信号の振幅に応じた上記振動板の動きを用いて、入力画像を投影画像に変換する処理を行う変換部と、
上記オーディオ信号の振幅から、上記振動板の動きを算出する算出部と
を備えることを特徴とする画像処理装置。
A conversion unit that performs processing of converting an input image into a projection image using the movement of the diaphragm according to the amplitude of the audio signal supplied to the speaker apparatus including the diaphragm that moves according to the amplitude of the supplied audio signal When,
An image processing apparatus comprising: a calculation unit that calculates the movement of the diaphragm from the amplitude of the audio signal.
JP2017080614A 2017-04-14 2017-04-14 Image projection system and gaming machine Active JP6922368B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017080614A JP6922368B2 (en) 2017-04-14 2017-04-14 Image projection system and gaming machine

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017080614A JP6922368B2 (en) 2017-04-14 2017-04-14 Image projection system and gaming machine

Publications (2)

Publication Number Publication Date
JP2018182562A true JP2018182562A (en) 2018-11-15
JP6922368B2 JP6922368B2 (en) 2021-08-18

Family

ID=64276089

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017080614A Active JP6922368B2 (en) 2017-04-14 2017-04-14 Image projection system and gaming machine

Country Status (1)

Country Link
JP (1) JP6922368B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56161788A (en) * 1980-05-16 1981-12-12 Victor Co Of Japan Ltd Three dimensional display device
JPS60257419A (en) * 1984-06-04 1985-12-19 Koichi Toyoshima Device for oscillating plane mirror with large amplitude in parallel
JPH03278792A (en) * 1990-03-28 1991-12-10 Victor Co Of Japan Ltd Three-dimension display device
JPH0425389U (en) * 1990-06-26 1992-02-28
JP2010060745A (en) * 2008-09-02 2010-03-18 Tohoku Univ Display device
WO2014165863A2 (en) * 2013-04-05 2014-10-09 Keane Sean Frederick A system for capturing transmitting, and displaying volumetric data
JP2018506879A (en) * 2014-12-08 2018-03-08 ヴォクソン, シーオーVoxon, Co Volumetric 3D display

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56161788A (en) * 1980-05-16 1981-12-12 Victor Co Of Japan Ltd Three dimensional display device
JPS60257419A (en) * 1984-06-04 1985-12-19 Koichi Toyoshima Device for oscillating plane mirror with large amplitude in parallel
JPH03278792A (en) * 1990-03-28 1991-12-10 Victor Co Of Japan Ltd Three-dimension display device
JPH0425389U (en) * 1990-06-26 1992-02-28
JP2010060745A (en) * 2008-09-02 2010-03-18 Tohoku Univ Display device
WO2014165863A2 (en) * 2013-04-05 2014-10-09 Keane Sean Frederick A system for capturing transmitting, and displaying volumetric data
JP2018506879A (en) * 2014-12-08 2018-03-08 ヴォクソン, シーオーVoxon, Co Volumetric 3D display

Also Published As

Publication number Publication date
JP6922368B2 (en) 2021-08-18

Similar Documents

Publication Publication Date Title
US9544706B1 (en) Customized head-related transfer functions
KR101879478B1 (en) Method to extend laser depth map range
JP4926916B2 (en) Information processing apparatus, information processing method, and computer program
JP7482147B2 (en) Audio Systems for Virtual Reality Environments
KR102230645B1 (en) Virtual reality, augmented reality and mixed reality systems with spatialized audio
KR20140144410A (en) Beamforming method and apparatus for sound signal
US10021505B2 (en) Control apparatus, measurement system, control method, and storage medium
TWI622957B (en) Method and virtual reality device for improving image quality
CN111311757A (en) Scene synthesis method and device, storage medium and mobile terminal
US9921054B2 (en) Shooting method for three dimensional modeling and electronic device supporting the same
US9300930B2 (en) Multi-segment brightness compensation
US20230345196A1 (en) Augmented reality interaction method and electronic device
US10267868B1 (en) Identifying a location of an audio device relative to a mobile device
TW201901614A (en) Method and device for improving image quality by using multi-resolution
US11812222B2 (en) Technique for directing audio in augmented reality system
KR20160146775A (en) Adaptive re-meshing for view interpolation from images with depth or disparity
US11653170B2 (en) In-ear speaker
JP6922368B2 (en) Image projection system and gaming machine
US10212529B1 (en) Holographic visualization of microphone polar pattern and range
JP2019219248A (en) Point group processor, method for processing point group, and program
CN112927718B (en) Method, device, terminal and storage medium for sensing surrounding environment
US10785367B2 (en) Audio processing method and terminal device
CN109982197B (en) Area reproduction method, computer-readable recording medium, and area reproduction system
US11363374B2 (en) Signal processing apparatus, method of controlling signal processing apparatus, and non-transitory computer-readable storage medium
EP4394337A1 (en) Audio signal processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R151 Written notification of patent or utility model registration

Ref document number: 6922368

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151