JP6098326B2 - 情報処理装置および記憶媒体 - Google Patents

情報処理装置および記憶媒体 Download PDF

Info

Publication number
JP6098326B2
JP6098326B2 JP2013087526A JP2013087526A JP6098326B2 JP 6098326 B2 JP6098326 B2 JP 6098326B2 JP 2013087526 A JP2013087526 A JP 2013087526A JP 2013087526 A JP2013087526 A JP 2013087526A JP 6098326 B2 JP6098326 B2 JP 6098326B2
Authority
JP
Japan
Prior art keywords
food
unit
drink
control signal
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013087526A
Other languages
English (en)
Other versions
JP2014211748A5 (ja
JP2014211748A (ja
Inventor
佐古 曜一郎
曜一郎 佐古
竹原 充
充 竹原
博幸 花谷
博幸 花谷
智也 大沼
智也 大沼
有希 甲賀
有希 甲賀
林 和則
和則 林
鎌田 恭則
恭則 鎌田
今 孝安
孝安 今
宏平 浅田
宏平 浅田
丹下 明
明 丹下
隆俊 中村
隆俊 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013087526A priority Critical patent/JP6098326B2/ja
Priority to US14/225,530 priority patent/US9799232B2/en
Priority to CN201410145419.6A priority patent/CN104113683B/zh
Publication of JP2014211748A publication Critical patent/JP2014211748A/ja
Publication of JP2014211748A5 publication Critical patent/JP2014211748A5/ja
Application granted granted Critical
Publication of JP6098326B2 publication Critical patent/JP6098326B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/0092Nutrition

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Nutrition Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Educational Administration (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Technology (AREA)
  • Circuit Arrangement For Electric Light Sources In General (AREA)
  • Processing Or Creating Images (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、情報処理装置および記憶媒体に関する。
近年、食生活管理を支援する装置が提案されている。
例えば、下特許文献1には、料理が用意された食卓を照明する照明手段と、食卓を撮影可能な状態で照明手段に設置された撮像手段とを有し、容易に飲食物を記録することができると共に、ストロボ等のカメラ専用の照明が不要となるため、コストを低減することができる撮影システムが開示されている。
また、下記特許文献2には、イベントが進行する時間の経過と共に、顧客に対応した照明手段の照明を変化させる演出を行って、顧客満足度を向上させるイベント演出システムが開示されている。
特開2008−193570号公報 特開2009−151616号公報
しかしながら、特許文献1では、食事中か否かに応じて、また、料理の食材によって照明を変更する点については何ら考慮されていない。
また、特許文献2では、照明を変化させてイベントを演出する点については言及されているが、料理や食材に応じて、料理や食材を美味しく見せるための照明制御や、食欲を抑制するための照明制御等については何ら考慮されていない。
そこで、本開示では、飲食物に対して照明効果を付加することで食生活を支援することが可能な、新規かつ改良された情報処理装置および記憶媒体を提案する。
本開示によれば、ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、前記判別部による判別結果に応じて、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して照明効果を付加する付加部に制御信号を出力するよう制御する制御部と、を備える、情報処理装置を提案する。
本開示によれば、コンピュータを、ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、前記判別部による判別結果に応じて、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して照明効果を付加する付加部に制御信号を出力するよう制御する制御部と、として機能させるためのプログラムが記憶された記憶媒体を提案する。
以上説明したように本開示によれば、飲食物に対して照明効果を付加することで食生活を支援することが可能となる。
本開示の一実施形態による照明システムの概要を説明するための図である。 本実施形態によるHMDの内部構成の一例を示すブロック図である。 本実施形態によるサーバの内部構成の一例を示すブロック図である。 蛍光灯的照明効果を付加した場合と、白熱灯的照明効果を付加した場合における料理の見え方の違いについて説明するための図である。 飲食物に対して、白熱灯的効果と、飲食物の状態の良さを演出するための画像を付加した場合の一例を示す図である。 食器やテーブルに対して、飲食物の状態の良さ/悪さを演出するための画像を付加した場合の一例を示す図である。 本実施形態による第1の照明制御の処理を示すフローチャートである。 本実施形態による第2の照明制御の処理を示すフローチャートである。 本実施形態による白熱灯的/蛍光灯的照明効果を画像処理により付加する場合の処理を示すフローチャートである。 本実施形態による混合型の動作処理を示すフローチャートである。 本実施形態による混合型モード対応の動作処理を示すフローチャートである。 本実施形態による混合型モード対応の動作処理を示すフローチャートである。 他の実施形態によるHMDの主制御部の機能構成を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、説明は以下の順序で行うものとする。
1.本開示の一実施形態による照明システムの概要
2.基本構成
2−1.HMDの基本構成
2−2.サーバの基本構成
3.動作処理
3−1.第1の照明制御
3−2.第2の照明制御
3−3.画像処理
3−4.混合型
3−5.混合型モード対応
4.他の実施形態
5.まとめ
<<1.本開示の一実施形態による照明システムの概要>>
まず、本開示の一実施形態による照明システムの概要について、図1を参照して説明する。
図1は、本開示の一実施形態による照明システムの概要を説明するための図である。図1に示すように、本実施形態による照明システムは、ユーザ8に装着されるHMD1、サーバ30、および照明装置40を含む。
サーバ30(情報処理装置)は、ネットワーク上に存在し、無線LAN等を介してHMD1および照明装置40と通信することができる。
HMD(Head Mounted Display)1は、図1に示すように、眼鏡型であって、ユーザ8に装着されている。HMD1は、例えば両側頭部から後頭部にかけて半周回するようなフレームの構造の装着ユニットを有し、図1に示すように両耳殻にかけられることでユーザ8に装着される。
また、HMD1は、装着状態において、ユーザ8の両眼の直前、即ち通常の眼鏡におけるレンズが位置する場所に、左眼用と右眼用の一対の表示部2が配置される構成となっている。表示部2には、例えば撮像レンズ3aで撮像された現実空間に存在する料理S1、S2、S3の撮像画像が表示される。また、表示部2は透過型であってもよく、HMD1により表示部2がスルー状態、即ち透明または半透明の状態とされることで、ユーザ8は、HMD1を眼鏡のように常時装着していても通常の生活には支障がない。
また、HMD1には、図1に示すように、ユーザ8に装着された状態で、ユーザが視認する方向を被写体方向として撮像するように、前方に向けて撮像レンズ3aが配置されている。さらに、撮像レンズ3aによる撮像方向に対して照明を行う発光部4aが設けられる。発光部4aは例えばLED(Light Emitting Diode)により形成される。
また、図1では左耳側しか示されていないが、装着状態でユーザの右耳孔および左耳孔に挿入できる一対のイヤホンスピーカ5aが設けられる。また、右眼用の表示部2の右方と、左眼用の表示部2の左方に、外部音声を集音するマイクロホン6a、6bが配置される。
また、HMD1には、図1に示すように、ユーザ8に装着された状態で、ユーザが視認する方向を投影方向として画像を投影するように、前方に向けて投影レンズ7aが配置されている。
なお、図1に示すHMD1の外観は一例であり、HMD1をユーザが装着するための構造は多様に考えられる。HMD1は、一般に眼鏡型、あるいは頭部装着型とされる装着ユニットで形成されればよく、少なくとも本実施の形態としては、ユーザの眼の前方に近接して表示部2が設けられていればよい。また表示部2は、両眼に対応して一対設けられる他、片側の眼に対応して1つ設けられる構成でもよい。
また、撮像レンズ3a、照明を行う発光部4aは、図1に示す例では右眼側に前方に向けて配置されているが、左眼側に配置されてもよいし、両側に配置されてもよい。
また、投影レンズ7aは、図1に示す例では左眼側に前方に向けて配置されているが、右眼側に配置されてもよいし、両側に配置されてもよい。
また、イヤホンスピーカ5aは、左右のステレオスピーカとせずに、一方の耳にのみ装着するために1つ設けられるのみでもよい。また、マイクロホンも、マイクロホン6a、6bのうちの一方でもよい。
さらに、マイクロホン6a、6b、イヤホンスピーカ5a、発光部4a、または投影レンズ7aを備えない構成も考えられる。
照明装置40は、白熱灯照明部41および蛍光灯照明部42を含み、HMD1またはサーバ30からの指示に応じて、白熱灯照明部41および蛍光灯照明部42の少なくともいずれかの照明制御を行う。
(背景)
ここで、蛍光灯と白熱灯の特長を比較すると、一般的に以下のようなことが知られている。
例えば蛍光灯は、白熱灯より少ない消費電力で、白熱灯と同じ明るさを提供することできる。つまり、同じワット数であれば、白熱灯より蛍光灯の方が明るいという特長がある。また、一般的に蛍光灯ランプの寿命は白熱灯ランプよりも長い。したがって、蛍光灯を利用した方が、ランニングコストが安いといえる。
一方、操作性の面からは、点灯してから明るさが安定するまでの時間が、蛍光灯よりも白熱灯の方が短いので、比較的短い時間しか点灯しないトイレや玄関、廊下等には、白熱灯が用いられることが多い。
このように、蛍光灯と白熱灯には各々特長があり、用途や目的、何を重視するのかに応じて、各部屋に適切な照明が設置される。例えば長時間点灯するリビングやダイニング、キッチン、ベッドルーム等には、ランニングコストが安い蛍光灯が向いている。特に、細かい作業や、文字を読んだり勉強を行ったりする場合には、細かい部分や文字が明るくはっきり見える昼光色の蛍光灯が向いている。
しかしながら、料理を美味しく見せる明かりとしては、蛍光灯より白熱灯がよいことが知られている。食事において、味覚で感じる美味しさは当然に重要であるが、人間の五感のうち視覚で感じる美味しさも重要である。
具体的には、白熱灯ランプは、穏やかな光色によって、食欲を駆り立てる赤や黄色を強調して鮮やかに見せ、また、白熱ランプによる照明は陰影が付きやすいので、料理に立体感が出て、より一層美味しそうに見せることができる。これに対し、蛍光灯ランプの光は、昼間の太陽のような白っぽい光色で、陰影が付きにくく、全体を均一に明るくするので、料理が平坦な印象に見え、美味しく見せる効果には欠ける。このように、白熱灯の照明と、蛍光灯の照明とでは、視覚で感じる美味しさが異なり、白熱灯の照明であれば食欲が増進し、蛍光灯の照明であれば食欲が抑制されるという効果が生じる。
したがって、通常、食事の際の照明には白熱灯が向いているが、上述したように、細かい作業や文字を読む等の食事以外の作業時には蛍光灯が向いている。また、LDKが仕切られずに一体となった空間の場合に、ダイニング空間だけに白熱灯を設け、他の空間に蛍光灯を設けると、異なる光の色が同一空間にあるために違和感が生じてしまう。
そこで、上記事情を一着眼点にして本開示の各実施形態による照明システムを創作するに至った。本開示の各実施形態による照明システムは、ユーザが食事中の際、または飲食物が存在する際に、飲食物に対して所定の照明効果(白熱灯的照明効果または蛍光灯的照明効果)を付加することで食生活を支援することができる。
本実施形態による飲食物に対する照明効果の付加は、照明装置40が有する白熱灯照明部41および蛍光灯照明部42の切り替えや、料理S1〜S3を撮像レンズ3aで撮像した撮像画像に対する画像処理、またはHMD1の投影レンズ7aによる投影により行われる。このような本実施形態による照明効果の付加については、図4〜図12を参照して後述する。
以上、本実施形態による照明システムの概要について説明した。続いて、本実施形態による照明システムに含まれるHMD1およびサーバ30(情報処理装置)の基本構成について、図2〜図6を参照して説明する。
<<2.基本構成>>
<2−1.HMDの基本構成>
図2は、本実施形態によるHMD1の内部構成の一例を示すブロック図である。図2に示すように、本実施形態によるHMD1は、表示部2、撮像部3、照明部4、音声出力部5、音声入力部6、投影部7、主制御部10、撮像制御部11、撮像信号処理部12、撮像画像解析部13、照明制御部14、音声信号処理部15、表示制御部17、音声制御部18、投影制御部19、通信部21、およびストレージ部22を有する。
(主制御部10)
主制御部10は、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、不揮発性メモリ、インタフェース部を備えたマイクロコンピュータにより構成され、HMD1の各構成を制御する。
本実施形態による主制御部10は、撮像部3により撮像された撮像画像を、通信部21を介してサーバ30に送信するよう制御する。主制御部10は、撮像部3により継続的に撮像された撮像画像を、通信部21を介してサーバ30にリアルタイムで逐次送信してもよい。また、主制御部10は、サーバ30から受信した指示(制御信号)に従って、撮像画像に対して所定の照明効果を付加するための画像処理を施すよう表示制御部(画像処理部)を制御する。
(撮像部)
撮像部3は、図1に示す撮像レンズ3a、絞り、ズームレンズ、及びフォーカスレンズ等により構成されるレンズ系、レンズ系に対してフォーカス動作やズーム動作を行わせる駆動系、レンズ系で得られる撮像光を光電変換して撮像信号を生成する固体撮像素子アレイ等を有する。固体撮像素子アレイは、例えばCCD(Charge Coupled Device)センサアレイや、CMOS(Complementary Metal Oxide Semiconductor)センサアレイにより実現されてもよい。
(撮像制御部)
撮像制御部11は、主制御部10からの指示に基づいて、撮像部3及び撮像信号処理部12の動作を制御する。例えば撮像制御部11は、撮像部3、撮像信号処理部12の動作のオン/オフを制御する。また撮像制御部11は撮像部3に対して、オートフォーカス、自動露出調整、絞り調整、ズームなどの動作を実行させるための制御(モータ制御)を行うものとされる。また撮像制御部11はタイミングジェネレータを備え、固体撮像素子及び撮像信号処理部12のサンプルホールド/AGC回路、ビデオA/Dコンバータに対しては、タイミングジェネレータにて生成されるタイミング信号により信号処理動作を制御する。また、このタイミング制御により撮像フレームレートの可変制御も可能とされる。
さらに撮像制御部11は、固体撮像素子及び撮像信号処理部12における撮像感度や信号処理の制御を行う。例えば撮像感度制御として固体撮像素子から読み出される信号のゲイン制御を行ったり、黒レベル設定制御や、デジタルデータ段階の撮像信号処理の各種係数制御、ぶれ補正処理における補正量制御などを行うことができる。
(撮像信号処理部)
撮像信号処理部12は、撮像部3の固体撮像素子によって得られる信号に対するゲイン調整や波形整形を行うサンプルホールド/AGC(Automatic Gain Control)回路や、ビデオA/D(アナログ/デジタル)コンバータを備える。これにより、撮像信号処理部12は、デジタルデータとしての撮像信号を得る。また、撮像信号処理部12は、撮像信号に対してホワイトバランス処理、輝度処理、色信号処理、ぶれ補正処理なども行う。
(撮像画像解析部)
撮像画像解析部13は、外界情報を取得するための構成の一例である。具体的には、撮像画像解析部13は、撮像部3により撮像され、撮像信号処理部12により処理された画像データ(撮像画像)を解析し、画像データに含まれる画像の情報を得る。具体的には、例えば撮像画像解析部13は、画像データに対して点検出、線・輪郭検出、領域分割等の解析を行い、解析結果を主制御部10に出力する。
(照明部、照明制御部)
照明部4は、図1に示した発光部4aとその発光部4aを発光させる発光回路から成る。照明制御部14は、主制御部10の制御に応じて、照明部4に発光動作を実行させる。照明部4における発光部4aが図1に示したように前方に対する照明を行うものとして取り付けられていることで、照明部4はユーザの視界方向に対する照明動作を行うことになる。
(音声入力部、音声信号処理部)
音声入力部6は、図1に示したマイクロホン6a、6bと、そのマイクロホン6a、6bで得られた音声信号を増幅処理するマイクアンプ部やA/D変換器を有し、音声データを音声信号処理部15に出力する。音声信号処理部15は、音声入力部6で得られた音声データに対して、ノイズ除去、音源分離等の処理を行う。そして処理した音声データを主制御部10に供給する。本実施形態によるHMD1は、音声入力部6および音声信号処理部15を備えることで、例えばユーザによる音声入力を可能にする。
(表示制御部)
表示制御部17は、主制御部10の制御に従って、表示部2に表示する所定の画像データを処理する画像処理部として機能する。具体的には、表示制御部17は、例えばビデオプロセッサ、デジタルシグナルプロセッサ、D/A変換器などを含み、表示画像データの生成、生成した表示画像データの輝度レベル調整、色補正、コントラスト調整、シャープネス(輪郭強調)調整等を行う。
また、表示制御部17は、主制御部10の制御に応じて、所定の画像データを表示部2に表示するよう制御する駆動制御部としても機能する。具体的には、表示制御部17は、例えば液晶ディスプレイとされる表示部2に画像データを表示させるための画素駆動回路を含む。また、表示制御部17(駆動制御部)は、表示部2の各画素の透過率を制御し、表示部2をスルー状態(透過、半透過状態)または非スルー状態にすることもできる。
本実施形態による表示制御部17(画像処理部)は、主制御部10の制御に従って、撮像された飲食物に対して所定の照明効果を付加するための画像処理を行う。所定の照明効果とは、白熱灯で照明したような穏やかな光色(オレンジ色)によって赤や黄を強調し、点照明により陰影がつきやすいという白熱灯的な照明効果、または蛍光灯で照明したような白い光色によって全体を均一に明るくし、面照明により陰影がつきにくいという蛍光灯的な照明効果である。そして、表示制御部17が所定の照明効果を付加した画像を表示部2に表示することで、料理をより一層美味しく見せて食欲を増進、または料理が美味しくないように見せて食欲を抑制させることができる。
(表示部)
表示部2は、例えば液晶ディスプレイにより実現され、図1に示すように、HMD1がユーザ8に装着された状態で、ユーザ8の両眼の直前、即ち通常の眼鏡におけるレンズが位置する場所に、左眼用と右眼用の一対で配置される。また、表示部2は、表示制御部17の制御により、スルー状態または非スルー状態とされ得る。例えば非スルー状態にされた際、表示部2には、撮像レンズ3aで料理S1〜S3を撮像した撮像画像に対して表示制御部17により所定の照明効果が付加されるよう画像処理された画像が表示される。
(音声制御部)
音声制御部18は、主制御部10の制御に応じて、音声信号データの生成、生成した音声信号データの音量調整、音質調整、音響エフェクト等を行う。また、音声制御部18は、主制御部10の制御に応じて、所定の音声信号データを音声出力部5から出力するための制御を行う。
(音声出力部)
音声出力部5は、図1に示した一対のイヤホンスピーカ5aと、そのイヤホンスピーカ5aに対するアンプ回路を有する。また、音声出力部5は、いわゆる骨伝導スピーカとして構成されてもよい。音声出力部5は、音声制御部18による制御に従って、音声信号データを出力(再生)する。
(投影制御部)
投影制御部19は、主制御部10の制御に従って、投影部7から投影する所定の画像データを処理する。また、投影制御部19は、主制御部10の制御に応じて、所定の画像データを投影部7から投影するよう制御する駆動制御部としても機能する。
(投影部)
投影部7は、図1に示す投影レンズ7a、液晶パネル、集光レンズ、光源等の光学系を有する。光源から射出された光は、集光レンズ、液晶パネル、投影レンズ7aを介して出射し、HMD1の前方に映像を投影する。また、投影部7によるプロジェクションマッピング(PM)技術を用いた投影も可能である。
ここで、液晶パネルは、入射された光を変調し(映像信号に応じて画像を形成するための光変調部としての機能を実現し)、投影レンズ7aへ出射する。液晶パネルは、上記投影制御部19により、所定の画像データを形成するよう駆動される。また、集光レンズおよび投影レンズ7aは、上記投影制御部19により駆動され、投影画像の照度、投影方向、フォーカス等の調整が行われる。
(ストレージ部)
ストレージ部22は、所定の記録媒体に対してデータの記録再生を行う部位とされる。ストレージ部22は、例えばHDD(Hard Disc Drive)として実現される。もちろん記録媒体としては、フラッシュメモリ等の固定メモリ、固定メモリを内蔵したメモリカード、光ディスク、光磁気ディスク、ホログラムメモリなど各種考えられ、ストレージ部22としては採用する記録媒体に応じて記録再生を実行できる構成とされればよい。
(通信部)
通信部21は外部機器との間でのデータの送受信を行う。通信部21は、例えば無線LAN(Local Area Network)、Wi−Fi(Wireless Fidelity、登録商標)、赤外線通信、Bluetooth(登録商標)等の方式で、外部機器と直接、またはネットワークアクセスポイントを介して無線通信する。
例えば通信部21は、図1に示すサーバ30と無線通信する。
以上、本実施形態によるHMD1の内部構成について詳細に説明した。なお、音声系の構成として、音声出力部5、音声入力部6、音声信号処理部15、音声制御部18を示したが、これらは必ずしも全てを備える必要はない。
<2−2.サーバの基本構成>
次に、本実施形態による照明システムに含まれるサーバ30の構成について図3を参照して説明する。図3は、本実施形態によるサーバ30の内部構成の一例を示すブロック図である。
図3に示すように、サーバ30は、主制御部31、記憶部32、および通信部33を有する。
(主制御部)
主制御部31は、例えばCPU、ROM、RAM、不揮発性メモリ、インタフェース部を備えたマイクロコンピュータにより構成され、サーバ30の各構成を制御する。
また、本実施形態による主制御部31は、図3に示すように、判別部31a、および制御信号出力制御部31bとして機能する。
判別部31aは、HMD1から送信された撮像画像に基づいて、ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する。例えば判別部31aは、撮像画像を解析し、撮像画像中に飲食物(料理)が含まれている場合はユーザの周辺に飲食物が存在すると判別し、さらに、フォークやスプーン等で飲食物を口元に運んでいる場合はユーザが飲食物を摂取中(食事中)であると判別することができる。撮像画像の解析手法は、例えば一般的な画像解析手法が用いられる。具体的には、判別部31aは、まず、撮像画像に対して点検出、線・輪郭検出、領域分割等の解析を行い、被写体の形や大きさ、色等の特徴量データまたは局所特徴量データを抽出する。次いで、判別部31aは、記憶部32等に記憶されているモデルデータベースに登録されている各実物体(料理)の特徴量データまたは局所特徴量データと、抽出した特徴量データまたは局所特徴量データを比較し、類似度に応じて被写体が何であるかを解析する。
このように、判別部31aは、ユーザが飲食物を摂取中(食事中)であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別し、判別結果を制御信号出力制御部31bに供給する。
制御信号出力制御部31bは、判別部31aによる判別結果に応じて、実空間に存在する飲食物または飲食物の撮像画像に対して照明効果を付加する付加部に制御信号を出力するよう制御する。本明細書において、付加部とは、一例として、照明装置40(白熱灯照明部41、蛍光灯照明部42を含む)、HMD1の照明部4、投影部7(投影レンズ7aを含む)、または表示制御部17(画像処理部)により実現される。なお照明装置40、照明部4、または投影部7により照明効果が付加される場合、HMD1は表示部2を備えない構成でよい。
例えば、本実施形態による制御信号出力制御部31bは、ユーザが食事中またはユーザの周辺に飲食物が存在する場合、飲食物に対して白熱灯的な照明効果を付加するよう、通信部33を介して付加部に制御信号を送信する。これにより、料理をより一層美味しく見せることができ、ユーザ8の食欲を増進させることができる。
より具体的には、制御信号出力制御部31bは、照明装置40の白熱灯照明部41をON制御させる信号を、通信部33を介して照明装置40(付加部の一例)に送信する。または、制御信号出力制御部31bは、HMD1に設けられている照明部4が白熱灯照明可能な場合、白熱灯照明ONの制御信号を、通信部33を介してHMD1に送信する。
若しくは、制御信号出力制御部31bは、白熱灯的照明効果を付加するための画像を料理に投影するよう投影部7を制御する信号を、通信部33を介してHMD1に送信する。白熱灯的照明効果を付加するための画像とは、例えば白熱灯の光色を再現した光色画像や、料理のうち赤色や黄色を補色して色味を強調する補色画像、点照明による陰影を再現する陰影画像等である。
または、制御信号出力制御部31bは、飲食物を撮像した撮像画像に対して白熱灯的照明効果を付加するための画像処理を画像処理部(例えば表示制御部17)に行わせるための制御信号を、通信部33を介してHMD1に送信する。
このように、制御信号出力制御部31bは、飲食物または飲食物の撮像画像に対して白熱灯的照明効果を付加するための制御信号を、通信部33を介して各付加部に送信する。
なお本実施形態による制御信号出力制御部31bは、ユーザが食事中またはユーザの周辺に飲食物が存在する場合であって、設定された飲食モードが食欲を減退させることを目的とするモードである場合、蛍光灯的照明効果を付加するための制御信号を付加部に送信することができる。これにより、料理が美味しくないように見せることができ、ユーザ8の食欲を減退させることができる。
ここで、図4を参照して、蛍光灯的照明効果を付加した場合と、白熱灯的照明効果を付加した場合について説明する。図4は、蛍光灯的照明効果を付加した場合と、白熱灯的照明効果を付加した場合における料理の見え方の違いについて説明するための図である。図4に示す例では、制御信号出力制御部31bから出力された制御信号に応じて、表示制御部17(画像処理部)が、飲食物を撮像した撮像画像に対して蛍光灯的/白熱灯的照明効果を付加する画像処理を行った画像P1、P2が、HMD1の表示部2に表示される場合を想定する。
より具体的には、図4に示す画像P1は、飲食物を撮像した撮像画像が、昼間の太陽のような白っぽい光色で全体が均一に明るく、陰影がなく、平坦な印象に見えるよう画像処理されることにより、蛍光灯的照明効果が付加される。これにより、視覚的な美味しさが減少し、ユーザ8の食欲が減退する。本実施形態において、蛍光灯的照明効果の付与は、特に飲食モードが食欲減退(ダイエット)モードに設定されている場合に行われる。
一方、図4に示す画像P2は、飲食物を撮像した撮像画像が、白熱灯で照明したような穏やかな光色(オレンジ色)によって赤や黄を強調し、各料理や料理が盛られた食器に陰影をつけて立体的に見えるよう画像処理されることより、白熱灯的照明効果が付加される。これにより、視覚的な美味しさが増加し、ユーザ8の食欲が増進する。本実施形態において、白熱灯的照明効果の付与は、特に飲食モードが料理を美味しく見せるモードに設定されている場合に行われる。
以上、制御信号出力制御部31bから出力された制御信号に応じた蛍光灯的/白熱灯的照明効果の付加について具体的に説明した。
なお、さらに本実施形態による制御信号出力制御部31bは、飲食物または飲食物の撮像画像に対して、投影部7による投影または画像処理部による画像処理により、飲食物の状態の良さ/悪さを演出するための画像を付加するよう指示する制御信号を付加部に出力することができる。
飲食物の状態の良さを演出するための画像としては、食品の活きのよさや瑞々しさと言った「美味しそうな印象」を視覚的に与え、食欲を増進させるもの(「シズル感」とも称される)が挙げられる。より具体的には、例えば調理された肉から滴り落ちる肉汁や焦げ目、温かい料理(温かい飲み物を含む)であれば料理から立ち上がる湯気、冷たい料理(冷たい飲み物を含む)であれば料理周辺の冷気、表面の水滴、果物や野菜であれば表面の水滴、切り口の水滴等が該当する。
ここで、図5を参照して、飲食物の状態の良さを演出するための画像を付加した場合について説明する。図5は、飲食物に対して、白熱灯的効果と、飲食物の状態の良さを演出するための画像を付加した場合の一例を示す図である。図5に示す例では、制御信号出力制御部31bから出力された制御信号に応じて、表示制御部17(画像処理部)が、飲食物を撮像した撮像画像に対して飲食物の状態の良さを演出するための画像を付加した画像P3が、HMD1の表示部2に表示される場合を想定する。
図5に示すように、飲食物の状態の良さを演出するための画像として、各飲食物に応じて、水滴画像50、53、テカリを強調した肉汁画像51、湯気画像52を付加する。なおどの飲食物に対してどのような画像を付加するかについては、サーバ30の制御信号出力制御部31bから出力された制御信号に従って行われる。
また、飲食物の状態の良さを演出するための画像は、投影部7により実空間の飲食物に直接投影されてもよい。この際、投影部7は、例えばプロジェクションマッピング(PM)技術を用いて画像を投影してもよい。
さらに、飲食物(料理)の状態の良さ/悪さの視覚的な印象は、飲食物が盛られている食器の色や柄、飲食物が置かれているテーブル(またはランチョンマット)の色や柄等にも影響される。例えば、暖色系や、飲食物(料理)の色を補色する色、類似する色、同系の色は、料理をより一層美味しく見せることが知られている。一方、寒色系の色は、料理の美味しさを減少させ、また、斑状、星状、波形の線等の模様は視覚的刺激が強く、目がチカチカするといった現象が起きる。
そこで、本実施形態による表示制御部17(画像処理部)または投影部7は、食器やテーブルの色または模様を変化させて、飲食物(料理)の状態の良さ/悪さを演出し、ユーザ8の食欲を増進/減退させることも考え得る。以下、図6を参照して具体的に説明する。
図6は、食器やテーブルに対して、飲食物の状態の良さ/悪さを演出するための画像を付加した場合の一例を示す図である。図6に示す例では、制御信号出力制御部31bから出力された制御信号に応じて、表示制御部17(画像処理部)が、飲食物を撮像した撮像画像に対して飲食物の状態の良さ/悪さを演出するための画像処理を行った画像P4、P5が、HMD1の表示部2に表示される場合を想定する。
より具体的には、図6の画像P4に示すように、撮像画像中の飲食物が置かれているテーブルの柄を、視覚的刺激が強く、目がチカチカするといった現象を起こさせる柄に変更することで、飲食物の状態を悪く見せ、食欲を減少させることができる。
一方、図6の画像P5に示すように、撮像画像中の飲食物が置かれているテーブルの色を、例えば暖色系の色に変更し、また、食器を輝かせて艶を出す画像処理を行うことで、飲食物の状態を良く見せ、食欲を増進させることができる。
なお、各食器やテーブルに対してどのような色、柄等に変更するかについては、サーバ30の制御信号出力制御部31bから出力された制御信号に従って行われる。
また、このような飲食物の状態の良さ/悪さを演出するための画像(色画像、柄画像等)は、投影部7により実空間の食器やテーブルに直接投影されてもよい。この際、投影部7は、例えばプロジェクションマッピング(PM)技術を用いて画像を投影してもよい。
以上説明したように、本実施形態によるサーバ30の制御信号出力制御部31bは、HMD1または照明装置40に対して、飲食物または飲食物の撮像画像に白熱灯的/蛍光灯的照明効果を付加するための制御信号を出力する。さらに、サーバ30の制御信号出力制御部31bは、HMD1に対して、飲食物または飲食物の撮像画像に、飲食物の状態の良さ/悪さを演出するための画像を付加するための制御信号を出力する。
(記憶部)
記憶部32は、所定の記録媒体に対してデータの記録再生を行う部位とされる。記憶部32は、例えばHDDとして実現される。もちろん記録媒体としては、フラッシュメモリ等の固定メモリ、固定メモリを内蔵したメモリカード、光ディスク、光磁気ディスク、ホログラムメモリなど各種考えられ、記憶部32としては採用する記録媒体に応じて記録再生を実行できる構成とされればよい。
また、本実施形態による記憶部32は、判別部31aが撮像画像から被写体を認識する際に用いるモデルデータベースや、飲食物の状態の良さ/悪さを演出するための画像を生成するための画像情報等を記憶する。
(通信部)
通信部33は外部機器との間でのデータの送受信を行う。通信部33は、例えば無線LAN(Local Area Network)等の方式で、外部機器と直接、またはネットワークアクセスポイントを介して無線通信する。
例えば通信部33は、少なくとも1以上のHMD1と無線通信し、ユーザに装着されたHMD1に設けられた撮像部3により撮像された撮像画像を受信する。また、通信部33は、制御信号出力制御部31bの制御に従って、HMD1または照明装置40に制御信号を送信する。
<<3.動作処理>>
以上、本実施形態による照明システムに含まれるHMD1およびサーバ30の基本構成について具体的に説明した。続いて、本実施形態による照明システムの動作処理について、図7〜図12を参照して具体的に説明する。
<3−1.第1の照明制御>
図7は、本実施形態による第1の照明制御の処理を示すフローチャートである。図7に示すように、ステップS103において、まず、HMD1は、撮像部3により撮像を開始する。撮像開始のトリガは、ユーザによる撮像開始指示に従ってでもよいし、予め設定された食事時間帯に従ってでもよい。HMD1は、撮像した撮像画像をサーバ30に送信する。
次いで、ステップS106において、サーバ30の判別部31aは、HMD1から送信された撮像画像を解析し、食事中であるか否か、または飲食物が存在するか否かを判別する。判別部31aは、判別結果を制御信号出力制御部31bに供給する。
次に、ステップS109において、サーバ30の制御信号出力制御部31bは、判別部31aにより、ユーザが食事中または飲食物が存在すると判別された場合、白熱灯による全体照明を行うための制御信号を、照明装置40に送信するよう制御する。
これにより、ユーザ8が食事を行う際、照明装置40の白熱灯照明部41により自動的に白熱灯の照明が行われ、料理がより一層美味しく見える。なお食事が終わった後や、飲食物が存在しなくなった場合は、サーバ30の制御信号出力制御部31bが、蛍光灯による全体照明を行うための制御信号を照明装置40に送信することで、自動的に蛍光灯の照明が行われ、食事の片付けや他の作業に最適な照明となる。
<3−2.第2の照明制御>
図8は、本実施形態による第2の照明制御の処理を示すフローチャートである。図8に示すように、ステップS103、S106は、図7に示す同ステップの処理と同様であるので、ここでの説明は省略する。
次いで、ステップS107において、判別部31aは、ユーザ8が食事中、または飲食物が存在する場合、さらに飲食物の種類(例えば各皿毎の料理の種類)を個別に識別することが可能であるか否かを判断する。例えば図1に示す例では、料理S1〜S3を画像解析によりそれぞれ個別に識別することが可能であるか否かを判断する。より具体的には、判別部31aは、撮像画像に料理が1つしか写っていない場合や、複数写っている料理の種類までは識別できない場合、個別に識別することができないと判断する。判別部31aは、判断結果を制御信号出力制御部31bに供給する。
次に、個別に識別できないと判断された場合(S107/No)、ステップS109において、図7に示す同ステップと同様の処理を行う。すなわち、サーバ30の制御信号出力制御部31bは、飲食物に対して白熱灯による全体照明を行うための制御信号を照明装置40に送信するよう制御する。
これにより、ユーザ8が食事を行う際、照明装置40の白熱灯照明部41により自動的に白熱灯の照明が行われ、料理がより一層美味しく見える。なお食事が終わった後や、飲食物が存在しなくなった場合は、サーバ30の制御信号出力制御部31bが、蛍光灯による全体照明を行うための制御信号を照明装置40に送信することで、自動的に蛍光灯の照明が行われ、食事の片付けや他の作業に最適な照明となる。
一方、個別に識別できると判断された場合(S107/Yes)、ステップS112において、サーバ30の制御信号出力制御部31bは、判別部31aに識別された各料理の種類に応じて個別に照明するための制御信号を、HMD1に送信するよう制御する。個別の照明は、例えばHMD1の投影部7により、プロジェクションマッピングを用いて行われる。この場合、制御信号出力制御部31bは、各料理の種類に応じて、健康によいとされる料理には、より一層美味しく見えるよう白熱灯効果を付加し、健康に悪いとされる料理には、美味しさが減少するよう蛍光灯的効果を付加する照明(投影)を行うための制御信号を生成し、HMD1に送信する。
このように、第2の照明制御(投影制御)によれば、判別部31aにより各料理を個別に識別できた場合、料理ごとに異なる照明効果を付加させることができ、照明システムの利便性が向上する。
<3−3.画像処理>
以上、照明装置40による照明制御、またはHMD1の投影部7による投影制御により飲食物に白熱灯的/蛍光灯的照明効果を付加する場合の動作処理について説明した。続いて、HMD1の表示制御部17(画像処理部)により、飲食物に白熱灯的/蛍光灯的照明効果を付加する場合の動作処理について図9を参照して説明する。
図9は、本実施形態による白熱灯的/蛍光灯的照明効果を画像処理により付加する場合の処理を示すフローチャートである。図9に示すように、ステップS203において、まず、HMD1は、撮像部3により撮像を開始する。HMD1は、撮像した撮像画像をサーバ30に送信する。
次いで、ステップS206において、サーバ30の判別部31aは、HMD1から送信された撮像画像を解析し、食事中であるか否か、または飲食物が存在するか否かを判別する。判別部31aは、判別結果を制御信号出力制御部31bに供給する。
続いて、ステップS208において、判別部31aは、ユーザ8が食事中、または飲食物が存在する場合、さらに飲食物に含まれる食材毎の種類(例えば各皿の中の各食材の種類)を個別に識別することが可能であるか否かを判断する。例えば図1に示す例では、料理S1(サラダ)には複数の野菜が含まれ、料理S2(メイン)にはハンバーグとエビフライという2種類の食材が含まれているので、判別部31aは、画像解析によりこれらを個別に識別することが可能であるか否かを判断する。より具体的には、判別部31aは、図1に示す料理S3(飲み物)のように、1の食材が含まれている料理が撮像画像に1つしか写っていない場合や、料理に含まれている複数の食材の種類までは識別できない場合、個別に識別することができないと判断する。判別部31aは、判断結果を制御信号出力制御部31bに供給する。
次に、食材毎に識別できないと判断された場合(S208/No)、ステップS209において、サーバ30の制御信号出力制御部31bは、画像処理により白熱灯による全体照明効果を付加するための制御信号を生成し、HMD1に送信するよう制御する。
これにより、ユーザ8が食事を行う際、HMD1の表示制御部17(画像処理部)により自動的に白熱灯的照明効果が全体(撮像画像に写る全ての料理)に付加されるよう画像処理された画像が表示部2に表示され、料理がより一層美味しく見える。
一方、食材毎に識別できると判断された場合(S208/Yes)、ステップS212において、サーバ30の制御信号出力制御部31bは、各料理に含まれる食材の種類に応じて個別に所定の照明効果を付加する画像処理を行うための制御信号をHMD1に送信するよう制御する。この場合、制御信号出力制御部31bは、各料理に含まれる各食材の種類に応じて、一般的に健康によいとされる食材には、より一層美味しく見えるよう白熱灯効果を付加し、一般的に健康に悪いとされる食材には、美味しさが減少するよう蛍光灯的効果を付加するための制御信号を生成し、HMD1に送信する。
このように、画像処理によれば、判別部31aにより各料理に含まれる各食材の種類を個別に識別できた場合、料理に含まれる食材毎に異なる照明効果を付加させることができ、照明システムの利便性が向上する。
<3−4.混合型>
以上、本実施形態による照明システムにおいて、照明装置40、HMD1の投影部7、またはHMD1の表示制御部17(画像処理部)により、白熱灯的/蛍光灯的照明効果を付加する場合の動作処理について説明した。したがって、本実施形態による照明システムは、付加部として、照明装置40、HMD1の投影部7、またはHMD1の表示制御部17(画像処理部)の少なくともいずれかを有する構成であれば、実現され得る。
また、本実施形態による照明システムは、付加部として、照明装置40、HMD1の投影部7、またはHMD1の表示制御部17(画像処理部)のうち少なくとも2以上を有する構成であってもよい。この場合、本実施形態による照明システムは、必要に応じて適切な付加部に対して制御信号を出力する混合型の動作処理を行う。以下、図10を参照して混合型の動作処理について説明する。
図10は、本実施形態による混合型の動作処理を示すフローチャートである。図10に示すように、ステップS303において、まず、HMD1は、撮像部3により撮像を開始する。HMD1は、撮像した撮像画像をサーバ30に送信する。
次いで、ステップS306において、サーバ30の判別部31aは、HMD1から送信された撮像画像を解析し、食事中であるか否か、または飲食物が存在するか否かを判別する。判別部31aは、判別結果を制御信号出力制御部31bに供給する。
続いて、ステップS307において、判別部31aは、ユーザ8が食事中、または飲食物が存在する場合、さらに飲食物の種類(例えば各皿毎の料理の種類)を個別に識別することが可能であるか否かを判断する。判別部31aによる飲食物の種類の個別識別の判断に関しては、「3−2.第2の照明制御」の際、図8のステップS107において行った説明と同様であるので、ここでの詳細説明は省略する。判別部31aは、判断結果を制御信号出力制御部31bに供給する。
次に、個別に識別できないと判断された場合(S307/No)、ステップS309において、制御信号出力制御部31bは、飲食物に対する白熱灯による全体照明を行うための制御信号を照明装置40に送信するよう制御する。これにより、ユーザ8が食事を行う際、照明装置40の白熱灯照明部41により自動的に白熱灯の照明が行われ、料理がより一層美味しく見える。
一方、個別に識別できると判断された場合(S307/Yes)、ステップS312において、サーバ30の制御信号出力制御部31bは、各料理の種類に応じて個別に所定の照明効果を付加する画像処理を行うための制御信号をHMD1に送信するよう制御する。
このように、混合型によれば、全体照明を行う場合は照明装置40に制御信号(照明制御の信号)を送信し、個別照明を行う場合はHMD1に制御信号(画像処理の信号)を送信するといったように、照明内容に応じて各々適切な付加部に制御信号を送信することができる。
<3−5.混合型モード対応>
以上、本実施形態による照明システムの各動作制御について説明したが、いずれも全体照明では白熱灯的照明効果を付加して料理をより一層美味しく見せ、また、個別照明では一般的に健康によい食べ物であるか否かに応じて、個別に異なる照明効果を付加していた。
ここで、本実施形態による照明システムは、どのような照明効果を飲食物に付加するかを決定するための飲食モードNを、ユーザにより1以上設定できるようにしてもよい。飲食モードNは、所定の各目的を達成するためのモードであって例えば以下のようなものが挙げられる。
飲食モード1:料理を美味しく見せるモード
飲食モード2:食欲減退(ダイエット)モード
飲食モード3:病気疾患予防モード
飲食モード4:体力増進モード
飲食モード5:拒食症対策モード
以下、このような飲食モードが設定されている場合の照明システムの動作処理について説明する。飲食モードの設定は、上述した「3−1.第1の照明制御」、「3−2.第2の照明制御」、「3−3.画像処理」、および「3−4.混合型」のいずれにも適用可能であるが、ここでは一例として混合型が飲食モードの設定に対応する場合について説明する。
図11および図12は、本実施形態による混合型モード対応の動作処理を示すフローチャートである。図11に示すように、ステップS403において、まず、HMD1は、撮像部3により撮像を開始する。HMD1は、撮像した撮像画像をサーバ30に送信する。
次いで、ステップS406において、サーバ30の判別部31aは、HMD1から送信された撮像画像を解析し、食事中であるか否か、または飲食物が存在するか否かを判別する。判別部31aは、判別結果を制御信号出力制御部31bに供給する。
次に、ステップS409において、制御信号出力制御部31bは、判別部31aによりユーザ8が食事中、または飲食物が存在すると判別された場合、さらに飲食モードが複数設定されているか否かを判断する。飲食モードは、HMD1においてユーザ8により設定されてもよく、設定されている飲食モードを示す情報が上記S403で撮像画像と共にHMD1からサーバ30に送信される。また、飲食モードは、ユーザ8の健康状態または医療情報に応じて自動的に設定されてもよい。ユーザ8の健康状態はユーザ8に装着された生体センサ(不図示)によりリアルタイムに検知され得る。
複数の飲食モードが設定されていない場合(S409/No)、図12に示すステップS412において、制御信号出力制御部31bは、所定の1の飲食モードNを選択する。所定の1の飲食モードNとは、HMD1においてユーザ8により選択された1の飲食モードNであってもよいし、ユーザ8が何ら選択していない場合はサーバ30において予め設定された(初期設定の)1の飲食モードNであってもよい。
続いて、ステップS415において、判別部31aは、撮像画像に写る飲食物の種類(例えば各皿毎の料理の種類)を個別に識別することが可能であるか否かを判断する。判別部31aによる飲食物の種類の個別識別の判断に関しては、「3−2.第2の照明制御」の際、図8のステップS107において行った説明と同様であるので、ここでの詳細説明は省略する。判別部31aは、判断結果を制御信号出力制御部31bに供給する。
次に、個別に識別できないと判断された場合(S415/No)、ステップS418において、制御信号出力制御部31bは、選択された飲食モードNに応じた全体照明を行うための制御信号を照明装置40に送信するよう制御する。例えば、制御信号出力制御部31bは、「飲食モード1:料理を美味しく見せるモード」であれば、白熱灯による全体照明を行って料理を美味しく見せ、「飲食モード2:食欲減退(ダイエット)モード」であれば、蛍光灯による全体照明を行い、視覚的な料理の美味しさを減少させる。また、「飲食モード3:病気疾患予防モード」、「飲食モード4:体力増進モード」、または「飲食モード5:拒食症対策モード」の場合、白熱灯による全体照明を行って食欲を増進させる。これにより、ユーザ8が食事を行う際、選択された飲食モードNに応じて、照明装置40により自動的に白熱灯/蛍光灯の照明が行われ、照明システムの利便性が向上する。
一方、個別に識別できると判断された場合(S415/Yes)、ステップS422において、サーバ30の制御信号出力制御部31bは、選択された飲食モードNに応じて各料理の種類に基づく個別の照明効果を付加する画像処理を行うための制御信号をHMD1に送信するよう制御する。例えば、「飲食モード2:食欲減退(ダイエット)モード」であれば、各料理のうち特にカロリーが高いと想定される料理には個別に蛍光灯的照明効果を付加して、食欲を減退させる。また、「飲食モード3:病気疾患予防モード」であれば、各料理のうち一般的に病気疾患予防によい/悪いと想定される料理には個別に白熱灯的/蛍光灯的照明効果を付加して、食欲を増進/減退させる。この際、制御信号出力制御部31bは、ユーザ8の医療情報(病歴等)や体調情報(健康状態)を取得し、各料理がユーザ8にとってよい食べ物か否かに応じて、白熱灯的/蛍光灯的照明効果を付加してもよい。これにより、ユーザ8が食事を行う際、選択された飲食モードNに応じて、各料理の種類に基づいて、HMD1の表示制御部(画像処理部)の画像処理により白熱灯的/蛍光灯的照明効果の付加が行われ、照明システムの利便性が格段に向上する。
次に、図11にステップS409において飲食モードが複数設定されていると判断された場合(S409/Yes)、ステップS432において、サーバ30の判別部31aは、撮像画像に写る飲食物の種類(例えば各皿毎の料理の種類)を個別に識別することが可能であるか否かを判断する。
次いで、個別識別ができないと判断された場合(S432/No)、ステップS435において、制御信号出力制御部31bは、優先される飲食モードNを選択する。例えば、制御信号出力制御部31bは、「飲食モード1:料理を美味しく見せるモード」と「飲食モード2:食欲減退(ダイエット)モード」が設定されている場合、「飲食モード2:食欲減退(ダイエット)モード」を優先される飲食モードNとして選択してもよい。
次に、ステップS438において、制御信号出力制御部31bは、選択された飲食モードNに応じて、白熱灯/蛍光灯で全体照明を行うための制御信号を照明装置40に送信するよう制御する。このように、複数の飲食モードNが設定されている場合に全体照明を行う場合は、1の飲食モードを優先して選択し、選択した1の飲食モードに応じた全体照明が行われる。
続いて、個別識別が可能である場合(S432/Yes)、ステップS441において、判別部31aは、さらに飲食物に含まれる食材毎の種類(例えば各皿の中の各食材の種類)を個別に識別することが可能であるか否かを判断する。
次いで、食材毎に識別できないと判断された場合(S441/No)、ステップS444において、制御信号出力制御部31bは、飲食物毎に(例えば皿毎に)、各飲食物の種類に応じて飲食モードNを選択する。例えば、制御信号出力制御部31bは、「飲食モード1:料理を美味しく見せるモード」と「飲食モード2:ダイエットモード」が設定されている場合、ダイエットに影響がある高カロリーの料理には飲食モード2を選択し、低カロリーの料理には飲食モード1を選択する。
次に、ステップS447において、サーバ30の制御信号出力制御部31bは、料理毎に個別に選択された飲食モードNに応じて、HMD1での画像処理/PMにより個別に(料理毎に)所定の照明効果を付加するための制御信号を生成し、HMD1に送信する。このように、本実施形態による照明システムは、識別した料理の種類毎に異なる飲食モードNを選択し、選択した飲食モードNに応じた照明効果を付加することができる。
一方、食材毎に識別できると判断された場合(S441/Yes)、ステップS450において、制御信号出力制御部31bは、飲食物に含まれる食材毎に(例えば皿の中の食材毎に)、各食材の種類に応じて飲食モードNを選択する。
そして、ステップS453において、サーバ30の制御信号出力制御部31bは、食材毎に個別に選択された飲食モードNに応じて、HMD1での画像処理/PMにより個別に(食材毎に)所定の照明効果を付加するための制御信号を生成し、HMD1に送信する。このように、本実施形態による照明システムは、識別した料理に含まれる食材毎に異なる飲食モードNを選択し、選択した飲食モードNに応じた照明効果を付加することができる。
以上、混合型において飲食モードが設定される場合の動作処理について説明した。なお、上記S447、S453において、飲食モードが選択されない料理または食材が含まれていてもよく、このような料理または食材には何ら照明効果は付加されない。
また、「3−2.第2の照明制御」〜「3−5.混合型モード対応」において、白熱灯的照明効果を画像処理または投影により付加する際に、併せて飲食物の状態の良さを演出するための画像が付加されてもよい。また、「3−2.第2の照明制御」〜「3−5.混合型モード対応」において、蛍光灯的照明効果を画像処理または投影により付加する際に、併せて飲食物の状態の悪さを演出するための画像が付加されてもよい。
<<4.他の実施形態>>
上述した実施形態による照明システムは、図1に示すように、HMD1およびサーバ30(情報処理装置)を含む構成(クラウド型)であるが、本実施形態による照明システムの構成はこれに限定されない。例えば、他の実施形態による照明システムとして、サーバ30の主制御部31の機能をHMD1が有する構成の場合、HMD1単独で図7〜図12に示す動作処理を実行することができる。以下、図13を参照して具体的に説明する。
図13は、他の実施形態によるHMD1の主制御部10’の機能構成を示すブロック図である。図13に示すように、他の実施形態によるHMD1(情報処理装置)の主制御部10’は、判別部10’a、および制御信号出力制御部10’bとして機能する。
判別部10’aは、図3を参照して説明した上記実施形態によるサーバ30の判別部31aと同様に、HMD1の撮像部3が撮像した撮像画像に基づいて、ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別することができる。判別部10’aによる判別結果は、制御信号出力制御部10’bに供給される。
また、制御信号出力制御部10’bは、上記実施形態による制御信号出力制御部31bと同様に、判別部10’aによる判別結果に応じて、飲食物または飲食物の撮像画像に対して所定の照明効果を付加する付加部に制御信号を出力するよう制御する。ここで付加部とは、例えば照明装置40、HMD1の表示制御部17(画像処理部)、または投影部7である。他の実施形態によるHMD1の通信部21は、照明装置40に対して制御信号を送信することができる。
そして、本開示の他の実施形態によるHMD1(情報処理装置)は、図7〜図12に示す動作処理を実行し、飲食物に対して白熱灯的/蛍光灯的照明効果を付加することができる。
<<5.まとめ>>
上述したように、本実施形態による照明システムでは、ユーザが食事中の際、または飲食物が存在する際に、飲食物に対して所定の照明効果(白熱灯的照明効果または蛍光灯的照明効果)を付加することで食生活を支援することができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本技術はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、HMD1、サーバ30に内蔵されるCPU、ROM、およびRAM等のハードウェアに、上述したHMD1、サーバ30の機能を発揮させるためのコンピュータプログラムも作成可能である。また、当該コンピュータプログラムを記憶させたコンピュータ読み取り可能な記憶媒体も提供される。
また、本明細書では、撮像部3および表示部2を有する端末装置の一例としてHMD1を用いたが、本開示による端末装置はHMD1に限定されない。例えば、端末装置は、スマートフォン、携帯電話端末、PDA(Personal Digital Assistants)、PC(Personal Computer)、タブレット端末等であってもよい。
また、上記実施形態において、図5、図6を参照して、飲食物の状態の良さ/悪さを演出するための画像を付加する旨を説明したが、本実施形態による照明システムでは、さらに音や匂いをHMD1の音声出力部5や匂い再生部(不図示)により再現してもよい。これにより、料理がより一層美味しそうな印象を与えたり、美味しくなさそうな印象を与えたりすることができる。飲食物の状態の良さを演出するための音としては、例えば肉の焼ける音、焦げた匂い、グラスに当たる氷の音等が挙げられる。
また、本実施形態による照明システムは、飲食物の状態の良さを演出するための画像を新たに付加する他、画像処理またはプロジェクションマッピングにより、仮想的に食材を動かして活きのよさを演出してもよい。例えば本実施形態による照明システムは、魚の活き造りの料理の場合、魚の頭を動かす演出をしてもよい。
なお、本技術は以下のような構成も取ることができる。
(1)
ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、
前記判別部による判別結果に応じて、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して照明効果を付加する付加部に制御信号を出力するよう制御する制御部と、
を備える、情報処理装置。
(2)
前記判別部は、さらに前記飲食物の種類を個別に識別し、
前記制御部は、個別に識別された各飲食物の種類に応じた照明効果を付加するための制御信号を前記付加部に出力する、前記(1)に記載の情報処理装置。
(3)
前記判別部は、さらに各飲食物に含まれる食材毎に種類を識別し、
前記制御部は、識別された前記飲食物の各食材に対して、種類に応じた照明効果を付加するための制御信号を前記付加部に出力する、前記(2)に記載の情報処理装置。
(4)
前記制御部は、前記飲食物の撮像画像に対して、前記飲食物に含まれる食材毎に画像信号処理により照明効果を付加するための制御信号を前記付加部に出力する、前記(3)に記載の情報処理装置。
(5)
前記判別部は、前記ユーザの周辺を撮像した撮像画像に基づいて、前記ユーザが飲食物を摂取中であるか否か、または前記ユーザの周辺に飲食物が存在するか否かを判別する、前記(1)〜(4)のいずれか1項に記載の情報処理装置。
(6)
前記付加部は、実空間に存在する前記飲食物に対して照明を行う照明部である、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(7)
前記付加部は、実空間に存在する前記飲食物に対して投影を行うことで照明効果を付加する投影部である、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(8)
前記付加部は、前記飲食物の撮像画像に対して画像処理を行うことで照明効果を付加する画像信号処理部である、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(9)
前記制御部は、前記ユーザが飲食物を摂取中と判別された場合、または前記ユーザの周辺に飲食物が存在すると判別された場合、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して所定の照明効果を付加するための制御信号を前記付加部に出力する、前記(1)〜(8)のいずれか1項に記載の情報処理装置。
(10)
前記制御部は、複数のモードのうち設定された所定のモードに従って前記制御信号を生成する、前記(1)〜(9)のいずれか1項に記載の情報処理装置。
(11)
前記複数のモードは、所定の各目的を達成するためのモードである、前記(10)に記載の情報処理装置。
(12)
前記所定のモードは、前記ユーザの健康状態または医療情報に応じて設定される、前記(10)または(11)に記載の情報処理装置。
(13)
前記所定のモードは、前記ユーザに装着された生体センサによる検知結果に基づくリアルタイムな健康状態に応じて設定される、前記(12)に記載の情報処理装置。
(14)
前記制御信号は、前記飲食物の陰影または色味を変化させる照明効果を付加するための制御信号である、前記(1)〜(13)のいずれか1項に記載の情報処理装置。
(15)
前記制御部は、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して、投影または画像処理により、前記飲食物の状態の良さ/悪さを演出するための画像を付加するよう指示する制御信号を前記付加部に出力する、前記(1)〜(14)のいずれか1項に記載の情報処理装置。
(16)
前記制御部は、実空間に存在する前記飲食物が入っている食器若しくは当該食器の周辺、または、前記飲食物が入っている食器若しくは当該食器の周辺の撮像画像に対して、照明効果を付加するための制御信号を前記付加部に出力する、前記(1)〜(15)のいずれか1項に記載の情報処理装置。
(17)
コンピュータを、
ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、
前記判別部による判別結果に応じて、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して照明効果を付加する付加部に制御信号を出力するよう制御する制御部と、
として機能させるためのプログラムが記憶された記憶媒体。
1 HMD(Head Mounted Display)
2 表示部
3 撮像部
3a 撮像レンズ
4 照明部
4a 発光部
5 音声出力部
5a イヤホンスピーカ
6 音声入力部
6a、6b マイクロホン
7 投影部
7a 投影レンズ
8 ユーザ
10、10’ 主制御部
10’a 判別部
10’b 制御信号出力制御部
11 撮像制御部
12 撮像信号処理部
13 撮像画像解析部
14 照明制御部
15 音声信号処理部
17 表示制御部
18 音声制御部
19 投影制御部
21 通信部
22 ストレージ部
30 サーバ
31 主制御部
31a 判別部
31b 制御信号出力制御部
32 記憶部
33 通信部
40 照明装置
41 白熱灯照明部
42 蛍光灯照明部
P1〜P5 画像
S1〜S3 料理

Claims (14)

  1. ユーザの周辺を撮像した撮像画像に基づいて、前記ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、
    前記判別部による判別結果に応じて、記飲食物の撮像画像に対して画像信号処理により照明効果を付加するための制御信号を付加部に力するよう制御する制御部と、
    を備える、情報処理装置。
  2. 前記付加部は、前記飲食物の撮像画像に対して画像処理を行うことで照明効果を付加する画像信号処理部である、請求項に記載の情報処理装置。
  3. 前記照明効果は、白熱灯的照明効果または蛍光灯的照明効果である、請求項1または2に記載の情報処理装置。
  4. 前記判別部は、さらに前記飲食物の種類を個別に識別し、
    前記制御部は、個別に識別された各飲食物の種類に応じた照明効果を付加するための制御信号を前記付加部に出力する、請求項1〜3のいずれか1項に記載の情報処理装置。
  5. 前記判別部は、さらに各飲食物に含まれる食材毎に種類を識別し、
    前記制御部は、識別された前記飲食物の各食材に対して、種類に応じた照明効果を付加するための制御信号を前記付加部に出力する、請求項に記載の情報処理装置。
  6. 前記制御部は、前記ユーザが飲食物を摂取中と判別された場合、または前記ユーザの周辺に飲食物が存在すると判別された場合、記飲食物の撮像画像に対して所定の照明効果を付加するための制御信号を前記付加部に出力する、請求項1〜のいずれか1項に記載の情報処理装置。
  7. 前記制御部は、複数のモードのうち設定された所定のモードに従って前記制御信号を生成する、請求項1〜のいずれか1項に記載の情報処理装置。
  8. 前記複数のモードは、所定の各目的を達成するためのモードである、請求項に記載の情報処理装置。
  9. 前記所定のモードは、前記ユーザの健康状態または医療情報に応じて設定される、請求項7または8に記載の情報処理装置。
  10. 前記所定のモードは、前記ユーザに装着された生体センサによる検知結果に基づくリアルタイムな健康状態に応じて設定される、請求項に記載の情報処理装置。
  11. 前記制御信号は、前記飲食物の陰影または色味を変化させる照明効果を付加するための制御信号である、請求項1〜10のいずれか1項に記載の情報処理装置。
  12. 前記制御部は、実空間に存在する前記飲食物または前記飲食物の撮像画像に対して、投影または画像処理により、前記飲食物の状態の良さ/悪さを演出するための画像を付加するよう指示する制御信号を前記付加部に出力する、請求項1〜11のいずれか1項に記載の情報処理装置。
  13. 前記制御部は、実空間に存在する前記飲食物が入っている食器若しくは当該食器の周辺、または、前記飲食物が入っている食器若しくは当該食器の周辺の撮像画像に対して、照明効果を付加するための制御信号を前記付加部に出力する、請求項1〜12のいずれか1項に記載の情報処理装置。
  14. コンピュータを、
    ユーザの周辺を撮像した撮像画像に基づいて、前記ユーザが飲食物を摂取中であるか否か、またはユーザの周辺に飲食物が存在するか否かを判別する判別部と、
    前記判別部による判別結果に応じて、記飲食物の撮像画像に対して画像信号処理により照明効果を付加するための制御信号を付加部に力するよう制御する制御部と、
    として機能させるためのプログラムが記憶された、コンピュータ読み取り可能な記憶媒体。
JP2013087526A 2013-04-18 2013-04-18 情報処理装置および記憶媒体 Active JP6098326B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013087526A JP6098326B2 (ja) 2013-04-18 2013-04-18 情報処理装置および記憶媒体
US14/225,530 US9799232B2 (en) 2013-04-18 2014-03-26 Information processing apparatus and storage medium
CN201410145419.6A CN104113683B (zh) 2013-04-18 2014-04-11 信息处理设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013087526A JP6098326B2 (ja) 2013-04-18 2013-04-18 情報処理装置および記憶媒体

Publications (3)

Publication Number Publication Date
JP2014211748A JP2014211748A (ja) 2014-11-13
JP2014211748A5 JP2014211748A5 (ja) 2016-02-18
JP6098326B2 true JP6098326B2 (ja) 2017-03-22

Family

ID=51710309

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013087526A Active JP6098326B2 (ja) 2013-04-18 2013-04-18 情報処理装置および記憶媒体

Country Status (3)

Country Link
US (1) US9799232B2 (ja)
JP (1) JP6098326B2 (ja)
CN (1) CN104113683B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023287655A1 (en) * 2021-07-14 2023-01-19 Bear Robotics, Inc. Method, system, and non-transitory computer-readable recording medium for controlling a serving robot

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130273509A1 (en) * 2012-04-16 2013-10-17 Christopher M. MUTTI Method of Monitoring Nutritional Intake by Image Processing
CA2965792A1 (en) * 2014-09-22 2016-03-31 Alexander Petrov System and method to assist a user in achieving a goal
US9881518B2 (en) * 2014-11-19 2018-01-30 Empire Technology Development Llc Food intake controlling devices and methods
EP3221679A4 (en) 2014-11-21 2018-11-14 Mutti, Christopher M. Imaging system for object recognition and assessment
US10463854B2 (en) 2015-02-24 2019-11-05 Elira, Inc. Systems and methods for managing symptoms associated with dysmenorrhea using an electro-dermal patch
US10765863B2 (en) * 2015-02-24 2020-09-08 Elira, Inc. Systems and methods for using a transcutaneous electrical stimulation device to deliver titrated therapy
US20220062621A1 (en) 2015-02-24 2022-03-03 Elira, Inc. Electrical Stimulation-Based Weight Management System
US10496974B2 (en) * 2015-03-25 2019-12-03 Intel Corporation Secure transactions with connected peripherals
CN104809472A (zh) * 2015-05-04 2015-07-29 哈尔滨理工大学 一种基于svm的食物分类识别方法
CN104778374A (zh) * 2015-05-04 2015-07-15 哈尔滨理工大学 一种基于图像处理识别方法的自动膳食评估装置
CN104765980A (zh) * 2015-05-04 2015-07-08 哈尔滨理工大学 一种基于云计算的智能膳食评估方法
KR101718085B1 (ko) * 2015-09-09 2017-03-20 연세대학교 산학협력단 음식 영상의 시각적 풍미 강조 장치 및 그 방법
KR102359359B1 (ko) 2015-11-25 2022-02-08 삼성전자주식회사 사용자 단말 장치 및 그 제어 방법
US10736199B2 (en) * 2015-12-17 2020-08-04 Sony Corporation Information processing method, information processing system, and electric light bulb light source apparatus
US20170193169A1 (en) * 2015-12-31 2017-07-06 Solstice Strategy Partners, LLC System and method for computer-controlled adaptable audio-visual therapeutic treatment
CN105512970A (zh) * 2016-01-05 2016-04-20 江苏木盟智能科技有限公司 餐桌服务***
WO2017159003A1 (ja) * 2016-03-17 2017-09-21 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
JPWO2018142771A1 (ja) 2017-01-31 2019-11-21 ソニー株式会社 制御装置、制御方法及び照明システム
JPWO2019065304A1 (ja) * 2017-09-29 2020-12-03 本田技研工業株式会社 食品提供システム、食品提供方法および食品提供システム用管理装置
US20220036076A1 (en) * 2018-10-01 2022-02-03 Sony Corporation Information processing apparatus, information processing method, and recording medium
WO2023188033A1 (ja) * 2022-03-29 2023-10-05 日本電気株式会社 情報処理装置、表示制御方法、および表示制御プログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5858967A (en) * 1995-01-20 1999-01-12 University Of Washington Appetite supression factor and related methods
US6554439B1 (en) * 2000-05-15 2003-04-29 The Mclean Hospital Illumination apparatus for simulating dynamic light conditions
US20030076983A1 (en) * 2000-06-06 2003-04-24 Cox Dale W. Personal food analyzer
IL137759A (en) * 2000-08-08 2007-07-16 Eddie Karnieli Method for monitoring food intake
US6974328B2 (en) * 2001-06-08 2005-12-13 Noyo Nordisk Pharmaceuticals, Inc. Adaptive interactive preceptored teaching system
US9821344B2 (en) * 2004-12-10 2017-11-21 Ikan Holdings Llc Systems and methods for scanning information from storage area contents
US20060199715A1 (en) * 2005-03-02 2006-09-07 Christina Leon System and method for implementing a physical fitness regimen with color healing
GB0511986D0 (en) * 2005-06-13 2005-07-20 Imp College Innovations Ltd Novel compounds and their effects on feeding behaviour
JP2008193570A (ja) 2007-02-07 2008-08-21 Fujifilm Corp 撮影システム
US9198621B2 (en) * 2007-06-18 2015-12-01 University of Pittsburgh—of the Commonwealth System of Higher Education Method, apparatus and system for food intake and physical activity assessment
JP2009151616A (ja) * 2007-12-21 2009-07-09 Konica Minolta Holdings Inc イベント演出システム
US8363913B2 (en) * 2008-09-05 2013-01-29 Purdue Research Foundation Dietary assessment system and method
US8439683B2 (en) * 2009-01-07 2013-05-14 Sri International Food recognition using visual analysis and speech recognition
JP5613991B2 (ja) * 2009-03-31 2014-10-29 株式会社ニコン 再生演出プログラムおよび再生演出装置
JP2010282414A (ja) * 2009-06-04 2010-12-16 Hitachi Ltd 携帯型検査端末と健康管理システム
US8345930B2 (en) * 2010-01-22 2013-01-01 Sri International Method for computing food volume in a method for analyzing food
US20120212499A1 (en) * 2010-02-28 2012-08-23 Osterhout Group, Inc. System and method for display content control during glasses movement
JP2011221637A (ja) * 2010-04-06 2011-11-04 Sony Corp 情報処理装置、情報出力方法及びプログラム
US20110318717A1 (en) * 2010-06-23 2011-12-29 Laurent Adamowicz Personalized Food Identification and Nutrition Guidance System
KR20120039102A (ko) * 2010-10-15 2012-04-25 엘지전자 주식회사 식이관리장치 및 식이관리방법
WO2012115297A1 (en) * 2011-02-25 2012-08-30 Lg Electronics Inc. Analysis of food items captured in digital images
JP2013054541A (ja) * 2011-09-05 2013-03-21 Sony Corp 情報処理装置、情報処理方法、およびプログラム
JP5865912B2 (ja) * 2011-09-29 2016-02-17 パイオニア株式会社 照明システムおよび発光制御方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023287655A1 (en) * 2021-07-14 2023-01-19 Bear Robotics, Inc. Method, system, and non-transitory computer-readable recording medium for controlling a serving robot

Also Published As

Publication number Publication date
JP2014211748A (ja) 2014-11-13
US9799232B2 (en) 2017-10-24
CN104113683A (zh) 2014-10-22
CN104113683B (zh) 2019-01-18
US20140315161A1 (en) 2014-10-23

Similar Documents

Publication Publication Date Title
JP6098326B2 (ja) 情報処理装置および記憶媒体
JP6299744B2 (ja) 情報処理装置および記憶媒体
JP6024515B2 (ja) 情報処理装置および記憶媒体
WO2014097706A1 (ja) 表示制御装置および記録媒体
JP6492332B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP6089898B2 (ja) 画像処理装置および記憶媒体
WO2018177311A1 (zh) 视线追踪装置及头戴式显示设备
JP2006507641A (ja) 光源を制御するシステム及び方法と照明配置
CN108596972A (zh) 一种灯光调节方法、装置、智能台灯和存储介质
JP2014064321A (ja) 省電力透過ディスプレイ
JP2014165706A (ja) 信号処理装置および記憶媒体
JP2016085588A (ja) 視線検出装置および視線検出方法
KR200487934Y1 (ko) 웨어러블 일조활동 기록장치
CN107340718A (zh) 智能灯参数的调整方法及装置
JP2016028669A (ja) 瞳孔検出装置、および瞳孔検出方法
JP6390885B2 (ja) 照明演出システム及びプログラム
WO2014064865A1 (ja) 照明装置
US11464098B2 (en) Control device, control method and illumination system
TW201419936A (zh) 智慧型動態調整發光參數之燈具
EP3569036B1 (en) Lighting control
JP5088189B2 (ja) カメラ装置、及び撮影補助光制御方法、撮影補助光制御プログラム
JP2007156968A (ja) 画像読取表示装置
JP2016157325A (ja) 視線検出装置および視線検出方法
CN113115494A (zh) 一种前景背景亮度自适应护眼灯***
WO2020069752A1 (en) Method for modifying stereoscopic pairs of images and apparatus

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170206

R151 Written notification of patent or utility model registration

Ref document number: 6098326

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250