JP6932821B1 - 情報処理システム、方法及びプログラム - Google Patents

情報処理システム、方法及びプログラム Download PDF

Info

Publication number
JP6932821B1
JP6932821B1 JP2020115435A JP2020115435A JP6932821B1 JP 6932821 B1 JP6932821 B1 JP 6932821B1 JP 2020115435 A JP2020115435 A JP 2020115435A JP 2020115435 A JP2020115435 A JP 2020115435A JP 6932821 B1 JP6932821 B1 JP 6932821B1
Authority
JP
Japan
Prior art keywords
information
furniture
room
modeled
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020115435A
Other languages
English (en)
Other versions
JP2022013100A (ja
Inventor
智和 浮城
智和 浮城
啓吾 宮末
啓吾 宮末
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vega Corp
Original Assignee
Vega Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vega Corp filed Critical Vega Corp
Priority to JP2020115435A priority Critical patent/JP6932821B1/ja
Application granted granted Critical
Publication of JP6932821B1 publication Critical patent/JP6932821B1/ja
Publication of JP2022013100A publication Critical patent/JP2022013100A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

【課題】三次元モデル化された家具情報からその種類を識別することが可能な技術を提供する。【解決手段】家具画像学習システム1のサーバ20は、その機能として、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するレンダリング処理モジュール2036と、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成する機械学習モジュール2037と、を備える。【選択図】図3

Description

本開示は、情報処理システム、方法及びプログラムに関する。
従来、物品の画像データから、当該物品の種類ごとに分類する技術が知られている。
特許文献1には、種類の異なる複数の物品を種別毎に分類するための物品分類装置の技術が開示されている。この技術は、物品の撮像画像データを、三次元画像データに対応して直交する二軸を基準として所定の回転角ずつ回転させ、二次元平面に投射することで、二次元画像データを生成し、類似度を計算している。
特開2019−128881号公報
ところで、現在使用している家具を破損等により新調するような場合に、再度同じ家具の購入を希望する場合もあるが、その家具がモデルチェンジ等により販売されていない場合、その家具に類似する家具を希望する場合もある。そのような要望に応えるため、現在所有している家具の画像情報から解析を行って家具の種類に分類し、類似する家具の情報を提供する技術について、一定のニーズがある。しかしながら、家具の画像情報から、どのような家具であるかを識別するのは、容易ではなかった。
そこで、本開示では、三次元モデル化された家具情報からその種類を識別することが可能な技術について説明する。
本開示の一実施形態によると、制御部を備える情報処理システムが提供される。制御部は、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する。
一実施形態によると、プロセッサを備えるコンピュータにより実行されるための方法が提供される。方法は、プロセッサが、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する。
また、一実施形態によると、プロセッサを備えるコンピュータに実行させるためのプログラムが提供される。プログラムは、プロセッサに、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行させる。
本開示によれば、三次元モデル化された家具情報から投影されたレンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成する。これにより、このモデル情報を用いることで、三次元モデル化された家具情報からその種類を識別することが可能になる。
実施の形態1の家具画像学習システム1の全体の構成を示す図である。 実施の形態1の家具画像学習システム1を構成する端末装置10の機能的な構成を示すブロック図である。 実施の形態1の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。 サーバ20が記憶する家具データベース2021、間取りデータベース2022、レンダリングデータベース2023のデータ構造を示す図である。 実施の形態1の家具画像学習システム1により、家具情報の学習処理を行う流れの一例を示すフローチャートである。 実施の形態1の家具画像学習システム1により、家具情報の学習処理を行う流れの他の例を示すフローチャートである。 家具情報の学習処理における、端末装置10に家具情報を表示した画面例を示す図である。 家具情報の学習処理における、端末装置10に家具情報が配置された部屋の間取り情報を表示した画面例を示す図である。 家具情報の学習処理における、端末装置10にレンダリング中の家具情報を表示した画面例を示す図である。 実施の形態2の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。 実施の形態3の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。 実施の形態3の家具画像学習システム1により、家具画像情報の識別処理を行う流れの一例を示すフローチャートである。
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称及び機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
<概要>
以下、本開示の実施の形態である、三次元モデル化された家具情報の機械学習を行う家具画像学習システムについて説明する。この家具画像学習システムは、例えば、家具の外観を撮影した家具画像情報から、撮影されている家具の種類、具体的にはソファ、テーブル、机等の種類を識別するため、機械学習モデル(モデル情報)を生成するためのシステムである。ここで、家具とは、住居や店舗、オフィス等のような空間に配置される物であり、ソファ、テーブル、机のような一般的な家具のみならず、照明器具やテレビのような電化製品、クッション等の雑貨、建物にあらかじめ備え付けられるビルトイン電化製品や建具、収納棚等を含む概念である。
家具の外観を撮影した家具画像情報から、家具の種類を識別するための機械学習を行う手法としては、部屋に家具が実際に配置された状態を撮影した写真画像に基づき、機械学習を行う手法と、家具のCADデータのようなモデル情報に基づいて機械学習を行う手法とが挙げられる。これらの手法は、家具を複数の方向から撮影した写真画像や、家具の三次元CADデータを複数の方向から投影した画像データを機械学習する手法である。
ところで、部屋に家具が実際に配置された状態を撮影した写真画像に基づいて機械学習を行う手法は、以下のような課題がある。まず、複数の写真それぞれの明るさが異なるため、機械学習を行うための教師データとしての品質が担保できない、という問題がある。また、部屋に家具が実際に配置された状態を撮影した写真を多数取得することは可能であるが、家具を撮影する構図(方向)が特定の方向に偏ることが多く、特定の角度からの画像情報しか得られず、検知できない角度が存在することになる。さらに、機械学習の教師データとして必要となる大量の家具画像情報を得るためには、被写体である家具を配置するための撮影場所の確保や撮影者の確保といった、物理的、人的リソースを必要とする、という問題がある。
また、家具のCADデータのようなモデル情報に基づいて機械学習を行う手法は、以下のような課題がある。まず、このようなモデル情報には、家具の材質や表面の模様、質感といった情報が表現されていないことが多く、機械学習の結果を左右することが多い、という問題がある。例えば、同じ家具の種類である収納棚であっても、木製の場合や、スチール製の場合もあり、これらの差異により表面の模様や質感は異なるため、機械学習の結果にも影響する。また、このようなモデル情報には、家具を実際に配置した際の陰影、周囲の風景等の映り込み、光の加減等が反映されていないため、家具を実際に配置して撮影した画像情報との差異が大きくなる、という問題がある。
そのため、この家具画像学習システムでは、家具の三次元CADデータのような三次元モデル化された家具情報(画像情報)を、三次元モデル化された部屋の間取り情報(画像情報)に配置し、光源処理、表面画像処理等を行い、複数の異なる角度から投影されたレンダリング画像情報を取得する。このレンダリング画像情報に基づき、機械学習を行い、モデル情報を生成する。これにより、上記の2つの手法の問題点を解消している。
<第1の実施の形態>
以下、家具画像学習システム1について説明する。以下の説明では、例えば、端末装置10がサーバ20へアクセスすることにより、サーバ20が、端末装置10で画面を生成するための情報を応答する。端末装置10は、サーバ20から受信した情報に基づいて画面を生成し表示する。
<1 家具画像学習システム1の全体構成>
図1は、家具画像学習システム1の全体の構成を示す図である。図1に示すように、家具画像学習システム1は、複数の端末装置(図1では、端末装置10A及び端末装置10Bを示している。以下、総称して「端末装置10」ということもある)と、サーバ20とを含む。端末装置10と、サーバ20とは、ネットワーク80を介して相互に通信可能に接続されている。ネットワーク80は、有線または無線ネットワークにより構成される。
端末装置10は、各ユーザが操作する装置である。ここで、ユーザとは、例えば家具画像学習システム1により家具の外観を撮影した家具画像情報から、撮影されている家具の種類を識別するサービスを提供する事業者である。図1に端末装置10Aとして示すように、端末装置10は、据え置き型のPC(Personal Computer)、ラップトップPCやノートPC等により実現される。この他、端末装置10は、例えば移動体通信システムに対応したスマートフォン、タブレット等の携帯端末であるとしてもよい。
端末装置10は、ネットワーク80を介してサーバ20と通信可能に接続される。端末装置10は、4G、5G、LTE(Long Term Evolution)等の通信規格に対応した無線基地局81、IEEE(Institute of Electrical and Electronics Engineers)802.11等の無線LAN(Local Area Network)規格に対応した無線LANルータ82等の通信機器と通信することにより、ネットワーク80に接続される。図1に端末装置10Bとして示すように、端末装置10は、通信IF(Interface)12と、入力装置13と、出力装置14と、メモリ15と、記憶部16と、プロセッサ19とを備える。
通信IF12は、端末装置10が外部の装置と通信するため、信号を入出力するためのインタフェースである。入力装置13は、ユーザからの入力操作を受け付けるための入力装置(例えば、キーボードや、タッチパネル、タッチパッド、マウス等のポインティングデバイス等)である。出力装置14は、ユーザに対し情報を提示するための出力装置(ディスプレイ、スピーカ等)である。メモリ15は、プログラム、及び、プログラム等で処理されるデータ等を一時的に記憶するためのものであり、例えばDRAM(Dynamic Random Access Memory)等の揮発性のメモリである。記憶部16は、データを保存するための記憶装置であり、例えばフラッシュメモリ、HDD(Hard Disc Drive)である。プロセッサ19は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。
サーバ20は、家具情報や部屋の間取り情報、機械学習の結果生成されるモデル情報を管理する装置である。サーバ20は、ユーザの端末装置10からの操作により、三次元モデル化された家具情報を部屋の間取り情報に配置し、光源処理、表面画像処理等を行い、レンダリング画像情報を取得する。また、サーバ20は、レンダリング画像情報に基づき機械学習を行い、モデル情報を生成する。
サーバ20は、ネットワーク80に接続されたコンピュータである。サーバ20は、通信IF22と、入出力IF23と、メモリ25と、ストレージ26と、プロセッサ29とを備える。
通信IF22は、サーバ20が外部の装置と通信するため、信号を入出力するためのインタフェースである。入出力IF23は、ユーザからの入力操作を受け付けるための入力装置、及び、ユーザに対し情報を提示するための出力装置とのインタフェースとして機能する。メモリ25は、プログラム、及び、プログラム等で処理されるデータ等を一時的に記憶するためのものであり、例えばDRAM(Dynamic Random Access Memory)等の揮発性のメモリである。ストレージ26は、データを保存するための記憶装置であり、例えばフラッシュメモリ、HDD(Hard Disc Drive)である。プロセッサ29は、プログラムに記述された命令セットを実行するためのハードウェアであり、演算装置、レジスタ、周辺回路等により構成される。
<1.1 端末装置10の構成>
図2は、実施の形態1の家具画像学習システム1を構成する端末装置10のブロック図である。図2に示すように、端末装置10は、複数のアンテナ(アンテナ111、アンテナ112)と、各アンテナに対応する無線通信部(第1無線通信部121、第2無線通信部122)と、表示操作受付部130(キーボード131及びディスプレイ132を含む)と、音声処理部140と、マイク141と、スピーカ142と、カメラ150と、記憶部160と、制御部170とを含む。端末装置10は、図2では特に図示していない機能及び構成(例えば、電力を保持するためのバッテリー、バッテリーから各回路への電力の供給を制御する電力供給回路等)も有している。図2に示すように、端末装置10に含まれる各ブロックは、バス等により電気的に接続される。
アンテナ111は、端末装置10が発する信号を電波として放射する。また、アンテナ111は、空間から電波を受信して受信信号を第1無線通信部121へ与える。
アンテナ112は、端末装置10が発する信号を電波として放射する。また、アンテナ112は、空間から電波を受信して受信信号を第2無線通信部122へ与える。
第1無線通信部121は、端末装置10が他の無線機器と通信するため、アンテナ111を介して信号を送受信するための変復調処理等を行う。第2無線通信部122は、端末装置10が他の無線機器と通信するため、アンテナ112を介して信号を送受信するための変復調処理等を行う。第1無線通信部121と第2無線通信部122とは、チューナー、RSSI(Received Signal Strength Indicator)算出回路、CRC(Cyclic Redundancy Check)算出回路、高周波回路等を含む通信モジュールである。第1無線通信部121と第2無線通信部122とは、端末装置10が送受信する無線信号の変復調や周波数変換を行い、受信信号を制御部170へ与える。
表示操作受付部130は、ユーザの入力操作を受け付けるための機構を有する。具体的には、表示操作受付部130は、キーボード131と、ディスプレイ132とを含む。なお、表示操作受付部130は、例えば静電容量方式のタッチパネルを用いることによって、タッチパネルに対するユーザの接触位置を検出する、タッチスクリーンとして構成してもよい。
キーボード131は、端末装置10のユーザの入力操作を受け付ける。キーボード131は、文字入力を行う装置であり、入力された文字情報を入力信号として制御部170へ出力する。
ディスプレイ132は、制御部170の制御に応じて、画像、動画、テキスト等のデータを表示する。ディスプレイ132は、例えばLCD(Liquid Crystal Display)や有機EL(Electro-Luminescence)ディスプレイによって実現される。
音声処理部140は、音声信号の変復調を行う。音声処理部140は、マイク141から与えられる信号を変調して、変調後の信号を制御部170へ与える。また、音声処理部140は、音声信号をスピーカ142へ与える。音声処理部140は、例えば音声処理用のプロセッサによって実現される。マイク141は、音声入力を受け付けて、当該音声入力に対応する音声信号を音声処理部140へ与える。スピーカ142は、音声処理部140から与えられる音声信号を音声に変換して当該音声を端末装置10の外部へ出力する。
カメラ150は、受光素子により光を受光して、撮影画像として出力するためのデバイスである。カメラ150は、例えば、カメラ150から撮影対象までの距離を検出できる深度カメラである。
記憶部160は、例えばフラッシュメモリ等により構成され、端末装置10が使用するデータ及びプログラムを記憶する。ある局面において、記憶部160は、ユーザ情報161を記憶する。
ユーザ情報161は、端末装置10を介して、三次元モデル化された家具情報からレンダリング画像情報を取得するための操作を行うユーザの情報である。ユーザ情報としては、サーバ20に登録されているユーザを識別する情報(ユーザID)、ユーザの氏名、ユーザが所属している企業等の組織情報等が含まれる。
制御部170は、記憶部160に記憶されるプログラムを読み込んで、プログラムに含まれる命令を実行することにより、端末装置10の動作を制御する。制御部170は、例えば予め端末装置10にインストールされているアプリケーションである。制御部170は、プログラムにしたがって動作することにより、入力操作受付部171と、送受信部172と、データ処理部173と、通知制御部174としての機能を発揮する。
入力操作受付部171は、キーボード131等の入力装置に対するユーザの入力操作を受け付ける処理を行う。
送受信部172は、端末装置10が、サーバ20等の外部の装置と、通信プロトコルにしたがってデータを送受信するための処理を行う。
データ処理部173は、端末装置10が入力を受け付けたデータに対し、プログラムにしたがって演算を行い、演算結果をメモリ等に出力する処理を行う。
通知制御部174は、ユーザに対し情報を提示する処理を行う。通知制御部174は、表示画像をディスプレイ132に表示させる処理、音声をスピーカ142に出力させる処理、振動をカメラ150に発生させる処理等を行う。
<1.2 サーバ20の機能的な構成>
図3は、実施の形態1の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。図3に示すように、サーバ20は、通信部201と、記憶部202と、制御部203としての機能を発揮する。
通信部201は、サーバ20が外部の装置と通信するための処理を行う。
記憶部202は、サーバ20が使用するデータ及びプログラムを記憶する。記憶部202は、家具データベース2021と、間取りデータベース2022と、レンダリングデータベース2023と、家具モデルデータベース2024等を記憶する。
家具データベース2021は、家具画像学習システム1における機械学習の対象である家具の情報と、三次元モデル化された家具の画像情報とを保持するためのデータベースである。詳細は後述する。
間取りデータベース2022は、家具画像学習システム1で家具の画像情報を配置する部屋の情報と、三次元モデル化された部屋の間取り画像情報とを保持するためのデータベースである。詳細は後述する。
レンダリングデータベース2023は、家具画像学習システム1で家具の画像情報からレンダリング処理を行って取得された、レンダリング画像情報を保持するためのデータベースである。詳細は後述する。
家具モデルデータベース2024は、家具画像学習システム1でレンダリング画像情報に基づき機械学習が行われた結果である、モデル情報を保持するためのデータベースである。このモデル情報は、家具の外観を撮影した家具画像情報から、撮影されている家具の種類を識別するためのモデル情報である。
制御部203は、サーバ20のプロセッサがプログラムにしたがって処理を行うことにより、各種モジュールとして示す機能を発揮する。各種モジュールは、受信制御モジュール2031、送信制御モジュール2032、家具配置モジュール2033、光源処理モジュール2034、家具表面処理モジュール2035、レンダリング処理モジュール2036、機械学習モジュール2037を含む。
受信制御モジュール2031は、サーバ20が外部の装置から通信プロトコルにしたがって信号を受信する処理を制御する。
送信制御モジュール2032は、サーバ20が外部の装置に対し通信プロトコルにしたがって信号を送信する処理を制御する。
家具配置モジュール2033は、三次元モデル化された部屋の間取り情報に、家具の三次元CADデータのような三次元モデル化された家具情報を仮想的に配置する処理を制御する。家具配置モジュール2033は、例えば、ユーザが端末装置10を操作し、どのような部屋の間取り情報(例えば、リビング、寝室等)に、どの家具に係る家具情報(例えば、ソファ、テーブル等)を配置するか、その家具を部屋の中のどこに配置するか(例えば、部屋の中央、壁に接触する等)を選択するので、その入力情報を受け付けて配置してもよい。部屋の間取り情報には、部屋のテイスト(モダン、ナチュラル等)の情報が含まれてもよい。
また、家具データベース2021または間取りデータベース2022に、どの部屋の間取り情報にどの家具に係る家具情報を配置するか、を示すリンク情報をあらかじめ格納しておき、家具配置モジュール2033は、そのリンク情報に基づいて配置してもよい。さらに、家具配置モジュール2033は、例えば、どのような部屋の間取り情報に、どの家具に係る家具情報を配置するか、その家具を部屋の中のどこに配置するかを、後述するモデル情報により決定してもよく、部屋の間取り情報と家具情報との無作為な組み合わせにより決定してもよい。
光源処理モジュール2034は、三次元モデル化された家具情報に対して、光源処理を行う処理を制御する。光源処理モジュール2034は、例えば、ユーザが端末装置10を操作し、部屋の間取り情報の中における光源の位置を決定するので、その入力操作を受け付けて光源の位置を特定してもよく、家具配置モジュール2033が家具情報を配置した部屋の間取り情報に基づき、照明機器や窓等の位置を特定し、照明機器や窓からの光(太陽光)を光源として、その方向に基づいて家具情報に対する光源処理を行ってもよい。また、光源処理モジュール2034は、光源と家具情報との距離に基づいて光の照度の調整を行ってもよい。さらに、光源処理モジュール2034は、部屋の間取り情報に基づき、光源の種類として、アンビエントライト(環境光)、ディレクショナルライト(平行光源)、ポイントライト(点光源)等を選択してもよい。光源処理モジュール2034は、光源処理として具体的には、家具情報に対して陰影を表現するシェーディング処理を行う。
また、光源処理モジュール2034は、三次元モデル化された部屋の間取り情報に対して、家具情報と同様の光源処理を行ってもよい。
家具表面処理モジュール2035は、三次元モデル化された家具情報に対して、表面処理を行う処理を制御する。ここで、家具情報に対する表面処理とは、例えば家具画像情報の表面の模様を表現する表面画像処理や、家具画像情報の質感、例えば材質が分かるような画像を表現する質感画像処理を含む。家具表面処理モジュール2035は、例えば、ユーザが端末装置10を操作し、家具情報の表面の色の状態や材質を決定するので、その入力操作を受け付けてもよく、家具データベース2021に格納されている家具及び家具の表面の材質(例えば、木製、スチール製、表面素材が合成皮革等)、色やテイスト(例えば、木目調、ホワイト等)等に基づき、家具情報に対して表面画像処理や質感画像処理を行ってもよい。また、家具表面処理モジュール2035は、光源処理モジュール2034が行った光源処理の結果を反映させて表面処理を行ってもよい。例えば、家具情報の家具の材質が金属や樹脂等の場合、光源処理の結果を反映させて家具の光沢を表現してもよい。
また、家具表面処理モジュール2035は、三次元モデル化された部屋の間取り情報に対して、家具情報と同様の表面処理を行ってもよい。
レンダリング処理モジュール2036は、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得する処理を制御する。レンダリング処理モジュール2036は、例えば、複数の異なる方向(角度)から投影された二次元画像情報、すなわちその角度からの視点における当該家具の画像情報である、レンダリング画像情報を取得する。このとき、レンダリング処理モジュール2036は、家具配置モジュール2033が部屋の間取り情報に配置し、光源処理モジュール2034が光源処理を行い、家具表面処理モジュール2035が表面処理を行った家具情報に対して、レンダリング画像情報を取得してもよい。また、レンダリング処理モジュール2036は、ユーザが端末装置10を操作し、家具情報に対してレンダリング処理を行うために家具情報を投影する方向を決定するので、その入力操作を受け付けてもよい。
また、レンダリング処理モジュール2036は、例えば、家具情報のレンダリング画像情報だけではなく、家具情報が配置されている部屋の間取り情報についても、レンダリング画像情報を取得してもよい。ここで、部屋の間取り情報のレンダリング画像情報は、その部屋の外周情報、すなわちその部屋の天井、壁、床、部屋に既に配置されている家具のうちの1つまたは複数の画像情報が含まれてもよい。すなわち、家具のレンダリング画像情報には、部屋の間取り情報が映り込んだ状態の情報であってもよい。
レンダリング処理モジュール2036は、取得した家具情報のレンダリング画像情報を、レンダリングデータベース2023へ格納する。
機械学習モジュール2037は、レンダリング処理モジュール2036が取得したレンダリング画像情報に基づき、機械学習を行い、家具情報の種類(例えば、ソファ、テーブル、収納棚等)を識別するモデル情報を生成する処理を制御する。機械学習モジュール2037は、例えば、複数の異なる方向(角度)から投影された二次元画像情報であるレンダリング画像情報に基づき、機械学習を行う。
機械学習モジュール2037は、例えば、レンダリング画像情報を教師データとする教師あり機械学習により行ってもよく、ディープラーニングにより行ってもよい。また、機械学習モジュール2037は、例えば、部屋の間取り情報のレンダリング画像情報に基づく機械学習を行ってもよい。
機械学習モジュール2037は、生成したモデル情報を、家具モデルデータベース2024へ格納する。機械学習モジュール2037により生成されたモデル情報は、例えば、家具の外観を撮影した家具画像情報から、撮影されている家具の種類を識別するために使用される。
<2 データ構造>
図4は、サーバ20が記憶する家具データベース2021、間取りデータベース2022、レンダリングデータベース2023のデータ構造を示す図である。
図4に示すように、家具データベース2021のレコードのそれぞれは、項目「家具ID」と、項目「家具種類」と、項目「色・テイスト」と、項目「サイズ」と、項目「家具CADデータ」等を含む。
項目「家具ID」は、レンダリング処理モジュール2036がレンダリング処理を行う対象である、三次元モデル化された家具の画像情報それぞれを識別する情報である。
項目「家具種類」は、家具の画像情報に係る家具の種類の名称の情報であり、機械学習モジュール2037が生成するモデル情報の基になる情報である。
項目「色・テイスト」は、家具の画像情報に係る家具の色やテイストの情報であり、家具表面処理モジュール2035が表面処理を行う基になる情報である。なお、色やテイストの情報以外に、家具及び家具の表面の材質の情報が格納されてもよい。
項目「サイズ」は、家具の画像情報に係る家具の大きさの情報であり、家具配置モジュール2033が部屋の間取り情報に家具情報を仮想的に配置する際に、部屋の間取り情報の大きさと整合性をとるため、または家具情報が配置可能であるかを判定するために使用される情報である。
項目「家具CADデータ」は、三次元モデル化された家具の画像情報であり、機械学習モジュール2037による機械学習の対象となる情報である。なお、画像情報ではなく、画像情報が格納されているサーバ20の格納場所や、他のWebサーバ等へアクセス可能なリンク情報が格納されてもよい。
間取りデータベース2022のレコードのそれぞれは、項目「間取りID」と、項目「間取り種類」と、項目「テイスト」と、項目「サイズ」と、項目「間取りCADデータ」等を含む。
項目「間取りID」は、レンダリング処理モジュール2036がレンダリング処理を行う対象である、三次元モデル化された部屋の間取り情報それぞれを識別する情報である。
項目「間取り種類」は、部屋の間取り情報に係る部屋の種類の名称の情報であり、家具配置モジュール2033が家具情報を配置するための基になる情報である。
項目「テイスト」は、部屋の間取り情報に係る部屋のテイストの情報であり、家具配置モジュール2033が家具情報を配置するための基になる情報である。
項目「サイズ」は、部屋の間取り情報に係る部屋の大きさの情報であり、家具配置モジュール2033が部屋の間取り情報に家具情報を仮想的に配置する際に、家具情報の大きさと整合性をとるため、または家具情報が配置可能であるかを判定するために使用される情報である。
項目「間取りCADデータ」は、三次元モデル化された部屋の間取り情報であり、家具配置モジュール2033により家具情報が配置されるための情報である。なお、画像情報ではなく、画像情報が格納されているサーバ20の格納場所や、他のWebサーバ等へアクセス可能なリンク情報が格納されてもよい。
レンダリングデータベース2023のレコードのそれぞれは、項目「レンダリング画像ID」と、項目「家具ID」と、項目「間取りID」と、項目「配置情報」と、項目「方向情報」と、項目「レンダリングデータ」等を含む。
項目「レンダリング画像ID」は、レンダリング処理モジュール2036がレンダリング処理を行った、三次元モデル化された家具情報から投影された家具情報のレンダリング画像情報それぞれを識別する情報である。
項目「家具ID」は、三次元モデル化された家具の画像情報それぞれを識別する情報であり、家具データベース2021の項目「家具ID」に対応している。
項目「間取りID」は、三次元モデル化された部屋の間取り情報それぞれを識別する情報であり、間取りデータベース2022の項目「間取りID」に対応している。
項目「配置情報」は、家具配置モジュール2033が家具情報を配置した、部屋の間取り情報の中における位置を示す情報であり、図4に示すように、例えば、「壁面から500mm」「壁面接触」等の位置情報が格納されている。
項目「方向情報」は、レンダリング処理モジュール2036がレンダリング処理を行った、家具情報における方向(水平方向及び垂直方向)を示す情報であり、図4に示すように、例えば、「平面45°、垂直0°」等の位置情報が格納されている。
項目「レンダリングデータ」は、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報であり、レンダリング処理モジュール2036がレンダリング処理を行った結果の情報である。なお、画像情報ではなく、画像情報が格納されているサーバ20の格納場所や、他のWebサーバ等へアクセス可能なリンク情報が格納されてもよい。
レンダリング処理モジュール2036は、家具情報から投影されたレンダリング画像情報を取得すると、レンダリングデータベース2023に格納する。機械学習モジュール2037は、レンダリングデータベース2023に格納されているレンダリング画像情報に基づき、機械学習を行う。
<3 動作>
以下、図5及び図6を参照しながら、実施の形態1における家具画像学習システム1による家具情報の学習処理について説明する。
図5は、実施の形態1の家具画像学習システム1により、家具情報の学習処理を行う流れの一例を示すフローチャートである。この家具情報の学習処理は、あらかじめユーザの認証処理が行われ、ユーザがログインした状態から開始される。
ステップS111において、端末装置10の入力操作受付部181は、ユーザから、部屋の間取り情報に家具情報を仮想的に配置するため、部屋の間取り情報、配置する家具情報、及びその家具情報を部屋の間取り情報のどこに配置するかを決定する入力操作を受け付ける。例えば、端末装置10の通知制御部184は、ディスプレイ132に部屋の間取り情報の一覧を表示させるので、ユーザは、部屋の間取り情報を選択する操作を行う。次に、端末装置10のディスプレイ132に家具情報の一覧を表示させるので、ユーザは、家具情報を選択する操作を行う。そして、端末装置10のディスプレイ132に部屋の間取り情報と配置する家具情報を表示させるので、ユーザは、部屋の間取り情報の中で家具情報を移動させ、家具情報を配置する操作を行う。送受信部182は、部屋の間取り情報、家具情報、及び家具の配置情報をサーバ20へ送信する。
ステップS121において、サーバ20の家具配置モジュール2033は、端末装置10から送信された部屋の間取り情報、家具情報、及び家具の配置情報を、通信部201を介して受け付ける。家具配置モジュール2033は、受け付けた部屋の間取り情報に、受け付けた家具情報を仮想的に配置する処理を行う。また、家具配置モジュール2033は、受け付けた部屋の間取り情報、家具情報、及び家具の配置情報を、レンダリングデータベース2023に格納する処理を行う。
ステップS112において、端末装置10の入力操作受付部181は、ユーザから、ステップS111で選択した部屋の間取り情報の中における光源の位置を選択する入力操作を受け付ける。例えば、通知制御部184は、ディスプレイ132に家具が配置された部屋の間取り情報を表示させるので、ユーザは、部屋の間取り情報の中で光源の位置を選択する操作を行う。送受信部182は、光源の位置情報をサーバ20へ送信する。
ステップS122において、サーバ20の光源処理モジュール2034は、端末装置10から送信された光源の位置情報を、通信部201を介して受け付ける。光源処理モジュール2034は、受け付けた光源の位置情報に基づき、その位置を光源とし、その位置からの方向に基づいて家具情報に対する光源処理を行う。
ステップS113において、端末装置10の入力操作受付部181は、ユーザから、ステップS111で選択した家具情報の表面の色の状態や材質を決定する入力操作を受け付ける。例えば、通知制御部184は、ディスプレイ132に家具が配置された部屋の間取り情報を表示させるので、ユーザは、家具情報を選択してその表面の色の状態や材質を決定する操作を行う。送受信部182は、家具情報の表面の色の状態や材質の情報をサーバ20へ送信する。
ステップS123において、サーバ20の家具表面処理モジュール2035は、端末装置10から送信された家具情報の表面の色の状態や材質の情報を、通信部201を介して受け付ける。家具表面処理モジュール2035は、受け付けた家具情報の表面の色の状態や材質の情報に基づき、家具情報に対して表面処理として、表面画像処理や質感画像処理を行う。
ステップS114において、端末装置10の入力操作受付部181は、ユーザから、ステップS111で選択し、光源処理及び表面処理が行われた家具情報からレンダリング画像情報を取得するため、レンダリング処理を行うために家具情報を投影する方向(角度)を決定する入力操作を受け付ける。例えば、通知制御部184は、ディスプレイ132に家具が配置された部屋の間取り情報を表示させるので、ユーザは、家具情報を投影する方向を移動させてレンダリング処理を行う方向を決定する操作を行う。送受信部182は、レンダリング処理を行う方向の情報をサーバ20へ送信する。
ステップS124において、サーバ20のレンダリング処理モジュール2036は、端末装置10から送信されたレンダリング処理を行う方向の情報を、通信部201を介して受け付ける。レンダリング処理モジュール2036は、受け付けたレンダリング処理を行う方向に基づき、その方向(角度)から投影された二次元画像情報をレンダリング画像情報として取得する。レンダリング処理モジュール2036は、取得した家具情報のレンダリング画像情報を、レンダリングデータベース2023の項目「レンダリングデータ」に格納する処理を行う。
ステップS125において、サーバ20の機械学習モジュール2037は、ステップS124で取得した家具情報のレンダリング画像情報に基づき、機械学習を行い、家具情報の種類(例えば、ソファ、テーブル、収納棚等)を識別するモデル情報を生成する処理を行う。
ステップS126において、サーバ20の機械学習モジュール2037は、ステップS125で生成したモデル情報を、家具モデルデータベース2024へ格納する処理を行う。
以上のように、家具画像学習システム1では、ユーザの操作により部屋の間取り情報に家具情報が仮想的に配置され、光源処理及び表面処理が行われ、選択された方向(角度)から投影された二次元画像情報をレンダリング画像情報として取得される。このレンダリング画像情報に基づき、機械学習が行われ、家具情報の種類を識別するモデル情報が生成される。そのため、家具の光沢や陰影、材質や模様、質感が表現され、明るさが均一である家具の画像情報を取得することが可能である。また、投影する方向に偏りのないレンダリング画像情報を取得することが可能である。これにより、家具画像情報から家具の種類を識別するためのモデル情報を精度よく生成することが可能になる。
図6は、実施の形態1の家具画像学習システム1により、家具情報の学習処理を行う流れの他の例を示すフローチャートである。図6に示すフローチャートにおける家具情報の学習処理は、図5に示すフローチャートにおける家具情報の学習処理のステップS122及びステップS123に代えて、ステップS222及びステップS223が行われるため、重複する処理については繰り返して説明しない。
ステップS222において、サーバ20の光源処理モジュール2034は、間取りデータベース2022に格納されている部屋の間取り情報を読み取って解析を行い、家具情報を配置した部屋の間取り情報から照明機器や窓等の位置を特定する。光源処理モジュール2034は、特定した照明機器や窓からの光(太陽光)を光源として、その位置からの方向に基づいて家具情報に対する光源処理を行う。
ステップS223において、サーバ20の家具表面処理モジュール2035は、家具データベース2021に格納されている家具及び家具の表面の材質、色やテイスト等に基づき、家具情報に対して表面処理として、表面画像処理や質感画像処理を行う。
以上のように、家具画像学習システム1では、あらかじめ格納されている部屋の間取り情報に基づいて光源処理が行われ、あらかじめ格納されている家具の表面の材質、色やテイスト等に基づいて表面処理が行われる。そのため、ユーザが特に指定することなく光源処理や表面処理が行われるので、ユーザにとって煩わしい操作が不要である。これにより、家具の光沢や陰影、材質や模様、質感が表現され、明るさが均一である家具の画像情報をより容易に取得することが可能になる。
<4 画面例>
以下、図7ないし図9を参照しながら、家具画像学習システム1による家具情報の学習処理の画面例について説明する。
図7は、家具情報の学習処理における、端末装置10に家具情報を表示した画面例を示す図である。図7の画面例は、部屋の間取り情報に仮想的に配置する家具情報を選択するため、家具情報が表示された状態の画面例を示す。図5のステップS111に相当する。
図7に示すように、端末装置10のディスプレイ132には、ユーザが選択した家具情報である家具情報1031aが表示される。図7の例では、家具情報1031aとして、ソファが表示されている。また、図7の例では、家具情報1031aに隣接して、方向矢印1031bが設けられている。この画面表示において、家具情報1031aをクリック等することにより選択し、さらに画面上でポインタをドラッグすると、方向矢印1031bを中心点として家具情報1031aがドラッグした方向へ回転するように家具情報1031aが構成されている。家具情報1031aの回転方向は、水平方向及び垂直方向である。このように構成することで、家具情報1031aをどの方向(上下、左右、前後)からも参照できるようになっている。
図8は、家具情報の学習処理における、端末装置10に家具情報が配置された部屋の間取り情報を表示した画面例を示す図である。図8の画面例は、部屋の間取り情報に仮想的に家具情報が配置された状態の画面例を示す。図5のステップS111に相当する。
図8に示すように、端末装置10のディスプレイ132には、図7に示す家具情報1031aと同様の家具情報1032aが、ユーザが選択した部屋の間取り情報である部屋情報1032bに配置された状態で表示される。なお、図8の例では、家具情報1032aに付随する情報として、クッション等が配置されている。このような付随情報は、ユーザの選択により追加可能に構成してもよい。さらに、部屋情報1032bには、既に配置されている家具として、観葉植物や、壁に据え付けられた棚、テーブル等が配置されているが、これらの情報は、例えば間取りデータベース2022にあらかじめ格納されていてもよく、ユーザの選択により追加/削除可能に構成してもよい。
図9は、家具情報の学習処理における、端末装置10にレンダリング中の家具情報を表示した画面例を示す図である。図9の画面例は、図8に示す部屋の間取り情報及び家具情報に対して、光源処理及び表面処理が行われ、レンダリング画像情報を取得するために投影する方向(角度)を選択する状態の画面例を示す。図5のステップS114に相当する。
図9に示すように、端末装置10のディスプレイ132には、図8に示す家具情報1032aと同様の家具情報1033aが、図8に示す部屋情報1032bに配置された状態と同様に、異なる方向から投影された状謡で表示される。また、図9の例では、画面右上に方向矢印1033bが設けられている。
図9に示す画面では、家具情報1033aをクリック等することにより選択し、さらに画面上でポインタをドラッグすると、家具情報1033aが部屋の間取り情報と共にドラッグした方向へ回転するように構成されている。このときの回転方向は、図7の例と同様に水平方向及び垂直方向である。ユーザは、家具情報1033aを回転させることで、家具情報1033aのレンダリング処理を行う方向(角度)を選択する。これにより、レンダリング処理を行うために家具情報を投影する方向を、どの方向(上下、左右、前後)からでも決定できるようになっている。
<小括>
以上のように、本実施形態によると、ユーザの操作により部屋の間取り情報に家具情報が仮想的に配置され、光源処理及び表面処理が行われ、選択された方向(角度)から投影された二次元画像情報をレンダリング画像情報として取得される。このレンダリング画像情報に基づき、機械学習が行われ、家具情報の種類を識別するモデル情報が生成される。そのため、家具の光沢や陰影、材質や模様、質感が表現され、明るさが均一である家具の画像情報を取得することが可能である。これにより、家具画像情報から家具の種類を識別するためのモデル情報を精度よく生成することが可能になる。
また、選択された方向(角度)から投影された二次元画像情報をレンダリング画像情報として取得されるため、投影する方向に偏りのないレンダリング画像情報を取得することが可能である。これにより、機械学習を行うための教師データとしての家具情報の品質を担保し、特定の方向に偏ることのない家具情報のレンダリング情報に基づく機械学習が可能になる。
<第2の実施の形態>
以下、家具画像学習システム1の他の実施の形態について説明する。
<1 家具画像学習システム1の全体構成>
図10は、実施の形態2の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。第2の実施の形態における家具画像学習システム1の全体の構成、端末装置10の構成は、第1の実施の形態と同様であるので、繰り返して説明しない。サーバ20の構成については、図10に示すように、新たに家具情報生成モジュール2038及び間取り情報生成モジュール2039の機能を備える以外、第1の実施の形態と同様である。以下、第2の実施の形態における家具情報生成モジュール2038及び間取り情報生成モジュール2039の機能について説明する。
家具情報生成モジュール2038は、家具を撮影した写真等の画像情報に基づき、家具データベース2021に格納されている三次元モデル化された家具情報を生成する処理を制御する。家具情報生成モジュール2038は、例えば、家具の画像情報に対して、画像データを線画データに変換するベクター変換等を行い、三次元モデル化された家具情報を生成する。家具情報生成モジュール2038は、生成した家具情報を家具データベース2021へ格納する。このとき、当該家具の種類や色、テイスト等の情報は、自動で入力してもよく、ユーザによる手入力でもよい。
間取り情報生成モジュール2039は、部屋の間取り図や外観等のCADデータや、部屋を撮影した写真等の画像情報に基づき、間取りデータベース2022に格納されている三次元モデル化された部屋の間取り情報を生成する処理を制御する。間取り情報生成モジュール2039は、例えば、CADデータや部屋の画像情報に対して、画像データを線画データに変換するベクター変換等を行い、三次元モデル化された部屋の間取り情報を生成する。間取り情報生成モジュール2039は、生成した部屋の間取り情報を間取りデータベース2022へ格納する。このとき、当該部屋の種類やテイスト等の情報は、自動で入力してもよく、ユーザによる手入力でもよい。
<2 データ構造>
実施の形態2におけるデータ構造は、実施の形態1と同様である。
<3 動作>
家具情報生成モジュール2038は、端末装置10から家具を撮影した写真等の画像情報を受け付けると、三次元モデル化された家具情報を生成する処理を行う。間取り情報生成モジュール2039は、端末装置10から部屋を撮影した写真等の画像情報を受け付けると、三次元モデル化された部屋の間取り情報を生成する処理を行う。それ以降の処理については、実施の形態1と同様である。
<小括>
以上のように、本実施形態によると、家具を撮影した家具情報に基づき、三次元モデル化された家具情報が生成される。部屋を撮影した間取り情報に基づき、三次元モデル化された部屋の間取り情報が生成される。これにより、家具等を設計した三次元CADデータのような情報だけではなく、実在の情報に基づいて機械学習を行い、モデル情報を生成することが可能になる。
<第3の実施の形態>
以下、家具画像学習システム1の他の実施の形態について説明する。
<1 家具画像学習システム1の全体構成>
図11は、実施の形態3の家具画像学習システム1を構成するサーバ20の機能的な構成を示す図である。第3の実施の形態における家具画像学習システム1の全体の構成、端末装置10の構成は、第1の実施の形態と同様であるので、繰り返して説明しない。サーバ20の構成については、図11に示すように、新たに家具画像取得モジュール2040及び家具種類識別モジュール2041の機能を備える以外、第1の実施の形態と同様である。以下、第3の実施の形態における家具画像取得モジュール2040及び家具種類識別モジュール2041の機能について説明する。
なお、実施の形態3では、家具の外観を撮影した家具画像情報から、撮影されている家具の種類を識別するサービスを利用する者を主なユーザとして説明する。また、ユーザが使用する端末装置10には、サーバ20を運営する事業者が提供するアプリがインストールされている。端末装置10は、当該アプリが起動しているときにサーバ20に情報送信リクエストを送信し、当該情報送信リクエストに従って、サーバ20が送信した情報を受信して画面を生成し、表示する。
家具画像取得モジュール2040は、家具の外観を撮影した家具画像情報を取得する処理を制御する。家具画像取得モジュール2040は、例えば、ユーザが端末装置10を操作し、端末装置10のカメラ機能を使用して家具の外観を撮影し、撮影した家具画像情報をサーバ20へ送信するので、送信された家具画像情報を取得する処理を制御する。また、家具画像取得モジュール2040は、取得した家具画像情報に対して、拡大、縮小、ピント補正、色補正等の補正処理が行われてもよい。
家具種類識別モジュール2041は、機械学習モジュール2037が生成したモデル情報に基づき、家具画像取得モジュール2040が取得した家具画像情報に撮影されている家具の種類を識別する処理を制御する。家具種類識別モジュール2041は、例えば、家具画像情報を解析して特徴量を抽出し、モデル情報に基づいて家具データベース2021に格納されている家具種類への当てはめを行い、家具の種類を識別する。
<2 データ構造>
実施の形態3におけるデータ構造は、実施の形態1と同様である。
<3 動作>
以下、図12を参照しながら、実施の形態3における家具画像学習システム1による家具画像情報の識別処理について説明する。図12は、実施の形態3の家具画像学習システム1により、家具画像情報の識別処理を行う流れの一例を示すフローチャートである。
ステップS311において、端末装置10の入力操作受付部181は、ユーザから家具の外観を撮影する操作を受け付ける。例えば、入力操作受付部181は、ユーザからカメラ150の操作を受け付ける。カメラ150は、ユーザの入力操作により撮影対象である家具の撮影を行う。データ処理部183は、カメラ150が撮影した撮影データである家具画像情報を記憶部160に格納する。送受信部182は、家具画像情報をサーバ20へ送信する。
ステップS321において、サーバ20の家具画像取得モジュール2040は、端末装置10から送信された家具画像情報を、通信部201を介して受け付ける処理を行う。
ステップS322において、サーバ20の家具種類識別モジュール2041は、図5のステップS125で生成した家具情報の種類を識別するモデル情報に基づき、ステップS321で取得した家具画像情報に撮影されている家具の種類を識別する処理を行う。
ステップS323において、サーバ20の家具種類識別モジュール2041は、ステップS322で識別した家具の種類の情報をユーザに通知するため、当該ユーザの端末装置10へ送信する処理を行う。家具種類識別モジュール2041は、家具の種類の情報を、ユーザが使用する端末装置10に対して、通信部201を介して送信する。
ステップS313において、端末装置10の送受信部182は、サーバ20から送信された家具の種類の情報を受け付ける。通知制御部184は、受け付けた家具の種類の情報をディスプレイ132に表示させ、当該ユーザに通知する。
<小括>
以上のように、本実施形態によると、ユーザが家具の外観を撮影した家具画像情報を受け付けると、モデル情報に基づき、家具画像情報に撮影されている家具の種類を識別する。そのため、家具の外観を撮影した家具画像情報から、撮影されている家具の種類、具体的にはソファ、テーブル、机等の種類を識別することが可能である。これにより、ユーザが使用している家具の情報を取得し、例えばこの家具に類似する家具の情報を提供したり、再購入等の案内をすることが可能になる。
以上、開示に係る実施形態について説明したが、これらはその他の様々な形態で実施することが可能であり、種々の省略、置換及び変更を行なって実施することができる。これらの実施形態及び変形例ならびに省略、置換及び変更を行なったものは、特許請求の範囲の技術的範囲とその均等の範囲に含まれる。
<付記>
以上の各実施形態で説明した事項を、以下に付記する。
(付記1)制御部を備える情報処理システムであって、制御部は、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する、情報処理システム。
(付記2)制御部は、家具情報に対して、複数の異なる方向から投影されたレンダリング画像情報を取得するステップと、1の家具情報に対する複数のレンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する、(付記1)に記載の情報処理システム。
(付記3)制御部は、三次元モデル化された部屋の間取り情報に、家具情報を仮想的に配置するステップと、間取り情報に配置された家具情報について、レンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する、(付記1)または(付記2)に記載の情報処理システム。
(付記4)家具情報に対して、部屋の間取り情報に基づく光源処理を行い、レンダリング画像情報を取得するステップを実行する、(付記3)に記載の情報処理システム。
(付記5)制御部は、家具情報と、部屋の間取り情報に基づく部屋の外周情報について、レンダリング画像情報を取得するステップと、家具情報及び部屋の外周情報についてのレンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する、(付記3)または(付記4)に記載の情報処理システム。
(付記6)部屋の外周情報として、部屋の天井、部屋の壁、部屋の床、部屋に既に配置されている家具のうちの1つまたは複数の画像情報を含む、(付記5)に記載の情報処理システム。
(付記7)制御部は、さらに、部屋の画像情報に基づき、部屋の間取り情報を生成するステップを実行する、(付記3)から(付記6)のいずれかに記載の情報処理システム。
(付記8)制御部は、家具情報に対して陰影を表現するシェーディング処理を行い、レンダリング画像情報を取得するステップを実行する、(付記1)から(付記7)のいずれかに記載の情報処理システム。
(付記9)制御部は、家具情報に対して、家具情報の表面の模様を表現する表面画像処理を行い、レンダリング画像情報を取得するステップを実行する、(付記1)から(付記8)のいずれかに記載の情報処理システム。
(付記10)制御部は、家具情報に対して、家具情報の質感を表現する質感画像処理を行い、レンダリング画像情報を取得するステップを実行する、(付記1)から(付記9)のいずれかに記載の情報処理システム。
(付記11)制御部は、さらに、家具の画像情報に基づき、家具情報を生成するステップを実行する、(付記1)から(付記10)のいずれかに記載の情報処理システム。
(付記12)制御部は、さらに、家具の外観を撮影した家具画像情報を取得するステップと、モデル情報に基づき、家具画像情報に係る家具の種類を識別するステップと、を実行する、(付記1)から(付記11)のいずれかに記載の情報処理システム。
(付記13)制御部は、家具画像情報に対する補正処理を行うステップを実行する、(付記12)に記載の情報処理システム。
(付記14)プロセッサを備えるコンピュータにより実行されるための方法であって、方法は、プロセッサが、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行する、方法。
(付記15)プロセッサを備えるコンピュータに実行させるためのプログラムであって、プログラムは、プロセッサに、三次元モデル化された家具情報から投影された、家具情報のレンダリング画像情報を取得するステップと、レンダリング画像情報に基づき、機械学習を行い、家具情報の種類を識別するモデル情報を生成するステップと、を実行させる、プログラム。
10 端末装置、20 サーバ、80 ネットワーク、171 ユーザ情報、22 通信IF、23 入出力IF、25 メモリ、26 ストレージ、29 プロセッサ、201 通信部、202 記憶部、2021 家具データベース、2022 間取りデータベース、2023 レンダリングデータベース、2024 家具モデルデータベース、203 制御部

Claims (11)

  1. 制御部を備える情報処理システムであって、
    前記制御部は、
    家具の画像情報に基づき、機械学習の対象である、三次元モデル化された家具情報を生成するステップと、
    三次元モデル化された前記家具情報に対して表現するテイストの情報の入力を受け付けるステップと、
    部屋の画像情報に基づき、三次元モデル化された部屋の間取り情報を生成するステップと、
    三次元モデル化された前記部屋の間取り情報のテイストの情報の入力を受け付けるステップと、
    三次元モデル化された前記家具情報を選択する入力情報を受け付け、三次元モデル化された前記部屋の間取り情報に、三次元モデル化された前記家具情報を仮想的に配置するステップと、
    前記間取り情報に配置された前記家具情報に対して、前記家具情報のテイストの情報に基づき、前記家具情報の表面の模様を表現する表面画像処理を行うステップと、
    前記部屋の間取り情報に配置された前記家具情報から投影された、前記家具情報のレンダリング画像情報を取得するステップと、
    前記レンダリング画像情報に基づき、機械学習を行い、前記家具情報の種類を識別するモデル情報を生成するステップと、を実行する、情報処理システム。
  2. 前記制御部は、
    前記家具情報に対して、複数の異なる方向から投影された前記レンダリング画像情報を取得するステップと、
    1の前記家具情報に対する複数の前記レンダリング画像情報に基づき、機械学習を行い、前記家具情報の種類を識別するモデル情報を生成するステップと、を実行する、請求項1に記載の情報処理システム。
  3. 前記家具情報に対して、前記部屋の間取り情報に基づく光源処理を行い、前記レンダリング画像情報を取得するステップを実行する、請求項1または請求項2に記載の情報処理システム。
  4. 前記制御部は、
    前記家具情報と、前記部屋の間取り情報に基づく前記部屋の外周情報について、前記レンダリング画像情報を取得するステップと、
    前記家具情報及び前記部屋の外周情報についての前記レンダリング画像情報に基づき、機械学習を行い、前記家具情報の種類を識別するモデル情報を生成するステップと、を実行する、請求項3に記載の情報処理システム。
  5. 前記部屋の外周情報として、前記部屋の天井、前記部屋の壁、前記部屋の床、前記部屋に既に配置されている家具のうちの1つまたは複数の画像情報を含む、請求項4に記載の情報処理システム。
  6. 前記制御部は、
    前記家具情報に対して陰影を表現するシェーディング処理を行い、前記レンダリング画像情報を取得するステップを実行する、請求項1から請求項5のいずれか1項に記載の情報処理システム。
  7. 前記制御部は、
    前記家具情報に対して、前記家具情報の質感を表現する質感画像処理を行い、前記レンダリング画像情報を取得するステップを実行する、請求項1から請求項6のいずれか1項に記載の情報処理システム。
  8. 前記制御部は、さらに、
    家具の外観を撮影した家具画像情報を取得するステップと、
    前記モデル情報に基づき、前記家具画像情報に係る家具の種類を識別するステップと、を実行する、請求項1から請求項7のいずれか1項に記載の情報処理システム。
  9. 前記制御部は、
    前記家具画像情報に対する補正処理を行うステップを実行する、請求項8に記載の情報処理システム。
  10. プロセッサを備えるコンピュータにより実行されるための方法であって、
    前記方法は、前記プロセッサが、
    家具の画像情報に基づき、機械学習の対象である、三次元モデル化された家具情報を生成するステップと、
    三次元モデル化された前記家具情報に対して表現するテイストの情報の入力を受け付けるステップと、
    部屋の画像情報に基づき、三次元モデル化された部屋の間取り情報を生成するステップと、
    三次元モデル化された前記部屋の間取り情報のテイストの情報の入力を受け付けるステップと、
    三次元モデル化された前記家具情報を選択する入力情報を受け付け、三次元モデル化された前記部屋の間取り情報に、三次元モデル化された前記家具情報を仮想的に配置するステップと、
    前記間取り情報に配置された前記家具情報に対して、前記家具情報のテイストの情報に基づき、前記家具情報の表面の模様を表現する表面画像処理を行うステップと、
    前記部屋の間取り情報に配置された前記家具情報から投影された、前記家具情報のレンダリング画像情報を取得するステップと、
    前記レンダリング画像情報に基づき、機械学習を行い、前記家具情報の種類を識別するモデル情報を生成するステップと、を実行する、方法。
  11. プロセッサを備えるコンピュータに実行させるためのプログラムであって、
    前記プログラムは、前記プロセッサに、
    家具の画像情報に基づき、機械学習の対象である、三次元モデル化された家具情報を生成するステップと、
    三次元モデル化された前記家具情報に対して表現するテイストの情報の入力を受け付けるステップと、
    部屋の画像情報に基づき、三次元モデル化された部屋の間取り情報を生成するステップと、
    三次元モデル化された前記部屋の間取り情報のテイストの情報の入力を受け付けるステップと、
    三次元モデル化された前記家具情報を選択する入力情報を受け付け、三次元モデル化された前記部屋の間取り情報に、三次元モデル化された前記家具情報を仮想的に配置するステップと、
    前記間取り情報に配置された前記家具情報に対して、前記家具情報のテイストの情報に基づき、前記家具情報の表面の模様を表現する表面画像処理を行うステップと、
    前記部屋の間取り情報に配置された前記家具情報から投影された、前記家具情報のレンダリング画像情報を取得するステップと、
    前記レンダリング画像情報に基づき、機械学習を行い、前記家具情報の種類を識別するモデル情報を生成するステップと、を実行させる、プログラム。
JP2020115435A 2020-07-03 2020-07-03 情報処理システム、方法及びプログラム Active JP6932821B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020115435A JP6932821B1 (ja) 2020-07-03 2020-07-03 情報処理システム、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020115435A JP6932821B1 (ja) 2020-07-03 2020-07-03 情報処理システム、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP6932821B1 true JP6932821B1 (ja) 2021-09-08
JP2022013100A JP2022013100A (ja) 2022-01-18

Family

ID=77549971

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020115435A Active JP6932821B1 (ja) 2020-07-03 2020-07-03 情報処理システム、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6932821B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113792358A (zh) * 2021-09-22 2021-12-14 深圳须弥云图空间科技有限公司 一种三维家具自动交互布局方法、装置及电子设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149049A (ja) * 1998-11-05 2000-05-30 Wall:Kk 建築意匠シミュレーション装置及び記録媒体
JP2004164151A (ja) * 2002-11-12 2004-06-10 Dainippon Printing Co Ltd 画像素材データ集の作成/提供方法および作成装置
JP2013088906A (ja) * 2011-10-14 2013-05-13 Cyber Ai Entertainment Inc 画像認識システムを備えた知識情報処理サーバシステム
JP2017142780A (ja) * 2015-12-07 2017-08-17 ダッソー システムズDassault Systemes 二次元画像からの三次元モデル化オブジェクトの認識
WO2017171005A1 (ja) * 2016-04-01 2017-10-05 株式会社wise 3dグラフィック生成、人工知能の検証・学習システム、プログラム及び方法
WO2019019019A1 (zh) * 2017-07-25 2019-01-31 深圳前海达闼云端智能科技有限公司 训练数据生成方法、生成装置及其图像语义分割方法
JP2019091436A (ja) * 2017-10-18 2019-06-13 ダッソー システムズDassault Systemes 3d配置のタイプに応じた2d画像の分類
JP6579353B1 (ja) * 2019-04-24 2019-09-25 Arithmer株式会社 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000149049A (ja) * 1998-11-05 2000-05-30 Wall:Kk 建築意匠シミュレーション装置及び記録媒体
JP2004164151A (ja) * 2002-11-12 2004-06-10 Dainippon Printing Co Ltd 画像素材データ集の作成/提供方法および作成装置
JP2013088906A (ja) * 2011-10-14 2013-05-13 Cyber Ai Entertainment Inc 画像認識システムを備えた知識情報処理サーバシステム
JP2017142780A (ja) * 2015-12-07 2017-08-17 ダッソー システムズDassault Systemes 二次元画像からの三次元モデル化オブジェクトの認識
WO2017171005A1 (ja) * 2016-04-01 2017-10-05 株式会社wise 3dグラフィック生成、人工知能の検証・学習システム、プログラム及び方法
WO2019019019A1 (zh) * 2017-07-25 2019-01-31 深圳前海达闼云端智能科技有限公司 训练数据生成方法、生成装置及其图像语义分割方法
JP2019091436A (ja) * 2017-10-18 2019-06-13 ダッソー システムズDassault Systemes 3d配置のタイプに応じた2d画像の分類
JP6579353B1 (ja) * 2019-04-24 2019-09-25 Arithmer株式会社 情報処理装置、情報処理方法、寸法データ算出装置、及び製品製造装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113792358A (zh) * 2021-09-22 2021-12-14 深圳须弥云图空间科技有限公司 一种三维家具自动交互布局方法、装置及电子设备
CN113792358B (zh) * 2021-09-22 2024-06-04 深圳须弥云图空间科技有限公司 一种三维家具自动交互布局方法、装置及电子设备

Also Published As

Publication number Publication date
JP2022013100A (ja) 2022-01-18

Similar Documents

Publication Publication Date Title
US20230153475A1 (en) Method for replacing 3d objects in 2d environment
US10755460B2 (en) Generating enhanced images using dimensional data
KR102406327B1 (ko) 출력 장치를 제어하는 방법 및 장치
US10846938B2 (en) User device augmented reality based item modeling
US10140769B2 (en) Electronic device and method for providing map service
US11263457B2 (en) Virtual item display simulations
US20160163107A1 (en) Augmented Reality Method and System, and User Mobile Device Applicable Thereto
US20150185825A1 (en) Assigning a virtual user interface to a physical object
US20120113141A1 (en) Techniques to visualize products using augmented reality
US20150187137A1 (en) Physical object discovery
CN108370488B (zh) 音频提供方法及其设备
CN108346168B (zh) 一种手势图像生成方法、装置及存储介质
JP2016162142A (ja) 画像処理装置
KR20160043443A (ko) 다수의 외부 장치와 연결하는 방법 및 이를 구현하는 전자 장치
CN109196577A (zh) 用于为计算机化***提供用户界面并与虚拟环境交互的方法和设备
US10620807B2 (en) Association of objects in a three-dimensional model with time-related metadata
US20230334803A1 (en) Image processing method, recording medium, and image processing system
KR20210083574A (ko) 가상 공간 인테리어를 이용한 인터페이스 제공 방법 및 그 장치
JP6932821B1 (ja) 情報処理システム、方法及びプログラム
CN108141474A (zh) 与外部设备共享内容的电子设备及其用于共享内容的方法
JP2023018884A (ja) プログラム、情報処理装置及び方法
WO2018023042A1 (en) Method and system for creating invisible real-world links to computer-aided tasks with camera
KR102460140B1 (ko) 증강현실을 이용한 행사지원서비스 제공방법 및 서버
US11556308B2 (en) Information processing system, information processing apparatus including circuitry to store position information of users present in a space and control environment effect production, information processing method, and room
CN109427098A (zh) 一种基于增强现实的图像展示方法和***

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200817

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200817

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210818

R150 Certificate of patent or registration of utility model

Ref document number: 6932821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150