JP7447238B2 - 画像表示装置、画像表示方法、及びプログラム - Google Patents

画像表示装置、画像表示方法、及びプログラム Download PDF

Info

Publication number
JP7447238B2
JP7447238B2 JP2022503154A JP2022503154A JP7447238B2 JP 7447238 B2 JP7447238 B2 JP 7447238B2 JP 2022503154 A JP2022503154 A JP 2022503154A JP 2022503154 A JP2022503154 A JP 2022503154A JP 7447238 B2 JP7447238 B2 JP 7447238B2
Authority
JP
Japan
Prior art keywords
display
display unit
dimensional model
target
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022503154A
Other languages
English (en)
Other versions
JPWO2021171839A1 (ja
JPWO2021171839A5 (ja
Inventor
正志 藏之下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021171839A1 publication Critical patent/JPWO2021171839A1/ja
Publication of JPWO2021171839A5 publication Critical patent/JPWO2021171839A5/ja
Application granted granted Critical
Publication of JP7447238B2 publication Critical patent/JP7447238B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、画像表示装置、画像表示方法、及びプログラムに関し、特に3次元モデルを表示する画像表示装置、画像表示方法、及びプログラムに関する。
近年、構造物の点検を行う場合にデジタルカメラ(撮像装置)により構造物を撮影し、得られた点検画像に基づいて点検作業が行われている。このような点検作業では、構造物の様々な箇所を撮影するために、多数の点検画像が取得される。そして、点検対象である構造物の全体構造を大まかに表現した3次元モデル上の対応する位置に、点検画像のリンクポイントを配置することにより、点検画像相互の位置関係を把握する表示技術が提案されている。
例えば、特許文献1に記載されている技術では、橋梁の3次元モデルと点検画像とを対応する位置関係に配置させることが記載されている(図8(b))。
特開2011-192270号公報
点検画像から損傷を検出するためには、点検画像における損傷を一定の解像で撮像しなければならない。例えば、点検画像は構造物の壁面に対して1~2mの被写体距離で撮影されることが多い。したがって、点検画像の画角は損傷箇所に対して小さい場合があり、この場合にはユーザは点検画像の表示領域を移動させながら、損傷を追跡して観察する必要がある。一方で、点検画像には損傷箇所が複数存在する場合や、損傷箇所が複雑な形状である場合があり、表示領域を移動した際に、正確に注目する損傷箇所を追跡して観察を行うことが困難な場合がある。
上述した特許文献1では、点検画像の表示領域が移動する場合に、注目する損傷箇所を追跡することに関しては言及されていない。
本発明はこのような事情に鑑みてなされたもので、その目的は、3次元モデル上の平面において表示領域が移動する場合であっても、注目する損傷箇所を見失うこと無く追跡して観察することができる画像表示装置、画像表示方法、及びプログラムを提供することである。
上記目的を達成するための本発明の一の態様である画像表示装置は、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置であって、プロセッサは、メモリに記憶された3次元モデルを表示部に表示させ、表示部に表示された3次元モデル上の一部の指定を受け付けて、指定された箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させ、対象平面における損傷箇所のうちの少なくとも一つの損傷箇所を対象損傷箇所として選択を受け付け、表示部に表示させる対象平面の表示領域を、検出情報に基づいて対象損傷箇所の形状に沿って移動させる。
本態様によれば、対象平面の表示領域が対象損傷箇所の形状に沿って移動するので、対象平面の表示領域が移動した場合であっても、注目する対象損傷箇所を見失うことなく追跡して観察することができる。
本発明の他の態様である画像表示装置は、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置であって、プロセッサは、メモリに記憶された3次元モデルを表示部に表示させ、表示部に表示された3次元モデル上の損傷箇所の指定を受け付けて、損傷箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させ、表示部に表示させる対象平面の表示領域を、検出情報に基づいて損傷箇所である対象損傷箇所の形状に沿って移動させる。
本態様によれば、対象平面の表示領域が対象損傷箇所の形状に沿って移動するので、対象平面の表示領域が移動した場合であっても、注目する対象損傷箇所を見失うことなく追跡して観察することができる。
好ましくは、プロセッサは、表示部に、対象平面を正対させて表示させる。
好ましくは、プロセッサは、表示部に、表示領域の移動の前後において、対象平面の拡大率を一定にして表示させる。
好ましくは、プロセッサは、表示領域を表示部の一画面に相当する画角以内の設定画角ずつ間欠的に移動させ、且つ表示部の中央部に対象損傷箇所の一部を位置させる。
好ましくは、プロセッサは、表示領域を連続的に移動させ、且つ表示部の中央部に対象損傷箇所の一部を位置させる。
好ましくは、プロセッサは、対象損傷箇所に沿って移動するマーカを表示部に表示させる。
好ましくは、プロセッサは、対象損傷箇所に沿って移動するマーカを表示部に表示させ、マーカが設定画角の端に達すると、表示領域を移動させる。
好ましくは、プロセッサは、マーカを自動で移動させる。
好ましくは、プロセッサは、表示部に対象損傷箇所の一部の領域の拡大画像を表示させる。
本発明の他の態様である画像表示方法は、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置を使用した画像表示方法であって、プロセッサにより行われる、メモリに記憶された3次元モデルを表示部に表示させる工程と、表示部に表示された3次元モデル上の一部の指定を受け付けて、指定された箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させる工程と、対象平面における損傷箇所のうちの少なくとも一つの損傷箇所を対象損傷箇所として選択を受け付ける工程と、表示部に表示させる対象平面の表示領域を、検出情報に基づいて対象損傷箇所の形状に沿って移動させる工程と、を含む。
本発明の他の態様である画像表示方法は、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置を使用した画像表示方法であって、プロセッサにより行われる、メモリに記憶された3次元モデルを表示部に表示させる工程と、表示部に表示された3次元モデル上の損傷箇所の指定を受け付けて、損傷箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させる工程と、表示部に表示させる対象平面の表示領域を、検出情報に基づいて損傷箇所である対象損傷箇所の形状に沿って移動させる工程と、を含む。
本発明の他の態様であるプログラムは、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置に画像表示方法を行わせるプログラムであって、プロセッサに、メモリに記憶された3次元モデルを表示部に表示させる工程と、表示部に表示された3次元モデル上の一部の指定を受け付けて、指定された箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させる工程と、対象平面における損傷箇所のうちの少なくとも一つの損傷箇所を対象損傷箇所として選択を受け付ける工程と、表示部に表示させる対象平面の表示領域を、検出情報に基づいて対象損傷箇所の形状に沿って移動させる工程と、を行わせる。
本発明の他の態様であるプログラムは、構造物を撮影した点検画像で構成される構造物の全部又は一部の3次元モデル、及び点検画像において構造物の損傷箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置に画像表示方法を行わせるプログラムであって、プロセッサに、メモリに記憶された3次元モデルを表示部に表示させる工程と、表示部に表示された3次元モデル上の損傷箇所の指定を受け付けて、損傷箇所に対応する3次元モデルの対象平面の一部の領域を表示部に表示させる工程と、表示部に表示させる対象平面の表示領域を、検出情報に基づいて損傷箇所である対象損傷箇所の形状に沿って移動させる工程と、を行わせる。
本発明によれば、3次元モデルの平面の表示領域が対象損傷箇所の形状に沿って移動するので、対象平面の表示領域が移動した場合であっても注目する損傷箇所を見失うことなく追跡して観察することができる。
図1は、画像表示装置の主な構成例を示す図である。 図2は、3次元モデルの一例を示す図である。 図3は、点検画像の一例を示す図である。 図4は、損傷ベクトルに関して説明する図である。 図5は、損傷ベクトルに関して説明する図である。 図6は、画像表示方法に関して説明する図である。 図7は、3次元モデルを示す図である。 図8は、表示部に表示された表示領域を示す図である。 図9は、第1の移動形態を説明する図である。 図10は、第1の移動形態を説明する図である。 図11は、第2の移動形態を説明する図である。 図12は、第2の移動形態を説明する図である。 図13は、画像表示方法を示すフロー図である 図14は、画像表示装置の主な構成例である。 図15は、マーカの表示の一例を示す図である。 図16は、マーカの表示の一例を示す図である。 図17は、マーカの表示及びサブウィンドウWの表示の一例を示す図である。
以下、添付図面にしたがって本発明に係る画像表示装置、画像表示方法、及びプログラムの好ましい実施の形態について説明する。
<第1の実施形態>
図1は、画像表示装置1の主な構成例を示す図である。
画像表示装置1はコンピュータで構成される。画像表示装置1は、装置本体11、表示部21、及び操作部23により構成される。
装置本体11は、CPU(Central Processing Unit)(プロセッサ)13、メモリ15、表示制御部17、受付部19を備える。
CPU13は、画像表示装置1の全般的な制御を行う。CPU13は、メモリ15から必要なプログラム及び各種制御に用いる情報を読み出して、CPU13で行われる各種処理及び各種制御を行う。CPU13は、プログラムを実行させて表示制御部17及び受付部19を実現させる。
CPU13のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の機能部として作用する汎用的なプロセッサであるCPU、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の機能部を1つのプロセッサで構成してもよい。複数の機能部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の機能部として作用させる形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の機能部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
表示部21はモニタで構成される。表示部21は、表示制御部17の制御の下で3次元モデル、及びユーザが3次元モデル上で指定した対象平面を表示する。
受付部19は、操作部23を介してユーザの指令を受け付ける。例えば、操作部23はマウス等のポインティングデバイスやキーボードで構成され、ユーザは操作部23に指令を入力することにより、受付部19でその指令が受け付けられる。
メモリ15は、CPU13で実現される機能に必要なプログラムを記憶する。また、メモリ15は、点検対象の構造物の全部または一部の3次元モデル、及び検出情報を記憶する。またメモリ15は、必要に応じて点検画像を記憶する。ここで点検画像とは、点検対象である構造物を撮影した画像である。例えばメモリ15は、点検対象である構造物を網羅的に撮影した多数の点検画像を記憶する。
3次元モデルは、点検対象である構造物の全体構造を表すモデルである。例えば3次元モデルの3次元形状は3次元CAD(computer-aided design)に基づいて作成される。また、3次元モデルの表面は点検画像が貼り付けられている。例えば複数の点検画像がパノラマ合成されて、3次元モデルの表面に貼り付けられている。なお、点検画像に写っている構造物の箇所と、その点検画像が貼り付けられる3次元モデル上の位置とは対応している。したがって、ユーザは3次元モデルにより点検画像の相互の位置関係を把握することができる。
検出情報は、構造物の点検画像において構造物の損傷箇所を検出した情報である。例えば検出情報は、点検画像を画像処理することに取得されたり、点検画像を機械学習が施された認識器で処理されたりすることにより取得される。また損傷箇所とは、損傷が位置する場所であり、例えばひび割れ、鉄筋露出などの損傷が位置する場所である。また、損傷箇所として、ひび割れを点検作業員がチョーク等でなぞった印も損傷箇所として含まれる。
次に、メモリ15に記憶される3次元モデルに関して説明する。
図2は、表示部21に表示された3次元モデルの一例を示す図である。
図2に示す3次元モデルNは、構造物である柱の全体構造を表している。柱は直方体形状を有し、直方体を構成する各面(表面)にはパノラマ合成された点検画像が貼り付けられている。具体的には、3次元モデルNの面NA、面NB、面NCには、位置的に対応する複数の点検画像がパノラマ合成されて、貼り付けられている。したがって、ユーザは3次元モデルN上の位置を指定し拡大表示をさせることにより、その位置に対応する柱の点検画像を観察することができる。なお、ユーザは、損傷箇所Bが大きい場合には3次元モデルNにおいて損傷箇所Bを視認することができ、損傷箇所Bが小さい場合には3次元モデル上の位置を指定し拡大表示を行った後に損傷箇所Bを視認することができる。なお、上述した3次元モデルNは一例であり、本発明においては他の3次元モデルも使用される。構造物の全体構造を表す3次元モデルとして、点群モデル、テクスチャモデル、及びソリッドモデルが採用され、少なくとも対応する位置に点検画像のリンクポイントが配置されていればよい。
次に、メモリ15に記憶される検出情報に関して説明する。
図3は、点検画像の一例を示す図である。図3に示された点検画像53は、損傷箇所を画像処理又は機械学習が施された認識器で検出する観点から損傷箇所を一定以上の解像で撮像する必要があり、柱の壁面に対して1~2mの被写体距離で撮影される。点検画像53には、ひび割れ55が写っている。ひび割れ55は、画像処理技術又は機械学習が施された認識器(セグメンテーション認識器)により検出される。ひび割れ55を検出することにより、ひび割れ55の損傷情報が得られる。ここで、損傷情報には、検出した損傷箇所に関する様々な情報が含まれる。例えば、損傷箇所の形状、損傷の程度、損傷の種類、損傷の原因等が損傷情報に含まれる。また、後で説明をする損傷の形状を示す損傷ベクトルも損傷情報に含まれる。
図4及び図5は、検出したひび割れ55の損傷情報の一例である損傷ベクトルに関して説明する図である。図4はひび割れ55に基づいて生成された損傷ベクトルを点検画像53に重畳させて示した図であり、図5は各損傷ベクトルを示す点P1~P7の座標を示す図である。検出したひび割れ55に基づいて、損傷ベクトルを生成する手法の一例は以下の通りである。先ず、検出したひび割れ55を必要に応じて2値化及び/又は細線化する。そして、検出したひび割れ55において直線近似ができる線分を1区間として始点及び終点を決定する。また、検出したひび割れ55において枝分かれする箇所がある場合には、枝分かれする箇所において点が設けられる。なお、検出したひび割れ55に基づいて損傷ベクトルを生成する手法は他の公知の技術が用いられてもよい。
ひび割れ55は、始点P1及び終点P2で表されるベクトルC1-1と、始点P2及び終点P3で表されるベクトルC1-2と、始点P3及び終点P4で表されるベクトルC1-3と、始点P3及び終点P5で表されるベクトルC1-4と、始点P3及び終点P6で表されるベクトルC1-5と、始点P6及び終点P7で表されるベクトルC1-6とで表される。なおP1~P7は、図5に示すようにそれぞれ座標を有し、点検画像53上での位置が特定されている。
次に、画像表示装置1を使用した画像表示方法及び画像表示装置1に画像表示方法を行わせるプログラムに関して説明する。
図6は、画像表示装置1を用いて行われる画像表示方法に関して説明する図である。
先ず、表示制御部17は、メモリ15に記憶された3次元モデルM(図7を参照)を表示部21に表示させる(ステップS10:3次元モデルの表示工程)。次に、受付部19は、ユーザからの3次元モデルMの一部の領域の指定を操作部23を介して受け付ける(ステップS11:対象平面の受付工程)。表示制御部17は、指定された対象平面の一部の領域を表示部21に表示させる(ステップS12:対象平面の表示工程)。その後、受付部19は、ユーザからの対象損傷箇所の選択を操作部23を介して受け付ける(ステップS13:対象損傷の受付工程)。次に、表示制御部17は、対象平面の表示領域を対象損傷箇所の形状に沿って移動させる(ステップS14:表示領域の移動工程)。
次に、上述した各工程に関して説明を行う。
<3次元モデルの表示工程及び対象平面の受付工程>
3次元モデルの表示工程では、表示制御部17により3次元モデルMが表示部21に表示される(ステップS10)。
図7は、表示部21に表示された3次元モデルMを示す図である。
3次元モデルMは、構造物である橋梁の全体構造を表す3次元モデルである。3次元モデルMの各面には、橋梁を撮影して得た点検画像がパノラマ合成されて貼り付けられている。3次元モデルMは、自由に回転して視点を移動させることができる。
対象平面の受付工程では、受付部19により操作部23を介してユーザから対象平面の指定を受け付ける(ステップS11)。
ユーザは、表示部21に表示された3次元モデルMにおいて、より詳細に観察したい箇所を操作部23により指定する。例えば、ユーザは表示部21に表示されたカーソル61で、3次元モデルMの一部の対象平面MAを指定することにより、対象平面MAの一部の領域が表示部21に表示される。
<対象平面の表示工程及び対象損傷箇所の受付工程>
対象平面の表示工程では、表示制御部17によりユーザが指定した対象平面MAの一部の表示領域63(以下、表示領域63という)を表示部21に表示させる(ステップS12)。
図8は、表示部21に表示された表示領域63を示す図である。対象平面MAの一部の表示領域63は、3次元モデルMと比較すると拡大されて表示される。したがって、3次元モデルMの表示領域63には、ひび割れ55に対応する対象損傷箇所65が表示される。
対象損傷箇所の受付工程では、受付部19により操作部23を介してユーザから対象損傷箇所の選択を受け付ける(ステップS13)。ユーザは、表示部21に表示された表示領域63を観察して、注目して観察する対象損傷箇所の選択を行う。図8に示した場合では、対象損傷箇所65がカーソル61で選択され、対象損傷箇所として選択される。
<表示領域の移動工程>
表示領域の移動工程では、表示制御部17により、対象平面MAの表示領域が対象損傷箇所65に沿って移動させられる(ステップS14)。表示領域63は画角が小さく、対象損傷箇所65の全体が表示されていない。したがって、ユーザは対象平面MAの表示領域を移動させながら対象損傷箇所65の全体を観察する。表示領域の移動は、ユーザの手動又は自動により行うことができる。以下に、対象平面MAの表示領域の移動形態に関して説明する。
(第1の移動形態)
先ず、対象平面MAの表示領域の第1の移動形態に関して説明する。
図9及び図10は、対象平面MAの表示領域63の第1の移動形態を説明する図である。図9は対象平面MA上の表示領域63から表示領域73の移動を模式的に示した図であり、図10は表示部21に表示される表示領域63及び表示領域73を示した図である。第1の移動形態においては、表示制御部17は、対象平面MAの表示領域を表示部21の一画面に相当する設定画角ずつ間欠的に移動させる。すなわち、第1の移動形態においては、表示領域63が表示された後に表示領域73が表示される。なお、本例では表示部21の一画角毎に表示領域が移動するがこれに限定されず、一画角以内であれば移動する表示領域は適宜設定することができる。例えば、0.5画角毎に表示領域が移動してもよい。また、表示制御部17は、対象損傷箇所65の一部が表示部21の中央部に位置するように表示領域63から表示領域73に移動させる。なお、対象損傷箇所65に枝分かれする箇所がある場合には、メインの枝に沿って表示領域は移動する。ここで、メインの枝は損傷情報により決定される。例えば、枝分かれ後の損傷毎に、損傷個所の損傷の程度、平均幅、面積、及び長さ等に基づきスコアが算出される。かかるスコアに基づき、より観察の優先順位の高いメインの枝が決定される。
表示制御部17は、表示領域63及び表示領域73において対象平面MAを正対した状態で表示させる。また、表示制御部17は、対象平面MAの拡大率を同一にして表示領域63と表示領域73とを表示する。このように、表示領域63から表示領域73へ移動することにより、対象損傷箇所65を見失うことなく追跡して観察することができる。なお、表示領域63から表示領域73に移動するタイミングは、ユーザにより適宜設定される。例えば、手動での表示領域の移動が行われる場合には、ユーザが操作部23を介して移動の指令を入力すると表示領域63から表示領域73に移動する。また、自動での表示領域の移動が行われる場合には、所定の時間が経過した場合に、表示領域63から表示領域73に移動する。また、以下で説明する第3の実施形態のように、マーカを基準にして表示領域63から表示領域73に移動してもよい。
(第2の移動形態)
次に、対象平面MAの表示領域の第2の移動形態に関して説明する。
図11及び図12は、対象平面MAの表示領域63の第2の移動形態を説明する図である。図11は対象平面MA上の表示領域63から表示領域83の移動を模式的に示した図であり、図12は表示部21に表示される表示領域63及び表示領域83を示した図である。表示制御部17は、第2の移動形態においては表示領域を連続的に移動させる。すなわち、第2の実施形態においては、ユーザが表示領域を移動させた場合には、表示領域は連続的に移動する。表示制御部17は、表示領域63及び表示領域83において対象平面MAを正対した状態で表示させる。また、表示制御部17は、対象平面MAの拡大率を同一にして表示領域63と表示領域83とを表示する。このように、表示領域63から表示領域83へ移動することにより、対象損傷箇所65を見失うことなく追跡して観察することができる。なお、表示領域63から表示領域83に移動するタイミングは、上述した第1の移動形態で説明した形態と同様である。
以上で説明したように、本実施形態においては、対象平面の表示領域が対象損傷箇所の形状に沿って移動するので、対象平面の表示領域が移動した場合であっても対象損傷箇所を見失うことなく追跡して観察することができる。
上述の各構成及び機能は、任意のハードウェア、ソフトウェア、或いは両者の組み合わせによって適宜実現可能である。例えば、上述の処理ステップ(処理手順)をコンピュータに実行させるプログラム、そのようなプログラムを記録したコンピュータ読み取り可能な記録媒体(非一時的記録媒体)、或いはそのようなプログラムをインストール可能なコンピュータに対しても本発明を適用することが可能である。
<第2の実施形態>
次に、本発明の第2の実施形態に関して説明する。本実施形態では、3次元モデル上において損傷箇所の視認が可能であり、ユーザが3次元モデル上において対象損傷箇所を選択する実施形態である。
図13は、本実施形態における画像表示装置1を使用した画像表示方法を示すフロー図である。
先ず、表示制御部17は、メモリ15に記憶された3次元モデルを表示部21に表示させる(ステップS20:3次元モデルの表示工程)。次に、受付部19は、ユーザからの3次元モデル上の対象損傷箇所の選択を操作部23を介して受け付ける(ステップS21:対象損傷の受付工程)。本実施形態においては、点検対象である橋梁の全体構造を表現した3次元モデルにおいても、対象損傷箇所の選択が可能である。例えば、対象損傷箇所が大きい場合には、ユーザは3次元モデル上において対象損傷箇所の選択を行うことができる。また、損傷箇所が損傷形状モデルのようにイメージ化され3次元モデルに貼り付けられている場合にも、ユーザは3次元モデル上において損傷箇所の選択を行うことができる。表示制御部17は、選択された対象損傷箇所を含む対象平面の一部を表示部21に表示させる(ステップS22:対象平面の表示工程)。表示制御部17は、対象損傷箇所を有する3次元モデル上の面を特定し、その面を対象平面とし一部の領域を表示部21に表示させる。その後、対象損傷箇所に沿って対象平面の表示領域が移動される(ステップS23:表示領域の移動工程)。
以上で説明したように、本実施形態では、3次元モデル上において対象損傷箇所が選択され、対象損傷箇所を有する3次元モデル上の平面が特定され、その平面が対象平面として表示され、対象平面の表示領域は、対象損傷箇所に沿って移動する。したがって、本態様によれば効率的に対象損傷箇所を選択することができ、対象平面の表示領域が移動した場合であっても対象損傷箇所を見失うことなく追跡して観察することができる。
<第3の実施形態>
次に、本発明の第3の実施形態に関して説明する。本実施形態では、対象損傷箇所の観察の補助表示としてマーカが表示される。
図14は、本実施形態の画像表示装置1の主な構成例である。なお、図1で既に説明を行った箇所は同じ符号を付し説明は省略する。
マーカ表示制御部91は、対象損傷箇所65に沿って移動するマーカを表示部21に表示させる。また、マーカ表示制御部91は、表示部21に表示させたマーカを移動させる。マーカ表示制御部91は、マーカを自動で対象損傷箇所に沿って移動させてもよいし、マーカをユーザの操作に基づいて対象損傷箇所に沿って移動させてもよい。以下にマーカの表示の具体例に関して説明する。
図15は、マーカの表示の一例を示す図である。マーカ表示制御部91は、対象損傷箇所に沿ってマーカQ1-1~Q1-5を表示する。マーカ表示制御部91は、対象損傷箇所65に沿ってマーカQ1-1~マーカQ1-5が自動で順次表示する。例えば、ユーザが対象損傷箇所を選択した後に、マーカQ1-1が表示され、その後、マーカQ1-2、マーカQ1-3、マーカQ1-4、マーカQ1-5と順次表示される。マーカQ1-5が表示された場合には、マーカQ1-1~マーカQ1-5の全てが表示される。なお、図15に示すように、対象損傷箇所65に分岐がある場合には、例えば損傷情報に基づいてメインの対象損傷箇所65に沿って、マーカQ1-1~マーカQ1-5が表示される。また、マーカQ1-1~マーカQ1-5の全てが表示された際に、表示部21は表示領域の移動を行う。上述した第1の移動形態(図9及び図10参照)においては、マーカQ1-1~マーカQ1-5の全てが表示された際に、表示領域63から表示領域73に移動される。このように、対象損傷箇所65に沿って、マーカを表示させることによって、ユーザは表示部21に表示された対象損傷箇所を見失うことなく追跡して観察することができる。また、マーカの表示のタイミングと表示領域の移動のタイミングを対応させることにより、ユーザに表示領域の移動のタイミングを報知することができる。
図16は、マーカの表示の一例を示す図である。マーカ表示制御部91は、対象損傷箇所に沿ってマーカQ2を表示する。マーカ表示制御部91は、対象損傷箇所65に重畳させてマーカQ2を手動で表示する。例えば、マーカ表示制御部91は、ユーザが操作部23を介して入力する指令に基づいて、マーカQ2を対象損傷箇所65に重畳させて移動させる。また、表示制御部17は、マーカQ2が表示領域63の画角の端に達すると、上述した第1の移動形態(図9及び図10参照)で説明したように、表示領域63から表示領域73に移動させる。このように、対象損傷箇所65に沿って、マーカを表示させることによって、ユーザは表示部21に表示された対象損傷箇所を見失うことなく追跡して観察することができる。また、ユーザが手動で動かすマーカの移動(画角に端に達するタイミング)と、表示領域の移動のタイミングとを合わせることにより、ユーザは所望のタイミングで表示領域の移動を行うことができる。
図17は、マーカの表示及びサブウィンドウWの表示の一例を示す図である。なお、図17で示される表示領域71は、図16で示された表示領域63と比較して広角に表示されている。マーカ表示制御部91は、対象損傷箇所65に重畳させてマーカQ2を表示させ、マーカQ2を手動により移動させる。また、表示制御部17は、表示部21にサブウィンドウWを表示させる。サブウィンドウWには、マーカQ2が位置する箇所の対象損傷箇所65の拡大画像が表示される。このように、マーカQ2が位置する箇所の対象損傷箇所65の拡大画像が表示されることにより、ユーザはより損傷箇所に関して細かい部分まで観察を行うことができる。
以上で本発明の例に関して説明してきたが、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1 :画像表示装置
9 :表示部
11 :装置本体
13 :CPU
15 :メモリ
17 :表示制御部
19 :受付部
21 :表示部
23 :操作部
91 :マーカ表示制御部
M :3次元モデル
N :3次元モデル
W :サブウィンドウ

Claims (16)

  1. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置であって、
    前記プロセッサは、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させ、
    前記表示部に表示された前記3次元モデル上の一部の指定を受け付けて、前記指定された箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させ、
    前記対象平面における前記ひび割れ箇所のうちの少なくとも一つの前記ひび割れ箇所を対象ひび割れ箇所として選択を受け付け、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記対象ひび割れ箇所の形状に沿って移動させる、
    画像表示装置。
  2. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置であって、
    前記プロセッサは、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させ、
    前記表示部に表示された前記3次元モデル上の前記ひび割れ箇所の指定を受け付けて、前記ひび割れ箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させ、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記ひび割れ箇所である対象ひび割れ箇所の形状に沿って移動させる、
    画像表示装置。
  3. 前記プロセッサは、前記表示部に、前記対象平面を正対させて表示させる請求項1又は2に記載の画像表示装置。
  4. 前記プロセッサは、前記表示部に、前記表示領域の移動の前後において、前記対象平面の拡大率を一定にして表示させる請求項1から3のいずれか1項に記載の画像表示装置。
  5. 前記プロセッサは、前記表示領域を前記表示部の一画面に相当する画角以内の設定画角ずつ間欠的に移動させる請求項1から4のいずれか1項に記載の画像表示装置。
  6. 前記プロセッサは、前記表示領域を連続的に移動させる請求項1から4のいずれか1項に記載の画像表示装置。
  7. 前記プロセッサは、前記対象ひび割れ箇所に沿って移動するマーカを前記表示部に表示させる請求項6に記載の画像表示装置。
  8. 前記プロセッサは、前記対象ひび割れ箇所に沿って手動により移動するマーカを前記表示部に表示させる請求項6に記載の画像表示装置。
  9. 前記プロセッサは、前記対象ひび割れ箇所に沿って移動するマーカを前記表示部に表示させ、前記マーカが前記設定画角の端に達すると、前記表示領域を移動させる請求項5に記載の画像表示装置。
  10. 前記プロセッサは、前記マーカを自動で移動させる請求項7から9のいずれか1項に記載の画像表示装置。
  11. 前記プロセッサは、前記表示部に前記対象ひび割れ箇所の一部の領域の拡大画像を表示させる請求項1から10のいずれか1項に記載の画像表示装置。
  12. 前記ひび割れ箇所は、枝分かれするひび割れであり、
    前記プロセッサは、
    前記枝ごとのひび割れ箇所のひび割れの程度、平均幅、面積、及び長さ等に基づきスコアを算出することによりメインの枝を決定し、
    前記メインの枝に沿って表示領域を移動させる、
    請求項1から11のいずれか1項に記載の画像表示装置。
  13. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置を使用した画像表示方法であって、
    前記プロセッサにより行われる、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させる工程と、
    前記表示部に表示された前記3次元モデル上の一部の指定を受け付けて、前記指定された箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させる工程と、
    前記対象平面における前記ひび割れ箇所のうちの少なくとも一つの前記ひび割れ箇所を対象ひび割れ箇所として選択を受け付ける工程と、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記対象ひび割れ箇所の形状に沿って移動させる工程と、
    を含む画像表示方法。
  14. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置を使用した画像表示方法であって、
    前記プロセッサにより行われる、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させる工程と、
    前記表示部に表示された前記3次元モデル上の前記ひび割れ箇所の指定を受け付けて、前記ひび割れ箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させる工程と、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記ひび割れ箇所である対象ひび割れ箇所の形状に沿って移動させる工程と、
    を含む画像表示方法。
  15. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置に画像表示方法を行わせるプログラムであって、
    前記プロセッサに、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させる工程と、
    前記表示部に表示された前記3次元モデル上の一部の指定を受け付けて、前記指定された箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させる工程と、
    前記対象平面における前記ひび割れ箇所のうちの少なくとも一つの前記ひび割れ箇所を対象ひび割れ箇所として選択を受け付ける工程と、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記対象ひび割れ箇所の形状に沿って移動させる工程と、
    を行わせるプログラム。
  16. 構造物を撮影した点検画像で構成される前記構造物の全部又は一部の3次元モデル、及び前記点検画像において前記構造物のひび割れ箇所を検出した検出情報が記憶されているメモリと、表示部と、プロセッサとを備える画像表示装置に画像表示方法を行わせるプログラムであって、
    前記プロセッサに、
    前記メモリに記憶された前記3次元モデルを前記表示部に表示させる工程と、
    前記表示部に表示された前記3次元モデル上の前記ひび割れ箇所の指定を受け付けて、前記ひび割れ箇所に対応する前記3次元モデルの対象平面の一部の領域を前記表示部に表示させる工程と、
    前記表示部に表示させる前記対象平面の表示領域を、前記検出情報に基づいて前記ひび割れ箇所である対象ひび割れ箇所の形状に沿って移動させる工程と、
    を行わせるプログラム。
JP2022503154A 2020-02-28 2021-01-21 画像表示装置、画像表示方法、及びプログラム Active JP7447238B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020033960 2020-02-28
JP2020033960 2020-02-28
PCT/JP2021/001926 WO2021171839A1 (ja) 2020-02-28 2021-01-21 画像表示装置、画像表示方法、及びプログラム

Publications (3)

Publication Number Publication Date
JPWO2021171839A1 JPWO2021171839A1 (ja) 2021-09-02
JPWO2021171839A5 JPWO2021171839A5 (ja) 2022-11-14
JP7447238B2 true JP7447238B2 (ja) 2024-03-11

Family

ID=77490924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022503154A Active JP7447238B2 (ja) 2020-02-28 2021-01-21 画像表示装置、画像表示方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP7447238B2 (ja)
WO (1) WO2021171839A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115830616A (zh) * 2021-09-15 2023-03-21 北京有竹居网络技术有限公司 临摹信息确定方法、装置、计算机设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017168077A (ja) 2016-03-09 2017-09-21 株式会社リコー 画像処理方法、表示装置および点検システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3396359B1 (en) * 2015-12-25 2021-04-28 FUJIFILM Corporation Damage information processing device and damage information processing method
JP2017130049A (ja) * 2016-01-20 2017-07-27 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6609057B2 (ja) * 2016-08-22 2019-11-20 富士フイルム株式会社 画像処理装置
JP6947098B2 (ja) * 2018-03-26 2021-10-13 富士通株式会社 画像処理装置、方法、及びプログラム
JP7330710B2 (ja) * 2018-04-26 2023-08-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP7207073B2 (ja) * 2019-03-27 2023-01-18 富士通株式会社 点検作業支援装置、点検作業支援方法及び点検作業支援プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017168077A (ja) 2016-03-09 2017-09-21 株式会社リコー 画像処理方法、表示装置および点検システム

Also Published As

Publication number Publication date
WO2021171839A1 (ja) 2021-09-02
JPWO2021171839A1 (ja) 2021-09-02

Similar Documents

Publication Publication Date Title
JP4492654B2 (ja) 3次元計測方法および3次元計測装置
JP4774824B2 (ja) 3次元計測処理の計測対象範囲の確認方法および計測対象範囲の設定方法ならびに各方法を実施する装置
JP5911934B2 (ja) 輪郭線計測装置およびロボットシステム
JP5620200B2 (ja) 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム
CN108965690B (zh) 图像处理***、图像处理装置及计算机可读存储介质
KR20060132454A (ko) 화상 처리 장치
JP2008275341A (ja) 情報処理装置、情報処理方法
US9569850B2 (en) System and method for automatically determining pose of a shape
JP2013167481A (ja) 画像処理装置およびプログラム
JP6970817B2 (ja) 構造物管理装置、構造物管理方法、及び構造物管理プログラム
JP2010287174A (ja) 家具シミュレーション方法、装置、プログラム、記録媒体
JP2003030653A (ja) 画像処理方法、同装置、およびボンディング装置
EP4002293A1 (en) Image display device, method, and program
JP7447238B2 (ja) 画像表示装置、画像表示方法、及びプログラム
JP2024012527A (ja) 情報表示装置、方法及びプログラム
US11055865B2 (en) Image acquisition device and method of operating image acquisition device
US20220406018A1 (en) Three-dimensional display device, three-dimensional display method, and three-dimensional display program
JP6989877B2 (ja) 位置座標算出方法及び位置座標算出装置
JP7326446B2 (ja) 画像表示装置、方法及びプログラム
JP2005165692A (ja) 画像処理装置、画像処理方法
JP2006003276A (ja) 3次元形状計測システム
JPH11175692A (ja) 関節の動きデータ収集装置
JP2004252815A (ja) 画像表示装置、画像表示方法およびプログラム
JP6841977B2 (ja) 撮影支援装置、撮影支援方法、及び撮影支援プログラム
JP6464569B2 (ja) 角膜内皮細胞解析プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221028

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240228

R150 Certificate of patent or registration of utility model

Ref document number: 7447238

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150