WO2023157155A1 - 撮影計画装置及び撮影計画方法 - Google Patents

撮影計画装置及び撮影計画方法 Download PDF

Info

Publication number
WO2023157155A1
WO2023157155A1 PCT/JP2022/006287 JP2022006287W WO2023157155A1 WO 2023157155 A1 WO2023157155 A1 WO 2023157155A1 JP 2022006287 W JP2022006287 W JP 2022006287W WO 2023157155 A1 WO2023157155 A1 WO 2023157155A1
Authority
WO
WIPO (PCT)
Prior art keywords
virtual
cameras
dimensional
unit
model
Prior art date
Application number
PCT/JP2022/006287
Other languages
English (en)
French (fr)
Inventor
賢人 山▲崎▼
浩平 岡原
義広 都丸
百代 日野
Original Assignee
三菱電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱電機株式会社 filed Critical 三菱電機株式会社
Priority to PCT/JP2022/006287 priority Critical patent/WO2023157155A1/ja
Priority to JP2023561122A priority patent/JP7422960B2/ja
Publication of WO2023157155A1 publication Critical patent/WO2023157155A1/ja

Links

Images

Definitions

  • the present disclosure relates to a photography planning device and a photography planning method.
  • Non-Patent Document 1 One of the purposes of the shooting planning method for generating a three-dimensional model described in Non-Patent Document 1 is to use SfM (Structure from Motion) and MVS (Multi-View Stereo) from multiple images taken by a camera. to solve problems that may arise when generating a three-dimensional model using Specifically, the above problems include the inability to correctly estimate the pose of the camera due to inappropriate positions and number of the multiple images taken, and the inability to correctly estimate the pose of the generated three-dimensional model When trying to avoid the occurrence of large errors, etc., the above-described MVS requires a great deal of processing time.
  • SfM Structure from Motion
  • MVS Multi-View Stereo
  • the pose of the camera that should be additionally shot is estimated, and the additional shooting is actually performed. take a picture. Therefore, if the accuracy of estimating the pose of the camera to be added is not high, there is a problem that the additional photographing takes a long time.
  • the purpose of the present disclosure is to increase accuracy in estimating camera poses for additional shots taken to complete the 3D model while still allowing SfM and/or MVS processing.
  • a photographing planning apparatus provides a virtual model object having a predetermined shape that simulates the shape of a three-dimensional object for which a three-dimensional model is to be generated.
  • an applying unit that applies a virtual three-dimensional figure; arranging the position of a virtual camera based on the position on the surface of the virtual three-dimensional figure applied by the applying unit;
  • a determination unit that determines the number and positions of virtual cameras necessary to obtain a plurality of virtual images of the virtual model, and the virtual cameras determined by the determination unit a planning unit that plans the number and positions of cameras necessary to obtain a plurality of images of the three-dimensional object, which will be required to generate a three-dimensional model of the three-dimensional object, based on the number and positions of the ,including.
  • the shooting planning device it is possible to plan with higher accuracy the estimation of the pose of the camera for the additional shooting to complete the 3D model.
  • FIG. 2 is a functional block diagram of the imaging planning device SKS of Embodiment 1.
  • FIG. 3 shows an actual three-dimensional object RI of Embodiment 1; 1 shows a virtual model MO of Embodiment 1; 3 shows a virtual three-dimensional figure RZ of Embodiment 1; 2 shows the hardware configuration of the imaging planning apparatus SKS of Embodiment 1.
  • FIG. 4 is a flowchart showing the operation of the imaging planning device SKS of Embodiment 1; 4 shows the operation of applying the solid figure RZ to the model MO of the first embodiment.
  • the operations of arrangement, photography, and extraction in the imaging planning apparatus SKS of the first embodiment are shown (Part 1).
  • 2 shows the operations of placement, photography, and extraction in the imaging planning apparatus SKS of the first embodiment (Part 2).
  • FIG. 10 is a functional block diagram of the imaging planning device SKS of Embodiment 2; 2 shows a virtual part BU of Embodiment 2.
  • FIG. 3 shows a solid figure RZ of Embodiment 2.
  • FIG. 4 shows the operation of the imaging planning apparatus SKS of Embodiment 3.
  • Embodiment 1 The imaging planning apparatus SKS of the first embodiment will be described.
  • FIG. 1 is a functional block diagram of the imaging planning system SKS of the first embodiment.
  • FIG. 2 shows the actual three-dimensional object RI of Embodiment 1.
  • FIG. 3 shows the virtual model MO of the first embodiment.
  • FIG. 4 shows a virtual three-dimensional figure RZ of the first embodiment.
  • FIG. 1 The functions of the imaging planning device SKS of Embodiment 1 will be described with reference to FIGS. 1 to 4.
  • FIG. 1 The functions of the imaging planning device SKS of Embodiment 1 will be described with reference to FIGS. 1 to 4.
  • the imaging planning apparatus SKS of the first embodiment includes, as shown in FIG. 1, an application part TE, a repetition part KU, a determination part KT, and a planning part KK.
  • the application part TE corresponds to the "application part”
  • the repetition part KU corresponds to the "repeat part”
  • the decision part KT corresponds to the "decision part”
  • the planning part KK corresponds to the "planning part”.
  • the application unit TE preliminarily applies the A virtual solid figure RZ (illustrated in FIG. 4) having a defined shape is applied.
  • three-dimensional object RI is abbreviated as “three-dimensional object RI”
  • model MO is abbreviated as “model MO”
  • solid figure RZ is abbreviated as “solid figure RZ”.
  • a three-dimensional object RI is an existing man-made object, natural object, etc., such as a bridge (illustrated in Fig. 2), a building, a forest, a river, or the like.
  • the model MO imitates the shape of the three-dimensional object RI and exists on a computer or computer network.
  • the model MO is, for example, a model of a bridge, as shown in FIG.
  • the three-dimensional figure RZ has a predetermined shape and exists on a computer or a computer network in the same way as the model MO.
  • the solid figure RZ is, for example, an ellipsoid (illustrated in FIG. 4).
  • the repetition unit KU as shown in FIG. 1, has an arrangement unit HA, an imaging unit SA, an extraction unit CY, an evaluation unit HY, and an increase unit ZO.
  • the arrangement unit HA arranges virtual cameras KAa and KAb (for example, shown in FIG. 7) for photographing the model MO based on the position on the surface of the solid figure RZ. Change position.
  • the virtual camera KAa is abbreviated as “camera KAa”, and other virtual cameras are similarly abbreviated.
  • the photographing unit SA acquires a plurality of virtual images GA (for example, shown in FIG. 8) by photographing the model MO using the cameras KAa, KAb, etc. whose positions have been changed by the placement unit HA. do.
  • image GA is abbreviated as "image GA”.
  • the extraction unit CY extracts multiple features TO (for example, shown in FIG. 8) from multiple images GA acquired by the imaging unit SA.
  • the feature TO is a point used for generating a three-dimensional model of the model MO, as is conventionally known.
  • the evaluation unit HY evaluates the plurality of images GA acquired by the imaging unit SA based on the plurality of features TO extracted by the extraction unit CY. based on
  • the increase unit ZO increases the number of cameras KAa, KAb, etc. according to the evaluation result of the plurality of images GA by the evaluation unit HY.
  • the repeating unit KU includes the arrangement unit HA changing the positions of the cameras KAa, KAb, etc., the photographing unit SA photographing the model object MO, the extracting unit CY extracting a plurality of features TO, and the evaluating unit HY extracting a plurality of images GA. The evaluation and the increase in the number of cameras KAa, KAb, etc. by the increase unit ZO are repeated.
  • the determining unit KT selects the cameras KAa, KAb necessary for obtaining a plurality of images GA of the model MO, which are necessary for generating a three-dimensional model of the model MO through repetition by the repeating unit KU. Decide the number and position of etc.
  • the planning unit KK selects a plurality of images of the three-dimensional object RI that will be required to generate a three-dimensional model of the three-dimensional object RI.
  • the number and positions of the actual cameras KMa, KMb, etc. (shown in FIG. 2) required to obtain the actual image GZ (shown in FIG. 2) are planned.
  • image GZ is abbreviated as “image GZ”, and for example, the actual cameras KMa, KMb, etc. are abbreviated as “cameras KMa, KMb, etc.”.
  • FIG. 5 shows the hardware configuration of the imaging planning apparatus SKS of the first embodiment.
  • the imaging planning apparatus SKS of the first embodiment includes a processor PR, a memory ME, and a storage medium KI as shown in FIG. , and an output SY.
  • the processor PR is the core of a well-known computer that operates hardware according to software.
  • the memory ME is composed of, for example, a DRAM (Dynamic Random Access Memory) and an SRAM (Static Random Access Memory).
  • the storage medium KI is composed of, for example, a hard disk drive (HDD: Hard Disk Drive), a solid state drive (SSD: Solid State Drive), and a ROM (Read Only Memory).
  • a storage medium KI stores a program PRG and a database DB.
  • the program PRG is a group of instructions that define the details of the processing to be executed by the processor PR.
  • the database DB takes in a wide variety of models MO (for example, shown in FIG. 3) and a wide variety of solid figures RZ (for example, shown in FIG. 4) from a computer network (not shown). , remember.
  • the database DB stores, for example, a model MO (shown in FIG. 3) that imitates the shape of the Kachidoki Bridge (shown in FIG. 3) for the three-dimensional object RI that is the Kachidoki Bridge (shown in FIG. 3).
  • the input unit NY is composed of, for example, a camera, microphone, keyboard, mouse, and touch panel.
  • the output unit SY is composed of, for example, a liquid crystal monitor, a printer, and a touch panel.
  • the processor PR executes the program PRG stored in the storage medium KI on the memory ME.
  • the functions of the application section TE to the planning section KK are realized.
  • FIG. 6 is a flow chart showing the operation of the imaging planning apparatus SKS of the first embodiment.
  • FIG. 7 shows the operation of applying the solid figure RZ to the model MO of the first embodiment.
  • FIG. 1 The operation of the imaging planning apparatus SKS of Embodiment 1 will be described with reference to FIGS. 6 to 12.
  • FIG. 1 The operation of the imaging planning apparatus SKS of Embodiment 1 will be described with reference to FIGS. 6 to 12.
  • Step ST11 The user US (not shown) of the photography planning device SKS searches the database DB, for example, when attempting to generate a three-dimensional model of the three-dimensional object RI (for example, the bridge shown in FIG. 2). By doing so, the extracted model MO (shown in FIG. 3) is specified.
  • Step ST12 By searching the database DB, the user US designates a solid figure RZ (shown in FIG. 4) that would be suitable for the above designated model MO.
  • Step ST13 The application unit TE applies the solid figure RZ specified by the user US to the model MO specified by the user US, as shown in FIG. More specifically, the application part TE positions the model MO inside the solid figure RZ, as shown in FIG.
  • Step ST14 The placement unit HA places the cameras KAa and KAb based on the positions on the surface of the solid figure RZ. For example, as shown in FIG. 8, the placement unit HA places the camera KAa at a position P1a (X1a, Y1a, Z1a) as an initial value on the surface of the solid figure RZ.
  • the placement unit HA places the camera KAb, for example, at a position P1b (X1b, Y1b, Z1b) as an initial value on the surface of the solid figure RZ.
  • the positions P1a and P1b are positions above the surface of the solid figure RZ, that is, farther from the origin O (shown in FIG. 4) instead of the positions on the surface of the solid figure RZ as described above. It may be a position or a position below the surface of the solid figure RZ, that is, a position closer to the origin O.
  • Step ST15 The imaging unit SA captures images GA (P1a(1)), (P1a(2)) and (P1a(2)) as shown in FIG. ), (P1a(3)), . Similarly, the photographing unit SA photographs the model MO using the camera KAb arranged at the position P1b, thereby producing images GA (P1b(1)), (P1b(2) ), (P1b(3)), .
  • Step ST16 The extraction unit CY extracts the acquired images GA (P1a(1)), (P1a(2)), (P1a(3)), and GA(P1b(1)), (P1b(2) ), (P1b(3)), . . . , as shown in FIG.
  • FIG. 8 it is determined that the features TO2(P1(1)), TO2(P1(2)), TO2(P1(3)), etc. of the model MO are extracted.
  • the number "2" after TO means that the feature TO was extracted from the image GA captured by the two cameras KA.
  • Step ST17 The evaluation unit HY determines whether the extracted features TO2(P1(1)), TO2(P1(2)), TO2(P1(3)), etc. increase the number of cameras KA. (hereinafter referred to as "camera increase evaluation criteria KH"), which is the criterion for the judgment of 1. above, is evaluated.
  • the camera increase evaluation criterion KH is, for example, under the condition of the number of cameras KA used for photographing the model MO, a threshold (lower limit) of a predetermined number of features TO to be extracted. and is the maximum value (upper limit) of the number of features TO expected to be extracted.
  • step ST14 When the extracted feature TO does not satisfy the camera augmentation criterion KH, the process returns to step ST14, and on the other hand, when the extracted feature TO satisfies the camera augmentation criterion KH, the process proceeds to step ST18. .
  • Step ST14 As shown in FIG. 9, the placement unit HA places the camera KAa at a position P2a (X2a, Y2a, Z2a) different from the position P1a (shown in FIG. 8). Similarly, as shown in FIG. 9, the placement unit HA places the camera KAb at a position P2b (X2b, Y2b, Z2b) different from the position P1b (shown in FIG. 8).
  • Step ST15 The imaging unit SA captures an image GA (P2a ( 1)), (P2a(2)), (P2a(3)), and images GA (P2b(1)), (P2b(2)), (P2b(3)), etc. .
  • Step ST16 The extraction unit CY extracts the acquired images GA (P2a(1)), (P2a(2)), (P2a(3)), and images GA (P2b(1)), (P2b( 2)), (P2b(3)), . . . , as shown in FIG.
  • Step ST17 The evaluation unit HY extracts the features TO2(P1(1)), TO2(P2(2)), TO2(P1(3)), TO2(P2(1)), It is evaluated whether or not TO2(P2(2)), TO2(P2(3)), . . . satisfy the camera increase evaluation criterion KH.
  • Step ST14 As shown in FIG. 10, the placement unit HA positions the camera KAa at a position P3a (X3a, Y3a, Z3a) different from the position P1a (shown in FIG. 8) and the position P2a (shown in FIG. 9). to be placed. Similarly, as shown in FIG. 10, the placement unit HA places the camera KAb at a position P3b (X3b, Y3b, Z3b) different from the position P1b (shown in FIG. 8) and the position P2b (shown in FIG. 9). to be placed.
  • Step ST15 The imaging unit SA captures an image GA (P3a ( 1)), (P3a(2)), (P3a(3)), and images GA (P3b(1)), (P3b(2)), (P3b(3)), etc. are acquired. .
  • Step ST16 The extraction unit CY extracts the acquired images GA (P3a(1)), (P3a(2)), (P3a(3)), and images GA (P3b(1)), (P3b( 2)), (P3b(3)), . . . , as shown in FIG.
  • Step ST17 The evaluation unit HY extracts features TO2(P1(1)), TO2(P2(2)), TO2(P1(3)), TO2(P2(1)) , TO2(P2(2)), TO2(P2(3)), TO2(P3(1)), TO2(P3(2)), TO2(P3(3)), and Evaluate whether or not the increased evaluation criterion KH is satisfied.
  • Step ST18 The repeating unit KU extracts features TO2(P1(1)), TO2(P2(2)), TO2(P1(3)), TO2(P2(1) ), TO2(P2(2)), TO2(P2(3)), TO2(P3(1)), TO2(P3(2)), TO2(P3(3)), TOGA , and determines whether or not a criterion for determining whether or not it is permissible to terminate the repetition by the repeating unit KU (hereinafter referred to as "repetition termination criterion KSK”) is satisfied.
  • a criterion for determining whether or not it is permissible to terminate the repetition by the repeating unit KU hereinafter referred to as "repetition termination criterion KSK
  • the iteration end criterion KSK is, for example, the number and positions of the features TO required to generate the three-dimensional model of the model MO.
  • step ST19 When the extracted feature TO does not satisfy the iteration end criterion KSK, the process returns to step ST14 via step ST19, and on the other hand, when the extracted feature TO satisfies the iteration end criterion KSK, the process Go to step ST20.
  • Step ST19 The increasing unit ZO increases the number of the cameras KAa and KAb by one, namely to the cameras KAa, KAb and KAc (the camera KAc is shown in FIG. 11, for example).
  • Step ST14 As shown in FIG. 11, the placement unit HA sets the cameras KAa and KAb to positions P1a (X1a, Y1a, Z1a) and P1b (X1b, Y1b, Z1b) (see FIG. 8) as initial values, respectively. ), and the camera KAc is placed at a position P1c (X1c, Y1c, Z1c) as an initial value.
  • Step ST15 The photographing unit SA photographs the model MO using the cameras KAa, KAb, and KAc arranged at the positions P1a, P1b, and P1c, thereby producing an image GA (P1a (1 )), (P1a(2)), (P1a(3)), and image GA (P1b(1)), (P1b(2)), (P1b(3)), and image GA (P1c(1)), (P1c(2)), (P1c(3)), etc. are acquired.
  • Step ST16 The extraction unit CY extracts the acquired images GA (P1a(1)), (P1a(2)), (P1a(3)), and the images GA (P1b(1)), (P1b( 2)), (P1b(3)), and images GA (P1c(1)), (P1c(2)), (P1c(3)), as shown in FIG. Extract the feature TO of MO.
  • the feature TO of MO For example, it is assumed that features TO3(P1(1)), TO3(P1(2)), TO3(P1(3)), . . . of the model MO are extracted.
  • Step ST17 The evaluation unit HY determines whether the extracted features TO3(P1(1)), TO3(P1(2)), TO3(P1(3)), . Evaluate.
  • Step ST14 As shown in FIG. 12, the placement unit HA places the cameras KAa, KAb, and KAc at positions P2a (X2a, Y2a, Z2a) and positions P1b ( 11) and a position P2c (X2c, Y2c, Z2c) different from the position P1c (shown in FIG. 11).
  • Step ST15 The photographing unit SA photographs the model MO using the cameras KAa, KAb, and KAc arranged at positions P2a, P2b, and P2c, thereby producing an image GA (P2a (1 )), (P2a(2)), (P2a(3)), and image GA (P2b(1)), (P2b(2)), (P2b(3)), and image GA (P2c(1)), (P2c(2)), (P2c(3)), etc. are obtained.
  • Step ST16 The extraction unit CY extracts the acquired images GA (P2a(1)), (P2a(2)), (P2a(3)), and the images GA (P2b(1)), (P2b( 2)), (P2b(3)), and images GA (P2c(1)), (P2c(2)), and (P2c(3)), as shown in FIG. Extract the feature TO of MO.
  • the feature TO of MO For example, it is assumed that features TO3(P2(1)), TO3(P2(2)), TO3(P2(3)), . . . of the model MO are extracted.
  • Step ST17 The evaluation unit HY extracts the features TO3(P1(1)), TO3(P1(2)), TO3(P1(3)), TO3(P2(1)), It is evaluated whether TO3(P2(2)), TO3(P1(3)), . . . satisfies the camera increase evaluation criterion KH.
  • Step ST18 The repeating unit KU applies all the features extracted so far, TO2(P1(1)), TO2(P2(2)), TO2(P1(3)), TO2(P2( 1)), TO2(P2(2)), TO2(P2(3)), TO2(P3(1)), TO2(P3(2)), TO2(P3(3)),,, , TO3(P1(1)), TO3(P1(2)), TO3(P1(3)), , TO3(P2(1)), TO3(P2(2)), TO3(P2( 3) Determine whether ) satisfies the iteration termination criterion KSK.
  • Step ST20 The determining unit KT determines that the number and positions of the cameras KA required to obtain the images GA necessary for generating the three-dimensional model of the model MO are "3" and "P1a”, respectively. ⁇ P2a, P1b ⁇ P2b, P1c ⁇ P2c".
  • Step ST21 The planning unit KK determines the three-dimensional object RI (shown in FIG. 2) based on the number "3" and the positions "P1a-P2a, P1b-P2b, P1c-P2c" of the cameras KA determined by the determining unit KT. ), the number and positions of the cameras KM necessary for obtaining the image GZ (shown in FIG. 2) of the three-dimensional object RI, which will be necessary for generating the three-dimensional model of Position "P1a-P2a, P1b-P2b, P1c-P2c".
  • the repeating unit KU basically changes the position of the camera KA based on the position on the surface of the solid figure RZ applied to the model MO. and acquiring the image GA are repeated.
  • the determination unit KT determines the number and positions of the cameras KA required to obtain the images GA for generating the three-dimensional model of the model MO from the results of the iterations.
  • the planning unit KK plans the number and positions of the cameras KM that will be required to obtain the images GZ for generating the three-dimensional model of the three-dimensional object RI. This allows planning with greater accuracy to estimate the pose of the camera for the additional shots taken to complete the 3D model.
  • Embodiment 2 The imaging planning apparatus SKS of the second embodiment will be described.
  • FIG. 13 is a functional block diagram of the imaging planning device SKS of the second embodiment.
  • FIG. 14 shows a virtual part BU of the second embodiment.
  • FIG. 15 shows the solid figure RZ of the second embodiment.
  • the imaging planning device SKS of Embodiment 2 will be described with reference to FIGS. 13 to 15.
  • the imaging planning apparatus SKS of the second embodiment basically has the functions of the imaging planning apparatus SKS of the first embodiment. have a similar function.
  • the imaging planning system SKS of the second embodiment differs from the imaging planning system SKS of the first embodiment and further includes a generator SE.
  • the generation unit SE selects some of the virtual parts BU (shown in FIG. 14) that can be used to construct the solid figure RZ (shown in FIGS. 4 and 15, for example).
  • a solid figure RZ (illustrated in FIG. 15) is generated by combining the parts BU.
  • part BU the virtual part BU is abbreviated as "part BU”.
  • the parts BU as shown in FIG. 14, have mutually different shapes, such as ellipsoids, spheres, cubes, and cuboids.
  • the part BU like the solid figure RZ, exists on a computer or on a computer network, and is stored, for example, in a database DB (illustrated in FIG. 5) of a storage medium KI.
  • the solid figure RZ generated by the generator SE has a more complicated shape than the solid figure RZ (shown in FIG. 4) in the first embodiment. , has a shape closer to that of the model MO (shown in FIG. 3).
  • the application unit TE applies the solid figure RZ generated by the generation unit SE to the model MO specified by the user US.
  • the hardware configuration of the imaging planning system SKS of the second embodiment is the same as the hardware configuration of the imaging planning system SKS of the first embodiment (shown in FIG. 5).
  • Embodiment 2 The operation of the second embodiment is basically the same as the operation of the first embodiment (illustrated in FIG. 6).
  • step ST12 subsequent to step ST11 of the first embodiment, instead of the user US designating the solid figure RZ, the generating unit SE For example, a solid figure RZ (shown in FIG. 15) is created in response to an instruction from the user US to "create a solid figure RZ using the part BU.”
  • step ST13 subsequent to step ST12, as described above, the application unit TE applies the solid figure RZ (shown in FIG. 15) generated by the generation unit SE in step ST12 to the model MO designated by the user US in step ST11. ) apply.
  • step ST13 the same processing as step ST14 of the first embodiment is executed.
  • the generator SE uses the part BU (shown in FIG. 14) to generate the solid figure RZ (shown in FIG. 4) of the first embodiment. ) to generate a solid figure RZ (shown in FIG. 15) having a shape closer to the shape of the model MO (for example, shown in FIG. Apply a solid figure RZ (illustrated in FIG. 15) to MO.
  • the time required for completion of the determination by the determination unit KT and the planning by the planning unit KK through the repetition by the repetition unit KU after step ST14 can be shortened compared to the time required in the first embodiment. It becomes possible.
  • Embodiment 3 The imaging planning apparatus SKS of the third embodiment will be described.
  • the imaging planning system SKS of the third embodiment differs from the imaging planning system SKS of the first embodiment in that the repeater KU increases the number of cameras KAa, KAb, etc. (for example, shown in FIG. 7) by one.
  • a return unit KU increases the number of cameras KAa, KAb, etc. based on a binary search.
  • the functions and hardware configuration of the imaging planning system SKS of the third embodiment are basically the same as the functions and hardware configuration of the imaging planning system SKS of the first embodiment (illustrated in FIGS. 1 and 5).
  • the imaging planning system SKS of the third embodiment differs from the function of the imaging planning system SKS of the first embodiment in that, as described above, the repeating unit KU performs a binary search to increase the number of cameras KAa, KAb, etc. More specifically, for example, the minimum number of cameras KMa, KMb, etc. (shown in FIG. 2) for photographing the three-dimensional object RI (shown in FIG. 2) and the cameras KMa, KMb, etc. are determined. It has a function of repeating steps ST14 to ST19 after setting the median number of the cameras KAa, KAb, etc. based on the maximum number of cameras that can be prepared as the initial value of the number of cameras KAa, KAb, and the like.
  • FIG. 16 shows the operation of the imaging planning device SKS of the third embodiment.
  • the operation of the imaging planning system SKS of the third embodiment is basically the same as that of the imaging planning system SKS of the first embodiment except for increasing or decreasing the number of cameras KA based on binary search. Therefore, the operation of the imaging planning system SKS of the third embodiment will be described with reference to FIGS. 16 and 6 (flowchart showing the operation of the imaging planning system SKS of the first embodiment).
  • the repeating unit KU sets the initial value of the number of cameras KA for photographing the model object MO to a minimum value of "2" and a maximum value of "100" based on the binary search.
  • the median value is set to "50".
  • the repeating unit KU repeats steps ST14 to ST17 (illustrated in FIG. 6).
  • the iterative unit KU extracts features TO50(P1(1)), TO50(P1(2), TO50(P1(3)), , TO50(P2(1)), TO50(P2(2), TO50(P2(3)), TO50(P3(1)), TO50(P3(2), TO50(P3(3 )),,,, etc. (not shown) satisfy the repetition end criterion KSK, the number of cameras KA is changed from “50” to "26" (the minimum values are "2" and "50"). On the other hand, when the repetition end criterion KSK is not satisfied, the number of cameras KA is reduced from "50” to "75” (the median between "50” and the maximum value "100”). value).
  • the repeating unit KU reduces the number of cameras KA from "50" to "26”, repeats steps ST14 to ST17 in the same manner as described above, and then performs steps ST18 and ST19. , the number of cameras KA is reduced from “26" to "14” as shown in FIG. 16, and the repetition ends. When the reference KSK is not satisfied, the number of cameras KA is increased from "26" to "38".
  • the repeating unit KU increases the number of cameras KA from "50" to "75", repeats steps ST14 to ST17 in the same manner as described above, and then performs step In ST18 and step ST19, when the result of the repetition satisfies the repetition end criterion KSK, the number of cameras KA is reduced from “75 units” to "62 units” while satisfying the repetition end criterion KSK. If not, the number of cameras KA is increased from "75" to "88".
  • the repeating unit KU increases or decreases the number of cameras KA based on a binary search, so that, for example, the repetition of steps ST14 to ST17, which is performed by the shooting planning apparatus SKS of the first embodiment, is repeated "74 times".
  • the planning unit KK plans that the number of cameras KM required to obtain a plurality of images GZ of the three-dimensional object RI is "76" as shown in FIG. do.
  • the repetition unit KU increases or decreases the number of cameras KA based on a binary search, so that the planning unit KK obtains a plurality of images for the solid object RI.
  • the time required to plan the number of cameras KM required to obtain the image GZ can be shortened compared to the imaging planning apparatus SKS of the first embodiment.
  • BU part CY extraction part, GA image, GZ image, HA placement part, HY evaluation part, KA camera, KI storage medium, KK planning part, KM camera, KT decision part, KU repetition part, ME memory, MO model object , NY input section, PR processor, PRG program, RI three-dimensional object, RZ three-dimensional figure, SA imaging section, SE generation section, SKS imaging planning device, SY output section, TE application section, TO feature, US user, ZO increase section.

Landscapes

  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

撮影計画装置(SKS)は、3次元モデルを生成しようとする対象である立体物(RI)の形状が模された仮想的な模型物(MO)に予め定められた形状を有する仮想的な立体図形(RZ)を適用する適用部(TE)と、適用部(TE)により適用された仮想的な立体図形(RZ)の表面上の位置を基準に仮想的なカメラ(KA)の位置を配置すること、配置後の位置で仮想的なカメラ(KA)により仮想的な模型物(MO)を撮影すること、及び仮想的なカメラ(KA)の台数を増加させることを繰り返す繰返部(KU)と、繰返部(KU)による繰り返しを経て、仮想的な模型物(MO)の3次元モデルを生成するために必要である、仮想的な模型物(MO)についての複数の仮想的な画像(GA)を得るために必要な、仮想的なカメラ(KA)の台数及び位置を決定する決定部(KT)と、決定部(KT)により決定された仮想的なカメラ(KA)の台数及び位置に基づき、立体物(RI)の3次元モデルを生成するために必要となるであろう、立体物(RI)についての複数の画像(GZ)を得るために必要な、カメラ(KM)の台数及び位置を計画する計画部(KK)と、を含む。

Description

撮影計画装置及び撮影計画方法
 本開示は、撮影計画装置及び撮影計画方法に関する。
 非特許文献1に記載された3次元モデルを生成するための撮影計画手法の目的の1つは、カメラで撮影された複数の画像から、SfM(Structure from Motion)及びMVS(Multi-View Stereo)を用いて3次元モデルを生成する場合に生じ得る課題を解決することである。前記の課題は、詳しくは、前記撮影された複数の画像の位置及び枚数が不適切であることに起因する、カメラのポーズを正しく推定することができないこと、及び前記生成された3次元モデルに大きい誤差等が生じること等を避けようとするとき、上記したMVSに多大な処理時間を要することである。
森谷亮太、「大規模構造物に対する3次元現況反映型モデル生成のための高精度モデリング手法と最適撮影計画手法の開発」、2021年
 上記した撮影計画手法では、上記した目的を達成すべく、併せて、前記3次元モデルのうち低品質である領域を改善するために撮影を追加すべきカメラのポーズを推定し、実際に追加の撮影を行う。従って、前記追加すべきカメラのポーズを推定する精度が高くないと、前記追加の撮影に多大な時間が掛かるとの課題があった。
 本開示の目的は、SfM及びMVSのうちの少なくともいずれかの処理を行うことを許容しつつ、3次元モデルを完成させるべく行う追加の撮影のためのカメラのポーズを推定することをより高い精度で計画することができる撮影計画装置及び撮影計画方法を提供することにある。
 上記した課題を解決すべく、本開示に係る撮影計画装置は、3次元モデルを生成しようとする対象である立体物の形状が模された仮想的な模型物に予め定められた形状を有する仮想的な立体図形を適用する適用部と、適用部により適用された仮想的な立体図形の表面上の位置を基準に仮想的なカメラの位置を配置すること、配置後の位置で仮想的なカメラにより仮想的な模型物を撮影すること、及び仮想的なカメラの台数を増加させることを繰り返す繰返部と、繰返部による繰り返しを経て、仮想的な模型物の3次元モデルを生成するために必要である、仮想的な模型物についての複数の仮想的な画像を得るために必要な、仮想的なカメラの台数及び位置を決定する決定部と、決定部により決定された仮想的なカメラの台数及び位置に基づき、立体物の3次元モデルを生成するために必要となるであろう、立体物についての複数の画像を得るために必要な、カメラの台数及び位置を計画する計画部と、を含む。
 本開示に係る撮影計画装置によれば、3次元モデルを完成させるべく行う追加の撮影のためのカメラのポーズを推定することをより高い精度で計画することができる。
実施形態1の撮影計画装置SKSの機能ブロック図である。 実施形態1の実際の立体物RIを示す。 実施形態1の仮想的な模型物MOを示す。 実施形態1の仮想的な立体図形RZを示す。 実施形態1の撮影計画装置SKSのハードウェア構成を示す。 実施形態1の撮影計画装置SKSの動作を示すフローチャートである。 実施形態1の模型物MOへの立体図形RZの適用の動作を示す。 実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す(その1)。 実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す(その2)。 実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す(その3)。 実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す(その4)。 実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す(その5)。 実施形態2の撮影計画装置SKSの機能ブロック図である。 実施形態2の仮想的な部品BUを示す。 実施形態2の立体図形RZを示す。 実施形態3の撮影計画装置SKSの動作を示す。
 本開示に係る撮影計画装置の実施形態について説明する。
実施形態1.
〈実施形態1〉
 実施形態1の撮影計画装置SKSについて説明する。
 以下では、説明及び理解を容易にすべく、1つの符号により複数の名称を総称することがある。例えば、符号「カメラKA」により「カメラKAa、KAb等」を総称することがある。
〈実施形態1の機能〉
 図1は、実施形態1の撮影計画装置SKSの機能ブロック図である。
 図2は、実施形態1の実際の立体物RIを示す。
 図3は、実施形態1の仮想的な模型物MOを示す。
 図4は、実施形態1の仮想的な立体図形RZを示す。
 実施形態1の撮影計画装置SKSの機能について、図1~図4を参照して説明する。
 実施形態1の撮影計画装置SKSは、図1に示されるように、適用部TEと、繰返部KUと、決定部KTと、計画部KKと、を含む。
 適用部TEは、「適用部」に対応し、繰返部KUは、「繰返部」に対応し、決定部KTは、「決定部」に対応し、計画部KKは、「計画部」に対応する。
 適用部TEは、3次元モデルを生成しようとする対象である実際の立体物RI(図2に図示。)の形状が模された仮想的な模型物MO(図3に図示。)に、予め定められた形状を有する仮想的な立体図形RZ(図4に図示。)を適用する。
 以下では、実際の立体物RIを「立体物RI」と略称し、仮想的な模型物MOを「模型物MO」と略称し、仮想的な立体図形RZを「立体図形RZ」と略称する。
 立体物RIは、実存する人工物、自然物等であり、例えば、橋梁(図2に図示。)、ビル、森林、河川等である。
 模型物MOは、上記したように、立体物RIの形状が模されており、かつ、コンピュータ上に又はコンピュータ・ネットワーク上に存在する。模型物MOは、図3に示されるように、例えば、橋梁の模型である。
 立体図形RZは、上記したように、予め定められた形状を有し、模型物MOと同様に、コンピュータ上に又はコンピュータ・ネットワーク上に存在する。立体図形RZは、例えば、楕円体(図4に図示。)である。
 繰返部KUは、図1に示されるように、配置部HAと、撮影部SAと、抽出部CYと、評価部HYと、増加部ZOと、を有する。
 配置部HAは、立体図形RZの表面上の位置を基準に、模型物MOを撮影するための仮想的なカメラKAa、KAb(例えば、図7に図示。)を配置し、より正確には、位置を変更する。
 以下では、例えば、仮想的なカメラKAaを「カメラKAa」と略称し、他の仮想的なカメラも同様に略称する。
 撮影部SAは、配置部HAにより位置が変更されたカメラKAa、KAb等を用いて、模型物MOを撮影することにより、複数の仮想的な画像GA(例えば、図8に図示。)を取得する。
 以下では、仮想的な画像GAを「画像GA」と略称する。
 抽出部CYは、撮影部SAにより取得された複数の画像GAから、複数の特徴TO(例えば、図8に図示。)を抽出する。ここで、特徴TOは、従来知られたと同様に、模型物MOの3次元モデルを生成するために用いられる点である。
 評価部HYは、撮影部SAにより取得された複数の画像GAを、抽出部CYにより抽出された複数の特徴TOに基づき行い、より具体的には、例えば、複数の特徴TOの個数及び位置に基づき行う。
 増加部ZOは、評価部HYによる複数の画像GAの評価の結果に応じて、カメラKAa、KAb等の台数を増加させる。
 繰返部KUは、配置部HAによるカメラKAa、KAb等の位置の変更、撮影部SAによる模型物MOの撮影、抽出部CYによる複数の特徴TOの抽出、評価部HYによる複数の画像GAの評価、及び、増加部ZOによるカメラKAa、KAb等の台数の増加を繰り返させる。
 決定部KTは、繰返部KUによる繰り返しを経て、模型物MOの3次元モデルを生成するために必要である、模型物MOについての複数の画像GAを得るために必要な、カメラKAa、KAb等の台数及び位置を決定する。
 計画部KKは、決定部KTにより決定された、カメラKAa、KAb等の台数及び位置に基づき、立体物RIの3次元モデルを生成するために必要となるであろう、立体物RIについての複数の実際の画像GZ(図2に図示。)を得るために必要な実際のカメラKMa、KMb等(図2に図示。)の台数及び位置を計画する。
 以下では、実際の画像GZを「画像GZ」と略称し、例えば、実際のカメラKMa、KMb等を「カメラKMa、KMb等」と略称する。
〈実施形態1のハードウェア構成〉
 図5は、実施形態1の撮影計画装置SKSのハードウェア構成を示す。
 実施形態1の撮影計画装置SKSは、上述した機能を果たすべく、図5に示されるように、プロセッサPRと、メモリMEと、記憶媒体KIと、を含み、必要に応じて、入力部NYと、出力部SYと、更に含む。
 プロセッサPRは、ソフトウェアに従ってハードウェアを動作させる、よく知られたコンピュータの中核である。
 メモリMEは、例えば、DRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)から構成される。
 記憶媒体KIは、例えば、ハードディスクドライブ(HDD:Hard Disk Drive)、ソリッドステートドライブ(SSD:Solid State Drive)、ROM(Read Only Memory)から構成される。記憶媒体KIは、プログラムPRG及びデータベースDBを記憶する。
 プログラムPRGは、プロセッサPRが実行すべき処理の内容を規定する命令群である。
 データベースDBは、例えば、コンピュータ・ネットワーク(図示せず。)から多種多様の模型物MO(例えば、図3に図示。)、及び多種多様の立体図形RZ(例えば、図4に図示。)を取り込み、記憶している。データベースDBは、例えば、勝鬨橋(図3に図示。)である立体物RIについて、勝鬨橋の形状を模した模型物MO(図3に図示。)を記憶している。
 入力部NYは、例えば、カメラ、マイク、キーボード、マウス、タッチパネルから構成される。出力部SYは、例えば、液晶モニター、プリンタ、タッチパネルから構成される。
 撮影計画装置SKSにおける機能とハードウェア構成との関係については、ハードウェア上で、プロセッサPRが、記憶媒体KIに記憶されたプログラムPRGを、メモリME上で実行すると共に、必要に応じて、入力部NY及び出力部SYの動作を制御することにより、適用部TE~計画部KKの各部の機能を実現する。
〈実施形態1の動作〉
 図6は、実施形態1の撮影計画装置SKSの動作を示すフローチャートである。
 図7は、実施形態1の模型物MOへの立体図形RZの適用の動作を示す。
 図8~図12は、実施形態1の撮影計画装置SKSでの配置、撮影、及び抽出の動作を示す。
 実施形態1の撮影計画装置SKSの動作について、図6~図12を参照して説明する。
 以下では、説明及び理解を容易にすべく、カメラKAa、KAb等の台数の初期値は、「2」であることを想定する。
 また、説明は、直交座標系を用いているものの、直交座標系に代えて極座標系を用いても同様である。
 ステップST11:撮影計画装置SKSのユーザUS(図示せず。)は、立体物RI(例えば、図2に図示された橋梁)の3次元モデルを生成しようとするとき、例えば、データベースDBを検索することにより、抽出された模型物MO(図3に図示。)を指定する。
 ステップST12:ユーザUSは、データベースDBを検索することにより、上記の指定した模型物MOに適するであろう立体図形RZ(図4に図示。)を指定する。
 ステップST13:適用部TEは、図7に示されるように、ユーザUSにより指定された模型物MOに、ユーザUSにより指定された立体図形RZを適用する。より詳しくは、適用部TEは、図7に示されるように、模型物MOを立体図形RZの内部に位置付ける。
〈2台のカメラ&1回めの配置〉
 ステップST14:配置部HAは、立体図形RZの表面上の位置を基準に、カメラKAa、KAbを配置する。配置部HAは、例えば、図8に示されるように、カメラKAaを、例えば、立体図形RZの表面上における初期値としての位置P1a(X1a、Y1a、Z1a)に配置する。
 配置部HAは、同様に、図8に示されるように、カメラKAbを、例えば、立体図形RZの表面上における初期値としての位置P1b(X1b、Y1b、Z1b)に配置する。
 ここで、位置P1a、P1bは、上記したような、立体図形RZの表面上の位置に代えて、立体図形RZの表面の上方の位置、即ち、原点O(図4に図示。)からより遠い位置であっても、立体図形RZの表面の下方の位置、即ち、原点Oにより近い位置であってもよい。
 他の位置、例えば、P2a、P2b等(例えば、図9に図示。)についても同様である。
 ステップST15:撮影部SAは、位置P1aに配置されたカメラKAaを用いて模型物MOを撮影することにより、図8に示されるように、画像GA(P1a(1))、(P1a(2))、(P1a(3))、、、を取得する。撮影部SAは、同様に、位置P1bに配置されたカメラKAbを用いて模型物MOを撮影することにより、図8に示されるように、画像GA(P1b(1))、(P1b(2))、(P1b(3))、、、を取得する。
 ステップST16:抽出部CYは、取得された画像GA(P1a(1))、(P1a(2))、(P1a(3))、、、及びGA(P1b(1))、(P1b(2))、(P1b(3))、、、から、図8に示されるように、模型物MOの特徴TOを、従来知られたと同様な方法により抽出する。ここで、図8に示されるように、例えば、模型物MOの特徴TO2(P1(1))、TO2(P1(2))、TO2(P1(3))、、、が抽出されたことを想定する。
 ここで、TOの後の数字「2」は、特徴TOが、2台のカメラKAで撮影された画像GAから抽出されたことを意味する。他の数字、例えば、「3」等についても、同様である。
 ステップST17:評価部HYは、抽出された特徴TO2(P1(1))、TO2(P1(2))、TO2(P1(3))、、、が、カメラKAの台数を増加させるか否かの判断の基準となる評価基準(以下、「カメラ増加評価基準KH」という。)を満足するか否かを評価する。
 カメラ増加評価基準KHは、例えば、模型物MOを撮影するために用いられているカメラKAの台数という条件の下で、抽出されるべき特徴TOについての予め定められた個数の閾値(下限値)であり、また、抽出されることが期待される特徴TOの個数の最大値(上限値)である。
 抽出された特徴TOがカメラ増加評価基準KHを満足しないとき、処理は、ステップST14に戻り、他方で、抽出された特徴TOがカメラ増加評価基準KHを満足するとき、処理は、ステップST18に進む。
 ここでは、抽出された特徴TO2(P1(1))、TO2(P1(2))、TO2(P1(3))、、、がカメラ増加評価基準KHを満足せず、処理が、ステップST14へ戻ることを想定する。
〈2台のカメラ&2回めの配置〉
 ステップST14:配置部HAは、図9に示されるように、カメラKAaを位置P1a(図8に図示。)と異なる位置P2a(X2a、Y2a、Z2a)に配置する。配置部HAは、同様に、図9に示されるように、カメラKAbを位置P1b(図8に図示。)と異なる位置P2b(X2b、Y2b、Z2b)に配置する。
 ステップST15:撮影部SAは、位置P2aに配置されたカメラKAa及び位置P2bに配置されたカメラKAbを用いて模型物MOを撮影することにより、図9に示されるように、画像GA(P2a(1))、(P2a(2))、(P2a(3))、、、及び、画像GA(P2b(1))、(P2b(2))、(P2b(3))、、、を取得する。
 ステップST16:抽出部CYは、取得された画像GA(P2a(1))、(P2a(2))、(P2a(3))、、、及び、画像GA(P2b(1))、(P2b(2))、(P2b(3))、、、から、図9に示されるように、模型物MOの特徴TOを抽出する。ここで、例えば、模型物MOの特徴TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、が抽出されたことを想定する。
 ステップST17:評価部HYは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、及びTO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、が、カメラ増加評価基準KHを満足するか否かを評価する。
 ここでは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、及びTO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、カメラ増加評価基準KHを満足せず、処理が、ステップST14へ戻ることを想定する。
〈2台のカメラ&3回めの配置〉
 ステップST14:配置部HAは、図10に示されるように、カメラKAaを、位置P1a(図8に図示。)及び位置P2a(図9に図示。)と異なる位置P3a(X3a、Y3a、Z3a)に配置する。配置部HAは、同様に、図10に示されるように、カメラKAbを、位置P1b(図8に図示。)及び位置P2b(図9に図示。)と異なる位置P3b(X3b、Y3b、Z3b)に配置する。
 ステップST15:撮影部SAは、位置P3aに配置されたカメラKAa及び位置P3bに配置されたカメラKAbを用いて模型物MOを撮影することにより、図10に示されるように、画像GA(P3a(1))、(P3a(2))、(P3a(3))、、、及び、画像GA(P3b(1))、(P3b(2))、(P3b(3))、、、を取得する。
 ステップST16:抽出部CYは、取得された画像GA(P3a(1))、(P3a(2))、(P3a(3))、、、及び、画像GA(P3b(1))、(P3b(2))、(P3b(3))、、、から、図10に示されるように、模型物MOの特徴TOを抽出する。ここで、例えば、模型物MOの特徴TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、が抽出されたことを想定する。
 ステップST17:評価部HYは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、と、TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、と、TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、とがカメラ増加評価基準KHを満足するか否かを評価する。
 ここでは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、と、TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、と、TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、とがカメラ増加評価基準KHを満足し、処理が、ステップST18へ進むことを想定する。
〈繰返終了基準の判断〉
 ステップST18:繰返部KUは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、と、TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、と、TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、とが、繰返部KUによる繰り返しを終了して良いか否かの判断基準(以下、「繰返終了基準KSK」という。)を満足するか否かを判断する。
 繰返終了基準KSKは、例えば、模型物MOの3次元モデルを生成するために必要な特徴TOの個数及び位置である。
 抽出された特徴TOが繰返終了基準KSKを満足しないとき、処理は、ステップST19を経てステップST14に戻り、他方で、抽出された特徴TOが繰返終了基準KSKを満足するとき、処理は、ステップST20へ進む。
 ここでは、これまでに抽出された特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、と、TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、と、TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、とが、繰返終了基準KSKを満足せず、ステップST19を経て、ステップST14へ戻ることを想定する。
〈2台のカメラから3台のカメラへ増加〉
 ステップST19:増加部ZOは、カメラKAa、KAbの台数を1台、増加させ、即ち、カメラKAa、KAb、KAc(カメラKAcは、例えば、図11に図示。)にする。
〈3台のカメラ&1回めの配置〉
 ステップST14:配置部HAは、図11に示されるように、カメラKAa、KAbを、それぞれ、初期値としての位置P1a(X1a、Y1a、Z1a)、P1b(X1b、Y1b、Z1b)(図8に図示された位置P1a、P1bと同様。)に配置し、また、カメラKAcを、初期値としての位置P1c(X1c、Y1c、Z1c)に配置する。
 ステップST15:撮影部SAは、位置P1a、P1b、P1cに配置されたカメラKAa、KAb、KAcを用いて模型物MOを撮影することにより、図11に示されるように、画像GA(P1a(1))、(P1a(2))、(P1a(3))、、、と、画像GA(P1b(1))、(P1b(2))、(P1b(3))、、、と、画像GA(P1c(1))、(P1c(2))、(P1c(3))、、、とを取得する。
 ステップST16:抽出部CYは、取得された画像GA(P1a(1))、(P1a(2))、(P1a(3))、、、と、画像GA(P1b(1))、(P1b(2))、(P1b(3))、、、と、画像GA(P1c(1))、(P1c(2))、(P1c(3))とから、図11に示されるように、模型物MOの特徴TOを抽出する。ここで、例えば、模型物MOの特徴TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、が抽出されたことを想定する。
 ステップST17:評価部HYは、抽出された特徴TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、がカメラ増加評価基準KHを満足するか否かを評価する。
 ここでは、抽出された特徴TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、がカメラ増加評価基準KHを満足せず、処理が、ステップST14へ戻ることを想定する。
〈3台のカメラ&2回めの配置〉
 ステップST14:配置部HAは、図12に示されるように、カメラKAa、KAb、KAcを、それぞれ、位置P1a(図11に図示。)と異なる位置P2a(X2a、Y2a、Z2a)、位置P1b(図11に図示。)と異なる位置P2b(X2b、Y2b、Z2b)、位置P1c(図11に図示。)と異なる位置P2c(X2c、Y2c、Z2c)に配置する。
 ステップST15:撮影部SAは、位置P2a、P2b、P2cに配置されたカメラKAa、KAb、KAcを用いて模型物MOを撮影することにより、図12に示されるように、画像GA(P2a(1))、(P2a(2))、(P2a(3))、、、と、画像GA(P2b(1))、(P2b(2))、(P2b(3))、、、と、画像GA(P2c(1))、(P2c(2))、(P2c(3))、、、とを取得する。
 ステップST16:抽出部CYは、取得された画像GA(P2a(1))、(P2a(2))、(P2a(3))、、、と、画像GA(P2b(1))、(P2b(2))、(P2b(3))、、、と、画像GA(P2c(1))、(P2c(2))、(P2c(3))とから、図11に示されるように、模型物MOの特徴TOを抽出する。ここで、例えば、模型物MOの特徴TO3(P2(1))、TO3(P2(2))、TO3(P2(3))、、、が抽出されたことを想定する。
 ステップST17:評価部HYは、これまでに抽出された特徴TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、及びTO3(P2(1))、TO3(P2(2))、TO3(P1(3))、、、がカメラ増加評価基準KHを満足するか否かを評価する。
 ここでは、これまでに抽出された特徴TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、及びTO3(P2(1))、TO3(P2(2))、TO3(P2(3))、、、がカメラ増加評価基準KHを満足し、処理が、ステップST18へ進むことを想定する。
 ステップST18:繰返部KUは、これまでに抽出された全ての特徴TO2(P1(1))、TO2(P2(2))、TO2(P1(3))、、、と、TO2(P2(1))、TO2(P2(2))、TO2(P2(3))、、、と、TO2(P3(1))、TO2(P3(2))、TO2(P3(3))、、、と、TO3(P1(1))、TO3(P1(2))、TO3(P1(3))、、、と、TO3(P2(1))、TO3(P2(2))、TO3(P2(3))、、、が繰返終了基準KSKを満足するか否かを判断する。
 ここでは、上記したこれまでに抽出された全ての特徴TOが繰返終了基準KSKを満足し、処理が、ステップST20へ進むことを想定する。
 ステップST20:決定部KTは、模型物MOの3次元モデルを生成するために必要である画像GAを得るために必要なカメラKAの台数及び位置が、それぞれ、台数「3」、及び位置「P1a~P2a、P1b~P2b、P1c~P2c」であると決定する。
 ステップST21:計画部KKは、決定部KTにより決定された、カメラKAの台数「3」及び位置「P1a~P2a、P1b~P2b、P1c~P2c」に基づき、立体物RI(図2に図示。)の3次元モデルを生成するために必要となるであろう、立体物RIについての画像GZ(図2に図示。)を得るために必要なカメラKMの台数及び位置を、台数「3」及び位置「P1a~P2a、P1b~P2b、P1c~P2c」に決定する。
〈実施形態1の効果〉
 上述したように、実施形態1の撮影計画装置SKSでは、繰返部KUは、基本的に、模型物MOに適用された立体図形RZの表面上の位置を基準にカメラKAの位置を変更すること、及び画像GAを取得することを繰り返す。決定部KTは、前記繰り返しの結果から、模型物MOの3次元モデルを生成するための画像GAを得るために必要なカメラKAの台数及び位置を決定する。計画部KKは、決定部KTによる決定に基づき、立体物RIの3次元モデルを生成するための画像GZを得るために必要となるであろうカメラKMの台数及び位置を計画する。これにより、3次元モデルを完成させるべく行う追加の撮影のためのカメラのポーズを推定することをより高い精度で計画することができる。
実施形態2.
〈実施形態2〉
 実施形態2の撮影計画装置SKSについて説明する。
〈実施形態2の機能〉
 図13は、実施形態2の撮影計画装置SKSの機能ブロック図である。
 図14は、実施形態2の仮想的な部品BUを示す。
 図15は、実施形態2の立体図形RZを示す。
 実施形態2の撮影計画装置SKSについて、図13~図15を参照して説明する。
 実施形態2の撮影計画装置SKSは、図13と図1(実施形態1の撮影計画装置SKS)との比較から明らかであるように、基本的に、実施形態1の撮影計画装置SKSの機能と同様の機能を有する。
 実施形態2の撮影計画装置SKSは、他方で、図13に示されるように、実施形態1の撮影計画装置SKSと相違し、生成部SEを更に含む。
 生成部SEは、立体図形RZ(例えば、図4、図15に図示。)を構成するため使用可能な複数の仮想的な部品BU(図14に図示。)のうち、いくつかの仮想的な部品BUを組み合わせることにより、立体図形RZ(図15に図示。)を生成する。
 以下では、仮想的な部品BUを「部品BU」と略称する。
 部品BUは、図14に示されるように、相互に異なる形状を有し、例えば、楕円体、球、立方体、直方体である。部品BUは、立体図形RZと同様に、コンピュータ上に又はコンピュータ・ネットワーク上に存在し、例えば、記憶媒体KIのデータベースDB(図5に図示。)に記憶されている。
 生成部SEにより生成される立体図形RZは、図15に示されるように、実施形態1での立体図形RZ(図4に図示。)と比較して複雑な形状を有し、より正確には、模型物MO(図3に図示。)の形状により近い形状を有する。
 適用部TEは、ユーザUSにより指定された模型物MOに、生成部SEにより生成された立体図形RZを適用する。
〈実施形態2のハードウェア構成〉
 実施形態2の撮影計画装置SKSのハードウェア構成は、実施形態1の撮影計画装置SKSハードウェア構成(図5に図示。)と同様である。
〈実施形態2の動作〉
 実施形態2の動作は、基本的に、実施形態1の動作(図6に図示。)と同様である。
 実施形態2の動作では、他方で、実施形態1の動作と相違し、実施形態1のステップST11に引き続くステップST12で、ユーザUSが立体図形RZを指定することに代えて、生成部SEが、例えば、ユーザUSからの「部品BUを用いて立体図形RZを生成せよ。」との指示に応答して、立体図形RZ(図15に図示。)を生成する。
 ステップST12に引き続くステップST13で、上記したように、適用部TEが、ステップST11でユーザUSが指定した模型物MOに、ステップST12で生成部SEにより生成された立体図形RZ(図15に図示。)を適用する。
 ステップST13の後には、実施形態1のステップST14と同様な処理が実行される。
〈実施形態2の効果〉
 上述したように、実施形態2の撮影計画装置SKSでは、ステップST12で、生成部SEが、部品BU(図14に図示。)を用いて、実施形態1の立体図形RZ(図4に図示。)との比較で、模型物MO(例えば、図3に図示。)の形状により近い形状を有する立体図形RZ(図15に図示。)を生成し、ステップST13で、適用部TEが、模型物MOに立体図形RZ(図15に図示。)を適用する。これにより、ステップST14以後の繰返部KUによる繰り返しを経て、決定部KTによる決定及び計画部KKによる計画が完了するまでの所要時間を、実施形態1の所要時間に比して短縮することが可能となる。
実施形態3.
〈実施形態3〉
 実施形態3の撮影計画装置SKSについて説明する。
 実施形態3の撮影計画装置SKSは、繰返部KUがカメラKAa、KAb等(例えば、図7に図示。)の台数を1台ずつ増加させる実施形態1の撮影計画装置SKSと相違し、繰返部KUが、カメラKAa、KAb等の台数を二分探索に基づき増加させる。
〈実施形態3の機能及びハードウェア構成〉
 実施形態3の撮影計画装置SKSの機能及びハードウェア構成は、基本的に、実施形態1の撮影計画装置SKSの機能及びハードウェア構成(図1、図5に図示。)と同様である。
 実施形態3の撮影計画装置SKSでは、実施形態1の撮影計画装置SKSの機能と相違し、上記したように、繰返部KUが、カメラKAa、KAb等の台数を増加させることを二分探索に基づき行い、より詳しくは、例えば、立体物RI(図2に図示。)を撮影するためのカメラKMa、KMb等(図2に図示。)を準備すべき最小の台数及びカメラKMa、KMb等を準備可能な最大の台数に基づく二分探索による中央値での台数を、カメラKAa、KAb等の台数の初期値に設定した上で、ステップST14~ステップST19を繰り返すとの機能を有する。
〈実施形態3の動作〉
 図16は、実施形態3の撮影計画装置SKSの動作を示す。
 実施形態3の撮影計画装置SKSの動作は、二分探索に基づきカメラKAの台数を増減させること以外については、基本的に、実施形態1の撮影計画装置SKSと同様である。そこで、実施形態3の撮影計画装置SKSの動作について、図16及び図6(実施形態1の撮影計画装置SKSの動作を示すフローチャート)を参照して説明する。
 以下では、説明及び理解を容易にすべく、図16に示されるように、立体物RIを撮影するためのカメラKMを準備すべき最小の台数が「2台」であり、かつ、カメラKMを準備可能な最大の台数が「100台」であることを想定する。
 繰返部KUは、図16に示されるように、二分探索に基づき、模型物MOを撮影するためのカメラKAの台数の初期値を、最小値「2台」と最大値「100台」の中央値「50台」に設定する。
 上記した設定の後に、繰返部KUは、ステップST14~ステップST17(図6に図示。)を繰り返す。
 ステップST18及びステップST19で、繰返部KUは、上記した繰り返しの結果として、例えば、抽出された特徴TO50(P1(1))、TO50(P1(2)、TO50(P1(3))、、、と、TO50(P2(1))、TO50(P2(2)、TO50(P2(3))、、、と、TO50(P3(1))、TO50(P3(2)、TO50(P3(3))、、、と等(図示せず。)が繰返終了基準KSKを満足するとき、カメラKAの台数を「50台」から「26台」(最小値「2」と「50」台との中央値)へ減少させ、他方で、繰返終了基準KSKを満足しないとき、カメラKAの台数を「50台」から「75台」(「50」台と最大値「100」台との中央値)へ増加させる。
 繰返部KUは、例えば、カメラKAの台数を「50台」から「26台」へ減少させた上で、上記したと同様に、ステップST14~ステップST17を繰り返した後に、ステップST18及びステップST19で、その繰り返しの結果が、繰返終了基準KSKを満足するとき、図16に示されるように、カメラKAの台数を「26台」から「14台」へ減少させ、他方で、繰返終了基準KSKを満足しないとき、カメラKAの台数を「26台」から「38台」へ増加させる。
 繰返部KUは、上記とは相違し、カメラKAの台数を「50台」から「75台」へ増加させた上で、上記したと同様に、ステップST14~ステップST17を繰り返した後に、ステップST18及びステップST19で、その繰り返しの結果が、繰返終了基準KSKを満足するとき、カメラKAの台数を「75台」から「62台」へ減少させ、他方で、繰返終了基準KSKを満足しないとき、カメラKAの台数を「75台」から「88台」へ増加させる。
 繰返部KUがカメラKAの台数を増減することを二分探索に基づき進めることにより、例えば、実施形態1の撮影計画装置SKSであれば行われる「74回」のステップST14~ステップST17の繰り返しを行うことなく、ステップST20で、計画部KKは、立体物RIについての複数の画像GZを得るために必要なカメラKMの台数が、図16に示されるように、「76」台であると計画する。
〈実施形態3の効果〉
 上述したように、実施形態3の撮影計画装置SKSでは、繰返部KUが、カメラKAの台数を増減することを二分探索に基づき行うことにより、計画部KKが、立体物RIについての複数の画像GZを得るために必要なカメラKMの台数を計画するに至るまでの所要時間を、実施形態1の撮影計画装置SKSに比して短縮することが可能となる。
 本開示の要旨を逸脱しない範囲で、上述した実施形態同士を組み合わせてもよく、また、各実施形態中の構成要素を適宜、削除し、変更し、または、他の構成要素を追加してもよい。
 本開示に係る3次元モデルを完成させるまでの所要時間が長引くことを抑制することに利用可能である。
BU 部品、CY 抽出部、GA 画像、GZ 画像、HA 配置部、HY 評価部、KA カメラ、KI 記憶媒体、KK 計画部、KM カメラ、KT 決定部、KU 繰返部、ME メモリ、MO 模型物、NY 入力部、PR プロセッサ、PRG プログラム、RI 立体物、RZ 立体図形、SA 撮影部、SE 生成部、SKS 撮影計画装置、SY 出力部、TE 適用部、TO 特徴、US ユーザ、ZO 増加部。

Claims (4)

  1.  3次元モデルを生成しようとする対象である立体物の形状が模された仮想的な模型物に予め定められた形状を有する仮想的な立体図形を適用する適用部と、
     前記適用部により適用された前記仮想的な立体図形の表面上の位置を基準に仮想的なカメラの位置を配置すること、前記配置後の位置で前記仮想的なカメラにより前記仮想的な模型物を撮影すること、及び前記仮想的なカメラの台数を増加させることを繰り返す繰返部と、
     前記繰返部による繰り返しを経て、前記仮想的な模型物の3次元モデルを生成するために必要である、前記仮想的な模型物についての複数の仮想的な画像を得るために必要な、前記仮想的なカメラの台数及び位置を決定する決定部と、
     前記決定部により決定された前記仮想的なカメラの台数及び位置に基づき、前記立体物の3次元モデルを生成するために必要となるであろう、前記立体物についての複数の画像を得るために必要な、カメラの台数及び位置を計画する計画部と、
     を含む撮影計画装置。
  2.  前記仮想的な立体図形を構成するため使用可能な複数の仮想的な部品のうち少なくとも一つの仮想的な部品を組み合わせることにより、前記仮想的な立体図形を生成する生成部を、更に含む請求項1に記載の撮影計画装置。
  3.  前記繰返部は、前記仮想的なカメラの台数を増加させることに代えて、前記カメラを準備すべき最小の台数及び前記カメラを準備可能な最大の台数により特定される台数を前記仮想的なカメラの台数の初期値に設定した上で、二分探索に基づき前記仮想的なカメラの台数を増減させる、請求項1に記載の撮影計画装置。
  4.  適用部が、3次元モデルを生成しようとする対象である立体物の形状が模された仮想的な模型物に予め定められた形状を有する仮想的な立体図形を適用し、
     繰返部が、前記適用部により適用された前記仮想的な立体図形の表面上の位置を基準に仮想的なカメラの位置を配置すること、前記配置後の位置で前記仮想的なカメラにより前記仮想的な模型物を撮影すること、及び前記仮想的なカメラの台数を増加させることを繰り返し、
     決定部が、前記繰返部による繰り返しを経て、前記仮想的な模型物の3次元モデルを生成するために必要である、前記仮想的な模型物についての複数の仮想的な画像を得るために必要な、前記仮想的なカメラの台数及び位置を決定し、
     計画部が、前記決定部により決定された前記仮想的なカメラの台数及び位置に基づき、前記立体物の3次元モデルを生成するために必要となるであろう、前記立体物についての複数の画像を得るために必要な、カメラの台数及び位置を計画する、
     撮影計画方法。
PCT/JP2022/006287 2022-02-17 2022-02-17 撮影計画装置及び撮影計画方法 WO2023157155A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
PCT/JP2022/006287 WO2023157155A1 (ja) 2022-02-17 2022-02-17 撮影計画装置及び撮影計画方法
JP2023561122A JP7422960B2 (ja) 2022-02-17 2022-02-17 撮影計画装置及び撮影計画方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/006287 WO2023157155A1 (ja) 2022-02-17 2022-02-17 撮影計画装置及び撮影計画方法

Publications (1)

Publication Number Publication Date
WO2023157155A1 true WO2023157155A1 (ja) 2023-08-24

Family

ID=87577803

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/006287 WO2023157155A1 (ja) 2022-02-17 2022-02-17 撮影計画装置及び撮影計画方法

Country Status (2)

Country Link
JP (1) JP7422960B2 (ja)
WO (1) WO2023157155A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011004201A (ja) * 2009-06-19 2011-01-06 Konica Minolta Opto Inc 周辺表示装置
WO2018088037A1 (ja) * 2016-11-14 2018-05-17 ソニー株式会社 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011004201A (ja) * 2009-06-19 2011-01-06 Konica Minolta Opto Inc 周辺表示装置
WO2018088037A1 (ja) * 2016-11-14 2018-05-17 ソニー株式会社 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム

Also Published As

Publication number Publication date
JPWO2023157155A1 (ja) 2023-08-24
JP7422960B2 (ja) 2024-01-26

Similar Documents

Publication Publication Date Title
CN106710003B (zh) 一种基于OpenGL ES的三维拍照方法和***
WO2018094719A1 (zh) 生成点云地图的方法、计算机***和装置
US20170272724A1 (en) Apparatus and method for multi-view stereo
US11854228B2 (en) Methods and systems for volumetric modeling independent of depth data
US11594003B2 (en) Hybrid tile-based and element-based visualization of 3D models in interactive editing workflows
CN115577437B (zh) 一种基于bim技术的装配式建筑的施工方法及***
JP2018181047A (ja) 三次元形状モデル生成装置、三次元形状モデル生成方法及びプログラム
Li et al. Streammap: Smooth dynamic visualization of high-density streaming points
WO2020218111A1 (ja) 学習方法及び装置、プログラム、学習済みモデル並びにテキスト生成装置
WO2023157155A1 (ja) 撮影計画装置及び撮影計画方法
Lv et al. Integrating selective undo of feature-based modeling operations for real-time collaborative CAD systems
JP5372241B2 (ja) 画像表示装置
KR20090091639A (ko) 3d 영상 처리 방법
KR20160029601A (ko) 광선 추적 유닛 및 광선 데이터를 처리하는 방법
CN117095300B (zh) 建筑图像处理方法、装置、计算机设备和存储介质
US10372571B2 (en) Method and apparatus for testing compatibility of 3D engine
Burdakov et al. Estimation models for NoSQL database consistency characteristics
CN112297435B (zh) 空间差异测量
KR102187926B1 (ko) 볼류메트릭 비디오 생성 방법, 장치 및 컴퓨터 판독가능 매체
KR20170048003A (ko) 가속 구조를 생성하는 방법 및 장치
Costa et al. Evaluating preprocessing and interpolation strategies to create moving regions from real-world observations
KR20170025993A (ko) 가속 구조를 생성 및 탐색하는 방법
Peng et al. Projective reconstruction with occlusions
JP5427978B1 (ja) ノード配置装置、ノード配置方法、及びプログラム
US9570108B2 (en) Mapping pixels to underlying assets in computer graphics

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2023561122

Country of ref document: JP