以下、図面を参照し、本発明の情報提供装置、情報提供方法、およびプログラムの実施形態について説明する。
[全体構成]
図1は、実施形態の情報提供装置を含む情報提供システム1の構成図である。情報提供システム1は、例えば、一以上の車両2と、情報提供サーバ300と、一以上の端末装置400と、一以上の固定カメラ装置500と、一以上のドローン600とを備える。図1の例において、車両2には、車両システム3が搭載されているものとする。車両システム3と、情報提供サーバ300と、端末装置400と、固定カメラ装置500と、ドローン600とは、例えば、ネットワークNWを介して互いに通信可能である。ネットワークNWは、例えば、セルラー網や、Wi-Fi網、Bluetooth(登録商標)、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、公衆回線、プロバイダ装置、専用回線、無線基地局等を含む。情報提供サーバ300は、「情報提供装置」の一例である。ドローン600は、「飛翔物」の一例である。飛翔物には、例えば、遠隔操作による無人飛翔物や有人飛翔物が含まれる。
車両システム3、端末装置400、固定カメラ装置500、およびドローン600のそれぞれは、カメラ(撮像部の一例)を備える。それぞれのカメラによって撮像された画像は、ネットワークNWを介して情報提供サーバ300に送信される。情報提供サーバ300は、各カメラの撮像画像を受信し、受信した撮像画像からユーザに提供する画像を選択または編集し、選択または編集した画像を含む情報をユーザに提供する。なお、ユーザに提供する画像には、映像(動画像)が含まれてもよい。
以下、車両システム3、情報提供サーバ300、端末装置400、固定カメラ装置500、ドローン600のそれぞれの機能について説明する。なお、以下では、ユーザU1およびU2が利用する端末装置を、それぞれ、端末装置400-1および400-2と称するものとする。また、ユーザU1が所有または乗車する車両を自車両Mと称し、自車両M以外の車両を他車両mとする。自車両Mおよび他車両mに搭載される車両システム3は、例えば、自動運転車両に適用される。自動運転とは、例えば、車両の操舵または加減速のうち、一方または双方を制御して運転制御を実行することである。上述した運転制御には、例えば、ACC(Adaptive Cruise Control System)やTJP(Traffic Jam Pilot)、ALC(Auto Lane Changing)、CMBS(Collision Mitigation Brake System)、LKAS(Lane Keeping Assistance System)等の運転制御が含まれる。また、自動運転車両は、乗員(運転者)の手動運転による運転制御が実行されてよい。また、自動運転車両は、例えば、二輪や三輪、四輪等の車両であり、その駆動源は、ディーゼルエンジンやガソリンエンジン等の内燃機関、電動機、或いはこれらの組み合わせである。電動機は、内燃機関に連結された発電機による発電電力、或いは二次電池や燃料電池の放電電力を使用して動作する。以下では、左側通行の法規が適用される場合について説明するが、右側通行の法規が適用される場合、左右を逆に読み替えればよい。また、以下では、水平方向のある一方向をXとし、他方の方向をYとし、X-Yの水平方向に対して直交する鉛直方向をZとして説明する。
[車両システム]
図2は、実施形態に係る車両システム3の構成図である。以下では、自車両Mに搭載される車両システム3について説明するものとする。車両システム3は、例えば、カメラ10と、レーダ装置12と、ファインダ14と、物体認識装置16と、通信装置20と、HMI(Human Machine Interface)30と、車両センサ40と、ナビゲーション装置50と、MPU(Map Positioning Unit)60と、運転操作子80と、車室内カメラ90と、自動運転制御装置100と、走行駆動力出力装置200と、ブレーキ装置210と、ステアリング装置220とを備える。これらの装置や機器は、CAN(Controller Area Network)通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図2に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
カメラ10は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子を利用したデジタルカメラである。カメラ10は、自車両Mの任意の箇所に取り付けられる。例えば、自車両Mの前方を撮像する場合、カメラ10は、フロントウインドシールド上部やルームミラー裏面等に取り付けられる。また、自車両Mの後方を撮像する場合、カメラ10は、リアウィンドシールド上部等に取り付けられる。また、自車両Mの右側方または左側方を撮像する場合、カメラ10は、車体やドアミラーの右側面または左側面等に取り付けられる。カメラ10は、例えば、周期的に繰り返し自車両Mの周辺を撮像する。カメラ10は、ステレオカメラであってもよい。
レーダ装置12は、自車両Mの周辺にミリ波等の電波を放射すると共に、物体によって反射された電波(反射波)を検出して少なくとも物体の位置(距離および方位)を検出する。レーダ装置12は、自車両Mの任意の箇所に取り付けられる。レーダ装置12は、FM-CW(Frequency Modulated Continuous Wave)方式によって物体の位置および速度を検出してもよい。
ファインダ14は、LIDAR(Light Detection and Ranging)である。ファインダ14は、自車両Mの周辺に光を照射し、散乱光を測定する。ファインダ14は、発光から受光までの時間に基づいて、対象までの距離を検出する。照射される光は、例えば、パルス状のレーザー光である。ファインダ14は、自車両Mの任意の箇所に取り付けられる。
物体認識装置16は、カメラ10、レーダ装置12、およびファインダ14のうち一部または全部による検出結果に対してセンサフュージョン処理を行って、物体の位置、種類、速度等を認識する。物体認識装置16は、認識結果を自動運転制御装置100に出力する。また、物体認識装置16は、カメラ10、レーダ装置12、およびファインダ14の検出結果をそのまま自動運転制御装置100に出力してよい。この場合、車両システム3から物体認識装置16が省略されてもよい。
通信装置20は、例えば、セルラー網やWi-Fi網、Bluetooth、DSRC(Dedicated Short Range Communication)等を利用して、自車両Mの周辺に存在する他車両と通信し、或いは無線基地局を介して各種情報提供サーバと通信する。
HMI30は、自車両Mの乗員(運転者を含む)に対して各種情報を提示すると共に、乗員による入力操作を受け付ける。HMI30は、例えば、各種表示装置、スピーカ、ブザー、タッチパネル、スイッチ、キー等を含む。また、HMI30には、車内または車外の音を収集するマイクが含まれてよい。
車両センサ40は、自車両Mの速度を検出する車速センサ、加速度を検出する加速度センサ、鉛直軸回りの角速度を検出するヨーレートセンサ、自車両Mの向きを検出する方位センサ等を含む。また、車両センサ40には、自車両Mの位置(緯度、経度)を検出する位置センサや、自車両Mの揺れや振動を検出する振動センサ、車外の雨量を測定する雨量センサ、車外の風速等を測定する風速センサ等が含まれてもよい。
ナビゲーション装置50は、例えば、GNSS(Global Navigation Satellite System)受信機51と、ナビHMI52と、経路決定部53とを備える。ナビゲーション装置50は、HDD(Hard Disk Drive)やフラッシュメモリ等の記憶装置に第1地図情報54を保持している。GNSS受信機51は、GNSS衛星から受信した信号に基づいて、自車両Mの位置を特定する。自車両Mの位置は、車両センサ40の出力を利用したINS(Inertial Navigation System)によって特定または補完されてもよい。ナビHMI52は、表示装置、スピーカ、タッチパネル、キー等を含む。ナビHMI52は、前述したHMI30と一部または全部が共通化されてもよい。経路決定部53は、例えば、GNSS受信機51により特定された自車両Mの位置(或いは入力された任意の位置)から、ナビHMI52を用いて乗員により入力された目的地までの経路(以下、地図上経路)を、第1地図情報54を参照して決定する。第1地図情報54は、例えば、道路を示すリンクと、リンクによって接続されたノードとによって道路形状が表現された情報である。第1地図情報54は、道路の曲率やPOI(Point Of Interest)情報等を含んでもよい。地図上経路は、MPU60に出力される。ナビゲーション装置50は、地図上経路に基づいて、ナビHMI52を用いた経路案内を行ってもよい。ナビゲーション装置50は、例えば、乗員の保有する端末装置400-1の機能によって実現されてもよい。ナビゲーション装置50は、通信装置20を介してナビゲーションサーバに現在位置と目的地を送信し、ナビゲーションサーバから地図上経路と同等の経路を取得してもよい。
MPU60は、例えば、推奨車線決定部61を含み、HDDやフラッシュメモリ等の記憶装置に第2地図情報62を保持している。推奨車線決定部61は、ナビゲーション装置50から提供された地図上経路を複数のブロックに分割し(例えば、車両進行方向に関して100[m]毎に分割し)、第2地図情報62を参照してブロックごとに推奨車線を決定する。推奨車線決定部61は、左から何番目の車線を走行するといった決定を行う。推奨車線決定部61は、地図上経路に分岐箇所が存在する場合、自車両Mが、分岐先に進行するための合理的な経路を走行できるように、推奨車線を決定する。
第2地図情報62は、第1地図情報54よりも高精度な地図情報である。第1地図情報54と第2地図情報62とを合わせたものは、「地図情報」の一例である。第2地図情報62は、例えば、車線の中央の情報あるいは車線の境界の情報等を含んでいる。また、第2地図情報62には、道路情報、交通規制情報、住所情報(住所・郵便番号)、施設情報、電話番号情報等が含まれてよい。また、第1地図情報54または第2地図情報62のうち、一方または双方には、上述した道路情報より詳細な道路情報が含まれてもよい。詳細は道路情報とは、例えば、道路の設置された交通物体の種類、設置時期に関する情報や、道路周辺の地物に関する情報、交通物体等への電力の供給源、道路の耐久性、海抜からの高さ等の情報である。交通物体には、例えば、信号機や交通標識、道路を撮像する定置式カメラ、その他の道路周辺に設置された物体が含まれる。また、地物には、例えば、建物、橋、鉄塔等の建造物や、森林や防風林等の木々や植物を含む各種物体等が含まれる。また、事物に関する情報には、建造または植林した物体の種類や大きさ、建造または植林した時期に関する情報が含まれる。また、第1地図情報54または第2地図情報62のうち一方または双方は、通信装置20が情報提供サーバ300等の外部装置と通信することにより、随時、アップデートされてよい。
運転操作子80は、例えば、アクセルペダル、ブレーキペダル、シフトレバー、ステアリングホイール、異形ステア、ジョイスティックその他の操作子を含む。運転操作子80には、操作量あるいは操作の有無を検出するセンサが取り付けられており、その検出結果は、自動運転制御装置100、もしくは、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220のうち一部または全部に出力される。
車室内カメラ90は、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。車室内カメラ90は、ステレオカメラであってもよい。車室内カメラ90は、車室内の任意の箇所に取り付けられる。車室内カメラ90は、車室内に存在する各シートを含む領域を撮像する。これにより、車室内カメラ90により撮像された画像から各シートに着座する乗員の画像を取得することができる。車室内カメラ90は、上記の領域を周期的に繰り返し撮像してもよく、所定のタイミングで撮像してもよい。所定のタイミングとは、自車両Mが所定の地点に到達したタイミングや、情報提供サーバ300から撮影指示を受け付けたタイミングである。車室内カメラ90により撮像された画像は、自動運転制御装置100に出力される。
自動運転制御装置100は、例えば、第1制御部120と、第2制御部160と、画像取得制御部180を備える。第1制御部120、第2制御部160、および画像取得制御部180は、それぞれ、例えば、CPU(Central Processing Unit)等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。また、これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予め自動運転制御装置100のHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROM等の着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置に装着されることで自動運転制御装置100のHDDやフラッシュメモリにインストールされてもよい。
図3は、第1制御部120および第2制御部160の機能構成図である。第1制御部120は、例えば、認識部130と、行動計画生成部140とを備える。行動計画生成部140と、第2制御部160とを組み合わせたものが、「運転制御部」の一例である。第1制御部120は、例えば、AI(Artificial Intelligence;人工知能)による機能と、予め与えられたモデルによる機能とを並行して実現する。例えば、「交差点を認識する」機能は、ディープラーニング等による交差点の認識と、予め与えられた条件(パターンマッチング可能な信号、道路標示等がある)に基づく認識とが並行して実行され、双方に対してスコア付けして総合的に評価することで実現されてよい。これによって、自動運転の信頼性が担保される。
認識部130は、自車両Mの周辺環境を認識する。例えば、認識部130は、カメラ10、レーダ装置12、およびファインダ14から物体認識装置16を介して入力された情報に基づいて、自車両Mの周辺にある物体(例えば、周辺車両や物標)の位置、および速度、加速度、進行方向等の状態を認識する。物体の位置は、例えば、自車両Mの代表点(重心や駆動軸中心等)を原点とした絶対座標上の位置として認識され、制御に使用される。物体の位置は、その物体の重心や中心、コーナー等の代表点で表されてもよいし、表現された領域で表されてもよい。物体が車両である場合、物体の「状態」には、物体の加速度やジャーク、あるいは「行動状態」(例えば進路変更をしている、またはしようとしているか否か)を含んでもよい。
また、認識部130は、例えば、自車両Mが走行している車線(走行車線)を認識する。例えば、認識部130は、第2地図情報62から得られる道路区画線のパターン(例えば実線と破線の配列)と、カメラ10によって撮像された画像から認識される自車両Mの周辺の道路区画線のパターンとを比較することで、走行車線を認識する。なお、認識部130は、道路区画線に限らず、道路区画線や路肩、縁石、中央分離帯、ガードレール等を含む走路境界(道路境界)を認識することで、走行車線を認識してもよい。この認識において、ナビゲーション装置50から取得される自車両Mの位置やINSによる処理結果が加味されてもよい。また、認識部130は、一時停止線、障害物、赤信号、料金所、その他の道路事象を認識する。
認識部130は、走行車線を認識する際に、走行車線に対する自車両Mの位置や姿勢を認識する。認識部130は、例えば、自車両Mの基準点の車線中央からの乖離、および自車両Mの進行方向(Y方向)の車線中央を連ねた線に対してなす角度を、走行車線に対する自車両Mの相対位置および姿勢として認識してもよい。これに代えて、認識部130は、走行車線のいずれかの側端部(道路区画線または道路境界)に対する自車両Mの基準点の位置等を、走行車線に対する自車両Mの相対位置として認識してもよい。
認識部130は、カメラ10によって撮像された画像から認識される自車両Mの周辺車両と、カメラ10により撮像された画像、ナビゲーション装置50により取得された自車両Mの周辺の渋滞情報、または第2地図情報62から得られる位置情報に基づいて、周辺車両の位置に関する情報を認識する。
なお、認識部130は、車車間通信により自車両Mの周囲を走行する車両等から受信した各種情報を、通信装置20を介して取得し、その情報に基づいて自車両Mの周辺を認識してもよい。また、認識部130は、情報提供サーバ300から取得した画像取得指示情報に含まれる撮像対象の特徴情報に基づいて、特徴情報との類似性が高い物体を認識してもよい。撮像対象には、例えば、人物や車両、地物等の物体、風景等が含まれる。また、人物には、ユーザ本人やユーザの家族、知人、著名人等が含まれてもよい。
行動計画生成部140および第2制御部160は、認識部130の認識結果に基づいて、車両Mの速度また操舵のうち、一方または双方を制御して運転制御を行う。行動計画生成部140は、自動運転が実行される場合に、原則的には推奨車線決定部61により決定された推奨車線を走行し、更に、自車両Mの周辺状況に対応できるように、自車両Mが自動的に(運転者の操作に依らずに)将来走行する目標軌道を生成する。目標軌道は、例えば、速度要素を含んでいる。例えば、目標軌道は、自車両Mの到達すべき地点(軌道点)を順に並べたものとして表現される。軌道点は、道なり距離で所定の走行距離(例えば数[m]程度)ごとの自車両Mの到達すべき地点であり、それとは別に、所定のサンプリング時間(例えば0コンマ数[sec]程度)ごとの目標速度および目標加速度が、目標軌道の一部として生成される。また、軌道点は、所定のサンプリング時間ごとの、そのサンプリング時刻における自車両Mの到達すべき位置であってもよい。この場合、目標速度や目標加速度の情報は軌道点の間隔で表現される。
行動計画生成部140は、目標軌道を生成するにあたり、自動運転のイベントを設定してよい。自動運転のイベントには、定速走行イベント、低速追従走行イベント、車線変更イベント、分岐イベント、合流イベント、自動運転を終了して手動運転に切り替えるためのテイクオーバーイベント等がある。行動計画生成部140は、起動させたイベントに応じた目標軌道を生成する。
また、行動計画生成部140は、画像取得制御部180からの制御情報に基づいて、カメラ10で撮像対象を撮影する場合や、自車両Mが撮影される場合に、自車両Mの速度を制御(例えば、撮影時に減速)したり、撮影し易い位置または経路を走行させたりカメラに対して正面を向かせるような操舵制御を行う目標軌道を生成する。撮像対象には、例えば、撮像対象者や撮像対象物体(例えば、車両等)が含まれる。また、行動計画生成部140は、HMI30用いた乗員による指示操作や、自車両Mの走行状況、画像取得制御部180からの制御情報に基づいて、走行駆動力出力装置200による走行駆動力の出力(例えば、後述する駆動モード)を切り替える制御を行ってもよい。
第2制御部160は、行動計画生成部140によって生成された目標軌道を、予定の時刻通りに自車両Mが通過するように、走行駆動力出力装置200、ブレーキ装置210、およびステアリング装置220を制御する。
第2制御部160は、例えば、目標軌道取得部162と、速度制御部164と、操舵制御部166とを備える。目標軌道取得部162は、行動計画生成部140により生成された目標軌道(軌道点)の情報を取得し、メモリ(不図示)に記憶させる。速度制御部164は、メモリに記憶された目標軌道に付随する速度要素に基づいて、走行駆動力出力装置200またはブレーキ装置210を制御する。操舵制御部166は、メモリに記憶された目標軌道の曲がり具合に応じて、ステアリング装置220を制御する。速度制御部164および操舵制御部166の処理は、例えば、フィードフォワード制御とフィードバック制御との組み合わせにより実現される。一例として、操舵制御部166は、自車両Mの前方の道路の曲率に応じたフィードフォワード制御と、目標軌道からの乖離に基づくフィードバック制御とを組み合わせて実行する。
図2に戻り、画像取得制御部180は、情報提供サーバ300からの画像取得指示情報に基づいて、認識部130に撮像対象を認識させたり、行動計画生成部140に、カメラ10で撮像対象を撮影するために、自車両Mの速度や操舵を調整した目標軌道を生成させたりする。また、画像取得制御部180は、外部のカメラにより自車両Mが撮影される場合に、外部のカメラが自車両Mを撮影し易くするため、行動計画生成部140に、速度や操舵を調整した目標軌道を生成させてもよい。また、画像取得制御部180は、走行駆動力出力装置200に駆動力を切り替えさせてもよい。
また、画像取得制御部180は、画像取得指示情報に基づいて、所定周期で撮影しているカメラ10や車室内カメラ90の画像から所定条件を満たす画像を抽出する。所定条件とは、例えば、自車両Mと撮像対象との距離が所定距離以内になった場合、自車両Mが所定位置に到達した場合、または撮像画像に画像取得指示情報に含まれる特徴情報との類似度が高い物体が含まれる場合である。所定位置とは、例えば、道路、交差点、駐車場、自宅、会社、駅、店舗、公共施設、レジャー施設、観光スポット等である。また、所定位置とは、例えば、ユーザが予め設定した一以上の位置でもよい。画像取得制御部180は、上述した画像の取得とともに、HMI30に含まれるマイクから車外または車内の音声を取得してもよい。取得した画像または音声は、画像取得指示情報に基づいて、カメラIDと共に通信装置20を介して情報提供サーバ300に送信(アップロード)される。
走行駆動力出力装置200は、車両が走行するための走行駆動力(トルク)を駆動輪に出力する。図4は、走行駆動力出力装置200の機能構成の一例を示す図である。走行駆動力出力装置200は、例えば、駆動力切替部202と、第1駆動力出力部204と、第2駆動力出力部206とを備える。駆動力切替部202は、行動計画生成部140による制御情報に基づいて、第1駆動力出力部204による走行駆動力の出力と、第2駆動力出力部206による走行駆動力の出力とを切り替える。以下、第1駆動力出力部204による走行駆動力の出力を「第1駆動モード」と称し、第2駆動力出力部206による走行駆動力の出力を「第2駆動モード」と称する。
第1駆動力出力部204は、内燃機関を動力源として自車両Mを走行させる。第1駆動力出力部204は、例えば、エンジンECU(Electronic Control Unit)204Aと、エンジン204Bとを備える。エンジンECU204Aは、駆動力切替部202により第1駆動モードを実行させる切替指示が受け付けられた場合に、エンジン204Bを制御する。エンジンECU204Aは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従ってエンジン204Bのスロットル開度やシフト段等を調整し、自車両Mが走行するための走行駆動力を出力する。
第2駆動力出力部206は、例えば、モータECU206Aと、車両バッテリ206Bと、走行用モータ206Cとを備える。モータECU206Aは、車両バッテリ206Bから供給される電力を用いて走行用モータ206Cの駆動を制御する。モータECU206Aは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って、走行用モータ206Cに与えるPWM信号のデューティ比を調整し、走行用モータ206Cによって、自車両Mが走行するための走行駆動力(トルク)を出力する。また、モータECU206Aは、例えば、アクセルを離した後に車輪が回転することによって、走行用モータ206Cが強制的に回されて発電された電気を、車両バッテリ206Bに戻すことで充電を行ってもよい。車両バッテリ206Bは、例えば、リチウムイオン電池等の二次電池である。車両バッテリ206Bは、モータECU206Aの制御により充放電が行われる。上述した第2駆動モードは、エンジンを駆動させる第1駆動モードよりも走行時の振動等による駆動音が少ない。
ブレーキ装置210は、例えば、ブレーキキャリパーと、ブレーキキャリパーに油圧を伝達するシリンダと、シリンダに油圧を発生させる電動モータと、ブレーキECUとを備える。ブレーキECUは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って電動モータを制御し、制動操作に応じたブレーキトルクが各車輪に出力されるようにする。ブレーキ装置210は、運転操作子80に含まれるブレーキペダルの操作によって発生させた油圧を、マスターシリンダを介してシリンダに伝達する機構をバックアップとして備えてよい。なお、ブレーキ装置210は、上記説明した構成に限らず、第2制御部160から入力される情報に従ってアクチュエータを制御して、マスターシリンダの油圧をシリンダに伝達する電子制御式油圧ブレーキ装置であってもよい。
ステアリング装置220は、例えば、ステアリングECUと、電動モータとを備える。電動モータは、例えば、ラックアンドピニオン機構に力を作用させて転舵輪の向きを変更する。ステアリングECUは、第2制御部160から入力される情報、或いは運転操作子80から入力される情報に従って、電動モータを駆動し、転舵輪の向きを変更させる。
[情報提供サーバ]
図5は、実施形態の情報提供サーバ300の構成図である。情報提供サーバ300は、サーバ側通信部310と、入力部320と、出力部330と、サーバ側制御部340と、サーバ側記憶部360とを備える。情報提供サーバ300は、例えば、車両システム3が搭載された車両2(自車両M、他車両m)と、ネットワークNWを介して互いに通信し、各種データを送受信するクラウドサーバとして機能してもよい。
サーバ側通信部310は、NIC(Network Interface Card)等の通信インターフェースを含む。サーバ側通信部310は、例えば、セルラー網やWi-Fi網、Bluetooth等を利用して、ネットワークNWを介して車両やその他の外部装置と通信する。
入力部320は、例えば、ボタン、キーボードやマウス等のユーザインターフェースである。入力部320は、サーバ管理者等の操作を受け付ける。入力部320は、出力部330の表示部と一体として構成されるタッチパネルであってもよい。
出力部330は、サーバ管理者等に情報を出力する。出力部330は、例えば、画像を表示する表示部と、音声を出力する音声出力部とを備える。表示部は、例えば、LCD(Liquid Crystal Display)や有機ELディスプレイ等の表示装置を含む。表示部は、サーバ側制御部340により出力される情報の画像を表示する。音声出力部は、例えば、スピーカである。音声出力部は、サーバ側制御部340により出力される情報の音声を出力する。
サーバ側制御部340は、例えば、撮像制御部342と、画像取得部344と、抽出部346と、編集部348と、情報提供部350と、精算部352とを備える。サーバ側制御部340の各構成要素は、例えば、CPU等のプロセッサがサーバ側記憶部360に格納されたプログラムを実行することにより実現される。また、サーバ側制御部340の構成要素の一部または全部は、LSI、ASIC、FPGA、またはGPU等のハードウェア(回路部;circuitry)により実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。上述のプログラムは、予め情報提供サーバ300のHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROM、メモリカード等の着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置やカードスロット等に装着されることで情報提供サーバ300の記憶装置にインストールされてもよい。
サーバ側記憶部360は、例えば、HDD、フラッシュメモリ、EEPROM、ROM、RAM等の記憶装置により実現される。サーバ側記憶部360には、例えば、カメラDB362と、画像DB364、ユーザDB366、提供画像DB368、提供者DB370、プロセッサによって読み出されて実行されるプログラム、およびその他各種情報等が格納される。
撮像制御部342は、車両2に搭載されたカメラ10、端末装置400やドローン600が備えるカメラ、固定カメラ装置500等の各カメラに対して、撮影指示や撮像画像を取得するための要求等を行う。例えば、撮像制御部342は、サーバ側記憶部360により記憶されたカメラDB362を参照し、各カメラの位置情報を取得する。
図6は、カメラDB362の内容の一例を示す図である。カメラDB362には、カメラを識別する識別情報としてのカメラIDに、カメラの位置情報および所有者属性情報が対応付けられている。位置情報は、例えば、緯度および経度の情報である。また、位置情報には、カメラの画角情報等が含まれてもよい。撮像制御部342は、所定の周期で固定カメラ装置500以外の各カメラから位置情報を取得し、取得した位置情報をカメラIDに対応付けてカメラDB362に登録する。これにより、車両2や端末装置400、ドローン600等の移動物体に搭載されたカメラの現在の位置情報をより正確に把握することができる。所有者属性情報には、例えば、カメラIDによって識別されるカメラの所有者の性別、年齢、利用頻度の多いアプリ(例えば、写真系のアプリ)等の情報が含まれる。
撮像制御部342は、例えば、カメラDB362から取得した各カメラの位置情報に基づいて、ユーザから画像要求があった場合に、画像要求と共に取得した撮影対象の位置情報を用いてカメラDB362を参照し、撮影対象の位置付近(例えば、撮影対象の位置を中心として所定距離以内)に存在するカメラIDを抽出する。また、撮像制御部342は、位置情報に加えて、画像要求に含まれる属性情報に基づいてカメラDB362の所有者属性情報を参照し、属性条件を満たすカメラIDを抽出してもよい。そして、撮像制御部342は、抽出したカメラIDに対して所定の指示を出力する。所定の指示は、例えば、画像取得指示情報である。撮影指示情報には、例えば、撮像対象の位置情報や特徴情報等が含まれる。また、画像指示情報には、例えば、複数のカメラにより撮像された画像を情報提供サーバ300にアップロードする指示が含まれてもよい。また、画像指示情報には、撮像対象との距離が所定距離以内となった場合に、撮像画像を抽出して情報提供装置にアップロードさせる指示が含まれてもよい。
画像取得部344は、ネットワークNWを介して接続された車両システム3、端末装置400、固定カメラ装置500、ドローン600のうち、画像取得指示情報を送信した装置のそれぞれで撮像された画像を取得する。画像取得部344は、取得した撮像画像を画像DB364に記憶させる。図7は、画像DB364の内容の一例を示す図である。画像DB364には、カメラIDに、画像を撮像した日時を示す撮像日時、撮像画像を識別する識別情報としての撮像画像ID、および撮像画像データが対応付けられている。
抽出部346は、画像DB364からユーザに適切な画像を抽出する。例えば、抽出部346は、ユーザからの画像要求に含まれる対象者や対象物の識別情報に基づいて、ユーザDB366に登録されている対象者または対象物の特徴情報を取得し、画像DB364に記憶された画像のうち、特徴情報との類似性が高い物体(類似度が閾値以上の物体)を含む画像を暫定画像として抽出する。暫定画像とは、例えば、抽出部346により抽出された画像であって、且つ、編集部348により編集がなされていない画像である。
図8は、ユーザDB366の内容の一例を示す図である。ユーザDB366には、例えば、ユーザを識別する識別情報としてユーザIDに、撮像対象を識別する識別情報としての撮影対象ID、および特徴情報が対応付けられている。特徴情報とは、例えば、撮像対象が人物の場合には、顔の輪郭や、目、鼻、口、耳等の各部位の形状や配置、色情報等である。撮像対象が車両2等の物体である場合には、対象物の形状、大きさ、色、その他の識別情報である。例えば、撮影対象が車両2である場合、その他の識別情報には、例えば、ナンバープレートの情報、車種情報等が含まれてもよい。抽出部346は、例えば、撮像対象を撮像した画像データ(正解データ)に基づく機械学習を行うことで、特徴情報を生成または更新してもよい。
編集部348は、抽出部346により抽出された暫定画像等を編集して編集画像を生成する。編集画像とは、撮像画像に日付や撮影場所、撮影したカメラに関する情報を重畳したり、撮像画像をデコレーションした画像である。また、編集画像には、複数の画像を時系列等の所定の順序に並べた画像群が含まれてもよい。また、編集画像には、画像に含まれる非対象者や非対象物、風景をマスキングした画像が含まれてもよい。
抽出部346により抽出された暫定画像および編集部に348により編集された編集画像は、提供画像DB368に格納される。図9は、提供画像DB368の内容の一例を示す図である。提供画像DB368には、ユーザIDに、暫定画像を識別する識別情報としての暫定画像ID、編集画像を識別する識別情報としての編集画像ID、提供日時、および利用料金が対応付けられている。利用料金は、精算部352により算出されたユーザごとの利用料である。
情報提供部350は、画像要求のあったユーザに抽出部346により抽出された画像を提供する。例えば、情報提供部350は、ユーザの端末装置400から画像要求があった場合に、画像要求を受け付けてから所定時間以内に、抽出部346により抽出された暫定画像を端末装置400に送信する。また、情報提供部350は、所定時間経過後に編集部348により編集された編集画像をユーザの端末装置400に送信する。例えば、車両2がカメラ10により撮像された画像をすぐに送信できる機能を備えていなかったり、駐車場等の通信環境の悪い場所で撮像した場合には、撮像画像をすぐに情報提供サーバ300に送信することができない。そのため、情報提供部350は、画像要求を受け付けてから所定時間以内の場合には、画像取得部344が取得した画像のうち、抽出部346により抽出された暫定画像をユーザに提供し、所定時間経過後に、編集部348により編集された編集画像をユーザに提供する。これにより、画像の取得を長時間待てないユーザには、暫定画像を提供することができ、時間が経過するごとに増加する画像から編集画像を生成してユーザに提供することで、より品質の高い画像も提供することができる。なお、所定時間とは、例えば、半日や一日等の固定時間でもよく、ユーザが指定した時間であってもよい。例えば、ユーザが旅行に行く場合、所定時間は旅行期間であってもよい。
また、情報提供部350は、暫定画像または編集画像のうち、ユーザから要求指示のあった画像のみを送信してもよい。また、情報提供部350は、画像と共に音声を取得した場合に、画像と音声とを対応付けてユーザに提供してもよい。
精算部352は、ユーザに提供した画像に基づいてユーザへの利用料への算出を行い、算出された利用料を、画像を提供したユーザのユーザIDに対応付けて提供画像DB368に格納する。精算部352は、画像の枚数等によって課金されてもよく、提供される画像の種類(例えば、暫定画像、編集画像)によって課金されてもよい。また、精算部352は、撮像画像を提供した画像提供者に対する報酬を導出し、導出した報酬情報を提供者DB370に格納する。画像提供者とは、例えば、撮像画像を撮像した車両2の所有者や車両メーカー、端末装置400のユーザ、固定カメラ装置500を管理する管理者、ドローン600を運営する運営会社等である。報酬情報とは、例えば、金銭、ポイント、商品、サービス等の情報である。
図10は、提供者DB370の内容の一例を示す図である。提供者DB370には、提供者を識別する識別情報としての提供者IDに、撮像画像ID、採用フラグ、および報酬情報が対応付けられている。採用フラグとは、提供者から提供された画像が、提供画像(暫定画像または編集画像)として採用されたか否かを示す情報である。図10の例では、画像が提供画像として採用された場合の採用フラグを「1」とし、提供画像として採用されていない場合の採用フラグを「0」としているが、フラグの識別についてはこれに限定されない。精算部352は、撮像画像が提供画像として採用された場合の報酬Aを、採用されていない場合の報酬Bに比して大きくする。これにより、画像提供者に、報酬が高い画像を撮影しようする意識を向上させることができる。また、精算部352は、撮像画像が提供画像として採用されなかった場合であっても、画像の提供に対して何らかの報酬を与える。これにより、画像提供者に、撮像画像を提供しようとする意欲を向上させることができる。
[端末装置]
図11は、実施形態の端末装置400の構成図である。端末装置400は、例えば、スマートフォン、タブレット端末、パーソナルコンピュータ等のユーザが携帯可能な端末装置である。端末装置400は、例えば、端末側通信部410と、入力部420と、ディスプレイ430と、スピーカ440と、位置取得部450と、端末側カメラ460と、アプリ実行部470と、出力制御部480と、端末側記憶部490とを備える。位置取得部450と、アプリ実行部470と、出力制御部480とは、例えば、CPU等のハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより実現される。また、これらの構成要素のうち一部または全部は、LSIやASIC、FPGA、GPU等のハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。上述のプログラムは、予め端末装置400のHDDやフラッシュメモリ等の記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、DVDやCD-ROM、メモリカード等の着脱可能な記憶媒体に格納されており、記憶媒体(非一過性の記憶媒体)がドライブ装置やカードスロット等に装着されることで端末装置400の記憶装置にインストールされてもよい。
端末側記憶部490は、上記の各種記憶装置、或いはEEPROM、ROM、RAM等により実現されてもよい。端末側記憶部490には、例えば、画像提供アプリ492、暫定画像494、編集画像496等の情報が記憶される。
端末側通信部410は、例えば、セルラー網やWi-Fi網、Bluetooth、DSRC、LAN、WAN、インターネット等のネットワークを利用して、車両2や情報提供サーバ300等の外部装置と通信を行う。
入力部420は、例えば、各種キーやボタン等の操作によるユーザUの入力を受け付ける。ディスプレイ430は、例えば、LCDや有機ELディスプレイ等である。入力部420は、タッチパネルとしてディスプレイ430と一体に構成されていてもよい。ディスプレイ430は、出力制御部480の制御により、実施形態における画像提供処理における各種情報を表示する。スピーカ440は、例えば、出力制御部480の制御により、所定の音声を出力する。
位置取得部450は、端末装置400に内蔵されたGNSS受信機(不図示)により端末装置400の位置情報を取得し、取得した位置情報を情報提供サーバ300に送信する。
端末側カメラ460は、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。端末側カメラ460は、端末装置400のユーザの操作により、端末装置400が向けられた方向を撮像する。端末側カメラ460により撮像された画像をアプリ実行部470の指示により情報提供サーバ300に送信(アップロード)する。
アプリ実行部470は、端末側記憶部490に記憶された画像提供アプリ492が実行されることで実現される。画像提供アプリ492は、例えば、ネットワークNWを介して情報提供サーバ300と通信を行い、情報提供サーバ300に記憶された画像データを取得するためのアプリケーションプログラムである。画像提供アプリ492は、ユーザが提供を受ける画像情報を設定するための画像要求画面をディスプレイ430に表示させ、ユーザからの設定情報(画像要求)を受け付ける。また、画像提供アプリ492は、受け付けた画像要求を、情報提供サーバ300に送信し、画像要求に対応する画像(音声を含んでもよい)を取得する。
また、アプリ実行部470は、画像提供アプリ492を実行させるか否かを切り替えたり、情報提供サーバ300から画像(暫定画像494、編集画像496)をダウンロードして端末側記憶部490に記憶させたり、それぞれの画像を読み出したりしてもよい。また、アプリ実行部470は、端末側カメラ460の撮像画像を情報提供サーバ300に送信する制御を行ってもよい。
出力制御部480は、アプリ実行部470の指示により、ディスプレイ430に表示させる画像の内容や表示態様、スピーカ440に出力させる音声の内容や出力態様を制御する。また、出力制御部480は、情報提供サーバ300からの制御情報に基づき、撮像対象の撮像を行うか否かをユーザに問い合わせる問い合わせ画像を生成して、ディスプレイ430に表示させてもよい。
[固定カメラ装置]
図12は、固定カメラ装置500の構成図を示す図である。固定カメラ装置500は、例えば、監視カメラや防犯カメラのように所定周期または物体検知時に周囲を撮像するカメラである。固定カメラ装置500は、例えば、カメラ側通信部510と、カメラ520と、マイク530と、撮像制御部540と、記憶部550とを備える。
カメラ側通信部510は、例えば、セルラー網やWi-Fi網、Bluetooth、DSRC、LAN、WAN、インターネット等のネットワークを利用して、車両2や情報提供サーバ300等の外部装置と通信を行う。
カメラ520は、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。カメラ520は、撮像制御部540の制御により、固定された方向の風景を撮像する。マイク530は、固定カメラ装置500が設置した周辺の音声を収集する。マイク530は、撮像制御部540によりカメラ520で周囲を撮像するタイミングで周囲の音声を収集してもよい。
撮像制御部540は、カメラ520に対する撮像の開始や終了のタイミングを制御する。撮像制御部540は、例えば、予め設定されたタイミング(例えば、予め設定された時間帯または車両が通過するタイミング)でカメラ520の撮像を開始させてもよく、情報提供サーバ300からの指示情報に基づいてカメラ520の撮像を開始させてもよい。また、撮像制御部540は、カメラ520により撮像された撮像画像552を、記憶部550に記憶させたり、カメラ側通信部510によりカメラIDと共に情報提供サーバ300に送信させる。また、撮像制御部540は、撮像画像552と共にマイク530により収集した音声を記憶部550に記憶させたり、情報提供サーバ300に送信させてもよい。
記憶部550は、例えば、HDDやフラッシュメモリ、EEPROM、ROM、またはRAM等により実現される。記憶部550には、例えば、カメラ520で撮像された撮像画像552等の情報が記憶される。
[ドローン]
図13は、ドローン600の構成図である。ドローン600は、例えば、ドローン側通信部610と、ドローン側カメラ620と、位置取得部630と、センサ640と、モータ650と、充電部660と、制御部670と、ドローン側記憶部680とを備える。
ドローン側通信部610は、例えば、ネットワークNWに接続したり、情報提供サーバ300と直接的に通信したりするための通信インターフェースである。ドローン側通信部610は、例えば、NICを含んでもよいし、Wi-Fi、DSRC、Bluetooth、その他の通信規格に基づいて無線通信を行ってもよい。ドローン側通信部610として、用途に応じた複数のものが用意されてもよい。
ドローン側カメラ620は、例えば、CCDやCMOS等の固体撮像素子を利用したデジタルカメラである。ドローン側カメラ620は、ドローン600の任意の箇所に一つまたは複数が取り付けられる。ドローン側カメラ620は、制御部670の制御により、所定のタイミングでカメラが設置された方向の空間を撮像する。
位置取得部630は、GNSS受信機(不図示)によりドローン600の位置を取得する。また、位置取得部630は、取得した位置情報を制御部670に出力したり、ドローン側通信部610により情報提供サーバ300に送信させる。センサ640は、例えば、磁気センサ、三軸ジャイロセンサ、三軸加速度センサ等である。センサ640により検出された内容は、制御部670等に出力される。
モータ650は、複数のモータを含み、各モータには、例えば、プロペラ等の推進機構が取り付けられている。充電部660は、充電池を含み、ドローン600の各所に電力を供給する。また、充電部660は、充電池を充電するための接続部を備えていてもよい。
制御部670は、例えば、CPU等のプロセッサが記憶部290に格納されたプログラム(ソフトウェア)を実行することで実現される。また、これらの機能部のうち一方または双方は、LSIやASIC、FPGA、GPU等のハードウェアによって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。制御部670は、例えば、位置取得部630により取得された位置情報、センサ640により検出された内容に基づいて、情報提供サーバ300等から得られる飛行計画等にしたがってドローン600が飛行するようにモータ650を制御する。飛行計画には、例えば、飛行経路、高度、速度、および飛行モード等が含まれる。飛行モードには、上昇、直線飛行、下降、ホバリング、並走等が含まれる。並走とは、撮像対象の動きに合わせて追従して飛行することである。
また、制御部670は、情報提供サーバ300から受信した画像取得指示情報に基づいて、所定距離以内またはドローン側カメラ620の画角内に存在する撮像対象を撮像するようにドローン側カメラ620を制御する。例えば、制御部670は、ドローン側カメラ620の撮像画像を解析して物体の特徴情報等を取得して取得した特徴情報と、情報提供サーバ300からの撮影指示情報に含まれる撮像対象の特徴情報との類似度が高い場合に、ドローン側カメラ620の撮像画像を取得する。また、制御部670は、ドローン側カメラ620の撮像画像を、ドローン側記憶部680に記憶させたり、カメラIDと共にドローン側通信部610により情報提供サーバ300に送信(アップロード)させる。また、制御部670は、ドローン側通信部610を用いて撮像対象(例えば、車両2や端末装置)と通信することにより、撮像対象と特定し、特定した撮像対象を撮像してもよい。
ドローン側記憶部680は、例えば、HDD、フラッシュメモリ、EEPROM、ROM、RAM等により実現される。ドローン側記憶部680には、例えば、ドローン側カメラ620で撮像された撮像画像682等の情報が記憶される。
[情報提供システムの具体例]
以下、実施形態の情報提供システム1の具体例について説明する。図14は、実施形態の情報提供システム1の具体例について説明するための図である。図14の例では、交差点CR1と、交差点CR1に連結する道路R1~R4が示されている。自車両Mは、道路R1を速度VMで交差点CR1方向(図中Y方向)に走行し、他車両m1は、道路R1を速度Vm1で交差点CR1から離れる方向(図中-Y方向)に走行しているものとする。また、図14の例では、道路付近に固定カメラ装置500-1、500-2が設置されているものとする。また、交差点CR1付近の店舗内にも固定カメラ装置500-3が設けてられているものとする。また、図14の例では、交差点CR1付近でドローン600が飛行しているものとする。情報提供サーバ300は、自車両M、他車両m1、固定カメラ装置500-1~500-3、ドローン600のカメラで撮像された画像を取得する。自車両Mに搭載されたカメラ10および車室内カメラ90は、「第1撮像部」の一例である。また、固定カメラ装置500-1~500-3のカメラ520は、「第2撮像部」の一例である。また、「第2撮像部」には、他車両m1のカメラ10および車室内カメラ、並びにドローン600のドローン側カメラ620が含まれてもよい。また、以下の説明において、ユーザU1以外の他者(例えば、ユーザU2)が利用する端末装置400の端末側カメラ460は、「第3撮像部」の一例である。また、第1撮像部により撮像される画像は、「第1画像」の一例であり、第2撮像部により撮像される画像は、「第2画像」の一例であり、第3撮像部により撮像される画像は、「第3画像」の一例である。
以下では、端末装置400-1を利用するユーザU1が本実施形態に係る情報提供サービスを利用する場面について例について説明する。まず、ユーザU1は、端末装置400-1にインストールされた画像提供アプリ492を起動する。画像提供アプリ492は、起動後に画像要求を含む画像IM1をディスプレイ430に表示させる。図15は、画像要求を含む画像IM1の一例を示す図である。画像IM1には、例えば、見出し表示領域A11と、画像設定領域A12と、GUI(Graphical User Interface)スイッチ表示領域A13とが含まれる。見出し表示領域A11には、画像要求に関する設定入力を促すための情報が表示される。図15の例において、見出し表示領域A11には、「<画像要求画面>提供を受ける画像情報を入力してください。」といった文字情報が表示されている。
画像設定領域A12には、撮像レベルに関する情報、撮像対象に関する情報、画像の有無、音声の有無、カメラ所有者の属性等の各項目を設定するコンボボックスCB11~CB16等が表示されている。撮像レベルとは、例えば、撮像画像の情報提供サーバ300への送信(アップロード)の要否や、画像提供の要否、撮影条件等によって設定されるレベル情報である。
図16は、撮影レベル情報の内容について説明するための図である。撮影レベル情報には、撮影レベルに、撮像内容が対応付けられている。撮像内容には、複数のカメラにより撮像された画像を情報提供サーバ300にアップロードしない制御内容や、所定地域外での撮像画像を情報提供サーバ300にアップロードする制御内容が含まれる。また、撮像内容には、「第1撮像部」、「第2撮像部」、および「第3撮像部」のうち、少なくとも一部の撮像部で撮像された画像のアップロードを許可する制御内容が含まれてもよい。また、撮像内容には、「第3撮像部」の所有者の属性情報を含み、属性に該当する第3撮像部からのアップロードを許可する制御内容が含まれてもよい。
図16の例において、「レベル1」は、撮像画像のアップロードおよびユーザへの画像提供を行わないことを示すレベル情報である。「レベル2」は、所定地域外での撮像画像のアップロードおよび情報提供を許可する(言い換えれば、所定地域内での撮像画像のアップロードおよび情報提供を許可しない)ことを示すレベル情報である。「レベル3」は、撮像画像のアップロードおよび画像提供を許可することを示すレベル情報である。「レベル4」は、ユーザ以外の他者の端末装置以外のカメラ(第1撮像部、第2撮像部)の撮像画像のアップロードおよび画像提供を許可するレベル情報である。「レベル5」は、カメラの所有者属性を満たす他者の端末装置の撮像画像のアップロードおよび画像提供を許可することを示すレベル情報である。図16に示す撮影レベル情報は、例えば、端末側記憶部490に記憶されていてもよく、サーバ側記憶部360に記憶されていてもよい。ユーザU1は、コンボボックスCB11により「レベル1」を選択することで、例えば、ユーザU1が意図していない状況や環境での撮影や画像提供を抑制することができる。また、ユーザU1は、「レベル2」を選択することで、例えば、自宅内等の特定の範囲での撮影や画像提供を抑制したり、観光スポットでの画像提供のみを受け付けることができる。また、ユーザU1は、「レベル3」を選択することで、例えば、一日の自分の行動や出来事、旅行時の様子等を一以上の外部カメラ等から撮影された画像から取得することができる。また、ユーザU1は、「レベル4」を選択することで、例えば、標準的な設定として車両のカメラや街中に設定された固定カメラ等が撮像した画像を取得することができる。また、ユーザU1は、「レベル5」を選択することで、例えば、カメラ所有者の性別や年代に応じて、よりユーザが求める画像を取得することができる。
なお、撮影レベルで「レベル2」~「レベル5」が設定された場合には、撮像対象を設定するコンボボックスCB12や、暫定画像や編集画像のそれぞれの提供を希望するか否かを選択するコンボボックスCB13、CB14、音声を希望するか否かを選択するコンボボックスCB15、属性を選択するコンボボックスCB16等が表示される。コンボボックスCB12により選択可能な撮像対象は、例えば、予めユーザDB366に登録されている対象である。音声とは、画像を撮像する前後の音声である。音声は、例えば、HMI30に含まれるマイク等により収集される車内または車外の音声であったり、固定カメラ装置500により収集される周囲の音声である。それぞれのボックスに設定条件を入力することで、ユーザU1の意図に即した画像提供サービスを実行することができる。なお、図15の例において、撮像レベルには「レベル3」が選択され、対象物として「車両(自車両M)」が選択され、暫定画像、編集画像および音声は「希望する」が設定され、属性は「20代女性」が選択されている。例えば、20代女性は、他の年代や性別に比して、自己の端末装置400を用いた撮影に慣れていることが予想されるため、カメラ所有者の属性に「20代女性」を設定することで、より品質の高い画像を取得することができる。
GUIスイッチ表示領域A13には、例えば、ユーザU1からの指示を受け付けるアイコンが表示される。アイコンは、例えば、「OK」の文字が描画されたアイコンIC11と、「CANCEL」の文字が描画されたアイコンIC12とを含む。ユーザU1によりアイコンIC11が選択された場合、画像提供アプリ492は、端末側通信部410を介して、画像設定領域A12により入力された情報(画像要求)を情報提供サーバ300に送信して、撮影設定画面の画像IM1の表示を終了する。また、ユーザU1によりアイコンIC12が選択された場合、画像設定領域A12により設定された内容をキャンセルして画像IM1の表示を終了する。
情報提供サーバ300は、端末装置400により画像設定領域A12に設定された情報を取得し、取得した情報に基づいて、画像提供に関する各種制御を行う。例えば、撮像レベルが「レベル1」である場合、サーバ側制御部340は、各カメラからの画像の取得を中止したり、端末装置400に対する画像の提供を抑制する。また、撮像レベルが「レベル2」~「レベル5」である場合、それぞれのレベルに対応した条件でカメラDB362を参照してカメラIDを取得し、取得したカメラIDに画像取得指示情報を送信する。なお、画像取得指示情報には、撮像対象の位置や特徴情報の他、撮像対象との距離が所定距離以内(撮影可能であると予測される距離以内)となるまでの予想時間等が含まれてよい。撮影指示を受け付けた各装置は、撮像対象が所定距離以内に接近してきた場合に、撮像対象を撮像する。
図17は、自車両Mを撮像する様子を説明するための図である。図17の例では、撮像対象として設定された自車両Mを、端末装置400-2の端末側カメラ460、固定カメラ装置500-1のカメラ520、ドローン側カメラ620で撮像する場面を示している。端末装置400-2、固定カメラ装置500-1、およびドローン600は、情報提供サーバ300からの画像取得指示情報に基づいて、自車両Mの位置情報を取得し、取得した位置情報に基づいて、自車両Mが接近しているか否かを取得し、接近している場合に自車両Mを撮像する。
なお、端末装置400-2の出力制御部480は、情報提供サーバ300から撮影指示を受け付けた場合に、ユーザU2に、撮影を行うか否かを問い合わせるための画像をディスプレイ430に表示させてもよい。図18は、端末装置400-2に撮影するか否かを問い合わせるための画像IM2の一例を示す図である。画像IM2には、例えば、見出し表示領域A21と、問い合わせ内容表示領域A22と、GUIスイッチ表示領域A23とが含まれる。見出し表示領域A21には、情報提供サーバ300からの撮像要求に関する問い合わせであることを示す情報(例えば、「問い合わせ」)が表示される。
問い合わせ内容表示領域A22には、端末装置400-2のユーザU2に対して撮像対象の撮影を行うか否かを問い合わせるための情報が表示される。図18の例において、撮影指示表示領域A22には、「撮像要求を受け付けました。撮像対象が接近するまで、あと3分です。撮像を行いますか?」といった文字情報が表示されている。
GUIスイッチ表示領域A23には、例えば、ユーザU2からの指示を受け付けるアイコンが表示される。アイコンは、例えば、「YES」の文字が描画されたアイコンIC21と、「NO」の文字が描画されたアイコンIC22とを含む。ユーザU2によりアイコンIC21が選択された場合、出力制御部480は、情報提供サーバ300から取得した撮像対象の特徴情報を通知する画像IM3を生成し、生成した画像をディスプレイ430に表示させる。また、ユーザU2によりアイコンIC22が選択された場合、出力制御部480は、画像IM2の表示を終了する。
図19は、特徴情報を含む画像IM3の一例を示す図である。画像IM3には、例えば、見出し表示領域A31と、撮像対象表示領域A32とが含まれる。見出し表示領域A31には、撮像対象を通知することを示す情報(例えば、「通知」)が表示される。撮像対象表示領域A32には、撮像対象に関する情報が表示される。なお、画像提供アプリ492は、端末装置400-2と撮像対象(自車両M)との距離が所定距離以内になった場合、または所定時間内に通過すると予測される場合に、画像IM3をディスプレイ430に表示させてもよい。図19の例において、撮像対象表示領域A32には、「撮像対象がまもなく通過します。以下の特徴の車両を撮影してください。」、「<特徴情報>ナンバー:55-55」、「車種:○○○」、「カラー:赤」といった文字情報が表示されている。また、画像提供アプリ492は、画像IM3を表示しながら、または画像IM3を所定時間表示させた後、端末側カメラ460を起動し、撮影準備を行ってもよい。これにより、ユーザU2に撮像対象を撮影させ易くすることができる。
また、ユーザU2が利用する端末装置400-2の端末側カメラ460、固定カメラ装置500-1のカメラ520、およびドローン側カメラ620のそれぞれは、撮像対象である自車両Mと通信を行い、自車両Mとの距離を取得してもよい。
ここで、自車両Mの画像取得制御部180は、自車両Mを撮影するカメラに接近する場合に、自車両Mの速度を減速する制御を行ってもよい。自車両Mを撮影するカメラの位置に関する情報は、情報提供サーバ300から取得してもよく、各装置と直接通信を行うことで取得してもよい。図17の例において、自車両Mの自動運転制御装置100は、画像取得制御部180の制御により、自車両Mを撮影する端末装置400-2や固定カメラ装置500-1、ドローン600との距離が所定距離以下となった場合に、速度をVMからVM#(VM>VM#)に減速する運転制御を実行する。減速量は、固定値でもよく、周辺車両の現在の速度や道路環境に基づいて設定されてもよい。また、自動運転制御装置100は、例えば、画像取得制御部180の制御により、固定カメラ装置500-1や端末装置400-2から撮像し易い位置や経路を走行するように操舵(操舵角)を制御してもよい。
端末装置400-2の端末側カメラ460、固定カメラ装置500-1のカメラ520、ドローン側カメラ620により撮像された画像は、情報提供サーバ300に送信される。情報提供サーバ300の画像取得部344は、端末装置400-2の端末側カメラ460、固定カメラ装置500-1のカメラ520、ドローン側カメラ620における撮像画像を取得し、取得した画像を画像DB364に記憶させる。抽出部346は、画像DB364に登録された画像から自車両Mを含む画像を抽出する。図20は、抽出部346により抽出される画像の一例を示す図である。図20の例では、端末装置400-2の端末側カメラ460、固定カメラ装置500-1のカメラ520、ドローン側カメラ620のそれぞれにより撮影された画像のうち、自車両Mを含む画像IM41、IM42、IM43…を示している。
情報提供部350は、端末装置400-1からの画像要求内容に暫定画像を希望する情報が含まれる場合には、抽出部346により抽出された画像を暫定画像として端末装置400-1に送信する。これにより、ユーザU1に撮像した画像を、より早く提供することができる。
なお、上述の例では、周辺のカメラで自車両Mを撮像する場合を説明したが、自車両Mのカメラ10で撮像対象を撮像してもよい。図21は、自車両Mが撮像されたユーザU2を含む画像IM5の一例を示す図である。図21の例において、撮像対象はユーザU2であるものとする。自車両Mの画像取得制御部180は、情報提供サーバ300からの画像取得指示情報に基づいてユーザU2を撮像する場合には、ユーザU2の端末装置400-2と通信を行い、自車両Mの周辺を認識するためにカメラ10により常時撮影されている画像から、自車両Mの位置から端末装置400の位置までの距離が所定距離に到達した時点で撮像された画像IM5を取得し、取得した画像IM5を情報提供サーバ300に送信アップロード)する。
また、画像取得制御部180は、ユーザU2が音声を希望している場合には、HMI30に含まれるマイクにより端末装置400-2との距離が所定距離に到達した時点の音声を収集し、収集した音声情報と撮像画像とを情報提供サーバ300に送信(アップロード)する。
なお、自車両Mに搭載されたマイクによりユーザU2付近の音声を収集する場合には、自車両Mのエンジン音によりユーザU2付近の音声を精度よく収集できない場合がある。そのため、画像取得制御部180は、走行駆動力出力装置200が第1駆動モードで運転している場合には、第2駆動モードでの運転に切り替えるように制御を行う。これにより、自車両Mに搭載されたマイクでユーザU2が存在する位置付近の音声を収集する場合に、自車両Mの走行駆動系の騒音を抑制し、よりクリアにユーザU2の周辺の音(図21の例では、「写真撮ってねー!」)を取集することができる。
また、画像取得制御部180は、車室内カメラ90によりユーザU1を撮像させ、撮像された画像をカメラIDと共に情報提供サーバ300に送信(アップロード)してもよい。図22は、自車両Mの運転席DSに着座するユーザU1を含む画像IM6の一例を示す図である。例えば、画像取得制御部180は、車室内カメラ90により撮像されたユーザU1を含む画像を解析し、特定の表情(例えば、笑顔や驚いた顔)であるユーザU1の画像を抽出し、抽出した画像を情報提供サーバ300に送信する。また、画像取得制御部180は、自車両Mの位置情報を取得し、自車両Mが特定の位置(例えば、観光地またはビュースポット)に到着した時点に車室内カメラ90で撮像されたユーザU1の画像を情報提供サーバ300に送信してもよい。これにより、情報提供サーバ300は、様々なカメラで撮像された画像をユーザU1に提供することができる。
情報提供サーバ300は、上述した各カメラの撮像画像のうち、ユーザからの撮像要求から所定時間以内の場合には、暫定画像をユーザU1の端末装置400-1に送信し、所定時間後に、編集部348により編集された編集画像を端末装置400-1に送信する。例えば、情報提供部350は、端末装置400-1からの画像要求に編集画像を希望する情報が含まれる場合、編集部348は、暫定画像から所定条件を満たす少なくとも一つの画像を編集し、編集画像を端末装置400-1に送信する。
例えば、編集部348は、上述した図20の例に示す複数の暫定画像IM41、IM42、IM43…や、図21や図22に示す自車両Mのカメラで撮影された画像のうち、所定条件を満たす画像を抽出する。所定条件とは、例えば、「撮像対象を、より正面から撮影している」、「画像に場所を特定する風景または著名や地物が含まれている」、「撮像対象者の表情が笑顔である」等である。また、編集部348は、抽出した画像IM41にコメント情報CM1を付加した編集画像IM41#を生成し、編集画像IM41#を端末装置400-1に送信する。コメント情報CM1には、例えば、撮影日時、撮影場所、撮影したカメラに関する情報が含まれる。これにより、ユーザU1は、自らが撮像した画像だけでなく、周辺に存在する様々なカメラにより撮像された画像を取得することができる。
また、編集部348は、複数のカメラにより撮像された画像を所定順序に並べることで、画像アルバムを編集してもよい。図23は、編集部348により編集される画像アルバムAL1の一例を示す図である。図23の例では、複数のカメラにより撮像された画像を用いて、ユーザU1の一日の様子を示す画像アルバムAL1が編集されている。画像IM71、IM75は、自宅内に設けられたカメラの撮像画像である。画像IM72は、通勤途中に設置された固定カメラ装置500または車両の撮像画像である。画像IM73、IM74は、ユーザU1の会社内に設けられたカメラの撮像画像である。画像アルバムAL1には、画像と共に取得した音声情報が含まれてもよい。編集部348は、図23に示すように、複数のカメラで撮像された画像を時系列に並べて画像アルバムAL1を生成することで、ユーザU1の一日の挙動等を、ユーザU1本人やユーザU1の管理者等に把握させ易くすることができる。また、編集部348は、例えば、家族旅行やドライブ等で設定された目的地までの経路のそれぞれの箇所で撮影された画像を時系列で並べて画像アルバムを生成することで、そのアルバムを見たユーザの思い出を想起させ易くすることができる。
また、編集部348は、例えば、長期間で記憶されたユーザの過去の撮像画像履歴に基づいて、画像アルバムを編集してもよい。図24は、編集部348により編集された画像アルバムAL2の一例を示す図である。図24の例では、ユーザU2が10歳、20歳、40歳、50歳、および70歳のときの撮像画像IM81~IM85を時系列に並べた画像アルバムAL2が示されている。所定の順序は、時系列に限定されるものではなく、例えば、撮像対象の大きさ順や色順、高さ順等の所定の基準値に基づいて並べられた順序であればよい。編集部348は、図23や図24に示すような画像アルバムAL2をユーザU2に提供することで、より付加価値の高い画像サービスを提供することができる。
[処理シーケンス]
図25は、実施形態の情報提供システム1の処理の流れの一例を示すシーケンス図である。図25の例では、ユーザU1が利用する端末装置400-1から撮影提供要求に対して、情報提供サーバ300が画像提供を行う例について説明する。また、図25の例では、固定カメラ装置500と、他車両mと、端末装置400-2と、ドローン600とから画像を取得するものとする。
端末装置400-1は、撮影設定画面IM1からユーザU1の操作により撮影設定情報を受け付け(ステップS100)、受け付けた撮影設定情報を情報提供サーバ300に送信する(ステップS300)。情報提供サーバ300は、端末装置400-1から受信した撮影設定情報に基づいて、予めカメラDB362に登録された複数のカメラから、撮像を行うカメラを抽出する(ステップS104)。図25の例では、固定カメラ装置500、他車両m、端末装置400-2、ドローン600が抽出されたものとする。情報提供サーバ300は、固定カメラ装置500、他車両m、端末装置400-2、およびドローン600のそれぞれに対して画像取得指示を送信する(ステップS106~S112)。
固定カメラ装置500は、情報提供サーバ300からの画像取得指示に基づいて、撮影設定情報により設定された撮像対象が所定距離以内に接近した場合の撮像画像を取得する(ステップS114)。他車両mは、情報提供サーバ300からの画像取得指示に基づいて、撮像対象が所定距離以内に接近した場合の撮像画像を取得する(ステップS116)。端末装置400-2は、情報提供サーバ300からの画像取得指示に基づいて、ユーザU2が撮影を許可した場合であって、撮像対象が所定距離以内に接近した場合にユーザU2によって撮像された撮像画像を取得する(ステップS118)。ドローン600は、情報提供サーバ300からの画像取得指示に基づいて、撮像対象が所定距離以内に接近した場合に撮像を行う(ステップS120)。固定カメラ装置500、他車両m、端末装置400-2、ドローン600のそれぞれは、撮像した画像を情報提供サーバに送信(アップロード)する(ステップS122~S128)。なお、固定カメラ装置500、他車両m、端末装置400-2、およびドローン600は、それぞれの撮像タイミングで撮像を行い、撮像後に情報提供サーバ300と通信が可能になった状態、または所定のタイミングで情報提供サーバ300に撮像画像を送信(アップロード)する。
情報提供サーバ300は、固定カメラ装置500、他車両m、端末装置400-2、およびドローン600から得られる撮像画像をサーバ側記憶部360に記憶する(ステップS130)。次に、情報提供サーバ300は、サーバ側記憶部360から撮像対象が撮像された画像を暫定画像として抽出し(ステップS132)、抽出した画像を端末装置400-1に送信する(ステップS134)。
端末装置400-1は、暫定画像をディスプレイ430に表示する(ステップS136)。また、情報提供サーバ300は、端末装置400-1から画像要求を受け付けてから所定時間が経過した後、ユーザU1に提供する画像の編集を行い(ステップS138)、編集画像を端末装置400-1に送信する(ステップS140)。端末装置400-1は、編集画像をディスプレイ430に表示する(ステップS142)。これにより、本シーケンスの処理は終了する。
以上説明した実施形態によれば、情報提供サーバ300は、ユーザに、より適切な画像情報を提供することができる。具体的には、実施形態によれば、ユーザが撮像した画像の提供だけでなく、車両に搭載されたカメラや所定位置に設置されたカメラ等、様々なカメラを用いて、ユーザが自ら撮影できない様々な角度や位置から撮像された画像を取得することができる。また、実施形態によれば、ユーザが要求した画像が抽出された時点で、暫定版の画像を、ユーザに提供することで、ユーザにあまり待たせずに画像を提供することができる。また、所定時間経過後に、編集画像を完全版として改めてユーザに提示することで、暫定版の抽出段階では、撮像画像の一部が取得できていない場合であっても、所定時間経過後に、よりユーザの意図に即した編集画像を提供することができる。
また、実施形態によれば、車両で撮像対象を撮影する場合に、車両の速度を調整したり、車両の操舵を調整することで、より良い撮像画像を撮像することができる。また、撮像対象付近の音声を収集する場合には、走行駆動力による騒音が低くなる駆動モードに切り替えることで、よりクリアに撮像対象付近の音声を収集することができる。
また、実施形態によれば、情報提供システムにおける撮像要求を行う場合に、撮像レベルを設定することで、撮像対象が意図するタイミングで画像の提供を受けることができる。したがって、例えば、日常生活における画像の提供を抑制して家族旅行等の特別なイベントがある場合にのみ画像提供を受けることができる。また、撮像レベルを変更することで、行動履歴等が欲しい場合に画像の撮像を実行させるといった制御を行うこともできる。
[変形例]
上述した情報提供システム1は、撮像対象が接近してきた場合に、その周辺に存在するカメラによって撮影を行ったが、これに代えて(または加えて)、撮影者が撮像対象を撮影し易い位置に誘導してもよい。図26は、撮像対象を誘導させることについて説明するための図である。図26は、自車両Mが駐車場PAに駐車する場面を示し、自車両Mが撮像対象であり、他車両m2が自車両Mを撮影する撮影車両であるものとする。
この場面において、他車両m2は、自車両Mと車車間通信を行い、自車両Mが他車両m2の駐車位置P1の正面の位置P2に駐車するように、自車両Mに要求信号を送信する。自車両Mの自動運転制御装置100は、位置P2に駐車可能であると判断した場合に、自車両MをP2に駐車させるための運転制御を実行する。これにより、他車両m2は、搭載されたカメラ10によって、自車両Mが駐車される様子を間近で撮影することができる。
また、上述の実施形態では、自車両Mが自動運転中である場合を例に説明したが、手動運転中である場合には、車両に対して他の情報を提供してもよい。例えば、上述の例では、自車両Mが撮影するカメラ付近を通過する場合に、自車両Mを速度制御させたり操舵制御する自動運転を実行させたが、情報提供サーバ300は、車両が手動運転中である場合に、速度制御(例えば、減速)や操舵制御を促すメッセージをHMI30の表示装置に表示させたり、音声出力する制御を行う指示を車両に送信してもよい。また、情報提供サーバ300は、手動運転が実行中である場合であって、且つHMI30のマイクにより音声を収集する場合には、車両の駆動モードを第1駆動モードから第2駆動モードに切り替える通知をHMI30の表示装置に表示させる指示を車両に送信してもよい。また、上述した図26に示すように、位置P2に駐車させる場合に、駐車位置に関する情報を表示装置に表示させる制御を行ってもよい。これにより、車両2が手動運転により走行している場合に、運転者に画像が撮像し易い運転を行わせるように、要求することができる。その結果、より適切な画像を取得することができる。
[ハードウェア構成]
図27は、実施形態の情報提供サーバ300のハードウェア構成の一例を示す図である。図示するように、情報提供サーバ300は、通信コントローラ300-1、CPU300-2、ワーキングメモリとして使用されるRAM300-3、ブートプログラム等を格納するROM300-4、フラッシュメモリやHDD等の記憶装置300-5、ドライブ装置300-6等が、内部バスあるいは専用通信線によって相互に接続された構成となっている。通信コントローラ300-1は、情報提供サーバ300以外の構成要素との通信を行う。記憶装置300-5には、CPU300-2が実行するプログラム300-5aが格納されている。このプログラムは、DMA(Direct Memory Access)コントローラ(不図示)等によってRAM300-3に展開されて、CPU300-2によって実行される。これによって、情報提供サーバ300の各機能構成のうち一部または全部が実現される。
上記説明した実施形態は、以下のように表現することができる。
プログラムを記憶した記憶装置と、
ハードウェアプロセッサと、を備え、
前記ハードウェアプロセッサが前記記憶装置に記憶されたプログラムを実行することにより、
ユーザが利用する端末装置から受け付けた撮像内容に応じて、撮像対象の位置情報に基づいて、車両に搭載された第1撮像部と所定位置に設置された第2撮像部と前記ユーザ以外の他者が利用する第3撮像部とを含む複数の撮像部に所定の指示を行い、
前記所定の指示により前記第1撮像部、前記第2撮像部、および前記第3撮像部により撮像された撮像対象を含む画像を取得し、
前記画像取得部により取得された前記撮像内容を満たす画像を含む情報を前記端末装置に提供する、
ように構成されている、情報提供装置。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。