JP2009246408A - 対話装置、画像処理モジュール、画像処理方法およびプログラム - Google Patents

対話装置、画像処理モジュール、画像処理方法およびプログラム Download PDF

Info

Publication number
JP2009246408A
JP2009246408A JP2008087048A JP2008087048A JP2009246408A JP 2009246408 A JP2009246408 A JP 2009246408A JP 2008087048 A JP2008087048 A JP 2008087048A JP 2008087048 A JP2008087048 A JP 2008087048A JP 2009246408 A JP2009246408 A JP 2009246408A
Authority
JP
Japan
Prior art keywords
face
information
iris
sight
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008087048A
Other languages
English (en)
Inventor
Shinji Namihira
真二 波平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2008087048A priority Critical patent/JP2009246408A/ja
Publication of JP2009246408A publication Critical patent/JP2009246408A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現することができる対話装置、画像処理モジュール、画像処理方法およびプログラムを提供する。
【解決手段】本発明に係る対話装置は、撮像手段としてのカメラ11と、画像処理モジュール13と、表示部32と、画像通信部33などを有する。画像処理モジュール13は、入力された画像データに含まれる人物の視線が画像データの正面を向くように、画像データに含まれる人物の眼瞼裂領域(眼球の露出領域)の画素を変更することによって虹彩および瞳孔の位置を変更する。画像処理モジュール13は、顔認識部14、視線判定部15および視線変更部16を有する。顔認識部14は、顔認識処理の結果にもとづいて、顔全体の向きを規定するベクトル(顔ベクトル)の情報を抽出する。視線変更部16は、顔ベクトルの向きにもとづいて顔が表示画面を向いていると判定されると、人物の視線が画像データの正面を向くよう、眼瞼裂領域内の画素を変更する。
【選択図】 図1

Description

本発明は、テレビ電話やテレビ会議などに利用される対話装置、画像処理モジュール、画像処理方法およびプログラムに関する。
テレビ電話やテレビ会議などの対話型通信システムにおける問題の1つとして、対話者同士の視線の不一致の問題が挙げられる。
一般に、対話型通信システムを利用する際、ユーザは、表示装置に表示された相手の画像に視線を合わせようとする。しかし、表示装置の表示画面の法線方向とユーザを撮像するカメラのレンズの光軸方向とが異なる場合、ユーザが相手の画像に視線を合わせると、カメラにより撮像されるユーザの画像はユーザの正面画像とはならない。この場合、ユーザは相手の画像と視線を合わせているにもかかわらず、相手側の表示装置にはユーザが視線をそらしている画像が表示されてしまう。
従来、この種の対話型通信システムにおける対話者同士の視線を一致させる技術に、特開2004−326179号公報(特許文献1)に開示された技術がある。
この特許文献1に開示された画像処理装置は、カメラから入力されたユーザの頭部画像について、あらかじめ定めた大きさおよび方向から見た場合の近似画像を生成する近似画像生成手段を備え、複数の対話者を同時に表示してテレビ会議を行う際に、各対話者の頭部の大きさを統一することができるとともに、各対話者の顔がカメラのほうを向いているように見える画像を自動生成することができるようになっている。
特開2004−326179号公報
しかし、従来の技術では、各対話者が顔を向けている方向にかかわらず、各対話者の顔がカメラの方を向いている画像を生成してしまう。このため、明らかにカメラの方を向くことを意図していない体勢の対話者については、極めて不自然な画像が生成されてしまう。また、従来の技術では、各対話者の顔全体の方向を変更する必要があるために複雑な画像処理を行わなければならず、画像処理に時間がかかってしまう。
本発明は、上述した事情を考慮してなされたもので、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現することができる対話装置、画像処理モジュール、画像処理方法およびプログラムを提供することを目的とする。
本発明に係る画像処理モジュールは、上述した課題を解決するために、対話型通信システムに用いられる画像処理モジュールであって、入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段と、前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定する視線判定手段と、前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段と、を備えたことを特徴とするものである。
また、本発明に係る対話装置は、上述した課題を解決するために、表示手段と、入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段と、前記顔ベクトルの情報にもとづいて、前記顔が前記表示手段の表示画面を向いているかどうかを判定する視線判定手段と、前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段と、を備え、前記表示手段は、前記視線変更手段から受けた前記眼瞼裂領域内の画素が変更された前記画像データを表示することを特徴とするものである。
一方、本発明に係る画像処理方法は、上述した課題を解決するために、入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出するステップと、前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定するステップと、前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更するステップと、を有することを特徴とする方法である。
さらに、本発明に係るプログラムは、上述した課題を解決するために、コンピュータを、入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段、前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定する視線判定手段、および前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段、として機能させるためのプログラムである。
本発明に係る対話装置、画像処理モジュール、画像処理方法および画像処理プログラムによれば、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現することができる。
本発明に係る対話装置、画像処理モジュール、画像処理方法およびプログラムの実施の形態について、添付図面を参照して説明する。
図1は、本発明に係る対話装置10の一実施形態を示す概略的な全体構成図である。この対話装置10は、たとえばパーソナルコンピュータや携帯電話機などに適用することが可能である。
図1に示すように、対話装置10は、撮像手段としてのカメラ11と、画像データ取得部12と、画像処理モジュール13と、表示制御部31と、表示部32と、画像通信部33とを有する。
ユーザは、対話装置10を用いて、この対話装置10と画像通信可能にネットワーク接続された他の対話装置10を用いる対話相手と、テレビ電話やテレビ会議を利用することができる。
カメラ11は、対話装置10を用いるユーザの顔を含む画像を撮像して画像データを生成する。このカメラ11として、例えばCMOS型撮像素子やCCD型撮像素子を用いたものを利用することができる。
画像データ取得部12は、画像通信部33から取得した対話相手の顔を含む画像の画像データ(以下、受信画像データという)、およびカメラ11から取得されたユーザの顔を含む画像の画像データ(以下、送信画像データという)を、画像処理モジュール13に入力する。
画像処理モジュール13は、入力された画像データに含まれる人物の視線が画像データの正面を向くように、画像データに含まれる人物の眼瞼裂領域(眼球の露出領域)の画素を変更することによって虹彩および瞳孔の位置を変更する。
なお、人物の視線が「画像データの正面を向いている」ことは、人物の視線が「カメラ11を向いている」ことと同義である。
表示制御部31は、画像処理モジュール13が出力する画像データから画像を生成し、表示部32に表示させる。表示制御部31に与えられる画像データは、少なくとも画像処理モジュール13が出力する受信画像データ(対話相手の顔を含む画像データ)を含む。
以下の説明では、表示制御部31に与えられる画像データが、受信画像データと、送信画像データ(ユーザの顔を含む画像データ)との両方である場合の例について示す。この場合、ユーザは、表示部32に表示された送信画像を見ることにより、表示部32の表示画面を注視している際の自身の視線がカメラ11を向いているよう画像処理されているかどうかを確認することができる。
表示部32は、たとえば液晶ディスプレイやCRTディスプレイなどの一般的な表示出力装置により構成され、表示制御部31の制御に従って各種画像を表示する。
画像通信部33は、ネットワークの形態に応じた種々の情報通信用プロトコルを実装する。画像通信部33は、この各種プロトコルに従って対話装置10と他の対話装置10とを接続する。この接続には、電子ネットワークを介した電気的な接続などを適用することができる。画像通信部33は、この接続を介して他の対話装置10と画像データを互いに送受信する。ここで電子ネットワークとは、電気通信技術を利用した情報通信網全般を意味し、LAN(Local Area Network)やインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワークおよび衛星通信ネットワークなどを含む。
続いて、画像処理モジュール13についてより詳細に説明する。
画像処理モジュール13は、顔認識部14、視線判定部15および視線変更部16を有する。
顔認識部14は、入力された画像データに対して顔認識処理を実行し、眼瞼裂の位置の情報および眼瞼裂領域の画素の情報を抽出する。顔認識処理方法は、従来各種の方法が知られており、これらのうち任意の方法を使用することが可能である。また、顔認識部14は、顔認識処理の結果にもとづいて、顔全体の向きを規定するベクトル(以下、顔ベクトルという)の情報を抽出する。
視線判定部15は、画像データに含まれる人物の顔が表示手段の表示画面を向いているかどうかを判定する。
視線変更部16は、黒目情報取得部17、モデル生成部18、モデル位置決定部19および眼瞼裂領域変更部20を有する。
黒目情報取得部17は、顔認識部14から虹彩および瞳孔の画素情報(虹彩および瞳孔の大きさおよび色の情報を含む)を取得する。
モデル生成部18は、虹彩および瞳孔の画素の情報にもとづいて、虹彩モデルおよび瞳孔モデルを生成する。
モデル位置決定部19は、顔ベクトルの情報にもとづいて、人物の視線が画像データの正面を向くよう虹彩モデルおよび瞳孔モデルの配置位置を決定する。
眼瞼裂領域変更部20は、眼瞼裂領域内の画素を変更することにより、ユーザの視線が画像データの正面を向いた画像データを生成し、この画像データを表示制御部31および画像通信部33に与える。
次に、本実施形態に係る対話装置10の動作(画像処理モジュール13の動作を含む)の一例について説明する。
図2は、図1に示す対話装置10により、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現するために、カメラ11によって生成されたユーザの顔を含む画像データの視線を必要に応じて変更する際の手順を示すフローチャートである。図2において、Sに数字を付した符号は、フローチャートの各ステップを示す。
なお、以下の説明では、カメラ11の設置位置が、ユーザから見て左上である場合の例について説明する。
まず、ステップS1において、画像データ取得部12は、ユーザの顔を含む画像データをカメラ11から受け、この画像データを画像処理モジュール13に入力する。
次に、ステップS2において、顔認識部14は、入力された画像データに対して顔認識処理を実行し、ユーザの顔における眼瞼裂の位置の情報および眼瞼裂領域の画素の情報を抽出する。眼瞼裂領域の画素の情報には、虹彩、瞳孔および強膜(いわゆる白目)の画素の情報が含まれる。各画素の情報には、各対象の位置、大きさおよび色の情報が含まれる。
また、顔認識部14は、顔認識処理の結果にもとづいて、顔全体の向きを規定する顔ベクトルの情報を抽出する。
図3は、ユーザの顔の向きおよび視線が表示部32の表示画面を真っすぐ向いている場合において、画像データから抽出される顔ベクトルについて説明するための図である。図3の左は、カメラ11によって生成された画像データである。ユーザの顔がカメラ11を向いている場合、ユーザの顔は画像データの正面(紙面奥から手前に向かう向き)を向くことになる。
ユーザの顔が表示部32の表示画面を真っすぐ向いている場合には、顔ベクトルは、表示画面の法線ベクトルに対して並行となる。一方、この場合、図3に示すように、顔ベクトルは、画像データの正面を規定する画像データの法線ベクトル(紙面奥から手前に貫くベクトル)に対しては、カメラ11の設置位置に応じて若干ずれた向きを持つ。
図4は、ユーザの顔の向きが表示部32の表示画面を真っすぐ向いた状態から大きく外れた場合において、画像データから抽出される顔ベクトルを説明するための図である。
図4に示すように、ユーザが対話相手(表示手段の表示画面)を見ていない場合には、顔ベクトルは、表示画面の法線ベクトルに対して大きくずれた向きを持つことになる。
ユーザの顔が明らかに対話相手を向いていない場合には、視線の変更処理を行ってしまうと不自然な画像が生成されてしまう。このため、顔ベクトルの向きが所定の範囲にあるかどうかによりユーザの顔が表示手段の表示画面を向いているかどうかを判定し、顔ベクトルの向きが所定の範囲にある場合にのみ視線の変更処理を行うようにするとよい。
ステップS3において、視線判定部15は、顔ベクトルの向きが所定の範囲にあるかどうかを判定することにより、画像データに含まれるユーザの顔が表示手段の表示画面を向いているかどうかを判定する。顔ベクトルの向きが所定の範囲にある場合、つまりユーザの顔が表示手段の表示画面を向いていると判定された場合は、視線の変更処理を行うべくステップS4に進む。一方、顔ベクトルの向きが所定の範囲外の場合、つまりユーザの顔が表示手段の表示画面を向いていないと判定された場合は、視線判定部15は、この視線変更処理前の画像データを表示制御部31および画像通信部33に与える。ステップS8に進む。
次に、ステップS4において、黒目情報取得部17は、顔認識部14から虹彩および瞳孔の画素情報(虹彩および瞳孔の大きさおよび色の情報を含む)を取得する。
図5は、虹彩モデルおよび瞳孔モデルを生成する様子の一例を示す説明図である。
ステップS5において、モデル生成部18は、虹彩および瞳孔の画素の情報にもとづいて、虹彩モデルおよび瞳孔モデルを生成する。この結果、ユーザの虹彩および瞳孔の色に合わせた虹彩モデルおよび瞳孔モデルを生成することができるとともに、画像データ上の虹彩および瞳孔の大きさに合わせた虹彩モデルおよび瞳孔モデルを生成することができる。
なお、この虹彩モデルおよび瞳孔モデルは、ユーザの視線が画像データの正面を向くよう画像処理を行う際に用いられる。正面を向いている人物の虹彩および瞳孔の形状は、他者からは、ほぼ円形として視認される。このため、モデル生成部18は、ほぼ円形形状となるように虹彩モデルおよび瞳孔モデルを生成すればよく、複雑な形状計算をする必要はない。
次に、ステップS6において、モデル位置決定部19は、顔ベクトルの情報にもとづいて、虹彩モデルおよび瞳孔モデルの配置位置を決定する。より具体的には、モデル位置決定部19は、顔ベクトルの向きと画像データ正面の向きとの差にもとづいて、ユーザの視線が画像データの正面を向くように、虹彩モデルおよび瞳孔モデルの配置位置を決定する。
図6は、画像データの眼瞼裂領域内の画素を変更する様子の一例を示す説明図である。また、図7は、視線変更処理前後の画像データの一例について説明するための図である。
ステップS7において、眼瞼裂領域変更部20は、モデル位置決定部19により決定された位置に虹彩モデルおよび瞳孔モデルを配置するよう眼瞼裂領域内の画素を変更することにより、ユーザの視線が画像データの正面を向いた画像データを生成する(図7参照)。そして、眼瞼裂領域変更部20は、この視線変更処理後の画像データを表示制御部31および画像通信部33に与える。
たとえば、図6に示すように、まず眼瞼裂領域内の画素を顔認識部14から取得した強膜の色で埋めてしまい、次にほぼ円形の虹彩モデルおよび瞳孔モデルを最前面に配置し、最後に虹彩モデルおよび瞳孔モデルを眼瞼裂にあわせてトリミングする手順により、ユーザの視線が画像データの正面を向いた画像データを生成することができる。
次に、ステップS8において、表示制御部31は、画像データ(視線判定部15から受けた視線変更処理前の画像データまたは眼瞼裂領域変更部20から受けた視線変更処理後の画像データ)から画像を生成し、表示部32に表示させる。また、画像通信部33は、画像データ(視線判定部15から受けた視線変更処理前の画像データまたは眼瞼裂領域変更部20から受けた視線変更処理後の画像データ)を他の対話装置10に対して送信する。
以上の手順により、カメラ11によって生成されたユーザの顔を含む画像データの視線を必要に応じて変更することができ、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現することができる。
また、対話相手の対話装置が本実施形態にかかる対話装置10の画像処理モジュール13を備えておらず、画像通信部33が受信した受信画像データが視線変更処理前の画像データである場合には、図2に示した手順を受信画像データに対して行うことにより、受信画像データに対して視線変更処理を施すことができる。
この場合、たとえば、ステップS1では、画像データ取得部12は、対話相手の顔を含む画像データを画像通信部33から受け、この画像データを画像処理モジュール13に入力すればよい。また、ステップS7では、眼瞼裂領域変更部20は、視線変更処理後の受信画像データを表示制御部31にのみ与えればよく、画像通信部33に与える必要はない。
もちろん、対話相手の対話装置が本実施形態にかかる対話装置10の画像処理モジュール13を備えている場合には、画像取得部は、受信画像データを直接表示制御部31に与えても構わない。
本実施形態に係る対話装置10は、顔ベクトルの情報を取得することができる。このため、この顔ベクトルの向きにもとづいて画像データに含まれる人物が対話相手を見ているか(表示画面を見ているか)どうかを判定することができる。したがって、本実施形態に係る対話装置10によれば、画像データに含まれる人物が対話相手を見ている場合にのみ視線の変更処理を行うことができ、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現することができる。
また、本実施形態に係る対話装置10は、特別な物理デバイスを使用したり、複数画像の合成を行ったりすることなく、カメラ11は1台のみを用い、画像処理は眼瞼裂領域の画素のみの変更でよい。このため、極めて簡便かつ高速に視線の変更処理を行うことができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
たとえば、上述した画像処理モジュール13の構成の一部または全部を、コンピュータによりプログラムを実行させて機能させることもできる。この場合、この画像処理プログラムをCD−ROM、磁気ディスクなどからコンピュータのプログラムメモリにインストールし、あるいはこのプログラムメモリに通信回線を介してダウンロードするなどして、プログラムメモリに格納された画像処理プログラムをコンピュータにより実行すればよい。
また、本発明の実施形態では、フローチャートの各ステップは、記載された順序に沿って時系列的に行われる処理の例を示したが、必ずしも時系列的に処理されなくとも、並列的あるいは個別実行される処理をも含むものである。
本発明に係る対話装置の一実施形態を示す概略的な全体構成図。 図1に示す対話装置により、対話型通信において対話者同士の視線が一致した自然な対話環境を容易に実現するために、カメラによって生成されたユーザの顔を含む画像データの視線を必要に応じて変更する際の手順を示すフローチャート。 ユーザの顔の向きおよび視線が表示部の表示画面を真っすぐ向いている場合において、画像データから抽出される顔ベクトルについて説明するための図。 ユーザの顔の向きが表示部の表示画面を真っすぐ向いた状態から大きく外れた場合において、画像データから抽出される顔ベクトルを説明するための図。 虹彩モデルおよび瞳孔モデルを生成する様子の一例を示す説明図。 画像データの眼瞼裂領域内の画素を変更する様子の一例を示す説明図。 視線変更処理前後の画像データの一例について説明するための図。
符号の説明
10 対話装置
11 カメラ
12 画像データ取得部
13 画像処理モジュール
14 顔認識部
15 視線判定部
16 視線変更部
17 黒目情報取得部
18 モデル生成部
19 モデル位置決定部
20 眼瞼裂領域変更部
31 表示制御部
32 表示部
33 画像通信部

Claims (11)

  1. 対話型通信システムに用いられる画像処理モジュールであって、
    入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段と、
    前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定する視線判定手段と、
    前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段と、
    を備えたことを特徴とする画像処理モジュール。
  2. 前記虹彩の画素の情報は、
    少なくとも、前記顔における前記虹彩の位置の情報と、前記虹彩の大きさの情報と、前記虹彩の色の情報と、を含み、
    前記視線変更手段は、
    前記虹彩の画素の情報にもとづいて略円形の虹彩モデルを生成し、前記顔ベクトルの情報にもとづいて前記人物の視線が前記画像データの正面を向くよう前記虹彩モデルの配置位置を決定し、この配置位置に前記虹彩モデルが配置されるよう前記眼瞼裂領域内の画素を変更可能に構成された、
    請求項1記載の画像処理モジュール。
  3. 表示手段と、
    入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段と、
    前記顔ベクトルの情報にもとづいて、前記顔が前記表示手段の表示画面を向いているかどうかを判定する視線判定手段と、
    前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段と、
    を備え、
    前記表示手段は、
    前記視線変更手段から受けた前記眼瞼裂領域内の画素が変更された前記画像データを表示することを特徴とする対話装置。
  4. 前記虹彩の画素の情報は、
    少なくとも、前記顔における前記虹彩の位置の情報と、前記虹彩の大きさの情報と、前記虹彩の色の情報と、を含み、
    前記視線変更手段は、
    前記虹彩の画素の情報にもとづいて略円形の虹彩モデルを生成し、前記顔ベクトルの情報にもとづいて前記人物の視線が前記画像データの正面を向くよう前記虹彩モデルの配置位置を決定し、この配置位置に前記虹彩モデルが配置されるよう前記眼瞼裂領域内の画素を変更可能に構成された、
    請求項3記載の対話装置。
  5. 他の対話装置と互いに画像データを送受信可能に構成された画像通信手段、
    をさらに備え、
    前記顔認識手段は、
    前記画像通信手段を介して前記他の対話装置から受信した画像データを入力される、
    請求項3または4に記載の対話装置。
  6. 前記表示手段は、
    前記視線変更手段から受けた前記眼瞼裂領域内の画素が変更された前記他の対話装置から受信した画像データをさらに表示する、
    請求項5記載の対話装置。
  7. 前記人物の顔を含む画像を撮像して画像データを生成する撮像手段、
    をさらに備えた、
    請求項3ないし6のいずれか1項に記載の対話装置。
  8. 入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出するステップと、
    前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定するステップと、
    前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更するステップと、
    を有することを特徴とする画像処理方法。
  9. 前記虹彩の画素の情報は、
    少なくとも、前記顔における前記虹彩の位置の情報と、前記虹彩の大きさの情報と、前記虹彩の色の情報と、を含み、
    前記眼瞼裂領域内の画素を変更するステップは、
    前記虹彩の画素の情報にもとづいて略円形の虹彩モデルを生成するステップと、
    前記顔ベクトルの情報にもとづいて前記人物の視線が前記画像データの正面を向くよう前記虹彩モデルの配置位置を決定するステップと、
    前記配置位置に前記虹彩モデルが配置されるよう前記眼瞼裂領域内の画素を変更するステップと、
    を有する、
    請求項8記載の画像処理方法。
  10. コンピュータを、
    入力された人物の顔を含む画像データから、少なくとも、前記顔の向きを規定する顔ベクトルの情報と、前記顔における眼瞼裂の位置の情報と、前記顔の虹彩の画素の情報と、を抽出する顔認識手段、
    前記顔ベクトルの情報にもとづいて、前記顔が表示手段の表示画面を向いているかどうかを判定する視線判定手段、および
    前記顔が前記表示手段の表示画面を向いていると判定されると、前記人物の視線が前記画像データの正面を向くよう、前記眼瞼裂領域内の画素を変更する視線変更手段、
    として機能させるためのプログラム。
  11. 前記虹彩の画素の情報は、
    少なくとも、前記顔における前記虹彩の位置の情報と、前記虹彩の大きさの情報と、前記虹彩の色の情報と、を含み、
    前記視線変更手段は、
    前記虹彩の画素の情報にもとづいて略円形の虹彩モデルを生成し、前記顔ベクトルの情報にもとづいて前記人物の視線が前記画像データの正面を向くよう前記虹彩モデルの配置位置を決定し、この配置位置に前記虹彩モデルが配置されるよう前記眼瞼裂領域内の画素を変更可能に構成された、
    請求項10記載のプログラム。
JP2008087048A 2008-03-28 2008-03-28 対話装置、画像処理モジュール、画像処理方法およびプログラム Pending JP2009246408A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008087048A JP2009246408A (ja) 2008-03-28 2008-03-28 対話装置、画像処理モジュール、画像処理方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008087048A JP2009246408A (ja) 2008-03-28 2008-03-28 対話装置、画像処理モジュール、画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2009246408A true JP2009246408A (ja) 2009-10-22

Family

ID=41307907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008087048A Pending JP2009246408A (ja) 2008-03-28 2008-03-28 対話装置、画像処理モジュール、画像処理方法およびプログラム

Country Status (1)

Country Link
JP (1) JP2009246408A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011204182A (ja) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd 画像生成装置、画像加工方法、および、プログラム
JP2012231237A (ja) * 2011-04-25 2012-11-22 Olympus Imaging Corp 画像記録装置及び撮像装置
JP2013182616A (ja) * 2012-02-29 2013-09-12 Samsung Electronics Co Ltd 映像内のユーザの視線補正方法、機械可読の格納媒体及び携帯端末
CN103390087A (zh) * 2013-07-31 2013-11-13 浙江大学 一种针对大规模几何场景的交互绘制方法
WO2014193093A1 (en) * 2013-05-31 2014-12-04 Samsung Electronics Co., Ltd. Display apparatus and control method thereof
JP5695809B1 (ja) * 2013-10-16 2015-04-08 オリンパスイメージング株式会社 表示装置、表示方法およびプログラム
US9635311B2 (en) 2013-09-24 2017-04-25 Sharp Kabushiki Kaisha Image display apparatus and image processing device
CN109804407A (zh) * 2016-09-29 2019-05-24 株式会社东芝 关心维持***以及服务器

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011204182A (ja) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd 画像生成装置、画像加工方法、および、プログラム
JP2012231237A (ja) * 2011-04-25 2012-11-22 Olympus Imaging Corp 画像記録装置及び撮像装置
JP2013182616A (ja) * 2012-02-29 2013-09-12 Samsung Electronics Co Ltd 映像内のユーザの視線補正方法、機械可読の格納媒体及び携帯端末
CN103310186A (zh) * 2012-02-29 2013-09-18 三星电子株式会社 校正图像中用户的注视方向的方法和便携式终端
CN103310186B (zh) * 2012-02-29 2018-01-16 三星电子株式会社 校正图像中用户的注视方向的方法和便携式终端
US9596432B2 (en) 2013-05-31 2017-03-14 Samsung Electronics Co., Ltd. Display apparatus and control method thereof
WO2014193093A1 (en) * 2013-05-31 2014-12-04 Samsung Electronics Co., Ltd. Display apparatus and control method thereof
CN103390087A (zh) * 2013-07-31 2013-11-13 浙江大学 一种针对大规模几何场景的交互绘制方法
US9635311B2 (en) 2013-09-24 2017-04-25 Sharp Kabushiki Kaisha Image display apparatus and image processing device
JP5695809B1 (ja) * 2013-10-16 2015-04-08 オリンパスイメージング株式会社 表示装置、表示方法およびプログラム
WO2015056466A1 (ja) * 2013-10-16 2015-04-23 オリンパスイメージング株式会社 表示装置、画像生成装置、表示方法およびプログラム
US9521329B2 (en) 2013-10-16 2016-12-13 Olympus Corporation Display device, display method, and computer-readable recording medium
CN109804407A (zh) * 2016-09-29 2019-05-24 株式会社东芝 关心维持***以及服务器
CN109804407B (zh) * 2016-09-29 2023-07-18 株式会社东芝 关心维持***以及服务器

Similar Documents

Publication Publication Date Title
CN109952759B (zh) 用于具有hmd的视频会议的改进的方法和***
JP2009246408A (ja) 対話装置、画像処理モジュール、画像処理方法およびプログラム
US20170301120A1 (en) Augmented display of information in a device view of a display screen
CN110413108B (zh) 虚拟画面的处理方法、装置、***、电子设备及存储介质
US10235808B2 (en) Communication system
JP6330036B2 (ja) 画像処理装置及び画像表示装置
JP4461739B2 (ja) 撮像装置
JP2015012304A (ja) 画像処理装置、画像処理方法、及び、プログラム
WO2017141584A1 (ja) 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム
JP6157077B2 (ja) カメラ付き表示装置
CN111246224A (zh) 一种视频直播方法及视频直播***
US20230327897A1 (en) Gaze Repositioning During A Video Conference
US11589001B2 (en) Information processing apparatus, information processing method, and program
JP2005142765A (ja) 撮像装置及び方法
KR102357262B1 (ko) 통신 장치 및 그 영상통화 방법
EP2827589A1 (en) Display device and device for adapting an information
CN111736692B (zh) 显示方法、显示装置、存储介质与头戴式设备
CN111208964A (zh) 低视力助视方法、终端及存储介质
KR20150113795A (ko) 눈맞춤 기능 제어 장치 및 방법
CN117041670B (zh) 图像处理方法及相关设备
US11979545B2 (en) Information processing apparatus and information processing method
JP2005340974A (ja) 画像送信制御プログラム、及び画像表示プログラム
KR101879813B1 (ko) 눈 맞춤 가능한 영상 촬영 핸드폰
JP2007079799A (ja) 仮想空間表示装置および仮想空間表示方法
JP2018046464A (ja) 視線一致顔画像合成方法、テレビ会議システム、及びプログラム

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100426