JP2008129713A - 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム - Google Patents
複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム Download PDFInfo
- Publication number
- JP2008129713A JP2008129713A JP2006311845A JP2006311845A JP2008129713A JP 2008129713 A JP2008129713 A JP 2008129713A JP 2006311845 A JP2006311845 A JP 2006311845A JP 2006311845 A JP2006311845 A JP 2006311845A JP 2008129713 A JP2008129713 A JP 2008129713A
- Authority
- JP
- Japan
- Prior art keywords
- modality
- data
- association
- modalities
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1069—Session establishment or de-establishment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Information Transfer Between Computers (AREA)
- Computer And Data Communications (AREA)
Abstract
【解決手段】複数のモダリティのうちの第1のモダリティと第2のモダリティとを関連付けるための関連付け用データを作成するモダリティ連携用データ作成部と、第1のモダリティに送信するコンテンツに関連付け用データを合成した関連付け用データ付コンテンツを第1のモダリティに送信する関連付対応部と、各モダリティの接続情報、連携情報および連携用データ作成部で作成された関連付け用データの対応をセッション情報テーブルとして記憶するセッション情報格納部と、関連付け用データを利用して第2のモダリティから送信されてきた連携要求データを受け付け、連携要求データとセッション情報格納部に格納された関連付け用データとを照合するマッチング処理を実行するモダリティ関連付部とを備える。
【選択図】図1
Description
このような複数の異なるモーダルを同期して情報/サービスを提供することを可能にしたシステムは、たとえば、特許文献1(特開2005-148807号公報)に記載されたようなものが提案されている。この特許文献1では、モーダル種別毎のコンテンツ生成ファイルを対応付けた選択定義情報を予め用意し、同期するモダリティの組み合わせに応じて適用すべきコンテンツ生成ファイルを選択して出力するように構成することで、複数のモダリティを同期させて情報/サービスを提供できるように構成している。
図15に示す例では、ユーザ側では、音声インターフェイスとなる音声端末M1と、画面インターフェイスとなる画面端末M2とを備える構成となっている。音声端末M1は、音声対話サーバS1と接続され、音声対話サーバS1から送信されてくる音声によるコンテンツを出力する音声出力部と、ユーザによる音声入力またはDTMF(Dial Tone Multi Frequency)を用いた入力を受け付ける入力部と、音声対話サーバS1との間で音声によるコンテンツおよびユーザからの入力を送受信するためのデータ送受信部とを備える構成となっている。画面端末M2は、音声・画面対話サーバS2に接続されており、音声・画面対話サーバS2から送信されてくる画像データ、テキストデータなどを含むコンテンツを表示する表示部と、ユーザのデータ入力を受け付ける入力部と、音声・画面対話サーバS2との間でコンテンツおよびユーザから受け付けた入力データを送受信するデータ送受信部とを備える。
音声・画面対話サーバS2は、提供するサービスに関してユーザ側との対話シナリオを管理するとともに、音声端末M1、画面端末M2からの要求に応じて対応するコンテンツを送信し、音声端末M1、画面端末M2からの入力データに従って対話シナリオを進行するとともに、音声端末M1と画面端末M2との対応付け管理を行う。
(2)ワンタイムパスワードによる認証
図16に示す例では、前述した発信者番号による認証時と同様に、ユーザ側では、画面インターフェイスとなる画面端末M3と、音声インターフェイスとなる音声端末M4とを備える構成となっている。画面端末M3は、音声・画面対話サーバS3に接続されており、音声・画面対話サーバS3から送信されてくる画像データ、テキストデータなどを含むコンテンツを表示する表示部と、ユーザのデータ入力を受け付ける入力部と、音声・画面対話サーバS3との間でコンテンツおよびユーザから受け付けた入力データを送受信するデータ送受信部とを備えている。また、音声端末M4は、音声対話サーバS4と接続され、音声対話サーバS4から送信されてくる音声によるコンテンツを出力する音声出力部と、ユーザによる音声入力またはDTMF(Dial Tone Multi Frequency)を用いた入力を受け付ける入力部と、音声対話サーバS4との間で音声によるコンテンツおよびユーザからの入力を送受信するためのデータ送受信部とを備える構成となっている。
音声・画面対話サーバS3は、提供するサービスに関してユーザ側との対話シナリオを管理するとともに、画面端末M3、音声端末M4からの要求に応じて対応するコンテンツを送信し、画面端末M3、音声端末M4からの入力データに従って対話シナリオを進行するとともに、画面端末M3と音声端末M4との対応付け管理を行う。
次に、ユーザが音声端末M4を用いて発信すると、音声対話サーバS4は、音声端末M4の発信者番号に基づいて発信者識別子(Caller-ID)を生成し、この発信者識別子(Caller-ID)を音声・画面対話サーバS3に送信して登録する。音声対話サーバS4は、音声端末M4に対して、ワンタイムパスワードの入力を促す音声ガイダンスを送信する。音声端末M4が電話機端末などのようにボタンを備える場合には、DTMF(Dial Tone Multi Frequency)によりワンタイムパスワードを受け付けるように構成することができる。音声対話サーバS4は、音声端末M4で入力されたワンタイムパスワードを音声・画面対話サーバS3に送信する。音声・画面対話サーバS3では、画面端末M3からのセッションに対して生成したワンタイムパスワードと、音声対話サーバS4から送信されてきたワンタイムパスワードとが一致した場合に、対応するユーザ識別子(User-ID)と発信者識別子(Caller-ID)とを関連付けて登録する。
また、(1)発信者番号により認証を行って複数のモダリティの関連付けを行う場合、画面端末M2において発信者番号の入力を行う必要がある。前述した例では、キーボードやマウスなどのポインティングデバイスを用いた入力部を備える画面端末M2を想定しているが、このような入力デバイスを備えていないモーダルでは、同一ユーザが扱うモダリティとして認証することができないという不都合がある。
ここで、複数のモダリティのうち関連付けが可能なモダリティをコンテンツ毎に対応付けた選択モダリティテーブルを備え、選択モダリティテーブルに基づいて関連付け用データを作成するように構成できる。
また、複数のモダリティの位置情報を取得する段階をさらに含み、複数のモダリティの位置情報に基づいて、第1のモダリティから所定の位置にあるモダリティのみを選択して関連付け用データを作成するように構成できる。
本発明に係るマルチモーダル管理システムは、同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムであって、複数のモダリティのうちの第1のモダリティと第2のモダリティとを関連付けるための関連付け用データを作成するモダリティ連携用データ作成部と、各モダリティとの接続情報および各モダリティ間の連携に関する連携情報を管理するとともに、第1のモダリティに送信するコンテンツを取得してこのコンテンツに関連付け用データを合成した関連付け用データ付コンテンツを第1のモダリティに送信する関連付対応部と、関連付対応部によって管理される各モダリティの接続情報、各モダリティ間の連携情報およびモダリティ連携用データ作成部で作成された関連付け用データの対応をセッション情報テーブルとして記憶するセッション情報格納部と、関連付け用データ付コンテンツに含まれる関連付け用データを利用して第2のモダリティから送信されてきた連携要求データを受け付け、連携要求データとセッション情報格納部に格納された関連付け用データとを照合するマッチング処理を実行し、このマッチング結果に基づいてセッション情報格納部に格納されたセッション情報テーブルを更新するモダリティ関連付部とを備える。
複数の異なるモダリティに対して、同期した情報/サービスの提供を行うマルチモーダル管理システムの構成を図1に示す。
ユーザが利用可能な複数のモダリティとして第1のモダリティ10、第2のモダリティ11を代表として図示している。これら第1のモダリティ10、第2のモダリティ11は、たとえば、Webブラウザを備える画面端末、音声対話が可能な電話機端末などの音声端末、撮影した画像データを送信可能なテレビカメラ、現場の状態情報を取得して送信可能な各種センサ類などを適用することができる。
サーバ20は、サービス提供システム30から第1のモダリティ10および第2のモダリティ11に対して提供される情報/サービスが同期するように制御するものであり、モーダル管理部21、処理コントロール部22、選択処理部23、コンテンツ管理部24、関連付対応部25を備えている。
選択処理部23では、処理コントロール部22から転送された実行結果に基づいて、コンテンツ生成ファイルを選択するための選択定義ファイルを実行し、選択定義ファイルの定義内容に基づいて対応するモダリティに送信するコンテンツ生成ファイルを抽出する。
関連付対応部25は、第1のモダリティ10、第2のモダリティ11からの接続要求があった場合に、各モダリティの認証処理を実行し、この認証処理に成功した場合にモダリティの識別子と接続識別子とを関連付けたセッション情報テーブルを管理する。また、関連付対応部25は、複数のモダリティからのセッションが、たとえば同一ユーザによるものであると判断したような場合に、これらモダリティによるセッション情報を関連付けるための連携情報を生成してセッション情報テーブルを更新する。
ここで、サービス提供システム30は、ネットワークを介してサーバ20に接続された情報/サービス提供システムとすることが可能であり、また、サーバ20内に含まれたシステムとして構成することも可能である。
〈関連付対応部の概略構成〉
本発明に係るマルチモーダル管理システムについて、関連付対応部を中心として、図示した実施形態に基づいて説明する。図2は、本発明の第1実施形態のマルチモーダル管理システムの制御ブロック図である。
業務システム101は、たとえば、在庫管理、経理情報などを統括して管理するものであって、ユーザが操作する端末上のモダリティと所定の対話シナリオに基づく情報処理を実行する。業務システム101は、サーバ(ここでは関連付対応部131)を介して送られてくるモダリティからの入力データに基づいて、所定の情報処理を実行し、その結果をサーバ側に送信するとともに、サーバ側からの要求に応じてモダリティに送信するコンテンツをコンテンツ格納部102から選択して送信する。
図1の関連付対応部25に対応する関連付対応部131は、モダリティ連携用データ作成部132、モダリティ関連付部133、セッション情報格納部134を含んでいる。
モダリティ連携用データ作成部132は、複数のモダリティのうちの第1のモダリティ112と第2のモダリティ122とを関連付けるための関連付け用データを作成する。
ユーザが第1端末111に搭載された第1のモダリティ112を使用してサーバにアクセスした場合、第1端末111の第1のモダリティ112から関連付対応部131に対して接続要求が送信される(1:接続)。
関連付対応部131は、第1のモダリティ112からの接続要求に対して認証処理に失敗した場合に、モダリティ関連付部133に対してデータのマッチング処理を依頼する(6:認証NG時:マッチング依頼)。モダリティ関連付部133では、セッション情報格納部134内のセッション情報テーブルを参照し、このモダリティとの関連付けを行うべきセッション情報が存在するか否かを検索し(7:DB内データとマッチング処理)、そのマッチング結果を関連付対応部131に転送する。ここでは、該当するセッション情報が存在しないはずであり、マッチング結果はNGとなる(8:マッチング結果(NG))。この後、関連付対応部131は、接続要求データを送信してきた第1のモダリティ112に対して認証失敗メッセージを送信する(9:認証失敗メッセージ)。このときの認証失敗メッセージは、関連付対応部131において生成された認証失敗を通知するためのコンテンツとすることができ、また、業務システム101側から該当するコンテンツを取得するように構成することも可能である。
第2のモダリティ122からの接続要求があった場合(20:接続)、関連付対応部131は認証用コンテンツを生成するか、あるいは業務システム101側から認証用コンテンツを取得し(21:認証用コンテンツ生成/取得)、この認証用コンテンツを第2のモダリティ122に送信する(22:認証用コンテンツ)。この認証用コンテンツは、ユーザを特定して認証するための予め設定されたデータ入力を促すように構成されており、たとえば、第2のモダリティ122が音声対話モダリティである場合には、音声案内によりユーザIDおよびパスワードなどの認証要求データをDTMFで入力するように促すように構成できる。また、第1のモダリティ112との関連付けを行うために、第1のモダリティ112に送信した関連付け用データを用いた連携要求データの入力を促すように構成できる。このような認証要求データと連携要求データの入力を選択できるように構成しておくことで、他のモダリティとの関連付けを行う場合と、各モダリティを単独で接続する場合とを共通のシステムで使用することができる。
関連付対応部133は、第2のモダリティ122から送信されてきた連携要求データを受信すると(23:データ通知)、通常の認証手順に従って認証処理を実行する(24:認証処理)。ここで、受信したデータが認証情報ではなく連携要求データであることから、認証処理に失敗することとなり、受信した連携要求データをモダリティ関連付部133に転送してマッチング処理を依頼する(25:認証NG時:マッチング依頼)。
関連付対応部131は、モダリティ関連付部133によるマッチング処理の結果、関連セッションIDを取得した場合、接続要求があった第2のモダリティに対するセッションIDを生成し(28:マッチングOK時:セッションID生成)、このセッションID、モダリティ種別情報、関連セッションIDを連携情報としてモダリティ関連付部133に通知する(29:セッションID、モダリティ種別、関連セッションID通知)。
〈第1実施形態〉
第1のモダリティ112がWebブラウザであり、第2のモダリティ122が音声対話モダリティであるような場合を第1実施形態として図3に示す。
本実施形態では、Webブラウザなどの画面を用いたモダリティと電話機端末などの音声対話モダリティとを連携する際に、後から音声対話モダリティを連携させる際に、音声対話モダリティが搭載された端末からの複雑な操作をすることなく、容易に連携要求を行うことが可能となるシステムを提供できる。
第1のモダリティ112がWebブラウザまたは音声対話モダリティであり、第2のモダリティ122がテレビカメラや各種センサであるような場合を第2実施形態として図4に示す。
ここでは、モダリティ連携用データ作成部132が作成する関連付け用データは、第2のモダリティ122の操作内容に関するものであり、第1のモダリティ112がWebブラウザである場合には、このWebブラウザ上で表示されるコンテンツに操作内容が表示されるように関連付け用データをコンテンツに合成する。また、第1のモダリティ112が音声対話モダリティであるような場合には、音声ガイダンスにより操作内容を伝えるように構成することができる。
第1のモダリティ112がWebブラウザであり、このような第1のモダリティ112に送信するコンテンツが、たとえば、図10に示すような「保守点検サービスシステム」のトップページ1001であるような場合、このトップページ1001の下部余白に、関連付け用データとして操作内容情報1002を合成した関連付け用データ付コンテンツを送信する。
この場合も、第2のモダリティ122と連携することでユーザへの利便性が向上すると考えられる対話シナリオ中の場面で選択的に関連付け用データを送信することが可能であり、第2のモダリティ122による接続がなされていない時には第1のモダリティ112に送信するコンテンツに必ずこのような関連付け用データおよび操作ボタンを添付して送信するように構成することも可能である。さらに、第2のモダリティ122からの接続要求があった時点で、関連付け用データを合成したコンテンツを作成して第1のモダリティ112に送信するように構成することも可能である。
第1のモダリティ112がWebブラウザであり、第2のモダリティ122がテレビカメラであるような場合、関連付け用データとして画像データを送信するように構成できる。このときの装置構成は、前述の第2実施形態と同様にして図4の構成とすることができる。
たとえば、図11に示すように、「保守点検サービスシステム」のトップページ1101を第1のモダリティ112に送信する場合、このトップページ1101の下部余白に、関連付け用データとして任意の画像データ1102を合成したコンテンツとして送信する。さらに、操作を促すため操作指示を表示する操作案内表示部1103を設け、第2のモダリティ122を第1のモダリティ112に関連付けるための操作案内を行うように構成することも可能である。もちろん、このような画像データ1102や操作案内表示部1103のレイアウトは図示した例に限定されるものではなく、自由に配置することができ、操作案内表示部1103については省略することも可能である。
ユーザが、第2のモダリティ122を使用したい場合には、第2のモダリティ122からサーバ側に接続要求を行い、第1のモダリティ112であるWebブラウザ上に表示された画像データ1102を、第2のモダリティ122であるテレビカメラで撮影することで、連携要求データを送信することが可能となる。
〈第4実施形態〉
第1のモダリティ112がWebブラウザであり、第2のモダリティ122がバーコードやQRコードなどの1次元または2次元のコードデータを読み取るためのコードリーダであるような場合、関連付け用データとして対応する形式のコードデータを送信するように構成できる。このときの装置構成は、前述の第2実施形態および第3実施形態と同様にして図4の構成とすることができる。
図示した例では、バーコードデータを用いているが、1次元または2次元でWebブラウザ上に表示可能なコードデータであれば種々のものを用いることが可能であり、たとえば、2次元コードであるQRコードを採用することが可能である。
〈第5実施形態〉
関連付対応部131において複数の照合用データ対を管理し、この照合用データ対の一方を関連付け用データとして送信し、この照合用データ対の一方に対する回答データとしてユーザ側から送信されてくる連携要求データを照合用データ対の他方と比較することで、モダリティの関連付けを行うか否かを決定するように構成することができる。
図13に示すような「保守点検サービスシステム」のトップページ1301を送信する場合、このトップページ1301の下部余白に、照合用データ対の一方である質問データ1302を関連付け用データとして貼り付けて合成した関連付け用データ付コンテンツを送信する。関連付け用データとして採用される質問データ1302は、照合データテーブル502に格納された照合用データ対のうちから任意のものを選択するように構成することができる。
このように構成した場合、複数のモダリティの関連付けを容易に行うことができるとともに、なりすましなどの不正なアクセスを防止することが可能となる。
ユーザが使用する端末にそれぞれ可搬型記憶媒体に対するデータ読取・書込用のデバイスを備えている場合、第2のモダリティにおいて記憶媒体を介して関連付け用データを取り込んで連携要求データとして送信するように構成できる。このような場合について、第6実施形態として図6に示す。
このように構成する場合、関連付け用データは任意のデータ形式とすることができ、第2のモダリティ122がどのようなモダリティ種別であっても容易に第1のモダリティ112と関連付けることが可能となる。
コンテンツ毎に連携可能なモダリティを予め設定しておき、各コンテンツに対応した関連付け用データを作成して、コンテンツに合成して送信するように構成できる。このような場合の例を図7の制御ブロック図で説明する。
関連付対応部131は、コンテンツ毎に連携可能なモダリティを記憶する選択モダリティ格納部701を備えており、コンテンツ名、連携可能数、モダリティ種別を対応付けた選択モダリティテーブル702として管理している。図示した例では、コンテンツ(1-1)について、連携可能数は2であり、そのモダリティ種別はWebブラウザと音声対話モダリティ(VoIP)であり、コンテンツ(1-2)については、連携可能数は4であり、そのモダリティ種別はWebブラウザ、音声対話モダリティ(VoIP)、RFID、テレビカメラである。
〈第8実施形態〉
関連付対応部が各モダリティの位置情報を取得して、所定の位置関係にあるモダリティについてのみ関連付けを行うように構成することができる。
また、各端末にGPS機能を備えているような場合には、このようなGPSにより位置情報に基づいて各モダリティの位置情報を取得することが可能である。
第1のモダリティに送信した関連付け用データを利用して応答を返信してきたモダリティが複数あるような場合、前述したような位置情報に基づいて、第1のモダリティに一番近い位置にあるモダリティを第1のモダリティに関連付けるように構成することができる。
(付記1)
同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムにおいて前記複数のモダリティを関連付けるための方法であって、
前記複数のモダリティのうち第1のモダリティからの接続要求に基づいて第1接続識別子を生成し、前記第1のモダリティと前記第1接続識別子との対応をセッション情報テーブルとして格納する段階と、
前記複数のモダリティのうち第2のモダリティを前記第1のモダリティに関連付けるために必要となる関連付け用データを作成し、前記関連付け用データを前記第1接続識別子に対応付けるように前記セッション情報テーブルを更新するとともに、前記第1のモダリティに送信するコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを生成して前記第1のモダリティに送信する段階と、
前記第1のモダリティに送信された関連付け用データ付コンテンツに含まれる関連付け用データを利用して前記第2のモダリティが送信してきた連携要求データを受け付けて、前記連携要求データと前記セッション情報テーブルに格納された関連付け用データとを照合して、前記第2のモダリティを前記第1のモダリティに関連付けるか否かを判別する段階と、
前記第2のモダリティを前記第1のモダリティに関連付けると判断した場合に、前記第2のモダリティとの接続に関して第2接続識別子を生成し、前記第2接続識別子を前記第1接続識別子と対応付ける連携情報により前記セッション情報テーブルを更新する段階と、
を備える複数のモダリティを関連付けるための方法。
(付記2)
同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムにおいて前記複数のモダリティを関連付けるための方法のプログラムであって、
前記複数のモダリティのうち第1のモダリティからの接続要求に基づいて第1接続識別子を生成し、前記第1のモダリティと前記第1接続識別子との対応をセッション情報テーブルとして格納する段階と、
前記複数のモダリティのうち第2のモダリティを前記第1のモダリティに関連付けるために必要となる関連付け用データを作成し、前記関連付け用データを前記第1接続識別子に対応付けるように前記セッション情報テーブルを更新するとともに、前記第1のモダリティに送信するコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを生成して前記第1のモダリティに送信する段階と、
前記第1のモダリティに送信された関連付け用データ付コンテンツに含まれる関連付け用データを利用して前記第2のモダリティが送信してきた連携要求データを受け付けて、前記連携要求データと前記セッション情報テーブルに格納された関連付け用データとを照合して、前記第2のモダリティを前記第1のモダリティと関連付けるか否かを判別する段階と、
前記第2のモダリティを前記第1のモダリティに関連付けると判断した場合に、前記第2のモダリティとの接続に関して第2接続識別子を生成し、前記第2接続識別子を前記第1接続識別子と対応付ける連携情報により前記セッション情報テーブルを更新する段階と、
を備える複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。
(付記3)
前記複数のモダリティのうち関連付けが可能なモダリティをコンテンツ毎に対応付けた選択モダリティテーブルを備え、前記選択モダリティテーブルに基づいて前記関連付け用データを作成する、付記2に記載の複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。
(付記4)
前記複数のモダリティの位置情報を取得する段階をさらに含み、前記複数のモダリティの位置情報に基づいて、前記第1のモダリティから所定の位置にあるモダリティのみを選択して関連付け用データを作成する、付記2に記載の複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。
(付記5)
同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムであって、
前記複数のモダリティのうちの第1のモダリティと第2のモダリティとを関連付けるための関連付け用データを作成するモダリティ連携用データ作成部と、
各モダリティとの接続情報および各モダリティ間の連携に関する連携情報を管理するとともに、前記第1のモダリティに送信するコンテンツを取得してこのコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを前記第1のモダリティに送信する関連付対応部と、
前記関連付対応部によって管理される各モダリティの接続情報、各モダリティ間の連携情報および前記モダリティ連携用データ作成部で作成された関連付け用データの対応をセッション情報テーブルとして記憶するセッション情報格納部と、
前記関連付け用データ付コンテンツに含まれる関連付け用データを利用して第2のモダリティから送信されてきた連携要求データを受け付け、前記連携要求データと前記セッション情報格納部に格納された関連付け用データとを照合するマッチング処理を実行し、このマッチング結果に基づいて前記セッション情報格納部に格納されたセッション情報テーブルを更新するモダリティ関連付部と、
を備えるマルチモーダル管理システム。
(付記6)
前記複数のモダリティは、ネットワークを介して双方向のデータ送受信が可能なWebブラウザと、ネットワークを介して双方向の音声対話が可能であって前記Webブラウザ上で再生された音声を入力可能な環境に置かれた音声対話モダリティとを含み、前記モダリティ連携用データ作成部は、前記Webブラウザで再生可能な音データを関連付け用データとして作成し前記Webブラウザに送信するコンテンツに合成して送信し、前記モダリティ関連付部は、前記Webブラウザ上で再生されて前記音声対話モダリティを介して送信されてきた音データを前接続証要求データとして受け付けてマッチング処理を実行する、付記5に記載のマルチモーダル管理システム。
(付記7)
前記複数のモダリティは、ネットワークを介して双方向のデータ送受信が可能なWebブラウザと、ユーザ周辺の状態情報を取得して送信可能な状態情報取得モダリティとを含み、前記モダリティ連携用データ作成部は、前記状態情報取得モダリティの操作内容を前記Webブラウザ上に提示するための操作案内表示データを前記関連付け用データとして作成し前記Webブラウザに送信するためのコンテンツに合成して送信し、前記モダリティ関連付部は、ユーザが前記操作案内表示データに従って前記状態情報取得モダリティを操作した結果、前記状態情報取得モダリティから送信されてきた状態情報を前記接続要求データとして受け付けてマッチング処理を実行する、付記5に記載のマルチモーダル管理システム。
(付記8)
前記複数のモダリティは、ネットワークを介して双方向のデータ送受信が可能なWebブラウザと、ユーザ周辺の画像データを取得して送信可能なテレビカメラとを含み、前記モダリティ連携用データ作成部は、前記Webブラウザ上に表示可能なユニークな画像データを前記関連付け用データとして作成し前記Webブラウザに送信するためのコンテンツに合成して送信し、前記モダリティ関連付部は、前記Webブラウザ上に表示され前記テレビカメラによって撮影された画像データを前記接続要求データとして受け付けてマッチング処理を実行する、付記5に記載のマルチモーダル管理システム。
(付記9)
前記複数のモダリティは、ネットワークを介して双方向のデータ送受信が可能なWebブラウザと、前記Webブラウザ上に表示されるコードデータを読み取り可能なコードスキャナとを含み、前記モダリティ連携用データ作成部は、前記Webブラウザ上に表示可能なユニークなコードデータを前記関連付け用データとして作成し前記Webブラウザに送信するためのコンテンツに合成して送信し、前記モダリティ関連付部は、前記Webブラウザ上に表示され前記コードスキャナによって読み取られたコードデータを前記接続要求データとして受け付けてマッチング処理を実行する、付記5に記載のマルチモーダル管理システム。
(付記10)
複数の照合用データ対を格納する照合用データ格納部をさらに備え、前記モダリティ連携用データ作成部は、前記照合用データ格納部に格納されている照合用データ対の一方を関連付け用データとして選択し、前記モダリティ関連付部は、前記関連付け用データを利用して送信されてきた連携要求データを前記照合用データ対の他方と比較してマッチング処理を実行する、付記5に記載のマルチモーダル管理システム。
Claims (5)
- 同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムにおいて前記複数のモダリティを関連付けるための方法であって、
前記複数のモダリティのうち第1のモダリティからの接続要求に基づいて第1接続識別子を生成し、前記第1のモダリティと前記第1接続識別子との対応をセッション情報テーブルとして格納する段階と、
前記複数のモダリティのうち第2のモダリティを前記第1のモダリティに関連付けるために必要となる関連付け用データを作成し、前記関連付け用データを前記第1接続識別子に対応付けるように前記セッション情報テーブルを更新するとともに、前記第1のモダリティに送信するコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを生成して前記第1のモダリティに送信する段階と、
前記第1のモダリティに送信された関連付け用データ付コンテンツに含まれる関連付け用データを利用して前記第2のモダリティが送信してきた連携要求データを受け付けて、前記連携要求データと前記セッション情報テーブルに格納された関連付け用データとを照合して、前記第2のモダリティを前記第1のモダリティに関連付けるか否かを判別する段階と、
前記第2のモダリティを前記第1のモダリティに関連付けると判断した場合に、前記第2のモダリティとの接続に関して第2接続識別子を生成し、前記第2接続識別子を前記第1接続識別子と対応付ける連携情報により前記セッション情報テーブルを更新する段階と、
を備える複数のモダリティを関連付けるための方法。 - 同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムにおいて前記複数のモダリティを関連付けるための方法のプログラムであって、
前記複数のモダリティのうち第1のモダリティからの接続要求に基づいて第1接続識別子を生成し、前記第1のモダリティと前記第1接続識別子との対応をセッション情報テーブルとして格納する段階と、
前記複数のモダリティのうち第2のモダリティを前記第1のモダリティに関連付けるために必要となる関連付け用データを作成し、前記関連付け用データを前記第1接続識別子に対応付けるように前記セッション情報テーブルを更新するとともに、前記第1のモダリティに送信するコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを生成して前記第1のモダリティに送信する段階と、
前記第1のモダリティに送信された関連付け用データ付コンテンツに含まれる関連付け用データを利用して前記第2のモダリティが送信してきた連携要求データを受け付けて、前記連携要求データと前記セッション情報テーブルに格納された関連付け用データとを照合して、前記第2のモダリティを前記第1のモダリティと関連付けるか否かを判別する段階と、
前記第2のモダリティを前記第1のモダリティに関連付けると判断した場合に、前記第2のモダリティとの接続に関して第2接続識別子を生成し、前記第2接続識別子を前記第1接続識別子と対応付ける連携情報により前記セッション情報テーブルを更新する段階と、
を備える複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。 - 前記複数のモダリティのうち関連付けが可能なモダリティをコンテンツ毎に対応付けた選択モダリティテーブルを備え、前記選択モダリティテーブルに基づいて前記関連付け用データを作成する、請求項2に記載の複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。
- 前記複数のモダリティの位置情報を取得する段階をさらに含み、前記複数のモダリティの位置情報に基づいて、前記第1のモダリティから所定の位置にあるモダリティのみを選択して関連付け用データを作成する、請求項2に記載の複数のモダリティを関連付けるための方法をコンピュータに実行させるためのプログラム。
- 同時に接続される異なる複数のモダリティに対して対応するコンテンツを送信するとともに、各モダリティから送信されてくる入力データを受け付けて、各モダリティ間で同期した所定の対話シナリオに基づく情報/サービスをネットワークを介して提供可能なマルチモーダル管理システムであって、
前記複数のモダリティのうちの第1のモダリティと第2のモダリティとを関連付けるための関連付け用データを作成するモダリティ連携用データ作成部と、
各モダリティとの接続情報および各モダリティ間の連携に関する連携情報を管理するとともに、前記第1のモダリティに送信するコンテンツを取得してこのコンテンツに前記関連付け用データを合成した関連付け用データ付コンテンツを前記第1のモダリティに送信する関連付対応部と、
前記関連付対応部によって管理される各モダリティの接続情報、各モダリティ間の連携情報および前記モダリティ連携用データ作成部で作成された関連付け用データの対応をセッション情報テーブルとして記憶するセッション情報格納部と、
前記関連付け用データ付コンテンツに含まれる関連付け用データを利用して第2のモダリティから送信されてきた連携要求データを受け付け、前記連携要求データと前記セッション情報格納部に格納された関連付け用データとを照合するマッチング処理を実行し、このマッチング結果に基づいて前記セッション情報格納部に格納されたセッション情報テーブルを更新するモダリティ関連付部と、
を備えるマルチモーダル管理システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006311845A JP2008129713A (ja) | 2006-11-17 | 2006-11-17 | 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム |
US11/928,011 US8219655B2 (en) | 2006-11-17 | 2007-10-30 | Method of associating multiple modalities and a multimodal system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006311845A JP2008129713A (ja) | 2006-11-17 | 2006-11-17 | 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008129713A true JP2008129713A (ja) | 2008-06-05 |
Family
ID=39418182
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006311845A Pending JP2008129713A (ja) | 2006-11-17 | 2006-11-17 | 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム |
Country Status (2)
Country | Link |
---|---|
US (1) | US8219655B2 (ja) |
JP (1) | JP2008129713A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012033107A1 (ja) * | 2010-09-06 | 2012-03-15 | 株式会社ビー・ユー・ジー | 通信端末、サーバ、及び情報通信システム |
JP6035412B1 (ja) * | 2015-12-25 | 2016-11-30 | 京セラコミュニケーションシステム株式会社 | クロスデバイス関連付けシステム |
JP2017027207A (ja) * | 2015-07-17 | 2017-02-02 | ソフトバンク株式会社 | 認証システム |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100099974A1 (en) * | 2008-10-20 | 2010-04-22 | Siemens Medical Solutions Usa, Inc. | System for Generating a Multi-Modality Imaging Examination Report |
US11487347B1 (en) * | 2008-11-10 | 2022-11-01 | Verint Americas Inc. | Enhanced multi-modal communication |
CN106488503B (zh) * | 2010-08-20 | 2020-07-14 | 华为技术有限公司 | 无线承载丢失信息的上报方法和装置 |
US8675473B2 (en) * | 2011-08-26 | 2014-03-18 | Comcast Cable Communications, Llc | Fault routing of an emergency communication |
US9275642B2 (en) | 2012-11-13 | 2016-03-01 | Unified Computer Intelligence Corporation | Voice-operated internet-ready ubiquitous computing device and method thereof |
US10795528B2 (en) | 2013-03-06 | 2020-10-06 | Nuance Communications, Inc. | Task assistant having multiple visual displays |
US10783139B2 (en) * | 2013-03-06 | 2020-09-22 | Nuance Communications, Inc. | Task assistant |
JP6593008B2 (ja) * | 2014-10-07 | 2019-10-23 | 株式会社リコー | 情報処理装置、通信方法、プログラム、システム |
US10425418B2 (en) * | 2014-10-07 | 2019-09-24 | Ricoh Company, Ltd. | Information processing apparatus, communications method, and system |
US10942039B2 (en) * | 2018-08-06 | 2021-03-09 | Comcast Cable Communications, Llc | Methods and systems for managing communication sessions |
US20210382949A1 (en) * | 2020-06-07 | 2021-12-09 | InfoTrust, LLC | Systems and methods for web content inspection |
US12028568B2 (en) * | 2021-04-09 | 2024-07-02 | The Nielsen Company (Us), Llc | Methods and apparatus to identify media application sessions |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005148807A (ja) * | 2003-11-11 | 2005-06-09 | Fujitsu Ltd | モーダル同期制御方法およびマルチモーダルインターフェイスシステム |
WO2005098597A2 (en) * | 2004-02-15 | 2005-10-20 | Exbiblio B.V. | Data capture from rendered documents using handheld device |
JP2010536188A (ja) * | 2004-04-01 | 2010-11-25 | エクシビブリオ ベー.フェー. | レンダリングされた文書からのハンドヘルド装置を用いたデータ取得 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3729918B2 (ja) * | 1995-07-19 | 2005-12-21 | 株式会社東芝 | マルチモーダル対話装置及び対話方法 |
US6570870B1 (en) | 1999-01-28 | 2003-05-27 | International Business Machines Corporation | Method and system for making a charged telephone call during an Internet browsing session |
US6807529B2 (en) | 2002-02-27 | 2004-10-19 | Motorola, Inc. | System and method for concurrent multimodal communication |
US7260535B2 (en) * | 2003-04-28 | 2007-08-21 | Microsoft Corporation | Web server controls for web enabled recognition and/or audible prompting for call controls |
US7552055B2 (en) * | 2004-01-10 | 2009-06-23 | Microsoft Corporation | Dialog component re-use in recognition systems |
DE602004008887T2 (de) * | 2004-05-18 | 2008-01-17 | Alcatel Lucent | Verfahren und Server zur Bereitstellung eines multi-modalen Dialogs |
-
2006
- 2006-11-17 JP JP2006311845A patent/JP2008129713A/ja active Pending
-
2007
- 2007-10-30 US US11/928,011 patent/US8219655B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005148807A (ja) * | 2003-11-11 | 2005-06-09 | Fujitsu Ltd | モーダル同期制御方法およびマルチモーダルインターフェイスシステム |
WO2005098597A2 (en) * | 2004-02-15 | 2005-10-20 | Exbiblio B.V. | Data capture from rendered documents using handheld device |
JP2010536188A (ja) * | 2004-04-01 | 2010-11-25 | エクシビブリオ ベー.フェー. | レンダリングされた文書からのハンドヘルド装置を用いたデータ取得 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012033107A1 (ja) * | 2010-09-06 | 2012-03-15 | 株式会社ビー・ユー・ジー | 通信端末、サーバ、及び情報通信システム |
JP2017027207A (ja) * | 2015-07-17 | 2017-02-02 | ソフトバンク株式会社 | 認証システム |
JP6035412B1 (ja) * | 2015-12-25 | 2016-11-30 | 京セラコミュニケーションシステム株式会社 | クロスデバイス関連付けシステム |
Also Published As
Publication number | Publication date |
---|---|
US20080120358A1 (en) | 2008-05-22 |
US8219655B2 (en) | 2012-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2008129713A (ja) | 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム | |
CN102025968B (zh) | 图像发送装置和图像发送方法 | |
JP2014531694A (ja) | ユーザ認証 | |
JP2009282896A (ja) | 情報処理端末および情報提供システム | |
JP2007028410A (ja) | 電子掲示板に対する音声情報の登録又は取り出しの取次のためのプログラム、装置、及び方法 | |
CN102549543A (zh) | 用户接口 | |
CN103548331A (zh) | 可视电话装置、***和方法 | |
KR20080113281A (ko) | 디렉토리 서버장치, 서버 제어 프로그램 기록매체, 및 서버 클라이언트 시스템 | |
JP4559988B2 (ja) | サービス提供システムと、このサービス提供システムで使用されるサーバ装置および携帯通信装置と、これらの装置のためのプログラム | |
US20140354758A1 (en) | System and method for remote notarization and recording digital notary logbook entries | |
JP2014155128A (ja) | 管理システム、管理方法及びプログラム | |
CN104010094A (zh) | 在语音服务中的信息发送方法和装置 | |
US20080155699A1 (en) | Output System, Output Data Management Apparatus, Network Device, Output Data Management Program, Output Program, and Output Method | |
JP2013213879A (ja) | パーソナル携帯端末を用いたカラオケログインシステム | |
JP5954417B2 (ja) | 注文システム | |
JP5732409B2 (ja) | 携帯端末装置、操作手法通知システム、および操作通知方法 | |
JP2013097579A (ja) | 情報提供システム、情報提供方法およびプログラム | |
JP2013105470A (ja) | 電子名刺装置、および名刺情報配信システム | |
KR101138103B1 (ko) | 네트워크를 이용한 원격 상담 시스템 및 이 시스템을 이용하여 원격 상담을 수행하는 방법 | |
JP2009169547A (ja) | コードログインシステム、及びコードログインシステムの制御方法 | |
US20020147908A1 (en) | Data registration system | |
CN111527481A (zh) | 信息处理方法及信息处理程序 | |
JP5082699B2 (ja) | 議事録作成装置、議事録作成システム、議事録作成方法および議事録作成プログラム | |
JP7116444B1 (ja) | 申請支援システム、ユーザー端末装置、申請支援装置、及びプログラム | |
JP6094496B2 (ja) | カラオケシステム、カラオケシステムにおけるログイン方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20080929 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080930 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081217 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110310 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110509 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111212 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20111220 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20120120 |