JP4462901B2 - モーダル同期制御方法およびマルチモーダルインターフェイスシステム - Google Patents

モーダル同期制御方法およびマルチモーダルインターフェイスシステム Download PDF

Info

Publication number
JP4462901B2
JP4462901B2 JP2003380980A JP2003380980A JP4462901B2 JP 4462901 B2 JP4462901 B2 JP 4462901B2 JP 2003380980 A JP2003380980 A JP 2003380980A JP 2003380980 A JP2003380980 A JP 2003380980A JP 4462901 B2 JP4462901 B2 JP 4462901B2
Authority
JP
Japan
Prior art keywords
browser
content
modal
synchronized
synchronization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003380980A
Other languages
English (en)
Other versions
JP2005148807A (ja
Inventor
和雄 佐々木
達郎 松本
愛 矢野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2003380980A priority Critical patent/JP4462901B2/ja
Priority to US10/834,133 priority patent/US20050102606A1/en
Priority to CNB2004100372693A priority patent/CN1301452C/zh
Priority to CNB2006101722778A priority patent/CN100452053C/zh
Publication of JP2005148807A publication Critical patent/JP2005148807A/ja
Application granted granted Critical
Publication of JP4462901B2 publication Critical patent/JP4462901B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/957Browsing optimisation, e.g. caching or content distillation

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、複数のユーザインターフェイスを同期させる方法、それを実現するシステムおよびそのプログラムに関する。
インターネットの普及とWeb技術の進歩と共に、ユーザはWebブラウザを使うことで、インターネット上の様々な情報をWWWサーバ(World Wide Web)から取得し、閲覧できるようになってきた。WWWサーバから取得されるコンテンツはHTML(Hyper Text Markup Language)という記述言語で記述され、Webブラウザはこれらの情報を解釈して情報を画面に表示する。
これらのWebシステムは、単純にサーバ上の静的なコンテンツを取得して画面に表示するだけでなく、Webブラウザからの入力データを元にサーバ側でデータベース等への情報処理を行い、その結果を元に動的にコンテンツを生成してブラウザに出力するWebアプリケーションとして進化している。これにより、ユーザはWebブラウザからオンラインショッピング等のインターネット上の各種サービスを手軽に利用できるようになってきた。
一方、これらのWeb技術を電話機などの音声からも利用できるようにするために、VoiceXMLというコンテンツ記述言語が提案されている。VoiceXMLシステムでは、電話機とWWWサーバの間にVoiceXMLブラウザが仲介することで、VoiceXMLブラウザがVoiceXMLを解釈してユーザとの対話を行い、ユーザからの音声認識の結果から必要に応じてWWWサーバに新しいVoiceXMLを要求する。
以上のように、Webブラウザ等のGUIモーダルや音声等の音声モーダルなどのユーザインターフェイスからインターネット上の各種サービスを利用できるような環境は整ってきたが、音声入力の利便性とGUIの閲覧性という互いの利便性を組み合わせた複数モーダルによる利用を行う場合、各モーダル用のブラウザを同期させるための仕組みをコンテンツ提供者側が実現する必要があり、開発者の負担が大きくなるという課題がある。
これに対して、複数のモーダル用ブラウザを同期させる仕組みとして、たとえば、特許文献1に示されるような複数ユーザインタフェースの同期方法とそのシステムが提案されている。この発明では、静的に存在するHTMLやVoiceXMLを各ブラウザで表示する場合に、HTMLコンテンツとVoiceXMLコンテンツのそれぞれのurl(uniform resource locator)の対応関係を同期サーバに定義しておき、一方のブラウザがurlを要求する場合に、そのurlに対応した他方のモーダル用のurlを同期するブラウザに通知し、同期するブラウザからそのurlに対応するコンテンツを取得させることで同期を行う。また、Webアプリケーションのように動的にコンテンツを生成するサーバの場合は、一方のブラウザがサブミットを行った際に、対応するブラウザにも同時にサブミットを行わせ、モーダル別に存在するCGI等のプログラムにモーダル毎に同じ処理を行わせることで、同一処理結果からモーダル別のコンテンツを生成し、コンテンツ間の同期を行う。
特開2003−150440号公報
前述した特許文献1に記載された発明では、静的に存在するモーダル毎のコンテンツを同期させる場合は問題ないが、サーバ側の処理結果からコンテンツを動的に生成するWebアプリケーションに適用する場合に問題が発生する。
例えばオンラインショップ等の注文システムにおいてマルチモーダルサービスを行う場合、注文システムに注文データを渡して処理結果を元にコンテンツを生成するCGIプログラムをモーダル毎に用意しておき、一方のブラウザが注文依頼を行う際に、他方の同期するモーダルにも同時に注文依頼を行わせる事で、同期を実現する。
しかしながら、同じ処理依頼を2つのブラウザが同時に行うため、注文システムは、同じ注文を複数回処理する二重実行の問題が発生する。これを解決する方法として、一方のCGIだけが注文システムに注文依頼を行う方法が考えられるが、注文依頼を行わないCGIも処理結果からコンテンツを生成する必要があるため、実際に処理依頼を行ったCGIから処理結果を受け取る必要がある。また、通常のシングルモーダル利用の場合はCGIの注文処理機能をオンにし、マルチモーダルで利用する場合にのみCGI機能をオフにするような処理を実現する必要がある。
このように、複数のブラウザに同一の処理依頼を行わせる本方式では、Webアプリケーションの開発者が実装すべき同期処理機能が煩雑であり、開発者の負担が大きいという問題がある。
本発明は、このような問題を解決するためになされたものであり、特定のモーダルに対するコンテンツを解釈してユーザとインタラクションを行うブラウザと、ブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成してブラウザに出力する情報処理システムにおいて、既存のWebアプリケーションをほとんど修正することなく、複数のモーダル用のブラウザを同期させて、簡単にマルチモーダルサービス化することを目的とする。
本発明に係るモーダル同期制御方法は、特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法であって、予め同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を準備しておき、ブラウザからの処理要求に対して、選択定義情報を参照し、ブラウザと同期する他のブラウザとモーダルとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択する段階と、処理要求元であるブラウザに対して、選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、ブラウザと同期する他のブラウザに対して、選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力する段階とを含む。
ここで、同期する他のブラウザに対してコンテンツの取得通知を行う段階と、同期する他のブラウザからの取得要求に応じてコンテンツを出力する段階とをさらに含む構成とすることができる。
また、本発明に係るプログラムは、特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法のプログラムであって、ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、ブラウザと同期する他のブラウザとのモーダルの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択するステップと、処理要求元であるブラウザに対して、選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、ブラウザと同期する他のブラウザに対して、選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力するステップとを含むモーダル同期制御方法をコンピュータに実行させるためのプログラムである。
本発明に係るマルチモーダルインターフェイスシステムは、特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、ブラウザと同期する他のブラウザとのモーダルの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択する選択処理部と、処理要求元であるブラウザに対して、選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、ブラウザと同期する他のブラウザに対して、選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力するコンテンツ出力部とを備える。
ここで、同期する複数のモーダルの組み合わせを管理するモーダル管理部をさらに備える構成とすることができる。
また、モーダル管理部は、ブラウザからの処理要求を受け付けるとともに、コンテンツ出力部により生成されたコンテンツを処理要求元であるブラウザに送出するように構成することもできる。
本発明の他の観点によるマルチモーダルインターフェイスシステムは、特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、同期する複数のモーダルの組み合わせを管理するとともに、各モーダルとの情報の送受信を行うモーダル管理部と、ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、ブラウザと同期する他のブラウザとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択し、各モーダル毎のコンテンツ生成ファイルにて当該モーダルに対応したコンテンツを生成し、処理要求元であるブラウザに対してコンテンツ生成ファイルで生成されたコンテンツを出力するとともに、同期する他のブラウザに対してコンテンツ生成ファイルにて生成されたコンテンツを取得するための取得要求情報をモーダル管理部に通知する選択処理部と、同期する他のブラウザから送信されてきた取得要求情報に応じて、当該取得要求情報に対応するコンテンツを当該ブラウザに出力するコンテンツ管理部とを備える。
この場合、コンテンツ管理部は、処理要求元であるブラウザに同期する他のブラウザからの取得要求に対して対応するコンテンツを出力した後、生成されたコンテンツを削除する機能をさらに備える構成とすることができる。
本発明のさらに他の観点によるマルチモーダルインターフェイスシステムは、特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、同期する複数のモーダルの組み合わせを管理するとともに、各モーダルとの情報の送受信を行うモーダル管理部と、ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、ブラウザと同期する他のブラウザとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択し、処理要求元であるブラウザに対してコンテンツ生成ファイルで生成されたコンテンツを出力するとともに、同期する他のブラウザに対して、選択されたコンテンツ生成ファイルを識別する情報とブラウザからの処理要求に応じて実行された処理の処理結果に関する情報とを対応付けて記憶し、さらにコンテンツを取得するための取得要求情報をモーダル管理部に通知する選択処理部と、同期する他のブラウザから送信されてきた取得要求情報に応じて、当該取得要求情報に対応するコンテンツ生成ファイルと処理結果に関する情報からコンテンツを生成し、生成したコンテンツを当該ブラウザに出力するコンテンツ管理部とを備える。
本発明では、モーダルの種別毎のコンテンツ生成ファイルと、同期するモーダル種別の組み合わせと適用するコンテンツ生成ファイルの組み合わせを定義するコンテンツ生成ファイルの選択定義情報を記述するだけ、既存のシングルモーダル用のWebアプリケーションを容易にマルチモーダルに対応させることが可能となる。
〈概要構成〉
通常、Webアプリケーションの開発では、開発者の開発負担を軽減させるために、アプリケーション内の各種機能をMVC(Model, View, Controller)モデルに従ってコンポーネント化することが一般的である。MVCにおいて、Modelはデータベースへの検索処理など各種データ管理と処理ロジックを行い、ViewはModelでの処理結果を元にコンテンツを生成する機能を実現する。また、Controllerはブラウザからの入力データと内部状態から呼び出し先のModelとViewを決定し、Modelの処理結果をViewに引き渡す処理を行う。このように、MVCモデルでは、実際の処理を行うコンポーネント(ControllerとModel)と、処理結果からコンテンツを生成するコンポーネント(View)を分離する事で、View部分だけを変更することで処理ロジックを変更することなく容易に画面デザインを変更することが可能となる。本発明では、このように処理ロジック部分と画面生成部分が分離されているWebアプリケーションの特徴を生かすことで、既存アプリケーションを簡単にマルチモーダル化する手段を提供する。
図1に一般的なシングルモーダル用のオンラインショッピングのWebアプリケーション構成図を示す。サーバ20は、HTMLブラウザ(Webブラウザ)10からの入力データを受け取る注文受け付けコントローラ(Controllerに相当)21と、注文受け付けコントローラ21からの依頼に応じて実際の注文処理を行う注文システム(Modelに相当)22と、注文システム22の処理結果を元にhtmlコンテンツを生成するhtmlコンテンツ生成ファイル(Viewに相当)23から構成される。コンテンツ生成ファイルはJavaシステムの場合、JSP(Java Server Pages)などが使用されている。このようなWebアプリケーションを簡単にマルチモーダル化するためのモーダル同期制御方法およびマルチモーダルインターフェイスシステムの実施例について図面を参照しながら説明する。
<第1実施形態>
本実施形態では、商品の注文を受け付けて処理する注文システムに適用した場合を例にして説明する。
図2は、本発明の第1実施例形態に係るマルチモーダルインターフェイスシステムの全体構成である。
ここで、サーバ20は、現在同期しているモーダルおよびブラウザに関する情報を管理するモーダル管理部24、モーダル管理部24を介してブラウザからの入力データを受け取る注文受付コントローラ21、注文受付コントローラ21からの依頼に応じて実際の注文処理を行う注文システム22、コンテンツ生成ファイルの選択定義ファイル25に基づいてコンテンツ生成ファイルを選択する選択処理部26、ブラウザからの同期コンテンツ取得要求に応じてコンテンツを出力するコンテンツ管理部31を備えている。
同期しているブラウザが、HTMLブラウザ10とVXMLブラウザ11であるような場合、この2つのブラウザが同期していることをモーダル管理部24が管理している。モーダル管理部24が管理する管理データの一例を図4に示す。図4では、同期ID、ブラウザ識別子、モーダル名の各項目からなるテーブルで構成され、1つの同期ID内にあるモーダルがそれぞれ同期しており、各モーダルとブラウザとが対応付けられて格納される。
注文受付コントローラ21は、要求元ブラウザの要求に応じて注文システム22に処理依頼を行うとともに、注文システム22の処理結果に応じて適切な選択定義ファイル25に処理結果を転送する。コンテンツ生成ファイルの選択定義ファイル25の一例を図8に示す。本実施形態のコンテンツ生成ファイルの選択定義ファイル25は、注文システム22において発生しうる処理結果毎に作成される。図8に示すものは、注文システム22に注文した商品がエラーとなった場合の例であり、注文した商品が注文通りに受け付けられた場合やその他の発生しうる処理結果毎に予め設定されている。この例では、<mm:multi-modal>のタグ内に、モーダルに対応するブラウザのコンテンツ記述言語がHTMLとVXMLの場合、CHTMLとVXMLの場合について、それぞれのモーダルに対応するブラウザのコンテンツ記述言語に対応したコンテンツ生成ファイルの定義がなされており、それぞれ該当するコンテンツ生成ファイル名、たとえば、JSP(Java (登録商標) Server Pages)名が記述されている。
選択定義ファイル25は、注文受付コントローラ21から処理結果が転送されることにより実行され、実行と同時に選択処理部26が選択定義ファイルを読み取って選択処理を行う。図8の例では、定義の先頭にある「mmtaglib.jar」というライブラリが選択定義ファイル25の実行とともに起動される選択処理である。
選択処理部26では、選択定義ファイル25の定義内容と要求元ブラウザが同期している他のブラウザとのモーダルの組み合わせを元にして、適用すべきモーダル別のコンテンツ生成ファイル名を抽出し、抽出された各コンテンツ生成ファイルに注文受付コントローラ21から渡された処理結果を転送する。
ここでは、HTMLブラウザ10またはVXMLブラウザ11からの要求に応じて、選択処理部26はコンテンツ生成ファイルの選択定義ファイル25から該当するHTMLコンテンツ生成ファイル27およびVXMLコンテンツ生成ファイルを抽出し、注文システムでの情報処理結果を各コンテンツ生成ファイルに転送して、HTMLコンテンツ29およびVXMLコンテンツ30を生成する。たとえば、HTMLブラウザ10からの要求に対して、注文受付コントローラ21から図8の選択定義ファイル25を実行した場合、HTMLブラウザ10と同期する他のブラウザはVXMLブラウザ11であり、モーダルの組み合わせは「HTML」と「VXML」であることから、HTMLブラウザ10に対しては「merr_html.jsp」、VXMLブラウザ11に対しては「merr_vxml.jsp」のコンテンツ生成ファイルが選択され、処理結果をコンテンツ生成ファイルに転送する。「merr_html.jsp」の内容を図9に、「merr_vxml.jsp」の内容を図10に示す。また、各コンテンツ生成ファイルに転送される処理結果データとしては、たとえば、図7に示すように、コンテンツ内の項目名と結果データとが対応付けられたテーブルで構成することができる。ここで、生成された各コンテンツは、それぞれファイルとして保存されるものであるが、処理要求元であるブラウザに対して生成されるコンテンツはモーダル管理部24を介して送出するだけで保存しないように構成できる。
前述したようなコンテンツ生成ファイルに処理結果データが反映されたコンテンツの例を図12A、図12Bに示す。図12Aは、HTMLコンテンツ生成ファイル27に処理結果データが反映されたHTMLブラウザ用コンテンツを示しており、図12Bは、VXMLコンテンツ生成ファイル28に処理結果データが反映されたVXMLブラウザ用発話情報を示している。
このような第1実施形態における動作についてフローチャートに基づいて説明する。図3は、モーダル管理部24の動作に関するフローチャートである。
ステップS11では、サーバ20はイベント待ちの状態であり、ブラウザからの初期ページ取得要求があった場合にはステップS12に、終了要求があった場合にはステップS18に、コンテンツ取得要求があった場合にはステップS20にそれぞれ移行する。
ステップS12では、モーダル管理部24が初期ページ取得要求に含まれるモーダル種別を判別することにより、要求元ブラウザのモーダル種別を特定する。モーダル種別の判定は、たとえば、ブラウザがコンテンツ要求時に送信するHTTPヘッダ情報を元にして判定する。
ステップS13では、モーダル管理部24が他のブラウザとの要求を区別するためのブラウザ識別子を生成する。
ステップS14では、モーダル管理部24が、ブラウザからの初期ページ取得要求中に指定された同期IDがあるか否かを判別する。同期IDが指定されていないと判断した場合にはステップS15に移行し、同期IDが指定されていると判断した場合にはステップS16に移行する。
ステップS15では、モーダル管理部24は初期ページ取得要求元であるブラウザに対して新たな同期IDを生成する。
ステップS16では、モーダル管理部24が管理するモーダル管理テーブルに同期ID、ブラウザ識別子およびモーダル種別を記述する。モーダル管理テーブルは前述したように、たとえば図4に示すような構成となっている。
ステップS17では、モーダル管理部24はモーダル種別に応じた初期ページをブラウザ識別子とともに返信する。初期ページとして、たとえば図5Aに示すようなHTMLブラウザ用初期画面、図5Bに示すようなVXMLブラウザ用初期対話が用意されており、モーダル管理部24はこれらのコンテンツ生成データを要求元であるブラウザに送信する。また、初期ページのコンテンツ生成データとともに送信されるブラウザ識別子は、ブラウザからの処理要求の際にその要求中に含まれて送信されるものであり、モーダル管理部24はブラウザ識別子からそのブラウザのモーダル種別および同期する他のモーダルを判別できるようになる。
この後、ステップS11に移行する。
ステップS18では、モーダル管理部24は、終了要求があったブラウザのブラウザ識別子を取得する。
ステップS19では、モーダル管理部24は、管理しているモーダル管理テーブル中の該当するブラウザ識別子の欄を消去する。
この後、ステップS11に移行する。
ステップS20では、モーダル管理部24は、コンテンツ取得要求があったブラウザのブラウザ識別子を取得する。
ステップS21では、モーダル管理部24は、取得したブラウザ識別子に基づいてモーダル管理テーブルを参照し、同一の同期IDに所属するブラウザのモーダル種別を取得する。
ステップS22では、モーダル管理部24は、同期する全モーダルのモーダル種別とともにコンテンツ取得要求を注文受付コントローラ21に送信する。モーダル種別の送信には、たとえばHTTPヘッダを使って送信することができる。
ステップS23では、モーダル管理部24は、注文受付コントローラ21から処理要求元であるブラウザ用のコンテンツと、処理要求元のブラウザに同期する他のブラウザ用の同期コンテンツ取得用URLとを取得する。処理要求元のブラウザ用のコンテンツは、選択処理部26で抽出されたコンテンツ生成ファイルと、注文システム22の処理結果データとから生成されたものである。また、同期コンテンツ取得用URLは、処理要求元のブラウザに同期する他のブラウザに対して、コンテンツ生成ファイルと処理結果データから生成されたコンテンツが格納された場所を示すものである。
ステップS24では、モーダル管理部24は処理要求元のブラウザに対して生成されたコンテンツを送信する。
ステップS25では、モーダル管理部24は、処理要求元であるブラウザに同期する他のブラウザに対して、同期コンテンツ取得用URLを通知する。
この後、ステップS11に移行する。
選択処理部26の動作を図6に示すフローチャートに基づいて説明する。
ステップS31では、選択処理部26は注文受付コントローラ21を介して注文システム22からの処理結果と、同期するモーダル種別情報とを受け取る。
ステップS32では、選択処理部26は、同期するモーダル種別情報と、コンテンツ生成ファイルの選択定義情報とから、モーダル種別毎のコンテンツ生成ファイルを選択する。前述したように、選択処理部26は図8に示すような選択定義情報25から、該当するコンテンツ生成ファイル27、28を抽出する。
ステップS33では、選択処理部26は、選択された各コンテンツ生成ファイルに、注文システム22における処理結果データを転送する。たとえば、図9に示すようなHTMLコンテンツ生成ファイル27および図10に示すようなVXMLコンテンツ生成ファイルに、図7に示されるような処理結果データが転送され、その結果、注文システム22での処理結果が反映された各ブラウザ用のコンテンツが生成されることとなる。
ステップS34では、選択処理部26は、生成された各コンテンツをファイルに保存する。処理要求元に対するコンテンツは必ずしも保存する必要はなく、モーダル管理部24を介して返信するだけであってもよい。
ステップS35では、選択処理部26は、処理要求元であるブラウザに対して生成されたコンテンツを返信するとともに、同期する他のブラウザに対して同期コンテンツ取得用URLを通知する。
コンテンツ管理部31の動作について図11に示すフローチャートに基づいて説明する。
ステップS41では、コンテンツ管理部31はイベント待ちの状態となっており、ブラウザからコンテンツ取得要求があった場合にはステップS42に移行する。
ステップS42では、コンテンツ管理部31はブラウザからのコンテンツ取得要求に基づいて保存されたコンテンツを読み出して要求元のブラウザに返信する。この場合、同期コンテンツの取得通知を受けたブラウザからのコンテンツ取得要求であり、この取得要求中にはモーダル管理部24から通知された同期コンテンツ取得用URLが含まれている。コンテンツ管理部31は、ブラウザからの取得要求中に含まれる同期コンテンツ取得用URLに基づいて同期コンテンツを読み出し、これを要求元であるブラウザに送信する。
ステップS43では、コンテンツ管理部31はブラウザから要求されて送信済みとなったコンテンツを削除する。
<第2実施形態>
本発明の第2実施例形態に係るマルチモーダルインターフェイスシステムの全体構成を図13に示す。
この第2実施形態では、第1実施形態と同様にして、サーバ20は、現在同期しているモーダルおよびブラウザに関する情報を管理するモーダル管理部24、モーダル管理部24を介してブラウザからの入力データを受け取る注文受付コントローラ21、注文受付コントローラ21からの依頼に応じて実際の注文処理を行う注文システム22、コンテンツ生成ファイルの選択定義情報25に基づいてコンテンツ生成ファイルを選択する選択処理部26、ブラウザからの同期コンテンツ取得要求に応じてコンテンツデータを出力するコンテンツ管理部31を備えている。
第2実施形態では、第1実施形態のように選択処理部26によって選択されたコンテンツ生成ファイル27,28からモーダル種別毎にコンテンツファイルを生成するのではなく、コンテンツを生成するために必要となるデータだけを内部メモリに保持し必要に応じてモーダル種別毎のコンテンツを生成するようにしている。
モーダル管理部24の動作は、第1実施形態の場合と同様であるためここでは省略する。選択処理部26の動作を図14のフローチャートに基づいて説明する。
ステップS51では、選択処理部26は注文受付コントローラ21を介して注文システム22からの処理結果と、同期するモーダル種別情報とを受け取る。
ステップS52では、選択処理部26は、同期するモーダル種別情報と、コンテンツ生成ファイルの選択定義情報とから、モーダル種別毎のコンテンツ生成ファイルを選択する。前述したように、選択処理部26は図8に示すような選択定義情報25から、該当するコンテンツ生成ファイル27、28を抽出する。
ステップS53では、選択処理部26は、選択された各コンテンツ生成ファイルのうち、処理要求元であるブラウザのモーダル以外の同期するモーダルに対するコンテンツ生成ファイル名と、注文システム22における処理結果データを識別IDとともに内部テーブルに格納する。この内部テーブルは、たとえば、図15に示すように、識別ID、処理結果データID、入力モーダル名、適用するコンテンツ生成ファイル名などの項目で構成されており、各コンテンツを生成するために必要となるコンテンツデータで構成されている。処理結果データは、注文システム22の処理結果をテーブルにしたものであり、たとえば、図16に示すように各項目に対応するデータで構成され、処理結果データID(図では”errデータ1”)が付されている。
ステップS54では、選択処理部26は、選択された各コンテンツ生成ファイルのうち、処理要求元であるブラウザのモーダルに対応したコンテンツ生成ファイルに、注文システム22における処理結果データを転送して、コンテンツを生成する。
ステップS55では、選択処理部26は、処理要求元であるブラウザに対して生成したコンテンツを返信するとともに、識別IDを付加した同期コンテンツ取得用URLを生成し、同期するブラウザに対して、同期コンテンツ取得用URLを対応するブラウザに通知する。
コンテンツ管理部31の動作について図17に示すフローチャートに基づいて説明する。
ステップS61では、コンテンツ管理部31はイベント待ちの状態となっており、ブラウザからコンテンツ取得要求があった場合にはステップS62に移行する。
ステップS62では、コンテンツ管理部31はブラウザからのコンテンツ取得要求に基づいて、識別IDを抽出する。この場合、同期コンテンツの取得通知を受けたブラウザからのコンテンツ取得要求であり、この取得要求中にはモーダル管理部24から通知された同期コンテンツ取得用URLが含まれている。この同期コンテンツ取得用URLには、選択処理部26hによって生成された内部テーブルの識別IDが格納されており、コンテンツ管理部31はこの識別IDを抽出する。
ステップS63では、コンテンツ管理部31は、取得要求元のブラウザのモーダル種別を取得する。
ステップS64では、コンテンツ管理部31は、選択管理部26によって生成された内部テーブルと識別IDを元にして、要求元ブラウザのモーダル種別に対応するコンテンツ生成ファイル名および処理結果データを取得する。
ステップS65では、コンテンツ管理部31は、取得したコンテンツ生成ファイルに処理結果データを転送し、ブラウザに対応するコンテンツを生成する。
ステップS66では、コンテンツ管理部31は、生成したコンテンツを要求元のブラウザに返信する。
ステップS67では、コンテンツ管理部31は、送信したコンテンツの識別IDに対応する要求元ブラウザのモーダル種別の該当欄を削除する。
たとえば、モーダル種別がVXMLであるブラウザがコンテンツ管理部31に対して「識別id001」を指定してコンテンツ要求を行った場合は、図15の内部テーブルから適用すべきコンテンツ生成ファイル名として、「merr_vxml.jsp」と処理結果データとして「errデータ1」を抽出し、「merr_vxml.jsp」に処理結果データ「errデータ1」の内容を転送することで要求元ブラウザに対してコンテンツを生成し、生成されたコンテンツを要求元ブラウザに返信する。
(付記1)
特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、前記いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法であって、
予め同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を準備しておき、
ブラウザからの処理要求に対して、前記選択定義情報を参照し、前記ブラウザと同期する他のブラウザとモーダルとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択する段階と、
処理要求元であるブラウザに対して、前記選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、前記ブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力する段階と、
を含むモーダル同期制御方法。
(付記2)
同期する他のブラウザに対してコンテンツの取得通知を行う段階と、
前記同期する他のブラウザからの取得要求に応じてコンテンツを出力する段階と、
をさらに含む、付記1に記載のモーダル同期制御方法。
(付記3)
特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、前記いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法のプログラムであって、
ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、前記ブラウザと同期する他のブラウザとのモーダルの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択するステップと、
処理要求元であるブラウザに対して、前記選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、前記ブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力するステップと、
を含むモーダル同期制御方法をコンピュータに実行させるためのプログラム。
(付記4)
特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、前記いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、
ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、前記ブラウザと同期する他のブラウザとのモーダルの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択する選択処理部と、
処理要求元であるブラウザに対して、前記選択されたコンテンツ生成ファイルを適用して生成されたコンテンツを出力すると共に、前記ブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち対応するコンテンツ生成ファイルを適用して生成されたコンテンツを出力するコンテンツ出力部と、
を備えるマルチモーダルインターフェイスシステム。
(付記5)
同期する複数のモーダルの組み合わせを管理するモーダル管理部をさらに備える、付記4に記載のマルチモーダルインターフェイスシステム。
(付記6)
前記モーダル管理部は、ブラウザからの処理要求を受け付けるとともに、前記コンテンツ出力部により生成されたコンテンツを処理要求元であるブラウザに送出する、付記5に記載のマルチモーダルインターフェイスシステム。
(付記7)
特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、前記いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、
同期する複数のモーダルの組み合わせを管理するとともに、各モーダルとの情報の送受信を行うモーダル管理部と、
ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、前記ブラウザと同期する他のブラウザとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択し、各モーダル毎のコンテンツ生成ファイルにて当該モーダルに対応したコンテンツを生成し、処理要求元であるブラウザに対してコンテンツ生成ファイルで生成されたコンテンツを出力するとともに、同期する他のブラウザに対してコンテンツ生成ファイルにて生成されたコンテンツを取得するための取得要求情報をモーダル管理部に通知する選択処理部と、
同期する他のブラウザから送信されてきた取得要求情報に応じて、当該取得要求情報に対応するコンテンツを当該ブラウザに出力するコンテンツ管理部と、
を備えるマルチモーダルインターフェイスシステム。
(付記8)
前記コンテンツ管理部は、処理要求元であるブラウザに同期する他のブラウザからの取得要求に対して対応するコンテンツを出力した後、生成されたコンテンツを削除する機能をさらに備える、付記7に記載のマルチモーダルインターフェイスシステム。
(付記9)
特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザを各モーダル毎に備え、前記いずれかのブラウザからの処理要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、
同期する複数のモーダルの組み合わせを管理するとともに、各モーダルとの情報の送受信を行うモーダル管理部と、
ブラウザからの処理要求に対して、同期する複数のモーダルの組み合わせに応じて適用すべきモーダル種別毎のコンテンツ生成ファイルを対応付けて記憶された選択定義情報を参照し、前記ブラウザと同期する他のブラウザとの組み合わせからモーダル毎に適用すべきコンテンツ生成ファイルを選択し、処理要求元であるブラウザに対してコンテンツ生成ファイルで生成されたコンテンツを出力するとともに、同期する他のブラウザに対して、選択されたコンテンツ生成ファイルを識別する情報とブラウザからの処理要求に応じて実行された処理の処理結果に関する情報とを対応付けて記憶し、さらにコンテンツを取得するための取得要求情報をモーダル管理部に通知する選択処理部と、
同期する他のブラウザから送信されてきた取得要求情報に応じて、当該取得要求情報に対応するコンテンツ生成ファイルと処理結果に関する情報からコンテンツを生成し、生成したコンテンツを当該ブラウザに出力するコンテンツ管理部と、
を備えるマルチモーダルインターフェイスシステム。
以上のようにした本発明によれば、Webアプリケーション開発者は、VIEWに相当するモーダル種別毎のコンテンツ生成ファイルと、同期するモーダル種別の組み合わせと適用するコンテンツ生成ファイルの組み合わせとを定義するためのコンテンツ生成ファイルの選択定義情報を記述するだけで、既存のシングルモーダル用のWEBアプリケーションをマルチモーダルインターフェイスシステムに対応させることが可能となる。
シングルモーダル用Webアプリケーションの構成図。 第1実施形態のマルチモーダルインターフェイスシステムの構成図。 モーダル管理部の動作を示すフローチャート。 モーダル管理テーブルの説明図。 HTMLブラウザ用初期画面の説明図。 VXMLブラウザ用初期対話の説明図。 モーダル管理部の動作を示すフローチャート。 処理結果データの説明図。 コンテンツ生成ファイルの選択定義情報の説明図。 HTMLコンテンツ生成ファイルの説明図。 VXMLコンテンツ生成ファイルの説明図。 コンテンツ管理部の動作を示すフローチャート。 HTMLブラウザ用コンテンツのフローチャート。 VXMLブラウザ用コンテンツのフローチャート。 第2実施形態の構成図。 選択処理部の動作を示すフローチャート。 選択処理部によって生成される内部テーブルの説明図。 処理結果データの説明図。 コンテンツ管理図の動作を示すフローチャート。

Claims (3)

  1. 特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザをモーダル毎に備え、前記いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法であって、
    前記ブラウザのコンテンツ記述言語の種別と、該コンテンツ記述言語種別毎に定義されたコンテンツ生成ファイルのファイル名の対応付けを、同期する可能性のある複数のブラウザの組み合わせ毎に記述した選択定義情報を準備しておき、
    いずれかのブラウザから、同期対象のブラウザの組み合わせを識別する同期IDが指定されていない初期ページ取得要求を受信することで、該ブラウザに対して前記同期IDとブラウザの識別子を生成し、該同期IDと該ブラウザの識別子と該ブラウザのコンテンツ記述言語種別とを対応付けてモーダル管理テーブルに記述する段階と、
    いずれかのブラウザと同期するブラウザから前記同期IDを指定した初期ページ取得要求を受信することで、前記いずれかのブラウザと同期するブラウザの識別子を生成し、該いずれかのブラウザと同期するブラウザの識別子と該同期するブラウザのコンテンツ記述言語種別とを、前記同期IDに対応付けて前記モーダル管理テーブルに追加する段階と、
    前記同期IDに対応付けられているいずれかのブラウザからの処理要求に対して情報処理を行い処理結果を生成し、前記処理要求元のブラウザから受信したブラウザ識別子を基に、前記モーダル管理テーブルから、該ブラウザ識別子に対応する同期IDに対応付けられたブラウザ全てのコンテンツ記述言語種別を取得し、該取得したブラウザのコンテンツ記述言語種別の組み合わせに一致する前記選択定義情報内の対応付けの組み合わせを前記選択定義情報から取得し、取得した組み合わせの対応付けに定義されたコンテンツ記述言語種別毎に適用するコンテンツ生成ファイル名を選択する段階と、
    前記処理要求元であるブラウザに対して、該ブラウザのコンテンツ記述言語種別に対応する前記選択されたコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力すると共に、前記処理要求元のブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち前記同期する他のブラウザのコンテンツ言語種別に対応するコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力する段階と、
    を含むモーダル同期制御方法。
  2. 特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザをモーダル毎に備え、前記いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムにおけるモーダル同期制御方法のプログラムであって、
    前記ブラウザのコンテンツ記述言語の種別と、該コンテンツ記述言語種別毎に定義されたコンテンツ生成ファイルのファイル名の対応付けを、同期する可能性のある複数のブラウザの組み合わせ毎に記述した選択定義情報を準備しておき、
    いずれかのブラウザから、同期対象のブラウザの組み合わせを識別する同期IDが指定されていない初期ページ取得要求を受信することで、該ブラウザに対して前記同期IDとブラウザの識別子を生成し、該同期IDと該ブラウザの識別子と該ブラウザのコンテンツ記述言語種別とを対応付けてモーダル管理テーブルに記述する段階と、
    いずれかのブラウザと同期するブラウザから前記同期IDを指定した初期ページ取得要求を受信することで、前記いずれかのブラウザと同期するブラウザの識別子を生成し、該いずれかのブラウザと同期するブラウザの識別子と該同期するブラウザのコンテンツ記述言語種別とを、前記同期IDに対応付けて前記モーダル管理テーブルに追加する段階と、
    前記同期IDに対応付けられているいずれかのブラウザからの処理要求に対して情報処理を行い処理結果を生成し、前記処理要求元のブラウザから受信したブラウザ識別子を基に、前記モーダル管理テーブルから、該ブラウザ識別子に対応する同期IDに対応付けられたブラウザ全てのコンテンツ記述言語種別を取得し、該取得したブラウザのコンテンツ記述言語種別の組み合わせに一致する前記選択定義情報内の対応付けの組み合わせを前記選択定義情報から取得し、取得した組み合わせの対応付けに定義されたコンテンツ記述言語種別毎に適用するコンテンツ生成ファイル名を選択する段階と、
    前記処理要求元であるブラウザに対して、該ブラウザのコンテンツ記述言語種別に対応する前記選択されたコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力すると共に、前記処理要求元のブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち前記同期する他のブラウザのコンテンツ言語種別に対応するコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力する段階と、
    を含むモーダル同期制御方法をコンピュータに実行させるためのプログラム。
  3. 特定のモーダルに対するコンテンツを解釈してユーザとのインタラクションを行うブラウザをモーダル毎に備え、前記いずれかのブラウザからの要求に応じて情報処理を行い、処理結果を元にコンテンツを生成して各ブラウザに出力するマルチモーダルインターフェイスシステムであって、
    ずれかのブラウザから、同期対象のブラウザの組み合わせを識別する同期IDが指定されていない初期ページ取得要求を受信することで、該ブラウザに対して前記同期IDとブラウザの識別子を生成し、該同期IDと該ブラウザの識別子と該ブラウザのコンテンツ記述言語種別とを対応付けてモーダル管理テーブルに記述し、いずれかのブラウザと同期するブラウザから前記同期IDを指定した初期ページ取得要求を受信することで、前記いずれかのブラウザと同期するブラウザの識別子を生成し、該いずれかのブラウザと同期するブラウザの識別子と該同期するブラウザのコンテンツ記述言語種別とを、前記同期IDに対応付けて前記モーダル管理テーブルに追加するモーダル管理部と、
    前記同期IDに対応付けられているいずれかのブラウザからの処理要求に対して情報処理を行い処理結果を生成し、前記処理要求元のブラウザから受信したブラウザ識別子を基に、前記モーダル管理テーブルから、該ブラウザ識別子に対応する同期IDに対応付けられたブラウザ全てのコンテンツ記述言語種別を取得し、前記ブラウザのコンテンツ記述言語の種別と、該コンテンツ記述言語種別毎に定義されたコンテンツ生成ファイルのファイル名の対応付けを、同期する可能性のある複数のブラウザの組み合わせ毎に記述した選択定義情報を参照して、前記取得したブラウザのコンテンツ記述言語種別の組み合わせに一致する前記選択定義情報内の対応付けの組み合わせを前記選択定義情報から取得し、取得した組み合わせの対応付けに定義されたコンテンツ記述言語種別毎に適用するコンテンツ生成ファイルを選択する選択処理部と、
    前記処理要求元であるブラウザに対して、該ブラウザのコンテンツ記述言語種別に対応する前記選択されたコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力すると共に、前記処理要求元のブラウザと同期する他のブラウザに対して、前記選択されたコンテンツ生成ファイルのうち前記同期する他のブラウザのコンテンツ言語種別に対応するコンテンツ生成ファイルに前記処理結果を適用して生成されたコンテンツを出力するコンテンツ管理部と、
    を備えるマルチモーダルインターフェイスシステム。
JP2003380980A 2003-11-11 2003-11-11 モーダル同期制御方法およびマルチモーダルインターフェイスシステム Expired - Fee Related JP4462901B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2003380980A JP4462901B2 (ja) 2003-11-11 2003-11-11 モーダル同期制御方法およびマルチモーダルインターフェイスシステム
US10/834,133 US20050102606A1 (en) 2003-11-11 2004-04-29 Modal synchronization control method and multimodal interface system
CNB2004100372693A CN1301452C (zh) 2003-11-11 2004-04-30 模态同步控制方法及多模态界面***
CNB2006101722778A CN100452053C (zh) 2003-11-11 2004-04-30 模态同步控制方法及多模态界面***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003380980A JP4462901B2 (ja) 2003-11-11 2003-11-11 モーダル同期制御方法およびマルチモーダルインターフェイスシステム

Publications (2)

Publication Number Publication Date
JP2005148807A JP2005148807A (ja) 2005-06-09
JP4462901B2 true JP4462901B2 (ja) 2010-05-12

Family

ID=34544619

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003380980A Expired - Fee Related JP4462901B2 (ja) 2003-11-11 2003-11-11 モーダル同期制御方法およびマルチモーダルインターフェイスシステム

Country Status (3)

Country Link
US (1) US20050102606A1 (ja)
JP (1) JP4462901B2 (ja)
CN (2) CN100452053C (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4705406B2 (ja) * 2005-05-13 2011-06-22 富士通株式会社 マルチモーダル制御装置およびマルチモーダル制御方法
US8259923B2 (en) 2007-02-28 2012-09-04 International Business Machines Corporation Implementing a contact center using open standards and non-proprietary components
US20070133773A1 (en) * 2005-12-08 2007-06-14 International Business Machines Corporation Composite services delivery
US11093898B2 (en) 2005-12-08 2021-08-17 International Business Machines Corporation Solution for adding context to a text exchange modality during interactions with a composite services application
US10332071B2 (en) 2005-12-08 2019-06-25 International Business Machines Corporation Solution for adding context to a text exchange modality during interactions with a composite services application
US7487453B2 (en) * 2006-03-24 2009-02-03 Sap Ag Multi-modal content presentation
JP2008129713A (ja) 2006-11-17 2008-06-05 Fujitsu Ltd 複数のモダリティを関連付けるための方法、そのプログラムおよび複数モダリティを関連付けるマルチモーダルシステム
US20080148014A1 (en) * 2006-12-15 2008-06-19 Christophe Boulange Method and system for providing a response to a user instruction in accordance with a process specified in a high level service description language
US8594305B2 (en) 2006-12-22 2013-11-26 International Business Machines Corporation Enhancing contact centers with dialog contracts
US9055150B2 (en) 2007-02-28 2015-06-09 International Business Machines Corporation Skills based routing in a standards based contact center using a presence server and expertise specific watchers
US9247056B2 (en) 2007-02-28 2016-01-26 International Business Machines Corporation Identifying contact center agents based upon biometric characteristics of an agent's speech
CN102156544B (zh) * 2011-04-18 2012-11-07 湘潭大学 多模态码字无序交融密码输入装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6859451B1 (en) * 1998-04-21 2005-02-22 Nortel Networks Limited Server for handling multimodal information
US7283973B1 (en) * 1998-10-07 2007-10-16 Logic Tree Corporation Multi-modal voice-enabled content access and delivery system
JP2001043064A (ja) * 1999-07-30 2001-02-16 Canon Inc 音声情報処理方法、装置及び記憶媒体
US6377913B1 (en) * 1999-08-13 2002-04-23 International Business Machines Corporation Method and system for multi-client access to a dialog system
US6745163B1 (en) * 2000-09-27 2004-06-01 International Business Machines Corporation Method and system for synchronizing audio and visual presentation in a multi-modal content renderer
US7028306B2 (en) * 2000-12-04 2006-04-11 International Business Machines Corporation Systems and methods for implementing modular DOM (Document Object Model)-based multi-modal browsers
AU2002251205A1 (en) * 2001-03-30 2002-10-15 British Telecommunications Public Limited Company Multi-modal interface
US7020841B2 (en) * 2001-06-07 2006-03-28 International Business Machines Corporation System and method for generating and presenting multi-modal applications from intent-based markup scripts
US6839896B2 (en) * 2001-06-29 2005-01-04 International Business Machines Corporation System and method for providing dialog management and arbitration in a multi-modal environment
US6983307B2 (en) * 2001-07-11 2006-01-03 Kirusa, Inc. Synchronization among plural browsers
JP2003150440A (ja) * 2001-11-13 2003-05-23 Matsushita Electric Ind Co Ltd 複数ユーザインタフェースの同期方法とそのシステム及びプログラム
US8799464B2 (en) * 2001-12-28 2014-08-05 Motorola Mobility Llc Multi-modal communication using a session specific proxy server
US20030218638A1 (en) * 2002-02-06 2003-11-27 Stuart Goose Mobile multimodal user interface combining 3D graphics, location-sensitive speech interaction and tracking technologies
WO2003067413A1 (en) * 2002-02-07 2003-08-14 Sap Aktiengesellschaft Multi-modal synchronization
WO2003071422A1 (en) * 2002-02-18 2003-08-28 Kirusa, Inc. A technique for synchronizing visual and voice browsers to enable multi-modal browsing
US7315613B2 (en) * 2002-03-11 2008-01-01 International Business Machines Corporation Multi-modal messaging
US20040128342A1 (en) * 2002-12-31 2004-07-01 International Business Machines Corporation System and method for providing multi-modal interactive streaming media applications
US20050010892A1 (en) * 2003-07-11 2005-01-13 Vocollect, Inc. Method and system for integrating multi-modal data capture device inputs with multi-modal output capabilities

Also Published As

Publication number Publication date
CN100452053C (zh) 2009-01-14
US20050102606A1 (en) 2005-05-12
CN1617075A (zh) 2005-05-18
CN1301452C (zh) 2007-02-21
CN1983284A (zh) 2007-06-20
JP2005148807A (ja) 2005-06-09

Similar Documents

Publication Publication Date Title
US7996757B2 (en) Low-latency, incremental rendering in a content framework
US7194678B1 (en) Dynamic web page generation method and system
US7725560B2 (en) Web service-enabled portlet wizard
EP1117220A1 (en) Method and system for protocol conversion
US8122346B2 (en) Methods and systems for merging software-level objects with document-level objects in a document publishing environment
US20020078102A1 (en) Method and system for customized modification and presentation of remotely saved web content
US6631010B1 (en) Web-based imaging system utilizing “cookies” to provide a single-action printing option
JP4462901B2 (ja) モーダル同期制御方法およびマルチモーダルインターフェイスシステム
JP2004318842A (ja) Webページ生成装置、組み込み装置、Webページ生成の制御方法、Webページ生成プログラム及び記録媒体
US20010047397A1 (en) Method and system for using pervasive device to access webpages
JP5638761B2 (ja) 画面生成方法、画面表示方法、画面生成装置、及びプログラム
JP4772880B2 (ja) アプリケーション実行方法、アプリケーション変更装置、及びアプリケーション変更プログラム
US6192363B1 (en) Method and apparatus for supplying multi-media data to a client by using threads
US7657502B2 (en) Multimodal control device and multimodal control method
GB2395320A (en) Multimodal browsing
JP2007264928A (ja) 情報提供装置、情報提供方法および情報提供プログラム
JPH11143910A (ja) 複合オブジェクト展開方式及びコンピュータ読み取り可能な記録媒体
CN100595719C (zh) 多模态同步的方法和装置
JP6293611B2 (ja) 端末間で同一ページを同期して表示させるページ同期方法及びプログラム
JP4208185B2 (ja) 既存WebアプリケーションのWebサービスへの変換方法及び装置
JPH113203A (ja) 画面対話処理装置
Heinzl et al. The web service browser: Automatic client generation and efficient data transfer for web services
US20020184335A1 (en) System and method for transferring selected imaging data from a digital camera
JP2006268164A (ja) 画面情報生成方法、画面情報生成装置および画面情報生成プログラム
KR20010099529A (ko) 인터넷 티브이 단말기에서 웹 페이지상의 정보 제공 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060126

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080929

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20080930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090203

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090406

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090707

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091117

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100209

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130226

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140226

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees