JP2009509262A - リハーサルによりプログラミングする方法 - Google Patents

リハーサルによりプログラミングする方法 Download PDF

Info

Publication number
JP2009509262A
JP2009509262A JP2008531871A JP2008531871A JP2009509262A JP 2009509262 A JP2009509262 A JP 2009509262A JP 2008531871 A JP2008531871 A JP 2008531871A JP 2008531871 A JP2008531871 A JP 2008531871A JP 2009509262 A JP2009509262 A JP 2009509262A
Authority
JP
Japan
Prior art keywords
beat
end user
precondition
ambient
application
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008531871A
Other languages
English (en)
Other versions
JP5027140B2 (ja
Inventor
ドールン マルクス ジー ジェイ エム ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2009509262A publication Critical patent/JP2009509262A/ja
Application granted granted Critical
Publication of JP5027140B2 publication Critical patent/JP5027140B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/02Knowledge representation; Symbolic representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Body Structure For Vehicles (AREA)

Abstract

輸送中の自動車の動きにより生じる含有液体の自動車の不安定な慣性力の集中を低減する車載タンクに関する干渉防止(buffling)システムが表示される。この干渉防止システムは、前方及び後方の液体の上昇を減じる、互いに対して正反対に位置する円形の皿型のヘッドバッフルと、左右の液体の上昇を減じる複数の長手方向のバッフルとを含んでいる。円形状のヘッドバッフルは、タンク室にアクセスするための着脱可能なカットアウトを含んでいる。

Description

本発明は、当該技術に精通していないユーザ、すなわち一般大衆によりアンビエントインテリジェンス環境をカスタマイズするシステム、装置及び方法に関する。より具体的には、アンビエントインテリジェンス環境をプログラミングするためにパフォーマンスメタファが与えられ、それにより、一般大衆の構成員によるパフォーマンスの「リハーサル」がアンビエントインテリジェンス環境のプログラミングを実現する。
アンビエントインテリジェンスは、デジタル媒体の使用を通して日常の行為をより便利に、楽しくすることによって、一般大衆の構成員の生活の質を向上させることを目的とする新しいコンピューティングパラダイムを意味する。技術的には、アンビエントインテリジェンスとは、人々の存在に感知し、適応し、応答することができるデジタル環境の存在のことをいう。家具、衣服又は周囲を取り巻くものの他の部分に電子デバイスが組み込まれ、機能(すなわち、活用インターフェース)だけが一般の人々に見えるようになるまで科学技術が日常生活の後景に退く。
同時に、一般大衆の構成員は、自分を取り囲んでいるデバイスを管理して興味の中心に入る。これらのデバイスは、知的なやり方で日常の行為のパフォーマンスをサポートするように協力して機能する。
技術及びデバイスを後面に移し、一般大衆の構成員の経験を前面に移すことにより、アンビエントインテリジェンスのビジョンは、供給主導型の産業経済から需要主導型のグローバルな情報ネットワーク経済へのシフトを知らせる。このネットワーク経済では、人々は、(標準的な量産された物的生産物の所有権に代金を支払うのではなく)個人向けの情報と、大きく枝分かれした、個別の要求及び欲求を満たすサービスとにアクセスするために代金を支払う。これは、アンビエントインテリジェンスを1つ又はそれ以上のネットワーク化されたデバイスで大衆の個々の構成員、すなわちユーザに同時に送られる個人向けの情報サービス(アンビエントインテリジェンスサービス)としてとらえることにつながり、そこではデバイスはユーザ環境中に存在する。サービスにより提供される知能(intelligence)は、テレビ又はセットボックスのような単一で柔軟性のない物的生産物の環境(ambience)と抱き合わせられず、アンビエントインテリジェンスを与える単純なネットワーク機器の上にサービスとして分離して提供される。
アンビエントインテリジェンスを大規模にもたらすことは問題である。第1に、マシンラーニング及び人工知能の現在の最新技術を考えると、アンビエントインテリジェンスを生む製品又はサービスを量産することは、予測可能な未来において技術的に可能ではない。しかしながら、経済的には、大衆の各構成員のためにアンビエントインテリジェンスのアプリケーションを個別に手作業で設計し、製作することは、実行可能ではない。
現在、一般大衆の構成員であるエンドユーザがネットワーク化されたデバイスのセットをカスタマイズ又はプログラミングすることが難しい。エンドユーザは、デバイスを制御するためにリモートコントローラ又は他のインターフェースを用いることができ、場合によっては、エンドユーザは、ユーザインターフェース(ユニバーサルリモートコントローラ)をカスタマイズすることができるが、これ以上は、可能性が制限されることが多い。ますます多くのデバイスがネットワークへの接続が可能になるので、ユニバーサルリモートコントローラの考え方は完全に断念されなければならない。仮にエンドユーザが自分のインテリジェント環境をプログラミングするとしてみると、代案は、かなりの専門知識及びプログラミング技術を要することが多く、従って実行可能な選択肢ではない。必要とされることは、アンビエントインテリジェンスの技術に精通していないエンドユーザ、すなわち大衆が、簡単に直感的に使えるやり方で自分のアンビエントインテリジェンス環境をプログラミングすることを可能にするやり方である。
本発明のシステム、装置及び方法は、一般大衆の構成員である個々のユーザの入力及びフィードバックを通してカスタマイズされるアンビエントインテリジェンスのアプリケーションを作成するために、大衆ベースで消費されるアンビエントインテリジェンスサービスとして設計される異なる製作手法を提供する。
アンビエントインテリジェンスは、一般に人々の存在に感知し、適応し、応答することができるデジタル環境の存在を意味する家庭用の電子機器の未来のビジョンである。本発明の好ましい形態は、大衆又は一般大衆によるアンビエントインテリジェンスのカスタマイゼーションのためのシステム、装置及び方法を提供する。好ましい形態は、複合現実感の中にある対話型のナラティブとして定義される「アンビエントナラティブ」を有するアンビエントインテリジェンス環境を提供し、これは、アンビエントナラティブ環境とユーザ(大衆、すなわち一般大衆)との進行中のやりとりから生まれる。
より具体的には、好ましい形態は、「ビート(beat)」と呼ばれる予め定義された相互関係のあるモジュラ部品のセットを有する、公的に供給される予め定義されたアンビエントナラティブをカスタマイズすることにより一般大衆がアンビエントナラティブを「著す」システム、装置及び方法を提供する。これらの「ビート」は、カスタマイズされ、アンビエントインテリジェンスと呼ばれる固有の複合現実感のストーリへのユーザフィードバック、活用コンテクスト及び過去のそのようなカスタマイゼーション(すなわち、アンビエントインテリジェンス環境で以って取り込まれたユーザの過去の経験)に基づいて「アンビエントナラティブエンジン」により順序づけられる。
好ましい形態は、ネットワーク化されたデバイスの一群を含んでおり、これを用いてマスベースで、すなわち一般大衆によりカスタマイズされたアンビエントインテリジェンス環境を構築する。好ましい形態では、アンビエントインテリジェンス記述のモジュラ部品は、複数のネットワーク化されたデバイスが同時に参加する個人化された対話型のメディアプレゼンテーションのフロー(シーケンス)へのユーザのフィードバック及びやりとりの履歴に基づいて組立てられる。従って、本発明のシステム、装置及び方法は、一般大衆の構成員が日常の行為を演じる際に家庭又は特定のサービスエンカウンタにおいて人々をサポートするように設計された複合現実感の対話型のナラティブである既存のアンビエントナラティブの可能性の範囲内において自分のアンビエントインテリジェンス環境を作成することを可能にするアンビエントインテリジェンスサービスを提供する。
本発明の全ての実施の形態は、日常生活におけるパフォーマンスという概念に基づいている。簡単に言えば、アンビエントインテリジェンスは、対話型の媒体を導入することによって日常の行為をより便利に、楽しくすることにより、人々が自分の日常の行為をよりよく実行する際に人々を手助けすることを目的としている。この説明において「演じること(performing)」という語に注意されたい。「演じること」という語は、パフォーマンスがあらゆる文化に行き渡っていることを人々が忘れるほど人間の言語において一般的に用いられている。パフォーマンスは、一般に、演劇、音楽、ダンス及びパフォーマンスアートにおいてなされるだけではなく、日常生活においてもなされる。例えば、人々は、私的な生活において父親又は息子の役を演じるが、職業上の公的な生活においては医師、裁判官又は警察官の役を演じる。アンビエントインテリジェンスがこれらのパフォーマンスをサポートするためにどこでどのように与えられ得るかを理解するため、パフォーマンスが何であるか及びパフォーマンスが何を演じることを意味するのかに関するよりよい識見が以下のセクションにおいて与えられる。
パフォーマンス学は、人間の振舞いの幅広い研究のためにパフォーマンスを組織概念としてとらえる新興のこれから幅広くなる学際的分野である。このパフォーマンス学は、人類学から演劇の研究まで社会科学における研究を採用する。パフォーマンス学は、媒体及び文化による芸術の区分を使う(prevail)ことを自由であるとみなし、従って、文学及び西洋の演劇に対して全体論的、ポストモダンの広範な観点からパフォーマンスを見る。パフォーマンスは、媒体ごと及び文化ごとに非常に大きく異なるので、パフォーマンスの正確な定義を明確にすることは困難である。本発明により仮定される定義は、パフォーマンスは「演劇(play)により条件付けられた/浸透した儀式的振舞い」又は「二度振る舞われる振舞い」である。人々は、演じているとき、同じように以前に少なくとも一度実践された振舞いを示す。通常のパフォーマンスアートでは、この振舞いが容易に見つけられ、演劇、オペラ又は映画の役者は、舞台の陰で自分の役のリハーサルをし、舞台上に出たときにこの振舞いを繰り返す。しかしながら、この二度振る舞われる振舞いは、結婚式を執り行う司祭、患者を手術する外科医又はカウンタの後方のサービス従業員においてもまた見られる。家庭においてさえも、人々はこの繰り返しの動作のサインを示す。これは、例えば、朝に鏡の前で歯を磨くこと、友人とサッカーの試合を見ること又は夕方に仕事から帰宅することのような日常の習慣的行為を通じて生じる。ここでは、「パフォーマンス」において仲間(party)を送ることと受け入れることとは同じであり得ることに注意されたい。
本発明では、社会生活が演劇ととらえられる。人々は、互いに対話する文化的に指定された社会的台本に従うと仮定される。社会的台本は、文化ごとに及びエポックごとに異なり得るが、文化は社会的台本なしには存在しない。人々は、ほとんどの時間を認識していない状態で常に演じている。
社会的台本が共通であり、人々がこれらの台本を演じることにより他人とコミュニケーションをとる場合、人間の頭の中の知識が、特に言語を理解することに関連して同じように構築されていることが前提とされる。個別のエピソードに対して任意の固有のイベントを加えて特定の記憶が一般化されたエピソード(台本)に指針として蓄積されたストーリレベルの理解を取り扱うために、台本、企画及びテーマの概念が提案されている。台本は、個人が欠けている情報を与えることにより理解するために必要な推測をなすことを可能にする。
生活を社会的な演劇としてとらえることは、2つの理由のために本発明に関連する。すなわち、
1.第1に、人々が社会的台本に従って振る舞う場合、これらの台本を実施する際に人々をサポートする双方向メディアアプリケーションを体系化することが可能である。照明及び音響が劇場の劇全体に箔をつけることと同様に、アンビエントインテリジェンスは、これらの社会的台本により述べられる人間の能力を高めるように本発明により与えられる。この手法は、本発明により用いられるアンビエントインテリジェンスの簡潔で具体的な定義をもたらし、アンビエントインテリジェンス環境は、人間の日常生活のパフォーマンスをサポートする媒体により向上する環境である。
2.第2に、アンビエントインテリジェンスをパフォーマンス学に位置付けることは、アンビエントインテリジェンス環境の設計及びそれらの根底にある技術に関する基準のよく研究された精通している枠組みを与える。
本発明の好ましい実施の形態は、媒体により向上するパフォーマンスに向けられるパラダイム、すなわち家庭及び職業上のサービスエンカウンタにおけるアンビエントインテリジェンスを採り入れる。人々が住んでいる家は、人々が、歯を磨くこと、仕事に行くこと又はサッカーの試合を見ることのような日常の習慣的行為を行うステージとみなされる。歯を磨くというそのような日常の行為の経験を改善するためにどのようにアンビエントインテリジェンスが与えられるかの一例を考えてみる。
図4は、2分間歯を磨くためにミラー401の前に立っている小さい子供403に誘いかけるミラーテレビ401(背後にLCDスクリーンを伴う双方向ミラー)に映し出された漫画402を示している。この漫画402は、この日常のタスクを通して子供を手助けする。このミラーテレビの例では、漫画402は、最終結果を出すことから目的を達成するプロセスに子供403の関心をシフトさせる。漫画402は、関与のレベルを改善することにより行為の流れを高める。
パフォーマンスの主要な役割は、また、仕事が演劇であり、あらゆるビジネスが、行われた経験が提供されるサービス、製造される品物又は抽出される原料よりも顧客により高く評価されるようなステージである経験経済が提案されているサービスについてのビジネスの資料に反映される。行われた経験は、顧客の要求のより大きな部分を満たし、従って、顧客は経験に対してより高い代価を支払うことをいとわない。この経験経済では、文化自体が商業領域に引き込まれる。エンタテイメントパーク、テーマショッピングモール及び企画された観光旅行は、まさに、人々がもはや物を買わず、サービス及び商品化された文化を利用するために支払う幾つかの例である。
また、サービスの売買は演劇の構成を含んでおり、そこでは、サービスがパフォーマンスとみなされ、フロントエンドサービスの職員が役者とみなされ、サービスの環境又は「サービスケープ」がサービスが行われるステージであり、該サービスに使用される製品が小道具とみなされ、サービスのビジネスプロセスが台本である。上記「サービスケープ」、サービスの環境は、人々がどのようにサービスエンカウンタを認識するかにおいて重要な役割を果たす。従って、職業的なサービス提供と関連がある本発明の全ての好ましい実施の形態において、アンビエントインテリジェンスは、積極的にサービスエンカウンタの雰囲気及びそれによってサービスの感じ方又は性能をよりよくするために職業上のサービスエンカウンタに適用される。
例えば、病院の医療用画像室500を考えてみる。多くの患者が、検査室の巨大な装置におびえる。図5に示されているように、没入型媒体を用いて、例えば検査室の壁501及び天井502にビデオクリップを映し出すことによってこの環境をよりよくすることにより、患者はより落ち着く。
上記医療用画像室500及びミラーテレビ400のある浴室は、職業上の(場合によっては私的な)又は公的な空間において日常生活のパフォーマンスをサポートするように設計されたアンビエントインテリジェンスによって補強される媒体により向上する環境の例である。
アンビエントナラティブ(AN)
機械により理解可能なやり方で家庭の及び商業上/職業上のサービスエンカウンタにおける媒体により向上するパフォーマンスを形に表すために、本発明は、関連する媒体により向上するパフォーマンスのセットの相互関係及び構造を対話型の又はエピソードからなるナラティブとして表す。対話型のナラティブは、消費者がストーリの筋立て(plop)に影響を及ぼす、ストーリの筋立てを選択又は変更することを可能にする。大部分の対話型のナラティブは、実世界(例えば、動画のロールプレイングゲーム、即興演劇)又は何らかの仮想現実(例えば、ハイパーテキスト小説、コンピュータゲーム)のいずれか一方の中にある。本発明により用いられる媒体によって向上するパフォーマンスは、複合現実感において生じる。媒体により向上するパフォーマンスにおける人々の行動及び製品の使用は実世界において起こるが、パフォーマンスを増強するためのデジタル媒体は仮想次元から生じる。従って、そのような上演環境に対して用いられる用語は、複合現実感である。
また、これらの媒体にする向上したパフォーマンスは、実際には本又はハイパーテキスト小説のように「読まれる」のではなく、演劇のように演じられる。アンビエントナラティブという用語は、複合現実感の環境において演じられるこれらの種の演劇の対話型のナラティブを指す。従って、アンビエントナラティブは、消費者(読み手)及び製作者(書き手)の両方の見地から見られる。
読み手の点から見ると、アンビエントナラティブとの対話は、アンビエントインテリジェンス環境を引き起こす。アンビエントナラティブは仮想次元及び物理的次元の両方に同時に及ぶので、対話は本発明においては非常に広く用いられる。異なる部屋における媒体により向上するパフォーマンスは、1つのナラティブ構造において互いに関連付けられ、これは、人々が、例えば歩き回る又は熱を発しているランプに触れることによりアンビエントナラティブ(進化するアンビエントインテリジェンス)の筋立てに影響を及ぼすことを可能にする。書き手の見地からは、アンビエントナラティブは、全ての可能な媒体により向上するパフォーマンス及びそれらの相互関係を記述する。
上記のアンビエントナラティブの手法は、アンビエントインテリジェンス環境の変化の「リハーサルを行うこと」により各個別のユーザが予め定義されたプロップ材料から所望のアンビエントインテリジェンスを組み合わせること及びこの材料に変更を加えることを可能にするので、アンビエントインテリジェンスのマスカスタマイゼーションを可能にする。
一般に、機能するためのマスカスタマイゼーションの戦略のために、
・製品又はサービスに存在するモジュール性、
・顧客が製品の要求又は指定を容易に入力することができるユーザインターフェース、
・マスベースでカスタマイズされた製品/サービスを提供するように設計された製品/サービスの柔軟なライン、及び
・コンシューマインターフェースをフレキシブルな製品ラインに接続するネットワーク
が存在しなければならない。
上記アンビエントナラティブの手法では、モジュール性は、組み立てられ得る可能なアンビエントインテリジェンスの経験のモジュラ部品を有するアンビエントナラティブ自身により実現される。上記ユーザインターフェースは、複数のデバイスからユーザ入力及びコンテクスト情報を集め、この情報をネットワークを通じてフレキシブルな製品ラインに送るアンビエントブラウザにより実現される。上記フレキシブルな製品ラインは、次の最良の部品が何であるかの情報及びアンビエントナラティブのプロットの現在の位置を与えられ、次の最良の部品が何であるかを決定するアンビエントナラティブエンジンにより実現される。アンビエントナラティブエンジンは、新しく選択された部品の内部のプレゼンテーション記述を、このプレゼンテーションを提供するアンビエントブラウザに戻す。このようにアンビエントブラウザとアンビエントナラティブエンジンとが協力してカスタマイズされた製品とアンビエントインテリジェンスとを組み立て、それをアンビエントインテリジェンス環境として役者に届ける。
好ましい実施の形態では、実行(run-time)層、構造保持(storage)層及び内容保持(within-component)層を有する3層モデルが用いられる。図6は、この3層モデルへのハイレベルアンビエントナラティブシステムアークテクチャのマッピングを示している。以下のセクションは、アンビエントブラウザにより実行層601がどのように実現され、アンビエントナラティブエンジンにより構造保持層602がどのように実現され、アンビエントナラティブのプロット材料により内容保持層603がどのように実現されるかを説明する。
実行層:アンビエントブラウザ
好ましい実施の形態では、構造保持層602とのインターフェースは、プレゼンテーションの指定を介している。プレゼンテーションの指定は、構造保持層602において符号化され、コンポーネント/ネットワークがどのようにユーザに与えられるべきであるかについての情報を含んでいる。このように、ユーザへのコンポーネントのプレゼンテーションは、プレゼンテーションを行っている特定のツール(例えばマイクロソフトインターネットエクスプローラ)、コンポーネント自体のプロパティ(例えば特定のHTML文書)及び/又は該コンポーネントに受け入れられるリンクの機能である。プレゼンテーションの指定は、これらの層の間の分離を妨害することなく実行層603とコミュニケーションをとる一般的方法を構造保持層602に与える。
デバイス内部の及びデバイス間のメディアオブジェクトのタイミング及び同期をサポートするために、既存のSMIL(同期化マルチメディア統合言語)インタープリタが使用される。このSMILインタープリタは、他のデバイスがそれ自身を登録するネットワーク化されたサービスの役割を持っている。この選択の根底にある理由は、「媒体」がランプ、ファン及び他の出力デバイスを含むことである。SMILのこの機能を用いるために、SMILのトップレイアウト要素は、レンダリング又は入力デバイスを指定する新しいターゲット属性を持つ変更されたSMIL言語において拡張される。SMIL文書の制作者は、特定のレンダリング又は入力デバイスを示すために、SMILのヘッド部におけるトップレイアウト要素のターゲット属性を設定することができる。SMILの本体(body)部では、制作者は、媒体要素が与えられるべきデバイス/領域を指示するために、メディア要素(例えば、画像又はビデオフラグメント)の領域属性における領域要素の子の1つのID又はトップレイアウト要素のIDを(通常通りに)用いることができる。図7は、図4のミラーテレビの例400に帰属するSMIL文書の概略を表している。この手法の利点は、SMILエンジンの外部に空間マッピング機能を導入する必要がないことである。
SMIL文書は基本的な構成要素、すなわち上記構造保持層におけるコンポーネントである。この手法の利点は、空間及び時間に関してメディアオブジェクトの低レベルのポジショニングから取り出すこと及びプレゼンテーションがコンテクスト状況に基づいてどのように選択されるかを記述する際に焦点を定めることを可能にする。
構造保持層:アンビエントナラティブナビゲーション
上記モデルにおける構造保持層は、ネットワークを形成するためにノード及びリンクが接続されるメカニズムを記述する。この構造保持層自体は、コンポーネントの内部構造に関して個有ではなく、コンポーネントは、一般的なデータコンテナとして扱われる。アンビエントナラティブのコンポーネントはビートと呼ばれる。このビートという用語は、演劇及び映画の台本を書くことから発生し、登場人物の振舞いの変化として定義される。上記ビートは、振舞いのより大きい変化を表すシーンのうちで最小のユニットである。シーンの順序づけは、さらに大きい変化になる行為を形成する。従って、アンビエントナラティブは、これらのビートの間においてビート(ノード)及びリンクよりなるハイパテキストネットワークと同等である。
個々のアンビエントインテリジェンスの経験は、ビートのシーケンス及びこれらのビートのインスタンス化に用いられた任意の固有のパラメータより表される。従って、固有のメモリ(アンビエントインテリジェンスの経験)は、(簡単に説明されたように、ストーリ値により表される)個別のエピソードに関する任意の固有の事象を加えて一般化されたエピソード(ビート)に対するポインタとして表される。
ビート言語
最初にビートを表す言語について説明され、その後に、ビートシーケンシングエンジン又はアンビエントナラティブエンジンによりどのようにビートが順序づけられるかの説明が続く。
ビートは、Dexterモデルの構造保持層におけるコンポーネントである。このビートは、3つの部分、すなわち事前条件、アクション及び事後条件部から成る。アンビエントナラティブのプロットに影響を及ぼし得るストーリ値を収容するストーリメモリが必要とされる。このメカニズムの目的は、システムをより少ない反応性にすることである。書き手は、ビートの記述の各部分におけるストーリ値を、例えばストーリの現在の状態(例えば、特定のユーザの知識レベル)又は具体的なコンテクスト情報(アンビエント温度又は湿度)に基づいて新しいビートの選択に影響を及ぼすためのメカニズムとして用いることができる。上記ストーリメモリは、劇的に変化するストーリ値又は変数の少なくとも1つを有する。
上記事前条件部(コンポーネント情報)は、アンビエントナラティブを通してナビゲーションを制御するビートシーケンシングエンジン又はアンビエントナラティブエンジンにより新しいビートコンポーネントに関する選択又は検索の間に調べられる。この事前条件部は、ビートが選択され得る前に成立しなければならない条件を指定する。すなわち、事前条件部は、行為(パフォーマンス)、ユーザ(役者)、場所(ステージ)、有形の物体及び現在(プロップ)及び/又は過去のユーザ/システムの対話(台本)についての情報を含み得る。
上記アクション部は、ビートがシーケンシングのためにエンジンにより選択された後に実行される。このアクション部は、初期化部(コンポーネント情報)と主要部(コンポーネントコンテンツ)とにサブ分割されている。上記初期化部では、制作者は、プレゼンテーションが開始される前にどのストーリ値がストーリメモリにおいて変更される必要があるかを指定することができる。上記主要部は、我々のケースではSMIL文書として符号化された、対話型の複合現実感プレゼンテーションを指定する。マルチメディアプレゼンテーション文書がパラメータとしてストーリ値を伴う組み込みクエリを含むことを可能にすることによりアダプテーションの追加のレベルが取り入れられる。これらのパラメータは、アンビエントナラティブエンジンによりランタイムにおいて設定される。この手法は、媒体により向上するパフォーマンスのより多くの種類を可能にするとともに、必要とされる制作作業の量を低減する。SMIL文書は、また、ビートシーケンシングエンジンに対するパラメータとしてストーリ値を伴うリンク及び/又はクエリも含んでいる。
上記事後条件部(コンポーネント情報)は、現在アクティブなビートがまさに新しいビートと交換されようとしている時、すなわち、次のビートの事前条件部が実行される前に実行される。制作者は、ストーリメモリにおいてどのストーリ値が変更される必要があるかをここで指定することができる。
シーンレベルにおけるプロットは、5つのステージ、すなわち、初期状態,必須イベント,背景知識,コンテンツ制約及び時間制約を有する。上記初期状態は、シーンをセットアップし、我々のアクションステージにおける初期化部に似ている。必須イベント及び背景知識は、事前条件のステージに匹敵し、必須イベントに用いられる変数の結合を制限するコンテンツ制約は、アンビエントナラティブのビート文書の主要なアクション記述部における組み込みクエリに似ている。
ビートシーケンシング
各ビートは、複合現実感において個人化されたストーリを作成するために一緒にシーケンスされ、その結果は、我々がアンビエントインテリジェンスと称しているものである。ビート記述及びビートシーケンシングエンジン又はビートナラティブエンジンは、適応性のあるハイパーテキストシステムである。適応性のあるハイパーメディアシステムにより、我々は、全てのハイパーテキストと、ユーザモデルにおいてユーザの幾つかの特徴を反映し、システムの種々の目に見える面をユーザに適用するハイパーメディアシステムとをもたらす。換言すれば、上記システムは、3つの条件を満たす。上記3つの条件とは、ハイパーテキスト又はハイパーメディアシステムであること、ユーザモデルであること及びこのモデルを用いてハイパーメディアモデルを適応させることが可能であることである。適応ハイパーメディアアプリケーションモデル(AHAM)は、ハイパーメディアアプリケーションをドメインモデル、ユーザモデル、教示(teaching)モデル及び適応エンジンよりなると規定する。ドメインモデルは、ノード及びリンクにおいて情報がどのように構成されるかを説明する。ユーザモデルは、ユーザの知識レベルを説明するとともに、過去にユーザによりアクセスされたノードの記録を保持もする。教示モデルは、どのようにドメインモデルがユーザモデルと相互作用するかを規定する学習則により構成される。適応エンジンは、実際のアダプテーションを実行する。
ビート記述及びビートシーケンシングエンジンが、AHAMモデルの専門用語でこれから説明される。ビート及びそれらの相互関係はドメインモデルを形成する。ユーザモデルは、アンビエントナラティブエンジンのストーリメモリにおいて黙示的である。ストーリメモリは、ユーザ及びユーザのコンテクストについての知識を伴うセッション知識及びコンテクスト知識を含んでいる。ストーリメモリは、ユーザとアンビエントナラティブとの連続的なやりとりから劇的に進化する。教示モデルは、ビート記述で符号化される。アクションの初期化部及び事後条件部は、制作者が新しいビート及びコンテンツアイテムの選択に影響を及ぼし得るストーリ値を変更することを可能にする。適応エンジンは、ビートを順序づけるアンビエントナラティブエンジンである。アンビエントナラティブエンジンは、次の最良のビートを見つけるために主要なタスクとしてアクション選択メカニズムを実行する。ルールに基づいたAIアプローチではなく、好ましい実施の形態は、情報検索(IR)アプローチによりビートシーケンシングプランナを実現する。新しいビートに対するクエリは、固定パラメータ及のびストーリ値の両方を含み得るビート記述のアクション及び事後条件部において符号化される。ビートクエリは、ユーザにより決して明示的に入力されず、ユーザの入力及びストーリメモリに存在する情報に基づいてビートシーケンシングエンジンにより選択され、情報を与えられる。
この手法の利点は、アンビエントナラティブの異なるレベルにおけるアダプテーションの導入を可能にすることである。ビートにおける組み込みコンテンツのクエリの概念は、サブノードレベルにおけるアダプテーションの記述、すなわち、ビートのアクション部を符号化するSMIL文書におけるメディアオブジェクトを可能にする。ビートにおける組み込みビートクエリの概念は、リンクレベルにおけるアダプテーションの記述を可能にする。ビートの選択は、組み込みビートクエリのストーリ値を用いることによりコンテクストに依存し得る。ビートの事前条件及び組み込みコンテンツクエリの使用は、アンビエントインテリジェンス環境の実行と並列のコンテクスト及び新しいビートの追加を可能にする。これは、編集決定が行われる瞬間までノード及びサブノードの両方のレベルに関してアンビエントナラティブエンジンによる編集決定の延期を可能にする。その結果、制作者は、新しいマテリアルが追加される際に仕上がったストーリにストーリ要素を明示的に順序付ける又は既存のアンビエントナラティブを書き換える必要がないので、制作作業が減る。これは、デバイスが読み手により所有される場合に選択され得る特定のデバイスのためにビートを加える柔軟性を書き手に与えもする。更に、このオープンアプローチは、アンビエントナラティブ間のビート及びコンテンツを共有及び交換する可能性をもたらす。制作ツールは、該ツール自体のビートをもたらし、ツールにビートのコレクションを挿入する際にレンダ(render)を支援する。
図8は、アンビエントナラティブエンジンの流れ図を与えており、このアンビエントナラティブエンジンは以下に詳細に説明されるステップを実行する。(センサから暗黙的にもたらされる又はユーザにより明示的に与えられる)ユーザ入力及びストーリメモリは、協働してアンビエントナラティブにより指示を決定するとともに、選択されたビートがどのようにカスタマイズされ、順序づけられるかを決定する。
ステップ1(イベントのリスン801):アンビエントブラウザによりセンサ及び入力デバイスからイベントを検出し、ANエンジンに当該イベントを転送する。ミラーテレビのケース400(図4)では、床のセンサが、イベントを解釈し、該イベントをANエンジンに転送するアンビエントブラウザにイベント802を送る。
ステップ2(イベントの対処803):上記ANエンジンが、現在アクティブなトリガの1つがイベント802によりトリガされているかどうかを調べる。これが当てはまる場合には、ANエンジンはトリガのパラメータに情報を与えるためにストーリメモリ及びユーザ情報を用いる。これで、ナビゲーションのバリエーションが生じる。トリガがパラメータ化可能なビートへのリンクであることが分かると、ANエンジンはステップ4(809)にジャンプし、トリガが最終的なビートへのリンクである場合には、ANエンジンはステップ5にジャンプする。ビートのオープンパラメータの全てに情報が与えられると、ビートは完成する。トリガがビートに対するクエリであることが分かると、ANエンジンはステップ3を引き続き実行する。そのようなトリガが存在しない場合には、ビートを含んでいるデータベースが存在するストーリメモリ及びユーザ情報のみを用いて問い合わせられる(ステップ3)。新しいビートが選択される前に、古いビートの事後条件部が実行され、ストーリ値の任意の変化がストーリメモリに伝達されもする。我々の例では、床のセンサのイベントが解釈され、新しいビートに対してクエリをトリガし、これはクエリの属性の場所(「風呂」)及び床のセンサの上に立っている人(子供)のユーザIDを含む。
ステップ3(ビートの検索807):ビートを検索し、ランク付けする。幾つかの同様の手段に従って、ビートのクエリが最上位の結果と比較される。最もよく適合するビートが選択され、ステップ4において最終決定される。ビートのクエリに用いられるストーリ値は、ストーリメモリから読み出され、クエリ語として挿入される。ランキングがある閾値を下回っていると、ビートを返さないことが可能であり、これは、アンビエントブラウザにおいて現在起動しているアプリケーション及びプレゼンテーションが依然として最も関連のあるものであることを意味する。ミラーテレビ400の例では、最もよく適合するビートは、図4に示されているように、歯磨きの行為をより楽しくする漫画を表す双方向性のマルチメディアプレゼンテーションである。
ステップ4(ビートの最終決定809):選択されたビートを最終決定する。すなわち、オープンパラメータに情報を与える。新しく選択されたビートのアクション部における組み込みクエリが実行される。組み込みコンテンツクエリに用いられるストーリ値は、ストーリメモリから読み出され、クエリ語として挿入される。これらのクエリの結果(コンテンツアイテムを示すURLのリスト)が、一貫性/可用性に関して調べられる。上記結果が利用可能であると、これらは最終決定されているビート記述に挿入される。ビートが最終決定され得ない場合には、ステップ3に戻ることにより新しいビートが選択される。アンビエントブラウザがいつそれらを解雇(fire)するかに反応すべきであるトリガ及びストーリ値は、(ステップ5のために)この段階において特定されもする。ANエンジンは、ここで歯磨きのビートのアクション部を読み出し、サーバから今日の漫画のURLを検索して取り出し、該URLをSMIL文書の最終的な形であるSMILテンプレートに挿入する。
ステップ5(セッションの更新811):このアンビエントナラティブのセッションにおいてアクティブなストーリメモリ及びユーザプロファイルを更新する。セッションの管理もまた、このステップにおいて行われる。
ステップ6(最終決定されたビートの設定812):ANエンジンがリスンするトリガを設定し、ANエンジンがリスンすべきトリガ及びプレゼンテーションを更新するために最終決定されたビートをアンビエントブラウザに送る。エンジンは、ここでもまたこのセッションにおいてアンビエントブラウザからのイベントを待っている。すなわち、エンジンはステップ1(801)に戻る。媒体により向上する歯磨きの例400では、対話型の漫画のプレゼンテーションを記述した最終のSMIL文書がアンビエントブラウザに転送され、ビート記述の初期化部が実行され、ストーリメモリの「歯磨きの」ストーリ値を設定する。その後、ANエンジンは、SMIL文書において指定されたビートクエリ及びビートリンクに対応し得るトリガを設定する。
上記アンビエントナラティブエンジンの設計は、没入型の対話式のストーリにビートを順序づけるためにユーザ入力及びストーリメモリを用いるドラママネージャである。組み込みクエリはビート記述言語において認められるので、リンク構造はユーザのやりとりに基づいて適応し、ノードもまたある程度適応可能である。
内容保持層:プロット材料
人がナラティブレベル又はハイパーメディアレベルを見るかどうかに依存して、SMIL文書は、アトミックコンポーネント又はコンポジットコンポーネントのいずれか一方である。最初のケースでは、内容保持層のコンポーネントコンテンツはSMIL文書であり、2番目のケースでは、コンポーネントコンテンツはメディアオブジェクト、テキスト、画像、音声、映像及びライトスクリプトのような他のモダリティである。アンビエントナラティブエンジンによる迅速な検索のために、全てのコンポーネントの情報及びコンテンツは索引を入れられ、アンビエントナラティブデータベースに記憶される。
上述のものは、エンドユーザ(公衆の構成員)により組み立てられ得るより小さいモジュラ部品においてアンビエントインテリジェンス環境を壊すやり方である。所謂アンビエントナラティブと対話することにより、エンドユーザは、予め経験を積んだ設計者により定められる多数の可能性から自身のパーソナルストーリ、自身のアンビエントインテリジェンスを作成する。この方法は、個々のエンドユーザが自身のアンビエントインテリジェンスを作成することを可能にするが、エンドユーザは予め定義されたパスに従うので、カスタマイゼーションは依然として制限される。今までのところ、エンドユーザは、書き手ではなく専ら読み手として見られている。エンドユーザが自分のアンビエントインテリジェンス環境をプログラミングすることを可能にするために、好ましい実施の形態は、エンドユーザが自分のビートを作成し、直感的なやり方で該ビートをアンビエントナラティブに加えることを可能にする。
アンビエントナラティブを読むことを実行する行為とみなすと、アンビエントナラティブを書くことはパフォーマンスのリハーサルと見られ得る。役者及び舞台裏のスタッフは、ステージフロアにおいて小道具を配列し直し、照明をセットし、台本を声に出して読むことにより、演劇をリハーサルする。役者は、後にステージでパフォーマンスを行う際、この振舞いを繰り返し、ステージ上の小道具および役者の構成物を繰り返し用いる。このシナリオにおいて役者及び舞台裏のスタッフが、エンドユーザが作業に従事している環境によりエンドユーザ及び演劇に置き換えられると、対話型のメタファは、アンビエントインテリジェンス環境のエンドユーザによるプログラミングをもたらす。
エンドユーザが既存のビートを書く又は変更することを可能にするために、好ましい実施の形態により以下のことが与えられる。すなわち、
1.エンドユーザに対するアンビエントナラティブの可視化101
2.ビートはアプリケーション及び事前条件のセットから成るため、エンドユーザが事前条件及びアプリケーションを指定することを可能にするインターフェース
3.アンビエントナラティブを更新する機能
が与えられる。以下のセクションにおいてこれらのそれぞれが議論される。
1.アンビエントナラティブの可視化
好ましい実施の形態では、エンドユーザに対してアンビエントナラティブを可視化するために、ワイヤレスディスプレイが位置する部屋においてどのビートがアクティブであるかを示すディスプレイ101を備えた当該ワイヤレスデバイス(例えば、PDA、ウェブタブレット又は携帯電話)が用いられ得る。エンドユーザは、このワイヤレスディスプレイを持ち運んでいるので、アクティブであるビートを容易に見ることができる。現在の部屋でアクティブであるビートの次に、エンドユーザは、アンビエントナラティブの状態および起こり得る遷移をもっとよく見るためにビート間の入ってくるリンク及び出て行くリンクを見ることもできる。図1はアンビエントナラティブの可視化を示しており、この図において、B1ないしB4は、モバイルデバイス101と同じ場所で現在アクティブであるビートを表している。
2.ビートの事前条件及びアクションの指定
ユーザがアクティブなビートを開くと、ユーザが当該ビートに属する事前条件及びアプリケーションを見ることができる新しいウィンドウが現れる。図12は、作成中のオーサリングアプリケーションの画面例を示している(新しいビートが本質的には空ビートを変更している。)。プレビュー領域1201は、ビートの作用が何であるかを示している(この場合のプレビューは画像である。)。事前条件部1202は、ユーザがコンテクストの事前条件を追加又は削除することを可能にする。アクション部1203は、ユーザが可能なアプリケーション又はスクリプトのリストから選択することを可能にする。ユーザがアクションを選択すると、コード(SMILマークアップ)が下のテキスト領域に示される。
ユーザは、また、(例えば、ディスプレイの空きスペースをクリックすることにより)ビートを削除する又はビートを追加するように選択することができる。ビートのカスタマイゼーション又は作成は、事前条件及びアクション記述部が情報を与えられることを要する。
A.事前条件部
1.プロップに関する条件の設定:ユーザは、特定の環境(ambience)を用いたい部屋においてデバイスをタッチ又はそうでなければ選択する。ユーザがオーディオブックを聞きたい場合、ユーザは、室内のステレオとタッチパッドとを選択し、例えば、
・人が退屈すると、タッチパッドは、オーディオブック内をナビゲートするために用いられ得る(一時停止、早送り等)又は他のオーディオブックを選択し得る。これは、標準的な対話の間に生じることである。
この振舞いをプログラミングすることが望まれる場合、新しいビートが作成されなければならず、用いられるためのデバイス(及びこのセットと動作するアプリケーション)が選択されなければならない。これは、それらのデバイスに触れること又は何らかの種類のバーコードによりデバイスに視覚的に印を付け、このバーコードをPDAにより読み出すことにより行われ得る。最初の方法は、各デバイスが触れられ、「新しいビート」又は「編集ビート」のモードがアクティブである時に、各デバイスが内蔵式のセンサを有することを必要とし、これは、オーサリングツールの事前条件のリスト(図12、要素1202参照)においてポップアップする新しいデバイスをもたらす。2番目の方法は、新しい又は編集ビートのモードの間にデバイスのビジュアルマーカ(例えば、バーコード)に対してPDAを閉じておくことができる。この後者の手法は、古い装置が用いられることも可能にする。
2.役者に関する条件の設定:エンドユーザは、その役に似ている衣服を着用することにより役者としてのユーザの役割を示す。例えば、バスローブを着用することにより、ユーザは該ユーザが浴室の行為をプログラミングしていることを示す(サービス環境では、衣装が既に役を示していることが多い。)。ユーザが自分の環境をプログラミングするために持ち運んでいるPDAに組み込まれたRFIDタグ読取り器により検出(sensing)が行われる。代案は、(デバイスに関して前に議論されたものと同じ)PDAの付いた衣装のビジュアルマーカをスキャンすることである。タグ又はビジュアルマーカは、これが機能するために重複しないものでなければならず、記述のリファレンスが存在すべきである。タグ又はビジュアルマーカが、PDAにより用いられ得るオブジェクトに関する情報を含むウェブ上のXML文書にURLを符号化することを考えることは容易である。
3.ステージにおける条件の設定:エンドユーザは、部屋を歩くことにより位置を示すことができる。上記オーディオブックの例では、ユーザは、暖炉の近くのアームチェアに移動する。ユーザインターフェースでは、エンドユーザはユーザが歩いた場所が強調表示されていることを確認する(例えば、歩くことは、ディスプレイにおいて絵筆の作用がある)。これは、図2において分かる。ユーザ207は歩き回ることにより領域208を生み出した。図2は、上記画面例に示されている単純なツリーよりも事前条件をプログラミングする詳細なやり方である。
4.パフォーマンスに関する条件の設定:衣装を用いること及びデバイスを選択することは、既にパフォーマンスを制限しているかもしれない。エンドユーザは、通常のやり方(例えば、ユーザが持ち運んでいるワイヤレスデバイスのユーザインターフェースを通して)で(ステージにも関連する)時間及び日付のような制約を更に設定することができる。オーディオブックの例では、時間が夕方に設定され得る。
5.スクリプトに関する条件の設定:エンドユーザは、また、1つ又はそれ以上の状態を既存の事前条件と関連づけ得る。例えば、「静かなリラックスさせる」状態が当てはまる場合にビートが専ら開始され得ることを示すように「静かな/リラックスさせる」状態がエンドユーザにより追加される。座る又は歩くことのようなイベントは、パフォーマンスに対する制約である。今のところは、信頼性の高いやり方でセンサを用いてこれらのハイレベルのイベントの多くを容易に推定することは可能ではなく、パフォーマンスに関する条件を設定することは、好ましい実施の形態では時間及び日付に限定される。スクリプトに関する条件の場合は、これがまさに当てはまる。誰かが静かなリラックスさせる状態にあるかどうかを感じることは難しい。状態又はストーリ値の概念は、アンビエントナラティブのモデルにおいて過去及び未来の感覚を取り入れる。1つの手法はビートに関してストーリ値を設定することであり、その場合、これは未来のビートの選択プロセスに影響を及ぼす。好ましい実施の形態では、これらの状態は、状態のリストからユーザにより選択される。
B:アクション部
1.アプリケーションの選択:エンドユーザは、モバイルデバイス101のインターフェースを介して(選択されるデバイスの可能性によりフィルタリングされた)アプリケーションのプールから1つ又はそれ以上のアプリケーションを選択し、そのアプリケーションを事前条件と関連付けることができる。
一度上記の全てのステップが行われると、ビートが保存され得る。図2は、完成したビートを示している。ディスプレイの右側201は、ステージを表している。選択されたデバイス(四角)206、ユーザ207及びユーザが歩いたスペース208が強調表示される。ステージ上のストーリ値「walking」209はスクリプトの事前条件を示している。左側は、右側のコンテクストの事前条件と関連しているアプリケーションを表すアイコン203を示している。このアイコンの下のストーリ値のリスト202は、事前条件からのストーリ値を追加する又は削除するために用いられる。保存ボタン204及び取り消しボタン205は、ビートを更新する又は(存在する場合には)より早いバージョンに戻るために用いられる。
エンドユーザは、モバイルデバイスのディスプレイ上に表現されるステージに対するユーザのリハーサルの行動の影響を常に認識する。このように、エンドユーザは直接フィードバックを得る。ほとんどの既存のエンドユーザのプログラミング技術及び方法に反して、好ましい実施の形態では、プログラミングはリハーサルにより実世界において行われ、仮想世界、例えばスクリーン上では行われない。リハーサルプロセスに対するフィードバックのみが仮想チャネルを通して与えられる。すなわち、ユーザは、ユーザが自分のPDA(図2)上で何を行っているのかが分かる。これは、ユーザが、新しいデバイスをタッチ又はスキャンする(206)時及びユーザが大きくなっている領域208を見るステージを設定するためにユーザが歩き回る時に図2に表示されている新しいデバイスを認識することを意味する。
3.アンビエントナラティブの更新
アンビエントナラティブは、ビートが保存された後、自動的に更新される。ビートに対するデフォルトの振舞いは、全ての事前条件が当てはまるようになる場合に限りアクティブな状態にされ、ここでは、アンビエントナラティブの構造についてのそこそこの情報しか必要とされない。どのアンビエントナラティブも、1つ又はそれ以上のステージのビート(各分離したステージのための1つのステージのビート)をトリガする初期化ビート文書を有する。アンビエントナラティブのこの部分は固定され、エンドユーザにより変更され得ない。上記ステージのビートのトップでは、エンドユーザは自分のビートを作成することができる。デフォルトにより、ユーザの作成したビートは、当該ビートが属するステージと関連がある。これを行うために、オーサリングエンジンはステージビートを変更し、全ての事前条件が成立する時にユーザの作成したビートはトリガされる。これは、デフォルトの振舞いを作成する(全ての事前条件が当てはまるようになった場合にビートが専らアクティブな状態にされる。)。
エンドユーザは、当該ビートを他の既に存在するビートと関連づけることによりこの振舞いをオーバーライドすることができる。エンドユーザは、全体の構造がそのままであることを確実にするために専らユーザビート間のリンクを作成することができる。選択されたビートがリンクのターゲットであると、トリガがステージビートから削除され、アンカービートにおいてリンクになる。これは、選択されたビートが、ここでは、この他のビートからアクティブな状態にされる場合にのみアクティブにされ得ることを意味する。これが生じると、アンビエントナラティブエンジンは、ターゲットの事前条件の全てが当てはまるかどうか調べられ、それが当てはまる場合には、リンクのターゲットを開始する。これは、以下のように作用する。
・エンドユーザはオーバービュースクリーン上でビートを選択する。オーバービュースクリーンの一例は、図1に示されている。存在するビートのセットは、PDAが位置するステージ上で現在アクティブであるビートのセットである。過去と現在との間の矢印は入ってくるリンクであり、現在と未来との間の矢印は出て行くリンクである。このアイデアは、ユーザが、新しく作成された又は変更されたビートを入ってくる部分のビート又は出て行く部分のビートのいずれか一方(しかしながら、決して両方ではない。)に関連づけることである。最初のケースでは、新しく作成された又は変更されたビートは新しいリンクのターゲットであり、2番目のケースでは、新しく作成された又は変更されたビートは新しいリンクのアンカである。
・エンドユーザは、他のビートを選択する(ユーザが1つ以上のビートを選択したい、従って2つの選択されたビート間のリンクを作成したいことを示すためにPDA上でボタンを押されたままにする)か、又は、選択するためにビートのリストを提示するオーバービュースクリーンの入ってくる部分102又は出て行く部分105における空き領域をクリックする。両方の選択されたビートを示すモバイルデバイスのディスプレイにウィンドウが現れる。エンドユーザは必要に応じてこれを変更することができる。これは、図3に示されている。新しく作成された又は変更されたビートが左側302により表される場合、新しく作成/変更されたビートがリンクのアンカを形成する当該リンクを形成している。新しく作成/変更されたビートが右側301に示される場合には、それはリンクのターゲットになる。
・エンドユーザは、ここでは、リンクがトラバースされるべきである時をより正確に指定するために更にリンクのアンカをカスタマイズすることができる。図3のケースでは、ユーザは、アンカービートに連動しているアプリケーションにおいて「テレビ」状態が達せられた時にリンクがトラバースされることを望んでいることを選択している。アプリケーションの状態は、ユーザにより作成されることができず、アプリケーションプログラマが作成している。用いられるアプリケーションにおけるビート−オーサリングアプローチに対するサポートが存在しなければならない。最初に、エンドユーザがアプリケーションにおけるリンクの指示を追加することができるようにアプリケーションにおいて「フック」を追加するやり方が存在しなければならない。図3の3つのオプション(音楽、ビデオ及びテレビ)は、外界に曝され、接続され得る状態である。第2に、アプリケーションはアンビエントナラティブエンジンとやりとりできなければならない。そうでなければ、リンクをトラバースするためのコマンドが該エンジンに達しない。第3に、アプリケーションは、連動しているビートがもはや有効ではないとエンジンが決定した場合にアンビエントナラティブエンジンのコマンドを停止させるために応答もしなければならない。ユーザは、リンクが追従された後にアンカービートが削除される(置き換えられる)べきであるか否(追加される)かを指定することもできる。
・エンドユーザが選択をすると、ビートのオーバービュースクリーンに新しいリンクが現れる。
このように、エンドユーザは、ビートが自動的にアクティブにされるべきであるかどうか又はビートが他のアプリケーションから開始されなければならないかどうかを指定することができる。
図9は、リハーサルによりプログラミングするアクション905及びディスプレイ904におけるユーザの選択903のフィードバックを与える仮想環境101と、それらの間にビート及びリンクを含むANエンジン901及びストーリメモリ902とを有するアンビエントインテリジェンス環境をリハーサルによりプログラミングする装置を示している。
図10は、図9の装置と、リハーサルによりプログラミングするイベント905が生じる「インテリジェント」デバイス及び衣装のネットワーク1001とを含むシステムを示している。
図11は、アーキテクチャの詳細なシステムを説明している。エンドユーザは、PDA上のグラフィカルユーザインターフェース(GUI)を通してどのビートがアクティブであるかを調べ、ビート及びリンクを作成/変更することができる(スクリーンのオーバービュー、リンクの作成/編集、ビートの作成/編集及び事前条件の編集904)。エンドユーザは、また、事前条件を暗黙的に設定することもできる(事前条件の編集)。一度エンドユーザが満足すると、エンドユーザは、新しい又は編集されたビート又はリンクを保存することができる。ANエンジン901へのオーサリングインターフェース1002は、アンビエントナラティブコンテンツを更新し、状態を計算し直さなければならないことをアンビエントナラティブエンジンに知らせる。ANエンジン901は、その状態を調べ、既存のアクティブなビートが変更されなければならないかどうかを明らかにするために、アンビエントナラティブコンテンツのデータベース902にクエリを行う。ANエンジンは、また、任意の新しいビートが開始されなければならないかどうか又は古いビートが中止されなければならないかどうかを調べるために、ステージのビートにおいて追加された又は削除されたトリガに関して調べる。ANエンジン902は、これらの変化と対応させるためにその状態1003を更新し、アクティブなビートのセットの変化のレンダリングプラットフォーム及びエンドユーザのプログラミングツールの両方に通知する。エンドユーザのプログラミングGUIは、オーバービュースクリーンを更新する。レンダリング及び対話型のプラットフォームは、文書の新しいセットに従って実行しているプレゼンテーションを更新し、個々のデバイスにアンビエントインテリジェンス経験のそれらの部分を与えるように指示する。エンドユーザは、すぐに、環境(異なるアンビエントインテリジェンスの経験)及び自分のオーサリングインターフェース(異なるアクティブなビートのセット)を通して自分の行動のフィードバックを見る。
本発明のシステム、装置及び方法は、一般に、日常生活のパフォーマンスをサポートするように設計された媒体により向上する環境(アンビエントインテリジェンス環境)及びコンテクストを意識したシステムに当てはまる。
本発明の好ましい実施の形態が図示され、説明されたが、当業者であれば、本明細書において説明されたようなアンビエントインテリジェンス環境のリハーサルによりプログラミングするシステム、装置及び方法は実例であり、本発明の真の範囲から逸脱することなく種々の変更及び改良がなされ、それらの要素の代わりに同等のものが用いられ得ることが理解されるであろう。また、中心的な範囲から逸脱することなく本発明の教示を適応させるように多くの改良がなされ得る。従って、本発明は、本発明を実行するために考えられた最良の態様として開示された特定の実施の形態に制限されるものではなく、添付の特許請求の範囲の範囲内に入る全ての実施の形態を含んでいる。
ワイヤレススクリーンが存在する部屋においてどのビートがアクティブであるかを示すディスプレイを備えたモバイルデバイスを示している。 モバイルデバイスのディスプレイよりなる完成したビートを示している。 リンクするビートを示している。 本発明に係るアンビエントインテリジェンス装置を含むミラーテレビを示している。 本発明に係るアンビエントインテリジェンス装置を含む医療用画像デバイスを示している。 ハイレベルのアンビエントナラティブシステムアーキテクチャの3層モデルへのマッピングを示している。 図4のミラーテレビの例に関するSMIL文書の概略を示している。 アンビエントナラティブエンジンの流れ図を与えている。 リハーサルによりアンビエントインテリジェンス環境をプログラミングする本発明に従って変更された装置を示している。 アンビエントインテリジェンスサービスを提供するために本発明に従って変更されたネットワーク化されたワイヤレスデバイスのシステムを示している。 図9の装置をより詳細に説明している。 エンドユーザが自分のビートを追加/削除することができるアンビエントナラティブの構造を示している。

Claims (24)

  1. アンビエントインテリジェンス環境をプログラミングするエンドユーザ用のシステムであって、
    少なくとも1つの事前条件を有する事前条件部と、前記少なくとも1つの事前条件に関連する少なくとも1つのアプリケーションを有するアクション部とを持つ少なくとも1つのビートを含むアンビエントナラティブを前記エンドユーザに対して視覚化するアンビエントナラティブエンジンであって、前記少なくとも1つのビートのデフォルトの振舞いは、ビートの全ての前記事前条件が当てはまるようになった時に前記少なくとも1つのアプリケーションが実行されることである当該アンビエントナラティブエンジンと、
    エンドユーザが、ビートのプログラミングオプションを与えられるとともに、前記少なくとも1つのビートに対して前記エンドユーザにより実世界において呼び出されるリハーサルによるプログラムのプログラミングオプションの効果のフィードバックを与えられる仮想ステージを有するインターフェースと
    を有する当該システム。
  2. ある場所を持ち、表示される前記仮想ステージを有するスクリーンを含む対話型のメタファとして前記インターフェースを有するポータブルワイヤレスデバイスと、
    前記場所においてアクティブである各ビートと、
    各アクティブなビート間の入ってくるリンク及び出て行くリンクと
    を更に有する請求項1記載のシステム。
  3. 前記少なくとも1つの事前条件は、小道具、役者、ステージング、パフォーマンス及び台本から選択されるアイテムに対して事前条件を指定する前記エンドユーザを有し、
    前記少なくとも1つのアプリケーションは、前記少なくとも1つの事前条件の可能性によりフィルタリングされた所定のアプリケーションのプールから選択され、
    前記ポータブルワイヤレスデバイスは、更に、前記エンドユーザが、表示されたビートの変更のために当該表示されたビートを指定することと、表示されたビートを削除することと、新しいビートを加えることとからなる群から選択される機能を、実世界においてリハーサルによりプログラムミングし、前記仮想ステージでフィードバックを受け取ることを可能にするように構成された
    請求項2記載のシステム。
  4. 前記小道具に関する前記事前条件は、リハーサルされた前記ビートに含まれる前記場所において少なくとも1つのデバイスの前記エンドユーザによるタッチを含み、
    前記役者に関する前記事前条件は、リハーサルされたビートにおいて前記役者により演じられる役を示す衣装の前記エンドユーザによる指定を含み、
    前記ステージングに関する前記事前条件は、前記場所における第1の位置から第2の位置までの前記エンドユーザによる歩行を含み、
    前記パフォーマンスに関する前記事前条件は、時刻及び日付からなる群から選択されるアイテムの前記エンドユーザによる指定を含み、
    前記台本に関する前記事前条件は、雰囲気の前記エンドユーザによる描写を含む
    請求項3記載のシステム。
  5. 前記エンドユーザが表示されたビートの変更及び新しいビートの追加からなる群からの機能を選択すると、前記スクリーンは、前記エンドユーザにより前記ビートに加えられる互いに関連付けられ得る前記ビートの少なくとも1つの事前条件及びアプリケーションを含むウィンドウを更に表示する請求項4記載のシステム。
  6. 複数のビートが存在し、前記エンドユーザは、ターゲットビートとしての第1のビートのアンカービートとして前記複数のうちの他の既に存在するビートとのリンクにより前記第1のビートの前記デフォルトの振舞いをオーバーライドする請求項5記載のシステム。
  7. 前記アンカービートのアプリケーションは、新しいアプリケーションが開始され得るイベントのリストを含み、前記ターゲットビートは前記リストの1つのイベントにリンクされる請求項6記載のシステム。
  8. 前記アンカービートは、前記アンカービートから前記ターゲットへのリンクがトラバースされた後、前記アンビエントナラティブから削除される請求項7記載のシステム。
  9. アンビエントインテリジェンス環境をプログラミングするエンドユーザ用の装置であって、
    少なくとも1つの事前条件を有する事前条件部と、前記少なくとも1つの事前条件に関連する少なくとも1つのアプリケーションを有するアクション部とを持つ少なくとも1つのビートを含むアンビエントナラティブを前記エンドユーザに対して視覚化するアンビエントナラティブエンジンモジュールであって、前記少なくとも1つのビートのデフォルトの振舞いは、ビートの全ての前記事前条件が当てはまるようになった時に前記少なくとも1つのアプリケーションが実行されることである当該アンビエントナラティブエンジンモジュールと、
    前記エンドユーザが、ビートのリハーサルによるプログラミングのオプションを与えられるとともに、前記オプションが前記少なくとも1つのビートに対して実世界において呼び出されると、前記オプションの前記エンドユーザにより選択のそれに関する効果の視覚化する前記アンビエントナラティブエンジンモジュールにより瞬時のフィードバックを与えられる仮想ステージを有する視覚インターフェースと
    を有する当該装置。
  10. 前記視覚インターフェースは、前記仮想ステージに表示されるスクリーンを含む対話型のメタファと、
    場所においてアクティブである各ビートと、
    各アクティブなビート間の入ってくるリンク及び出て行くリンクと
    を更に有する請求項9記載の装置。
  11. 前記少なくとも1つの事前条件は、小道具、役者、ステージング、パフォーマンス及び台本から選択されるアイテムに関して事前条件を有し、
    前記少なくとも1つのアプリケーションは、前記少なくとも1つの事前条件の可能性によりフィルタリングされた所定のアプリケーションのプールから選択され、
    前記視覚インターフェースは、更に、前記エンドユーザが、表示されたビートの変更のために当該表示されたビートを指定することと、表示されたビートを削除することと、新しいビートを加えることとからなる群から選択される機能を、実世界においてリハーサルによりプログラムミングし、前記仮想ステージでフィードバックを受け取ることを可能にするように構成された
    請求項10記載の装置。
  12. 前記小道具に関する前記事前条件は、リハーサルされた前記ビートに含まれるある場所において少なくとも1つのデバイスの前記エンドユーザによるタッチを含み、
    前記役者に関する前記事前条件は、リハーサルされた前記ビートにおいて前記役者により演じられる役を示す衣装の前記エンドユーザによる指定を含み、
    前記ステージングに関する前記事前条件は、ある場所における第1の位置から第2の位置までの前記エンドユーザによる歩行を含み、
    前記パフォーマンスに関する前記事前条件は、時刻及び日付からなる群から選択されるアイテムの前記エンドユーザによる指定を含み、
    前記台本に関する前記事前条件は、雰囲気の前記エンドユーザによる描写を含む
    請求項11記載の装置。
  13. 前記エンドユーザが表示されるビートの変更及び新しいビートの追加よりなる群からの機能を選択すると、前記視覚インターフェースは、前記ビートの少なくとも1つの事前条件およびアプリケーションを含むウィンドウを更に表示し、
    前記視覚インターフェースは、更に、前記エンドユーザが前記少なくとも1つのアプリケーションを前記エンドユーザにより前記ビートに加えられる前記少なくとも1つの事前条件と関連付けることを可能にするように構成された
    請求項12記載の装置。
  14. 複数のビートが存在し、前記視覚インターフェースは、更に、前記エンドユーザが、ターゲットビートとしての第1のビートをアンカービートとしての前記複数のうちの他の既に存在するビートと結びつけることにより、前記第1のビートの前記デフォルトの振舞いをオーバーライドすることを可能にするように構成された請求項13記載の装置。
  15. 前記アンカービートのアプリケーションは、新しいアプリケーションが開始され、前記エンドユーザがターゲットビートを前記リストの1つのイベントにリンクし得るイベントのリストを含む請求項14記載の装置。
  16. 前記アンカービートから前記ターゲットビートへのリンクがトラバースされた後、前記アンカービートは前記アンビエントナラティブから自動的に削除される請求項15記載の装置。
  17. アンビエントインテリジェンス環境をリハーサルによりプログラミングするエンドユーザのための方法であって、
    少なくとも1つの事前条件を有する事前条件部と、前記少なくとも1つの事前条件に関連する少なくとも1つのアプリケーションを有するアクション部とを持つ少なくとも1つのビートを含むアンビエントナラティブを提供するステップであって、前記少なくとも1つのビートのデフォルトの振舞いは、ビートの全ての前記事前条件が当てはまるようになった時に前記少なくとも1つのアプリケーションが実行される当該ステップと、
    仮想ステージを有する視覚インターフェースを提供するステップと、
    前記与えられた仮想ステージで前記アンビエントナラティブの前記少なくとも1つのビートを前記エンドユーザに対して視覚化するステップと、
    前記視覚インターフェースを介して前記エンドユーザにビートのプログラミングオプションを与えるステップと、
    前記与えられたビートのプログラミングオプションを用いて前記アンビエントナラティブに含まれる少なくとも1つのビートを前記エンドユーザがリハーサルによりプログラミングするステップと、
    前記エンドユーザにより実世界において呼び出される前記少なくとも1つのビートをリハーサルによりプログラミングすることの効果を前記仮想ステージにフィードバックするステップと
    を有する当該方法。
  18. 視覚インターフェースを提供する前記ステップは、表示される前記仮想ステージを有するスクリーンを含む対話型のメタファを提供するステップと、
    ある場所においてアクティブである各ビートと、
    各アクティブなビートの間の入ってくるリンク及び出て行くリンクと
    を更に有する請求項17記載の方法。
  19. 前記アンビエントナラティブを提供する前記ステップは、前記エンドユーザが、
    小道具、役者、ステージング、パフォーマンス及び台本から選択されるアイテムに対して前記少なくとも1つの事前条件と、
    前記少なくとも1つの事前条件の可能性によりフィルタリングされた所定のアプリケーションのプールから前記少なくとも1つのアプリケーションと
    を指定するステップを更に有し、
    前記与えるステップは、前記エンドユーザが、表示されたビートの変更のために当該表示されたビートを指定することと、表示されたビートを削除することと、新しいビートを加えることとからなる群から選択される機能を、実世界においてリハーサルによりプログラムミングし、前記仮想ステージでフィードバックを受け取るステップを更に有する
    請求項18記載の方法。
  20. 前記小道具に関する前記事前条件は、リハーサルされている前記ビートに含まれる前記場所において少なくとも1つのデバイスの前記エンドユーザによるタッチを含み、
    前記役者に関する前記事前条件は、リハーサルされている前記ビートにおいて前記役者により演じられている役を示す衣装の前記エンドユーザによる指定を含み、
    前記ステージングに関する前記事前条件は、前記場所における第1の位置から第2の位置までの前記エンドユーザによる歩行を含み、
    前記パフォーマンスに関する前記事前条件は、時刻及び日付からなる群から選択されるアイテムの前記エンドユーザによる指定を含み、
    前記台本に関する前記事前条件は、雰囲気の前記エンドユーザによる描写を含む
    請求項19記載の方法。
  21. 前記エンドユーザが表示されたビートの変更及び新しいビートの追加からなる群から機能を選択する場合、
    互いに関連し得る前記ビートの少なくとも1つの事前条件及びアプリケーションを含むウィンドウをスクリーンが表示するステップと、
    前記エンドユーザにより前記スクリーン表示から前記ビートへの関連付けを加えるステップと
    を更に有する請求項20記載の方法。
  22. アンビエントナラティブを提供する前記ステップと、
    前記エンドユーザによって、ターゲットビートとしての第1のビートのアンカービートとして前記複数のうちの他の既に存在するビートとのリンクにより前記第1のビートの前記デフォルトの振舞いをオーバーライドする前期ステップと
    により複数のビートが与えられる請求項21記載の方法。
  23. 前記アンカービートのアプリケーションに新しいアプリケーションが開始され得るイベントのリストを含めるステップと、
    前記ターゲットビートを前記リストの1つのイベントにリンクさせるステップと
    を更に有する請求項22記載の方法。
  24. 前記アンカービートから前記ターゲットへのリンクがトラバースされた後、前記アンビエントナラティブから前記アンカービートを削除するステップを更に含む請求項23記載の方法。
JP2008531871A 2005-09-23 2006-09-22 リハーサルによりプログラミングする方法 Expired - Fee Related JP5027140B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US72008605P 2005-09-23 2005-09-23
US60/720,086 2005-09-23
PCT/IB2006/053459 WO2007034455A2 (en) 2005-09-23 2006-09-22 Method for programming by rehearsal

Publications (2)

Publication Number Publication Date
JP2009509262A true JP2009509262A (ja) 2009-03-05
JP5027140B2 JP5027140B2 (ja) 2012-09-19

Family

ID=37709446

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008531871A Expired - Fee Related JP5027140B2 (ja) 2005-09-23 2006-09-22 リハーサルによりプログラミングする方法

Country Status (6)

Country Link
US (1) US8036995B2 (ja)
EP (1) EP1929435A2 (ja)
JP (1) JP5027140B2 (ja)
CN (1) CN101305388B (ja)
RU (1) RU2429536C2 (ja)
WO (1) WO2007034455A2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8589821B1 (en) * 2007-08-27 2013-11-19 Sandia Corporation Storyboard method of end-user programming with natural language confirmation
WO2009153708A1 (en) * 2008-06-18 2009-12-23 Koninklijke Philips Electronics N. V. Programming system and method for programming an interactive system
US9582506B2 (en) * 2008-12-31 2017-02-28 Microsoft Technology Licensing, Llc Conversion of declarative statements into a rich interactive narrative
US10592596B2 (en) * 2011-12-28 2020-03-17 Cbs Interactive Inc. Techniques for providing a narrative summary for fantasy games
US10540430B2 (en) 2011-12-28 2020-01-21 Cbs Interactive Inc. Techniques for providing a natural language narrative
US20140113268A1 (en) * 2012-10-22 2014-04-24 Microsoft Corporation Interactive visual assessment after a rehearsal of a presentation
TWI475420B (zh) * 2013-06-03 2015-03-01 Utechzone Co Ltd Editable editing method of media interaction device and media interactive platform
CN107005747B (zh) 2014-07-31 2020-03-06 普达普有限公司 经由用户可选择的叙事呈现递送媒体内容的方法、设备和制品
WO2016115154A1 (en) 2015-01-14 2016-07-21 MindsightMedia, Inc. Data mining, influencing viewer selections, and user interfaces

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000512472A (ja) 1997-06-25 2000-09-19 サムソン エレクトロニクス カンパニー リミテッド ホームネットワークのためのプログラミングツール
GB9800590D0 (en) * 1998-01-13 1998-03-11 Bae Sema Ltd Intelligent human computer interface system
DE10129708A1 (de) 2001-06-22 2003-01-23 Thomson Brandt Gmbh Anordnung von Icons von Netzwerkkomponenten auf einem Bildschirm
KR20030000580A (ko) 2001-06-26 2003-01-06 주식회사 엘지이아이 통합 리모콘 장치 및 방법
US20040003548A1 (en) 2002-07-02 2004-01-08 Structural Design Engineers Framed structures with coupled girder system and method for dissipating seismic energy
US6882897B1 (en) * 2004-01-05 2005-04-19 Dennis S. Fernandez Reconfigurable garment definition and production method
US7429936B2 (en) * 2004-08-26 2008-09-30 Massachusetts Institute Of Technology Parasitic mobility in dynamically distributed sensor networks

Also Published As

Publication number Publication date
RU2429536C2 (ru) 2011-09-20
WO2007034455A2 (en) 2007-03-29
US8036995B2 (en) 2011-10-11
CN101305388A (zh) 2008-11-12
WO2007034455A3 (en) 2008-04-17
JP5027140B2 (ja) 2012-09-19
US20080256005A1 (en) 2008-10-16
RU2008115931A (ru) 2009-10-27
CN101305388B (zh) 2012-03-28
EP1929435A2 (en) 2008-06-11

Similar Documents

Publication Publication Date Title
JP5027140B2 (ja) リハーサルによりプログラミングする方法
André et al. WebPersona: a lifelike presentation agent for the World-Wide Web
WO2007020591A2 (en) System, apparatus, and method for augmented reality glasses for end-user programming
KR20100037119A (ko) 통신 방법, 시스템, 및 제품
Zhang et al. Auggie: Encouraging Effortful Communication through Handcrafted Digital Experiences
US20190172260A1 (en) System for composing or modifying virtual reality sequences, method of composing and system for reading said sequences
JP5821152B2 (ja) コンテンツ提供サーバ及びコンテンツ提供方法
Sacher et al. Towards a versatile metadata exchange format for digital museum collections
Agamanolis Isis, Cabbage and Viper: new tools and strategies for designing responsive media
Dasgupta Towards a unified framework for smart built environment design: an architectural perspective
JP5700521B2 (ja) 利用者のコンピューター上にて雛形の動画を見ながら好みの動画を編集して動画作品ファイルを作成するための実行ファイル、その使用方法
Liu Using Virtual Reality to Improve Design Communication
Kontakis et al. Applying aesthetic rules in virtual environments by means of Semantic Web technologies
Green Don’t forget to save! User experience principles for video game narrative authoring tools.
Charles et al. From computer games to interactive stories: interactive storytelling
van Doorn et al. Mass Customization in Ambient Narratives
Kurosu Human-Computer Interaction. Theoretical Approaches and Design Methods: Thematic Area, HCI 2022, Held as Part of the 24th HCI International Conference, HCII 2022, Virtual Event, June 26–July 1, 2022, Proceedings, Part I
Timplalexi et al. Intermedial and theatrical perspectives of AI: Re-framing the Turing test
Shanbaum The Interface Is Obsolete: A Critical Investigation of the Digital Interface in Interactive New Media Installations
González-Calleros A model-driven approach for developing three-dimensional user interfaces of information systems in a principle-based way.
Nouraei et al. Thinking Outside the Box: Non-Designer Perspectives and Recommendations for Template-Based Graphic Design Tools
Sandstrom Developing an Educational Video Game from Architectural Precedents
JP2004326698A (ja) リッチインターネットアプリケーション作成プログラムおよびこれを記録したコンピュータ読み取り可能な記録媒体並びにリッチインターネットアプリケーション作成方法
Mayo Emergent objects at the human-computer interface (HCI): A case study of artists' cybernetic relationships and implications for crtitical consciousness
Reski Change your Perspective: Exploration of a 3D Network created with Open Data in an Immersive Virtual Reality Environment using a Head-mounted Display and Vision-based Motion Controls

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120207

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120524

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120621

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150629

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees