JP6096341B1 - Display control method, terminal, program, and information processing apparatus - Google Patents

Display control method, terminal, program, and information processing apparatus Download PDF

Info

Publication number
JP6096341B1
JP6096341B1 JP2016027311A JP2016027311A JP6096341B1 JP 6096341 B1 JP6096341 B1 JP 6096341B1 JP 2016027311 A JP2016027311 A JP 2016027311A JP 2016027311 A JP2016027311 A JP 2016027311A JP 6096341 B1 JP6096341 B1 JP 6096341B1
Authority
JP
Japan
Prior art keywords
user
state
displayed
content
information indicating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016027311A
Other languages
Japanese (ja)
Other versions
JP2017146743A (en
Inventor
一九 李
一九 李
美京 崔
美京 崔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Line Corp
Original Assignee
Line Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Line Corp filed Critical Line Corp
Priority to JP2016027311A priority Critical patent/JP6096341B1/en
Application granted granted Critical
Publication of JP6096341B1 publication Critical patent/JP6096341B1/en
Publication of JP2017146743A publication Critical patent/JP2017146743A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】メッセージを受信した時のユーザの状態と、受信メッセージを関連付けて管理して、ユーザが所望のコンテンツを適切に抽出する表示制御方法、端末、プログラム及び情報処理装置を提供する。【解決手段】端末は、受信したコンテンツを、端末の画面に表示しS1301と、コンテンツが表示されたことに応じて、端末のユーザの状態を取得しS1302、コンテンツと、取得されたユーザの状態を示す情報とを対応付けS1306、コンテンツが再び画面に表示された時に、コンテンツと共に、ユーザの状態を示す情報を、画面に表示する。【選択図】図13Provided are a display control method, a terminal, a program, and an information processing apparatus for managing a state of a user when a message is received and a received message in association with each other and appropriately extracting a desired content by the user. The terminal displays the received content on the screen of the terminal, acquires a user status of the terminal in response to the display of the content and S1301, and the content and the acquired user status in S1302. In step S1306, when the content is displayed again on the screen, information indicating the state of the user is displayed on the screen together with the content. [Selection] Figure 13

Description

本発明は、表示制御方法、端末、プログラム、及び情報処理装置に関する。   The present invention relates to a display control method, a terminal, a program, and an information processing apparatus.

電子メールや、ソーシャルネットワークサービス(SNS)のチャットサービスのメッセージに所定の情報を対応付けて、送信することが提案されている。   It has been proposed that predetermined information is associated with an e-mail or a message of a social network service (SNS) chat service and transmitted.

例えば、端末Aにおいて、メッセージ作成時の端末Aのユーザの表情を認識し、作成されたメッセージと、認識された表情を表す情報とを、通信相手のユーザの端末Bに送信し、端末Bの画面にメッセージを、該メッセージに対応付けられた表情を示す情報と共に表示させることが提案されている(特許文献1)。   For example, the terminal A recognizes the facial expression of the user of the terminal A at the time of creating the message, and transmits the created message and information representing the recognized facial expression to the terminal B of the communication partner user. It has been proposed to display a message on a screen together with information indicating an expression associated with the message (Patent Document 1).

特開2002−116997号JP 2002-116997 A

しかしながら、提案されている方法では、メッセージを作成したユーザの表情を通信相手の端末Bに表示させることができるものの、端末Bのユーザのメッセージを受信したときの表情等の反応を、利用することは行われていなかった。   However, in the proposed method, the facial expression of the user who created the message can be displayed on the terminal B of the communication partner, but the reaction such as the facial expression when the message of the user of the terminal B is received is used. Was not done.

SNSのチャットサービスでは、多数のメッセージが送受信される場合が多く、多数のメッセージの中から、ユーザが所望のメッセージを抽出することが難しいケースがある。このため、受信メッセージを、受信側のユーザに関する情報と対応付け、対応付けられた情報を基に、ユーザがメッセージを抽出できるようにすることが好ましい場合がある。   In the SNS chat service, many messages are often transmitted and received, and it may be difficult for the user to extract a desired message from the many messages. For this reason, it may be preferable to associate the received message with information about the user on the receiving side and allow the user to extract the message based on the associated information.

本発明は、上記の課題に鑑みてされたものであって、ユーザに、所望のメッセージ等のコンテンツを適切に抽出させることを目的とする。   The present invention has been made in view of the above problems, and an object of the present invention is to allow a user to appropriately extract content such as a desired message.

一つの態様では、情報処理端末に、受信したコンテンツを、前記情報処理端末の画面に表示する第1のステップと、前記受信したコンテンツが表示されたことに応じて、前記情報処理端末のユーザの状態を取得する第2のステップと、前記受信したコンテンツと、取得された前記ユーザの状態を示す情報とを対応付ける第3のステップと、前記受信した複数のコンテンツが同時に、再び前記画面に表示される場合、前記複数のコンテンツの各々に対応付けられた前記ユーザの各状態に応じて、所定の表示領域に表示する前記ユーザの一の状態を決定し、前記画面に表示する第4のステップとを、実行させるプログラムが提供される。 In one embodiment, the information processing terminal, the received content, the first step of displaying on a screen of the information processing terminal in response to the content thus received is displayed, the user of the information processing terminal a second step of obtaining a status, and have the received content, a third step of associating the information indicating the state of the acquired user, a plurality of contents and the received simultaneously, appears again the screen And determining a state of the user to be displayed in a predetermined display area according to each state of the user associated with each of the plurality of contents, and displaying the state on the screen, the program to be executed is provided.

ユーザに、所望のコンテンツを適切に抽出させることが可能となる。   It is possible for the user to appropriately extract desired content.

第1の実施形態に係る情報処理システムの構成の一例を示す図である。It is a figure which shows an example of a structure of the information processing system which concerns on 1st Embodiment. 第1の実施形態に係る端末がユーザの状態を取得する様子を示す図である。It is a figure which shows a mode that the terminal which concerns on 1st Embodiment acquires a user's state. 第1の実施形態に係る端末の画面の表示の一例を示す図(その1)である。It is FIG. (1) which shows an example of the display of the screen of the terminal which concerns on 1st Embodiment. 第1の実施形態に係る端末の画面の表示の一例を示す図(その2)である。It is FIG. (2) which shows an example of the display of the screen of the terminal which concerns on 1st Embodiment. 第1の実施形態に係る端末の画面の表示の一例を示す図(その3)である。It is FIG. (3) which shows an example of the display of the screen of the terminal which concerns on 1st Embodiment. 第1の実施形態に係るユーザ状態管理テーブルの一例を示す図である。It is a figure which shows an example of the user state management table which concerns on 1st Embodiment. 第1の実施形態に係る情報処理装置のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the information processing apparatus which concerns on 1st Embodiment. 第1の実施形態に係る端末のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the terminal which concerns on 1st Embodiment. 第1の実施形態に係る端末の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the terminal which concerns on 1st Embodiment. 第1の実施形態に係る表情サンプル記憶テーブルの一例を示す図である。It is a figure which shows an example of the facial expression sample storage table which concerns on 1st Embodiment. 第1の実施形態に係る表情マーク記憶テーブルの一例を示す図である。It is a figure which shows an example of the facial expression mark memory | storage table which concerns on 1st Embodiment. 第1の実施形態に係る情報処理装置の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the information processing apparatus which concerns on 1st Embodiment. 第1の実施形態に係る動作フローの一例を示す図(その1)である。It is FIG. (1) which shows an example of the operation | movement flow which concerns on 1st Embodiment. 第1の実施形態に係る動作フローの一例を示す図(その2)である。It is FIG. (2) which shows an example of the operation | movement flow which concerns on 1st Embodiment. 第2の実施形態に係る動作シーケンスの一例を示す図(その1)である。It is FIG. (1) which shows an example of the operation | movement sequence which concerns on 2nd Embodiment. 第2の実施形態に係る動作シーケンスの一例を示す図(その2)である。It is FIG. (2) which shows an example of the operation | movement sequence which concerns on 2nd Embodiment. 第2の実施形態に係る端末の画面の表示の一例を示す図である。It is a figure which shows an example of the display of the screen of the terminal which concerns on 2nd Embodiment. 第2の実施形態に係るユーザ状態管理テーブルの一例を示す図である。It is a figure which shows an example of the user state management table which concerns on 2nd Embodiment. 第3の実施形態に係る情報処理装置の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the information processing apparatus which concerns on 3rd Embodiment. 第3の実施形態に係る端末の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the terminal which concerns on 3rd Embodiment.

[第1の実施形態]
<システム構成>
図1は、第1の実施形態に係る情報処理システム1のシステム構成を示す図である。情報処理システム1は、情報処理装置10と、端末20とを有する。情報処理装置10と端末20とはネットワーク2を介して接続される。ネットワーク2は、有線のネットワークと、無線のネットワークとを含む。
[First Embodiment]
<System configuration>
FIG. 1 is a diagram illustrating a system configuration of an information processing system 1 according to the first embodiment. The information processing system 1 includes an information processing apparatus 10 and a terminal 20. The information processing apparatus 10 and the terminal 20 are connected via the network 2. The network 2 includes a wired network and a wireless network.

情報処理装置10は、例えばサーバにより実現される。端末20は、スマートフォン、タブレット端末、PC(Personal Computer)、携帯電話機、ゲーム用コンソール、タッチパッド、電子書籍リーダ、又はウェアラブル端末等である。   The information processing apparatus 10 is realized by a server, for example. The terminal 20 is a smartphone, a tablet terminal, a PC (Personal Computer), a mobile phone, a game console, a touch pad, an electronic book reader, or a wearable terminal.

情報処理装置10は、端末20のユーザに、SNS(Social Network Service、ソーシャルネットワークサービス)を提供する。情報処理装置10は、SNSのひとつのサービスとして、端末20間でメッセージ、スタンプ、静止画、及び動画等のコンテンツの送受信を行うチャットサービスを提供する。   The information processing apparatus 10 provides the user of the terminal 20 with SNS (Social Network Service, social network service). The information processing apparatus 10 provides a chat service that transmits and receives content such as messages, stamps, still images, and moving images between the terminals 20 as one service of the SNS.

また、情報処理装置10は、端末20のユーザや、該ユーザと友達関係を有するユーザがメッセージ等のコンテンツを投稿し、投稿されたコンテンツを閲覧可能とするタイムラインサービスを提供する。   In addition, the information processing apparatus 10 provides a timeline service that allows a user of the terminal 20 or a user who has a friendship with the user to post content such as a message and view the posted content.

以下の説明では、チャットサービスにおいてメッセージの送受信がされる場合を中心に説明するが、チャットサービスにおいて、他のコンテンツについても同様の処理が適用できることは勿論である。また、タイムラインサービスにおいても同様の処理が適用できることは勿論である。   In the following description, the case where messages are transmitted and received in the chat service will be mainly described. However, in the chat service, it is needless to say that the same processing can be applied to other contents. Of course, the same processing can be applied to the timeline service.

端末20は、SNSのアプリケーションをインストールし、情報処理装置10からSNSの提供を受ける。端末20は、情報処理装置10を介して、端末20間でメッセージの送受信を行う。   The terminal 20 installs an SNS application and receives provision of the SNS from the information processing apparatus 10. The terminals 20 send and receive messages between the terminals 20 via the information processing apparatus 10.

端末20は、他の端末20からのメッセージを、情報処理装置10を介して受信する。端末20は、受信したメッセージを端末20の画面に表示する。端末20は、メッセージを画面に表示した時のユーザの状態を取得し、ユーザの状態を示す情報を決定する。端末20は、決定したユーザの状態を示す情報を受信したメッセージと対応付けて記憶する。ユーザの状態の取得、及びユーザの状態を示す情報の決定等の処理については後述する。   The terminal 20 receives a message from another terminal 20 via the information processing apparatus 10. The terminal 20 displays the received message on the screen of the terminal 20. The terminal 20 acquires the state of the user when the message is displayed on the screen, and determines information indicating the state of the user. The terminal 20 stores information indicating the determined user status in association with the received message. Processing such as acquisition of the user status and determination of information indicating the user status will be described later.

端末20は、ユーザの指示に応じて、受信したメッセージを再度画面に表示する時に、メッセージと共に、メッセージに対応付けられているユーザの状態を示す情報を表示する。   When the terminal 20 displays the received message again on the screen in accordance with the user's instruction, the terminal 20 displays information indicating the state of the user associated with the message together with the message.

<ユーザの状態を示す情報の決定>
端末20が、他の端末20から受信したメッセージを表示する時の様子を、図2に示す。
<Determination of information indicating user status>
FIG. 2 shows a state when the terminal 20 displays a message received from another terminal 20.

端末20は、カメラ21、生体センサ22、及びGPS等の自己位置測定装置23を有する。ユーザAの端末20Aは、ユーザBの端末20Bからのメッセージを受信し、該メッセージが端末20Aに表示される時の端末20AのユーザAの状態を取得する。具体的には、端末20Aは、カメラ21によりユーザAの顔写真を取得する、生体センサ22によりユーザAの生体情報を取得する、自己位置測定装置23を用いてユーザAの滞在場所である端末20の現在位置を取得する、又はこれらを組み合わせた処理を実行し、ユーザの状態を取得する。   The terminal 20 includes a camera 21, a biosensor 22, and a self-position measuring device 23 such as a GPS. The terminal 20A of the user A receives the message from the terminal 20B of the user B, and acquires the state of the user A of the terminal 20A when the message is displayed on the terminal 20A. Specifically, the terminal 20 </ b> A is a terminal where the user A stays using the self-position measuring device 23, which acquires a facial photograph of the user A by the camera 21, acquires biometric information of the user A by the biometric sensor 22. The current position of 20 is acquired, or the process which combined these is performed, and a user's state is acquired.

ここで、生体情報とは、例えば、心拍数、血圧、肌温及び/又は発汗状態等である。   Here, the biological information is, for example, heart rate, blood pressure, skin temperature, and / or sweating state.

端末20Aは、取得したユーザAの状態から、ユーザAの状態を示す情報を決定する。   The terminal 20A determines information indicating the state of the user A from the acquired state of the user A.

ユーザAの状態を示す情報が、表情を示す情報の場合、端末20Aは、カメラ21により取得したユーザAの顔写真から、ユーザAの表情を判断し、表情を示す情報、例えば、怒っている旨、笑っている旨、喜んでいる旨、又は悲しんでいる旨を示す情報を決定する。表情の判断方法については、様々な方法により実現可能である。例えば、端末20Aは、ユーザAの顔写真と、表情とを対応付けて記憶し、撮影された写真と記憶されている顔写真の一致度から、表情を判断してもよい。また、表情を判断するときに生体センサ22により取得した生体情報を用いてもよい。例えば、通常よりも心拍数が多い場合、端末20は、ユーザの感情に変化があったことが推測できるため、端末20は、表情も変化していると判断してもよい。   When the information indicating the state of the user A is information indicating a facial expression, the terminal 20A determines the facial expression of the user A from the facial photograph of the user A acquired by the camera 21, and information indicating the facial expression, for example, angry Information indicating that it is laughing, laughing, joyful, or sad is determined. The facial expression determination method can be realized by various methods. For example, the terminal 20A may store the facial photograph of the user A and the facial expression in association with each other, and may determine the facial expression from the degree of coincidence between the photographed photograph and the stored facial photograph. Moreover, you may use the biometric information acquired by the biometric sensor 22 when judging a facial expression. For example, when the heart rate is higher than usual, the terminal 20 may estimate that the user's emotion has changed, so the terminal 20 may determine that the facial expression has also changed.

なお、端末20Aは、判断された表情等を画面に表示し、メッセージとの対応付けについてユーザAの承認を得た後に、メッセージと判断された表情等とを対億付けて記憶してもよい。   The terminal 20A may display the determined facial expression or the like on the screen, obtain the approval of the user A for the association with the message, and store the facial expression determined to be the message with the corresponding amount. .

ユーザAの状態を示す情報が、滞在場所の場合、端末20は取得した自己の現在位置(例えば、緯度経度情報)を、メッセージを表示した時のユーザAの状態とする。   When the information indicating the state of the user A is the staying place, the terminal 20 sets the acquired current position (for example, latitude / longitude information) as the state of the user A when the message is displayed.

ユーザAの状態を示す情報が、生体情報自体の場合、端末20は、取得した生体情報を、メッセージを表示した時のユーザAの状態とする。   When the information indicating the state of the user A is the biological information itself, the terminal 20 sets the acquired biological information as the state of the user A when the message is displayed.

端末20は、決定したユーザの状態を示す情報をメッセージと対応付けて記憶する。   The terminal 20 stores information indicating the determined user status in association with the message.

なお、カメラ21、生体センサ22、及び自己位置測定装置23は、端末20と別の装置により実現されてもよい、この場合、カメラ21等は、Bluetooth(登録商標)等の近距離無線を用いて、端末20との間でデータの送受信を行う。   The camera 21, the biosensor 22, and the self-position measuring device 23 may be realized by a device different from the terminal 20. In this case, the camera 21 or the like uses short-range wireless such as Bluetooth (registered trademark). Thus, data is transmitted to and received from the terminal 20.

上述した実施形態では、メッセージの表示に応じて、ユーザAの状態を示す情報が決定される場合について説明したが、ユーザBの端末20Bから送信されたスタンプ、写真、動画、又はニュース等の各種コンテンツが表示されたことに応じて、ユーザAの状態が取得され、ユーザの状態を示す情報が決定されてもよいことは勿論である。   In the above-described embodiment, the case where the information indicating the state of the user A is determined according to the display of the message has been described. However, various kinds of stamps, photos, videos, news, and the like transmitted from the terminal 20B of the user B are described. Of course, in response to the content being displayed, the state of the user A may be acquired, and information indicating the state of the user may be determined.

送信側の端末20が、メッセージや、スタンプ等の各種コンテンツに予め受信側の端末20にメッセージや、スタンプ等が表示されたときにユーザAの状態を取得する指示を含むメタデータを設定してもよい。この場合、メッセージや、スタンプ等が受信側の端末20で表示されたときに、受信側の端末20のユーザの状態が取得される。   The terminal 20 on the transmission side sets metadata including an instruction to acquire the state of the user A when the message, stamp, or the like is displayed on the terminal 20 on the reception side in advance for various contents such as a message and a stamp. Also good. In this case, when a message, a stamp, or the like is displayed on the receiving terminal 20, the state of the user of the receiving terminal 20 is acquired.

以下では、カメラ21が用いられる場合、カメラ21でユーザの顔写真を取得する例を中心に説明するが、ユーザAの状態として、メッセージが表示されてから所定期間のユーザ顔等の外観の画像(動画)を取得してもよいことは勿論である。   In the following, when the camera 21 is used, an example of acquiring a user's face photograph with the camera 21 will be mainly described. However, as a state of the user A, an appearance image of a user face or the like for a predetermined period after the message is displayed. Of course, (moving image) may be acquired.

<表示制御例1>
図3を用いて、表示制御例1に係る端末20の画面の表示について説明する。図3の(1)には、ユーザAの端末20Aにおける、チャットメッセージの送受信メニューの画面を示している。図3の(1)では、端末20の画面の表示領域50に、ユーザAの端末20AとユーザBの端末20Bとの間で、所定の期間に送受信されたメッセージ40が表示される。また、ユーザBからのメッセージ(40A、40C)は、ユーザBを示すアイコン30Bと共に表示される。
<Display control example 1>
The display of the screen of the terminal 20 according to the display control example 1 will be described with reference to FIG. FIG. 3A shows a chat message transmission / reception menu screen on the terminal 20A of the user A. In (1) of FIG. 3, the message 40 transmitted / received between the terminal 20A of the user A and the terminal 20B of the user B in a predetermined period is displayed in the display area 50 of the screen of the terminal 20. Further, messages (40A, 40C) from the user B are displayed together with an icon 30B indicating the user B.

表示領域50内の所定の領域に副表示領域60が設けられる。副表示領域60には、表示されているユーザBから受信したメッセージ(40A、40C)と対応付けられて記憶されているユーザAの状態を示す情報が表示される。副表示領域60は、端末20がユーザからの指示を受けたことに応じて、設けられてもよいし、端末20が、所定の動作(例えば、表示するメッセージを変更するスクロール操作)を検知したことに応じて、設けられてもよい。   A sub display area 60 is provided in a predetermined area within the display area 50. In the sub display area 60, information indicating the state of the user A stored in association with the message (40A, 40C) received from the displayed user B is displayed. The sub display area 60 may be provided in response to the terminal 20 receiving an instruction from the user, or the terminal 20 detects a predetermined operation (for example, a scroll operation for changing a message to be displayed). Depending on the situation, it may be provided.

ユーザAの状態を示す情報は、メッセージが以前表示された時、例えば、受信したメッセージが最初に表示された時に、決定される。   The information indicating the state of the user A is determined when the message is displayed before, for example, when the received message is displayed for the first time.

図3の(2)乃至(4)に、副表示領域60に表示されるユーザの状態を示す情報を示す。   Information (2) to (4) in FIG. 3 shows information indicating the state of the user displayed in the sub display area 60.

図3の(2)は、ユーザAの状態を示す情報として、表情が記憶されている場合の副表示領域60の表示の一例を示す図である。表情を示すマーク61が副表示領域60に表示される。   (2) of FIG. 3 is a diagram illustrating an example of display in the sub display area 60 when a facial expression is stored as information indicating the state of the user A. A mark 61 indicating a facial expression is displayed in the sub display area 60.

図3の(3)は、ユーザAの状態を示す情報として、メッセージを表示した時のユーザAの位置が記憶されている場合の副表示領域60の表示の一例を示す図である。図3の(3)では、メッセージを表示した時の位置62Aが、地図62B上に示される様子を示している。   (3) of FIG. 3 is a diagram illustrating an example of display of the sub display area 60 when the position of the user A when the message is displayed is stored as information indicating the state of the user A. In FIG. 3 (3), the position 62A when the message is displayed is shown on the map 62B.

図3の(4)は、ユーザAの状態を示す情報として、心拍数が記憶されている場合の副表示領域60の表示の一例を示す図である。図3の(4)では、心拍数の値を示す点63Aが表示される。心拍数の値を示す点63Aは、心拍数の推移を示すグラフ63Bと共に表示されてもよい。   (4) in FIG. 3 is a diagram illustrating an example of display in the sub display area 60 when the heart rate is stored as information indicating the state of the user A. In (4) of FIG. 3, a point 63A indicating the value of the heart rate is displayed. The point 63A indicating the value of the heart rate may be displayed together with the graph 63B indicating the transition of the heart rate.

<表示制御例2>
図4を用いて、表示制御例2に係る端末20の画面の表示について説明する。図4の(1)には、ユーザAのチャットメッセージの送受信メニューの画面を示している。図4の(1)では、端末20がユーザAからの指示を受け付け、画面に表示されるメッセージが変更される様子を示している。ユーザAの指51のスクロール操作52により、画面に表示されるメッセージが送受信された期間が変更される。
<Display control example 2>
The display of the screen of the terminal 20 according to the display control example 2 will be described with reference to FIG. FIG. 4 (1) shows a screen of a user A chat message transmission / reception menu. FIG. 4 (1) shows that the terminal 20 receives an instruction from the user A and the message displayed on the screen is changed. The period during which the message displayed on the screen is transmitted and received is changed by the scroll operation 52 of the finger 51 of the user A.

図4の(2)乃至(4)に、メッセージの表示期間が変更されたときの副表示領域60の表示の遷移を示す。図4の(2)は、ユーザAの状態を示す情報として、表情が記憶されている場合の副表示領域60の表示を示しており、図4の(3)は、ユーザAの状態を示す情報として、メッセージを表示した時のユーザAの位置が記憶されている場合の副表示領域60の表示を示しており。図4の(4)は、ユーザAの状態を示す情報として、心拍数が記憶されている場合の副表示領域60の表示を示している。   (2) to (4) in FIG. 4 show display transitions in the sub display area 60 when the message display period is changed. (2) in FIG. 4 shows the display of the sub display area 60 when a facial expression is stored as information indicating the state of the user A, and (3) in FIG. 4 shows the state of the user A. As information, the display of the sub display area 60 when the position of the user A when the message is displayed is stored is shown. (4) of FIG. 4 has shown the display of the subdisplay area | region 60 in case the heart rate is memorize | stored as information which shows the user's A state.

図4の(2A)乃至(2C)は、メッセージの表示期間が第1の期間、第2の期間、及び第3の期間に変更されたときの、其々の期間における副表示領域60の画面の変化を示している。第1の期間のメッセージが表示された時の表情を示す情報が「笑顔(Smile)」で、第2の期間のメッセージが表示された時の表情を示す情報が「普通の顔(Normal)」で、第3の期間のメッセージが表示された時の表情を示す情報が「怒っている顔(Angry)」であることを示している。   (2A) to (2C) in FIG. 4 show the screen of the sub display area 60 in each period when the message display period is changed to the first period, the second period, and the third period. Shows changes. The information indicating the facial expression when the message of the first period is displayed is “Smile”, and the information indicating the facial expression when the message of the second period is displayed is “Normal”. The information indicating the facial expression when the message of the third period is displayed is “angry face (Angry)”.

図4の(3)は、メッセージの表示期間が第1の期間、第2の期間、及び第3の期間に変更されたときに、各メッセージに対応付けられて記憶されているメッセージを表示した時の位置の変化の様子、つまり、ユーザAの移動の軌跡62Cを、地図62B上に示している。   (3) in FIG. 4 displays a message stored in association with each message when the message display period is changed to the first period, the second period, and the third period. A state of change of the position at the time, that is, a movement locus 62C of the user A is shown on the map 62B.

図4の(4)は、メッセージの表示期間が第1の期間、第2の期間、及び第3の期間に変更されたときに、各メッセージに対応付けられて記憶されている心拍数の値を示す点63Aの変化をグラフ63Bで示したものである。   (4) in FIG. 4 shows the value of the heart rate stored in association with each message when the message display period is changed to the first period, the second period, and the third period. A change of the point 63A indicating the difference is indicated by a graph 63B.

上述したように、端末20のユーザは、端末20の画面のスクロール等により表示されるメッセージの期間を変更させることに応じて、副表示領域60に、ユーザがメッセージを表示した時のユーザの状態の推移を表示させることができる。   As described above, the user of the terminal 20 changes the message period displayed by scrolling the screen of the terminal 20 or the like, and the state of the user when the user displays the message in the sub display area 60. The transition of can be displayed.

これにより、端末20のユーザは、副表示領域60に表示されるユーザの状態の推移から、所望の他のユーザとのメッセージのやり取りを特定できる。例えば、副表示領域60に「笑顔」が表示されていることに基づいて、ユーザが面白いと感じた他のユーザとのメッセージのやり取りを特定することが可能である。例えば、メッセージを表示した位置の変化に基づいて、他のユーザとのメッセージのやり取りを確認した位置を特定することが可能である。例えば、心拍数等の生体情報の変化したことに基づいて、ユーザの感情の起伏が生じた他のユーザとのメッセージのやり取りを特定することが可能である。   Thereby, the user of the terminal 20 can specify the exchange of messages with other desired users from the transition of the user state displayed in the sub display area 60. For example, based on the fact that “smile” is displayed in the sub display area 60, it is possible to specify message exchanges with other users that the user finds interesting. For example, it is possible to specify a position where message exchange with another user has been confirmed based on a change in the position where the message is displayed. For example, it is possible to specify message exchanges with other users who have undulated emotions based on changes in biological information such as heart rate.

なお、図4の例では、メッセージの表示期間の変更に伴い、副表示領域60が変更される例について説明したが、副表示領域60に対する操作に応じて、表示領域50に表示されるメッセージを変更してもよい。例えば、地図62B上に示された位置が選択された場合、端末20は、選択された位置と対応付けられたメッセージを表示領域50に表示してもよい。また、グラフ63B上に示された点が選択された場合、端末20は、選択された点と対応付けられたメッセージを表示領域50に表示してもよい。   In the example of FIG. 4, the example in which the sub display area 60 is changed in accordance with the change in the message display period has been described. However, a message displayed in the display area 50 in response to an operation on the sub display area 60 is displayed. It may be changed. For example, when the position shown on the map 62B is selected, the terminal 20 may display a message associated with the selected position in the display area 50. When the point shown on the graph 63B is selected, the terminal 20 may display a message associated with the selected point in the display area 50.

<メッセージとユーザの状態との対応付け>
図5を用いて、メッセージの表示とユーザの状態との対応付けの方法について説明する。
<Association between message and user status>
A method of associating the message display with the user state will be described with reference to FIG.

図5の(A)は、チャットメニュー起動中に、ユーザBからのメッセージ40Fが、表示領域50に表示された様子を示している。この場合、端末20Aが表示された時のユーザAの状態を判断し、ユーザAの状態を示す情報を決定する。ここで、端末20Aは、メッセージ40Fが画面に表示されたタイミングから所定の期間におけるユーザAの状態を取得してもよい。例えば、端末20Aは、表示されるメッセージのテキストの長さに応じて、所定の期間を調整してもよい。テキストが長い程、ユーザがテキストの全体を理解するのに時間を要し、表情や生体情報に変化をもたらすのに時間がかかるためである。   FIG. 5A shows a state in which the message 40F from the user B is displayed in the display area 50 while the chat menu is activated. In this case, the state of the user A when the terminal 20A is displayed is determined, and information indicating the state of the user A is determined. Here, the terminal 20A may acquire the state of the user A in a predetermined period from the timing when the message 40F is displayed on the screen. For example, the terminal 20A may adjust the predetermined period according to the text length of the displayed message. This is because the longer the text, the longer it takes for the user to understand the entire text and the longer it takes to change the facial expression and biological information.

図5の(B)は、チャットメニューの起動画面を示す図であり、図5の(C)は、チャットメニューの起動後に、ユーザBからのメッセージ(40G、40H)と、スタンプ41Aとが同時に、表示領域50に表示される様子を示している。   FIG. 5B is a diagram showing a chat menu activation screen. FIG. 5C shows a message (40G, 40H) from the user B and a stamp 41A simultaneously after the chat menu is activated. This shows how the image is displayed in the display area 50.

この場合、端末20Aは、メッセージ(40G、40H)及びスタンプ41Aが表示されてから所定の期間におけるユーザAの状態を取得する。そして、端末20Aは、所定の期間に取得したユーザAの状態からユーザAの状態を判断し、ユーザAの状態を示す情報と、メッセージ等とを対応付ける。判断されたユーザAの状態が複数ある場合、いずれかの状態を選択し、選択された状態を示す情報を全てのメッセージ等と対応付けてもよいし、判断されたユーザAの状態を示す情報の各々とメッセージ等とを対応付けてもよい。いずれか1つの状態を選択する場合、端末は、最も多い状態を示す情報を、全てのメッセージ等と対応付けてもよい。   In this case, the terminal 20A acquires the state of the user A in a predetermined period after the message (40G, 40H) and the stamp 41A are displayed. Then, the terminal 20A determines the state of the user A from the state of the user A acquired during a predetermined period, and associates information indicating the state of the user A with a message or the like. When there are a plurality of determined states of the user A, one of the states may be selected, and information indicating the selected state may be associated with all messages or the like, or information indicating the determined state of the user A May be associated with a message or the like. When selecting any one state, the terminal may associate information indicating the most state with all messages and the like.

例えば、3つの状態「笑顔(Smile)」、「怒った顔(Angry)」、及び「普通の顔(Normal)」が判断された場合、「笑顔(Smile)」を示す情報をメッセージ(40G、40H)、及びスタンプ41Aに対応付けてもよい。   For example, when three states “Smile”, “Angry Face”, and “Normal Face” are determined, information indicating “Smile” is displayed in a message (40G, 40H) and the stamp 41A.

また、「笑顔(Smile)」を示す情報をメッセージ40Gに対応付け、「怒った顔(Angry)」を示す情報をメッセージ40Hに対応付け、「普通の顔(Normal)」を示す情報をスタンプ41Aに対応付けてもよい。ユーザが時系列に沿って上から順番に表示されるメッセージ等を確認する場合が多いと推測されるため、表情の変化もメッセージの表示順と対応する可能性が高いためである。   Also, information indicating “Smile” is associated with the message 40G, information indicating “Angry” is associated with the message 40H, and information indicating “Normal” is stamp 41A. May be associated. This is because it is presumed that the user often confirms messages or the like that are displayed in order from the top in chronological order, so that the change in facial expression is likely to correspond to the display order of messages.

脈拍等の数値で表される生体情報とメッセージとを対応付ける場合には、メッセージ等が表示されてから所定の期間の数値の最大値、最小値、又は平均値等のいずれかをメッセージ等と対応付けてもよい。   When associating biometric information represented by a numerical value such as a pulse with a message, the maximum value, minimum value, or average value of the numerical value for a predetermined period after the message is displayed corresponds to the message May be attached.

上記のように、端末20が動作することにより、複数のメッセージが表示されたときでも、メッセージとユーザの状態を示す情報とを対応付けることができる。   As described above, by operating the terminal 20, even when a plurality of messages are displayed, it is possible to associate the message with information indicating the state of the user.

<ユーザの状態の表示>
次に、複数のメッセージ等が端末20の表示領域50に表示された場合の、副表示領域60の表示について説明する。
<Display user status>
Next, display of the sub display area 60 when a plurality of messages and the like are displayed in the display area 50 of the terminal 20 will be described.

端末20は、メッセージ等とメッセージ等に対応するユーザの状態を示す情報とを対応付けて管理するユーザ状態管理テーブルを保持する。   The terminal 20 holds a user status management table that manages messages in association with information indicating the status of users corresponding to the messages.

図6は、ユーザ状態管理テーブルの一例を示す図である。図6では、ユーザの状態を示す情報が「表情」の場合について示している。図6のユーザ状態管理テーブルでは、メッセージやスタンプ等の受信情報と、ユーザの状態を示す情報である「表情」と、メッセージ等が表示された日時(例えば、最初に表示された日時)と、表示中フラグとが記憶される。ここで、表示中フラグは、端末20の表示領域50にメッセージ40等が表示されているときに設定される。   FIG. 6 is a diagram illustrating an example of a user state management table. FIG. 6 illustrates a case where the information indicating the user state is “expression”. In the user status management table of FIG. 6, received information such as messages and stamps, “expression” that is information indicating the user status, date and time when the message and the like were displayed (for example, the date and time that was displayed first), A display flag is stored. Here, the display flag is set when a message 40 or the like is displayed in the display area 50 of the terminal 20.

なお、ユーザの状態を示す情報が「生体情報」、又は「ユーザの位置」の場合、対応する数値や、位置を示す情報が設定される。   When the information indicating the user state is “biological information” or “user position”, a corresponding numerical value or information indicating the position is set.

図6では、「メッセージ#2/#3/#4/#5」、及び「スタンプ#1」に表示中フラグが設定されている。つまり、これらのメッセージ等が端末20の表示領域50に設定されている。   In FIG. 6, a display flag is set for “message # 2 / # 3 / # 4 / # 5” and “stamp # 1”. That is, these messages and the like are set in the display area 50 of the terminal 20.

端末20は、副表示領域60に表示するユーザの状態を示す情報を、ユーザ状態管理テーブルを用いて決定する。   The terminal 20 determines information indicating the user state to be displayed in the sub display area 60 using the user state management table.

例えば、端末20は、表示されているメッセージ等に対応付けられているユーザの状態を示す情報のうち、最も多い情報を副表示領域60に表示してもよい。図6の場合、「笑顔(Smile)」が最も多いため、端末20は、副表示領域60に表情「笑顔(Smile)」を示す情報を表示する。   For example, the terminal 20 may display the largest amount of information in the sub display area 60 among the information indicating the state of the user associated with the displayed message or the like. In the case of FIG. 6, since “Smile” is the most frequent, the terminal 20 displays information indicating the expression “Smile” in the sub display area 60.

例えば、端末20は、ユーザの状態を示す情報に重み付けを行い、副表示領域60に表示するユーザの状態を示す情報を決定してもよい。具体的には、表示領域50の上下位置中央付近に表示さているメッセージ等に対応するユーザの状態を示す情報の重み付けを重く、表示領域50の中央付近から離れて表示されているメッセージ等に対応するユーザの状態を示す情報の重み付けを軽くする。例えば、メッセージ#2/#5の重み付けを1、メッセージ#3/#4の重み付けを2、スタンプ#1の重み付けを3とすると、「普通(Normal)」の点数は1点、「怒った顔(Angry)」の点数は1点、「笑顔(Smile)」の点数は7点となるため、端末20は、副表示領域60に「笑顔(Smile)」を示す情報を表示する。   For example, the terminal 20 may weight the information indicating the user state and determine information indicating the user state to be displayed in the sub display area 60. Specifically, the weight of information indicating the user's state corresponding to the message displayed near the center of the vertical position of the display area 50 is heavy, and the message displayed away from the center of the display area 50 is supported. The weighting of the information indicating the user's status is reduced. For example, if the weight of message # 2 / # 5 is 1, the weight of message # 3 / # 4 is 2, and the weight of stamp # 1 is 3, the score of “Normal” is 1, and “angry face” Since the score of “Angry” is 1 and the score of “Smile” is 7, the terminal 20 displays information indicating “Smile” in the sub display area 60.

例えば、端末20は、ユーザの状態を示す情報の変化から、副表示領域60に表示する情報を生成してもよい。例えば、表示されているメッセージ等に対応するユーザの状態を示す情報(表情)が、時系列に沿って「普通(Normal)」、「普通(Normal)」、「普通(Normal)」、「笑顔(Smile)」、「笑顔(Smile)」に変化している場合、端末20は、「普通(Normal)」から「笑顔(Smile)」に変化し始める表情を示すマークを生成し、生成されたイラストを副表示領域60に表示する。   For example, the terminal 20 may generate information to be displayed in the sub display area 60 from a change in information indicating the user state. For example, information (expression) indicating the state of the user corresponding to a displayed message or the like is “normal”, “normal”, “normal”, “smile” in time series. (Smile) ”and“ Smile ”, the terminal 20 generates a mark indicating a facial expression that begins to change from“ Normal ”to“ Smile ”. The illustration is displayed in the sub display area 60.

脈拍等の数値で表される生体情報が副表示領域60に表示される場合、表示されているメッセージ40等に対応付けられて記憶されている数値のうちの最大値、最小値、又は平均値等のいずれかをメッセージ等と対応付けてもよい。   When biological information represented by a numerical value such as a pulse is displayed in the sub display area 60, the maximum value, the minimum value, or the average value among the numerical values stored in association with the displayed message 40 or the like Or the like may be associated with a message or the like.

メッセージ等が表示されたときのユーザの位置が副表示領域60に表示される場合、表示領域50の上下位置の中央付近に表示されているメッセージ等に対応付けられている位置を地図上に表示してもよいし、表示領域50に表示されている最も新しいメッセージに対応付けられている第1の位置と、最も古いメッセージに対応付けられている第2の位置と、第1の位置と第2の位置を結んだ区間を地図上に表示してもよい。ここで、第1の位置と第2の位置とを結んだ区間は、道路や路線等のユーザの移動の動線を考慮して表示される。   When the position of the user when a message or the like is displayed is displayed in the sub display area 60, the position associated with the message or the like displayed near the center of the vertical position of the display area 50 is displayed on the map. The first position associated with the newest message displayed in the display area 50, the second position associated with the oldest message, the first position, and the first position A section connecting positions 2 may be displayed on a map. Here, the section connecting the first position and the second position is displayed in consideration of the movement line of the user such as a road or a route.

上記のように、端末20が動作することにより、副表示領域60に適切なユーザの状態を示す情報を表示させることが可能となる。   As described above, when the terminal 20 operates, information indicating an appropriate user state can be displayed in the sub display area 60.

なお、表示領域50に表示されるメッセージ送受信時刻が、所定の期間以上、例えば、1日以上、離れている場合、各々のメッセージに対応付けられたユーザの状態を示す情報の間に、相関関係を有さない場合がある。この場合には、副表示領域60に、ユーザの状態を示す情報を表示しないでもよいし、複数のユーザの状態を示す情報を表示してもよいし、表示領域50の上下位置の中央付近に表示されているメッセージに対応するユーザの状態を副表示領域60に表示してもよい。また、複数の種類のユーザの状態を示す情報が、副表示領域60に表示されてもよいことは勿論である。   In addition, when the message transmission / reception time displayed in the display area 50 is apart for a predetermined period or more, for example, one day or more, there is a correlation between the information indicating the state of the user associated with each message. There may be no. In this case, information indicating the user status may not be displayed in the sub display area 60, information indicating the status of a plurality of users may be displayed, or near the center of the vertical position of the display area 50. The user status corresponding to the displayed message may be displayed in the sub display area 60. Of course, information indicating the states of a plurality of types of users may be displayed in the sub display area 60.

<ハードウェア構成>
次に、情報処理システム1に含まれる各装置のハードウェア構成について説明する。
<Hardware configuration>
Next, the hardware configuration of each device included in the information processing system 1 will be described.

(1)情報処理装置
情報処理装置10は、一般的なコンピュータの構成有している。
図7は、第1の実施形態に係るコンピュータのハードウェア構成の一例を示す図である。図7において、コンピュータ300は、例えば、CPU(Central Processing Unit)301、RAM(Random Access Memory)302、ROM(Read Only Memory)303、ストレージ装置304、入力装置305、表示装置306、通信I/F(Interface)307、外部I/F308、及びバス309等を有する。
(1) Information processing apparatus The information processing apparatus 10 has a general computer configuration.
FIG. 7 is a diagram illustrating an example of a hardware configuration of the computer according to the first embodiment. In FIG. 7, a computer 300 includes, for example, a CPU (Central Processing Unit) 301, a RAM (Random Access Memory) 302, a ROM (Read Only Memory) 303, a storage device 304, an input device 305, a display device 306, and a communication I / F. (Interface) 307, an external I / F 308, a bus 309, and the like.

CPU301は、ROM303やストレージ装置304等のメモリからプログラムやデータをRAM302上に読み出し、処理を実行することで、コンピュータ300の制御や機能を実現する演算装置である。ROM303は、コンピュータ300の起動時に実行されるBIOS(Basic Input/Output System)、OS(Operating System)の設定、及び各種設定等のプログラムやデータが格納されている。RAM302は、プログラムやデータを一時保持する揮発性のメモリである。ストレージ装置304は、プログラムやデータを格納している大容量の記憶装置である。   The CPU 301 is an arithmetic unit that realizes control and functions of the computer 300 by reading a program and data from a memory such as the ROM 303 and the storage device 304 onto the RAM 302 and executing processing. The ROM 303 stores programs and data such as BIOS (Basic Input / Output System), OS (Operating System) settings, and various settings that are executed when the computer 300 is started up. The RAM 302 is a volatile memory that temporarily stores programs and data. The storage device 304 is a large-capacity storage device that stores programs and data.

入力装置305は、例えばキーボードやマウス等であり、ユーザが各種操作信号を入力するのに用いられる。表示装置306は、例えばディスプレイ等であり、コンピュータ300による処理結果を表示する。なお、入力装置305又は/及び表示装置306は、必要なときに接続して利用する形態であってもよい。   The input device 305 is, for example, a keyboard or a mouse, and is used by a user to input various operation signals. The display device 306 is, for example, a display, and displays a processing result by the computer 300. Note that the input device 305 and / or the display device 306 may be connected and used when necessary.

通信I/F307は、コンピュータ300をネットワーク2に接続するためのインタフェースである。外部I/F308は、外部装置とのインタフェースである。外部装置には、外部記憶媒体308a等がある。これにより、コンピュータ300は外部I/F308を介して外部記憶媒体308aの読み取り及び/又は書き込みを行うことができる。外部記憶媒体308aには例えば、各種の光学ディスクや、各種のメモリカード等が含まれる。   The communication I / F 307 is an interface for connecting the computer 300 to the network 2. The external I / F 308 is an interface with an external device. The external device includes an external storage medium 308a. Accordingly, the computer 300 can read and / or write to the external storage medium 308a via the external I / F 308. Examples of the external storage medium 308a include various optical disks and various memory cards.

CPU301が、ROM303等に格納されているプログラムを実行することにより、情報処理装置10の各機能を実現することができる。   Each function of the information processing apparatus 10 can be realized by the CPU 301 executing a program stored in the ROM 303 or the like.

(2)端末
図8は、第1の実施形態における端末20のハードウェア構成の一例を示す図である。
(2) Terminal FIG. 8 is a diagram illustrating an example of a hardware configuration of the terminal 20 in the first embodiment.

端末20は、CPU201、ROM202、RAM203、記憶装置204、入出力装置205、通信I/F206及びディスプレイ207(表示装置)、カメラ21、生体センサ22、及び自己位置測定装置23を備える。なお、端末20のハードウェアの各構成要素は、バス208を介して相互に接続される。   The terminal 20 includes a CPU 201, ROM 202, RAM 203, storage device 204, input / output device 205, communication I / F 206 and display 207 (display device), camera 21, biosensor 22, and self-position measuring device 23. Note that the hardware components of the terminal 20 are connected to each other via the bus 208.

記憶装置204は各種プログラムを記憶する。CPU201は、記憶装置204に記憶された各種プログラムを実行するコンピュータである。   The storage device 204 stores various programs. The CPU 201 is a computer that executes various programs stored in the storage device 204.

ROM202は不揮発性メモリである。ROM202は、記憶装置204に記憶された各種プログラムをCPU201が実行するために必要な各種プログラムやデータ等を記憶する。   The ROM 202 is a nonvolatile memory. The ROM 202 stores various programs and data necessary for the CPU 201 to execute various programs stored in the storage device 204.

RAM203は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の主記憶装置である。RAM203は、各種プログラムがCPU201によって実行される際に展開される作業領域として機能する。   The RAM 203 is a main storage device such as a DRAM (Dynamic Random Access Memory) or an SRAM (Static Random Access Memory). The RAM 203 functions as a work area that is expanded when various programs are executed by the CPU 201.

入出力装置205は、端末20に対する各種指示を入力する入力装置、及び端末20で処理された処理結果を出力する出力装置の機能を含む。入出力装置205は、ディスプレイ207に接続される。本実施形態において、ディスプレイ207は、タッチ反応型ディスプレイ(タッチパネル)とすることができる。通信I/F206は、ネットワーク2を介して端末20と情報処理装置10との通信を行う。   The input / output device 205 includes functions of an input device that inputs various instructions to the terminal 20 and an output device that outputs a processing result processed by the terminal 20. The input / output device 205 is connected to the display 207. In the present embodiment, the display 207 can be a touch-responsive display (touch panel). The communication I / F 206 performs communication between the terminal 20 and the information processing apparatus 10 via the network 2.

カメラ21は、CPU201からの指示を受けて、静止画又は動画の撮影を行う。   The camera 21 receives an instruction from the CPU 201 and takes a still image or a moving image.

生体センサ22は、CPU201からの指示を受けて、生体センサ22とユーザとが接触している部分から、心拍数、体温、及び発汗量等を取得する。   The biosensor 22 receives an instruction from the CPU 201 and acquires a heart rate, a body temperature, a sweat amount, and the like from a portion where the biosensor 22 and the user are in contact.

自己位置測定装置23は、例えば、GPS装置により実現され、端末20の位置を特定する。自己位置測定装置23は、通信I/Fからネットワーク2の基地局等の情報を取得し、取得した基地局等の情報と、GPSで取得した情報とから端末20の位置を特定してもよい。   The self-position measuring device 23 is realized by a GPS device, for example, and specifies the position of the terminal 20. The self-position measuring device 23 may acquire information on the base station of the network 2 from the communication I / F, and specify the position of the terminal 20 from the acquired information on the base station and the information acquired by GPS. .

CPU201が、記憶装置204等に格納されているプログラムを実行することにより、端末20の各機能を実現することができる。   Each function of the terminal 20 can be realized by the CPU 201 executing a program stored in the storage device 204 or the like.

<機能構成>
(1)端末の機能構成
図9を用いて、端末20の機能構成について説明する。端末20は、送受信部210、状態取得部220、状態情報決定部230、表示制御部240、情報管理部250、及び入力部260を有する。
<Functional configuration>
(1) Functional Configuration of Terminal The functional configuration of the terminal 20 will be described using FIG. The terminal 20 includes a transmission / reception unit 210, a state acquisition unit 220, a state information determination unit 230, a display control unit 240, an information management unit 250, and an input unit 260.

情報管理部250は、表情サンプル記憶テーブル251、表情マーク記憶テーブル252、ユーザ状態管理テーブル253を有する。   The information management unit 250 includes an expression sample storage table 251, an expression mark storage table 252, and a user state management table 253.

送受信部210は、情報処理装置10とデータの送受信を行う。送受信部210は、情報処理装置10を介して、他のユーザの端末20からのメッセージを受信する。   The transmission / reception unit 210 transmits / receives data to / from the information processing apparatus 10. The transmission / reception unit 210 receives a message from another user's terminal 20 via the information processing apparatus 10.

状態取得部220は、カメラ21、生体センサ22、及び自己位置測定装置23を制御し、受信したメッセージが端末20の表示領域50に表示した時のユーザの状態を取得する。   The state acquisition unit 220 controls the camera 21, the biometric sensor 22, and the self-position measurement device 23, and acquires the user state when the received message is displayed in the display area 50 of the terminal 20.

状態取得部220は、カメラ21を制御し、メッセージが表示された時のユーザの顔写真を取得する。状態取得部220は、生体センサ22を制御し、メッセージが表示された時のユーザの生体情報を取得する。状態取得部220は、自己位置測定装置23を制御し、メッセージが表示された時のユーザの生体情報を取得する。   The state acquisition unit 220 controls the camera 21 and acquires a user's face photograph when the message is displayed. The state acquisition unit 220 controls the biometric sensor 22 and acquires biometric information of the user when a message is displayed. The state acquisition unit 220 controls the self-position measuring device 23 to acquire the user's biological information when the message is displayed.

状態情報決定部230は、状態取得部220が取得したユーザの状態を基に、ユーザの状態を判断し、ユーザの状態を示す情報を決定する。   The state information determination unit 230 determines the user state based on the user state acquired by the state acquisition unit 220 and determines information indicating the user state.

また、状態情報決定部230は、複数のメッセージが同時に表示領域50に表示されたときのメッセージとユーザの状態を示す情報の対応付けを行う。   Further, the state information determination unit 230 associates a message when a plurality of messages are simultaneously displayed on the display area 50 with information indicating the user state.

ユーザの状態を示す情報が表情の場合、状態情報決定部230は、状態取得部220が取得したユーザの顔写真を基に、表情を判断し、表情を示す情報を決定し、決定した表情を示す情報を、ユーザ状態管理テーブル253に、メッセージと対応付けて記憶させる。状態情報決定部230は、表情を判断する際に、表情サンプル記憶テーブル251に記憶されているユーザの顔写真のサンプル画像から、表情を判断してもよい。状態情報決定部230は、表情を示す情報を決定するときに、表情マーク記憶テーブル252を参照し、ユーザの状態を示す情報を決定する。   When the information indicating the user state is a facial expression, the state information determination unit 230 determines the facial expression based on the user's facial photograph acquired by the state acquisition unit 220, determines information indicating the facial expression, and determines the determined facial expression. The information to be shown is stored in the user state management table 253 in association with the message. When determining the expression, the state information determination unit 230 may determine the expression from the sample image of the user's face photograph stored in the expression sample storage table 251. When determining information indicating an expression, the state information determination unit 230 refers to the expression mark storage table 252 and determines information indicating the user's state.

ユーザの状態を示す情報が生体情報の場合、状態情報決定部230は、状態取得部220が取得したユーザの生体情報を、ユーザ状態管理テーブル253に、メッセージと対応付けて記憶させる。   When the information indicating the user status is biometric information, the status information determination unit 230 stores the biometric information of the user acquired by the status acquisition unit 220 in the user status management table 253 in association with the message.

ユーザの状態を示す情報が生体情報の場合、状態情報決定部230は、状態取得部220が取得したユーザの生体情報を、ユーザ状態管理テーブル253に、メッセージと対応付けて記憶させる。   When the information indicating the user status is biometric information, the status information determination unit 230 stores the biometric information of the user acquired by the status acquisition unit 220 in the user status management table 253 in association with the message.

状態情報決定部230は、決定したユーザの状態をメッセージと対応付けて、情報処理装置10に通知してもよい。   The state information determination unit 230 may notify the information processing apparatus 10 of the determined user state in association with the message.

表示制御部240は、受信したメッセージを表示領域50に表示させる。表示制御部240は、メッセージと対応付けられたユーザの状態を示す情報を副表示領域60に表示させる。複数のメッセージが表示領域50に表示されている場合、表示制御部240は、上述した手順により、副表示領域60に表示する情報を決定する。   The display control unit 240 displays the received message in the display area 50. The display control unit 240 displays information indicating the state of the user associated with the message in the sub display area 60. When a plurality of messages are displayed in the display area 50, the display control unit 240 determines information to be displayed in the sub display area 60 according to the above-described procedure.

表示制御部240は、入力部260がユーザからの指示を受けたことに応じて、メッセージに対応付けられているユーザの状態を示す情報を表示する。   In response to the input unit 260 receiving an instruction from the user, the display control unit 240 displays information indicating the state of the user associated with the message.

ユーザの状態を示す情報が表情のときに、表示領域50に表示されているメッセージに対応付けられた表情が変化する場合、表示制御部240は、表情の変化に応じた表情を生成し、副表示領域60に表示してもよい。   When the information indicating the user state is a facial expression, if the facial expression associated with the message displayed in the display area 50 changes, the display control unit 240 generates a facial expression according to the change in facial expression, You may display on the display area 60. FIG.

情報管理部250は、端末20がチャットメッセージの送受信及び表示制御を行うために必要な情報を表示する。表情サンプル記憶テーブル251を図10に示す。表情サンプル記憶テーブル251には、端末20のユーザの表情と、表情に対応するサンプル画像が記憶される。表情マーク記憶テーブル252を図11に示す。表情マーク記憶テーブル252には、表情と表情に対応するマーク61とが対応付けられて記憶される。ユーザ状態管理テーブル253には、図6に示す情報要素が記憶される。   The information management unit 250 displays information necessary for the terminal 20 to perform chat message transmission / reception and display control. The facial expression sample storage table 251 is shown in FIG. The expression sample storage table 251 stores the expression of the user of the terminal 20 and a sample image corresponding to the expression. The expression mark storage table 252 is shown in FIG. The facial expression mark storage table 252 stores facial expressions and marks 61 corresponding to facial expressions in association with each other. The user state management table 253 stores information elements shown in FIG.

入力部260は、ユーザからの入力を受け付ける。メッセージに対応付けられているユーザの状態を示す情報の表示、変更、及び削除等の処理を実行する。   The input unit 260 receives input from the user. Processing such as display, change, and deletion of information indicating the state of the user associated with the message is executed.

(2)情報処理装置の機能構成
図12を用いて情報処理装置10の機能構成について説明する。情報処理装置10は、送受信部110、メッセージ制御部120、情報管理部130を有する。また、情報管理部130は、メッセージ管理テーブル131、及びユーザ状態管理テーブル132を有する。
(2) Functional configuration of information processing apparatus The functional configuration of the information processing apparatus 10 will be described with reference to FIG. The information processing apparatus 10 includes a transmission / reception unit 110, a message control unit 120, and an information management unit 130. In addition, the information management unit 130 includes a message management table 131 and a user status management table 132.

送受信部110は、端末20との間でメッセージのデータの送受信を行う。   The transmission / reception unit 110 transmits / receives message data to / from the terminal 20.

メッセージ制御部120は、受信したメッセージをメッセージ管理テーブル131に記憶させる。また、メッセージ制御部120は、端末20から受信したメッセージを、宛先のユーザの端末20に送信することを送受信部110に指示する。   The message control unit 120 stores the received message in the message management table 131. Further, the message control unit 120 instructs the transmission / reception unit 110 to transmit the message received from the terminal 20 to the terminal 20 of the destination user.

メッセージ管理テーブル131は端末20から受信したメッセージを記憶する。メッセージ管理テーブル131には、ユーザの識別子と、該ユーザが宛先となっているメッセージとが対応付けられて記憶されている。送受信部110が、メッセージと共にメッセージに対応付けられた情報を受信した場合には、かかる情報もメッセージ管理テーブル131に記憶される。   The message management table 131 stores messages received from the terminal 20. The message management table 131 stores a user identifier and a message addressed to the user in association with each other. When the transmission / reception unit 110 receives information associated with the message together with the message, the information is also stored in the message management table 131.

ユーザ状態管理テーブル132は、端末20のユーザ状態管理テーブル253と同じ内容が記憶される。   The user state management table 132 stores the same contents as the user state management table 253 of the terminal 20.

<動作フロー>
(1)ユーザの状態の対応付け処理
図13を用いて、端末20のメッセージとユーザの状態を示す情報との対応付け処理について説明する。
<Operation flow>
(1) User State Correlation Process A process for associating the message of the terminal 20 with information indicating the user state will be described using FIG.

ステップS1301で、入力部260が端末20のユーザからSNSアプリケーションのチャットメニューの起動を受け付けたことに応じて、表示制御部240は、表示領域50に、情報処理装置10から受信したメッセージを表示する。   In step S <b> 1301, the display control unit 240 displays the message received from the information processing apparatus 10 in the display area 50 in response to the input unit 260 accepting activation of the chat menu of the SNS application from the user of the terminal 20. .

ステップS1302で、状態取得部220は、カメラ21、生体センサ22、又は自己位置測定装置23等を制御し、メッセージが表示された時のユーザの状態を取得する。   In step S <b> 1302, the state acquisition unit 220 controls the camera 21, the biosensor 22, the self-position measurement device 23, and the like, and acquires the user state when the message is displayed.

ステップS1303で、状態情報決定部230は、表示領域50に同時に表示されたメッセージが複数か否かを判断する。複数のメッセージが表示された場合(ステップS1303 Yes)、ステップS1304に進む。複数のメッセージが表示されなかった場合、つまり、ひとつのメッセージが表示された場合(ステップS1303 No)、ステップS1305に進む。   In step S <b> 1303, the state information determination unit 230 determines whether there are a plurality of messages simultaneously displayed in the display area 50. If a plurality of messages are displayed (step S1303 Yes), the process proceeds to step S1304. When a plurality of messages are not displayed, that is, when one message is displayed (No in step S1303), the process proceeds to step S1305.

ステップS1304で、状態情報決定部230は、状態取得部220が取得したユーザの状態から、複数のメッセージの各々に対応付けるユーザの状態を示す情報を決定する。複数のメッセージとユーザの状態を示す情報とを対応付ける処理については、上述した通りである。   In step S1304, the state information determination unit 230 determines information indicating the state of the user associated with each of the plurality of messages from the user state acquired by the state acquisition unit 220. The process of associating a plurality of messages with information indicating the user status is as described above.

ステップS1305で、状態情報決定部230は、状態取得部220が取得したユーザの状態から、メッセージに対応付けるユーザの状態を示す情報を決定する。   In step S1305, the state information determination unit 230 determines information indicating the user state associated with the message from the user state acquired by the state acquisition unit 220.

ステップS1306で、状態情報決定部230は、ユーザ状態管理テーブル253に、決定されたユーザの状態を示す情報を、メッセージと対応付けて記憶する。   In step S1306, the state information determination unit 230 stores information indicating the determined user state in the user state management table 253 in association with the message.

(2)副表示領域の表示処理
図14を用いて、端末20による副表示領域60の表示制御の処理について説明する。
(2) Sub-display area display process The display control process of the sub-display area 60 by the terminal 20 will be described with reference to FIG.

ステップS1401で、表示制御部240は、ユーザ状態管理テーブル253のフラグ欄を参照し、表示領域50に表示されるメッセージを特定する。   In step S1401, the display control unit 240 refers to the flag column of the user status management table 253 and identifies a message displayed in the display area 50.

ステップS1402で、表示制御部240は、表示領域50に複数のメッセージが表示されるか否かを判断する。複数のメッセージが表示される場合(ステップS1402 Yes)、ステップS1403に進む。複数のメッセージが表示されない場合、つまり、ひとつのメッセージが表示される場合、ステップS1404に進む。   In step S <b> 1402, the display control unit 240 determines whether a plurality of messages are displayed in the display area 50. When a plurality of messages are displayed (step S1402 Yes), the process proceeds to step S1403. When a plurality of messages are not displayed, that is, when one message is displayed, the process proceeds to step S1404.

ステップS1403で、表示制御部240は、複数のメッセージの各々に対応付けられているユーザの状態を示す情報を、ユーザ状態管理テーブル253から取得する。表示制御部240は、副表示領域60に表示するユーザの状態を示す情報を決定する。決定方法については、上述した通りである。表示制御部240は、必要に応じて、副表示領域60に表示するユーザの状態を示す情報、例えば、表情の推移を示す情報を生成してもよい。   In step S1403, the display control unit 240 acquires information indicating the user status associated with each of the plurality of messages from the user status management table 253. The display control unit 240 determines information indicating the state of the user displayed in the sub display area 60. The determination method is as described above. The display control unit 240 may generate information indicating the state of the user displayed in the sub display area 60, for example, information indicating the transition of facial expression, as necessary.

上述した実施形態では、副表示領域60に、表情マークが表示される場合について説明したが、副表示領域60に、端末20の表情サンプル記憶テーブル251に記憶されている写真を表示させてもよいし、メッセージを表示した時にカメラ21により撮影された写真を表示させてもよい。   In the embodiment described above, the case where the facial expression mark is displayed in the sub display area 60 has been described. However, a photograph stored in the facial expression sample storage table 251 of the terminal 20 may be displayed in the sub display area 60. Then, a picture taken by the camera 21 when the message is displayed may be displayed.

ステップS1404で、表示制御部240は、メッセージに対応付けられているユーザの状態を示す情報を、ユーザ状態管理テーブル253から取得し、取得したユーザの状態を示す情報を副表示領域60に表示することを決定する。   In step S <b> 1404, the display control unit 240 acquires information indicating the user status associated with the message from the user status management table 253, and displays the acquired information indicating the user status in the sub display area 60. Decide that.

ステップS1405で、表示制御部240は、副表示領域60にユーザの状態を示す情報を表示する。   In step S <b> 1405, the display control unit 240 displays information indicating the user state in the sub display area 60.

[第2の実施形態]
次に、第2の実施形態について説明する。第1の実施形態と共通する部分については説明を省略し、異なる部分についてのみ説明する。
[Second Embodiment]
Next, a second embodiment will be described. Description of parts common to the first embodiment will be omitted, and only different parts will be described.

第1の実施形態では、端末20AにユーザBからのメッセージを表示した時の端末20AのユーザAの状態を示す情報を副表示領域60に表示することを特徴としていた。第2の実施形態では、副表示領域60に、ユーザAの状態を示す情報に加えて、ユーザBの状態を示す情報を示すことを特徴としている。ここで、ユーザBの状態を示す情報とは、ユーザBがメッセージを作成する時のユーザBの状態を示す情報、又はユーザBの端末20Bに、ユーザAからのメッセージが表示された時のユーザBの状態を示す情報である。   The first embodiment is characterized in that information indicating the state of the user A of the terminal 20A when the message from the user B is displayed on the terminal 20A is displayed in the sub display area 60. The second embodiment is characterized in that information indicating the state of the user B is displayed in the sub display area 60 in addition to the information indicating the state of the user A. Here, the information indicating the state of the user B is the information indicating the state of the user B when the user B creates the message, or the user when the message from the user A is displayed on the terminal 20B of the user B. This is information indicating the state of B.

<動作シーケンス>
(1)動作シーケンス1:メッセージ入力時の他のユーザの状態を示す情報の表示
図15を用いて第2の実施形態に係る動作シーケンスの一例について説明する。図15は、ユーザBからのメッセージが表示領域50に表示される時に、副表示領域60にユーザBの該メッセージの入力中の状態が表示される場合の動作シーケンスを示している。
<Operation sequence>
(1) Operation sequence 1: display of information indicating the status of another user when a message is input An example of an operation sequence according to the second embodiment will be described with reference to FIG. FIG. 15 shows an operation sequence in the case where the message from the user B is displayed in the display area 50 and the state in which the message of the user B is being input is displayed in the sub display area 60.

ステップS1501で、端末20Bの入力部260は、ユーザBからメッセージ#1の入力を受け付ける。   In step S1501, the input unit 260 of the terminal 20B receives an input of message # 1 from the user B.

ステップS1502で、端末20Bの状態取得部220は、ユーザBがメッセージ#1を入力している時のユーザBの状態を取得し、ユーザBの状態を示す情報を決定する。ユーザの状態の取得方法、及びユーザの状態を示す情報の決定方法については、第1の実施形態と同様である。   In step S1502, the state acquisition unit 220 of the terminal 20B acquires the state of the user B when the user B is inputting the message # 1, and determines information indicating the state of the user B. The method for acquiring the user status and the method for determining information indicating the user status are the same as those in the first embodiment.

ステップS1503で、端末20Bは、ユーザA宛てのメッセージ#1を情報処理装置10に送信する。メッセージ#1はユーザBの状態を示す情報を含む。ここで、端末20Bは決定されたユーザBの状態を示す情報の送信可否の判断を、端末20Bのユーザに促すメッセージを画面に表示し、ユーザから送信可である旨の指示を受け付けたことに応じてステップS1503の処理を実行してもよい。   In step S1503, the terminal 20B transmits message # 1 addressed to the user A to the information processing apparatus 10. Message # 1 includes information indicating the state of user B. Here, the terminal 20B displays on the screen a message prompting the user of the terminal 20B to determine whether the information indicating the state of the determined user B can be transmitted, and has received an instruction from the user that transmission is possible. Accordingly, the process of step S1503 may be executed.

ステップS504で、情報処理装置10は、メッセージ管理テーブル131に受信したメッセージ#1と、ユーザBの状態を示す情報とを記憶する。また、情報処理装置10は、端末20Aにメッセージ#1を、ユーザBの状態を示す情報と共に送信する。   In step S504, the information processing apparatus 10 stores the received message # 1 and information indicating the state of the user B in the message management table 131. Further, the information processing apparatus 10 transmits message # 1 to the terminal 20A together with information indicating the state of the user B.

ステップS1505で、端末20Aはメッセージ#1を受信し、表示領域50にメッセージ#1を表示する。   In step S1505, the terminal 20A receives the message # 1 and displays the message # 1 in the display area 50.

ステップS1506で、端末20AはユーザAのメッセージ#1を表示した時のユーザAの状態を取得し、ユーザAの状態を示す情報を決定する。   In step S1506, the terminal 20A acquires the state of the user A when the message # 1 of the user A is displayed, and determines information indicating the state of the user A.

なお、ステップS1506において、端末20Aは、決定されたユーザAの状態を示す情報を画面に表示し、ユーザAの承認を求めてもよい。   In step S1506, the terminal 20A may display information indicating the determined state of the user A on the screen and request the user A's approval.

例えば、ユーザAの状態を示す情報が、表情の場合、表情に対応するスタンプを端末20Aの画面に表示させてもよい。この場合、端末20Aは、表情に対応するスタンプの候補を表示し、ユーザAの指示に基づいて表情に対応するスタンプを決定してもよい。   For example, when the information indicating the state of the user A is an expression, a stamp corresponding to the expression may be displayed on the screen of the terminal 20A. In this case, the terminal 20A may display a stamp candidate corresponding to the facial expression, and determine a stamp corresponding to the facial expression based on an instruction from the user A.

ステップS1507で、端末20Aの状態情報決定部230は、ユーザ状態管理テーブル253Aに、受信したメッセージ#1と、ユーザBの状態を示す情報と、ユーザAの状態を示す情報とが対応付けられて記憶される。   In step S1507, the state information determination unit 230 of the terminal 20A associates the received message # 1, information indicating the state of the user B, and information indicating the state of the user A with the user state management table 253A. Remembered.

ステップS1508で、端末20は、表示領域50にメッセージ#1を再度表示する。この時に、端末20は、副表示領域60に、ユーザAの状態を示す情報と、ユーザBの状態を示す情報とを表示する。ここで、ユーザBの状態を示す情報は、ユーザBが端末20Bにメッセージ#1を入力した時のユーザBの状態を示す情報である。   In step S1508, the terminal 20 displays the message # 1 again in the display area 50. At this time, the terminal 20 displays information indicating the state of the user A and information indicating the state of the user B in the sub display area 60. Here, the information indicating the state of the user B is information indicating the state of the user B when the user B inputs the message # 1 to the terminal 20B.

(2)動作シーケンス2:メッセージ受信時の他のユーザの状態を示す情報の表示
図16を用いて第2の実施形態に係る動作シーケンスの一例について説明する。図16は、ユーザBの端末20BにユーザAからのメッセージが表示された時のユーザBの状態を示す情報が副表示領域60に表示される場合の動作シーケンスを示している。
(2) Operation sequence 2: Display of information indicating the state of another user at the time of message reception An example of an operation sequence according to the second embodiment will be described with reference to FIG. FIG. 16 shows an operation sequence in the case where information indicating the state of the user B when the message from the user A is displayed on the terminal 20B of the user B is displayed in the sub display area 60.

ステップS1601で、端末20AはユーザB宛のメッセージ#2を情報処理装置10に送信する。   In step S1601, the terminal 20A transmits message # 2 addressed to the user B to the information processing apparatus 10.

ステップS1602で、情報処理装置10は、メッセージ管理テーブル131に受信したメッセージ#2を記憶する。また、情報処理装置10は、端末20Bにメッセージ#2を送信する。   In step S1602, the information processing apparatus 10 stores the received message # 2 in the message management table 131. The information processing apparatus 10 transmits message # 2 to the terminal 20B.

ステップS1603で、端末20Bは、受信したメッセージ#2を表示領域50に表示する。   In step S1603, the terminal 20B displays the received message # 2 in the display area 50.

ステップS1604で、端末20Bは、メッセージ#2が表示された時のユーザBの状態を取得し、ユーザBの状態を示す情報を決定する。   In step S1604, the terminal 20B acquires the state of the user B when the message # 2 is displayed, and determines information indicating the state of the user B.

なお、ステップS1604において、端末20Bは、決定されたユーザBの状態を示す情報を画面に表示し、ユーザBの承認を求めてもよい。   In step S <b> 1604, the terminal 20 </ b> B may display information indicating the determined state of the user B on the screen and request user B's approval.

例えば、ユーザBの状態を示す情報が、表情の場合、表情に対応するスタンプを端末20Bの画面に表示させてもよい。この場合、端末20Bは、表情に対応するスタンプの候補を表示し、ユーザBの指示に基づいて表情に対応するスタンプを決定してもよい。   For example, when the information indicating the state of the user B is an expression, a stamp corresponding to the expression may be displayed on the screen of the terminal 20B. In this case, the terminal 20B may display a stamp candidate corresponding to the facial expression, and determine a stamp corresponding to the facial expression based on an instruction from the user B.

ステップS1605で、端末20Bは、決定されたユーザBの状態を示す情報を、情報処理装置10に送信する。ここで、端末20Bは決定されたユーザBの状態を示す情報の送信可否の判断を、促すメッセージを画面に表示してもよい。この場合、端末20Bが、ユーザBから送信可である旨の指示を受け付けたことに応じてステップS1605の処理が実行される。   In step S <b> 1605, the terminal 20 </ b> B transmits information indicating the determined state of the user B to the information processing apparatus 10. Here, the terminal 20B may display a message prompting the user to determine whether or not the information indicating the determined state of the user B can be transmitted. In this case, the process of step S1605 is executed in response to the terminal 20B receiving an instruction from the user B that transmission is possible.

ステップS1606で、情報処理装置10は、ユーザBの状態を示す情報を、端末20Aに送信する。   In step S1606, the information processing apparatus 10 transmits information indicating the state of the user B to the terminal 20A.

ステップS1607で、端末20Aは、ユーザ状態管理テーブル253Aに、メッセージ#2とユーザBの状態を示す情報とを対応付けて記憶する。   In step S1607, the terminal 20A stores message # 2 and information indicating the state of the user B in the user state management table 253A in association with each other.

ステップS1608で、端末20BはユーザBからメッセージ#3の入力を受け付ける。   In step S1608, the terminal 20B receives an input of message # 3 from the user B.

ステップS1609で、端末20Bは、メッセージ#3を情報処理装置10に送信する。   In step S1609, the terminal 20B transmits message # 3 to the information processing apparatus 10.

ステップS1610で、情報処理装置10は、メッセージ#3を端末20Aに送信する。   In step S1610, the information processing apparatus 10 transmits message # 3 to the terminal 20A.

ステップS1611とステップS1612については、ステップS1505とステップS1506と同じであるため、説明を省略する。   Steps S1611 and S1612 are the same as steps S1505 and S1506, and thus the description thereof is omitted.

ステップS1613で、端末20Aは、ユーザ状態管理テーブル253Aに、メッセージ#3とユーザAの状態を示す情報とを対応付けて記憶する。   In step S1613, the terminal 20A stores message # 3 and information indicating the state of the user A in the user state management table 253A in association with each other.

ステップS1614で、端末20は、表示領域50にメッセージ#2及びメッセージ#3を再度表示する。この時に、端末20は、副表示領域60に、ユーザAの状態を示す情報と、ユーザBの状態を示す情報とを表示する。ここで、ユーザBの状態を示す情報は、端末20Bがメッセージ#2を表示した時のユーザBの状態を示す情報であり、ユーザAの状態を示す情報は、端末20Aがメッセージ#3を表示した時のユーザAの状態を示す情報である。   In step S1614, the terminal 20 displays the message # 2 and the message # 3 again on the display area 50. At this time, the terminal 20 displays information indicating the state of the user A and information indicating the state of the user B in the sub display area 60. Here, the information indicating the state of the user B is information indicating the state of the user B when the terminal 20B displays the message # 2, and the information indicating the state of the user A is indicating the message # 3 by the terminal 20A. It is information which shows the state of the user A at the time.

なお、図15及び図16と同様の手順を用いることにより、副表示領域60に、ユーザAがメッセージを入力した時のユーザAの状態を示す情報と、ユーザBがメッセージを入力した時のユーザBの状態を示す情報とが表示させることもできる。   It should be noted that by using the same procedure as in FIG. 15 and FIG. 16, information indicating the state of user A when user A inputs a message and user when user B inputs a message in sub display area 60. Information indicating the state of B can also be displayed.

<表示制御例>
図17を用いて、第2の実施形態に係る表示制御例を説明する。上述したように、第2の実施形態では、端末20のユーザの状態を示す情報と、チャットの相手のユーザの状態を示す情報とが、副表示領域60に表示される。
<Display control example>
A display control example according to the second embodiment will be described with reference to FIG. As described above, in the second embodiment, information indicating the status of the user of the terminal 20 and information indicating the status of the chat partner user are displayed in the sub display area 60.

図17では、端末20Aの表示領域50Aに、端末20AのユーザAの送信したメッセージ40M/40Nが表示される。表示領域50Bに、受信したユーザBからユーザA宛てのメッセージ40J/40Kが表示される。   In FIG. 17, the message 40M / 40N transmitted by the user A of the terminal 20A is displayed in the display area 50A of the terminal 20A. The received message 40J / 40K addressed to user A from user B is displayed in display area 50B.

副表示領域60Aには、ユーザAの状態を示す情報61Dが表示される。ここで、ユーザAの状態を示す情報61Dは、メッセージ40J/40Kが表示された時のユーザAの状態を示す情報、又はメッセージ40M/40NがユーザAに入力された時のユーザAの状態を示す情報である。   Information 61D indicating the state of the user A is displayed in the sub display area 60A. Here, the information 61D indicating the state of the user A is information indicating the state of the user A when the message 40J / 40K is displayed or the state of the user A when the message 40M / 40N is input to the user A. It is information to show.

副表示領域60Bには、ユーザBの状態を示す情報61Fが表示される。ここで、ユーザBの状態を示す情報61Fは、メッセージ40M/40NがユーザBの端末20Bに表示された時にユーザBの状態を示す情報、又はメッセージ40J/40KがユーザBに入力された時のユーザBの状態を示す情報である。   Information 61F indicating the state of the user B is displayed in the sub display area 60B. Here, the information 61F indicating the state of the user B is information indicating the state of the user B when the message 40M / 40N is displayed on the terminal 20B of the user B, or when the message 40J / 40K is input to the user B. This is information indicating the state of user B.

なお、N人(Nは自然数)のチャットを行う場合、N個の副表示領域60を設け、各々の副表示領域60に、チャットに参加しているユーザの状態を示す情報が表示される。   Note that when N people (N is a natural number) chat, N sub-display areas 60 are provided, and information indicating the status of the users participating in the chat is displayed in each sub-display area 60.

また、第1の実施形態と同様に、端末20がユーザのスクロール等の操作を受けて表示領域50に表示されるメッセージが変更されることに応じて、副表示領域60に示されるユーザの状態を示す情報も、表示されるメッセージに対応するように変更される。   Similarly to the first embodiment, the state of the user shown in the sub display area 60 in response to the message displayed on the display area 50 being changed when the terminal 20 receives an operation such as scrolling by the user. The information indicating is also changed so as to correspond to the displayed message.

なお、図17では、ユーザ毎にひとつの副表示領域60が表示される例を示しているが、ユーザ毎に複数の副表示領域が設定されてもよい。例えば、メッセージ等のコンテンツの近傍にコンテンツの各々に対応付けられたユーザの状態を示す副表示領域60が設けられてもよい。   Although FIG. 17 shows an example in which one sub display area 60 is displayed for each user, a plurality of sub display areas may be set for each user. For example, a sub display area 60 indicating the state of the user associated with each content may be provided in the vicinity of the content such as a message.

<機能構成>
第2の実施形態の端末20の機能構成について説明する。
<Functional configuration>
A functional configuration of the terminal 20 according to the second embodiment will be described.

第2の実施形態では、状態情報決定部230が、チャット相手のユーザBの状態を示す情報を取得し、ユーザ状態管理テーブル253Aに記憶する。また、表示制御部240は、ユーザ状態管理テーブル253Aを参照し、表示されているメッセージに対応する端末20AのユーザAの状態を示す情報と、チャット相手のユーザBの状態を示す情報とを特定し、複数の副表示領域60に表示する。   In the second embodiment, the state information determination unit 230 acquires information indicating the state of the chat partner user B and stores it in the user state management table 253A. Further, the display control unit 240 refers to the user state management table 253A, and identifies information indicating the state of the user A of the terminal 20A corresponding to the displayed message and information indicating the state of the chat partner user B. And displayed in a plurality of sub-display areas 60.

図18を用いて、第2の実施形態に係るユーザ状態管理テーブル253Aについて説明する。   The user state management table 253A according to the second embodiment will be described with reference to FIG.

副表示領域60に、ユーザBからユーザA宛てのメッセージが表示された時のユーザAの状態を示す情報と、ユーザBがユーザA宛てのメッセージを入力した時のユーザBの状態を示す情報とが表示される場合、図18(A)のユーザ状態管理テーブル253Aが用いられる。ユーザAの端末20AがユーザBから受信したメッセージ毎に、送信ユーザ(ユーザB)の状態を示す情報と、受信ユーザ(ユーザA)の状態を示す情報とが対応付けられて記憶される。「送信日時」には、ユーザBの端末20Bからメッセージが送信された日時が記憶され、「表示日時」には、ユーザAの端末20Aにメッセージが表示された日時が記憶される。   Information indicating a state of the user A when a message addressed to the user A is displayed from the user B in the sub display area 60; Information indicating a state of the user B when the user B inputs a message addressed to the user A; Is displayed, the user state management table 253A shown in FIG. 18A is used. For each message received from the user B by the terminal 20A of the user A, information indicating the state of the transmitting user (user B) and information indicating the state of the receiving user (user A) are stored in association with each other. The date and time when the message is transmitted from the terminal 20B of the user B is stored in the “transmission date and time”, and the date and time when the message is displayed on the terminal 20A of the user A is stored as the “display date and time”.

例えば、受信したメッセージ#2が表示領域50に表示されている場合、表示制御部240は、副表示領域60AにユーザAの状態を示す情報「笑顔(Smile)」を表示し、副表示領域60BにユーザBの状態を示す情報「笑顔(Smile)」を表示する。   For example, when the received message # 2 is displayed in the display area 50, the display control unit 240 displays information “Smile” indicating the state of the user A in the sub display area 60A, and the sub display area 60B. Information “Smile” indicating the state of the user B is displayed on the screen.

副表示領域60に、メッセージを受信したユーザの状態を示す情報が受信される場合、図18(B)のユーザ状態管理テーブル253Aが用いられる。ユーザAの端末20Aが、ユーザBからのメッセージが表示領域50に表示された時のユーザAの状態を示す情報が、受信したメッセージと対応付けられて記憶される。また、ユーザBの端末20Bに、ユーザAからのメッセージが表示された時のユーザBの状態を示す情報が、送信したメッセージと対応付けられて記憶される。「表示日時」には、メッセージが宛先の端末20に表示された日時が記憶される。   When information indicating the state of the user who has received the message is received in the sub display area 60, the user state management table 253A in FIG. 18B is used. Information indicating the state of the user A when the message from the user B is displayed in the display area 50 is stored in association with the received message. In addition, information indicating the state of the user B when the message from the user A is displayed is stored in the terminal 20B of the user B in association with the transmitted message. In “Display date and time”, the date and time when the message is displayed on the destination terminal 20 is stored.

例えば、受信したメッセージ#2及び送信したメッセージ#3が表示領域50に表示されている場合、表示制御部240は、副表示領域60AにユーザAの状態を示す情報「怒り(Angry)」を表示し、副表示領域60BにユーザBの状態を示す情報「普通(Normal)」を表示する。   For example, when the received message # 2 and the transmitted message # 3 are displayed in the display area 50, the display control unit 240 displays information “Angry” indicating the state of the user A in the sub display area 60A. Then, information “Normal” indicating the state of the user B is displayed in the sub display area 60B.

第2の実施形態によれば、端末20のユーザの状態を示す情報のみならず、チャット相手のユーザの状態を示す情報が、メッセージ等と対応付けられて表示されるため、端末20のユーザは自分とチャット相手の状態から所望のメッセージ、例えば両方とも笑った話題に関するメッセージ等を、抽出し易くなる。   According to the second embodiment, not only information indicating the state of the user of the terminal 20 but also information indicating the state of the chat partner user is displayed in association with the message or the like. It becomes easy to extract a desired message, for example, a message related to a topic that has both been laughed from the state of the chat partner.

[第3の実施形態]
上述した実施形態では、端末20が、ユーザの状態を取得し、取得した状態を判断していたが、ユーザの状態の判断及びユーザの状態を示す状態の決定については、情報処理装置10で実行されてもよい。第3の実施形態では、ユーザの状態の判断等を情報処理装置10で実行することを特徴としている。
[Third Embodiment]
In the above-described embodiment, the terminal 20 acquires the user state and determines the acquired state. However, the information processing apparatus 10 performs determination of the user state and determination of the state indicating the user state. May be. The third embodiment is characterized in that the information processing apparatus 10 executes determination of the user state and the like.

図19に、第3の実施形態に係る情報処理装置10の機能構成を示す。   FIG. 19 shows a functional configuration of the information processing apparatus 10 according to the third embodiment.

第3の実施形態に係る情報処理装置10は、第1及び第2の実施形態の情報処理装置10が有する機能に加えて、情報処理装置10が、状態情報決定部140を有し、情報管理部130が、表情サンプル記憶テーブル133及び表情マーク記憶テーブル134を有することを特徴としている。   The information processing apparatus 10 according to the third embodiment includes the state information determination unit 140 in addition to the functions of the information processing apparatus 10 according to the first and second embodiments. The unit 130 includes an expression sample storage table 133 and an expression mark storage table 134.

状態情報決定部140は、第1及び第2の実施形態の状態情報決定部230と同様の処理を実行する。状態情報決定部140は、送受信部110を介して、端末20が取得した端末20の状態を取得し、ユーザの状態の判断と、ユーザの状態を示す情報を決定し、決定したユーザの状態を示す情報を、ユーザ状態管理テーブル132に記憶する。   The state information determination unit 140 performs the same processing as the state information determination unit 230 of the first and second embodiments. The state information determination unit 140 acquires the state of the terminal 20 acquired by the terminal 20 via the transmission / reception unit 110, determines the determination of the user state, information indicating the user state, and determines the determined user state. The information shown is stored in the user status management table 132.

表示制御部150は、決定したユーザの状態を示す情報と、メッセージとの対応付けを示す情報とを、送受信部110を介して、端末20に通知する。また、表示制御部150は、メッセージが再び端末20の画面に表示された時に、対応付けを示す情報に従って表示することを指示する。   The display control unit 150 notifies the terminal 20 of information indicating the determined user status and information indicating the association with the message via the transmission / reception unit 110. In addition, when the message is displayed on the screen of the terminal 20 again, the display control unit 150 instructs to display according to the information indicating the association.

表情サンプル記憶テーブル133は、表情サンプル記憶テーブル251と同じ情報を記憶する。また、表情マーク記憶テーブル134は、表情マーク記憶テーブル252と同じ情報を記憶する。   The facial expression sample storage table 133 stores the same information as the facial expression sample storage table 251. The facial expression mark storage table 134 stores the same information as the facial expression mark storage table 252.

次に、図20を用いて、第3の実施形態に係る端末20の機能構成を説明する。   Next, the functional configuration of the terminal 20 according to the third embodiment will be described with reference to FIG.

第3の実施形態に係る端末20は、情報処理装置10で、ユーザの状態の判断等を行うため、状態情報決定部230、表情サンプル記憶テーブル251、及び表情マーク記憶テーブル252を有さない。   The terminal 20 according to the third embodiment does not include the state information determination unit 230, the facial expression sample storage table 251, and the facial expression mark storage table 252 because the information processing apparatus 10 determines the state of the user.

送受信部210は、情報処理装置10から、ユーザの状態を示す情報と、メッセージとの対応付けを示す情報とを受信する。受信した情報は、ユーザ状態管理テーブル253に記憶される。表示制御部240は、情報処理装置10の指示に従って、メッセージが再び端末20の画面に表示された時に、メッセージと、メッセージに対応付けられたユーザの状態を示す情報とを表示領域50及び副表示領域60に表示する。   The transmission / reception unit 210 receives information indicating the state of the user and information indicating an association with the message from the information processing apparatus 10. The received information is stored in the user status management table 253. When the message is displayed again on the screen of the terminal 20 in accordance with the instruction of the information processing apparatus 10, the display control unit 240 displays the message and information indicating the state of the user associated with the message in the display area 50 and the sub display. Display in area 60.

上述したように、端末20と情報処理装置10の機能分担を変更しても、第1の実施形態及び第2の実施形態に記載したのと同様の表示制御を実行することができる。また、第1乃至第3の実施形態以外の機能分担であっても、同様の表示制御を実行することができるのは勿論である。   As described above, even if the function sharing between the terminal 20 and the information processing apparatus 10 is changed, display control similar to that described in the first embodiment and the second embodiment can be executed. Of course, the same display control can be executed even in the case of function sharing other than in the first to third embodiments.

[その他]
上述した実施形態では、副表示領域60に表情を示すマークを表示する場合について説明したが、ユーザの状態と対応付けられたユーザの画像、アニメーション、色等によりユーザの状態を示してもよい。また、色を用いる場合、表示領域50の色をメッセージに対応するユーザの状態に応じて変更してもよい。
[Others]
In the embodiment described above, the case where a mark indicating an expression is displayed in the sub display area 60 has been described. However, the user state may be indicated by a user image, animation, color, or the like associated with the user state. Moreover, when using a color, you may change the color of the display area 50 according to the state of the user corresponding to a message.

状態取得部220は、取得部の一例である。状態情報決定部230は、対応付け部の一例である。   The state acquisition unit 220 is an example of an acquisition unit. The state information determination unit 230 is an example of an association unit.

送受信部110は、送信部及び受信部の一例である。状態情報決定部140は、対応付け部の一例である。   The transmission / reception unit 110 is an example of a transmission unit and a reception unit. The state information determination unit 140 is an example of an association unit.

上述した実施形態では、ユーザの状態を示す情報として、表情等を例示したが、ユーザの状態を示す情報はこれに限定されない。例えば、ユーザがメッセージを確認した時の天気、又は端末のユーザの移動速度等をユーザの状態としてもよい。この場合、端末20は、温度計、湿度計、及び加速度センサ等を具備する。   In the above-described embodiment, the facial expression or the like is exemplified as the information indicating the user state, but the information indicating the user state is not limited to this. For example, the weather when the user confirms the message, the moving speed of the user of the terminal, or the like may be set as the user state. In this case, the terminal 20 includes a thermometer, a hygrometer, an acceleration sensor, and the like.

上述した実施の形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、情報処理装置10及び端末20に供給してもよい。そして、情報処理装置10及び端末20が、記憶媒体に格納されたプログラムコードを読み出し実行することによっても、上述の実施形態が、達成されることは言うまでもない。この場合、記憶媒体には、上述した表示制御方法を、情報処理装置10及び端末20に実行させるプログラムが記憶される。   A storage medium storing software program codes for realizing the functions of the above-described embodiments may be supplied to the information processing apparatus 10 and the terminal 20. Needless to say, the above-described embodiment is also achieved when the information processing apparatus 10 and the terminal 20 read and execute the program code stored in the storage medium. In this case, the storage medium stores a program that causes the information processing apparatus 10 and the terminal 20 to execute the display control method described above.

具体的には、受信したメッセージを、端末の画面に表示する第1のステップと、前記メッセージが表示されたことに応じて、前記端末のユーザの状態を取得する第2のステップと、前記メッセージと、取得された前記ユーザの状態を示す情報とを対応付ける第3のステップと、前記メッセージが再び前記画面に表示された時に、前記メッセージと共に、前記ユーザの状態を示す情報を、前記画面に表示する第4のステップとを、端末に実行させる、プログラムが、記憶媒体に記憶される。   Specifically, a first step of displaying the received message on the screen of the terminal, a second step of acquiring the state of the user of the terminal in response to the display of the message, and the message And a third step of associating the acquired information indicating the state of the user, and when the message is displayed on the screen again, the information indicating the state of the user is displayed on the screen together with the message. A program for causing the terminal to execute the fourth step is stored in the storage medium.

また、端末に、他の端末からのメッセージが、前記端末の画面に表示された時の前記端末のユーザの状態を受信するステップと、前記メッセージと、取得された前記ユーザの状態を示す情報とを対応付けるステップと、前記ユーザの状態を示す情報と、前記メッセージとの対応付けを示す情報とを送信するステップと、前記メッセージが再び前記端末の前記画面に表示された時に、前記端末に、前記メッセージと共に、前記ユーザの状態を示す情報を、表示させるステップとを、情報処理装置に実行させる、プログラムが、記憶媒体に記憶される。   In addition, on the terminal, a step of receiving a status of the user of the terminal when a message from another terminal is displayed on the screen of the terminal; the message; and information indicating the acquired status of the user; A step of transmitting the information indicating the state of the user and the information indicating the association with the message, and when the message is displayed again on the screen of the terminal, A program that causes the information processing apparatus to execute a step of displaying information indicating the state of the user together with the message is stored in a storage medium.

そして、これらの記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになる。   Then, the program code itself read from these storage media realizes the functions of the above-described embodiments.

また、コンピュータ装置が読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけではない。そのプログラムコードの指示に従って、コンピュータ装置上で動作しているオペレーティングシステム(OS)等が実際の処理の一部または全部を行ってもよい。さらに、その処理によって前述した実施形態の機能が実現されてもよいことは言うまでもない。   The functions of the above-described embodiments are not only realized by executing the program code read by the computer device. An operating system (OS) or the like operating on the computer device may perform part or all of the actual processing in accordance with the instruction of the program code. Furthermore, it goes without saying that the functions of the above-described embodiments may be realized by the processing.

以上、本発明の好ましい実施形態について説明したが、本発明はこうした実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。   As mentioned above, although preferable embodiment of this invention was described, this invention is not limited to such embodiment, A various deformation | transformation and substitution can be added in the range which does not deviate from the summary of this invention.

1 情報処理システム
2 ネットワーク
10 情報処理装置
20 端末
20A 端末
20B 端末
21 カメラ
22 生体センサ
23 自己位置測定装置
110 送受信部
120 メッセージ制御部
130 情報管理部
131 メッセージ管理テーブル
132 ユーザ状態管理テーブル (情報処理装置)
133 表情サンプル記憶テーブル (情報処理装置)
134 表情マーク記憶テーブル (情報処理装置)
140 状態情報決定部
150 表示制御部
210 送受信部
220 状態取得部
230 状態情報決定部
240 表示制御部
250 情報管理部
251 表情サンプル記憶テーブル (端末)
252 表情マーク記憶テーブル (端末)
253 ユーザ状態管理テーブル (端末)
260 入力部
DESCRIPTION OF SYMBOLS 1 Information processing system 2 Network 10 Information processing apparatus 20 Terminal 20A Terminal 20B Terminal 21 Camera 22 Biosensor 23 Self-position measurement apparatus 110 Transmission / reception part 120 Message control part 130 Information management part 131 Message management table 132 User state management table (Information processing apparatus )
133 Facial expression sample storage table (Information processing equipment)
134 Expression Mark Storage Table (Information Processing Device)
140 state information determination unit 150 display control unit 210 transmission / reception unit 220 state acquisition unit 230 state information determination unit 240 display control unit 250 information management unit 251 facial expression sample storage table (terminal)
252 Expression mark storage table (terminal)
253 User status management table (terminal)
260 Input section

Claims (13)

情報処理端末に、
受信したコンテンツを、前記情報処理端末の画面に表示する第1のステップと、
前記受信したコンテンツが表示されたことに応じて、前記情報処理端末のユーザの状態を取得する第2のステップと、
前記受信したコンテンツと、取得された前記ユーザの状態を示す情報とを対応付ける第3のステップと、
前記受信した複数のコンテンツが同時に、再び前記画面に表示される場合、前記複数のコンテンツの各々に対応付けられた前記ユーザの各状態に応じて、所定の表示領域に表示する前記ユーザの一の状態を決定し、前記画面に表示する第4のステップとを、実行させるプログラム。
In the information processing terminal,
A first step of displaying the received content on the screen of the information processing terminal ;
A second step of acquiring a state of a user of the information processing terminal in response to the received content being displayed;
A third step of associating the received content with the acquired information indicating the state of the user;
The received plurality of contents at the same time, if it appears again the screen, depending on the state of the user associated with each of the plurality of contents, the user to be displayed in the predetermined display area one A program for determining a state and executing the fourth step displayed on the screen .
前記第1のステップにおいて、複数の前記受信したコンテンツが同時に表示された場合、前記第2のステップにおいて、所定の期間の前記ユーザの状態を取得し、
前記第3のステップにおいて、前記所定の期間に取得された前記ユーザの状態を基に、前記ユーザの状態を示す情報を決定し、前記画面に表示された複数の前記受信したコンテンツの各々と、決定された前記ユーザの状態を示す情報とを対応付ける請求項1に記載のプログラム
In the first step, if the content in which a plurality of said received is displayed simultaneously, in the second step, to obtain the status of the user of Jo Tokoro period,
In the third step, based on a state before Symbol the user acquired in a predetermined period, to determine the information indicating the status of the user, and each of the content in which a plurality of the reception displayed on the screen associates the information indicating the state of the determined said user program according to claim 1.
前記情報処理端末のユーザの指示に応じて、前記画面に表示されるコンテンツが第1のコンテンツから第2のコンテンツに変更されると、前記第2のコンテンツに対応付けられている前記ユーザの状態を示す情報を、前記画面に表示するステップと、を実行させる、請求項1又は2に記載のプログラムIn accordance with an instruction of the user of the information processing terminal, the content to be displayed on the screen is changed from the first content to a second content, before Symbol of the user associated with the second content the information indicating the state, and displaying on the screen, Ru is the execution, a program according to claim 1 or 2. 前記画面に表示されるコンテンツが、前記第1のコンテンツから前記第2のコンテンツに変更される場合、前記第1のコンテンツに対応付けられた前記ユーザの状態を示す情報から、前記第2のコンテンツに対応付けられた前記ユーザの状態を示す状態への推移を前記画面に表示させる、請求項3に記載のプログラムContent displayed on the screen, to change from the first content to the second content, before Symbol information indicating the status of the user associated with the first content, the second the transition to state indicating the state of the user associated with content Ru is displayed on the screen, the program of claim 3. 前記情報処理端末のユーザの指示に応じて、前記画面に表示されるコンテンツが、第1の期間に受信したコンテンツから、第2の期間に受信したコンテンツに変更されると、前記第2の期間に受信したコンテンツに対応付けられた前記ユーザの状態を示す情報を、前記画面に表示するステップと、を実行させる、請求項1又は2に記載のプログラムIn accordance with an instruction of the user of the information processing terminal, content to be displayed on the screen, the content received in the first period, when it is changed to the content received in the second period, before Symbol second the information indicating the status of the user associated with the content received in the period, and displaying on the screen, Ru is the execution, a program according to claim 1 or 2. 前記受信したコンテンツは、該コンテンツが他の情報処理端末に入力されたときの前記他の情報処理端末のユーザの状態を示す情報を含み、
前記第4のステップにおいて、前記他の情報処理端末のユーザの状態を示す情報を前記画面に表示させる、請求項1又は2に記載のプログラム
Have the received content includes information indicating the state of the user of the other information processing terminal when the content is input to the other information processing terminal,
Wherein said at fourth step, to display the information indicating the state of the user before Symbol another information processing terminal to the screen, the program according to Motomeko 1 or 2.
前記情報処理端末のユーザの指示に応じて、前記画面に表示されるコンテンツが第1のコンテンツから第2のコンテンツに変更されると、前記第2のコンテンツに対応付けられている前記ユーザの状態を示す情報、及び前記他の情報処理端末のユーザの状態を示す情報を、前記画面に表示するステップと、を実行させる、請求項6に記載のプログラムIn accordance with an instruction of the user of the information processing terminal, the content to be displayed on the screen is changed from the first content to a second content, before Symbol of the user associated with the second content information indicating the state, and information indicating the state of the user of the other information processing terminal, and displaying on the screen, Ru is the execution, a program of claim 6. 前記情報処理端末のユーザの指示に応じて、前記画面に表示されるコンテンツが、第1の期間に送受信したコンテンツから、第2の期間に送受信したコンテンツに変更されると、前記第2の期間に送受信したコンテンツに対応付けられた前記ユーザの状態を示す情報、及び前記他の情報処理端末のユーザの状態を示す情報を、前記画面に表示するステップと、を実行させる、請求項7に記載のプログラムIn accordance with an instruction of the user of the information processing terminal, content to be displayed on the screen, from the contents transmitted and received in the first period, when it is changed to the content that is transmitted and received in the second period, before Symbol second information indicating the status of the user associated with the sending and receiving content in a period, and information indicating the state of the user of the other information processing terminal, and displaying on the screen, Ru is run, according to claim 7 The program described in. 前記ユーザの状態は、前記ユーザの外観の画像、生体情報、滞在する場所、又はこれらの組み合わせである、請求項1乃至8のいずれか一項に記載のプログラムState of the user, an image of the appearance of the user, biometric information, where to stay, or a combination thereof, the program according to any one of Motomeko 1 to 8. 前記ユーザの状態を示す情報は、マーク、スタンプ、アニメーション、グラフ、地図、又はこれらの組み合わせにより、前記画面に表示される、請求項1乃至9のいずれか一項に記載のプログラムInformation indicating the status of the user, marks, stamps, animations, graphs, maps, or a combination thereof, is displayed on the screen, the program according to any one of Motomeko 1-9. 情報処理端末であって、
受信したコンテンツを、画面に表示させる表示制御部と、
前記受信したコンテンツが表示されたことに応じて、前記情報処理端末のユーザの状態を取得する取得部と、
前記受信したコンテンツと、取得された前記ユーザの状態を示す情報とを対応付ける対応付け部と、を有し、
前記表示制御部は、前記受信した複数のコンテンツが同時に、再び前記画面に表示される場合、前記複数のコンテンツの各々に対応付けられた前記ユーザの各状態に応じて、所定の表示領域に表示する前記ユーザの一の状態を決定し、前記画面に表示する情報処理端末。
An information processing terminal ,
A display control unit for displaying the received content on the screen;
An acquisition unit for acquiring a state of the user of the information processing terminal in response to the received content being displayed;
An association unit that associates the received content with the acquired information indicating the state of the user;
When the plurality of received contents are displayed again on the screen at the same time, the display control unit displays them in a predetermined display area according to each state of the user associated with each of the plurality of contents. wherein determining the one state of the user is displayed on the screen, the information processing terminal.
情報処理端末が、
受信したコンテンツを、前記情報処理端末の画面に表示する第1のステップと、
前記受信したコンテンツが表示されたことに応じて、前記情報処理端末のユーザの状態を取得する第2のステップと、
前記受信したコンテンツと、取得された前記ユーザの状態を示す情報とを対応付ける第3のステップと、
前記受信した複数のコンテンツが同時に、再び前記画面に表示される場合、前記複数のコンテンツの各々に対応付けられた前記ユーザの各状態に応じて、所定の表示領域に表示する前記ユーザの一の状態を決定し、前記画面に表示する第4のステップとを、実行する表示制御方法。
Information processing terminal
A first step of displaying the received content on the screen of the information processing terminal ;
A second step of acquiring a state of a user of the information processing terminal in response to the received content being displayed;
A third step of associating the received content with the acquired information indicating the state of the user;
The received plurality of contents at the same time, if it appears again the screen, depending on the state of the user associated with each of the plurality of contents, the user to be displayed in the predetermined display area one A display control method for executing a fourth step of determining a state and displaying the state on the screen .
情報処理端末に、他の情報処理端末からのコンテンツが、前記情報処理端末の画面に表示された時の前記情報処理端末のユーザの状態を受信する受信部と、
前記他の情報処理端末からのコンテンツと、前記受信されたユーザの状態を示す情報とを対応付ける対応付け部と、
前記受信されたユーザの状態を示す情報と、前記他の情報処理端末からのコンテンツとの対応付けを示す情報とを送信する送信部と、
前記他の情報処理端末からの複数のコンテンツが同時に、再び前記画面に表示される場合、前記複数のコンテンツの各々に対応付けられた前記ユーザの各状態に応じて、所定の表示領域に表示する前記ユーザの一の状態を決定し、前記情報処理端末の画面に表示させる表示制御部とを、有する、情報処理装置。
The information processing terminal, a receiving unit content from another information processing terminal receives the state of the user of the information processing terminal when it is displayed on the screen of the information processing terminal,
An association unit for associating content from the other information processing terminal with information indicating the received user status;
A transmission unit that transmits information indicating the received user status and information indicating association with content from the other information processing terminal ;
When a plurality of contents from the other information processing terminals are simultaneously displayed on the screen again , the contents are displayed in a predetermined display area according to each state of the user associated with each of the plurality of contents. An information processing apparatus comprising: a display control unit that determines one state of the user and displays the state on the screen of the information processing terminal .
JP2016027311A 2016-02-16 2016-02-16 Display control method, terminal, program, and information processing apparatus Active JP6096341B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016027311A JP6096341B1 (en) 2016-02-16 2016-02-16 Display control method, terminal, program, and information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016027311A JP6096341B1 (en) 2016-02-16 2016-02-16 Display control method, terminal, program, and information processing apparatus

Publications (2)

Publication Number Publication Date
JP6096341B1 true JP6096341B1 (en) 2017-03-15
JP2017146743A JP2017146743A (en) 2017-08-24

Family

ID=58281127

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016027311A Active JP6096341B1 (en) 2016-02-16 2016-02-16 Display control method, terminal, program, and information processing apparatus

Country Status (1)

Country Link
JP (1) JP6096341B1 (en)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271501A (en) * 2002-03-14 2003-09-26 Fuji Photo Film Co Ltd Terminal, server, program and system
JP2007280074A (en) * 2006-04-07 2007-10-25 Hitachi Ltd Portable terminal and control method
JP2008226205A (en) * 2007-03-16 2008-09-25 Sony Ericsson Mobilecommunications Japan Inc Device and method for creating information retrieval database, portable information terminal, information retrieval database creation program, and portable information terminal control program
JP2009145937A (en) * 2007-12-11 2009-07-02 Sharp Corp Email format conversion device, mobile communication terminal with the same, image forming device, email format conversion program and email format conversion method
JP2014063211A (en) * 2012-09-19 2014-04-10 Nihon Business Machines Supplies Coltd Communication terminal device, control method, and control program
JP2014232419A (en) * 2013-05-29 2014-12-11 株式会社ニコン Image evaluation server and image evaluation system
JP2015026105A (en) * 2013-07-24 2015-02-05 株式会社ニコン Image evaluation server
JP2015060380A (en) * 2013-09-18 2015-03-30 シャープ株式会社 Information terminal and information processing system
US20150156543A1 (en) * 2013-12-02 2015-06-04 Dumbstruck, Inc. Video reaction processing
US20150350125A1 (en) * 2014-05-30 2015-12-03 Cisco Technology, Inc. Photo Avatars

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271501A (en) * 2002-03-14 2003-09-26 Fuji Photo Film Co Ltd Terminal, server, program and system
JP2007280074A (en) * 2006-04-07 2007-10-25 Hitachi Ltd Portable terminal and control method
JP2008226205A (en) * 2007-03-16 2008-09-25 Sony Ericsson Mobilecommunications Japan Inc Device and method for creating information retrieval database, portable information terminal, information retrieval database creation program, and portable information terminal control program
JP2009145937A (en) * 2007-12-11 2009-07-02 Sharp Corp Email format conversion device, mobile communication terminal with the same, image forming device, email format conversion program and email format conversion method
JP2014063211A (en) * 2012-09-19 2014-04-10 Nihon Business Machines Supplies Coltd Communication terminal device, control method, and control program
JP2014232419A (en) * 2013-05-29 2014-12-11 株式会社ニコン Image evaluation server and image evaluation system
JP2015026105A (en) * 2013-07-24 2015-02-05 株式会社ニコン Image evaluation server
JP2015060380A (en) * 2013-09-18 2015-03-30 シャープ株式会社 Information terminal and information processing system
US20150156543A1 (en) * 2013-12-02 2015-06-04 Dumbstruck, Inc. Video reaction processing
US20150350125A1 (en) * 2014-05-30 2015-12-03 Cisco Technology, Inc. Photo Avatars

Also Published As

Publication number Publication date
JP2017146743A (en) 2017-08-24

Similar Documents

Publication Publication Date Title
US11394676B2 (en) Media content response in a messaging system
US20230269208A1 (en) Generating and displaying customized avatars in media overlays
US11991250B2 (en) Social network pooled post capture
CN110168586B (en) Context generation and selection of customized media content
US11504636B2 (en) Games in chat
US20210303855A1 (en) Augmented reality item collections
CN115526947A (en) Displaying custom electronic message graphics
EP4248406A1 (en) Body animation sharing and remixing
EP4214901A1 (en) Context triggered augmented reality
US11695899B2 (en) Subtitle presentation based on volume control
CN116684372A (en) System and method for generating custom graphics that react to electronic message content
US20220086111A1 (en) Augmented reality auto reactions
WO2023215291A1 (en) Monitoring user activity on messaging platform
JP6096341B1 (en) Display control method, terminal, program, and information processing apparatus
EP4272210A1 (en) Trimming video within a messaging system
US20240259471A1 (en) Social network pooled post capture
US20240004517A1 (en) Messaging application with conversation filtering
US20240160343A1 (en) Selectively modifying a gui
US20240163489A1 (en) Navigating previously captured images and ar experiences
WO2024107705A1 (en) Navigating previously captured images and ar experiences

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170215

R150 Certificate of patent or registration of utility model

Ref document number: 6096341

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250