CN115004308A - 用于提供活动推荐的接口的方法和*** - Google Patents
用于提供活动推荐的接口的方法和*** Download PDFInfo
- Publication number
- CN115004308A CN115004308A CN202080089928.5A CN202080089928A CN115004308A CN 115004308 A CN115004308 A CN 115004308A CN 202080089928 A CN202080089928 A CN 202080089928A CN 115004308 A CN115004308 A CN 115004308A
- Authority
- CN
- China
- Prior art keywords
- user
- data
- activity
- emotional
- recommendation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000000694 effects Effects 0.000 title claims abstract description 490
- 238000000034 method Methods 0.000 title claims description 102
- 230000002996 emotional effect Effects 0.000 claims abstract description 470
- 230000001149 cognitive effect Effects 0.000 claims abstract description 173
- 238000004458 analytical method Methods 0.000 claims abstract description 113
- 238000012545 processing Methods 0.000 claims abstract description 66
- 230000006399 behavior Effects 0.000 claims abstract description 33
- 238000012544 monitoring process Methods 0.000 claims abstract description 13
- 230000004044 response Effects 0.000 claims description 73
- 230000003542 behavioural effect Effects 0.000 claims description 52
- 230000008451 emotion Effects 0.000 claims description 38
- 230000001953 sensory effect Effects 0.000 claims description 37
- 230000008569 process Effects 0.000 claims description 33
- 230000003993 interaction Effects 0.000 claims description 25
- 238000004891 communication Methods 0.000 claims description 20
- 238000000605 extraction Methods 0.000 claims description 20
- 230000008859 change Effects 0.000 claims description 17
- 230000006855 networking Effects 0.000 claims description 17
- 230000007613 environmental effect Effects 0.000 claims description 11
- 230000005540 biological transmission Effects 0.000 claims description 9
- 239000003205 fragrance Substances 0.000 claims description 7
- 230000002730 additional effect Effects 0.000 claims description 4
- 238000011867 re-evaluation Methods 0.000 claims description 4
- 230000036541 health Effects 0.000 description 122
- 239000000284 extract Substances 0.000 description 19
- 238000001514 detection method Methods 0.000 description 13
- 238000012549 training Methods 0.000 description 12
- 230000036642 wellbeing Effects 0.000 description 12
- 230000001815 facial effect Effects 0.000 description 11
- 230000033001 locomotion Effects 0.000 description 11
- 230000008447 perception Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 9
- 230000006872 improvement Effects 0.000 description 9
- 230000036651 mood Effects 0.000 description 8
- 230000008909 emotion recognition Effects 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 7
- 230000008901 benefit Effects 0.000 description 6
- 238000011524 similarity measure Methods 0.000 description 6
- 230000008921 facial expression Effects 0.000 description 5
- 230000002776 aggregation Effects 0.000 description 4
- 238000004220 aggregation Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000008450 motivation Effects 0.000 description 4
- 238000003860 storage Methods 0.000 description 4
- 230000036772 blood pressure Effects 0.000 description 3
- 239000003795 chemical substances by application Substances 0.000 description 3
- 238000007596 consolidation process Methods 0.000 description 3
- 238000013480 data collection Methods 0.000 description 3
- 238000002567 electromyography Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 230000035807 sensation Effects 0.000 description 3
- 206010029216 Nervousness Diseases 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000001747 exhibiting effect Effects 0.000 description 2
- 230000004424 eye movement Effects 0.000 description 2
- 230000005021 gait Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 230000003340 mental effect Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 210000003205 muscle Anatomy 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 230000037081 physical activity Effects 0.000 description 2
- 230000004962 physiological condition Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000035484 reaction time Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000002560 therapeutic procedure Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000003442 weekly effect Effects 0.000 description 2
- 206010048909 Boredom Diseases 0.000 description 1
- 206010041243 Social avoidant behaviour Diseases 0.000 description 1
- 208000003443 Unconsciousness Diseases 0.000 description 1
- 230000004308 accommodation Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003935 attention Effects 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007177 brain activity Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 230000003930 cognitive ability Effects 0.000 description 1
- 230000010492 cognitive-emotional process Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000009223 counseling Methods 0.000 description 1
- 238000013481 data capture Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000012173 estrus Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000002650 habitual effect Effects 0.000 description 1
- 230000008821 health effect Effects 0.000 description 1
- 235000003642 hunger Nutrition 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- LGAILEFNHXWAJP-BMEPFDOTSA-N macrocycle Chemical compound N([C@H]1[C@@H](C)CC)C(=O)C(N=2)=CSC=2CNC(=O)C(=C(O2)C)N=C2[C@H]([C@@H](C)CC)NC(=O)C2=CSC1=N2 LGAILEFNHXWAJP-BMEPFDOTSA-N 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000001404 mediated effect Effects 0.000 description 1
- 238000003012 network analysis Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000007363 ring formation reaction Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000022676 rumination Effects 0.000 description 1
- 208000015212 rumination disease Diseases 0.000 description 1
- 230000004434 saccadic eye movement Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000009987 spinning Methods 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/167—Personality evaluation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0621—Item configuration or customization
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/08—Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
- G06Q10/087—Inventory or stock management, e.g. order filling, procurement or balancing against orders
- G06Q10/0875—Itemisation or classification of parts, supplies or services, e.g. bill of materials
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/101—Collaborative creation, e.g. joint development of products or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0641—Shopping interfaces
- G06Q30/0643—Graphical representation of items or shoppers
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/70—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mental therapies, e.g. psychological therapy or autogenous training
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/63—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/021—Measuring pressure in heart or blood vessels
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/024—Detecting, measuring or recording pulse rate or heart rate
- A61B5/02438—Detecting, measuring or recording pulse rate or heart rate with portable devices, e.g. worn by the patient
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/08—Detecting, measuring or recording devices for evaluating the respiratory organs
- A61B5/0816—Measuring devices for examining respiratory frequency
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1118—Determining activity level
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/145—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue
- A61B5/14507—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue specially adapted for measuring characteristics of body fluids other than blood
- A61B5/14517—Measuring characteristics of blood in vivo, e.g. gas concentration, pH value; Measuring characteristics of body fluids or tissues, e.g. interstitial fluid, cerebral tissue specially adapted for measuring characteristics of body fluids other than blood for sweat
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4803—Speech analysis specially adapted for diagnostic purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/0092—Nutrition
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
- G16H10/20—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for electronic clinical trials or questionnaires
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/30—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/60—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to nutrition control, e.g. diets
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Strategic Management (AREA)
- General Physics & Mathematics (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Development Economics (AREA)
- Medical Informatics (AREA)
- Marketing (AREA)
- Entrepreneurship & Innovation (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Data Mining & Analysis (AREA)
- Psychiatry (AREA)
- General Engineering & Computer Science (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Artificial Intelligence (AREA)
- Pathology (AREA)
- Psychology (AREA)
- Tourism & Hospitality (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biophysics (AREA)
- Social Psychology (AREA)
- Hospice & Palliative Care (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
Abstract
本发明描述了一种用于通过监测用户活动来提供具有活动推荐的接口的***,在所述用户活动中在用户装置处接收与用户相关的用户数据。所述用户数据至少包括图像数据、文本输入、生物特征数据和音频数据,并且可能已经使用所述用户装置上的一个或多个传感器来捕获。使用至少以下来处理所述用户数据:面部分析;身体分析;眼跟踪;语音分析;行为分析;社交网络分析;定位分析;用户的活动分析;以及文本分析。基于所述用户数据,可以确定所述用户的一个或多个认知情感能力的一个或多个状态。基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征。基于所述情绪特征,可以推荐用于改善所述情绪特征的一个或多个推荐。
Description
相关申请的交叉引用
本公开要求于2019年10月30日提交的美国临时专利申请第62/928,210号和于2020年7月16日提交的美国临时专利申请第63/052,836号的权益和优先权,所述美国临时专利申请的内容通过引用并入本文。
技术领域
本公开涉及用于通过利用传感器监测用户活动来提供活动推荐的接口的方法和***,以及用于确定用户的情绪特征并且基于用户的情绪特征生成活动推荐以用于改善用户的健康的方法和***。
背景技术
人类情绪是高度复杂的,并且可以从一个时刻到下一个时刻发生显著变化。虽然人的性格类型可以在长时间范围内保持相对固定,但人的情绪(例如,他们当前是否感到快乐、悲伤或愤怒)可以变化得更快,这取决于人发现自己所处的特定环境或社会情形。另外,人的认知情感能力的水平或状态(例如,他们如何处理导致注意力调节、情绪调节、亲社会性和不执着(non-attachment)方面的偏离的外部和内部刺激)也可能在相对较短时间范围内发生变化,这取决于例如个体的特定身体和心理状况(例如,他们已经具有的睡眠量或他们当前的饥饿水平)。
本文所述的实施例涉及用于通过使用侵入式和非侵入式传感器来检测人的性格类型、情绪和其它情绪特征的自动化***。如此,可以尝试基于例如各种不同传感器所捕获的人的面部表情或其语音的语调的数据来确立人的当前情绪状态。
表现出相对较差的情绪健康状态的人可能需要心理或情绪帮助,并且存在可以用于帮助人提高他们的一般情绪适能或健康的许多不同类型的活动、谘询会议和疗法。本文所述的实施例涉及用于提供针对如由传感器所捕获的个体的特定性格和情绪健康的当前状态而定制的帮助的活动推荐的自动化***。
发明内容
实施例涉及具有以下的方法和***:非暂时性存储器,所述非暂时性存储器存储跨多个信道的用户数据的数据记录,如与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据;以及硬件处理器,所述硬件处理器具有接口以提供基于用户数据和活动度量生成的活动推荐,并且硬件处理器可以访问存储在存储器中的用户数据以确定用户的情绪特征,并且通过访问存储基于用户的情绪特征定位并且被排名以用于改善用户的健康的一组活动记录的非暂时性存储器来生成活动推荐。
实施例涉及一种用于使用一个或多个传感器在用户会话期间监测用户并且提供具有针对所述用户会话的活动推荐的接口的***。所述***具有非暂时性存储器,所述非暂时性存储器存储活动推荐记录、情绪特征记录以及存储从多个信道接收到的用户数据的用户记录,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据。所述***具有硬件处理器,所述硬件处理器用接口的可执行指令编程以在一定时间段内获得针对用户会话的用户数据,传输针对所述用户会话的推荐请求并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐。所述***具有耦合到存储器的硬件服务器,以访问活动推荐记录、情绪特征记录和用户记录。所述硬件服务器用可执行指令编程,以响应于从所述接口接收到所述推荐请求而通过以下方式通过网络向所述接口传输所述活动推荐:使用针对所述用户会话的所述用户数据和所述用户记录来计算活动度量、认知情感能力度量和社交度量,对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于所述文本输入,使用文本分析;基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态;基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态并且使用所述情绪特征记录来计算所述用户的情绪特征;以及基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐;所述***具有用户装置,所述用户装置包括用于在所述时间段期间捕获用户数据的一个或多个传感器;以及传输器,所述传输器用于通过所述网络向所述接口或所述硬件服务器传输所捕获的用户数据以计算所述活动推荐。
在一些实施例中,所述硬件服务器使用针对所述用户会话的所述用户数据和所述用户记录以及多模态特征提取,利用分类器来计算活动度量、认知情感能力度量和社交度量,对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,所述多模态特征提取实施以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,所述多模态特征提取实施语音分析;并且对于所述文本输入,所述多模态特征提取实施文本分析。在一些实施例中,所述非暂时性存储器存储用于生成定义所述用户的身体或行为特性的数据的分类器,并且所述硬件服务器使用所述分类器和通过所述多模态特征提取而提取到的特征来计算所述活动度量、认知情感能力度量和社交度量。
在一些实施例中,所述非暂时性存储器存储与所述用户相对应的用户模型,并且所述硬件服务器使用所述用户模型来计算所述用户的所述情绪特征。
在一些实施例中,所述用户装置连接到沉浸式硬件装置或与其集成在一起,所述沉浸式硬件装置捕获所述音频数据、所述图像数据和所述定义所述用户的所述身体或行为特性的数据。
在一些实施例中,所述非暂时性存储器具有内容储库,并且所述硬件服务器具有内容集展引擎,所述内容集展引擎将所述活动推荐映射到所推荐内容,并且向所述接口传输所述所推荐内容。
在一些实施例中,用所述接口的可执行指令编程的所述硬件处理器进一步包括用于传送响应于所述推荐请求而接收到的针对所述用户会话的活动推荐的语音接口。
在一些实施例中,所述硬件处理器耦合到存储情绪分类器的存储器,所述情绪分类器捕获所述定义所述用户的身体或行为特性的数据。
在一些实施例中,所述***具有一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信,以基于所述活动推荐改变外部感官环境,所述一个或多个调制器与所述硬件服务器通信以在所述用户会话期间自动地调制所述用户的所述外部感官环境。
在一些实施例中,所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
在一些实施例中,所述***具有多个用户装置,所述多个用户装置各自具有用于在所述用户会话期间捕获不同类型的用户数据的不同类型的传感器,所述多个装置中的每个装置通过所述网络向所述硬件服务器传输所捕获的不同类型的用户数据以计算所述活动推荐。
在一些实施例中,所述***具有用于用户群组的多个硬件处理器,每个硬件处理器用对应接口的可执行指令编程以在所述时间段内获得针对所述用户会话的所述用户群组中的对应用户的用户数据,并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐,其中所述硬件服务器响应于从所述多个硬件处理器的所述对应接口接收到所述推荐请求而向所述对应接口传输所述活动推荐,并且计算针对所述用户群组的所述活动推荐。
在一些实施例中,所述硬件服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且为具有相似情绪特征的所述用户生成所述活动推荐。
在一些实施例中,所述接口可接收关于针对所述用户会话的所述活动推荐的反馈,向所述硬件服务器传输所述反馈。
在一些实施例中,所述接口可传输针对所述用户会话的另一个推荐请求,并且提供响应于另一个推荐请求而接收到的针对所述用户会话的另外的活动推荐。
在一些实施例中,所述接口在提供针对所述用户会话的所述活动推荐之后获得另外的用户数据,所述另外的用户数据在由所述用户进行所述活动推荐期间被捕获。
在一些实施例中,所述接口传输针对另一个用户会话的另一个推荐请求,并且提供响应于另一个推荐请求而接收到的针对另一个用户会话的经更新的活动推荐,所述经更新的活动推荐不同于所述活动推荐。
在一些实施例中,所述一个或多个活动推荐包括用于在所述硬件处理器上显示或回放的预定内容。
在一些实施例中,所述接口是教练应用程序,并且所述一个或多个所推荐的活动由匹配的教练递送。
在一些实施例中,所述活动推荐是选自存储在所述活动推荐记录中的一组类别的预定类别。
在一些实施例中,所述活动推荐是针对所述接口的具有各种内容的程序,以引导用户的交互或体验持续延长时间。
实施例涉及一种计算机实施的方法。所述方法涉及在硬件服务器处从多个信道接收与用户相关的用户数据并且将所述用户数据作为用户记录存储在非暂时性存储器中,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;通过使用一个或多个硬件处理器处理所述用户数据来生成活动度量、认知情感能力度量和社交度量,所述一个或多个硬件处理器被配置成通过以下方式处理来自所述多个信道的所述用户数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于所述文本输入,使用文本分析;基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;以及基于所述用户的所述情绪特征和所述活动度量,自动地生成针对用户会话的一个或多个活动推荐;响应于推荐请求而向硬件处理器处的用户接口传输所述活动推荐;更新所述硬件处理器处的所述用户接口,以基于用户偏好提供所述活动推荐;以及响应于所述硬件服务器或接口,在所推荐的活动期间调制外部感官环境的外部感官致动器。
在一些实施例中,所述一个或多个活动推荐包括预定内容。
在一些实施例中,所述一个或多个活动推荐由匹配的教练递送。
在一些实施例中,所述一个或多个活动推荐是预定类别。
在一些实施例中,所述一个或多个活动推荐是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
在一些实施例中,所述程序包括两个或更多个阶段,每个阶段具有不同的内容、强度或持续时间。
在一些实施例中,所述外部感官致动器的所述调制包括调制以下中的至少一项:声音、照明、气味、温度或气流装置。
在一些实施例中,所述方法进一步涉及接收与一个或多个另外的用户相关的用户数据,其中所述用户数据包括以下中的至少一项:与所述一个或多个另外的用户相关的图像数据、与所述一个或多个另外的用户相关的文本输入、与所述一个或多个另外的用户相关的生物特征数据以及与所述一个或多个另外的用户相关的音频数据;使用以下中的至少一项来处理所述用户数据:面部分析;身体分析;眼跟踪;语音分析;行为分析;社交网络分析;定位分析;用户活动分析;以及文本分析;基于经处理的用户数据确定所述一个或多个另外的用户的一个或多个认知情感能力的一个或多个状态;确定所述一个或多个另外的用户中的每个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;以及生成一个或多个活动推荐,以供传输到具有相似情绪特征的用户的接口。
在一些实施例中,所述方法进一步涉及基于所述经处理的用户数据确定所述用户的性格类型,其中确定所述用户的所述情绪特征进一步基于所述用户的所述性格类型。
在一些实施例中,所述经处理的用户数据包括性格类型数据,并且其中确定所述用户的所述性格类型包括:将所述性格类型数据与所存储的指示性格类型与性格类型数据之间的相关性的性格类型数据进行比较。
在一些实施例中,所述经处理的用户数据包括认知情感能力数据,并且其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态包括:将所述认知情感能力数据与所存储的指示认知情感能力的状态与认知情感能力数据之间的相关性的认知情感能力数据进行比较。
在一些实施例中,所述方法进一步涉及基于所述经处理的用户数据确定以下中的至少一项:所述用户的一个或多个情绪状态、所述用户的一个或多个注意力状态、所述用户的一个或多个亲社会性状态、所述用户的一个或多个动机状态、所述用户的一个或多个重新评价状态以及所述用户的一个或多个洞察状态,并且其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态进一步基于以下中的至少一项:所述用户的所述一个或多个情绪状态、所述用户的所述一个或多个注意力状态、所述用户的所述一个或多个亲社会性状态、所述用户的所述一个或多个动机状态、所述用户的所述一个或多个重新评价状态以及所述用户的所述一个或多个洞察状态。
实施例涉及一种***,所述***具有一个或多个硬件服务器,所述一个或多个硬件服务器具有存储情绪特征与推荐之间的关联的非暂时性存储器;网络;以及用户装置,所述用户装置包括一个或多个传感器并且能操作以通过所述网络与所述一个或多个服务器通信,其中所述用户装置具有硬件处理器,所述硬件处理器用机器可执行指令编程,以:使用所述一个或多个传感器以在用户会话的时间段期间接收与用户相关的用户数据,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;并且通过所述网络向所述一个或多个服务器传输所述用户数据,并且其中所述一个或多个服务器被配置成:使用一个或多个处理器来生成活动度量、认知情感能力度量和社交度量,所述一个或多个处理器被配置成通过以下方式处理来自所述一个或多个传感器的所述用户数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于所述文本输入,使用文本分析;基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;以及基于所述用户的所述情绪特征和所述活动度量自动地生成一个或多个活动推荐;并且响应于推荐请求而向所述用户装置的接口传输所述活动推荐。
在一些实施例中,所述一个或多个活动推荐包括预定内容。
在一些实施例中,所述一个或多个活动推荐由匹配的教练递送。
在一些实施例中,所述一个或多个所推荐的活动是预定类别。
在一些实施例中,其中所述一个或多个所推荐的活动是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
在一些实施例中,所述***具有一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信以改变外部感官环境,所述一个或多个调制器与所述一个或多个服务器通信以在所推荐的活动期间自动地调制所述用户的所述外部感官环境。
在一些实施例中,所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
在一些实施例中,所述一个或多个服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且向具有相似情绪特征的用户生成一个或多个活动推荐。
根据本公开的一方面,提供了一种计算机实施的方法,其包括:从多个信道接收与用户相关的用户数据,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;通过使用一个或多个处理器处理所述用户数据来生成活动度量、认知情感能力度量和社交度量,所述一个或多个处理器被配置成通过以下方式处理来自所述多个信道的所述用户数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;或所述音频数据,使用语音分析;并且对于所述文本输入,使用文本分析;基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;以及基于所述用户的所述情绪特征和所述活动度量自动地生成一个或多个活动推荐;并且响应于推荐请求而向用户接口传输所述活动推荐。
所述方法可以进一步包括接收与一个或多个另外的用户相关的用户数据,其中所述用户数据包括以下中的至少一项:与所述一个或多个另外的用户相关的图像数据、与所述一个或多个另外的用户相关的文本输入、与所述一个或多个另外的用户相关的生物特征数据以及与所述一个或多个另外的用户相关的音频数据;使用以下中的至少一项来处理所述用户数据:面部分析;身体分析;眼跟踪;语音分析;行为分析;社交网络分析;定位分析;用户活动分析;以及文本分析;基于经处理的用户数据确定所述一个或多个另外的用户的一个或多个认知情感能力的一个或多个状态;确定所述一个或多个另外的用户中的每个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且向具有相似情绪特征的用户生成一个或多个活动推荐。
所述方法可以进一步包括基于所述经处理的用户数据确定所述用户的性格类型。确定所述用户的所述情绪特征可以进一步基于所述用户的所述性格类型。
所述经处理的用户数据可以包括性格类型数据,并且确定所述用户的所述性格类型可以包括:将所述性格类型数据与所存储的指示性格类型与性格类型数据之间的相关性的性格类型数据进行比较。
所述方法可以进一步包括调制外部感官环境,以改变用户的内感受能力,从而在所述所推荐的活动期间递送更大的生理和心理益处。
根据本公开的另一方面,提供了一种***,其包括:一个或多个服务器,所述一个或多个服务器存储情绪特征与推荐之间的关联;网络;以及用户装置,所述用户装置包括一个或多个传感器并且能操作以通过所述网络与所述一个或多个服务器通信,其中所述用户装置被配置成:使用所述一个或多个传感器以接收与用户相关的用户数据,其中所述用户数据与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;并且通过所述网络向所述一个或多个服务器传输所述用户数据,并且其中所述一个或多个服务器被配置成:处理所述用户数据;并且使用一个或多个处理器来生成活动度量、认知情感能力度量和社交度量,所述一个或多个处理器被配置成通过以下方式处理来自所述一个或多个传感器的所述用户数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于所述文本输入,使用文本分析;基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;以及基于所述用户的所述情绪特征和所述活动度量自动地生成活动推荐;并且响应于推荐请求而向所述用户装置传输所述活动推荐。
本发明内容不一定描述所有方面的整个范围。在审阅对以下特定实施例的描述之后,其它方面、特征和优点对于本领域普通技术人员而言将是显而易见的。
附图说明
现在将结合附图描述本公开的实施例,在附图中:
图1示出了根据本公开的实施例的用于基于用户的情绪特征为用户生成推荐的***;
图2示出了根据本公开的实施例的可以由图1的推荐***的用户使用的用户装置;
图3示出了根据本公开的实施例的用户数据、认知情感状态检测类型、认知情感能力与性格类型之间的示例关系;
图4示出了根据本公开的实施例的情绪适能作为时间的函数的绘图;
图5示出了根据本公开的实施例的用于基于用户的情绪特征为用户生成推荐的方法的流程图;
图6和7示出了用户通过与本文所述的推荐***的交互来改善他们的情绪健康的实例;
图8示出了根据本公开的实施例的采用推荐***的健康平台的组件的实例的图;
图9示出了示例计算装置的图;
图10示出了用于提供活动推荐的接口的示例***;并且
图11示出了用于提供活动推荐的接口的另一个示例***。
图12示出了用于提供活动推荐的接口的另一个示例***。
图示出了提供活动推荐的示例用户接口。
图14示出了提供活动推荐的另一个示例接口。
具体实施方式
实施例涉及具有以下的方法和***:非暂时性存储器,所述非暂时性存储器存储跨多个信道的用户数据的数据记录,如与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据;以及硬件处理器,所述硬件处理器具有接口以提供基于用户数据和活动度量生成的活动推荐,并且硬件处理器可以访问存储在存储器中的用户数据以确定用户的情绪特征,并且通过访问存储基于用户的情绪特征定位并且被排名以用于改善用户的健康的一组活动记录的非暂时性存储器来生成活动推荐。接口可以显示从基于用户的情绪特征定位的所述一组活动记录生成的视觉元素,或以其它方式,如通过音频数据或视频数据传送活动推荐。视觉元素的显示可以由硬件处理器基于用户的情绪特征和排名的活动来控制。
本公开寻求提供用于基于用户的情绪特征为用户生成推荐的改进方法和***。虽然下面描述了本公开的各个实施例,但本公开不限于这些实施例,并且这些实施例的变化可以完全落入仅由所附权利要求限定的本公开的范围内。
通常,根据本公开的实施例,描述了用于确定用户的情绪特征的方法和***。情绪特征可以是源自用户的性格类型的量度(例如,例如用户的开放性/智力、责任心、外向性、随和性和神经质/情绪稳定性的量度)和认知情感过程或能力(例如,注意力、情绪调节、意识、同情心等)的水平或状态的组合的复合度量。
为了确立情绪特征,本文所述的装置可以使用一个或多个传感器来捕获与用户相关的用户数据。传感器可以包含用于获得用户数据的例如音频传感器(如麦克风)、光学传感器(如相机)、触觉传感器(如用户接口)、生物特征传感器(如心脏监测器、血压监测器、皮肤湿度监测器、脑电图(EEG)电极等)、定位/位置传感器(如GPS)和运动检测或运动捕获传感器(如加速度计)。然后可以处理用户数据(例如,使用各种面部和身体建模或分析技术中的任何一种)并且将其与所存储的参考用户数据进行比较,以确定用户的性格类型和认知情感能力的状态。例如,经处理的用户数据可以用于确定用户的当前情绪状态中的一个或多个,其进而可以帮助确定用户的性格类型和认知情感能力的状态。
另外,通过随时间的推移监测个体的情绪特征,本文所述的方法和***可以确定情绪特征是正在改善还是正在恶化。个体的“基线”情绪特征可以随时间的推移来计算,例如通过收集个体的认知情感能力的状态或水平的平均值。通过随着时间的推移的重复干预,这些能力的水平可以增加。因此,用户的基线情绪特征可以随着时间的推移而改善。基线情绪特征可以包括在一段时间内平均的与用户的性格类型组合的用户的认知情感能力的水平或状态。
在确定用户的情绪特征之后,可以生成用于改善情绪特征的一个或多个推荐。推荐可以基于已经结合其它用户的相似情绪特征示出以响应于正在执行的推荐而示出情绪特征的改善的推荐。取决于用户的情绪特征随着时间的推移的演变,可以调整推荐。例如,已经证明,一旦由用户执行,会导致所述用户的情绪特征的改善的推荐还可以针对表现出相似情绪特征的不同用户来生成。
转到图1,示出了可以实施本文所述的方法的推荐***100的实施例。推荐***100包括硬件服务器10、存储在非暂时性存储器上的数据库12、网络14和用户装置16。服务器10具有通信地耦合到存储在非暂时性存储器上的数据库12的硬件处理器,并且可操作以访问存储在数据库12上的数据。服务器10进一步通过网络14(如因特网)通信地耦合到用户装置16。因此,可以通过使用网络14传输数据来在服务器12与用户装置16之间转移数据。服务器10包含非暂时性计算机可读存储介质,所述非暂时性计算机可读存储介质存储用于将一个或多个硬件处理器配置成提供用于收集传感器数据和与***100的其它组件交换数据和命令的接口的指令。
推荐***100的多个用户18可以使用用户装置16的接口来以下面进一步详细描述的方式与服务器12交换数据和命令。虽然图1中示出了三个用户18,但是推荐***100适于由任何合适数量的用户18以及甚至单个用户18使用。此外,虽然推荐***100示出了两个服务器10和两个数据库12,但是推荐***100扩展到任何合适数量的服务器10和数据库12(如通信地耦合到单个数据库的单个服务器)。
在一些实施例中,数据库12的功能可以与具有非暂时性存储装置或存储器的服务器10的功能结合。换言之,服务器10可以将定位于数据库12上的用户数据存储在内部存储器内,并且可以另外执行本文所述的任何数据处理。然而,在图1的实施例中,服务器10被配置成在需要时远程访问数据库12的内容。
转到图2,更详细地示出了用户装置16的实施例。用户装置16包含多个传感器、硬件处理器22和计算机可读介质20,如存储计算机程序代码的合适的计算机存储器。传感器包含用户接口24、相机26和麦克风28,但是本公开扩展到其它合适的传感器,如生物特征传感器(心脏监测器、血压监测器、皮肤湿度监测器等)、任何定位/位置传感器、运动检测或运动捕获传感器等。例如,相机26可以捕获视频和图像数据。处理器22与传感器24、26、28中的每个传感器通信,并且被配置成响应于由处理器22从非暂时性存储器20读取的指令而控制传感器24、26、28的操作,并且从传感器24、26、28接收数据。根据一些实施例,用户装置16是如智能手机等移动装置,但是在其它实施例中,用户装置16可以是可以由用户18操作和与其交互的任何其它合适的装置。例如,用户装置16可以包括膝上型计算机、个人计算机、平板装置、智能镜子、智能显示器、智能屏幕、智能可穿戴装置或锻炼装置。
用户装置16的传感器24、26、28被配置成获得与用户18相关的用户数据。例如,麦克风28可以检测来自用户18的言语,因此处理器22可以将检测到的言语转换成语音数据。用户18可以通过用户接口24将文本或其它数据输入到用户装置16中,因此处理器22可以将用户输入转换成文本数据。此外,例如当用户18与用户装置16交互时,相机26可以捕获用户18的图像。相机26可以将图像转换成与用户18相关的图像数据。用户接口24可以发送从用户装置16的不同组件收集的数据以供传输到服务器10并且作为与用户装置16和/或用户18的标识符一起存储的数据记录的一部分存储在数据库12中。
***100使用一个或多个传感器24、26、28在用户会话期间监测一个或多个用户。在一些实施例中,***100提供具有针对用户会话的活动推荐的接口,所述接口在一些实施例中可以是用户装置16的用户接口24,或者在一些实施例中可以是单独硬件装置的接口。***100具有存储活动推荐记录、情绪特征记录以及存储例如在服务器10和数据库12处从多个信道接收到的用户数据的用户记录的非暂时性存储器。
用户数据可以涉及在用户会话的时间段期间捕获的一系列数据(其可以与来自不同用户会话的数据和与用于不同用户的数据组合)。用户数据可以是与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据。
***100具有硬件处理器(其可以在用户装置16处),所述硬件处理器用接口(对于此实例,其可以是用户接口24)的可执行指令编程,以在一定时间段内获得针对用户会话的用户数据。处理器向服务器10传输针对用户会话的推荐请求,并且更新其接口以便提供响应于推荐请求而接收到的针对用户会话的活动推荐。
***100具有耦合到非暂时性存储器(或数据库12)的硬件服务器10,以访问活动推荐记录、情绪特征记录和用户记录。硬件服务器10用可执行指令编程,以响应于从接口接收到推荐请求而通过网络14向接口24传输活动推荐。硬件服务器10用可执行指令编程,以通过以下方式计算活动推荐:使用针对用户会话的用户数据和用户记录来计算活动度量、认知情感能力度量和社交度量。硬件服务器10可以从用户数据中提取度量来表示用户的身体度量和用户的认知度量。硬件服务器10可以在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者来确定用户的情绪特征。硬件服务器10可以在用户会话的时间段期间以一定时间间隔计算用户的多个情绪特征。硬件服务器10计算多个情绪特征,所述情绪特征可以触发对经更新的活动推荐的计算以及对接口的更新。情绪特征在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者。
硬件服务器10可以使用在用户会话期间捕获的用户数据,并且还可以使用在先前的用户会话期间捕获的用户数据或不同用户的用户数据。硬件服务器10可以聚合来自多个信道的数据以计算活动推荐,从而触发对用户装置16上的接口24或在一些实例中触发对单独硬件装置上的接口的更新。
硬件服务器10可以通过以下方式处理不同类型的数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于文本输入,使用文本分析。
硬件服务器10可以基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态。硬件服务器10可以基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态以及使用所述情绪特征记录来计算所述用户的情绪特征。硬件服务器10可以基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐。所述***具有用户装置,所述用户装置包括用于在所述时间段期间捕获用户数据的一个或多个传感器;以及传输器,所述传输器用于通过所述网络向所述接口或所述硬件服务器传输所捕获的用户数据以计算所述活动推荐。
在一些实施例中,***100具有一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信,以基于所述活动推荐改变外部感官环境,所述一个或多个调制器与硬件服务器10通信以在所述用户会话期间自动地调制所述用户的所述外部感官环境。在一些实施例中,所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
***100具有多个用户装置16,并且每个用户装置可以具有用于在用户会话期间捕获不同类型的用户数据的不同类型的传感器。用户装置16中的每个用户装置可以用于通过网络14向硬件服务器10传输所捕获的不同类型的用户数据,以计算活动推荐。
在一些实施例中,***100具有用于用户群组的多个用户装置16。多个用户装置16中的每个用户装置具有用于在所述时间段内获得针对用户会话的所述用户群组中的对应用户的用户数据的接口。服务器10可以提供响应于来自多个用户装置16的推荐请求而接收到的针对用户会话的活动推荐。硬件服务器10响应于从用户装置16的对应接口24接收到推荐请求而向对应接口传输活动推荐。服务器10可以计算针对所述用户群组的活动推荐,可以基于所述用户群组的用户日期建议活动推荐。可以为所有用户群组或所述群组的一组用户建议相同的活动推荐,所述一组用户具有如由***100使用相似性测量结果确定的相似情绪特征。
在一些实施例中,硬件服务器10被配置成确定一个或多个另外的用户的情绪特征并确定具有相似情绪特征的用户。服务器10可以预测具有相似情绪特征的用户之间的连接性,并且为具有相似情绪特征的用户生成活动推荐。
在一些实施例中,用户装置16的接口24可以接收关于针对用户会话的活动推荐的反馈,向硬件服务器10传输反馈。反馈可以是正面的,指示批准活动推荐。反馈可以是负面的,指示不批准活动推荐。服务器10可以将反馈用于活动推荐的后续计算。服务器10可以将反馈存储在数据库12的记录中。
在一些实施例中,接口24可以传输针对用户会话的另一个推荐请求,服务器10可以响应于另一个推荐请求而提供针对用户会话的另外的活动推荐。服务器10可以传输针对用户会话的另外的活动推荐以更新接口24。
在一些实施例中,接口24在提供针对所述用户会话的所述活动推荐之后获得另外的用户数据,所述另外的用户数据在由所述用户进行所述活动推荐期间被捕获。服务器10可以使用在提供针对用户会话的活动推荐之后捕获的另外的用户数据,以在执行活动推荐期间重新计算用户的情绪特征。
在一些实施例中,接口24传输针对另一个用户会话的另一个推荐请求,并且提供响应于另一个推荐请求而从服务器10接收到的针对另一个用户会话的经更新的活动推荐。经更新的活动推荐可以不同于活动推荐。
在一些实施例中,接口24是教练应用程序,并且所述一个或多个所推荐的活动是用户的虚拟教练程序的一部分。
在一些实施例中,所述活动推荐是选自存储在所述活动推荐记录中的一组类别的预定类别。在一些实施例中,所述活动推荐是针对所述接口的具有各种内容的程序,以引导用户的交互或体验持续延长时间。在一些实施例中,所述一个或多个活动推荐是具有各种内容的程序,以引导用户的交互或体验持续延长时间。在一些实施例中,所述程序包括两个或更多个阶段,每个阶段具有不同的内容、强度或持续时间。
在一些实施例中,服务器10可以从用户装置16接收与一个或多个另外的用户相关的用户数据,并且基于经处理的用户数据确定所述一个或多个另外的用户的一个或多个认知情感能力的一个或多个状态。服务器10可以确定所述一个或多个另外的用户中的每个另外的用户的情绪特征并且确定具有相似情绪特征的用户。服务器10可以使用存储在非暂时性存储器中的相似模型或量度来预测具有相似情绪特征的用户之间的连接性。服务器可以生成一个或多个活动推荐,以供传输到具有相似情绪特征的用户的接口。
在一些实施例中,服务器10可以基于经处理的用户数据确定用户的性格类型,并且基于用户的性格类型确定用户的情绪特征。在一些实施例中,经处理的用户数据包括性格类型数据,并且服务器10可以通过将所述性格类型数据与所存储的指示性格类型与性格类型数据之间的相关性的性格类型数据进行比较来确定用户的性格类型。
在一些实施例中,所述经处理的用户数据包括认知情感能力数据,并且服务器10可以确定用户的所述一个或多个认知情感能力的所述一个或多个状态,所述确定包括:将所述认知情感能力数据与所存储的指示认知情感能力的状态与认知情感能力数据之间的相关性的认知情感能力数据进行比较。
在一些实施例中,服务器10可以确定以下中的至少一个:所述用户的一个或多个情绪状态、所述用户的一个或多个注意力状态、所述用户的一个或多个亲社会性状态、所述用户的一个或多个动机状态、所述用户的一个或多个重新评价状态和所述用户的一个或多个洞察状态。服务器10可以基于以下中的至少一个确定用户的所述一个或多个认知情感能力的所述一个或多个状态:所述用户的所述一个或多个情绪状态、所述用户的所述一个或多个注意力状态、所述用户的所述一个或多个亲社会性状态、所述用户的所述一个或多个动机状态、所述用户的所述一个或多个重新评价状态以及所述用户的所述一个或多个洞察状态。
现在将描述基于用户的情绪特征为用户生成推荐并且通过接口提供推荐的方法50。所述方法总体上在图5中示出,其示出了可以被采取以基于用户的情绪特征为用户生成推荐的步骤的流程图。如本领域技术人员将认识到的,图5中所示的步骤本质上是示例性的,并且可以改变步骤的顺序,并且在不背离本公开的范围的情况下可以省略和/或添加步骤。
过程例如通过用户在用户接口24处向用户装置16提供凭证以触发活动推荐和实时数据捕获,从而基于实时用户数据改善用户在当前时间段的总体情绪健康而开始。用户在用户装置16上激活存储在存储器20上的情绪健康应用程序(未示出)以触发用户接口24。情绪健康应用程序邀请用户向用户装置16输入用户数据。在框51处,用户装置16从用户接口24接收与用户相关的用户数据,所述用户数据可以从不同的传感器24、26、28实时收集,以提供用于基于实时数据基于对情绪健康度量的(近)实时计算生成活动推荐的输入数据。例如,响应于激活情绪健康应用程序,可以提示用户完成一系列锻炼和/或问卷,并且用户接口24贯穿一系列锻炼或其它提示收集实时用户数据。例如,问卷可以在用户接口24上呈现给用户并且可以要求用户回答包含在问卷中的一个或多个问题。可替代地,可以提示用户大声地说出以讨论情绪上困难的事件或用户在生活中对其它人的感受如何。用户接口24可以收集所捕获的音频数据以便提供给服务器12。在其它实例中,在从用户接口24获得同意数据的情况下,可以在用户的日常生活中被动地记录如从不同传感器24、26、28实时捕获的各种形式的生物特征数据。另外,还可以在用户装置16处记录如与用户相关的定位数据等非生物特征数据。可以处理此类数据,以检测和定量认知情感能力的水平的变化以及用于测量用户的情绪特征的如下面进一步详细描述的任何其它信息。
用户可以例如通过向用户接口24进行文本输入来提供答案,或可替代地可以说出答案。麦克风28可以检测口头答案,并且处理器22可以将话语转换成音频数据。在问卷完成之前、期间或之后,情绪健康应用程序可以发送控制命令,以使相机26记录用户的图像和/或视频。图像可以包括用户身体的至少一部分、用户面部的至少一部分或用户身体的至少一部分和用户面部的至少一部分的组合。然后所捕获的图像被转换成图像数据(其可以包括视频数据),所述图像数据形成在用户装置16处接收的整体用户数据的一部分。
音频数据、文本数据和图像数据以及输入到用户装置16并与用户相关的任何其它数据的组合在下文中可以被称为用户数据。其它合适形式的数据可以包含在用户数据中。例如,用户数据可以包括通过一个或多个物联网装置收集的其它可观察数据、通过社交网络分析获得的社交网络数据、GPS或其它定位数据、活动数据(如步数)、心率数据、心率变异性数据、指示使用用户装置或用户装置上的一个或多个特定应用程序所花费的持续时间的数据、指示对出现在用户装置上的通知的反应时间的数据、社交图数据、电话日志数据和呼叫接收者数据。
例如,服务器10可以将用户数据存储在由用户的标识符所索引的记录中。用户装置16可以向服务器10传输所捕获的用户数据以便存储在数据库中。在一些实施例中,用户装置16可以在传输到服务器16之前使用情绪健康应用程序来预处理用户数据。例如,情绪健康应用程序进行的预处理可以涉及从原始数据中提取特征。例如,代替原始数据或除了原始数据之外,用户装置16可以向服务器10传输所提取特征。例如,所提取特征可以促进有效传输并且减少在用户装置16与服务器10之间传输的数据量。
根据一些实施例,除了通过用户装置16的传感器24、26、28捕获的用户数据之外,位于用户身上的可穿戴传感器(例如,心率监测器、血压传感器)可以提供另外的数据(如用户的身体活动水平)并且可以输入到用户装置16并且可以形成在用户装置16处接收的用户数据的一部分。
在框52处,用户装置16通过网络14向服务器10传输用户数据。服务器10然后使用不同的处理技术来处理用户数据。例如,服务器10可以使用本领域已知或有待发现的各种面部和/或身体分析或建模技术中的任何技术来处理图像数据。另外,服务器10可以使用本领域已知或有待发现的任何语音分析技术(包含音调分析技术)来处理语音数据。另外,服务器10可以使用不同的语音、文本、社交网络或行为分析技术(包含音调分析技术和语义分析技术)来处理用户输入数据(其可以包含音频数据或文本数据),以提取可以用于计算用户的实时情绪特征的特征或度量。实时情绪特征可以映射到可以作为推荐通过用户接口24和用户装置16提供给用户的一个或多个活动。
通过以此方式处理用户数据,在框53处,服务器10能够识别用户的一个或多个情绪水平或状态。除了情绪感知(例如,确定用户的当前情绪状态)之外,服务器10能够够执行操作以计算与注意力感知(例如,确定用户的外部注意分配、内部注意分配等)、亲社会感知(例如,确定用户与其它人的情绪表达和行为等)、动机状态感知、重新评价状态感知和洞察状态感知相对应的不同度量。此类感知技术是可以用于定量个体用户的认知情感能力水平以及基于所收集的数据确定个体的性格类型的状态检测感知技术的实例。
例如,与注意力感知相对应的度量或数据可以通过处理眼跟踪数据并且通过用户的面部和/或身体以及用户所处的背景或环境的3D建模来确定,并且除了关注对象(objectof attention)或缺乏这样的对象之外。亲社会性感知涉及检测用户对另一个人或对他们自己的积极/消极行为(例如,给予赞美;传递积极/消极情绪,如微笑;提及另一个人已经采取的积极/消极行为等)。
动机感知涉及基于被称为接近和回避***的两个动机子***的检测和区分的度量的计算,所述接近和回避***通常基于奖励或惩罚来引导用户行为(例如,通过用户描述他们完成任务的原因的方式、在面向目标的行为期间显示的特定情绪等来识别用户的动机)。这种动机可以通过处理用户的数据输入和活动数据来确定。
重新评价状态感知涉及基于用户对事件及其情感关联的回忆的检测的度量的计算,这种关联通过主动或被动方式被同时削弱(例如,让用户随着时间的推移回忆困难的事件,并且监测在回忆期间的情绪表达的变化)。消退和重新巩固可能取决于许多因素,如处理水平、情绪显著、对刺激所付出的关注程度、在编码时关于稍后将如何评估记忆的预期或记忆痕迹的重新巩固介导的强化。消退不会擦除原始关联,而是当存储器(显式或隐式)被检索并且先前被调节以引发特定行为或一组行为响应的经调节刺激的群集暂时不稳定并且通过主动或被动方式削弱彼此的关联时发生的新颖学习的过程。这种回忆可以通过处理用户的数据输入、生物特征数据和历史情绪特征和相关联的推荐来确定。
洞察感知涉及基于实现“无我”或不执着的度量的计算,这是自我的现象体验与出现“事物样(thing-like)”的人的思想、情绪和感觉之间的区别并且被描述为“从心理注视释放(release from mental fixations)”。洞察感知还涉及偏心(decentering),所述偏心引入“人的感知与响应之间的空间”,从而允许个体以观察者的角度脱离或“走出(stepoutside)”人的即时体验,以便洞察和分析人的习惯性情绪和行为模式。洞察感知可以通过个体如何描述他们的经历和其它非口语线索来检测个体与他们的思想、感觉、情绪或身体感觉相关的时刻,这与他们是谁无关。这种感知可以通过处理用户的数据输入、生物特征数据和历史情绪特征和相关联的推荐来确定。
用户的性格类型通常可以通过与性格类型的各种不同模型中的任何模型,如五因素模型的一个或多个状态或水平的值相对应的度量来估计:开放性/智力、责任心、外向性、随和性和神经质/情绪稳定性。用户的情绪状态可以通过经计算度量来确定,所述度量包含以下中的一个或多个指示:娱乐、愤怒、敬畏、无聊、困惑、轻蔑、满足、羞怯、欲望、厌恶、尴尬、恐惧、感激、幸福、兴趣、爱、疼痛、骄傲、宽慰、悲伤、羞耻、惊讶、同情和胜利。用户的认知情感能力可以包含以下中的一个或多个:意图和动机、注意力调节、情绪调节、记忆消退和重新巩固、亲社会性、不执着和偏心。在“特定情感编码***(The Specific AfffectCoding System,SPAFF)”,Coan,J.A.等人(2001),《情绪激发和评估手册(Handbook ofEmotion Elicitation and Assessment)》(第106-123页),纽约州纽约市中更一般地描述了认知情感能力,所述文献的全部内容通过引用并入本文。
可以通过处理用户数据以从用户数据中提取和评估与情绪特征相关的特征来确定人的情绪特征的自动检测/识别。以下实例特此通过引用整体并入本文:
“从言语信号中检测和分析情绪(Detection and Analysis of Emotion fromSpeech Signals)”,Davletcharova,A.等人,《Procedia计算机科学(Procedia ComputerScience)》,第58卷,2015,第91-96页;
“针对人机/机器人交互使用具有姿势、光照和年龄变化的图像的面部表情的情绪识别(Emotion Recognition from Facial Expressions using Images with Pose,Illumination and Age Variation for Human-Computer/Robot Interaction)”,Palaniswamy,S.等人(2018),《ICT研究与应用杂志(Journal of ICT Research andApplications)》12(1):2018年4月14日;
“骨骼运动的情绪识别(Emotion recognition from skeletal movements)”,Sapinsky,T.等人(2019),《熵(Entropy)》,21(7),646;
“通过移动装置上的步态进行的情绪识别(Emotion Recognition through Gaiton Mobile Devices)”,Chiu,M.等人,情绪意识18-关于使用移动和可穿戴装置的普适计算的情绪意识的第二届国际研讨会(EmotionAware′18-2nd International Workshop onemotion awareness for pervasive computing with mobile and wearable devices);
“情绪对健康年轻人的步态运动平稳性的影响(The effect of emotion onmovement smoothness during gait in healthy young adults)”,Kang,G.E等人,《生物力学杂志(J Biomech)》2016年12月8日;49(16):4022-4027;
“使用电子医疗保健***的眼运动信息进行的自动情绪感知(Automatic EmotionPerception Using Eye Movement Information for E-Healthcare Systems)”,Wang,Y.等人,《传感器(Sensors)》(巴塞尔(Basel)),2018年9月;18(9):2826;
“使用击键动力学识别情绪状态(Identifying Emotional States usingKeystroke Dynamics)”,Epp,C.等人,《CHI 2011会话:情绪状态(CHI 2011Session:Emotional States)》,2011年5月7日-12日,加拿大不列颠哥伦比亚省温哥华(Vancouver,BC,Canada);
“针对情感触摸交互:根据手指敲击来预测移动用户情绪(Towards affectivetouch interaction:predicting mobile user emotion from finger strokes)”,Shah,S.等人,《交互科学杂志(Journal of Interaction Science)》2015年12月,3:6;以及
“使用小波分组变换和SVM分析面部EMG信号以进行情绪识别(Analysis ofFacialEMG Signal for Emotion Recognition Using Wavelet Packet Transform and SVM)”,Kehri,V.等人,《机器智能和信号分析(Machine Intelligence and Signal Analysis)》,第247-257页。
在框54处,基于所确定的用户的性格类型和认知情感能力的状态,服务器10使用从用户装置16接收的数据来确定用户的情绪特征。根据一些实施例,通过服务器10访问存储在数据库12中的如由用户装置16(近)实时捕获的用户数据,情绪特征是与所确定的用户的性格类型和认知情感能力的状态相对应的数据值的组合。情绪特征可以充当识别用户的当前整体情绪健康的唯一度量(或度量的组合)。
图3示出了不同用户数据之间的示例关系以及所述示例关系如何与认知情感能力和性格类型相关。框架可以作为将认知情感能力和性格类型的参数映射到用户数据的代码指令和数据记录存储在服务器10处(例如,在数据库12中)。在行32中,示出了用于确定与用户相关的用户数据的不同形式的算法、技术和分析过程。在行34中,示出了基于捕获的用户数据的类型的不同类型的认知情感状态检测方法。服务器10可以实施不同类型的认知情感状态检测方法,检测捕获的用户数据的类型,并且选择适当类型的认知情感状态检测方法来处理用户数据。例如,眼跟踪数据可以使推荐***100能够感测用户的注意力水平,而对用户的面部和身体的3D建模和分析可以使推荐***100能够感测用户的一个或多个情绪。在行36和38中,示出了不同类型的认知情感能力。在行31和33中,示出了用户的性格类型的不同方面的不同水平或状态。
在框55处,服务器10响应于计算用于用户的情绪特征的数据而生成一个或多个推荐。服务器10可以生成活动推荐。例如,推荐可以包括访问或使用特定内容、教练、事件、群组、柏拉图式/浪漫匹配或其它社交或情感学***的偏心和不执着而难以扰乱消极的心理反刍。作为响应,推荐可以包含目的在于教授专注于偏心的特定冥想的使用内容(例如,视频、音频、一对一疗法)。
由推荐***100生成并在其用户装置16上输出给用户的推荐可以采取待由用户执行的训练程序的形式。例如,训练程序可以包括一个或多个微周期阶段(每日-每周规划)、一个或多个中周期阶段(2-6周规划)和一个或多个大周期阶段(每年规划)。训练会话的强度和音量可以线性或非线性地变化。虽然认知情感能力的水平可能随着时间的推移而变化,但所述水平通常是可训练的。因此,通过重复干预(例如,冥想),人以消极或积极方式处理例如情绪刺激的倾向可以基于训练持续时间和一致性而改变。
推荐***100可以将活动推荐的数据存储在数据库12和服务器10中,并且通过从所存储数据中识别一个或多个活动推荐来生成推荐。例如,可以基于与已知性格类型和认知情感能力的状态相关联地存储的已知推荐来生成推荐。已知推荐与已知性格类型和认知情感能力的状态之间的这种关联可以存储在例如数据库12中,并且可以被服务器10访问。
随着时间的推移,通过用户与其用户装置16上的情绪健康应用程序的重复交互,可以跟踪或监测用户的情绪特征(方法50的框56)。推荐***100将继续从用户装置16实时接收用户数据,以基于经更新的用户数据重新计算用户的情绪特征。推荐***100可以连续地收集用户数据并重新计算情绪特征。例如,在用户已经执行在框55处生成的推荐之后,用户可以重复或定期地与情绪健康应用程序交互,以获得或捕获用于计算经更新的情绪特征的另外的用户数据。服务器10可以将经更新的情绪特征与用户的最后已知或计算的情绪特征进行比较。如果经更新的情绪特征显示出改善,则用户执行的特定推荐可以被理解为对具有相似情绪特征的任何其它用户是有益的。
例如,如果包含在用户的情绪特征中的认知情感能力的水平已经有益地增加,例如如果用户的情绪状态被重复地评估为积极的,则服务器10可以确定情绪特征显示出改善。另一方面,例如,如果包含在用户的情绪特征中的认知情感能力的水平已经负面地下降,例如如果用户的情绪状态被重复地评估为负面的,则情绪特征可能显示出恶化。用户的情绪特征的恶化可以指示由用户执行的推荐没有有效地改善用户的整体情绪健康,并且可能需要替代性推荐。在这种情况下,推荐***可以(在框57处)调整响应于确定用户的经更新的情绪特征以及确定经更新的情绪特征相对于用户的最后已知的情绪特征已经恶化而生成的推荐。
因此,特定的情绪特征可以与已经显示随着时间的推移改善那些情绪特征的特定推荐相关联。这种关联或指示这种关联的数据可以存储在例如数据库12中以供将来使用,并且可以在确定为用户生成的推荐时被服务器10访问。因此,当为推荐***100的用户建立用户会话的新情绪特征或新用户会话时,服务器10可以访问数据库12以识别已经显示导致推荐***100的其它用户的相似情绪特征的改善的一个或多个推荐。
举例来说,用户Jonathan决定使用推荐***100借助于通过用户装置16向服务器10提供用户数据来确定用户的情绪特征。基于由Jonathan提供给其用户装置16的信息,并且基于对用户数据的分析,包含表示Jonathan的面部表情、身体语言、语音音调、所测得的生物特征和行为模式的用户数据(基于由Jonathan响应于由情绪健康应用程序提出的问题而提供的文本输入),推荐***100确定Jonathan的情绪特征与Alice(另一个用户)的情绪特征相似。推荐***100最近(例如,在先前的用户会话中或作为同一用户会话的一部分)向Alice推荐她在户外花费更多时间(例如,涉及自然的所推荐的活动),因为Alice的情绪特征指示她的情绪与她在户外自然中度过的时间多少之间的正相关。随着时间的推移,通过重复地与情绪健康应用程序交互以提供经更新的用户数据,由推荐***100计算的Alice的情绪特征由于在户外花费更多时间而显示出改善。因此,推荐***100向Jonathan作出相同的推荐,假定他的情绪特征与Alice的情绪特征相似。
通过为每个用户生成和监测情绪特征,推荐***100能够构建情绪特征(被存储为情绪特征记录)和可能改善个体情绪特征的对应推荐的数据集。
另外,推荐***100可以使具有相似情绪特征的个体用户能够例如通过提供对相关联系信息的访问来彼此联系。根据一些实施例,推荐***100可以由团队领导者,例如经理用于形成合适的团队。例如,推荐***100可以用于识别具有相似情绪特征并且可以因此当被置于同一团队时可以更有效地工作或更好地协作的个体。例如,***100可以在多个用户装置16之间建立通信会话。
根据一些实施例,推荐***100可以被配置成基于人们的情绪特征与人相匹配,使得匹配人可以发展出深厚而有意义的浪漫或友谊关系,或者推荐***100可以用于将人与教练或匹配内容相匹配。推荐***100可以用于识别具有相似情绪特征并且因此可以以深刻且有意义的方式联系的个体。例如,基于用户的输入数据(面部分析、语音分析、身体分析、文本输入、活动输入、生物特征输入等),以及用户的认知情感能力的水平和个体的性格类型,推荐***100可以识别可以变成多年关系的联系或推荐涉及具有用户之间的持久联系和改善健康的高概率的兼容社区或教练的活动。
图8展示了健康***1000的实例,所述健康***使用推荐***1100将用户与特定(推荐的)活动内容相匹配以改善用户的健康。健康***1000聚合和处理跨多个渠道的用户数据,以提取用于确定情绪特征的度量,从而通过致动感官致动器来影响用户的感官环境来为用户的环境提供改善的活动推荐和触发效果。健康***1000具有带有硬件处理器的健康应用程序1010,所述硬件处理器具有用于显示基于通过硬件处理器访问存储用户数据和所提取的度量的存储器所计算的用户的用户数据、活动度量和情绪特征而导出的推荐的接口。健康应用程序1010从多个渠道,如不同的硬件装置、数字社区、事件、现场直播(livestream)等接收用户数据。健康应用程序1010具有硬件处理器,所述硬件处理器可以实施不同的数据处理操作以通过处理来自不同渠道的用户数据来提取活动度量、认知情感能力度量和社交度量。
存储在用户装置16的非暂时性存储器20上的健康应用程序1010连同传感器24-28一起接收用户输入,并且根据本文之前描述的方法,处理用户输入以确定此用户的情绪特征。健康应用程序1010还可以连接到单独的硬件服务器(例如,1100)以交换数据并接收用于生成推荐或确定情绪特征的输出数据。
健康***1000可以从不同的数据源或渠道接收输入数据,如不同的内容提供者1030(即,教练、顾问、影响者)。健康***1000可以将内容聚合并存储到内容中心1020中。当在经更新时间段内收集新的输入数据时,健康***1000可以重新计算经更新的情绪特征。基于用户的情绪特征,推荐***1100可以建议例如由匹配的教练提供的内容活动,以帮助改善用户的健康和/或实现他/她的目标。在活动进行期间,健康***1000可以从来自沉浸式硬件装置(信道1040)的数据流中接收指示用户表现的数据,所述沉浸式硬件装置例如智能手表、智能电话、智能镜子或任何其它智能锻炼机器(例如,连接的固定自行车)以及任何其它传感器,如传感器24-26。基于所收集的数据和用户的情绪特征,推荐***1100可以动态地适配用户的活动和/或目标。在一个实施方案中,推荐***1100生成的推荐可以采用程序的形式,以引导或塑造匹配配对/社区交互或体验。例如,程序可以包括一个或多个阶段(每日、每周、每月、每年规划)。程序可以是可以映射到在用户会话的时间段期间的时间区段或间隔的一系列活动。可以基于阶段推荐不同的活动和会话。***1000可以将活动数据映射到阶段。所推荐的会话和活动的强度和音量可以线性或非线性地变化。随着时间的推移,通过用户与其用户装置16上的情绪健康应用程序的重复交互,推荐***1100捕获经更新的用户数据,并且可以基于随时间的推移收集的经更新的用户数据跟踪或监测每个用户的情绪特征。推荐***1100可以基于匹配人的当前情绪特征改变程序中的推荐,以维持匹配用户之间的深度有意义的联系。***1100可以在用户会话的时间段内以不同的间隔计算经更新的情绪特征。
情绪特征可以是值的数据结构(作为记录存储在可由硬件处理器访问的非暂时性存储器中),***1000可以使用例如不同的相似性量度或函数来将所述值的数据结构与表示其它情绪特征的值的其它数据结构进行比较。不同的相似性量度可以用于识别相似情绪特征。
在一些实施方案中,本文所述的方法和***可以使用用户的情绪特征来作出活动类别推荐。群组锻炼通过共享情绪和运动来改善个体健康并且增加社会联系。因此,推荐***1100可以用于识别具有相似情绪特征的个体并通过推荐课堂内容或事件和匹配课堂/事件对等体来连接个体。推荐***1100还可以为用户生成社交度量以进行推荐。
在一些实施方案中,健康***1000可以操纵外部感官环境(如房间中的声音、照明、气味、温度、气流)以改变个体(或个体群组)的内感受能力,从而在课堂/体验期间递送更大的生理和心理益处。***1000可以基于在用户装置16处接收的活动输入(例如,活动的类型、内容、课程强度、课程持续时间)、在课堂期间使用用户装置16实时测量的用户的生物特征输入以及在先前会话期间由***1000计算的用户的个体情绪特征来操纵外部感官环境。例如,基于用户或用户群组的情绪特征,推荐***1100可以向此类用户或用户群组推荐课堂或活动,并且然后可以改变声音节奏或音量以匹配所推荐的课堂/活动,如运动序列以及在课堂/活动期间获得的用户生物特征输入,例如用户或用户群组的节奏。根据所推荐的活动和用户或用户群组的情绪特征,健康***1000可以在活动或体验的持续时间期间动态地改变外部感官环境,以匹配活动/体验的顺序/强度以及用户生物特征或视觉或音频提示/输入。
健康应用程序1010可以使用不同的数据处理技术来生成情绪特征。例如,健康应用程序1010可以接收数据集(例如,可以从聚合的数据源提取的数据集),从聚合的数据源提取度量,并且使用所提取洞察来生成用于改善健康的情绪特征。健康应用程序1010可以向推荐***1100传输情绪特征。接口可以连接到推荐***1100,以基于情绪特征显示视觉效果。接口可以连接到推荐***1100以显示所生成的推荐,或基于推荐触发对接口的更新(例如,改变由接口提供的活动)。
***1000使用一个或多个传感器在用户会话期间监测一个或多个用户。在一些实施例中,健康应用程序1010具有提供针对用户会话的活动推荐的接口。***1000具有存储活动推荐记录、情绪特征记录以及存储例如从多个信道1040接收到的用户数据的用户记录的非暂时性存储器。
用户数据可以涉及在用户会话的时间段期间捕获的一系列数据(其可以与来自不同用户会话的数据和与用于不同用户的数据组合)。用户数据可以是与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据。
健康应用程序1010驻留在硬件处理器(其可以在用户装置16处)上,所述硬件处理器用接口的可执行指令编程,以在一定时间段内获得针对用户会话的用户数据。健康应用程序1010向推荐***1100传输针对用户会话的推荐请求,并且更新其接口以便提供响应于推荐请求而接收到的针对用户会话的活动推荐。
健康应用程序1010可以耦合到非暂时性存储器以访问活动推荐记录、情绪特征记录和用户记录。
推荐***1100用可执行指令编程,以响应于接收到推荐请求而通过网络向健康应用程序1010传输活动推荐。在此示例实施例中,健康应用程序1010用可执行指令编程,以基于健康应用程序1010接收的度量计算活动推荐。健康应用程序1010可以使用针对用户会话的用户数据和用户记录来计算活动度量、认知情感能力度量和社交度量。健康应用程序1010可以从用户数据中提取度量来表示用户的身体度量和用户的认知度量。健康应用程序1010可以在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者来确定用户的情绪特征。健康应用程序1010可以在用户会话的时间段期间以一定时间间隔计算用户的多个情绪特征。健康应用程序1010计算多个情绪特征,所述情绪特征可以触发对经更新的活动推荐的计算以及对接口的更新。情绪特征在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者。
例如,健康应用程序1010可以将计算出的情绪特征作为请求的一部分传输到推荐***1100。推荐***1100可以使用在用户会话期间捕获的用户数据,并且还可以使用在先前的用户会话期间捕获的用户数据或不同用户的用户数据。推荐***1100可以聚合来自多个信道的数据以计算活动推荐,从而触发对健康应用程序1010或在一些实例中触发对单独硬件装置上的接口的更新。
推荐***1100可以通过以下方式处理不同类型的数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于文本输入,使用文本分析。
健康应用程序1010可以基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态。健康应用程序1010可以基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态以及使用所述情绪特征记录来计算所述用户的情绪特征。推荐***1100可以基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐。
图4示出了响应于由推荐***100生成的各个推荐中的一个或多个推荐的执行(作为识别用户的特定情绪特征的结果)而在一段时间内对人的情绪健康或幸福的示例改善。这就是所谓的体能训练的“周期化”以及随后的体能提高,其中周期化是训练的***计划的过程。因此,除了用于显示随着时间的推移的改进之外,当情绪健康内容、训练或干预应当被递送给用户时,其还可以是就计划出来而言的辅导工具,以确保其随着时间的推移而改善(而不是变得更糟)。教练将计划训练周期(中周期和大周期),以确保用户获得到足够的内容来挑战和吸引他们,但不会太多以免他们感到不知所措。
图6和7展示了根据本公开的示例实施例的不同用户的情绪特征的改善。
图9示出了可以实施实施例的各方面,如用户装置16、服务器10、数据库12、***1100或应用程序1010的各方面或组件的计算装置900的示例示意图。如图所描绘的,装置900包含至少一个硬件处理器902、非暂时性存储器904以及至少一个I/O接口906和用于交换数据的至少一个网络接口908。/O接口906和至少一个网络接口908可以包含传输器、接收器和用于数据通信的其它硬件。例如,I/O接口906可以捕获用于通过网络接口908传输到另一个装置的用户数据。
图10展示了具有健康应用程序1010的健康***1000的另一个实例,所述健康应用程序使用推荐***1100来基于跨分布式***1000捕获的用户数据提供活动推荐。推荐***1100和/或健康应用程序1010可以从不同数据源,如内容中心1020、用户装置16和信道1040接收输入数据。
***1000使用具有传感器的用户装置16在用户会话期间监测一个或多个用户。在一些实施例中,健康应用程序1010具有带有针对用户会话的活动推荐的接口。推荐***1100具有存储活动推荐记录、情绪特征记录以及存储例如从多个信道1040接收到的用户数据的用户记录的非暂时性存储器。
用户数据可以涉及在用户会话的时间段期间捕获的一系列数据(其可以与来自不同用户会话的数据和与用于不同用户的数据组合)。用户数据可以是与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据。
健康应用程序1010驻留在硬件处理器(其可以在用户装置16或单独的计算装置处)上,所述硬件处理器用接口的可执行指令编程编程,以在一定时间段内获得针对用户会话的用户数据。健康应用程序1010向推荐***1100传输针对用户会话的推荐请求,并且更新其接口以便提供响应于推荐请求而接收到的针对用户会话的活动推荐。
推荐***1100用可执行指令编程,以响应于从接口接收到推荐请求而通过网络14向健康应用程序1010的接口传输活动推荐。推荐***1100是用可执行指令编程的硬件服务器10,以通过以下方式计算活动推荐:使用针对用户会话的用户数据和用户记录来计算活动度量、认知情感能力度量和社交度量。推荐***1100可以从用户数据中提取度量来表示用户的身体度量和用户的认知度量。推荐***1100可以在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者来确定用户的情绪特征。推荐***1100可以在用户会话的时间段期间以一定时间间隔计算用户的多个情绪特征。推荐***1100计算多个情绪特征,所述情绪特征可以触发对经更新的活动推荐的计算以及对接口的更新。情绪特征在用户会话的时间段期间使用用户的身体度量和用户的认知度量两者。
推荐***1100可以使用在用户会话期间捕获的用户数据,并且还可以使用在先前的用户会话期间捕获的用户数据或不同用户的用户数据。推荐***1100可以聚合来自多个信道的数据以计算活动推荐,从而触发对接口的更新。
推荐***1100可以通过以下方式处理不同类型的数据:对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;对于所述音频数据,使用语音分析;并且对于文本输入,使用文本分析。
推荐***1100可以基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态。推荐***1100可以基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态以及使用所述情绪特征记录来计算所述用户的情绪特征。推荐***1100可以基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐。所述***具有用户装置,所述用户装置包括用于在所述时间段期间捕获用户数据的一个或多个传感器;以及传输器,所述传输器用于通过所述网络向所述接口或所述硬件服务器传输所捕获的用户数据以计算所述活动推荐。
健康应用程序1010具有接收推荐请求、向推荐***1100传输请求并且响应于请求而更新其接口以提供活动推荐的接口。健康应用程序1010具有用于提供基于用户数据、活动度量和用户的情绪特征而导出的推荐的接口。
推荐请求可以涉及时间段,并且响应于请求而生成的活动推荐可以涉及同一时间段。在一些实施例中,健康应用程序1010可以确定活动推荐。健康应用程序1010具有可以显示活动推荐或以其它方式提供活动推荐的接口,如通过音频或视频数据。在此实例中,健康应用程序1010被示出在具有硬件处理器的计算装置上。
在一些实施例中,健康应用程序1010可以向推荐***1100传输推荐请求以确定活动推荐。健康应用程序1010可以向推荐***1100传输与推荐请求相关的另外的数据,如时间段、用户标识符、应用程序标识符或所捕获的用户数据,以接收响应于请求的活动推荐。
健康应用程序1010可以处理用户数据以确定此类用户的情绪特征,或者健康应用程序1010可以与推荐***1100通信以计算情绪特征。推荐***1100可以使用用户在所述时间段内的情绪特征来为健康应用程序1010生成活动推荐。
例如,在一些实施例中,健康应用程序1010可以确定用户在所述时间段内的情绪特征,并且将所述时间段内的情绪特征连同推荐请求一起发送到推荐***1100。健康应用程序1010可以将指令存储在存储器中,以确定用户在一定时间段内的情绪特征。健康应用程序1010被示出在具有非暂时性存储器和硬件处理器的计算装置上,所述硬件处理器执行用于接口的指令以获得用户数据并提供活动推荐。例如,健康应用程序1010可以通过连接到用户装置16连同收集一定时间段内的用户数据的传感器24-28来获得用户数据。健康应用程序1010可以连接到单独的硬件服务器(例如,推荐***1100)以交换数据并接收用于生成推荐或确定情绪特征的输出数据。
健康应用程序1010可以从多个信道1040获得用户数据,或者从用户装置16(具有传感器)收集用户数据以便计算情绪特征。在其它实施例中,推荐***1100响应于从健康应用程序1010接收到推荐请求而确定用户在所述时间段内的情绪特征。例如,使用推荐***1100来计算用户在所述时间段内的情绪特征可以将对用户在所述时间段内的情绪特征的计算(和所需的处理资源)卸载到推荐***1100,所述推荐***可能具有比健康应用程序1010更多的处理资源。例如,推荐***1100可以具有到不同源的安全通信路径,以聚合从不同源捕获的用户数据,从而将数据聚合操作卸载到推荐***1100,所述推荐***可能具有比健康应用程序1010更多的处理资源。
在一些实施例中,健康应用程序1010可以捕获用户数据(通过计算装置的I/O硬件或传感器)以用于确定用户在所述时间段内的情绪特征和活动推荐。在一些实施例中,一个或多个用户装置16捕获用户数据以用于确定活动推荐。在一些实施例中,健康应用程序1010可以驻留在用户装置16上,或者健康应用程序1010可以驻留在与用户装置16分开的计算装置上。
在一些实施例中,健康应用程序1010可以将所捕获的用户数据作为推荐请求的一部分或与其相关地传输到推荐***1100。在一些实施例中,健康应用程序1010通过处理所捕获的用户数据来提取活动度量、认知情感能力度量和社交度量。所捕获的用户数据可以跨***1000的不同装置和组件分布。健康应用程序1010可以接收和聚合从包含信道1040、内容中心1020、用户装置16和推荐***1100在内的多个源捕获的用户数据。在一些实施例中,健康应用程序1010可以通过处理来自多个源的用户数据来提取活动度量、认知情感能力度量和社交度量,并且将所提取的度量提供给推荐***1100以计算情绪特征和活动推荐。
在一些实施例中,响应于从健康应用程序1010接收到请求,推荐***1100可以通过处理在所述时间段内捕获的用户数据来提取活动度量、认知情感能力度量和社交度量。推荐***1100可以注册不同的应用程序1010,以将应用程序标识符链接到用户标识符。在一些实施例中,推荐***1100可以从请求中提取应用程序标识符,以定位用户标识符来检索相关记录。
推荐***1100可以接收和聚合从包含信道1040、内容中心1020、用户装置16和应用程序1010在内的多个源捕获的用户数据。响应于从健康应用程序1010接收到请求,推荐***1100可以从不同源请求与所述时间段相关的另外的所捕获的用户数据。推荐***1100可以使用来自多个源的所聚合的用户数据通过处理所述时间段内捕获的用户数据来提取活动度量、认知情感能力度量和社交度量。来自多个源的用户数据可以通过标识符(例如,用户识别)来索引,使得推荐***1100可以例如跨不同数据集识别与特定用户相关的用户数据。推荐***1100具有硬件处理器,所述硬件处理器可以实施不同的数据处理操作,以通过处理来自不同信道1040、内容中心1020、用户装置16、健康应用程序1010的用户数据来提取活动度量、认知情感能力度量和社交度量。推荐***1100具有数据库或用户记录、情绪特征记录、活动推荐记录。例如,用户记录可以存储用户跨不同时间段的所提取活动度量、认知情感能力度量和社交度量。例如,用户记录可以基于不同时间段内的所提取活动度量、认知情感能力度量和社交度量来存储不同时间段的用户的活动推荐。
推荐***1100使用所提取活动度量、认知情感能力度量和社交度量来确定所述时间段内的活动推荐。推荐***1100可以提取活动度量、认知情感能力度量和社交度量,或者可以从例如健康应用程序1010(或不同信道1040、内容中心1020、用户装置16)或其组合接收所提取活动度量、认知情感能力度量和社交度量。推荐***1100可以聚合用户在所述时间段内的所提取活动度量、认知情感能力度量和社交度量,以确定用户的情绪特征和活动推荐。
在一些实施例中,推荐***1100聚合来自多个源(信道1040、用户装置16、内容中心1020)的用户数据,以利用分布式计算装置,使得健康应用程序1010不必从所有不同源收集所有用户数据。信道1040、用户装置16、内容中心1020可以具有不同的硬件组件以实现不同类型的数据的收集。在一些实施例中,健康***1000将用户数据的收集分布在这些不同源上,以从不同源有效地收集不同类型的数据。推荐***1100可以具有到不同源的安全通信路径,以在例如中央储库处以安全的方式聚合从不同源捕获的用户数据。从多个源捕获的用户数据可以含有敏感数据,并且推荐***1100可以提供安全的数据存储。这可以减轻对将从多个源(具有敏感数据)捕获的用户数据本地存储在不同装置上的需要,例如,这可能会产生安全问题。例如,这可以将数据聚合操作卸载到推荐***1100,所述推荐***可能具有比健康应用程序1010更多的处理资源。
在一些实施例中,推荐***1100计算用户在所述时间段内的情绪特征。健康应用程序1010与推荐***1100交换数据以计算情绪特征。如上所述,推荐***1100可以发送针对经更新的用户数据的请求,从多个信道1040接收经更新的用户数据作为响应,并且聚合来自多个信道1040的用户数据,如不同的硬件装置、数字社区、事件、现场直播等,以进行计算情绪特征。例如,推荐***1100可以将所聚合的用户数据存储在用户记录中。
当推荐***1100(或健康应用程序1010、信道1040、用户装置16、内容中心1020)在经更新时间段内收集新的输入数据时,推荐***1100可以计算用户在经更新时间段的情绪特征。如果推荐***1100在经更新时间段内接收到新的推荐请求,则推荐***1100可以计算用户在经更新时间段内的情绪特征。初始时间段的情绪特征可以不同于经更新时间段的情绪特征。经更新时间段的情绪特征用于确定活动推荐。因此,经更新时间段的经更新情绪特征可以触发与基于前一时间段的情绪特征确定的活动推荐不同的活动推荐。
在一些实施例中,健康应用程序1010向推荐***1100发送请求以计算经更新时间段的情绪特征。作为响应,推荐***1100可以计算经更新时间段内的新的情绪特征,并且还可以基于经更新时间段内的情绪特征确定新的活动推荐。作为响应,推荐***1100可以向健康应用程序1010发送经更新时间段内的情绪特征的数据,并且还可以基于经更新时间段内的情绪特征发送新的活动推荐。使用推荐***1100进行计算可以将处理要求从应用程序1010卸载到推荐***1100的单独硬件处理器。
推荐***1100将情绪特征的数据存储在情绪特征记录的数据库中。例如,每个情绪特征记录可以通过用户标识符来索引。例如,每个情绪特征记录可以指示时间段、与所述时间段内的经计算情绪特征相对应的值以及所提取的度量。情绪特征记录还可以存储所述时间段内的任何活动推荐。情绪特征记录可以包含关于用户在不同时间段内的先前情绪特征确定的历史数据。情绪特征记录可以包含关于***的所有用户的先前情绪特征确定的历史数据。情绪特征记录的历史数据可以包含与用于计算情绪特征的用户数据的时间段相对应的时间数据。因此,推荐***1100可以计算用户在一定时间段内的情绪特征,并且将经计算的情绪特征与用户标识符、经计算的情绪特征的值和所述时间段一起存储在情绪特征记录的数据库中。情绪特征可以是推荐***1100的值的数据结构。推荐***1100可以定义用于值的数据结构的参数,所述参数可以用于基于在所述时间段内捕获的用户数据计算情绪特征的值。例如,推荐***1100可以使用不同的相似性度量与表示其它情绪特征的值的其它数据结构进行比较。不同的相似性量度可以用于识别相似情绪特征。推荐***1100将情绪特征(值的数据结构)映射到用户记录和活动记录。
在一些实施例中,推荐***1100具有带有用户标识符和用户数据的用户记录的数据库。例如,每个用户记录可以通过用户标识符来索引。推荐***1100可以基于用户标识符识别一组情绪特征记录,例如,以识别针对特定用户确定的情绪特征或比较特定用户在不同时间段内的情绪特征。
推荐***1100将活动推荐的数据存储在活动推荐记录的数据库中。例如,每个活动推荐可以通过活动标识符来索引。活动推荐记录可以定义不同的活动、活动的参数、活动的标识符和其它数据。活动推荐记录可以包含关于用户的先前活动推荐以及***的所有用户的先前活动推荐的历史数据。活动推荐记录的历史数据可以包含可以映射到情绪特征的时间段的时间数据。用户记录和/或情绪特征记录还可以指示活动标识符以将用户记录和/或情绪特征连接到特定活动记录。例如,推荐***1100可以基于用户数据计算用户在一定时间段内的情绪特征,并且确定用户在所述时间段内的活动推荐。活动推荐可以与通过活动标识符索引的活动推荐记录相对应。用户记录可以存储活动标识符和将用户记录连接到特定活动记录的时间段。情绪特征记录还可以指示用户标识符或情绪特征标识符。用户记录还可以指示情绪特征标识符以连接用户记录、特定活动记录和情绪特征记录。情绪特征记录还可以指示用于使用不同类型的数据来计算不同类型的情绪特征的参数。情绪特征记录还可以具有用于计算一定时间段内的情绪特征的模型。情绪特征记录还可以指示不同的活动标识符,以将情绪特征连接到活动推荐记录。
基于用户的情绪特征,推荐***1100可以向应用程序1010传输数据以更新接口。例如,数据可以是用于在接口上显示新内容或用于在接口处生成音频或视频数据的指令。
推荐***1100和应用程序1010可以使用应用编程接口(API)连接并且使用API交换命令(包含推荐请求)和数据。应用程序1010可以从推荐***1100接收指令以在接口处提供活动推荐。例如,应用程序1010可以提供虚拟教练接口,所述虚拟教练接口提供一定时间段内的活动推荐,以帮助改善用户的健康和/或实现他/她的目标。应用程序1010可以使用API与推荐***1100交换命令和数据,以接收活动推荐并自动地更新虚拟教练接口,从而自动地提供活动推荐。应用程序1010可以使用虚拟教练接口来提示用户数据,并且可以使用API向推荐***1100传输所收集用户数据。
应用程序1010可以自动地更新接口,以提供所述时间段内的活动推荐。应用程序1010可以在活动进行期间继续监测用户(通过收集用户数据)以收集可以被称为用户数据的反馈数据。应用程序1010可以接收关于所述时间段内的活动推荐的正面或负面反馈。例如,应用程序1010更新接口以提供所述时间段内的第一活动推荐,并且接收关于所述时间段内的第一活动推荐的负面反馈。应用程序1010可以使用API与推荐***1100交换命令和数据,以接收所述时间段内的第二活动推荐并传送负面反馈。例如,推荐***1100可以将负面反馈与所述时间段内的第一活动推荐的活动标识符一起存储在用户记录中,或者以其它方式存储与第一活动推荐相关联的负面反馈。
在活动进行期间,健康***1000可以从来自不同信道1040的数据流中接收指示用户表现的数据,所述不同信道如沉浸式硬件装置(举例来说,用户装置16),例如智能手表、智能电话、智能镜子或任何其它智能锻炼机器(例如,连接的固定自行车)以及任何其它传感器,如传感器24-26。例如,用户装置16可以是具有相机和传感器以捕获用户数据的智能镜子。作为智能镜子的用户装置16也可以具有带有接口的应用程序1010,例如,以向用户提供所述时间段内的活动推荐。应用程序1010可以使用API将推荐请求连同从用户装置16(智能镜子)捕获的用户数据一起发送到推荐***1100,以接收所述时间段内的活动推荐来更新接口。因此,用户装置16具有应用程序1010,所述应用具有提供不同时间段内的活动推荐的接口,并且还具有捕获所述时间段内的用户数据的传感器。
基于所收集的数据和用户的情绪特征,推荐***1100可以通过基于来自先前活动推荐的接口的反馈提供不同时间段期间的经更新活动推荐或同一时间段内的经更新活动推荐来动态地适配。在一个实施方案中,推荐***1100生成的推荐可以采取一定时间段(或时间区段)内的多个活动推荐的程序的形式,以引导或塑造匹配配对/社区交互或体验。例如,程序可以包括不同时间段(每天、每周、每月、每年规划)内的一个或多个阶段的活动推荐。推荐***1100可以基于阶段和当前时间段计算不同的活动推荐和会话。所推荐的会话和活动的强度和音量可以线性或非线性地变化。随着时间的推移,通过用户与其用户装置16上的情绪健康应用程序1010的重复交互,健康应用程序1010捕获经更新用户数据并且将其发送到推荐***1100进行跟踪和存储。随着时间的推移,推荐***1100可以基于随着时间的推移收集的经更新的用户数据跟踪和监测每个用户的情绪特征。推荐***1100可以将程序定义为一组活动推荐。推荐***1100可以改变程序,以改变所述一组活动推荐。推荐***1100可以基于匹配人的当前情绪特征改变程序,以调整所述一组活动推荐,从而帮助维持匹配用户之间的深度有意义的联系。
推荐***1100可以使用情绪特征来为用户群组作出活动类别推荐。推荐***1100可以例如基于为所述群组中的每个用户计算的情绪特征,为所述群组中的每个用户生成同一活动推荐。群组锻炼通过共享情绪和运动来改善个体健康并且增加社会联系。因此,推荐***1100可以用于识别具有相似情绪特征的个体并且通过为一组经识别用户或同伴生成同一活动推荐来连接他们。所述群组中的每个用户可以链接到健康应用程序1010,并且推荐***1100可以向健康应用程序1010中的每个健康应用程序发送针对所述一组经识别用户的同一活动推荐,并且通过在提供同一活动推荐之后捕获另外的用户数据来继续监测一组经识别用户。推荐***1100还可以为用户生成社交度量,以针对所述一组经识别用户进行推荐。
在一些实施方案中,推荐***1100可以通过控制连接的感官致动器(如房间中的声音、照明、气味、温度、气流)来操纵外部感官环境。感官致动器可以是建筑自动化***的一部分,例如以控制建筑***的组件。推荐***1100可以向感官致动器传输控制命令,作为生成活动推荐、计算情绪特征或通过捕获另外的用户数据来进行用户监测的过程的一部分。
推荐***1100可以控制连接的感官致动器以改变用户(或用户群组)的内感受能力,从而在课堂/体验期间递送更大的生理和心理益处。推荐***1100可以基于活动推荐(例如,活动类型、内容、课程强度、课程持续时间)、在用户装置16或健康应用程序1010的接口处接收的反馈、在课堂期间使用用户装置16实时测量的用户的生物特征输入以及在先前会话期间由***1000计算的用户的个体情绪特征来操纵连接的感官致动器。
例如,基于用户或用户群组的情绪特征,推荐***1100可以为此类用户或用户群组生成活动推荐,并且然后与活动推荐相关的声音节奏或音量可以被改变以匹配由控制感官致动器的推荐***1100推荐的类别/活动。根据所推荐的活动和用户或用户群组的情绪特征,推荐***1100可以在活动或体验的持续时间期间动态地改变外部感官环境,以匹配活动/体验的顺序/强度以及用户生物特征或视觉或音频提示/输入。
健康应用程序1010或推荐***1100可以使用不同的数据处理技术来生成情绪特征。例如,健康应用程序1010或推荐***1100可以接收数据集(例如,可以从聚合的数据源提取的数据集),从聚合的数据源提取度量,并且使用所提取的度量来生成用于改善健康的情绪特征。
在一些实施例中,健康应用程序1010可以向推荐***1100传输情绪特征连同推荐请求。作为响应,健康应用程序1010更新其接口,以基于情绪特征并且还基于由推荐***1100接收到的活动推荐显示视觉效果。健康应用程序1010可以连接到推荐***1100以在接口处显示所生成的推荐,或基于推荐触发对接口的其它更新(例如,改变由接口提供的活动)。
虽然在上述实施例中,用户数据的处理、情绪特征的确定和推荐的生成已被描述为由硬件服务器10执行,但在其它实施例中,此类步骤可以由用户装置16执行,前提是用户装置16可访问所需指令、技术和处理能力。服务器10可以访问比用户装置16更大的处理能力和资源,并且因此可能更适合于对由用户装置16获得的并且跨信道获得的用户数据进行相对资源密集型处理。
在一些实施例中,推荐***1100存储用于生成定义用户的身体或行为特性的数据的分类器。推荐***1100可以使用从多模态特征提取中提取的分类器和特征来计算活动度量、认知情感能力度量和社交度量。多模态特征提取可以从图像数据、视频数据、文本数据等中提取特征。
在一些实施例中,推荐***1100存储与用户相对应的用户模型。推荐***1100可以检索与用户相对应的用户模型,并且使用用户模型来计算用户的情绪特征。
在一些实施例中,用户装置16连接到沉浸式硬件装置或与其集成在一起,所述沉浸式硬件装置捕获音频数据、图像数据和定义用户的身体或行为特性的数据。用户装置16可以向推荐***1100传输所捕获的数据以供处理。用户装置16使用蓝牙或其它通信协议连接到沉浸式硬件装置。
在一些实施例中,推荐***1100存储内容储库并且具有内容集展引擎,所述内容集展引擎将活动推荐映射到所推荐内容并且向应用程序1010的接口传输所推荐内容。
在一些实施例中,应用程序1010的接口进一步包括用于传送响应于推荐请求而接收到的针对用户会话的活动推荐的语音接口。语音接口可以使用言语/文本处理、自然语言理解和自然语言生成来传达活动推荐和捕获用户数据。
在一些实施例中,应用程序1010的接口访问存储情绪分类器的存储器,以捕获定义用户的身体或行为特性的数据。
在一些实施例中,推荐***1100使用针对用户会话的用户数据和用户记录以及处理来自多个模态的数据的多模态特征提取,利用分类器来计算活动度量、认知情感能力度量和社交度量。推荐***1100使用多模态特征提取来提取图像数据、定义用户的身体或行为特性的数据、音频数据和文本输入上的特征和相关性。多模态信号处理通过若干种类型的量度或模态来分析用户数据并且从经处理数据中提取特征,所述模态如面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;语音分析;以及例如文本分析。
在一些实施例中,非暂时性存储器存储用于生成定义用户的身体或行为特性的数据的分类器,并且推荐***1100使用分类器和通过多模态特征提取而提取到的特征来计算活动度量、认知情感能力度量和社交度量。
图11展示了具有健康应用程序1010的健康***1000的另一个实例,所述健康应用程序使用推荐***1100来基于跨分布式***1000捕获的用户数据提供活动推荐。图11是参考图1的组件的示例配置,以展示例如推荐***1100可以被称为硬件服务器10。例如,健康应用程序1010可以驻留在用户装置16上。
健康应用程序1010具有接收推荐请求并响应于所述请求而提供活动推荐的接口。健康应用程序1010具有用于提供基于用户数据、活动度量和用户的情绪特征而导出的推荐的接口。健康***1000可以提供针对可以由时间段定义的不同用户会话的活动推荐。健康***1000可以基于由时间段定义的不同用户会话处理用户数据。例如,健康应用程序1010可以向推荐***1100发送推荐请求以开始用户会话持续一定时间段。用户会话通过用户标识符映射到用户。用户会话可以定义一组所捕获的用户数据(包含所捕获实时数据)、一个或多个情绪特征和一个或多个活动推荐。在一些实例中,用户会话链接用户群组。每个用户会话可以具有推荐请求和对应的一个或多个活动推荐。***1000可以使用存储在数据库12的记录中的会话标识符来识别每个用户会话。推荐请求可以指示会话标识符,或者推荐***1100可以响应于接收到推荐请求而生成并分配会话标识符。例如,推荐***1100或硬件服务器10和健康应用程序1010的接口可以通过API交换会话标识符。推荐***1100可以存储与会话标识符相关联的所提取的度量,以将数据值映射到用户会话。推荐***1100可以使用来自先前用户会话的数据值来计算针对新用户会话的情绪特征和活动推荐。先前用户会话可以涉及同一用户或不同用户。
如图所示,用户装置16可以具有健康应用程序1010的接口,以便提供针对用户会话的活动推荐。用户装置16还可以具有传感器,以在用户会话的时间段期间(或接近所述时间段)捕获(近)实时用户数据,从而确定用户在所述时间段内的情绪特征。用户会话可以由一个或多个时间段或时间段的区段来定义。用户会话可以映射到一个用户标识符或多个用户标识符。
推荐***1100或硬件服务器10从不同数据源,如内容中心1020、用户装置16和信道1040接收输入数据,以计算用于计算情绪特征的不同度量。推荐***1100或硬件服务器10使用所捕获的(近)实时用户数据以及其它用户数据来计算用户在用户会话的时间段内的情绪特征。例如,推荐***1100可以访问数据库12中的记录。推荐***1100可以计算跨记录的相似性量度,以用于计算用户在用户会话的时间段内的情绪特征。
推荐请求可以涉及用户会话的时间段,并且响应于请求而生成的活动推荐可以涉及同一时间段。***1000可以将活动推荐与会话标识符一起存储在记录中。在一些实施例中,健康应用程序1010可以确定活动推荐或情绪特征。在一些实施例中,健康应用程序1010可以从所捕获的用户数据中提取度量并且向推荐***1100或硬件服务器10传输所提取的度量。健康应用程序1010具有可以在用户装置16处显示活动推荐或以其它方式提供活动推荐的接口,如通过音频或视频数据。
示例图示示出了具有健康应用程序1010的多个用户装置16和具有传感器的多个用户装置16。用户装置16可以连接到推荐***1100或硬件服务器10以交换用户会话的数据。推荐***1100或硬件服务器10可以聚合或汇集来自多个用户装置16的数据,并且向健康应用程序1010的接口发送活动推荐。推荐***1100可以协调来自与一组用户设备16相对应的用户群组的实时数据收集的定时,并且可以协调用于所述用户群组中的每个用户的健康应用程序1010的接口的活动推荐的定时和内容。例如,可以将用户群组分配给用户会话,以协调数据和消息。例如,推荐***1100可以为用户会话的所述用户群组中的每个用户生成同一活动推荐,以供传输到健康应用程序1010。健康应用程序1010可以通过用户标识符链接到用户,所述用户标识符可以作为凭证在接口处提供或使用由接口从用户装置16检索的数据生成。用户标识符可以映射到数据库12中的用户记录。会话标识符还可以映射到数据库12中的一个或多个用户标识符。例如,在注册过程期间,健康应用程序1010的接口可以通过API与推荐***1100或硬件服务器10交换用户标识符。
示例图示示出了在具有健康应用程序1010的多个用户装置16与具有传感器的多个用户装置16之间交换数据的推荐***1100或硬件服务器10。推荐***1100或硬件服务器10可以具有增加的计算能力,以从所聚合的用户数据有效地计算数据值。每个用户装置16不必存储所聚合的用户数据并且不必处理跨用户群组的相似性量度。每个用户装置16不必与所有用户装置16交换数据以便访问数据聚合的益处。相反,用户装置16可以与推荐***1100交换数据。推荐***1100或硬件服务器10可以存储所聚合的用户数据并处理跨用户群组的相似性量度,并且基于用户装置16的计算结果与所述用户装置交换数据。用户装置16可以在推荐***1100或硬件服务器10的用户会话期间捕获实时用户数据,或者可以使用实时用户数据和从推荐***1100接收的数据来执行用户会话的计算。健康应用程序1010可以从所捕获的用户数据中提取度量并且向推荐***1100传输所提取的度量。健康应用程序1010可以在用户会话期间使用API与推荐***1100交换数据和命令。例如,所提取的度量可以与API的参数相对应。健康应用程序1010可以使用API向推荐***1100传输所提取的度量。健康应用程序1010可以从所捕获的用户数据中提取度量,使得度量可能不揭示所有敏感的用户数据。在一些实施例中,健康应用程序1010可以使用API而不是所有敏感的用户数据来向推荐***1100传输度量。
推荐***1100或硬件服务器10可以服务于大量健康应用程序1010以扩展***1000,从而收集对应的大量数据进行计算。例如,***100可以具有多个推荐***1100或硬件服务器10以服务于多组用户装置16,并且提供增加的处理能力和数据冗余。
推荐***1100或硬件服务器10可以从多个信道1040接收与用户会话相关的用户数据。用户数据涉及不同类型的数据,如与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据。
推荐***1100或硬件服务器10可以对从不同信道1040接收到的原始数据实施预处理步骤。实例包含导入数据库;数据清理或检查缺失值/数据;平滑或去除噪声数据和异常值;数据整合;数据转换;以及数据的归一化和聚合。
健康应用程序1010可以使用API与推荐***1100交换数据和命令,如从所捕获的用户数据中提取的度量。健康应用程序1010或推荐***1100可以通过使用一个或多个硬件处理器处理用户数据来生成活动度量、认知情感能力度量和社交度量,所述一个或多个硬件处理器被配置成处理来自所述多个信道1040的用户数据。这包含在给定活动推荐与时间段相对应的情况下在所述时间段内的所捕获的用户数据。所述时间段内的所捕获的用户数据用于计算用户在所述时间段内的情绪特征。
活动度量、认知情感能力度量和社交度量定义***1000的“身体”度量和“认知”度量。原始数据由***100从不同信道1040摄取,并且由***100映射到“身体”度量和“认知”度量的这些定义。度量可以具有基于经处理的用户数据的对应值。***1000使用“身体”度量和“认知”度量从原始用户数据中提取,以提供一种改进的方式来计算用户在所述时间段内的情绪特征的值。
例如,***1000使用传感器(加速度计、心率监测器、呼吸率监测器)来测量用户的生理状况以捕获实时用户数据,并且通过将值分配给不同的度量来处理用户数据以测量生理状况(例如,测量心率、心率变异性)。***1000可以定义锻炼活动期间的“身体”度量或流动性分数,其可以通过使用例如具有或不具有相机的用户装置16的生理传感器捕获的用户数据来计算。举例来说,***1000可以使用锻炼活动期间的心率和心率变异性来定义连接性度量。
例如,***1000使用基于以下的定义来测量认知度量:文本输入(具有预定义答案和具有针对预定义问题提取的预定义特征的自由文本答案);日常行为(例如,从用户装置16中提取的,如应用使用、音乐消费、呼出电话次数);语音(言语信号的功率谱可以使如中性、愤怒、快乐、悲伤等情绪相关);从图像数据中提取的身体语言(姿势、手腕和手等关节的特殊位置和定向可以使如快乐、悲伤、惊讶、恐惧、愤怒、厌恶、中性等情绪相关);眼运动(扫视持续时间、注视持续时间、瞳孔直径可以与正面、中性或负面情绪状态相关)。另一个实例是脑活动数据(例如,N400响应)。
举例来说,***1000可以使用更高水平的状态定义来测量认知度量,如意图/意识、注意力、动机、情绪调节、换位思考/洞察、自我同情和对其它人的同情。
***1000可以从针对用户会话的所捕获的用户数据中测量身体度量和认知度量,并且然后使用身体度量和认知度量来计算用户会话的情绪特征。***1000可以从文本基础交互、自由文本响应中测量身体度量和认知度量,并且从自由响应中提取用于计算情绪特征的特征。用户可以位于具有相机的镜子装置前面,以捕获用户会话的手势的图像和言语的音频数据,所述音频数据可以用于计算另外的度量,如音调或身体姿势。
***1000可以测量身体度量作为状态度量,如“快乐”可以在图像数据中检测到微笑或来自音频数据的姿势或音调。***1000可以测量特质度量或性格更恒定的特征。例如,为了测量用户在给定时间具有的注意力或专注水平,接口可以提示预定义的问题:“你现在感觉有多专注?”用1-7级李克特量表(Likert scale)响应进行回答。接口询问具体或一般的问题,并且提取与通过自由文本响应专注的感觉相关的任何特征。***1000还可以考虑用户之间的通信消息,如两个用户之间的文本对话数据,并且提取与描述专注感觉的用户相关的特征。***1000还可以考虑对电话或其它装置上的数字交互(例如,按钮点击)的反应时间。***1000还可以考虑装置使用数据来测量用户在一天中有多少时间处于集中或专注,或分心且不专注。可以使用视觉眼跟踪来测量对特定任务的注意力和专注度。
健康应用程序1010或推荐***1100可以使用以下中的至少一项从图像数据和定义用户的身体或行为特性的数据中提取度量:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析。不同的面部特征提取技术和图像处理技术的实例包含观察技术,如基于面部动作编码***的观察技术,其中特定肌肉群的可观察活动通过人类编码器被标记和编码为动作单元,用面部肌电图记录肌肉活动;由Berkeley(https://esilab.berkeley.edu/wp-content/uploads/2017/12/Kring-Sloan-2007.pdf)开发的面部表情编码***(FACES),其全部内容特此通过引用并入本文。
健康应用程序1010或推荐***1100可以使用不同的语音处理技术来从音频数据中提取度量。例如,度量可以是基于情绪状态(例如,笑声、叹息)的非语言口语交互的值。
健康应用程序1010或推荐***1100可以使用文本分析和不同的自然语言理解技术来从文本输入中提取度量,以从文本数据中提取特征,包含含义和情感分析。
健康应用程序1010或推荐***1100可以计算活动度量、认知情感能力度量和社交度量。健康应用程序1010或推荐***1100可以基于从经处理的用户数据生成的认知情感能力度量和社交度量,确定用户的一个或多个认知情感能力的一个或多个状态。状态分类的实例是快乐、悲伤、厌恶、顿悟(moment ofinsight)、给予、同情、被迫帮助、嫉妒、精力充沛、专注、惊讶、恐惧、愤怒、好奇、有意识、无意识。健康应用程序1010或推荐***1100可以定义多个状态并为用户会话或时间段选择状态。举例来说,状态的定义可以涉及“准备度增长(readiness to grow)”。
健康应用程序1010或推荐***1100可以基于用户的一个或多个认知情感能力的一个或多个状态计算针对用户会话的用户的情绪特征。***1000可以将状态映射到情绪特征值或参数。以身体健康为例,多年的训练有助于不会快速改变的一般健康水平。如果用户最近进行了艰苦的训练,则在训练会话之后的第二天用户可能真的很疲惫,并且因此用户对训练的准备度可能很低。***1000可以考虑基于在用户会话的时间段之前或之前捕获的数据计算的针对用户的度量,连同基于在用户会话的时间段期间捕获的数据计算的针对用户的度量。***1000可以使用度量的加权或比率来计算会话的情绪特征或另外的度量。情绪特征可以使用不同维度的情绪的度量来计算,如情绪的意识、调节、同情(ARC)维度。在每个维度内,存在可以由***1000检测到的将归因于所述维度的不同状态。对于意识,***1000可以定义如反射性、正念性和目的性等子维度。接口可以显示初始问卷以接收用户会话的输入数据,从而作为特质水平度量进行测量。然而,利用不同的实时数据输入,***1000可以在一定时间段期间或跨不同用户会话以不同时间间隔(使用与不同时间间隔相对应的数据)测量离散状态。例如,当用户正在标记当前或过去的体验并用口头或书面的语言表达他们在所述体验中所产生的情绪或感受等事物时,用户将处于反射性状态。为了检测这种状态,人的口语或书面语言可以被处理并且提取与关于事件的情绪表达相关的特征。
健康应用程序1010或推荐***1100可以将情绪特征定义为函数或多组值。情绪特征定义可以对ARC维度进行建模,并且将ARC维度的度量的值视为具有不同版本或组合的值的简档(度量1、度量2、度量3),这取决于可以被分配的值。实例是值的简档是(A、R、C),其中每个值可以是高的或低的,具有不同版本的简档,如:(高-高-高)(高-高-低)(高-低-高)(高-低-低)(低-低-高)(低-低-低)(低-高-高)(低-低-高)。不同版本的简档可以映射到不同的情绪特征。例如,简档可以存储在数据库12的记录中。
例如,健康应用程序1010或推荐***1100可以使用置信度分数或分布规则从情绪特征群组中选择情绪特征。举例来说,规则可以与最能代表大多数用户的人口分布工作或简档的缺省值(default),例如较低的自我同情。接口还可以提示更多信息来捕获另外的用户数据(例如,数字或虚拟教练或对话代理风格接口),从而从所述情绪特征群组中选择情绪特征。
推荐***1100可以基于用户的情绪特征和活动度量自动地生成针对接口的一个或多个活动推荐。推荐***1100响应于推荐请求而向接口传输活动推荐。推荐可以基于来自预定义问题和李克特量表响应的分数阈值。推荐可以基于高级数据点和复杂的数据收集和分析方法。
健康应用程序1010可以为自动化教练应用程序提供客户端接口,以使用从所捕获的用户数据中提取的身体和认知度量来提供针对用户会话的自动化活动推荐。
健康应用程序1010可以是用于捕获用户数据的单独硬件装置的移动伴侣应用程序(驻留在计算机装置中)。单独的硬件装置还可以具有可以与健康应用程序1010协调地递送推荐的接口。在伴侣应用程序内,健康应用程序1010具有对话代理接口以提供活动或内容推荐。***1000可以具有硬件装置与伴侣移动健康应用程序1010的组合,所述硬件装置具有用于捕获用户数据的传感器,所述伴侣移动健康应用程序在单独硬件装置上以与推荐***1100交换数据。具有伴侣移动健康应用程序1010的硬件装置可以触发数字教练会话,以推荐不同风格和类型的心理训练活动(例如,集中冥想、开放式监测冥想、同情冥想)、身体活动(瑜伽、步行、旋转等)、同伴教练活动(例如,关于情绪发展的各种主题的讨论、镜像或眼凝视、练习倾听对方而不说话)等。
推荐***1100可以实施针对情绪特征的基于状态的性格量度。基于状态的性格是基于所收集的数据在一段时间内发生变化的测量结果。最初,推荐***1100可以收集简短的特质性格测量。然后,随着时间的推移,通过状态的收集,推荐***1100可以在用户会话的一段时间期间(例如,以一定间隔,在检测到事件时)动态地重新计算情绪特征,使得情绪特征将在每个用户会话期间基于随着时间的推移的状态而动态地变化。推荐***1100可以例如基于所测量的状态使用滚动平均值。
健康应用程序1010可以实施用于传达从推荐***1100接收到的活动推荐或输出的自然语言生成技术。健康应用程序1010可以使用高级数据点和用户偏好、各种类型的心理和人口统计数据、关于与各种健康活动(跑步、瑜伽等)相关的产品的交易数据以及关于生活目标和价值观的其它上下文信息。健康应用程序1010可以使用此数据来进一步对从推荐***1100接收到的输出进行情景化,以便为用户开发定制的接口体验。
图12展示了基于用户数据提供活动推荐的健康***1200的实例。图12是参考图1的组件的示例配置,以展示例如推荐***1200可以被称为硬件服务器10。
健康应用程序1200从多个信道1210收集和聚合用户数据。所述多个信道1210向服务器10提供数据。在一些实施例中,数据在服务器10处被接收并由数据处理***1230处理,并且用于创建用户模型1242。推荐***1240使用用户模型来提供推荐。基于推荐向用户装置16递送内容。用户装置16被配置成收集用户数据并且通过所述多个数据信道中的一个或多个数据信道将所述用户数据提供给健康***。
用户装置16具有存储移动数据的非暂时性计算机可读介质20。用户装置16具有存储用于配置硬件处理器22的不同程序的非临时性计算机可读介质20。在此实例中,用户装置16具有用于与***1200的其它组件通信的蓝牙。用户装置16提供一种或多种不同形式的用户数据和装置相关数据(包含移动数据)。用户数据可以包含与用户相关的图像数据、与用户相关的文本输入、定义用户的身体或行为特性的数据和与用户相关的音频数据。用户装置可以通过以下中的一个或多个来收集用户数据:手势命令、用户行为、环境因素、形式跟踪分类器、情绪分类器、语音UI或由外部装置提供的用户数据。在一些实施例中,用户装置16具有从用户的声调、身体姿势或面部表情中的一个或多个收集数据的一个或多个情绪分类器1224。在一些实施例中,情绪分类器1224可以基于存储在用户装置16上或所述用户装置可访问的数据来计算认知情感能力度量。在一些实施例中,情绪分类器1224可以基于存储在用户装置16上或所述用户装置可访问的图像数据来计算用户的行为特性。在一些实施例中,用户装置16具有语音UI 1226,其具有言语到文本输入、自然语言理解和自然语言生成。例如,语音UI 1126可以是对话代理。在一些实施例中,情绪分类器1224可以连接到用户模型1242。用户装置16和***1230可以在情绪分类器1224与用户模型1242之间交换数据。在一些实施例中,每个用户装置16(或相关联的用户)具有对应的用户模型1242以计算特定用户装置16的数据。
外部装置1228或沉浸式硬件1222可以向用户装置16传输由其传感器收集的用户数据以供处理。用户装置16可以对从外部装置1228或沉浸式硬件1222收集的数据实施处理操作。用户装置16可以与***1230交互,以对从外部装置1228收集的数据实施处理操作。
在一些实施例中,用户装置16从一个或多个外部装置1228收集用户数据。例如,在一些实施例中,用户装置16利用一个或多个可穿戴装置、加速度计、心率传感器和心率变异性传感器从外部装置1228收集用户数据。所述一个或多个外部装置1228可以物理地或通信地耦合到用户装置16以交换数据。
在一些实施例中,用户装置16从一个或多个沉浸式硬件装置1222收集用户数据。所述一个或多个沉浸式硬件装置物理地或通信地耦合到用户装置16。在一些实施例中,沉浸式硬件装置1222使用蓝牙耦合到用户装置16。在一些实施例中,沉浸式硬件装置1222收集与用户相关的音频数据和与用户相关的视频图像数据中的一个或多个。在一些实施例中,沉浸式硬件装置1222可以显示音频或视频内容。在一些实施例中,沉浸式硬件装置1222可以提供数据作为图8所示的沉浸式信道1040的一部分。
在示例实施例中,用户装置16和沉浸式硬件装置1222可以提供实时交互式教练会话。沉浸式硬件装置1222可以用于收集数据并且传送与活动推荐和所推荐内容相关的数据。例如,交互式教练会话可以涉及一个或多个活动推荐。交互式教练会话可以涉及一系列活动推荐。所述一系列活动推荐可以根据对应用户并且还基于来自先前会话的反馈或针对教练会话的所述一系列活动推荐中的先前活动推荐而变化。用户装置可以具有安装在其上的应用程序或软件程序(例如,应用程序1010),所述应用或软件程序可以与***1230交换数据以将经训练的用户模型1242安装在装置16上作为情绪分类器1224或作为用于用户行为的其它经训练模型。用户装置16和沉浸式硬件装置1222可以交换数据以进行实时交互。沉浸式硬件装置1222可以具有可以基于实时交互进行更新的接口。沉浸式硬件装置1222可以向可以在数据上运行经训练模型的用户装置16传输数据。用户装置16可以向沉浸式硬件装置1222传输来自经训练模型的输出数据。在一些示例实施例中,与沉浸式硬件装置1222相比,用户装置16可以具有增加的用于处理所收集的数据的处理资源(例如,硬件处理器22)。在一些实施例中,沉浸式硬件装置1222还可以具有硬件处理器。
在一些示例实施例中,用户装置16接收可以被称为内容推荐的活动推荐。活动可以与内容推荐中定义的数据或内容相关联。例如,活动可以是锻炼,并且内容可以用作锻炼的一部分。例如,语音UI 1226可以在活动期间或作为活动推荐传送内容推荐(或其中的音频文件或文本数据)。内容推荐还可以包含音频或视频文件。内容推荐***1240可以生成内容推荐并且向用户装置16传输内容推荐。用户装置16接收由内容推荐***1240提供的所推荐内容。在一些实施例中,用户装置16具有向用户显示此内容的接口。在一些实施例中,用户装置16向显示内容或以其它方式传送内容的沉浸式硬件装置1222传输内容。在一些实施例中,用户装置16使用具有对话代理的语音UI 1226来向用户递送所推荐内容。
由用户装置16直接地或通过通信地耦合到用户装置16的其它装置(例如,沉浸式硬件装置1222)收集的数据可以通过数据信道1210转移或传输到服务器10。服务器10还可以从一个或多个数据通道1210接收来自除了用户装置16以外的源的数据。
用户数据存储在包含在服务器10的存储器中的数据库12中的用户记录中。用户数据由具有多模态特征提取软件1232的数据处理***1230处理。数据处理***1230可以通过使用多模态特征提取软件1232从用户数据中提取特征来处理用户数据,并且使用不同的分类器来处理所提取特征。分类器可以涉及例如身体、心理和社交分类模型。分类器的输出可以存储在数据库12中。分类器(身体的、心理的和社交的)可以与用户模型1242交互,计算不同用户的认知情感能力度量、认知情感能力的状态和情绪特征。用户模型1242可以具有与特定用户相对应的用户模型1242。在由数据处理***1230收集另外的用户数据时,与特定用户相对应的用户模型1242可以随着时间的推移而更新。用户模型1242还可以映射到特定用户的类别或类型。在由数据处理***1230收集用户类型的用户数据时,与特定用户类型相对应的用户模型1242可以随着时间的推移而更新。用户类型可以定义一组用户,并且用于更新与特定用户类型相对应的用户模型1242的用户数据可以与来自所述一组用户的数据相对应。
数据处理***1230可以使用所提取特征来生成不同的度量。数据处理***1230计算活动度量、认知情感能力度量和社交度量。为了计算这些度量,数据处理***1230使用以下中的至少一项:面部分析、身体分析、眼跟踪、行为分析、社交网络或图形分析以及用户活动分析。对于音频数据,数据处理***1230使用语音分析。对于文本输入,数据处理***1230使用文本分析。在一些实施例中,多模态特征提取软件1232可以使用面部分析、身体分析、眼跟踪、行为分析、社交网络或图形分析以及用户活动分析来从用户数据中提取特征。数据处理***1230可以使用多模态特征提取软件1232来提取特征并生成度量。活动度量、认知情感能力度量和社交度量存储在服务器10的存储器中。
***1200使用认知情感能力度量和社交度量来计算一个或多个认知情感能力的一个或多个状态。所述一个或多个认知情感能力作为用户记录的一部分存储在数据库12中。
数据处理***1230使用基于用户的所述一个或多个认知情感能力的一个或多个状态在所述时间段期间收集的至少一些用户数据并且使用情绪特征记录来计算针对用户会话的用户的情绪特征。数据处理***1230可以重新计算在所述时间段期间针对用户会话的用户的情绪特征。
在一些实施例中,推荐***1240生成并更新用于处理数据的用户模型1242,以计算用户的情绪特征、活动度量、活动推荐记录和用户记录。分类器可以与用户模型1242交互以计算度量。
在一些实施例中,用户模型1242用于生成活动推荐,并且用户模型1242可以与不同的情绪特征相对应。在此类实施例中,分类器可以用于计算用户会话的度量和情绪特征。经计算的情绪特征可以用于识别用户模型1242以计算活动推荐。用户可以与不同的用户模型1242相关联,每个用户模型与不同的情绪特征相对应。在一些实施例中,多个用户可以与和不同的情绪特征相对应的用户模型1242相关联。活动推荐然后用于从内容储库1246中检索内容。然后向用户装置16递送内容。内容储库1246可以为不同的活动推荐定义不同的内容。例如,内容储库1246可以检索用于第一活动推荐的第一组内容和用于第二活动推荐的第二组内容。
在一些实施例中,数据处理***1230和/或推荐***的计算中的一个或多个计算由用户装置16、一个或多个沉浸式硬件装置1222和一个或多个外部装置1228中的一个或多个来执行。计算可以基于可用资源跨不同装置分布,以便提高跨健康***1200的处理效率并解决通信或网络限制。
用户装置16可以安装用于身份管理的软件程序或与其交互,以认证用户装置16或以其它方式将用户装置16与标识符相关联。用户装置16还可以存储健康应用程序1010,所述健康应用程序可以涉及所示的不同组件,如情绪分类器1224和语音UI 1226。也就是说,健康应用程序1010可以具有例如语音UI 1226。
图13展示了健康应用程序1010的用户接口1300的实例。用户接口1300显示第一用户与第二用户1310之间的即时消息传送对话。第二用户1310可以是虚拟教练,并且消息可以由***1200自动地生成或基于来自一个或多个教练的输入生成。用户接口1300还具有可选择标记1320以触发推荐请求,从而用一个或多个活动推荐来更新用户接口1300。例如,在选择可选择标记1320时,健康应用程序1010可以向推荐***1240传输推荐请求。作为响应,健康应用程序1010接收活动推荐或相关联的所推荐内容,并且更新用户接口1300以显示或传送活动推荐或相关联的所推荐内容。活动推荐可以包含可以作为在接口1300上显示的消息提供给用户的内容。消息传送对话还可以在生成活动推荐之前从用户装置16请求另外的输入数据。例如,活动推荐和消息可以包含向第二用户推荐锻炼、与第二用户分享第一用户的进度以及安排与第二用户的锻炼。如果第一用户选择特定活动,则健康应用程序1010可以执行与选择相对应的动作。例如,如果第一用户选择活动推荐来安排与第二用户的锻炼,则健康应用程序1010可以呈现更新接口1300以安排锻炼时间并向第二用户发送邀请。例如,活动推荐由图13的推荐***1320自动地生成。健康应用程序1010可以存储在非暂时性计算机可读介质上并且可由硬件处理器执行以实施本文所述的操作。
图14展示了健康应用程序1010的另一个用户接口1400的实例。用户接口1400显示用户可以选择的多个活动推荐1420。例如,活动推荐可以包含所推荐的锻炼类别,并且当用户选择所述锻炼类别时,健康应用程序可以使用户将用户添加到锻炼类别。活动推荐由推荐***1320自动地生成。例如,在选择活动推荐1420之一时,健康应用程序1010可以向推荐***1320传输与所选择的活动推荐相对应的数据或将与所选择的活动推荐相对应的数据存储在存储器中作为用户记录的一部分。例如,所选择的活动推荐可以用作用户数据,以便为后续用户会话或具有相似情绪特征的用户生成另外的活动推荐。
当在权利要求和/或说明书中与术语“包括(comprising)”或“包含(including)”结合使用时,词语“一个(a)”或“一种(an)”可以意指“一个/一种(one)”,但其还与“一个或多个/一种或多种(one or more)”、“至少一个/至少一种”和“一个或多于一个/一种或多于一种(one or more than one)”的含义一致,除非内容另有明确规定。相似地,词语“另一个”可以意指至少第二个或更多个,除非内容另有明确规定。
如本文所使用的术语“耦合(coupled)”、“耦合(coupling)”或“连接(connected)”可以具有若干不同的含义,这取决于使用这些术语的上下文。例如,术语耦合、耦合或连接可以具有机械或电含义。例如,如本文所使用的,术语耦合、耦合或连接可以指示两个元件或装置直接地彼此连接或经由电元件、电信号或机械元件通过一个或多个中间元件或装置彼此连接,这取决于具体上下文。当与项目列表结合使用时,本文中的术语“和/或”意指包括所述列表的项目中的任何一个或多个。
如本文所使用的,提及“约(about)”或“大约(approximately)”一个数字或“基本上”等于一个数字是指在所述数字的+/-10%内。
尽管已经结合具体实施例描述了本公开,但是应当理解,本公开不限于这些实施例,并且在不脱离本公开的范围的情况下,本领域技术人员可以对这些实施例进行变更、修改和变化。
还可以设想的是,本说明书中讨论的任何方面或实施例的任何部分可以被实施或与本说明书中讨论的任何其它方面或实施例的任何部分组合。
权利要求书(按照条约第19条的修改)
1.一种用于使用一个或多个传感器在用户会话期间监测用户并且提供具有针对所述用户会话的活动推荐的接口的***,所述***包括:
非暂时性存储器,所述非暂时性存储器存储活动推荐记录、情绪特征记录以及存储从多个信道接收到的用户数据的用户记录,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;
硬件处理器,所述硬件处理器用接口的可执行指令编程以在一定时间段内获得针对用户会话的用户数据,传输针对所述用户会话的推荐请求并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐;
硬件服务器,所述硬件服务器耦合到所述存储器以访问所述活动推荐记录、所述情绪特征记录和所述用户记录,所述硬件服务器用可执行指令编程,以响应于从所述接口接收到所述推荐请求而通过以下方式通过网络向所述接口传输所述活动推荐:
从所述用户数据中提取所述用户的身体度量和所述用户的认知度量,并且使用针对所述用户会话的所述用户数据和所述用户记录以及多模态特征提取来计算活动度量、认知情感能力度量和社交度量,
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,所述多模态特征提取实施以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,所述多模态特征提取实施语音分析;并且
对于所述文本输入,所述多模态特征提取实施文本分析;
基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态;
使用所述用户的所述身体度量和所述用户的所述认知度量以及所述情绪特征记录,基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态,在所述用户会话的所述时间段期间以一定时间间隔计算所述用户的情绪特征;
监测所述用户在所述时间段期间在所述时间间隔内的所述情绪特征;以及
基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐;以及
用户装置,所述用户装置包括用于在所述时间段期间捕获用户数据的一个或多个传感器;以及传输器,所述传输器用于通过所述网络向所述硬件处理器或所述硬件服务器的所述接口传输所捕获的用户数据以计算所述活动推荐。
2.根据权利要求1所述的***,其中所述非暂时性存储器存储用于生成定义所述用户的身体或行为特性的数据的分类器,并且所述硬件服务器使用所述分类器和通过所述多模态特征提取而提取到的特征来计算所述活动度量、认知情感能力度量和社交度量。
3.根据权利要求1或权利要求2所述的***,其中所述非暂时性存储器存储与所述用户相对应的用户模型,并且所述硬件服务器使用所述用户模型来计算所述用户的所述情绪特征。
4.根据权利要求1到3中任一项所述的***,其中所述用户装置连接到沉浸式硬件装置或与其集成在一起,所述沉浸式硬件装置捕获所述音频数据、所述图像数据和所述定义所述用户的所述身体或行为特性的数据。
5.根据权利要求1到4中任一项所述的***,其中所述非暂时性存储器具有内容储库,并且所述硬件服务器具有内容集展引擎,所述内容集展引擎将所述活动推荐映射到所推荐内容,并且向所述接口传输所述所推荐内容。
6.根据权利要求1到5中任一项所述的***,其中用所述接口的可执行指令编程的所述硬件处理器进一步包括用于传送响应于所述推荐请求而接收到的针对所述用户会话的活动推荐的语音接口。
7.根据权利要求1到6中任一项所述的***,其中所述硬件处理器耦合到存储情绪分类器的存储器,所述情绪分类器捕获所述定义所述用户的身体或行为特性的数据。
8.根据权利要求1到7中任一项所述的***,其进一步包括一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信,以基于所述活动推荐改变外部感官环境,所述一个或多个调制器与所述硬件服务器通信以在所述用户会话期间自动地调制所述用户的所述外部感官环境。
9.根据权利要求8所述的***,其中所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
10.根据权利要求1到9中任一项所述的***,其进一步包括多个用户装置,所述多个用户装置各自具有用于在所述用户会话期间捕获不同类型的用户数据的不同类型的传感器,所述多个装置中的每个装置通过所述网络向所述硬件服务器传输所捕获的不同类型的用户数据以计算所述活动推荐。
11.根据权利要求1到10中任一项所述的***,其进一步包括用于用户群组的多个硬件处理器,每个硬件处理器用对应接口的可执行指令编程以在所述时间段内获得针对所述用户会话的所述用户群组中的对应用户的用户数据,并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐,其中所述硬件服务器响应于从所述多个硬件处理器的所述对应接口接收到所述推荐请求而向所述对应接口传输所述活动推荐,并且计算针对所述用户群组的所述活动推荐。
12.根据权利要求11所述的***,其中所述硬件服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且为具有相似情绪特征的所述用户生成所述活动推荐。
13.根据权利要求1到12中任一项所述的***,其中所述接口能够接收关于针对所述用户会话的所述活动推荐的反馈,向所述硬件服务器传输所述反馈。
14.根据权利要求13所述的***,其中所述接口能够传输针对所述用户会话的另一个推荐请求,并且提供响应于所述另一个推荐请求而接收到的针对所述用户会话的另外的活动推荐。
15.根据权利要求1到14中任一项所述的***,其中所述接口在提供针对所述用户会话的所述活动推荐之后获得另外的用户数据,所述另外的用户数据在由所述用户进行所述活动推荐期间被捕获。
16.根据权利要求1到15中任一项所述的***,其中所述接口传输针对另一个用户会话的另一个推荐请求,并且提供响应于所述另一个推荐请求而接收到的针对所述另一个用户会话的经更新的活动推荐,所述经更新的活动推荐不同于所述活动推荐。
17.根据权利要求1到16中任一项所述的***,其中一个或多个活动推荐包括内容推荐,其中活动与在所述内容推荐中定义的内容相关联以供在所述硬件处理器上显示或回放,其中所述活动是锻炼并且所述内容用作所述锻炼的一部分。
18.根据权利要求1到17中任一项所述的***,其中所述接口是教练应用程序,并且一个或多个所推荐的活动由匹配的教练递送。
19.根据权利要求1到18中任一项所述的***,其中所述活动推荐是选自存储在所述活动推荐记录中的一组类别的预定类别。
20.根据权利要求1到19中任一项所述的***,其中所述活动推荐是针对所述接口的具有各种内容的程序,以引导用户的交互或体验持续延长时间。
21.一种计算机实施的方法,其包括:
在硬件服务器处从多个信道接收与用户相关的用户数据并且将所述用户数据作为用户记录存储在非暂时性存储器中,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;
从所述用户数据中提取所述用户的身体度量和所述用户的认知度量;以及通过使用一个或多个硬件处理器处理所述用户数据来生成活动度量、认知情感能力度量和社交度量,所述一个或多个硬件处理器被配置成通过以下方式处理来自所述多个信道的所述用户数据:
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,使用语音分析;以及
对于所述文本输入,使用文本分析;
基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;
使用所述用户的所述身体度量和所述用户的所述认知度量,基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态,在用户会话的时间段期间以一定时间间隔确定所述用户的情绪特征;
监测所述用户在所述时间段期间在所述时间间隔内的所述情绪特征;
基于所述用户的所述情绪特征和所述活动度量,自动地生成针对用户会话的一个或多个活动推荐;
响应于推荐请求而向硬件处理器处的用户接口传输所述活动推荐;
更新所述硬件处理器处的所述用户接口,以基于用户偏好提供所述活动推荐;以及
响应于所述硬件服务器或接口,在所推荐的活动期间调制外部感官环境的外部感官致动器。
22.根据权利要求21所述的方法,其中所述一个或多个活动推荐包括内容推荐,其中所述活动与在所述内容推荐中定义的内容相关联,其中所述活动是锻炼并且所述内容用作所述锻炼的一部分。
23.根据权利要求21或22所述的方法,其中所述一个或多个活动推荐由匹配的教练递送。
24.根据权利要求21到23中任一项所述的方法,其中所述一个或多个活动推荐是预定类别。
25.根据权利要求21到24中任一项所述的方法,其中所述一个或多个活动推荐是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
26.根据权利要求25所述的方法,其中所述程序包括两个或更多个阶段,每个阶段具有不同的内容、强度或持续时间。
27.根据权利要求21所述的方法,其中所述外部感官致动器的所述调制包括调制以下中的至少一项:声音、照明、气味、温度或气流装置。
28.根据权利要求21到27中任一项所述的方法,其进一步包括:
接收与一个或多个另外的用户相关的用户数据,其中所述用户数据包括以下中的至少一项:与所述一个或多个另外的用户相关的图像数据、与所述一个或多个另外的用户相关的文本输入、与所述一个或多个另外的用户相关的生物特征数据以及与所述一个或多个另外的用户相关的音频数据;
使用以下中的至少一项来处理所述用户数据:面部分析;身体分析;眼跟踪;语音分析;行为分析;社交网络分析;定位分析;用户活动分析;以及文本分析;
基于经处理的用户数据确定所述一个或多个另外的用户的一个或多个认知情感能力的一个或多个状态;
确定所述一个或多个另外的用户中的每个另外的用户的情绪特征;
确定具有相似情绪特征的用户;
预测具有相似情绪特征的用户之间的连接性;以及
生成一个或多个活动推荐,以供传输到具有相似情绪特征的用户的接口。
29.根据权利要求21到28中任一项所述的方法,其进一步包括:
基于所述经处理的用户数据确定所述用户的性格类型,
其中确定所述用户的所述情绪特征进一步基于所述用户的所述性格类型。
30.根据权利要求29所述的方法,其中所述经处理的用户数据包括性格类型数据,并且其中确定所述用户的所述性格类型包括:
将所述性格类型数据与所存储的指示性格类型与性格类型数据之间的相关性的性格类型数据进行比较。
31.根据权利要求21到30中任一项所述的方法,其中所述经处理的用户数据包括认知情感能力数据,并且其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态包括:
将所述认知情感能力数据与所存储的指示认知情感能力的状态与认知情感能力数据之间的相关性的认知情感能力数据进行比较。
32.根据权利要求21到31中任一项所述的方法,其进一步包括:
基于所述经处理的用户数据确定以下中的至少一项:所述用户的一个或多个情绪状态、所述用户的一个或多个注意力状态、所述用户的一个或多个亲社会性状态、所述用户的一个或多个动机状态、所述用户的一个或多个重新评价状态以及所述用户的一个或多个洞察状态,并且
其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态进一步基于以下中的所述至少一项:所述用户的所述一个或多个情绪状态、所述用户的所述一个或多个注意力状态、所述用户的所述一个或多个亲社会性状态、所述用户的所述一个或多个动机状态、所述用户的所述一个或多个重新评价状态以及所述用户的所述一个或多个洞察状态。
33.一种***,其包括:
一个或多个硬件服务器,所述一个或多个硬件服务器具有存储情绪特征与推荐之间的关联的非暂时性存储器;
网络;以及
用户装置,所述用户装置包括一个或多个传感器并且能操作以通过所述网络与所述一个或多个服务器通信,其中所述用户装置被配置成:
使用所述一个或多个传感器以在用户会话的时间段期间接收与用户相关的用户数据,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;以及
通过所述网络向所述一个或多个服务器传输所述用户数据,并且
其中所述一个或多个服务器被配置成:
从所述用户数据中提取所述用户的身体度量和所述用户的认知度量,并且使用一个或多个处理器来生成活动度量、认知情感能力度量和社交度量,所述一个或多个处理器被配置成通过以下方式处理来自所述一个或多个传感器的所述用户数据:
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,使用语音分析;以及
对于所述文本输入,使用文本分析;
基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;
使用所述用户的所述身体度量和所述用户的所述认知度量,基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态,在所述用户会话的所述时间段期间以一定时间间隔确定所述用户的情绪特征;
监测所述用户在所述时间段期间在所述时间间隔内的所述情绪特征;以及
基于所述用户的所述情绪特征和所述活动度量自动地生成一个或多个活动推荐;并且响应于推荐请求而向所述用户装置的接口传输所述活动推荐。
34.根据权利要求33所述的***,其中所述一个或多个活动推荐包括内容推荐,其中活动与在所述内容推荐中定义的内容相关联,其中所述活动是锻炼并且所述内容用作所述锻炼的一部分。
35.根据权利要求33或34所述的***,其中所述一个或多个活动推荐由匹配的教练递送。
36.根据权利要求33到35中任一项所述的***,其中一个或多个所推荐的活动是预定类别。
37.根据权利要求33到36中任一项所述的***,其中所述一个或多个所推荐的活动是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
38.根据权利要求33到37中任一项所述的***,其进一步一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信以改变外部感官环境,所述一个或多个调制器与所述一个或多个服务器通信以在所推荐的活动期间自动地调制所述用户的所述外部感官环境。
39.根据权利要求38所述的***,其中所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
40.根据权利要求33到39中任一项所述的***,其中所述一个或多个服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且向具有相似情绪特征的用户生成一个或多个活动推荐。
Claims (40)
1.一种用于使用一个或多个传感器在用户会话期间监测用户并且提供具有针对所述用户会话的活动推荐的接口的***,所述***包括:
非暂时性存储器,所述非暂时性存储器存储活动推荐记录、情绪特征记录以及存储从多个信道接收到的用户数据的用户记录,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;
硬件处理器,所述硬件处理器用接口的可执行指令编程以在一定时间段内获得针对用户会话的用户数据,传输针对所述用户会话的推荐请求并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐;
硬件服务器,所述硬件服务器耦合到所述存储器以访问所述活动推荐记录、所述情绪特征记录和所述用户记录,所述硬件服务器用可执行指令编程,以响应于从所述接口接收到所述推荐请求而通过以下方式通过网络向所述接口传输所述活动推荐:
使用针对所述用户会话的所述用户数据和所述用户记录以及多模态特征提取,利用分类器来计算活动度量、认知情感能力度量和社交度量,
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,所述多模态特征提取实施以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,所述多模态特征提取实施语音分析;并且
对于所述文本输入,所述多模态特征提取实施文本分析;
基于所述认知情感能力度量和所述社交度量计算所述用户的一个或多个认知情感能力的一个或多个状态;
使用所述情绪特征记录,基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态计算所述用户的情绪特征;以及
基于所述用户的所述情绪特征、所述活动度量、所述活动推荐记录和所述用户记录计算所述活动推荐;以及
用户装置,所述用户装置包括用于在所述时间段期间捕获用户数据的一个或多个传感器;以及传输器,所述传输器用于通过所述网络向所述硬件处理器或所述硬件服务器的所述接口传输所捕获的用户数据以计算所述活动推荐。
2.根据权利要求1所述的***,其中所述非暂时性存储器存储用于生成定义所述用户的身体或行为特性的数据的分类器,并且所述硬件服务器使用所述分类器和通过所述多模态特征提取而提取到的特征来计算所述活动度量、认知情感能力度量和社交度量。
3.根据权利要求1或权利要求2所述的***,其中所述非暂时性存储器存储与所述用户相对应的用户模型,并且所述硬件服务器使用所述用户模型来计算所述用户的所述情绪特征。
4.根据权利要求1到3中任一项所述的***,其中所述用户装置连接到沉浸式硬件装置或与其集成在一起,所述沉浸式硬件装置捕获所述音频数据、所述图像数据和所述定义所述用户的所述身体或行为特性的数据。
5.根据权利要求1到4中任一项所述的***,其中所述非暂时性存储器具有内容储库,并且所述硬件服务器具有内容集展引擎,所述内容集展引擎将所述活动推荐映射到所推荐内容,并且向所述接口传输所述所推荐内容。
6.根据权利要求1到5中任一项所述的***,其中用所述接口的可执行指令编程的所述硬件处理器进一步包括用于传送响应于所述推荐请求而接收到的针对所述用户会话的活动推荐的语音接口。
7.根据权利要求1到6中任一项所述的***,其中所述硬件处理器耦合到存储情绪分类器的存储器,所述情绪分类器捕获所述定义所述用户的身体或行为特性的数据。
8.根据权利要求1到7中任一项所述的***,其进一步包括一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信,以基于所述活动推荐改变外部感官环境,所述一个或多个调制器与所述硬件服务器通信以在所述用户会话期间自动地调制所述用户的所述外部感官环境。
9.根据权利要求8所述的***,其中所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
10.根据权利要求1到9中任一项所述的***,其进一步包括多个用户装置,所述多个用户装置各自具有用于在所述用户会话期间捕获不同类型的用户数据的不同类型的传感器,所述多个装置中的每个装置通过所述网络向所述硬件服务器传输所捕获的不同类型的用户数据以计算所述活动推荐。
11.根据权利要求1到10中任一项所述的***,其进一步包括用于用户群组的多个硬件处理器,每个硬件处理器用对应接口的可执行指令编程以在所述时间段内获得针对所述用户会话的所述用户群组中的对应用户的用户数据,并且提供响应于所述推荐请求而接收到的针对所述用户会话的活动推荐,其中所述硬件服务器响应于从所述多个硬件处理器的所述对应接口接收到所述推荐请求而向所述对应接口传输所述活动推荐,并且计算针对所述用户群组的所述活动推荐。
12.根据权利要求11所述的***,其中所述硬件服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且为具有相似情绪特征的所述用户生成所述活动推荐。
13.根据权利要求1到12中任一项所述的***,其中所述接口能够接收关于针对所述用户会话的所述活动推荐的反馈,向所述硬件服务器传输所述反馈。
14.根据权利要求13所述的***,其中所述接口能够传输针对所述用户会话的另一个推荐请求,并且提供响应于所述另一个推荐请求而接收到的针对所述用户会话的另外的活动推荐。
15.根据权利要求1到14中任一项所述的***,其中所述接口在提供针对所述用户会话的所述活动推荐之后获得另外的用户数据,所述另外的用户数据在由所述用户进行所述活动推荐期间被捕获。
16.根据权利要求1到15中任一项所述的***,其中所述接口传输针对另一个用户会话的另一个推荐请求,并且提供响应于所述另一个推荐请求而接收到的针对所述另一个用户会话的经更新的活动推荐,所述经更新的活动推荐不同于所述活动推荐。
17.根据权利要求1到16中任一项所述的***,其中一个或多个活动推荐包括用于在所述硬件处理器上显示或回放的预定内容。
18.根据权利要求1到17中任一项所述的***,其中所述接口是教练应用程序,并且一个或多个所推荐的活动由匹配的教练递送。
19.根据权利要求1到18中任一项所述的***,其中所述活动推荐是选自存储在所述活动推荐记录中的一组类别的预定类别。
20.根据权利要求1到19中任一项所述的***,其中所述活动推荐是针对所述接口的具有各种内容的程序,以引导用户的交互或体验持续延长时间。
21.一种计算机实施的方法,其包括:
在硬件服务器处从多个信道接收与用户相关的用户数据并且将所述用户数据作为用户记录存储在非暂时性存储器中,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;
通过使用一个或多个硬件处理器处理所述用户数据来生成活动度量、认知情感能力度量和社交度量,所述一个或多个硬件处理器被配置成通过以下方式处理来自所述多个信道的所述用户数据:
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,使用语音分析;以及
对于所述文本输入,使用文本分析;
基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;
基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;
基于所述用户的所述情绪特征和所述活动度量,自动地生成针对用户会话的一个或多个活动推荐;
响应于推荐请求而向硬件处理器处的用户接口传输所述活动推荐;
更新所述硬件处理器处的所述用户接口,以基于用户偏好提供所述活动推荐;以及
响应于所述硬件服务器或接口,在所推荐的活动期间调制外部感官环境的外部感官致动器。
22.根据权利要求21所述的方法,其中所述一个或多个活动推荐包括预定内容。
23.根据权利要求21或22所述的方法,其中所述一个或多个活动推荐由匹配的教练递送。
24.根据权利要求21到23中任一项所述的方法,其中所述一个或多个活动推荐是预定类别。
25.根据权利要求21到24中任一项所述的方法,其中所述一个或多个活动推荐是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
26.根据权利要求25所述的方法,其中所述程序包括两个或更多个阶段,每个阶段具有不同的内容、强度或持续时间。
27.根据权利要求21所述的方法,其中所述外部感官致动器的所述调制包括调制以下中的至少一项:声音、照明、气味、温度或气流装置。
28.根据权利要求21到27中任一项所述的方法,其进一步包括:
接收与一个或多个另外的用户相关的用户数据,其中所述用户数据包括以下中的至少一项:与所述一个或多个另外的用户相关的图像数据、与所述一个或多个另外的用户相关的文本输入、与所述一个或多个另外的用户相关的生物特征数据以及与所述一个或多个另外的用户相关的音频数据;
使用以下中的至少一项来处理所述用户数据:面部分析;身体分析;眼跟踪;语音分析;行为分析;社交网络分析;定位分析;用户活动分析;以及文本分析;
基于经处理的用户数据确定所述一个或多个另外的用户的一个或多个认知情感能力的一个或多个状态;
确定所述一个或多个另外的用户中的每个另外的用户的情绪特征;
确定具有相似情绪特征的用户;
预测具有相似情绪特征的用户之间的连接性;以及
生成一个或多个活动推荐,以供传输到具有相似情绪特征的用户的接口。
29.根据权利要求21到28中任一项所述的方法,其进一步包括:
基于所述经处理的用户数据确定所述用户的性格类型,
其中确定所述用户的所述情绪特征进一步基于所述用户的所述性格类型。
30.根据权利要求29所述的方法,其中所述经处理的用户数据包括性格类型数据,并且其中确定所述用户的所述性格类型包括:
将所述性格类型数据与所存储的指示性格类型与性格类型数据之间的相关性的性格类型数据进行比较。
31.根据权利要求21到30中任一项所述的方法,其中所述经处理的用户数据包括认知情感能力数据,并且其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态包括:
将所述认知情感能力数据与所存储的指示认知情感能力的状态与认知情感能力数据之间的相关性的认知情感能力数据进行比较。
32.根据权利要求21到31中任一项所述的方法,其进一步包括:
基于所述经处理的用户数据确定以下中的至少一项:所述用户的一个或多个情绪状态、所述用户的一个或多个注意力状态、所述用户的一个或多个亲社会性状态、所述用户的一个或多个动机状态、所述用户的一个或多个重新评价状态以及所述用户的一个或多个洞察状态,并且
其中确定所述用户的所述一个或多个认知情感能力的所述一个或多个状态进一步基于以下中的所述至少一项:所述用户的所述一个或多个情绪状态、所述用户的所述一个或多个注意力状态、所述用户的所述一个或多个亲社会性状态、所述用户的所述一个或多个动机状态、所述用户的所述一个或多个重新评价状态以及所述用户的所述一个或多个洞察状态。
33.一种***,其包括:
一个或多个硬件服务器,所述一个或多个硬件服务器具有存储情绪特征与推荐之间的关联的非暂时性存储器;
网络;以及
用户装置,所述用户装置包括一个或多个传感器并且能操作以通过所述网络与所述一个或多个服务器通信,其中所述用户装置被配置成:
使用所述一个或多个传感器以在用户会话的时间段期间接收与用户相关的用户数据,其中所述用户数据包括与所述用户相关的图像数据、与所述用户相关的文本输入、定义所述用户的身体或行为特性的数据以及与所述用户相关的音频数据;以及
通过所述网络向所述一个或多个服务器传输所述用户数据,并且
其中所述一个或多个服务器被配置成:
使用一个或多个处理器来生成活动度量、认知情感能力度量和社交度量,所述一个或多个处理器被配置成通过以下方式处理来自所述一个或多个传感器的所述用户数据:
对于所述图像数据和所述定义所述用户的所述身体或行为特性的数据,使用以下中的至少一项:面部分析;身体分析;眼跟踪;行为分析;社交网络或图形分析;定位分析;用户活动分析;
对于所述音频数据,使用语音分析;以及
对于所述文本输入,使用文本分析;
基于从经处理的用户数据生成的所述认知情感能力度量和社交度量,确定所述用户的一个或多个认知情感能力的一个或多个状态;
基于所述用户的所述一个或多个认知情感能力的所述一个或多个状态确定所述用户的情绪特征;以及
基于所述用户的所述情绪特征和所述活动度量自动地生成一个或多个活动推荐;并且响应于推荐请求而向所述用户装置的接口传输所述活动推荐。
34.根据权利要求33所述的***,其中所述一个或多个活动推荐包括预定内容。
35.根据权利要求33或34所述的***,其中所述一个或多个活动推荐由匹配的教练递送。
36.根据权利要求33到35中任一项所述的***,其中一个或多个所推荐的活动是预定类别。
37.根据权利要求33到36中任一项所述的***,其中所述一个或多个所推荐的活动是具有各种内容的程序,以引导用户的交互或体验持续延长时间。
38.根据权利要求33到37中任一项所述的***,其进一步一个或多个调制器,所述一个或多个调制器与一个或多个环境固定装置通信以改变外部感官环境,所述一个或多个调制器与所述一个或多个服务器通信以在所推荐的活动期间自动地调制所述用户的所述外部感官环境。
39.根据权利要求38所述的***,其中所述一个或多个环境固定装置包括以下中的至少一个:照明固定装置、音频***、香味扩散器、温度调节***。
40.根据权利要求33到39中任一项所述的***,其中所述一个或多个服务器被配置成:确定一个或多个另外的用户的情绪特征;确定具有相似情绪特征的用户;预测具有相似情绪特征的用户之间的连接性;并且向具有相似情绪特征的用户生成一个或多个活动推荐。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962928210P | 2019-10-30 | 2019-10-30 | |
US62/928,210 | 2019-10-30 | ||
US202063052836P | 2020-07-16 | 2020-07-16 | |
US63/052,836 | 2020-07-16 | ||
PCT/CA2020/051454 WO2021081649A1 (en) | 2019-10-30 | 2020-10-29 | Method and system for an interface to provide activity recommendations |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115004308A true CN115004308A (zh) | 2022-09-02 |
Family
ID=75714867
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080089928.5A Pending CN115004308A (zh) | 2019-10-30 | 2020-10-29 | 用于提供活动推荐的接口的方法和*** |
Country Status (5)
Country | Link |
---|---|
US (2) | US20220392625A1 (zh) |
EP (1) | EP4052262A4 (zh) |
CN (1) | CN115004308A (zh) |
CA (1) | CA3157835A1 (zh) |
WO (1) | WO2021081649A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115409535A (zh) * | 2022-07-20 | 2022-11-29 | 南京航空航天大学 | 一种融合多源异构数据的复杂产品感***互绩效评价方法 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3916603A1 (en) * | 2020-05-28 | 2021-12-01 | Koa Health B.V. | Method and system for efficient users' data extraction and users' wellbeing improvement based on users' electronic devices interactions |
US11816678B2 (en) * | 2020-06-26 | 2023-11-14 | Capital One Services, Llc | Systems and methods for providing user emotion information to a customer service provider |
US20220223241A1 (en) * | 2021-01-11 | 2022-07-14 | juli, Inc. | Methods and systems for generating personalized recommendations and predictions of a level of effectiveness of the personalized recommendations for a user |
US12033222B1 (en) * | 2021-03-11 | 2024-07-09 | Wells Fargo Bank, N.A. | Demand prediction based on user input valuation |
WO2022242825A1 (en) * | 2021-05-17 | 2022-11-24 | Etone Motion Analysis Gmbh | Training system and method with emotion assessment |
US20230040444A1 (en) * | 2021-07-07 | 2023-02-09 | Daily Rays Inc. | Systems and methods for modulating data objects to effect state changes |
US20230111167A1 (en) * | 2021-10-13 | 2023-04-13 | Sap Se | Feature sensor efficiency optimization for recommendation system using data envelopment analysis |
US20230140908A1 (en) * | 2021-11-11 | 2023-05-11 | Jayant Nemchand Lokhande | Method for comprehensive management of a health condition |
US11928719B2 (en) * | 2021-12-06 | 2024-03-12 | International Business Machines Corporation | Facilitating user selection using trend-based joint embeddings |
KR102535336B1 (ko) * | 2022-03-29 | 2023-05-26 | 휴젠 지에프씨 아이엔씨 | 사용자 맞춤형 커피 레시피 및 그에 대응하는 커피를 제공하기 위한 방법 및 장치 |
GB202211386D0 (en) * | 2022-08-04 | 2022-09-21 | Tutto Ltd | Devices, methods and artificial intelligence systems to monitor and improve physical, mental and financial health |
CN115862747B (zh) * | 2023-02-27 | 2023-06-30 | 北京航空航天大学 | 一种序列-结构-功能耦合的蛋白质预训练模型构建方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008120043A1 (en) * | 2007-03-29 | 2008-10-09 | Nokia Corporation | Method, apparatus, system, user interface and computer program product for use with managing content |
US8595005B2 (en) * | 2010-05-31 | 2013-11-26 | Simple Emotion, Inc. | System and method for recognizing emotional state from a speech signal |
US10869626B2 (en) * | 2010-06-07 | 2020-12-22 | Affectiva, Inc. | Image analysis for emotional metric evaluation |
US20200342979A1 (en) * | 2010-06-07 | 2020-10-29 | Affectiva, Inc. | Distributed analysis for cognitive state metrics |
WO2015179868A2 (en) * | 2014-05-23 | 2015-11-26 | Dacadoo Ag | Automated health data acquisition, processing and communication system |
US10009644B2 (en) * | 2012-12-04 | 2018-06-26 | Interaxon Inc | System and method for enhancing content using brain-state data |
CA2846919A1 (en) * | 2013-03-21 | 2014-09-21 | Smarteacher Inic. | Emotional intelligence engine for systems |
US12029573B2 (en) * | 2014-04-22 | 2024-07-09 | Interaxon Inc. | System and method for associating music with brain-state data |
DE102015113929A1 (de) * | 2014-08-21 | 2016-02-25 | Affectomatics Ltd. | Bewertung und Benachrichtigungen auf der Grundlage affektiver Reaktionen der Crowd |
US10176025B2 (en) | 2015-02-25 | 2019-01-08 | International Business Machines Corportion | Recommendation for an individual based on a mood of the individual |
WO2016195474A1 (en) * | 2015-05-29 | 2016-12-08 | Charles Vincent Albert | Method for analysing comprehensive state of a subject |
CN105956059A (zh) * | 2016-04-27 | 2016-09-21 | 乐视控股(北京)有限公司 | 基于情绪识别的信息推荐方法和装置 |
WO2018022894A1 (en) * | 2016-07-27 | 2018-02-01 | Biosay, Inc. | Systems and methods for measuring and managing a physiological-emotional state |
US11049137B2 (en) * | 2016-09-15 | 2021-06-29 | Andrey Yurevich Boyarshinov | System and method for human personality diagnostics based on computer perception of observable behavioral manifestations of an individual |
KR102520627B1 (ko) * | 2017-02-01 | 2023-04-12 | 삼성전자주식회사 | 상품을 추천하는 디바이스 및 방법 |
JP6866715B2 (ja) * | 2017-03-22 | 2021-04-28 | カシオ計算機株式会社 | 情報処理装置、感情認識方法、及び、プログラム |
CN108877801B (zh) * | 2018-06-14 | 2020-10-02 | 南京云思创智信息科技有限公司 | 基于多模态情绪识别***的多轮对话语义理解子*** |
US20200334726A1 (en) * | 2019-04-16 | 2020-10-22 | Lovingly, Llc | Dynamically responsive product design |
US20220401689A1 (en) * | 2019-09-24 | 2022-12-22 | Delos Living Llc | Systems and methods for enhancing sleep patterns |
-
2020
- 2020-10-29 US US17/772,663 patent/US20220392625A1/en active Pending
- 2020-10-29 CA CA3157835A patent/CA3157835A1/en active Pending
- 2020-10-29 CN CN202080089928.5A patent/CN115004308A/zh active Pending
- 2020-10-29 WO PCT/CA2020/051454 patent/WO2021081649A1/en unknown
- 2020-10-29 EP EP20882625.5A patent/EP4052262A4/en active Pending
-
2021
- 2021-03-03 US US17/191,515 patent/US20210248656A1/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115409535A (zh) * | 2022-07-20 | 2022-11-29 | 南京航空航天大学 | 一种融合多源异构数据的复杂产品感***互绩效评价方法 |
Also Published As
Publication number | Publication date |
---|---|
US20220392625A1 (en) | 2022-12-08 |
CA3157835A1 (en) | 2021-05-06 |
EP4052262A1 (en) | 2022-09-07 |
US20210248656A1 (en) | 2021-08-12 |
EP4052262A4 (en) | 2023-11-22 |
WO2021081649A1 (en) | 2021-05-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220392625A1 (en) | Method and system for an interface to provide activity recommendations | |
Zucco et al. | Sentiment analysis and affective computing for depression monitoring | |
Oberman et al. | Face to face: Blocking facial mimicry can selectively impair recognition of emotional expressions | |
US10376197B2 (en) | Diagnosing system for consciousness level measurement and method thereof | |
US20180122509A1 (en) | Multilevel Intelligent Interactive Mobile Health System for Behavioral Physiology Self-Regulation in Real-Time | |
US20170004260A1 (en) | Method for providing health therapeutic interventions to a user | |
Nasoz et al. | Emotion recognition from physiological signals using wireless sensors for presence technologies | |
Rizzo et al. | Detection and computational analysis of psychological signals using a virtual human interviewing agent | |
Parsons et al. | Neurocognitive and psychophysiological interfaces for adaptive virtual environments | |
JP2023547875A (ja) | 個人化された認知介入システム及び方法 | |
US20220130539A1 (en) | Method and system for dynamically generating profile-specific therapeutic imagery using machine learning models | |
Hong et al. | Adaptive mobile cloud computing on college physical training education based on virtual reality | |
CN116529750A (zh) | 用于产品个性化或推荐的接口的方法和*** | |
CN116419778A (zh) | 具有交互辅助特征的训练***、训练装置和训练 | |
AU2020231050A1 (en) | Virtual agent team | |
US10820851B2 (en) | Diagnosing system for consciousness level measurement and method thereof | |
US20230099519A1 (en) | Systems and methods for managing stress experienced by users during events | |
CA3233781A1 (en) | Mental health intervention using a virtual environment | |
US11783723B1 (en) | Method and system for music and dance recommendations | |
US20210174933A1 (en) | Social-Emotional Skills Improvement | |
Taheri | Multimodal Multisensor attention modelling | |
Chayleva | Zenth: An Affective Technology for Stress Relief | |
Di Lascio | Sensor-based recognition of engagement during work and learning activities | |
Zepf | Real-Time Emotion-Sensitive User Interfaces | |
WO2023069668A1 (en) | Devices, systems, and methods for monitoring and managing resilience |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |