CN105051492A - 移动终端装置、记录介质以及修正方法 - Google Patents

移动终端装置、记录介质以及修正方法 Download PDF

Info

Publication number
CN105051492A
CN105051492A CN201480017606.4A CN201480017606A CN105051492A CN 105051492 A CN105051492 A CN 105051492A CN 201480017606 A CN201480017606 A CN 201480017606A CN 105051492 A CN105051492 A CN 105051492A
Authority
CN
China
Prior art keywords
walking
mobile terminal
terminal apparatus
angular velocity
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480017606.4A
Other languages
English (en)
Other versions
CN105051492B (zh
Inventor
松本真人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips Corp filed Critical MegaChips Corp
Publication of CN105051492A publication Critical patent/CN105051492A/zh
Application granted granted Critical
Publication of CN105051492B publication Critical patent/CN105051492B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C25/00Manufacturing, calibrating, cleaning, or repairing instruments or devices referred to in the other groups of this subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C22/00Measuring distance traversed on the ground by vehicles, persons, animals or other moving solid bodies, e.g. using odometers, using pedometers
    • G01C22/006Pedometers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/12Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Manufacturing & Machinery (AREA)
  • Telephone Function (AREA)
  • Navigation (AREA)
  • Studio Devices (AREA)
  • Gyroscopes (AREA)

Abstract

本发明在由用户携带的移动终端装置中设有:陀螺仪传感器、加速度传感器、摄像头、矢量计算部、相关度判断部、直行步行判断部、修正部。陀螺仪传感器测定角速度来取得角速度信息。加速度传感器测定加速度来取得加速度信息。摄像头拍摄周围的被拍摄体来取得图像信息。矢量计算部基于该图像信息来计算被拍摄体的动作矢量。相关度判断部根据角速度信息和加速度信息,判断根据用户的步行动作的行进方向与摄像头的拍摄方向的相对关系。直行步行判断部根据计算出的被拍摄体的动作矢量和相关度判断信息,判断用户是否处于直行状态。修正部根据判断为用户处于直行状态,修正由陀螺仪传感器取得的角速度信息。

Description

移动终端装置、记录介质以及修正方法
技术领域
本发明涉及一种对测定与观测对象物(特别是步行者)的运动相关的信息的传感器进行修正(校正)的技术。
背景技术
以往,现有技术中提出一种用于引导步行者至目的地的应用程序。而且,为了准确地引导步行者至目的地,需要实时高精度地掌握步行者的位置。作为测定步行者位置的定位技术,普遍使用通过步行者携带的终端接收来自卫星的无线电波的GPS(GlobalPositioningSystem,全球定位***)技术。但是,在车站大楼、地下商场这样的室内,终端无法接收来自卫星的无线电波,所以无法采用GPS进行定位。因此,作为实现引导室内的步行者的技术,提出使用加速度传感器、角速度传感器或者磁性传感器等自带传感器的相对定位技术。利用自带传感器的相对定位是通过如下方式实现的,例如,利用自带传感器检测步行者的运动,推断行进方向和行进速度,计算步行者的移动矢量,从而实现定位。
但是,自带传感器(特别是,陀螺仪传感器(角速度传感器))的偏置噪声(biasnois)因温度等外部干扰经常发生变化,需要定期地进行校正。如这样的技术记载在例如专利文献1-4中。在专利文献1中记载有如下的一种技术,在该技术中,根据步行者的动作而判断出该步行者处于静止的状态,在该步行者静止的期间内修正陀螺偏置。另外,在专利文献2中记载了一种根据地图推断步行者的行进方向从而修正陀螺仪传感器的技术。另外,在专利文献3中记载了如下的一种技术,在该技术中,根据陀螺仪传感器计算车辆的行进方向,在行进方向的变化量小于或等于阈值的情况下,视为该车辆的行进方向是直线,对该陀螺仪传感器进行修正。进一步地,在专利文献4中记载了一种以从车辆观测的白线或者道路标识为基准来推断车辆位置的技术。
专利文献1:JP再公表2010-001968号公报
专利文献2:JP专利第5059933号公报
专利文献3:JP特开平07-324941号公报
专利文献4:JP专利第4897542号公报
发明内容
发明想要解决的问题
然而,专利文献1中记载的技术存在如下的问题:在步行者静止的期间不足以进行修正的情况下,或者当检测静止状态失败时,会利用错误的值开始进行定位。
另外,步行者并不是经常沿着地图上的道路或者行车线步行,反倒是更普遍地发生有时避让行人、有时横穿道路的状况。因此,专利文献2以及专利文献4中记载的技术存在如下的问题:由于地图上的行进方向未必是步行者的实际行进方向,所以进行了错误的修正。
另外,就步行者的运动而言,不是一直正对着行进方向,而是因脚或者手臂的动作而有较大变动。进一步,步行者的步行动作的行进方向可以说是合成旋转、振动、钟摆运动、上下运动等的局部的复杂运动,而宏观地形成的。因此,专利文献3中记载的技术存在如下的问题:关于宏观地形成的步行者的行进方向,难以决定用于恰当评价该行进方向的变化量的阈值来作为适合检测局部运动的陀螺仪传感器的值。
归根结底,专利文献3以及专利文献4是适用于如车辆这样的无论是局部观察还是宏观观察其运动情况都几乎没有差别的物体的技术,很难将这些技术直接应用于步行者。
用于解决问题的手段
为了解决上述的问题,第1个发明是一种由用户携带的移动终端装置,具有:陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息;加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息;摄像头,拍摄在所述移动终端装置进行移动的期间内的周围的被拍摄体,来取得图像信息;矢量计算单元,基于所述图像信息计算所述被拍摄体的动作矢量;相关度判断单元,根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系;直行步行判断单元,根据由所述矢量计算单元计算出的所述被拍摄体的动作矢量和由所述相关度判断单元判断出的所述相关度关系,判断所述用户是否处于步行动作中的直行状态;修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
另外,第2个发明是在第1个发明的移动终端装置的基础上,所述矢量计算单元,将所述图像信息分割成分别为第一尺寸的多个块,分别将所述多个块分割成小于所述第一尺寸的第二尺寸的多个子块,检测所述多个子块的各自的边缘量,分别将所述多个块中边缘量最大的子块确定为各块的代表子块,通过计算所决定的所述代表子块的动作矢量,来计算所述被拍摄体的动作矢量。
另外,第3个发明是在第2个发明的移动终端装置的基础上,所述矢量计算单元,以所述用户的步行周期为单位,对所述代表子块的动作矢量取平均值,来求出所述被拍摄体的动作矢量。
另外,第4个发明是在第2个发明的移动终端装置的基础上,所述矢量计算单元,在与所述用户的步行周期同步的计算时机,计算所述代表子块的动作矢量。
另外,第5个发明是在第4个发明的移动终端装置的基础上,将所述计算时机决定为所述摄像头的速度最小时。
另外,第6个发明是在第4个发明的移动终端装置的基础上,将所述计算时机决定为所述用户的双脚着地时。
另外,第7个发明是在第2个发明的移动终端装置的基础上,所述摄像头,在与所述用户的步行周期同步的拍摄时机,拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体。
另外,第8个发明是在第7个发明的移动终端装置的基础上,将所述拍摄时机决定为所述摄像头的速度最小时。
另外,第9个发明是在第7个发明的移动终端装置的基础上,将所述拍摄时机决定为所述用户的双脚着地时。
另外,第10个发明是在第3个发明的移动终端装置的基础上,所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
另外,第11个发明是在第4个发明的移动终端装置的基础上,所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
另外,第12个发明是在第1个发明的移动终端装置的基础上,在所述相关度关系中,包含所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的关系。
另外,第13个发明是在第12个发明的移动终端装置的基础上,在所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的情况下,在由所述矢量计算单元求出的所述被拍摄体的动作矢量在图像信息中呈放射状的情况下,所述直行步行判断单元判断为所述用户的步行动作处于直行状态。
另外,第14个发明是一种由用户携带的移动终端装置,具有:陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息;加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息;直行步行判断单元,通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息,与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态;修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
另外,第15个发明是在第14个发明的移动终端装置的基础上,所述直行步行判断单元,按照所述用户的步行动作中的步行周期,与所述图案进行比较。
另外,第16个发明是在第15个发明的移动终端装置的基础上,所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
另外,第17个发明是一种记录计算机可读取的程序的记录介质,通过利用计算机执行所述程序,来使所述计算机执行如下的修正方法,该修正方法包括:利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序;利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序;利用摄像头拍摄所述计算机进行移动的期间内的周围的被拍摄体来取得图像信息的工序;基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序;根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序;根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作的直行状态的工序;在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
另外,第18个发明是一种记录计算机可读取的程序的记录介质,通过利用计算机执行所述程序,来使所述计算机进行如下的修正方法,该修正方法包括:利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序;利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序;通过由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态的工序;在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
另外,第19个发明是一种修正方法,包括:利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序;利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序;利用摄像头拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体来取得图像信息的工序;基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序;根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序;根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作中的直行状态的工序;在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
另外,第20个发明是一种修正方法,包括:学习图案的特征点的工序,该图案是持有移动终端装置的用户的已知的步行动作的图案;利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序;利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序;通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与所述图案的特征点相比较,来判断所述用户是否处于步行动作中的直行状态的工序;在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。。
发明的效果
在第1-13、第17以及第19个发明中,基于图像信息来计算被拍摄体的动作矢量,根据由陀螺仪传感器取得的角速度信息和由加速度传感器取得的加速度信息,来判断用户的步行动作的行进方向与摄像头的拍摄方向的相对关系,根据计算出的被拍摄体的动作矢量和该相关度关系,来判断用户是否处于步行动作中的直行状态,能够高精度地判断用户是否处于步行动作的直行状态。
另外,在第14-16、第18以及第20个发明中,通过将由陀螺仪传感器取得的角速度信息以及由加速度传感器取得的加速度信息与预先被赋予的步行动作的图案相比较,来判断用户是否处于步行动作的直行状态,能够高精度地判断用户是否处于步行动作的直行状态,并且不需要设置摄像头。
附图说明
图1是示出优选实施方式的移动终端装置的图。
图2是优选实施方式的移动终端装置的框图。
图3是将优选实施方式的移动终端装置具有的功能块(block)与数据流一起示出的图。
图4是示出对于优选实施方式的陀螺仪传感器进行修正处理的流程图。
图5是示出优选实施方式的代表子块决定处理的流程图。
图6是示出优选实施方式的代表子块决定处理的流程图。
图7是示出利用矢量计算部得出的分割图像信息的状况的图。
图8是示出利用矢量计算部来分割图7所示的块的状况的图。
图9是示出优选实施方式的直行步行检测处理的流程图。
图10是示出陀螺仪传感器、加速度传感器以及摄像头的坐标系的图。
图11是示出用户的步行动作的坐标系的图。
图12是举例示出人的步行动作的加速度αv、αw以及角速度ωv的图。
图13是将其他优选实施方式的移动终端装置具有的功能块与数据流一起示出的图。
图14是示出利用其他优选实施方式的移动终端装置进行的修正处理的流程图。
图15是示出其他优选实施方式的直行步行检测处理的流程图。
图16是将另外的其他优选实施方式的移动终端装置具有的功能块与数据流一起示出的图。
图17是示出利用另外的其他优选实施方式的移动终端装置进行的修正处理的流程图。
图18是另外的其他优选实施方式的移动终端装置的框图。
图19是将另外的其他优选实施方式的移动终端装置具有的功能块与数据流一起示出的图。
图20是示出利用另外的其他优选实施方式的移动终端装置进行的修正处理的流程图。
附图标记的说明
1、1a、1b、1c移动终端装置
10CPU
100、100a、100b步行周期计算部
101、101a、101b矢量计算部
102相关度判断部
103、103c直行步行判断部
104修正部
11存储装置
110程序
111动作矢量信息
112相关度判断信息
12操作部
13显示部
14陀螺仪传感器
140角速度信息
15加速度传感器
150加速度信息
16、16b摄像头
160图像信息
161、162、163、164块
161a子块
具体实施方式
以下,针对本发明的优选实施方式,参照附图来详细地进行说明。但是,在以下的说明中,除非特别注明的情况以外,为了便于说明,与方向、朝向有关的表述是与附图相对应的,并不限定例如实施品、产品或者权利范围等。
另外,本申请主张2013年3月29日在日本国申请的专利申请号JP2013-072311的优先权,通过援引,将该申请的内容加入本申请中。
图1是示出优选实施方式的移动终端装置1的图。移动终端装置1具有操作部12以及显示部13,是由用户携带的装置。
在以下的说明中,作为步行者的用户的步行动作不区分该用户是在走还是在跑。另外,步行动作中的“一步”是指,从人开始抬起单脚,向前迈出这只脚,这只脚到达地面,直到开始抬起下一只脚为止的动作。另外,“一复式步”是指,包含左右各一步动作的动作。进一步地,“一个复式步时间”是指一复式步所花的时间。
操作部12是用户为了赋予移动终端装置1指示而操作的硬件。作为操作部12,例如,适于各种按钮类或者按键、旋转式选择器、触摸面板等。
显示部13是具有通过对用户显示各种信息来提供信息的功能的硬件。作为显示部13,例如,适于灯或者LED、液晶面板、液晶显示器、有机EL显示器等。
图2是优选实施方式的移动终端装置1的框图。移动终端装置1除了已经说明的操作部12以及显示部13以外,还具有:CPU10、存储装置11、陀螺仪传感器14、加速度传感器15以及摄像头16。
CPU10读取在存储装置11中保存的程序110,进行各种数据的计算或者控制信号的生成等。通过这样,CPU10具有如下的功能:控制移动终端装置1所具有的各结构,并且计算并创建各种数据。即,移动终端装置1是一般的计算机。
存储装置11提供在移动终端装置1中存储各种数据的功能。换言之,存储装置11保存在移动终端装置1中以电子方式固定的信息。特别是,优选实施方式的存储装置11用于存储程序110。
作为存储装置11,适于用作CPU10的暂时工作区的RAM或者缓存器、只读的ROM、非易失性存储器(例如NAND存储器等)、存储比较大容量的数据的硬盘、安装于专用读取装置的便携式存储介质(PC卡、SD卡、USB存储器等)等。在图2中,以好像存储装置11是一个结构物的方式进行图示。但是,通常,存储装置11由根据需要采用的上述例示的各种装置(或者介质)中的多种装置构成。即,在优选实施方式中,存储装置11是具有存储数据的功能的装置组的总称。
另外,实际的CPU10是内部具有能够高速访问的RAM的电子电路。但是,为了便于说明,这样的CPU10具有的存储装置也被包含在存储装置11中进行说明。即,在优选实施方式中,将CPU10本身暂时存储的数据也当作是存储装置11存储的数据来进行说明。
陀螺仪传感器14测定移动终端装置1移动的角速度,取得角速度信息140(参照图3)。在以下的说明中,将陀螺仪传感器14取得角速度信息140的周期(采样周期)称为“Ts”。
加速度传感器15测定移动终端装置1的移动的加速度,取得加速度信息150(参照图3)。
尽管详细情况未图示,但是摄像头16具有:透镜或者反射镜等光学元件、CCD等光电转换元件,并构成为一般的数码摄像头。摄像头16至少拍摄移动终端装置1正在移动期间内的其周围的被拍摄体,取得图像信息160(参照图3)。
摄像头16根据来自CPU10的控制信号,在规定的拍摄时机进行拍摄。优选实施方式的摄像头16以拍摄周期“Tc”进行拍摄,取得新的图像信息160。
图3是将优选实施方式的移动终端装置1具有的功能块与数据流一起示出的图。图中所示的步行周期计算部100、矢量计算部101、相关度判断部102、直行步行判断部103以及修正部104是通过CPU10按照程序110进行工作来实现的功能块。
步行周期计算部100参照角速度信息140以及加速度信息150,决定用户(步行者)的步行动作的步行周期。步行周期计算部100将决定的步行周期传递至矢量计算部101以及修正部104。另外,详细情况后述,步行周期计算部100还具有:将用户的行进方向传递至相关度判断部102的功能。
矢量计算部101具有:基于图像信息160计算图像信息160中的被拍摄体的动作矢量,创建动作矢量信息111的功能。以下,将矢量计算部101计算动作矢量的间隔称为计算间隔“Tv”。比较相隔计算间隔Tv而拍摄的两张静止图像(图像信息160)来计算动作矢量。因此,计算间隔是拍摄间隔的整数倍,Tv=n×Tc(n是自然数。)。
此外,严格地讲,此处所谓的“图像信息160中的被拍摄体的动作矢量”是指如下的两个动作矢量的合成矢量,这两个动作矢量分别是:因移动终端装置1随着用户的动作而运动,导致产生的明显的被拍摄体的运动的动作矢量;因被拍摄体本身的运动导致产生的动作矢量。但是,在以下的说明中,将被拍摄体当作是静止的来处理,忽略因被拍摄体本身的运动导致产生的动作矢量。另外,在优选实施方式中,矢量计算部101将从步行周期计算部100传递来的步行周期包含在动作矢量信息111中。
相关度判断部102根据由陀螺仪传感器14取得的角速度信息140和由加速度传感器15取得的加速度信息150,判断由用户的步行动作决定的行进方向与摄像头16的拍摄方向的相对关系对关系。其中,详细情况后述,优选实施方式的相关度判断部102使用如下的行进方向,该行进方向是步行周期计算部100在基于角速度信息140和加速度信息150来计算步行周期的过程中求出的。
将来自相关度判断部102的判断结果存储为相关度判断信息112。
直行步行判断部103根据由矢量计算部101计算出的动作矢量信息111和由相关度判断部102判断出的相关度关系(相关度判断信息112),判断用户是否处于步行动作的直行状态。
修正部104具有如下功能:根据由直行步行判断部103判断出用户处于步行状态的直行状态(这一事件),修正陀螺仪传感器14的偏置值(bv)。另外,修正部104还具有如下功能:以追溯过去的方式修正已经取得的角速度信息140。
以上是优选实施方式的移动终端装置1的结构以及功能的说明。以下,说明在移动终端装置1中修正来自陀螺仪传感器14的测定值即角速度信息140的修正方法。
图4是示出对优选实施方式的陀螺仪传感器14进行的修正处理的流程图。
此外,移动终端装置1也可以以与图4所示的处理并行或者共用一部分处理的方式进行其他的处理。其他的处理例如是指,确定用户位置的定位处理、使用定位处理的结果的目的地导航处理、路径记录处理等。
另外,在开始进行图4所示的处理之前,移动终端装置1进行规定的初始设定。在初始设定中包括:将测定计时器设置为Ts并起动的处理,该测定计时器用于计测利用陀螺仪传感器14以及加速度传感器15进行测定的测定时机;将用于计测利用摄像头16进行拍摄的拍摄时机的拍摄计时器设置为Tc并起动的处理,但是不起动计算计时器。这是因为,必须在取得至少一张图像信息160而决定后述的代表子块之后,才能够进行计算动作矢量的处理。
另外,在初始设定中包括:设定陀螺仪传感器14的偏置值(bv)的初始值的处理、决定移动终端装置1的姿势(处理开始时的姿势)的处理。作为决定移动终端装置1的初始姿势的方法,设想有如下方法:用户操作移动终端装置1的操作部12,来输入姿势的方法;根据未图示的磁性传感器的输出来决定姿势的方法等。
当初始设定结束时,移动终端装置1进入对测定计时器、拍摄计时器、计算计时器进行监视的状态(步骤S1、S5、S11)。在以下的说明中将这种状态称为“监视状态”。但是,在监视状态下,移动终端装置1也可以进行除了步骤S1、S5、S11以外的其他的处理。
在监视状态下,当测定计时器变为0,测定时机到来时,CPU10在步骤S1中判断为“是(Yes)”,一边将测定计时器重置为Ts(步骤S2),一边分别读出陀螺仪传感器14以及加速度传感器15的值。通过这样,进行与移动终端装置1的运动有关的角速度以及加速度的测定(步骤S3)。
此外,若偏置值bv尚未修正(后述),则基于偏置值bv的初始值来取得在步骤S3中读出的陀螺仪传感器14的值。另一方面,在偏置值bv被修正之后,取得利用修正后的偏置值bv的值来修正过的(上述在步骤S3中读出的陀螺仪传感器14的)值。
以下,CPU10基于读出的陀螺仪传感器14的值以及加速度传感器15的值,创建角速度信息140以及加速度信息150,并将它们记录于存储装置11中(步骤S4)。此外,在优选实施方式中,角速度信息140以及加速度信息150并不改写过去的记录,而是按照取得顺序作为历史数据进行记录。
这样,移动终端装置1每当测定计时器的值变为0,就在步骤S1中判断为“是(Yes)”,进行步骤S2-S4的处理。因此,移动终端装置1每隔测定周期Ts测定角速度以及加速度。此外,当进行步骤S4时,移动终端装置1再次返回至监视状态。
在监视状态下,当拍摄计时器变为0,拍摄时机到来时,CPU10在步骤S5中判断为“是(Yes)”,以一边将拍摄计时器重置为Tc(步骤S6),一边拍摄周围的被拍摄体的方式控制摄像头16。通过这样,摄像头16进行拍摄(步骤S7),创建图像信息160并将其记录于存储装置11中。此外,在步骤S7的处理中不删除或者改写图像信息160。即,图像信息160按照拍摄顺序被记录下来。
当进行拍摄,重新记录图像信息160时,CPU10判断用于计测计算时机的计算计时器是否被起动(步骤S8)。在未起动计算计时器的情况下,CPU10将计算计时器设置为Tv并起动(步骤S9),进行代表子块决定处理(步骤S10)。另一方面,在已经起动了计算计时器的情况下,跳过步骤S9、S10,返回至监视状态。
图5以及图6是示出优选实施方式的代表子块决定处理的流程图。
当开始进行代表子块决定处理时,首先,矢量计算部101取得最新的图像信息160并将其分割成多个块(步骤S21)。
图7是示出利用矢量计算部101分割图像信息160的状况的图。在图7中举例示出当用户行进在两侧配置有陈列商品用的架子的通道上时,拍摄到的周围的被拍摄体(图像信息160)。
在步骤S21中,矢量计算部101将图像信息160分割成分别为第一尺寸的多个块。各块相当于图像信息160的局部图像。在图7所示的例子中,图像信息160被分割成块161、162、163、164这4个块。
以下,矢量计算部101将块计数器i的值重置为“1”(步骤S22)。块计数器i是指用于识别处理中的块的计数器。如图7所示,由于优选实施方式的矢量计算部101将图像信息160分割成4个块,所以块计数器i的值是“1”-“4”的整数。
以下,矢量计算部101将块计数器i表示的第i个块进一步分割成子块(步骤S23)。
图8是示出矢量计算部101分割图7所示的块161的状况的图。此外,在图8中放大示出图7所示的块161。
在步骤S23中,矢量计算部101将第i个块分割成小于第一尺寸的第二尺寸的多个子块。各子块相当于图像信息160的局部图像。在图8所示的例子中,块161被分割成54个子块。
当进行步骤S23时,矢量计算部101将最大边缘量的值重置为“0”,并且将子块计数器j的值重置为“1”(步骤S24)。最大边缘量是指如下的变量,该变量事先暂时保存有在处理中的块中包含的子块的最大边缘量。另外,子块计数器j是指用于识别处理中的子块的计数器。图8所示,由于矢量计算部101将1个块分割成54个子块,所以子块计数器j的值是“1”-“54”的整数。
以下,矢量计算部101计算在步骤S23中分割出的多个子块中的由子块计数量器j表示的第j个子块的边缘量(步骤S31),判断所求出的第j个子块的边缘量是否大于最大边缘量(步骤S32)。
在步骤S32中判断为“是(Yes)”的情况下,矢量计算部101重新以第j个边缘量的值作为最大边缘量(步骤S33),将“j”设置为用于识别第i个块中的代表子块的识别码SBi(步骤S34)。即,在第j个子块的边缘量大于从第1个到第j-1个子块的边缘量的情况下,将第j个子块的边缘量保存为最大边缘量,将“j”保存为识别码SBi。
另一方面,在步骤S32中判断为“否(No)”的情况下,由于矢量计算部101不必将第j个子块决定为代表子块,所以跳过步骤S33、S34的处理。
以下,矢量计算部101针对第i个块,判断与全部的子块有关的边缘量的计算和评价是否都已结束(步骤S35)。例如,在优选实施方式中,由于第i个块中的子块的数量是54个,所以在步骤S35中只要判断是否j≥54即可。
在步骤S35中判断为“否(No)”的情况下(针对全部的子块的计算和评价尚未完全结束的情况),矢量计算部101使j的值递增(步骤S36),重复进行从步骤S31开始的处理。即,继续进行针对第i个块的下一个子块的处理。
另一方面,在步骤S35中判断为“是(Yes)”的情况下(针对全部的子块的计算和评价都已结束的情况),矢量计算部101将最大边缘量的值重置为“0”(步骤S37),结束针对第i个块的处理。即,根据识别码SBi表示的子块来决定第i个块的代表子块。
以下,矢量计算部101针对全部的块,判断代表子块的决定是否都已结束(步骤S38)。例如,在优选实施方式中,由于块的数量是4个,所以在步骤S38中只要判断是否i≥4即可。
在步骤S38中判断为“否(No)”的情况下(针对全部的块的代表子块的决定尚未全部结束的情况),矢量计算部101使i的值递增(步骤S39),重复进行从步骤S23开始的处理。即,继续进行针对下一个块的处理。
在步骤S38中判断为“是(Yes)”的情况下(针对全部的块的代表子块的决定都已结束的情况),矢量计算部101结束代表子块决定处理,返回至图4的处理。
通过这种方式,矢量计算部101检测多个子块各自的边缘量,分别将多个块中边缘量最大的子块决定为各块的代表子块。在图8所示的例子中,将包含陈列架子的角部的子块161a决定为块161中的代表子块。此外,虽然在图8中未示出,但是分别从块162、163、164中将边缘量最大的子块决定为代表子块。
移动终端装置1想要基于代表子块的动作矢量,检测移动终端装置1的运动。然后,在计算动作矢量方面,优选提取图像中的边缘量较多的部分(子块)进行计算。
如上所述,优选实施方式的矢量计算部101将将该块内的边缘量最大的子块决定为各块中的代表子块。因此,能够高精度地计算动作矢量。
另一方面,为了根据计算出的动作矢量来推断移动终端装置1的运动(用户的运动),计算出的动作矢量在图像信息160中的位置优选为分散的。即,优选地,从图像信息160内的各种各样的位置选择代表子块。
如上所述,就优选实施方式的矢量计算部101而言,通过将图像信息160中的一张静止图像暂时分割成4个块,分别从各块中决定代表子块,能够避免成为动作矢量的计算对象的子块在图像信息160内仅存在于局部。因此,在后述的处理中,能够准确地判断用户的行进方向是否是直行状态。
返回至图4,在监视状态下,当计算计时器变为0,计算时机到来时,CPU10在步骤S11中判断为“是(Yes)”,一边将计算计时器重置为Tv(步骤S12),一边进行直行步行检测处理(步骤S13)。
图9是示出优选实施方式的直行步行检测处理的流程图。
当开始进行直行步行检测处理时,直行步行判断部103将表示用户的步行动作是否是直行步行的直行标志重置为“关闭(OFF)”(步骤S41)。
以下,矢量计算部101求出在如下的期间内的各个代表子块的动作矢量(步骤S42),该期间是指,从确定出最新的图像信息160中的各代表子块的位置从而决定出代表子块开始(从拍摄了已决定代表子块的图像信息160开始),直到拍摄该最新的图像信息160为止的期间。
此外,从决定代表子块开始到拍摄最新的图像信息160为止的期间是由计算计时器管理的计算周期Tv。即,在步骤S42中计算在Tv的期间内的动作矢量。但是,在相对于计算周期Tv而拍摄周期Tc可以视为是离散的情况下,该期间是n×Tc(其中,n×Tc≤Tv<(n+1)×Tc)。
以下,步行周期计算部100求出用户的步行动作的步行周期。
图10是示出陀螺仪传感器14、加速度传感器15以及摄像头16的坐标系的图。在移动终端装置1中,陀螺仪传感器14、加速度传感器15以及摄像头16中的任一者都是固定的。因此,即使移动终端装置1的姿势发生变化,陀螺仪传感器14、加速度传感器15以及摄像头16的相对的位置关系也不发生变化。
如图10所示,在优选实施方式的移动终端装置1中以摄像头16的拍摄方向作为X轴。以使3条轴的加速度传感器15的轴中的一个与X轴相一致的方式配置加速度传感器15,并且分别以其他的两条轴作为Y轴和Z轴。通过这样,加速度传感器15的输出分为X轴方向的加速度αx、Y轴方向的加速度αy、Z轴方向的加速度αz。
以下,以使用于测定围绕3条轴的角速度的陀螺仪传感器14的3条轴分别与X轴、Y轴、Z轴相一致的方式,配置陀螺仪传感器14。通过这样,陀螺仪传感器14的输出分为围绕X轴的角速度ωx、围绕Y轴的角速度ωy、围绕Z轴的角速度ωz。
此外,即使无法进行如这样配置,由于陀螺仪传感器14、加速度传感器15以及摄像头16的相对的位置关系(已知)不发生变化,所以基于已知的位置关系,能够将陀螺仪传感器14以及加速度传感器15的输出值转换为分别与X轴、Y轴以及Z轴的对应的值。
图11是示出用户的步行动作的坐标系的图。如图11所示,以与重力的朝向相反的方向作为V轴,以用户的行进方向作为W轴。此处,将用户的行进方向定义于水平面内,与V轴和W轴相互垂直。进一步地,以与W轴以及V轴相垂直的轴作为S轴。
首先,步行周期计算部100使用现有技术的卡尔曼滤波器,基于加速度信息150推断重力方向矢量。将通过这种方式推断出的重力方向矢量的相反方向决定为V轴。
当决定了V轴时,步行周期计算部100旋转Z轴,以使得使Z轴与V轴一致,取得此时的旋转角θ1。接下来,在使Z与V轴一致的状态(仅使Z轴旋转角度θ1的状态)下,一边围绕该Z轴旋转360°,一边计算αy以及αz。一般地,人的步行动作的特性在于,W轴方向(行进方向)的加速度较大,S轴方向(相对于行进方向的左右方向)的加速度较小。因此,在围绕该Z轴旋转360°的过程中,决定出αz最大且αy最小的旋转角θ2,将此时的X轴以及Y轴分别决定为W轴以及S轴。
通过使用通过这种方式求出的旋转角θ1、θ2,步行周期计算部100能够将XYZ坐标系的输出值转换至WSV坐标系。即,能够根据加速度αx、αy、αz,求出W轴方向的加速度αw、S轴方向的加速度αs以及V轴方向的加速度αv。同样地,能够根据角速度ωx、ωy、ωz,求出围绕W轴的角速度ωw、围绕S轴的角速度ωs以及围绕V轴的角速度ωv。
图12是举例示出人的步行动作的加速度αv、αw以及角速度ωv的图。
根据图12可知,虽然加速度αv、αw是在一步周期内的,但是角速度ωv是在一复式步周期内的。因此,可以说采用一复式步周期作为步行动作的周期是较适当的。
另外,也可知,由于角速度ωv产生的变化比较复杂,所以为了决定步行周期,使用加速度αv或者加速度αw更好。例如,从加速度αw取极小值开始到进一步第二次取极小值为止的期间是一个复式步时间,即是步行周期。
这样,在步骤S43中,步行周期计算部100基于角速度信息140以及加速度信息150来决定步行周期。此外,极小值的检测能够采用例如零交叉法。
当求出了步行周期时,步行周期计算部100将求出的步行周期传递至矢量计算部101。然后,矢量计算部101对在步骤S42中求出的动作矢量,以步行周期为单位来取平均值(步骤S44),并将该平均值作为被拍摄体的动作矢量。通过这种方式,矢量计算部101通过求出被拍摄体的动作矢量,能够避免因除了朝向行进方向的运动以外的运动引起的影响。
以下,相关度判断部102求出用户的行进方向(步骤S45)。在优选实施方式中,在进行步骤S43的时间点,由步行周期计算部100决定将W轴方向作为行进方向。因此,优选实施方式的相关度判断部102在步骤S45中,不必重新根据角速度信息140以及加速度信息150求出行进方向,而是使用从步行周期计算部100传递过来的W轴方向。
当进行步骤S45时,相关度判断部102根据X轴(摄像头16的方向)与W轴(行进方向)之间的关系,判断摄像头16是否正对着行进方向(步骤S46),将判断结果作为相关度判断信息112保存于存储装置11。直行步行判断部103参照相关度判断信息112。
在步骤S46中判断为“是(Yes)”的情况下,直行步行判断部103判断在步骤S44中由矢量计算部101求出的被拍摄体的动作矢量是否从图像信息160的中央附近呈放射状(步骤S47)。然后,在呈放射状的情况下(在步骤S47中判断为“是(Yes)”。),判断为用户的步行动作处于直行状态,将直行标志设置为“开启(ON)”(步骤S49)之后,结束直行步行检测处理。在不呈放射状的情况下(在步骤S47中判断为“否(No)”。),判断为用户的步行动作不处于直行状态,保持直行标志“关闭(OFF)”并结束直行步行检测处理。
另一方面,在步骤S46中判断为“否(No)”的情况下,直行步行判断部103判断在步骤S44中由矢量计算部101求出的被拍摄体的动作矢量是否与行进方向反向,且,在步行动作不发生变化的期间内大小大致恒定(步骤S48)。然后,在步骤S48中判断为“是(Yes)”的情况下,直行步行判断部103判断为用户的步行动作处于直行状态,在将直行标志设置为“开启(ON)”(步骤S49)之后,结束直行步行检测处理。在步骤S48中判断为“否(No)”的情况下,直行步行判断部103判断为用户的步行动作不处于直行状态,保持直行标志“关闭(OFF)”并结束直行步行检测处理。
通过这样,当直行步行检测处理结束时,检测出用户的步行动作是否处于直行状态,并保存为直行标志的状态。
返回至图4,当直行步行检测处理结束时,直行步行判断部103将直行标志的状态传递至修正部104。然后,通过这样修正部104判断用户的步行状态是否是直行状态(步骤S14)。
在直行状态的情况下(在步骤S14中判断为“是(Yes)”。),修正部104修正陀螺仪传感器14的偏置值(步骤S15)。
说明在步骤S15中修正部104修正陀螺仪传感器14的偏置值的原理。此外,在定位作为步行者的用户的情况下,不需要考虑用户围绕W轴以及围绕S轴的角速度ωw、ωs。因此,此处,针对修正围绕V轴的角速度ωv(影响行进方向。)的例子进行说明。
如图12所示,将一个复式步周期内的角速度ωv作为用于决定行进方向的基础。因此,修正部104首先求出每一个复式步的行进方向的变化量(ΔW)。ΔW能够作为ωv在一个复式步时间(即步行周期)的积分值,通过ΔW=Σ(ωv-bv)求出。
以下,修正部104通过ωv(ave)=ΔW/(步行周期/Ts)求出每一个测定周期Ts的ωv的平均值ωv(ave)。然后,进一步地,将bv+ωv(ave)作为新的偏置值bv来更新并修正偏置值bv。
通过这种方式,在用户的步行动作处于直行状态的情况下(在步骤S14中判断为“是(Yes)”。),进行步骤S15,利用修正部104修正陀螺仪传感器14的偏置值bv。因此,以后,修正从陀螺仪传感器14输出的角速度信息140。
此外,优选地,在为了进行定位处理或者路径记录处理而记录有行进方向的情况下,在直行步行判断部103判断为用户的步行动作处于直行状态的期间,不参照角速度信息140或者加速度信息150,将行进方向的变化量记录为“0”。
另一方面,在步骤S14中判断为“否(No)”的情况下(用户的步行动作不处于直行状态的情况),修正部104跳过步骤S15,不进行陀螺仪传感器14的偏置值bv的修正。因此,在为了进行定位处理或者路径记录处理而记录有行进方向的情况下,基于角速度信息140或者加速度信息150来记录行进方向。但是,也可以通过与步骤S15同样的计算来求出ΔW,通过将该ΔW相加来计算行进方向。
当在步骤S14中判断为“否(No)”,或者,进行步骤S15时,矢量计算部101为了决定新的代表子块,进行代表子块决定处理(步骤S16)。此外,由于在步骤S16中的代表子块决定处理能够与步骤S10同样地进行,所以省略说明。
当进行步骤S16时,移动终端装置1再次返回监视状态。
如上述,优选实施方式的移动终端装置1具有:陀螺仪传感器14、加速度传感器15、摄像头16、矢量计算部101、相关度判断部102、直行步行判断部103、修正部104。陀螺仪传感器14测定移动终端装置1的移动的角速度来取得角速度信息140。加速度传感器15测定移动终端装置1的移动的加速度来取得加速度信息150。摄像头16拍摄移动终端装置1正在移动的期间的周围的被拍摄体来取得图像信息160。矢量计算部101计算基于图像信息160被拍摄体的动作矢量信息111。相关度判断部102根据由陀螺仪传感器14取得的角速度信息140和由加速度传感器15取得的加速度信息150,判断根据用户的步行动作的行进方向与摄像头的拍摄方向之间的相对关系。直行步行判断部103根据由矢量计算部101计算出的被拍摄体的动作矢量信息111和由相关度判断部102判断出的相关度关系,判断用户是否处于步行动作的直行状态。修正部104根据由直行步行判断部103判断出用户处于步行状态的直行状态,修正由陀螺仪传感器14取得的角速度信息140。通过这样,能够高精度地判断用户是否处于步行动作的直行状态。因此,能够高精度地实现陀螺仪传感器14的修正。
另外,矢量计算部101,通过将图像信息160分割成分别为第一尺寸的多个块,将多个块分割成分别为小于第一尺寸的第二尺寸的多个子块,检测多个子块各自的边缘量,分别将在多个块中的边缘量最大的子块决定为各块的代表子块,计算决定的代表子块的动作矢量,来计算被拍摄体的动作矢量信息111。通过这样,能够避免成为动作矢量信息111的计算对象的子块在图像信息内仅存在于局部。因此,能够准确地判断步行者的行进方向是否处于直行状态。
另外,矢量计算部101,通过对代表子块的动作矢量在用户的步行周期单位内取平均值,求出被拍摄体的动作矢量信息111。因此,能够抑制因除了向行进方向的运动以外的运动导致的影响。
另外,通过在用户的步行动作中,根据该用户的左右脚分别各前进一步的时间(一个复式步时间)决定步行周期,能够以围绕V轴的角速度ωv的周期单位进行处理,精度提高。
通过将摄像头16的拍摄方向与根据用户的步行动作的行进方向正对的关系包含在由相关度判断部102进行判断的相关度关系中,能够容易地判断直行状态。
在摄像头16的拍摄方向与根据用户的步行动作的行进方向正对的情况下,直行步行判断部103在由矢量计算部101求出的被拍摄体的动作矢量在图像信息160中呈放射状的情况下,判断为该用户的步行动作处于直行状态。通过这样,能够高效地判断直行状态。
此外,当针对各块决定代表子块时,也可以仅记录图像信息160的部分图像即各代表子块,删除该图像信息160,或者,当取得新的图像信息160时进行改写。通过这样,能够限制应该事先存储的信息的容量。
另外,还考虑到当在图像信息160中决定位于周边部的子块作为代表子块时,与该代表子块相当的被拍摄体因用户的运动而导致脱离拍摄范围。在这种情况下,有可能无法求出动作矢量。因此,在决定代表子块的情况下,也可以将位于图像信息160的周边部的子块排除在候选之外。或者,进一步地,也可以根据预测的用户的运动(方向或者速度)来决定将哪个位置的子块排除在候选之外。
针对优选实施方式的移动终端装置1,已说明了通过对代表子块的动作矢量在步行周期内取平均值,来避免因除了行进方向的运动以外的运动导致的影响。但是,避免因除了行进方向的运动以外的运动导致的影响的方法并不仅限定于此。
图13是将其他优选实施方式的移动终端装置1a具有的功能块与数据流一起示出的图。此外,在其他优选实施方式的移动终端装置1a中,针对与优选实施方式的移动终端装置1同样的结构标记相同的附图标记,适当省略说明。
如图13所示,移动终端装置1a在如下的两点与移动终端装置1不同,这两个不同点是:具有步行周期计算部100a来取代步行周期计算部100,具有矢量计算部101a来取代矢量计算部101。
步行周期计算部100a不计算步行周期,而是计算出计算时机并将其传递至矢量计算部101a。
矢量计算部101a不对代表子块的动作矢量在步行周期内取平均值,而是将被拍摄体的动作矢量按照原样创建为动作矢量信息111。另外,利用矢量计算部101a的计算时机不是由计算计时器决定的,而是由步行周期计算部100通知的。
图14是示出利用其他优选实施方式的移动终端装置1a进行修正处理的流程图。
其他优选实施方式的移动终端装置1a进行与优选实施方式的移动终端装置1同样的初始设定之后,进入监视状态。另外,在监视状态下,移动终端装置1a监视测定时机的到来、拍摄时机的到来、计算时机的到来(步骤S51、S55、S60)。
在监视状态下,当在初始设定中起动的测定计时器Ts变为0时,移动终端装置1a在步骤S51中判断为“是(Yes)”,进行步骤S52-S54的处理。此外,由于步骤S52-S54的处理与优选实施方式的步骤S2-S4的处理是同样的,所以省略说明。
在监视状态下,当在初始状态下起动的拍摄计时器Tc变为0时,移动终端装置1a在步骤S55中判断为“是(Yes)”,进行步骤S56、S57的处理。此外,由于步骤S56、S57的处理与优选实施方式的步骤S6、S7的处理是同样的,所以省略说明。
当进行步骤S57时,矢量计算部101a判断是否已经决定了代表子块(步骤S58)。然后,在尚未决定代表子块的情况下,在进行代表子块决定处理(步骤S59)之后返回监视状态。另一方面,在已经决定了代表子块的情况下,跳过步骤S59,返回监视状态。此外,由于步骤S59的代表子块决定处理与优选实施方式的步骤S10的处理是同样的,所以省略说明。
此外,在移动终端装置1a中没有设置相当于计算计时器Tv的结构,不必进行起动计算计时器Tv的处理(相当于步骤S9的处理)。
在监视状态下,当计算时机到来时,CPU10在步骤S60中判断为“是(Yes)”。在优选实施方式中,参照计算计时器的值来判断计算时机是否到来。但是,在其他优选实施方式中,由于没有设置计算计时器,所以无法根据计算计时器的值来进行步骤S60的判断。
如到目前为止说明的那样,步行动作在每一个步行周期都重复相同的步行状态。因此,若比较当处于相同的状态时拍摄的图像信息160,则能够高效率地消除掉除了行进方向的运动以外的运动。即,若以计算时机在每个步行周期到来的方式使计算时机与步行周期同步,则能够避免因除了行进方向的运动以外的运动导致的影响。
另外,在图像信息160中进行边缘量检测处理来计算动作矢量的情况下,优选该图像信息160中相机抖动少的。相机抖动主要是因摄像头16运动产生的,摄像头16的运动的速度越大相机抖动就越大。因此,移动终端装置1a当摄像头16的速度最小时,判断为计算时机到来。通过这样,在由摄像头16拍摄的图像信息160中,能够根据相机抖动最少的状态下的图像信息160来计算动作矢量,提高了精度。此外,能够基于加速度αw、αs、αv来决定摄像头16的速度变得最小的时机。
根据以上所述,矢量计算部101a在每一个步行周期到来的摄像头16的速度变得最小的时机,判断为计算时机到来,在步骤S60中判断为“是(Yes)”。利用步行周期计算部100a检测出如这样的时机并将其传递至矢量计算部101a。
其他优选实施方式的步行周期计算部100a在步骤S60中能够与优选实施方式的步骤S43(图9)同样地求出步行周期。另外,在步骤S60中求出步行周期的过程中,由于求出加速度αw、αs、αv,所以摄像头16的速度变为最小的时机也能够基于该加速度αw、αs、αv来决定,并将摄像头16的速度变为最小的该时机传递至矢量计算部101a。通过这种方式,其他优选实施方式的移动终端装置1a检测到计算时机的到来。
当在步骤S60中判断为“是(Yes)”时,移动终端装置1a进行直行步行检测处理(步骤S61)。
图15是示出其他优选实施方式的直行步行检测处理的流程图。
当开始进行直行步行检测处理时,直行步行判断部103将直行标志设置为“关闭(OFF)”(步骤S71)。以下,矢量计算部101a求出代表子块的动作矢量,创建动作矢量信息111并将其保存于存储装置11(步骤S72)。
即,在其他优选实施方式中,由于在步骤S60的阶段已经进行求出步行周期的处理,所以在其他优选实施方式中不进行相当于优选实施方式的步骤S43的处理。
另外,与行周期内同步地计算代表子块的动作,因此,因除了行进方向的运动以外的运动导致的影响已经被消除。因此,不需要对代表子块的动作矢量在步行周期内取平均值,在其他优选实施方式中不进行相当于优选实施方式中的步骤S44的处理。而且,将在步骤S72中求出的代表子块的动作矢量按照原样作为被拍摄体的动作矢量,保存在动作矢量信息111中。
当进行步骤S72时,移动终端装置1a进行步骤S73。此外,由于步骤S73-S77的处理与优选实施方式的步骤S45-S49的处理同样,所以省略说明。
当结束步骤S61的直行步行检测处理时,移动终端装置1a进行步骤S62。此外,由于进行步骤S62之后的处理与进行优选实施方式的步骤S14之后的处理是同样的,所以省略说明。
如以上,在其他优选实施方式的移动终端装置1a中,矢量计算部101a在与用户的步行周期同步的计算时机计算代表子块的动作矢量。因此,即使不在步行周期单位内取平均值,也能够消除因除了向行进方向的运动以外的运动导致的影响。
另外,将计算时机决定为摄像头16的速度最小时。因此,能够避免因除了向行进方向的运动以外的运动导致的影响,并且也能够抑制图像信息的抖动。
此外,也可以将计算时机决定为用户双脚着地时。在这种情况下,由于能够求出用户的身体最稳定的瞬间的动作矢量,所以仍然能够避免因向行进方向的运动以外的运动导致的影响。用户双脚着地的时机能够基于角速度ωw、ωs、ωv以及加速度αw、αs、αv,利用步行周期计算部100a检测出来。
另外,作为使计算时机与步行周期同步的方法,通过如下的方式也能够实现,该方式是:将由步行周期计算部100a计算出的步行周期设置为与优选实施方式的计算计时器同样的结构,在步骤S60中监视该计算计时器变为0的时机的到来。
另外,在其他优选实施方式中,由于与步行周期同步进行矢量计算,所以矢量计算的计算周期变得比较长。通过这样,代表子块中包含的被拍摄体的图像内的移动量变大,代表子块的搜索区域有可能扩大。但是,由于移动终端装置1能够基于角速度ωw、ωs、ωv以及加速度αw、αs、αv来推断代表子块的图像内的移动量,所以能够避免如这样的问题。这一点在以下说明的另外的其他优选实施方式中也是同样的。
避免因行进方向的运动以外的运动导致的影响的方法并不仅限定于优选实施方式以及其他优选实施方式所示的方法。
图16是将另外的其他优选实施方式的移动终端装置1b具有的功能块与数据流一起示出的图。此外,在另外的其他优选实施方式的移动终端装置1b中,针对与优选实施方式的移动终端装置1同样的结构标记上相同的附图标记,并适当地省略说明。
如图16所示,移动终端装置1b在如下的几点与移动终端装置1不同,该不同点是:具有摄像头16b来取代摄像头16、具有步行周期计算部100b来取代步行周期计算部100、具有矢量计算部101b来取代矢量计算部101。
摄像头16b按照从步行周期计算部100b通知的拍摄时机进行拍摄,取得图像信息160。
步行周期计算部100b基于角速度信息140以及加速度信息150来计算步行周期,并且将与步行周期同步的时机决定为拍摄时机并将其传递至摄像头16b。在另一方面,步行周期计算部100b不需要将步行周期传递至矢量计算部101b。
矢量计算部101b不必利用计算计时器来决定计算时机,而是将取得新的图像信息160的时机作为计算时机进行动作矢量的计算。
图17是示出利用另外的其他优选实施方式的移动终端装置1b进行的修正处理的流程图。
在另外的其他优选实施方式的移动终端装置1b中,在进行了与优选实施方式的移动终端装置1同样的初始设定之后进入监视状态。但是,由于在移动终端装置1b中没有设置拍摄计时器,所以在该初始设定中不包含起动拍摄计时器的处理。另外,在监视状态下,移动终端装置1b监视测定时机的到来和拍摄时机的到来(步骤S81、S85)。
在监视状态下,当在初始设定中起动的测定计时器Ts变为0时,移动终端装置1b在步骤S81中判断为“是(Yes)”,进行步骤S82-S84的处理。此外,由于步骤S82-S84的处理与优选实施方式的步骤S2-S4的处理是同样的,所以省略说明。
在监视状态下,当到了拍摄时机时,移动终端装置1b在步骤S85中判断为“是(Yes)”。在优选实施方式中,参照拍摄计时器的值来判断拍摄时机是否到来。但是,在另外的其他优选实施方式中,由于没有设置拍摄计时器,所以无法根据拍摄计时器的值进行步骤S85的判断。
如在其他优选实施方式中说明的那样,在步行动作中,在每一个步行周期重复相同的步行状态。因此,若比较当相同的状态时拍摄的图像信息160,则能够高效率地消除除了行进方向的运动以外的运动。即,若以使拍摄时机在每一个步行周期到来的方式使拍摄时机与步行周期同步,则能够仅取得在相同状态时拍摄的图像信息160,能够避免因除了行进方向的运动以外的运动导致的影响。
另外,在对图像信息160进行边缘量检测处理来计算动作矢量的情况下,也与在其他优选实施方式中说明的同样,优选该图像信息160中相机抖动少的。因此,移动终端装置1b判断为当摄像头16的速度最小时拍摄时机到来。通过这样,与其他优选实施方式同样地,能够根据由摄像头16拍摄的图像信息160中相机抖动最少的状态下的图像信息160来计算动作矢量,使精度提高。
即,移动终端装置1a通过调整计算时机,使用最恰当的时机的图像信息160来计算动作矢量,而移动终端装置1b仅拍摄最恰当的时机的图像信息160。通过这样,能够大幅度地减少利用摄像头16拍摄的次数,减轻处理负荷,并且限制功耗。
根据以上所述,移动终端装置1b在每一个步行周期到来的摄像头16的速度变得最小的时机,判断为拍摄时机到来,在步骤S85中判断为“是(Yes)”。利用步行周期计算部100b通过与其他优选实施方式的步行周期计算部100a同样的方法检测这样的时机并将其传递至摄像头16b。
在步骤S85中判断为“是(Yes)”时,摄像头16b进行拍摄,将新的图像信息160保存于存储装置11(步骤S86)。
当保存重新拍摄的图像信息160时,矢量计算部101b判断是否代表子块已经决定完毕(步骤S87),在尚未决定代表子块的情况下(在步骤S87中判断为“否(No)”。),进行代表子块决定处理(步骤S91)再返回监视状态。此外,由于在步骤S91中的代表子块决定处理与优选实施方式的步骤S10的处理同样,所以省略说明。
另一方面,在已经决定了代表子块的情况下(在步骤S87中判断为“是(Yes)”。),CPU10进行直行步行检测处理(步骤S88)。此外,由于步骤S88中的直行步行检测处理与其他优选实施方式的直行步行检测处理(图15)是同样的,所以省略说明。
当结束步骤S88的直行步行检测处理时,移动终端装置1b进行步骤S89。此外,由于在进行步骤S89之后的处理与进行优选实施方式的步骤S14之后的处理是同样的,所以省略说明。
如上所述,在另外的其他优选实施方式的移动终端装置1b中,摄像头16b在与用户的步行周期同步的拍摄时机,拍摄在移动终端装置1b正在移动的期间内的周围的被拍摄体。通过这样,由于当步行动作处于一定的姿势时进行拍摄(能够抑制拍摄时的姿势的波动),所以能够消除除了向行进方向的运动以外的动作矢量的影响。另外,通过间歇地进行拍摄,能够限制因摄像头16b导致的功耗。
另外,将拍摄时机决定为摄像头16b的速度最小时。因此,能够避免因除了向行进方向的运动以外的运动导致的影响,并且也能够避免图像信息的抖动。
此外,也可以将拍摄时机决定为用户双脚着地时。在这种情况下,由于能够求出用户身体最稳定的瞬间的动作矢量,所以仍然能够避免因除了向行进方向的运动以外的运动导致的影响。能够基于角速度ωw、ωs、ωv以及加速度αw、αs、αv,利用步行周期计算部100b检测用户双脚着地的时机。
另外,作为使拍摄时机与步行周期同步的方法,通过如下的方式也能够实现,该方式是:将由步行周期计算部100b计算出的步行周期设置为与优选实施方式的拍摄计时器同样的结构,在步骤S85中监视该拍摄计时器变为0的时机的到来。
此外,摄像头16b,在与步行周期同步的时机到来的前后一定时间的期间内进行拍摄,在此期间取得的图像信息160中,实际上,也可以使用当摄像头16b的速度最小时拍摄的图像信息160来计算动作矢量。人的步行动作并没有恒定的步行周期,多少会产生波动。因此,实际上,在有些情况下,在预测的步行周期中并不是相同的状态;在有些情况下,仅根据预测的步行周期来拍摄的图像信息160的状态会出现偏差。但是,通过如上述的方式,由于能够一边判断是否实际上处于相同的状态,一边使用当处于相同的状态时的图像信息160来计算动作矢量,所以提高了精度。
在到此为止说明的任一种优选实施方式中,通过分析由摄像头16、16b拍摄的图像信息160,针对判断用户的步行状态中的直行状态的例子进行说明。但是,判断用户的步行状态中的直行状态的方法并不仅限定于此。
图18是另外的其他优选实施方式的移动终端装置1c的框图。此外,在另外的其他优选实施方式的移动终端装置1c中,针对与优选实施方式的移动终端装置1同样的结构标记相同的附图标记,并适当地省略说明。若比较图3与图18则可知,移动终端装置1c在不具有摄像头16这一点与移动终端装置1不同。
图19是将另外的其他优选实施方式的移动终端装置1c具有的功能块与数据流一起示出的图。
移动终端装置1c具有直行步行判断部103c以及修正部104。直行步行判断部103c以及修正部104是通过CPU10按照程序110进行工作来实现的功能块。
直行步行判断部103c通过将由陀螺仪传感器14取得的角速度信息140以及由加速度传感器15取得的加速度信息150与预先被赋予的步行动作的图案相比较,判断用户是否处于步行动作的直行状态。
直行步行判断部103c与优选实施方式的步行周期计算部100同样地,将角速度信息140以及加速度信息150转换至表示用户的步行动作的坐标系(W轴、S轴以及V轴),具有求出角速度ωw、ωs、ωv以及加速度αw、αs、αv的功能。另外,还具有根据这些值计算步行周期的功能。
此处,加速度αw、αv以及角速度ωs反映出步行运动中的前进动作。另外,角速度ωw、ωv以及加速度αs反映出步行运动中的旋转动作。另外,如已经在图12中示出的,虽然加速度αw、αv具有一步单位的周期,但是角速度ωv具有一个复式步单位的周期。
因此,能够预先通过针对步行状态已知的步行动作的图案,以一个复式步为单位来提取特征点,将该特征点输入至学习机器(例如,支持向量机或者神经网络)使该学习机器学习,来实现直行步行判断部103c的功能。即,在另外的其他优选实施方式中,步行周期是一个复式步周期。
此外,学习的步行状态的图案假设了直行、右转、左转等。另外,在学习的步行状态的图案中,还假设有根据保持状态不同而不同的图案。例如,假设了将移动终端装置1c拿在手中的状态(手势状态)、浏览显示部13的状态,放入口袋等的状态、正在通话的状态等。
图20是示出利用另外的其他优选实施方式的移动终端装置1c进行的修正处理的流程图。
此外,在开始进行图20所示的处理之前,移动终端装置1c已经进行了学习工序和规定的初始设定,在该学习工序中,学习持有移动终端装置1c的用户的已知步行动作的图案的特征点。在初始设定中包括:将测定计时器设置为Ts并起动的处理,该测定计时器用于计测利用陀螺仪传感器14以及加速度传感器15进行测定的测定时机;设定陀螺仪传感器14的偏置值(bv)的初始值的处理;决定移动终端装置1的姿势(处理开始时的姿势)的处理。作为决定移动终端装置1的初始姿势的方法,假定了用户操作移动终端装置1c的操作部12来输入姿势的方法、根据未图示的磁性传感器的输出来决定姿势的方法等。
当初始设定结束时,移动终端装置1c处于监视测定计时器和是否已经过一个复式步时间的状态(步骤S101、S105)。在以下的说明中将这种状态称为“监视状态”。但是,在监视状态下,移动终端装置1也可以进行除了步骤S101、S105以外的其他处理。
在监视状态下,当测定计时器变为0,测定时机到来时,CPU10在步骤S101中判断为“是(Yes)”,一边将测定计时器重置为Ts(步骤S102),一边分别读出陀螺仪传感器14以及加速度传感器15的值。通过这样,测定与移动终端装置1c的运动有关的角速度以及加速度(步骤S103)。
此外,若偏置值bv尚未修正(后述),则基于偏置值bv的初始值取得步骤S103中读出的陀螺仪传感器14的值。另一方面,在偏置值bv被修正之后,取得利用修正后的偏置值bv进行了修正的值。即,修正部104通过修正陀螺仪传感器14的偏置值bv来修正角速度信息140。
以下,CPU10基于读出的陀螺仪传感器14的值以及加速度传感器15的值来创建角速度信息140以及加速度信息150,并将它们记录于存储装置11中(步骤S104)。此外,在另外的其他优选实施方式中,角速度信息140以及加速度信息150并不改写过去的记录,而是按照取得顺序作为历史数据被记录下来。
这样,移动终端装置1c每当测定计时器的值变为0时,就在步骤S101中判断为“是(Yes)”,进行步骤S102-S104的处理。因此,移动终端装置1c每隔测定周期Ts测定角速度以及加速度。此外,当进行步骤S104时,移动终端装置1c再次返回监视状态。
在监视状态下,在经过一个复式步时间的情况下(在步骤S105中判断为“是(Yes)”。),直行步行判断部103c判断用户的步行状态是否是直行状态(步骤S106)。在另外的其他优选实施方式中,每当经过一个复式步时间,步骤S105中的判断结果就变成“是(Yes)”。因此,移动终端装置1c(直行步行判断部103c)在每一个步行周期基于在此期间内测定的角速度信息140以及加速度信息150进行图案识别处理,判断在此期间的用户的步行状态是否是直行状态。
在用户的步行状态是直行状态的情况下(在步骤S106中判断为“是(Yes)”。),修正部104修正陀螺仪传感器14的偏置值(步骤S107)。在步骤S107中,由于修正部104修正陀螺仪传感器14的偏置值的原理与优选实施方式的步骤S15是同样的,所以省略说明。
此外,就移动终端装置1c而言,在为了进行定位处理或者路径记录处理而记录有行进方向的情况下,在利用直行步行判断部103c判断为用户的步行动作处于直行状态期间,优选不参照角速度信息140或者加速度信息150,而将行进方向的变化量记录为“0”。
另一方面,在步骤S106中判断为“否(No)”的情况下(用户的步行动作不处于直行状态的情况),修正部104跳过步骤S107,返回监视状态。因此,在这种情况下,修正部104不修正陀螺仪传感器14的偏置值bv。因此,在为了进行定位处理或者路径记录处理而记录有行进方向的情况下,基于角速度信息140或者加速度信息150记录行进方向。但是,也可以通过与步骤S15同样的计算来求出ΔW,再通过将该ΔW相加来计算行进方向。
如上所述,另外的其他优选实施方式的移动终端装置1c具有:陀螺仪传感器14、加速度传感器15、直行步行判断部103c、修正部104。陀螺仪传感器14测定移动终端装置1c的移动的角速度来取得角速度信息140。加速度传感器15测定移动终端装置1c的移动的加速度来取得加速度信息150。直行步行判断部103c通过将由陀螺仪传感器14取得的角速度信息140以及由加速度传感器15取得的加速度信息150与预先被赋予的步行动作的图案相比较,来判断用户是否处于步行动作的直行状态。修正部104根据利用直行步行判断部103c判断为用户处于步行状态中的直行状态,来修正由陀螺仪传感器14取得的角速度信息140。通过这样的结构,能够高精度地判断用户是否处于步行动作中的直行状态。
另外,直行步行判断部103c按照用户的步行动作的步行周期来与图案进行比较。即,通过将构成为连续动作的步行动作按照步行周期进行划分来关注,能够高效率地提取特征点,并且能够通过比较短时间的动作来实现图案识别。因此,能够对作为比较长时间的连续动作的步行动作导入图案识别,并且检测直行状态的精度提高。另外,如第一至另外的其他优选实施方式所述,不需要设置摄像头16、16b。
另外,步行周期是根据在用户的步行动作中用户将左右脚分别各迈出一步的时间(一个复式步时间)来决定的。通过这样,由于能够使该步行周期与角速度ωv的周期相一致,所以与以一步时间周期作为步行周期的情况相比,精度有所提高。
以上,针对本发明的各种各样的优选实施方式进行说明,但是本发明并不仅限定于上述的优选实施方式,还能够进一步地进行各种各样的变形。
例如,上述的优选实施方式所示的各工序也只不过是例示,并不仅限定于上述的顺序或者内容。即,只要可以得到同样的效果,也可以适当地变更顺序或者内容。
另外,针对上述的优选实施方式所示的功能块(例如,步行周期计算部100、矢量计算部101等)说明了是通过CPU10按照程序110进行工作,以软件的方式来实现的。但是,也可以是这些功能块的一部分或者全部由专用的逻辑电路构成,以硬件的方式来实现。
另外,上述的优选实施方式没有使用磁性传感器,但是也可以设置磁性传感器作为用于实现相对定位的自带传感器。
权利要求书(按照条约第19条的修改)
1.一种移动终端装置,由用户携带,其特征在于,具有:
陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息,
加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息,
摄像头,拍摄在所述移动终端装置进行移动的期间内的周围的被拍摄体,来取得图像信息,
矢量计算单元,基于所述图像信息计算所述被拍摄体的动作矢量,
相关度判断单元,根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系,
直行步行判断单元,根据由所述矢量计算单元计算出的所述被拍摄体的动作矢量和由所述相关度判断单元判断出的所述相关度关系,判断所述用户是否处于步行动作中的直行状态,
修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
2.如权利要求1所述的移动终端装置,其特征在于,
所述矢量计算单元,将所述图像信息分割成分别为第一尺寸的多个块,分别将所述多个块分割成小于所述第一尺寸的第二尺寸的多个子块,检测所述多个子块的各自的边缘量,分别将所述多个块中边缘量最大的子块确定为各块的代表子块,通过计算所决定的所述代表子块的动作矢量,来计算所述被拍摄体的动作矢量。
3.如权利要求2所述的移动终端装置,其特征在于,
所述矢量计算单元,以所述用户的步行周期为单位,对所述代表子块的动作矢量取平均值,来求出所述被拍摄体的动作矢量。
4.如权利要求2所述的移动终端装置,其特征在于,
所述矢量计算单元,在与所述用户的步行周期同步的计算时机,计算所述代表子块的动作矢量。
5.(修改后)如权利要求4所述的移动终端装置,其特征在于,
基于由所述加速度传感器取得的加速度信息,来决定在每一个步行周期内到来的所述摄像头的速度变得最小的时机,
将所述计算时机决定为所述摄像头的速度变得最小的时机。
6.如权利要求4所述的移动终端装置,其特征在于,
将所述计算时机决定为所述用户的双脚着地时。
7.如权利要求2所述的移动终端装置,其特征在于,
所述摄像头,在与所述用户的步行周期同步的拍摄时机,拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体。
8.(修改后)如权利要求7所述的移动终端装置,其特征在于,
基于由所述加速度传感器取得的加速度信息,来决定在每一个步行周期内到来的所述摄像头的速度变得最小的时机,
将所述拍摄时机决定为所述摄像头的速度变得最小的时机。
9.如权利要求7所述的移动终端装置,其特征在于,
将所述拍摄时机决定为所述用户的双脚着地时。
10.如权利要求3所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
11.如权利要求4所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
12.如权利要求1所述的移动终端装置,其特征在于,
在所述相关度关系中,包含所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的关系。
13.如权利要求12所述的移动终端装置,其特征在于,
在所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的情况下,在由所述矢量计算单元求出的所述被拍摄体的动作矢量在图像信息中呈放射状的情况下,所述直行步行判断单元判断为所述用户的步行动作处于直行状态。
14.一种移动终端装置,由用户携带,其特征在于,具有:
陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息,
加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息,
直行步行判断单元,通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息,与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态,
修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
15.如权利要求14所述的移动终端装置,其特征在于,
所述直行步行判断单元,按照所述用户的步行动作中的步行周期,与所述图案进行比较。
16.如权利要求15所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
17.一种记录计算机可读取的程序的记录介质,其特征在于,
通过利用计算机执行所述程序,来使所述计算机执行如下的修正方法,该修正方法包括:
利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序,
利用摄像头拍摄所述计算机进行移动的期间内的周围的被拍摄体来取得图像信息的工序,
基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序,
根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序,
根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
18.一种记录计算机可读取的程序的记录介质,其特征在于,
通过利用计算机执行所述程序,来使所述计算机进行如下的修正方法,该修正方法包括:
利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序,
通过由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
19.一种修正方法,其特征在于,包括:
利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序,
利用摄像头拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体来取得图像信息的工序,
基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序,
根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序,
根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作中的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
20.一种修正方法,其特征在于,包括:
学习图案的特征点的工序,该图案是持有移动终端装置的用户的已知的步行动作的图案,
利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序,
通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与所述图案的特征点相比较,来判断所述用户是否处于步行动作中的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
说明或声明(按照条约第19条的修改)
权利要求的第5项以及第8项明确了:所述摄像头的速度是基于由加速度传感器取得的加速度信息来决定并取得的速度。加速度传感器以及摄像头中的任一者都是移动终端装置具有的结构,由于构成为一体结构,所以可以明确得出:表示由加速度传感器取得的移动终端装置移动的加速度的加速度信息,也表示该摄像头移动的加速度。另外,还可以明确得出:若得到摄像头的加速度,则摄像头的速度也可以求出。
另外,权利要求第5项以及第8项还明确了:所述摄像头的速度变得最小的时机在每一个步行周期都会到来。

Claims (20)

1.一种移动终端装置,由用户携带,其特征在于,具有:
陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息,
加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息,
摄像头,拍摄在所述移动终端装置进行移动的期间内的周围的被拍摄体,来取得图像信息,
矢量计算单元,基于所述图像信息计算所述被拍摄体的动作矢量,
相关度判断单元,根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系,
直行步行判断单元,根据由所述矢量计算单元计算出的所述被拍摄体的动作矢量和由所述相关度判断单元判断出的所述相关度关系,判断所述用户是否处于步行动作中的直行状态,
修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
2.如权利要求1所述的移动终端装置,其特征在于,
所述矢量计算单元,将所述图像信息分割成分别为第一尺寸的多个块,分别将所述多个块分割成小于所述第一尺寸的第二尺寸的多个子块,检测所述多个子块的各自的边缘量,分别将所述多个块中边缘量最大的子块确定为各块的代表子块,通过计算所决定的所述代表子块的动作矢量,来计算所述被拍摄体的动作矢量。
3.如权利要求2所述的移动终端装置,其特征在于,
所述矢量计算单元,以所述用户的步行周期为单位,对所述代表子块的动作矢量取平均值,来求出所述被拍摄体的动作矢量。
4.如权利要求2所述的移动终端装置,其特征在于,
所述矢量计算单元,在与所述用户的步行周期同步的计算时机,计算所述代表子块的动作矢量。
5.如权利要求4所述的移动终端装置,其特征在于,
将所述计算时机决定为所述摄像头的速度最小时。
6.如权利要求4所述的移动终端装置,其特征在于,
将所述计算时机决定为所述用户的双脚着地时。
7.如权利要求2所述的移动终端装置,其特征在于,
所述摄像头,在与所述用户的步行周期同步的拍摄时机,拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体。
8.如权利要求7所述的移动终端装置,其特征在于,
将所述拍摄时机决定为所述摄像头的速度最小时。
9.如权利要求7所述的移动终端装置,其特征在于,
将所述拍摄时机决定为所述用户的双脚着地时。
10.如权利要求3所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
11.如权利要求4所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
12.如权利要求1所述的移动终端装置,其特征在于,
在所述相关度关系中,包含所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的关系。
13.如权利要求12所述的移动终端装置,其特征在于,
在所述摄像头的拍摄方向与所述用户的步行动作的行进方向正对的情况下,在由所述矢量计算单元求出的所述被拍摄体的动作矢量在图像信息中呈放射状的情况下,所述直行步行判断单元判断为所述用户的步行动作处于直行状态。
14.一种移动终端装置,由用户携带,其特征在于,具有:
陀螺仪传感器,测定所述移动终端装置的移动的角速度,来取得角速度信息,
加速度传感器,测定所述移动终端装置的移动的加速度,来取得加速度信息,
直行步行判断单元,通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息,与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态,
修正单元,在由所述直行步行判断单元判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息。
15.如权利要求14所述的移动终端装置,其特征在于,
所述直行步行判断单元,按照所述用户的步行动作中的步行周期,与所述图案进行比较。
16.如权利要求15所述的移动终端装置,其特征在于,
所述步行周期,是根据在所述用户的步行动作中所述用户分别将左右脚各迈出一步的时间来决定的。
17.一种记录计算机可读取的程序的记录介质,其特征在于,
通过利用计算机执行所述程序,来使所述计算机执行如下的修正方法,该修正方法包括:
利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序,
利用摄像头拍摄所述计算机进行移动的期间内的周围的被拍摄体来取得图像信息的工序,
基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序,
根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序,
根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
18.一种记录计算机可读取的程序的记录介质,其特征在于,
通过利用计算机执行所述程序,来使所述计算机进行如下的修正方法,该修正方法包括:
利用陀螺仪传感器测定所述计算机的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述计算机的移动的加速度来取得加速度信息的工序,
通过由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与预先被赋予的步行动作的图案相比较,来判断所述用户是否处于步行动作的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
19.一种修正方法,其特征在于,包括:
利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序,
利用摄像头拍摄所述移动终端装置进行移动的期间内的周围的被拍摄体来取得图像信息的工序,
基于由所述摄像头取得的所述图像信息,来计算所述被拍摄体的动作矢量的工序,
根据由所述陀螺仪传感器取得的角速度信息和由所述加速度传感器取得的加速度信息,来判断所述用户的步行动作的行进方向与所述摄像头的拍摄方向的相对关系的工序,
根据计算出的所述被拍摄体的动作矢量与所述相关度关系,判断所述用户是否处于步行动作中的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
20.一种修正方法,其特征在于,包括:
学习图案的特征点的工序,该图案是持有移动终端装置的用户的已知的步行动作的图案,
利用陀螺仪传感器测定移动终端装置的移动的角速度来取得角速度信息的工序,
利用加速度传感器测定所述移动终端装置的移动的加速度来取得加速度信息的工序,
通过将由所述陀螺仪传感器取得的角速度信息以及由所述加速度传感器取得的加速度信息与所述图案的特征点相比较,来判断所述用户是否处于步行动作中的直行状态的工序,
在判断为所述用户处于步行状态中的直行状态的情况下,修正由所述陀螺仪传感器取得的角速度信息的工序。
CN201480017606.4A 2013-03-29 2014-03-26 移动终端装置、记录介质以及修正方法 Expired - Fee Related CN105051492B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013072311A JP6152511B2 (ja) 2013-03-29 2013-03-29 携帯端末装置、プログラムおよび補正方法
JP2013-072311 2013-03-29
PCT/JP2014/058466 WO2014157310A1 (ja) 2013-03-29 2014-03-26 携帯端末装置、記録媒体および補正方法

Publications (2)

Publication Number Publication Date
CN105051492A true CN105051492A (zh) 2015-11-11
CN105051492B CN105051492B (zh) 2017-09-26

Family

ID=51624273

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480017606.4A Expired - Fee Related CN105051492B (zh) 2013-03-29 2014-03-26 移动终端装置、记录介质以及修正方法

Country Status (4)

Country Link
US (1) US10545031B2 (zh)
JP (1) JP6152511B2 (zh)
CN (1) CN105051492B (zh)
WO (1) WO2014157310A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108937742A (zh) * 2018-09-06 2018-12-07 苏州领贝智能科技有限公司 一种扫地机的陀螺仪角度修正方法和扫地机
CN109660712A (zh) * 2017-10-10 2019-04-19 佳能株式会社 选择视频序列的帧的方法、***和装置
CN110672099A (zh) * 2019-09-09 2020-01-10 武汉元生创新科技有限公司 一种用于室内机器人导航的航向校正方法和***
CN110869871A (zh) * 2017-07-06 2020-03-06 国立研究开发法人宇宙航空研究开发机构 移动式拍摄装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9690904B1 (en) * 2013-09-09 2017-06-27 Scanadu Incorporated Signal-embedded signatures
GB2526806A (en) * 2014-06-03 2015-12-09 Here Global Bv Trail interpolation
JP2016090371A (ja) * 2014-11-04 2016-05-23 国立研究開発法人産業技術総合研究所 センサ情報を処理する情報処理装置、情報管理システム、情報表示システム、情報処理方法、プログラム、記録媒体及びサーバ装置
JP6539091B2 (ja) * 2015-04-09 2019-07-03 キヤノン株式会社 撮像装置およびその制御方法
JP6332212B2 (ja) 2015-09-18 2018-05-30 カシオ計算機株式会社 姿勢推定装置、姿勢推定方法及びプログラム
CN108469268A (zh) * 2018-03-15 2018-08-31 中国兵器工业集团第二四研究所苏州研发中心 一种基于微机械陀螺仪的计步方法
JP7342864B2 (ja) * 2018-07-02 2023-09-12 ソニーグループ株式会社 測位プログラム、測位方法、及び測位装置
EP3918990A4 (en) 2019-01-28 2022-02-09 Fujitsu Limited PROGRAM, SYSTEM AND PROCEDURE FOR IDENTIFICATION OF SENSOR ATTACHMENT/SOLUTION
JP6891913B2 (ja) * 2019-03-25 2021-06-18 カシオ計算機株式会社 電子表示装置及び表示制御方法
JP7240241B2 (ja) * 2019-04-24 2023-03-15 キヤノン株式会社 撮像装置及びその制御方法、姿勢角算出装置、プログラム、記憶媒体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004138513A (ja) * 2002-10-18 2004-05-13 Hitachi Ltd 屋内位置検出装置及び屋内位置検出方法
JP2007279837A (ja) * 2006-04-03 2007-10-25 Advance Alpha:Kk 携帯型行動監視装置および行動監視システム
JP2008275344A (ja) * 2007-04-25 2008-11-13 Honda Motor Co Ltd ヨーレートセンサの出力判定装置および追従先行車判定装置
CN101943912A (zh) * 2010-09-02 2011-01-12 北京理工大学 一种消除双足仿人机器人上身姿态晃动的控制方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS4897542A (zh) 1972-03-28 1973-12-12
JPS5059933A (zh) 1973-10-02 1975-05-23
JPH07324941A (ja) 1994-06-02 1995-12-12 Matsushita Electric Ind Co Ltd オフセットドリフト補正装置
US8462109B2 (en) * 2007-01-05 2013-06-11 Invensense, Inc. Controlling and accessing content using motion processing on mobile devices
JP4897542B2 (ja) 2007-03-30 2012-03-14 三菱電機株式会社 自己位置標定装置、自己位置標定方法および自己位置標定プログラム
KR100886340B1 (ko) * 2007-04-04 2009-03-03 삼성전자주식회사 이동 로봇의 자이로 센서를 캘리브레이션하는 장치 및 방법
US9008996B2 (en) 2008-07-02 2015-04-14 National Institute Of Advanced Industrial Science And Technology Moving body positioning device
JP4877395B2 (ja) * 2010-01-19 2012-02-15 セイコーエプソン株式会社 歩幅推測方法及び歩幅推測装置
JP5059933B2 (ja) 2010-12-02 2012-10-31 株式会社エヌ・ティ・ティ・ドコモ 移動端末、システム及び方法
JP5704561B2 (ja) * 2011-01-12 2015-04-22 独立行政法人産業技術総合研究所 進行方向推定装置、携帯端末、制御プログラム、コンピュータ読み取り可能な記録媒体、および進行方向推定方法
US8498811B2 (en) * 2011-02-09 2013-07-30 SenionLab AB Method and device for indoor positioning
JP5849319B2 (ja) * 2011-12-05 2016-01-27 株式会社日立製作所 移動経路推定システム、移動経路推定装置及び移動経路推定方法
US8532675B1 (en) * 2012-06-27 2013-09-10 Blackberry Limited Mobile communication device user interface for manipulation of data items in a physical space
US9013617B2 (en) * 2012-10-12 2015-04-21 Qualcomm Incorporated Gyroscope conditioning and gyro-camera alignment
KR101850225B1 (ko) * 2013-10-14 2018-04-18 나이키 이노베이트 씨.브이. 복수의 디바이스들로부터의 에너지 소비량 계산결과들을 병합하는 신체단련 훈련 시스템

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004138513A (ja) * 2002-10-18 2004-05-13 Hitachi Ltd 屋内位置検出装置及び屋内位置検出方法
JP2007279837A (ja) * 2006-04-03 2007-10-25 Advance Alpha:Kk 携帯型行動監視装置および行動監視システム
JP2008275344A (ja) * 2007-04-25 2008-11-13 Honda Motor Co Ltd ヨーレートセンサの出力判定装置および追従先行車判定装置
CN101943912A (zh) * 2010-09-02 2011-01-12 北京理工大学 一种消除双足仿人机器人上身姿态晃动的控制方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110869871A (zh) * 2017-07-06 2020-03-06 国立研究开发法人宇宙航空研究开发机构 移动式拍摄装置
CN110869871B (zh) * 2017-07-06 2024-03-15 国立研究开发法人宇宙航空研究开发机构 移动式拍摄装置
CN109660712A (zh) * 2017-10-10 2019-04-19 佳能株式会社 选择视频序列的帧的方法、***和装置
CN108937742A (zh) * 2018-09-06 2018-12-07 苏州领贝智能科技有限公司 一种扫地机的陀螺仪角度修正方法和扫地机
CN110672099A (zh) * 2019-09-09 2020-01-10 武汉元生创新科技有限公司 一种用于室内机器人导航的航向校正方法和***

Also Published As

Publication number Publication date
US20160011004A1 (en) 2016-01-14
US10545031B2 (en) 2020-01-28
JP6152511B2 (ja) 2017-06-28
JP2014196941A (ja) 2014-10-16
WO2014157310A1 (ja) 2014-10-02
CN105051492B (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
CN105051492A (zh) 移动终端装置、记录介质以及修正方法
JP5862016B2 (ja) 測位装置、測位方法およびプログラム
CN102944240B (zh) 一种基于智能手机的惯性导航***及方法
CN101922937B (zh) 定位装置及定位方法
CN102455182B (zh) 定位装置及定位方法
JP6119097B2 (ja) 路面調査プログラム及び路面調査装置
CN106682572A (zh) 目标跟踪方法、***和第一电子设备
CN104094085A (zh) 定位***、终端装置、记录介质及定位方法
CN108519085B (zh) 导航路径获取方法、装置、***及其存储介质
JP4205930B2 (ja) 携帯用自律航法装置
RU2019115873A (ru) Система слежения за объектами
EP2448239A1 (en) Playback Display Device, Image Capturing Device, and Playback Display Method
US20100260377A1 (en) Mobile detector, mobile detecting program, and mobile detecting method
EP3434622A1 (en) Instruction projecting device, package sorting system and instruction projecting method
EP3434623A1 (en) Projection indicator, cargo assortment system, and projection indicating method
JPWO2020184013A1 (ja) 車両制御装置
CN110220585A (zh) 一种桥梁振动测试方法及相关装置
KR20190081334A (ko) 복합 측위 기반의 이동 궤적 추적 방법 및 그 장치
ES2924026T3 (es) Herramienta de mapeo de trayectorias de posicionamiento en interiores
CN112824835B (zh) 车辆定位方法、装置及计算机可读存储介质
JP6329915B2 (ja) 測位システム
JP5928036B2 (ja) タグ位置推定システム、タグ位置推定方法、及びタグ位置推定プログラム
US20150142310A1 (en) Self-position measuring terminal
CN109769206A (zh) 一种室内定位融合方法、装置、存储介质及终端设备
KR102238989B1 (ko) 보행자의 걸음을 판단하는 방법 및 그 사용자 단말

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170926

Termination date: 20210326

CF01 Termination of patent right due to non-payment of annual fee