WO2011036288A1 - Device and method for assisting visually impaired individuals, using three-dimensionally resolved object identification - Google Patents

Device and method for assisting visually impaired individuals, using three-dimensionally resolved object identification Download PDF

Info

Publication number
WO2011036288A1
WO2011036288A1 PCT/EP2010/064257 EP2010064257W WO2011036288A1 WO 2011036288 A1 WO2011036288 A1 WO 2011036288A1 EP 2010064257 W EP2010064257 W EP 2010064257W WO 2011036288 A1 WO2011036288 A1 WO 2011036288A1
Authority
WO
WIPO (PCT)
Prior art keywords
visually impaired
information
impaired person
space
dimensional
Prior art date
Application number
PCT/EP2010/064257
Other languages
German (de)
French (fr)
Inventor
Georg Bodammer
Ludwig Listl
Anton Schick
Oscar CASANOVA GONZALÉZ
José Luis GONZÁLEZ MORA
Antonio Francisco RODRIGUEZ HERNÁNDEZ
Original Assignee
Siemens Aktiengesellschaft
Universidad De La Laguna
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Aktiengesellschaft, Universidad De La Laguna filed Critical Siemens Aktiengesellschaft
Publication of WO2011036288A1 publication Critical patent/WO2011036288A1/en

Links

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001Teaching or communicating with blind persons
    • G09B21/006Teaching or communicating with blind persons using audible presentation of the information

Definitions

  • the invention relates to a blind assistance system for conveying environmental information to a visually impaired person. Is considered the spatial representation and co ⁇ distribution of objects to a visually impaired person.
  • the environmental orientation requirements require a device for detecting the environment, particularly dangerous obstacles, and a method for preparing the information for a visually impaired person. Overall, a great many approaches to information gathering and information transmission are possible, but all procedures must meet the requirements of visually impaired persons and the remaining senses should not be overstretched.
  • the publication WO 2006/074993 A2 describes a system which produces a three-dimensionally resolving light. used, wherein the time is measured which requires a light pulse for the path from a pulse generating unit of the sensor to an object and back to a Emp ⁇ catching unit of the sensor.
  • the sensor includes a plurality of sensor elements arranged in a row to reflect the visual field of sighted persons. Within the detection angle, the distance of the object is measured only in a predetermined distance range, for example 0.5 m to 5 m.
  • the signal is evaluated on the basis of image processing means and the relevant information is made available to the visually impaired person and signaled, for example, by a vibration actuator, a tactile matrix, which is arranged, for example, on a feeler stick.
  • the invention has for its object to provide a visually impaired person with environmental information that the environment appears more differentiated for this visually impaired person.
  • the invention lies in the combination of three-dimensional scanning technology for the 3D recognition of objects and the sonification of the corresponding space.
  • the remaining senses each provide a means for transmitting the information to the visually impaired person.
  • the sense of hearing offers a possibility of "listening in to the room". This is based on the ear response to a distance, direction, frequencies, or sounds. Sound waves that move in space are reflected on objects, such as walls, or disappear in space. Thus, the sound can be used as a medium for the perception of space. All visually impaired people have learned to "hear into the room,” much better than sighted people. So they hear the room on "their channel” with the third dimension.
  • the invention is based on the arrangement of a device scanning the room or the field of view, which measures distances from the person, in particular from the human head, to objects in the visual field of the eyes.
  • a device scanning the room or the field of view which measures distances from the person, in particular from the human head, to objects in the visual field of the eyes.
  • Vorrich ⁇ tion can be realized, for example, by measuring the duration of light pulses emitted from the location of the human head and their back reflections are recorded and used to capture the spatial information.
  • objects such as people, tables, chairs, glasses in the field of view are captured three-dimensionally with real spatial coordinates.
  • a tone-generating system In combination with the three-dimensional information of the surrounding space, based on data from the distance measuring system, a tone-generating system is present which virtually allocates sound coordinates to the spatial coordinates recorded in the measuring range for conversion into binaural / binaural acoustic information. functions in real time, so that the visually impaired person, the Emp ⁇ -making has to hear the room.
  • FIGS. 1A and B show the sensor system with sonification, wherein an opened door (FIG. 1A) and an opened door with a person (FIG. 1B) are represented,
  • Figure 2 shows an example of a binaural
  • Figure 3 shows an example of a Mathges ⁇ taltung, in particular a 3D sensor 4.5
  • FIG. 4 shows the representation of a known asistance device with a flat field of view.
  • FIG. 1 a prior art is given again. It is shown a visually impaired person 2, who holds a long cane. Detected in a room 13, a door 3 in a wall. Transmitter and receiver are mounted on a headgear of the visually impaired person 2 and capture here in a horizontal plane. In the field of sound generation for hearing aids and hearing aids, there are examinations to supply artificially generated sound the human perception as best as possible.
  • suitable space measurement technologies means of light propagation time measurement, and the sonication of the room, that is, the tonal representation of spatial coordinates by binaural sound technology helps improve Le ⁇ quality of life of visually impaired people, and can increase the so potentials inclusion of visually impaired persons due to improved mobility and perception of the environment.
  • the human ear will "hear the room” according to the ability to record directions and distances of three-dimensional sound sources.
  • the viewing angle or the field of vision is approximately the same as that of the eyes of the visually impaired person.
  • the camera ⁇ position 8 is arranged.
  • the spatial coordinates of the visually impaired person 2 can be understood or heard.
  • the location of a sound depends on the way a sound wave, with the same source, can be different from other sound waves when it hits the left or right ear. This modification of the sound is referred to as "human related transfer function (HRTF)".
  • HRTF human related transfer function
  • the HRTF describes how a sound diffraction and Refletation- seigenschaften of the head, the outer ear and the hull ge ⁇ is filtered out before the sound reaches the transmission system of the eardrum and the inner ear.
  • Figure 2 illustrates a multi-stage development, is being shown in the upper part of the figure 2, as a person ei ⁇ ne distance sound source listening, by the person, these overall quietlylich as sound 14 emanating from a particular location in three-dimensional space 13, perceives.
  • FIG. 2 shows how HRTF is used in conjunction with binaural technology.
  • the binaural technology is based on the HRTF measurements.
  • DA by enabling the sound to be played to modifi ⁇ grace. This is done in such a way that a spatial auditory image is achieved which corresponds as closely as possible to the natural image. Due to the speed conditions and to meet the requirements for real-time processing, it may be advantageous that only two one-dimensional Abstandssensoran- orders are placed at the position of the head of the visually impaired person; see Figure 3. One of them scans single ⁇ Lich horizontally and the other is aligned at a suitable angle to the ground.
  • the sensor arrangement can be positioned behind the glasses of a pair of glasses or in the vicinity of the ears, see FIG. 3.
  • the horizontal sensor arrangement is sonicated to see ⁇ disabled person to supply space information and the angled sensor is used for image processing to extract obstacles or other features which could be ge ⁇ dangerous. If an obstacle is detected, a warning signal is generated.
  • FIG. 3 an example of a configuration ei ⁇ nes product relates to a 3D sensor 4.5, wherein different service features are processed to respectively from two different sensors positioned in a processing unit that corresponding hearing aids are generated ⁇ riert.
  • FIG. 3 the signal processing is shown schematically.
  • a 3D sensor 4 is indicated with a horizontal scanning, wherein the further 3D sensor 5, shown below, is equipped with a vertical scanning of the space.
  • the evaluation unit 9 comprises a three-dimensional sound ⁇ conversion 11, which receives data from the 3D sensor 4 and a feature recognition 12, which receives data from a 3D sensor 5.
  • the respective output data are applied to at least one digital processor 15 whose output signal is applied to hearing aids 6 in two channels.
  • a battery 7 is indicated, and a data supply from a GPS (Global Positioning System) unit with the possibility of transmission on a short sea ⁇ ckenfunkübertragung, such as Bluetooth or WiFi.
  • GPS Global Positioning System

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Rehabilitation Tools (AREA)
  • Stereophonic System (AREA)

Abstract

The invention relates to a device for conveying information from a space (13) which at least partially surrounds the visually impaired individual (14) to said visually impaired individual (14), comprising at least one distance sensing system for the three-dimensional identification of objects in the space (13) and at least one processing system for the conversion/output of at least one piece of information regarding the surroundings to the visually impaired individual, at least one remaining sense, such as the tactile sense or the sense of hearing, being activated and the at least one distance sensing system for the three-dimensional identification of objects being combined with the sonification of the space (13) which at least partially surrounds the visually impaired individual (14).

Description

Beschreibung description
Vorrichtung und Verfahren zur Assistenz für sehbehinderte Personen mit dreidimensional ortsaufgelöster Objekterfassung Device and method for assistance for visually impaired persons with three-dimensionally spatially resolved object detection
Die Erfindung betrifft ein Blindenassistenzsystem zur Vermittlung von Umgebungsinformationen an einen sehbehinderten Menschen. Betrachtet wird die räumliche Darstellung und Mit¬ teilung von Objekten an eine sehbehinderte Person. The invention relates to a blind assistance system for conveying environmental information to a visually impaired person. Is considered the spatial representation and co ¬ distribution of objects to a visually impaired person.
Die laufenden Aktivitäten der Weltgesundheitsorganisation (WHO) beziffern die sehbehinderten Menschen in Europa auf ca. 30 Millionen. Der Verlust des Sehvermögens ist meist beglei¬ tet durch eine verminderte Unabhängigkeit. Für die meisten der sehbehinderten Personen sind der lange Taststock und der Einsatz eines Blindenhundes die wesentlichsten Hilfsmöglichkeiten mit denen sie die Fähigkeit sich mobil zu bewegen oder irgendwie unabhängig zu reisen wieder erlangen können. In der Vergangenheit sind wesentliche Anstrengungen unternommen wor- den um den Taststock mit elektronischen Ausgestaltungen zu ergänzen oder zu ersetzen. Durch den Einsatz von Elektronik wäre eine wesentliche Kapazität zur Erfassung von Hindernis¬ sen vorhanden, bezogen auf die unmittelbare Umgebung, sowie auch zur Navigation in nicht vertrauter Umgebung, wie zu ent- fernten Zielen. The ongoing activities of the World Health Organization (WHO) put the visually impaired people in Europe at around 30 million. The loss of vision is usually support of bargains ¬ tet by decreased independence. For most of the visually impaired, the long tactile stick and the use of a guide dog are the most essential aids with which they can regain the ability to move around or somehow independent travel. Significant efforts have been made in the past to complement or replace the tactile stick with electronic designs. The use of electronics a significant capacity to capture obstacle ¬ sen would be present, based on the immediate environment as well as for navigation in unfamiliar surroundings, like corresponds away targets.
Die Anforderungen zur Orientierung in der Umgebung erfordern eine Vorrichtung zur Erfassung der Umgebung, insbesondere gefährlicher Hindernisse, und ein Verfahren zur Aufbereitung der Informationen für eine sehbehinderte Person. Insgesamt sind sehr viele Ansätze zur Informationserfassung und zur Informationsübermittlung möglich, wobei jedoch sämtliche Verfahren den Anforderungen von sehbehinderten Personen entsprechen müssen und wobei die verbleibenden Sinne nicht überbean- sprucht werden sollten. The environmental orientation requirements require a device for detecting the environment, particularly dangerous obstacles, and a method for preparing the information for a visually impaired person. Overall, a great many approaches to information gathering and information transmission are possible, but all procedures must meet the requirements of visually impaired persons and the remaining senses should not be overstretched.
In der Offenlegungsschrift WO 2006/074993 A2 wird ein System beschrieben welches einen dreidimensional auflösenden Licht- laufzeitsensor verwendet, wobei die Zeit gemessen wird die ein Lichtimpuls für den Weg von einer Puls erzeugenden Einheit des Sensors zu einem Objekt und zurück zu einer Emp¬ fangseinheit des Sensors benötigt. Zur Abdeckung des größten Teiles des Raumwinkels umfasst der Sensor eine Vielzahl von Sensorelementen welche in einer Reihe angeordnet sind um das Gesichtsfeld von sehenden Personen wiederzugeben. Innerhalb des Erfassungswinkels wird der Abstand des Objektes lediglich in einem vorbestimmten Abstandsbereich gemessen, beispiels- weise 0,5 m bis 5 m. The publication WO 2006/074993 A2 describes a system which produces a three-dimensionally resolving light. used, wherein the time is measured which requires a light pulse for the path from a pulse generating unit of the sensor to an object and back to a Emp ¬ catching unit of the sensor. To cover most of the solid angle, the sensor includes a plurality of sensor elements arranged in a row to reflect the visual field of sighted persons. Within the detection angle, the distance of the object is measured only in a predetermined distance range, for example 0.5 m to 5 m.
Anhand von Bildbearbeitungsmitteln wird das Signal ausgewertet und die relevanten Informationen werden der sehbehinderten Person zur Verfügung gestellt und beispielsweise durch einen Vibrationsaktor, eine taktile Matrix, der beispielsweise an einem Taststock angeordnet ist, signalisiert. The signal is evaluated on the basis of image processing means and the relevant information is made available to the visually impaired person and signaled, for example, by a vibration actuator, a tactile matrix, which is arranged, for example, on a feeler stick.
Dies ist eine stressfreie Art zur Informationsübertragung, da der Tastsinn in irgendeiner Form zur Erfassung irgendwelcher Hindernisse und dem entsprechend freien Weg dorthin einge- setzt werden kann. Zudem sei erwähnt, dass die Information durch einen Sprachgenerator oder einen Warnton übermittelt werden kann. This is a stress-free way of transferring information, as the sense of touch can be used in some form to detect any obstacles and the corresponding free path there. It should also be mentioned that the information can be transmitted by a voice generator or a warning tone.
Bisher müssen sehbehinderte Personen jedoch auf die Geräusche vertrauen welche durch die Gegenstände oder durch weitere Personen in der unmittelbaren Nähe generiert werden. So far, visually impaired people have to rely on the sounds that are generated by the objects or by other people in the immediate vicinity.
Der Erfindung liegt die Aufgabe zugrunde, eine sehbehinderte Person derart mit Umgebungsinformationen zu versorgen, dass die Umgebung für diese sehbehinderte Person differenzierter erscheint . The invention has for its object to provide a visually impaired person with environmental information that the environment appears more differentiated for this visually impaired person.
Gelöst wird diese Aufgabe durch die jeweilige Merkmalskombi¬ nation der unabhängig formulierten Patentansprüche. Vorteil- hafte Ausgestaltungen sind den Unteransprüchen zu entnehmen. This object is achieved by the respective feature combi nation ¬ independently formulated claims. Advantageous embodiments can be found in the subclaims.
Im Stand der Technik wird der Gesichtspunkt der Versorgung von sehbehinderten Personen mit einer realen umfassenden In- formation über den Raum und vorhandene Gegenstände, die sich in dem Raum befinden, nicht zur Verfügung gestellt. In the prior art, the aspect of the care of visually impaired persons with a real comprehensive formation over the space and existing objects that are in the room, not provided.
Die Erfindung liegt in der Kombination von dreidimensional abtastender Technologie zur 3D-Erkennung von Objekten und der Sonifikation des entsprechenden Raums. The invention lies in the combination of three-dimensional scanning technology for the 3D recognition of objects and the sonification of the corresponding space.
Die verbleibenden Sinne wie Tastsinn oder Gehör stellen jeweils eine Möglichkeit zur Übertragung der Informationen zu der sehbehinderten Person dar. Der Gehörsinn bietet eine Möglichkeit von "in den Raum hineinzuhören". Dies beruht auf dem Ansprechverhalten der Ohren auf einen Abstand, eine Richtung, auf Frequenzen oder auf Geräusche. Schallwellen die sich im Raum bewegen werden an Objekten, beispielsweise Wänden, re- flektiert oder verschwinden im Raum. Damit kann der Schall als ein Medium für die Wahrnehmung des Raumes eingesetzt werden. Sämtliche sehbehinderten Personen haben es gelernt "in den Raum hinein zu hören", und zwar wesentlich besser als sehende Personen. Damit hören sie den Raum auf "ihrem Kanal" mit der dritten Dimension. The remaining senses, such as sense of touch or hearing, each provide a means for transmitting the information to the visually impaired person. The sense of hearing offers a possibility of "listening in to the room". This is based on the ear response to a distance, direction, frequencies, or sounds. Sound waves that move in space are reflected on objects, such as walls, or disappear in space. Thus, the sound can be used as a medium for the perception of space. All visually impaired people have learned to "hear into the room," much better than sighted people. So they hear the room on "their channel" with the third dimension.
Die Erfindung beruht auf der Anordnung einer den Raum oder das Gesichtsfeld abtastenden Vorrichtung welche Abstände von der Person, insbesondere vom menschlichen Kopf, zu Objekten in dem Gesichtsfeld der Augen misst. Eine derartige Vorrich¬ tung kann beispielsweise durch die Messung der Laufzeit von Lichtimpulsen realisiert werden, die von dem Ort des menschlichen Kopfes ausgesandt und deren Rückreflexe aufgenommen werden und zur Erfassung der Rauminformation dienen. Auf die- se Art werden Objekte wie Personen, Tische, Stühle, Gläser in dem Gesichtsfeld dreidimensional mit realen Raumkoordinaten erfasst . The invention is based on the arrangement of a device scanning the room or the field of view, which measures distances from the person, in particular from the human head, to objects in the visual field of the eyes. Such Vorrich ¬ tion can be realized, for example, by measuring the duration of light pulses emitted from the location of the human head and their back reflections are recorded and used to capture the spatial information. In this way, objects such as people, tables, chairs, glasses in the field of view are captured three-dimensionally with real spatial coordinates.
In Kombination mit der dreidimensionalen Information des um- gebenden Raumes, basierend auf Daten des Abstandsmesssystem, ist ein Ton erzeugendes System vorhanden, dass den im Messbereich erfassten Raumkoordiaten virtuell Schallquellen zuordnet, zur Wandlung in binaurale/beidohrige akustische Informa- tionen in Echtzeit, so dass die sehbehinderte Person die Emp¬ findung hat, den Raum zu hören. In combination with the three-dimensional information of the surrounding space, based on data from the distance measuring system, a tone-generating system is present which virtually allocates sound coordinates to the spatial coordinates recorded in the measuring range for conversion into binaural / binaural acoustic information. functions in real time, so that the visually impaired person, the Emp ¬-making has to hear the room.
Es ist besonders vorteilhaft Kopfhörer zur Erkennung der Schallquellen einzusetzen, so dass der physiologische Aspekt, mit berücksichtigt werden kann. It is particularly advantageous to use headphones to detect the sound sources, so that the physiological aspect, can be taken into account.
Im Folgenden werden anhand von schematischen, die Erfindung nicht einschränkenden, Figuren Ausführungsbeispiele beschrie- ben: Exemplary embodiments are described below on the basis of schematic figures which do not limit the invention:
Figuren 1 A und B zeigen die Sensorik mit Sonifikation wobei eine geöffnete Tür (Figur 1A) , sowie eine geöffnete Tür mit einer Person (Fi- gur 1B) dargestellt werden, FIGS. 1A and B show the sensor system with sonification, wherein an opened door (FIG. 1A) and an opened door with a person (FIG. 1B) are represented,
Figur 2 zeigt ein Beispiel für eine binaurale Figure 2 shows an example of a binaural
Technologie mit Sonifikation, Figur 3 zeigt ein Beispiel für eine Produktges¬ taltung, insbesondere einen 3D-Sensor 4,5, Technology with sonification, Figure 3 shows an example of a Produktges ¬ taltung, in particular a 3D sensor 4.5,
Figur 4 zeigt die Darstellung einer bekannten As- sistenzvorrichtung mit flächig ausgebildetem Gesichtsfeld. FIG. 4 shows the representation of a known asistance device with a flat field of view.
In Figur 1 ist ein Stand der Technik wieder gegeben. Es wird eine sehbehinderte Person 2 dargestellt, die einen langen Blindenstock hält. Detektiert wird in einem Raum 13 eine Tür 3 in einer Wand. Sender und Empfänger sind auf einer Kopfbedeckung der sehbehinderten Person 2 angebracht und erfassen hier in einer waagerechten Ebene. Auf dem Gebiet der Schallerzeugung für Seh- und Hörhilfen gibt es Untersuchungen um künstlich erzeugten Schall dem menschlichen Wahrnehmungsvermögen bestmöglich zuzuführen. Die Kombination geeigneter Technologien zur Raumvermessung mit- tels Licht-LaufZeitmessung und die Sonifikation des Raumes, also die klangliche Repräsentation von Raumkoordinaten durch binaurale Schalltechnologie trägt zur Verbesserung der Le¬ bensqualität von sehbehinderten Personen bei und kann die so- ziale Eingliederung von sehbehinderten Personen aufgrund von verbesserter Mobilität und Wahrnehmung der Umgebung erhöhen. In Figure 1, a prior art is given again. It is shown a visually impaired person 2, who holds a long cane. Detected in a room 13, a door 3 in a wall. Transmitter and receiver are mounted on a headgear of the visually impaired person 2 and capture here in a horizontal plane. In the field of sound generation for hearing aids and hearing aids, there are examinations to supply artificially generated sound the human perception as best as possible. The combination of suitable space measurement technologies means of light propagation time measurement, and the sonication of the room, that is, the tonal representation of spatial coordinates by binaural sound technology helps improve Le ¬ quality of life of visually impaired people, and can increase the so potentials inclusion of visually impaired persons due to improved mobility and perception of the environment.
Es macht eine Verbesserung der Lebensqualität aus ein aktives Mobilitätsunterstützungssystem einzusetzen, welches eine rea- le Rauminformation anbietet wobei die Fähigkeit des Menschen "den Raum zu hören" ausgenutzt wird. It makes an improvement in the quality of life to use an active mobility support system, which provides real spatial information, taking advantage of man's ability to 'hear the room'.
In den Figuren 1A und 1B ist das Grundprinzip wider gegeben wie die Sonifikation des Raumes 13 realisiert wird. Das Ge- sichtsfeld ist hier radial vom Ort des Messsystems ausgebil¬ det. Die punktierten Linien 1 entsprechend der Figuren 1A und 1B grenzen den Bereich ein, in dem der Abstand gemessen wird. Die gemessenen Profile werden jeweils im oberen Teil der Figuren 1A und 1B in dem Kurvendiagramm wiedergegeben. Um den Raum zu sonifizieren wird ein Ton erzeugendes System zurIn Figures 1A and 1B, the basic principle is given as the sonification of the space 13 is realized. The field of view is here radially ausgebil ¬ det from the location of the measuring system. The dotted lines 1 corresponding to FIGS. 1A and 1B delimit the area in which the distance is measured. The measured profiles are respectively reproduced in the upper part of Figs. 1A and 1B in the graph. To sonify the room is a sound generating system for
Wandlung in binaurale Informationen eingesetzt. Das menschliche Gehör wird den "Raum hören" entsprechend der Fähigkeit zur Aufnahme von Richtungen und Abständen von Geräuschquellen im Dreidimensionalen. Der Betrachtungswinkel oder das Ge- sichtsfeld entspricht etwa dem der Augen der sehbehinderten Person. Am Spitzen Winkel des Gesichtsfeldes ist die Kamera¬ position 8 angeordnet. Transformation into binaural information used. The human ear will "hear the room" according to the ability to record directions and distances of three-dimensional sound sources. The viewing angle or the field of vision is approximately the same as that of the eyes of the visually impaired person. At the acute angle of the field of view, the camera ¬ position 8 is arranged.
Durch die Verwendung von Kopfhörern 15 und die Erzeugung von Schall, wodurch der Zuhörer die Schallquellen wie beschrieben in dem Diagramm identifizieren kann, können die Raumkoordinaten von der sehbehinderten Person 2 verstanden bzw. gehört werden . Die Ortsbestimmung eines Tones hängt von der Art ab wie eine Schallwelle sich bei gleicher Quelle von anderen Schallwellen unterscheiden kann, wenn sie das linke oder rechte Ohr trifft. Diese Modifizierung des Tones wird bezeichnet als "köpfbezogene Transferfunktion (human related transfer func- tion/HRTF) " . Through the use of headphones 15 and the generation of sound, whereby the listener can identify the sound sources as described in the diagram, the spatial coordinates of the visually impaired person 2 can be understood or heard. The location of a sound depends on the way a sound wave, with the same source, can be different from other sound waves when it hits the left or right ear. This modification of the sound is referred to as "human related transfer function (HRTF)".
Die HRTF beschreibt wie ein Ton durch Beugung und Reflektion- seigenschaften des Kopfes, der Ohrmuschel und des Rumpfes ge¬ filtert wird, bevor der Ton das Übertragungssystem des Trommelfells und des Innenohres erreicht. The HRTF describes how a sound diffraction and Reflektion- seigenschaften of the head, the outer ear and the hull ge ¬ is filtered out before the sound reaches the transmission system of the eardrum and the inner ear.
Im Zusammenhang mit der HRTF zeichnet sich ein schnell wach- sender Bereich für die Erzeugung von binauralen Geräuschen ab, mit Einsatzmöglichkeiten in virtuellen Umgebungen, bei der Tonwiedergabe, in der Unterhaltungsindustrie, für die Mensch/Computer-Schnittstelle, in Flugwarnsystemen und ande¬ res. Aus diesem Grund kann zur Erkennung der Schallquellen unter Verwendung von Kopfhörern dieser beschriebene physiologische Aspekt mit berücksichtigt werden. Dies geschieht durch die Erzeugung einer künstlichen HRTF die spezifisch für jede Person ist, wobei es vorteilhaft ist eine spezielle HRTF für eine typisch geformte und in der Größe ausgebildete Ohrmu- schel aufzustellen. In connection with the HRTF a rapidly growing transmitter range for the generation of binaural sound is emerging, with applications in virtual environments, the sound in the entertainment industry, for the human / computer interface in flight warning systems and at the other ¬ res. For this reason, for the detection of sound sources using headphones, this described physiological aspect can be taken into consideration. This is done by creating an artificial HRTF that is specific to each person, and it is advantageous to set up a special HRTF for a typically shaped and sized earmuff.
Die Figur 2 stellt eine mehrstufige Entwicklung dar, wobei im oberen Teil der Figur 2 dargestellt wird, wie eine Person ei¬ ne Abstandsgeräuschquelle hört, indem die Person diese ge- danklich als Geräusch 14, welches von einem bestimmten Ort im dreidimensionalen Raum 13 ausgeht, wahrnimmt. Figure 2 illustrates a multi-stage development, is being shown in the upper part of the figure 2, as a person ei ¬ ne distance sound source listening, by the person, these overall danklich as sound 14 emanating from a particular location in three-dimensional space 13, perceives.
Im mittleren Teil der Figur 2 wird das gleiche Geräusch 14 auf die Kopfhörer 15 gelegt und abgespielt. Die Person wird bemerken, dass das Geräusch sich am Ort der Ohren befindet. In the middle part of Figure 2, the same noise 14 is placed on the headphones 15 and played. The person will notice that the noise is at the location of the ears.
Im unteren Teil der Figur 2 ist dargestellt wie die HRTF in Verbindung mit der binauralen Technologie eingesetzt wird. Die binaurale Technologie basiert auf den HRTF Messungen. Da- durch wird ermöglicht die abzuspielenden Geräusche zu modifi¬ zieren. Dies geschieht derart, dass ein räumliches Gehörbild erzielt wird welches möglichst genau dem natürlichen Bild entspricht . Aufgrund der Geschwindigkeitsbedingungen und zur Einhaltung der Anforderungen zur Realzeitbearbeitung kann es vorteilhaft sein, dass lediglich zwei eindimensionale Abstandssensoran- Ordnungen an der Position des Kopfes der sehbehinderten Person platziert sind; siehe Figur 3. Eine davon tastet ledig¬ lich horizontal ab und die andere ist in einem geeigneten Winkel zum Boden ausgerichtet. Die Sensoranordnung kann hinter den Gläsern einer Brille oder in der Nähe der Ohren, sie- he Figur 3, positioniert werden. The lower part of FIG. 2 shows how HRTF is used in conjunction with binaural technology. The binaural technology is based on the HRTF measurements. DA by enabling the sound to be played to modifi ¬ grace. This is done in such a way that a spatial auditory image is achieved which corresponds as closely as possible to the natural image. Due to the speed conditions and to meet the requirements for real-time processing, it may be advantageous that only two one-dimensional Abstandssensoran- orders are placed at the position of the head of the visually impaired person; see Figure 3. One of them scans single ¬ Lich horizontally and the other is aligned at a suitable angle to the ground. The sensor arrangement can be positioned behind the glasses of a pair of glasses or in the vicinity of the ears, see FIG. 3.
Die horizontale Sensoranordnung wird sonifiziert um die seh¬ behinderte Person mit Rauminformationen zu versorgen und der angewinkelte Sensor wird zur Bildbearbeitung eingesetzt um Hindernisse zu extrahieren oder weitere Merkmale welche ge¬ fährlich sein könnten. Falls ein Hindernis erfasst wird, wird ein Warnsignal erzeugt. The horizontal sensor arrangement is sonicated to see ¬ disabled person to supply space information and the angled sensor is used for image processing to extract obstacles or other features which could be ge ¬ dangerous. If an obstacle is detected, a warning signal is generated.
Die Integration einer bekannten Navigationstechnologie wie beispielsweise die globale Positionierung, Globales Positio¬ nier System/GPS, für die geführte Navigation entlang vordefi¬ nierter Pfade oder in Richtung auf Benutzerdefinierte Ziele, ist vorteilhaft und wird im täglichen Leben von sehbehinderten Personen ein weiteres nützliches Merkmal darstellen. The integration of a known navigation technology such as global positioning, global positio ¬ neer / GPS, for guided navigation along predefi ¬ ned paths or towards Custom destinations, is advantageous and will represent another useful feature in the daily lives of visually impaired people ,
Das in Figur 3 angeführte Beispiel für eine Ausgestaltung ei¬ nes Produktes betrifft eine 3D-Sensor 4,5 , wobei jeweils ausgehend von zwei unterschiedlich positionierten Sensoren in einer Verarbeitungseinheit unterschiedliche Servicemerkmale derart verarbeitet werden, dass entsprechende Hörhilfen gene¬ riert werden. The cited in figure 3 an example of a configuration ei ¬ nes product relates to a 3D sensor 4.5, wherein different service features are processed to respectively from two different sensors positioned in a processing unit that corresponding hearing aids are generated ¬ riert.
In Figur 3 ist die Signalverarbeitung schematisch dargestellt. Ausgehend von der linken Seite der Figur 3 ist ein 3D-Sensor 4 mit einer Horizontalabtastung angedeutet, wobei der weitere 3D-Sensor 5, unterhalb dargestellt, mit einer Vertikalabtastung des Raumes ausgestattet ist. Die Auswerteeinheit 9 umfasst eine dreidimensionale Schall¬ wandlung 11, welche Daten von dem 3D-Sensor 4 aufnimmt und eine Merkmalserkennung 12, welche Daten von einem 3D-Sensor 5 erhält. Die jeweiligen Ausgangsdaten werden entsprechend Fi- gur 3 auf mindestens einen Digitalprozessor 15 gelegt, dessen Ausgangssignal zweikanalig auf Hörhilfen 6 gelegt werden. In Figure 3, the signal processing is shown schematically. Starting from the left side of FIG. 3, a 3D sensor 4 is indicated with a horizontal scanning, wherein the further 3D sensor 5, shown below, is equipped with a vertical scanning of the space. The evaluation unit 9 comprises a three-dimensional sound ¬ conversion 11, which receives data from the 3D sensor 4 and a feature recognition 12, which receives data from a 3D sensor 5. According to FIG. 3, the respective output data are applied to at least one digital processor 15 whose output signal is applied to hearing aids 6 in two channels.
Weiterhin ist in Figur 3 eine Batterie 7 angedeutet, sowie eine Datenzufuhr von einer GPS (Globales Positionier System) -Einheit mit der Übertragungsmöglichkeit auf einer Kurzstre¬ ckenfunkübertragung, wie Bluetooth oder WiFi. Furthermore, in Figure 3, a battery 7 is indicated, and a data supply from a GPS (Global Positioning System) unit with the possibility of transmission on a short sea ¬ ckenfunkübertragung, such as Bluetooth or WiFi.

Claims

Patentansprüche claims
1. Vorrichtung zur Vermittlung von Information aus einem eine sehbehinderte Person (14) zumindest teilweise umgebenden Raum (13) an die sehbehinderte Person (14), mit 1. A device for conveying information from a visually impaired person (14) at least partially surrounding space (13) to the visually impaired person (14), with
- mindestens einem Abstandsmesssystem zur dreidimensionalen Erkennung von Objekten in dem Raum (13) und  at least one distance measuring system for the three-dimensional recognition of objects in the space (13) and
- mindestens einem Vermittlungssystem zur Umsetzung mindestens einer dreidimensionalen Information an die sehbehin- derte Person, wobei mindestens ein verbleibender Sinn, wie at least one switching system for implementing at least one three-dimensional information to the visually impaired person, wherein at least one remaining sense, such as
Tastsinn oder Gehör, ansprechbar ist, Sense of touch or hearing, is responsive,
gekennzeichnet durch  marked by
eine Kombination des mindestens einen Abstandsmesssystems zur dreidimensionalen Erkennung von Objekten mit einer So- nifikation des die sehbehinderte Person (14) zumindest teilweise umgebenden Raumes (13) .  a combination of the at least one distance measuring system for the three-dimensional recognition of objects with a so-nificiation of the visually impaired person (14) at least partially surrounding space (13).
2. Vorrichtung nach Anspruch 1, 2. Apparatus according to claim 1,
dadurch gekennzeichnet, dass mindestens ein Ton erzeugendes System vorhanden ist, für eine Wandlung der mindestens einen dreidimensionalen Information in binaurale akustische Informationen . characterized in that at least one tone generating system is provided for converting the at least one three-dimensional information into binaural acoustic information.
3. Vorrichtung nach Anspruch 2, 3. Apparatus according to claim 2,
dadurch gekennzeichnet, dass das mindestens eine Ton erzeu¬ gende System derart ausgelegt ist, dass die Wandlung in Echt¬ zeit durchführbar ist. characterized in that the at least one sound erzeu ¬ ing system is designed such that the conversion in real ¬ time is feasible.
4. Vorrichtung nach einem der Ansprüche 1 bis 3, 4. Device according to one of claims 1 to 3,
dadurch gekennzeichnet, dass Kopfhörer (15) vorhanden sind, zur Sonifikation der dreidimensionalen Information an die sehbehinderte Person. characterized in that headphones (15) are provided for sonification of the three-dimensional information to the visually impaired person.
5. Vorrichtung nach einem der Ansprüche 1 bis 4, 5. Device according to one of claims 1 to 4,
dadurch gekennzeichnet, dass mindestens ein mehrdimensional auflösendes Abstandsmesssystem in einem 3D-Sensor (4,5) angeordnet ist, wobei mindestens eines davon horizontal abtastet und das mindestens eine andere zur vertikalen Abtastung aus¬ gerichtet und in Richtung auf den Boden angestellt ist. characterized in that at least one multidimensional resolution distance measuring system is arranged in a 3D sensor (4,5), at least one of which scans horizontally and that at least one other directed for vertical scanning from ¬ and employed in the direction of the ground.
6. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, dass zwei eindimensional auflösende Abstandsmesssysteme in einem 3D-Sensor (4,5) positioniert sind, wobei eines davon in Blickrichtung im Wesentlichen horizontal abtastet und das andere zur vertikalen Abtastung ausgerichtet und in Richtung nach unten angestellt ist. 6. Device according to one of the preceding claims, characterized in that two one-dimensionally resolving distance measuring systems are positioned in a 3D sensor (4,5), one of which scans substantially horizontally in the viewing direction and the other aligned for vertical scanning and in the direction at the bottom.
7. Vorrichtung nach Anspruch 6, 7. Apparatus according to claim 6,
dadurch gekennzeichnet, dass Signale des im Wesentlichen ho¬ rizontal abtastenden Abstandsmesssystems sonifiziert werden um die sehbehinderte Person akustisch mit Rauminformationen zu versorgen und das Abstandsmesssystem zur vertikalen Abtastung zur Bildbearbeitung, insbesondere zur Erkennung von Hindernissen, eingesetzt ist. characterized in that signals of the substantially ho ¬ rizontal scanning distance measuring system are sonicated to supply the visually impaired person with acoustic space information and the distance measuring system for vertical scanning for image processing, especially for the detection of obstacles used.
8. Vorrichtung nach einem der vorhergehenden Ansprüche, gekennzeichnet durch die Integration einer Navigationstechno¬ logie wie beispielsweise das Globale Positionier System /GPS, für die geführte Navigation entlang einer benutzerdefinierten Route . 8. Device according to one of the preceding claims, characterized by the integration of a Navigationstechno ¬ technology such as the Global Positioning System / GPS, for the guided navigation along a user-defined route.
9. Vorrichtung nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet dass die Auswerteeinheit (9) derart ausgelegt ist, dass sie zur Sonifikation mindestens einen di¬ gitalen Signalprozessor aufweist. 9. Device according to one of the preceding claims, characterized in that the evaluation unit (9) is designed such that it has at least one di ¬ digital signal processor for sonification.
10. Blindenbrille, welche zur Vermittlung von Umgebungsinformation aus einem eine sehbehinderte Person (14) zumindest teilweise umgebenden Raum (13) an die sehbehinderte Person (14) ausgestattet ist, mit 10. Blind glasses, which is equipped for the conveyance of environmental information from a visually impaired person (14) at least partially surrounding space (13) to the visually impaired person (14), with
- mindestens einem Abstandsmesssystem zur dreidimensionalen Erkennung von Objekten in dem Raum (13) und  at least one distance measuring system for the three-dimensional recognition of objects in the space (13) and
- mindestens einem Vermittlungssystem zur Umsetzung mindestens einer Umgebungsinformation an die sehbehinderte Per- son, wobei mindestens ein verbleibender Sinn, wie Tastsinn oder Gehör, ansprechbar ist, - at least one switching system for the implementation of at least one environment information to the visually impaired person son, whereby at least one remaining sense, such as sense of touch or hearing, can be addressed,
gekennzeichnet durch  marked by
die Kombination des mindestens einen Abstandsmesssystems zur dreidimensionalen Erkennung von Objekten mit der Soni- fikation des die sehbehinderte Person (14) zumindest teil¬ weise umgebenden Raumes (13) . the combination of the surrounding space at least one distance measuring system for three-dimensional detection of objects with the Soni- fication of the visually impaired person (14) at least in part as ¬ (13).
11. Verfahren zur Vermittlung von Umgebungsinformation aus einem eine sehbehinderte Person (14) zumindest teilweise um¬ gebenden Raum (13) an die sehbehinderte Person (14), wobei eine dreidimensionale Erfassung von Objekten in dem Raum (13) durchgeführt wird, und eine Umsetzung mindestens einer Umge¬ bungsinformation an die sehbehinderte Person geschieht, wobei mindestens ein verbleibender Sinn, wie Tastsinn oder Gehör, angesprochen wird, 11. A method for communicating environmental information from a partially sighted person (14) um¬ giving room (13) to the visually impaired person (14), wherein a three-dimensional detection of objects in the space (13) is performed, and an implementation at least one Conversely ¬ advertising information to the visually handicapped person takes place, at least a remaining sense as touch or hearing, is addressed,
dadurch gekennzeichnet, dass die dreidimensionale Erfassung von Objekten in dem Raum (13) kombiniert wird mit einer Soni- fikation des die sehbehinderte Person zumindest teilweise um- gebenden Raumes (13) . characterized in that the three-dimensional detection of objects in the room (13) is combined with a sonication of the visually impaired person at least partially surrounding space (13).
12. Verfahren nach Anspruch 11, 12. The method according to claim 11,
dadurch gekennzeichnet, dass mindestens ein Ton erzeugendes System eine Wandlung der dreidimensionalen Raumkoordinaten (13) in binaurale akustische Informationen (15) vollzieht. characterized in that at least one sound generating system performs a conversion of the three-dimensional space coordinates (13) into binaural acoustic information (15).
13. Verfahren nach einem der Ansprüche 11 oder 12, 13. The method according to any one of claims 11 or 12,
dadurch gekennzeichnet, dass die Wandlung von dreidimensiona¬ len Informationen in akustische Informationen unter Einsatz einer köpfbezogenen Transfer-Funktion (HRTF) geschieht. characterized in that the conversion of dreidimensiona ¬ len information into acoustic information using a head-related transfer function (HRTF) is done.
14. Verfahren nach Anspruch 12 oder 13, 14. The method according to claim 12 or 13,
dadurch gekennzeichnet, dass zur Wandlung eine Personen spe¬ zifische kopfbezogene Transfer-Funktion (HRTF) verwendet wird. characterized in that for converting a person spe ¬-specific head-related transfer function (HRTF) is used.
15. Verfahren nach Anspruch 13 oder 14, 15. The method according to claim 13 or 14,
dadurch gekennzeichnet, dass die Personen spezifische kopfbe zogene Transfer-Funktion (HRTF) im Wesentlichen nach Form un Größe der Ohrmuschel einer Person aufgestellt wird. characterized in that the persons specific head-based transfer function (HRTF) is set up essentially according to the shape and size of the auricle of a person.
PCT/EP2010/064257 2009-09-28 2010-09-27 Device and method for assisting visually impaired individuals, using three-dimensionally resolved object identification WO2011036288A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102009043252.3 2009-09-28
DE200910043252 DE102009043252A1 (en) 2009-09-28 2009-09-28 Device and method for assistance for visually impaired persons with three-dimensionally spatially resolved object detection

Publications (1)

Publication Number Publication Date
WO2011036288A1 true WO2011036288A1 (en) 2011-03-31

Family

ID=43608112

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2010/064257 WO2011036288A1 (en) 2009-09-28 2010-09-27 Device and method for assisting visually impaired individuals, using three-dimensionally resolved object identification

Country Status (2)

Country Link
DE (1) DE102009043252A1 (en)
WO (1) WO2011036288A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107157651A (en) * 2017-06-13 2017-09-15 浙江诺尔康神经电子科技股份有限公司 A kind of visual pattern sensory perceptual system and method based on sonic stimulation

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102013011461A1 (en) 2013-07-10 2015-01-15 Nils Niehörster Device for somatosensory transmission of pictorial representations by means of areally arranged vibrotactile actuators.
WO2021101460A1 (en) * 2019-11-20 2021-05-27 Eskisehir Teknik Universitesi Navigational assistance system with auditory augmented reality for visually impaired persons

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5470233A (en) * 1994-03-17 1995-11-28 Arkenstone, Inc. System and method for tracking a pedestrian
US6198395B1 (en) * 1998-02-09 2001-03-06 Gary E. Sussman Sensor for sight impaired individuals
WO2006074993A2 (en) 2005-01-13 2006-07-20 Siemens Aktiengesellschaft Device for relaying environmental information to a visually-impaired person
GB2441434A (en) * 2006-08-29 2008-03-05 David Charles Dewhurst AUDIOTACTILE VISION SUBSTITUTION SYSTEM e.g. FOR THE BLIND
US20090122161A1 (en) * 2007-11-08 2009-05-14 Technical Vision Inc. Image to sound conversion device

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2715831B1 (en) * 1994-02-08 1996-05-31 Farcy Rene A Autonomous system of three-dimensional perception of space in "black and white" for blind people on the basis of active optical profilometry interfaced tactually in real time.
DE10041085C2 (en) * 2000-08-22 2003-04-30 Fujitsu Siemens Computers Gmbh Portable orientation system
DE10345190A1 (en) * 2003-09-29 2005-04-21 Thomson Brandt Gmbh Method and arrangement for spatially constant location of hearing events by means of headphones

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5470233A (en) * 1994-03-17 1995-11-28 Arkenstone, Inc. System and method for tracking a pedestrian
US6198395B1 (en) * 1998-02-09 2001-03-06 Gary E. Sussman Sensor for sight impaired individuals
WO2006074993A2 (en) 2005-01-13 2006-07-20 Siemens Aktiengesellschaft Device for relaying environmental information to a visually-impaired person
GB2441434A (en) * 2006-08-29 2008-03-05 David Charles Dewhurst AUDIOTACTILE VISION SUBSTITUTION SYSTEM e.g. FOR THE BLIND
US20090122161A1 (en) * 2007-11-08 2009-05-14 Technical Vision Inc. Image to sound conversion device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107157651A (en) * 2017-06-13 2017-09-15 浙江诺尔康神经电子科技股份有限公司 A kind of visual pattern sensory perceptual system and method based on sonic stimulation

Also Published As

Publication number Publication date
DE102009043252A1 (en) 2011-03-31

Similar Documents

Publication Publication Date Title
DE10041085C2 (en) Portable orientation system
DE69522971T2 (en) Binaural synthesis, head-related transfer function, and their use
EP1619928B1 (en) Hearing aid or communication system with virtual sources
DE3612151C2 (en)
DE69821649T2 (en) DEVICE FOR GIVING SPATIAL KNOWLEDGE
DE102014221301A1 (en) Modifying an audio panorama to indicate the presence of danger or other events of interest
DE10306885A1 (en) Object detection system for a vehicle
DE102016221646A1 (en) Improved noise generation for quiet vehicles
DE102018209962A1 (en) Private audio system for a 3D-like listening experience for vehicle occupants and a method for its generation
EP3117632B1 (en) Mobile device for immersive sound experiences
DE102014009298A1 (en) Method for operating a virtual reality system and virtual reality system
WO2018172231A1 (en) Method and device for entertaining a user of a vehicle
DE102018206979A1 (en) Method for operating a hearing aid and hearing aid
WO2011036288A1 (en) Device and method for assisting visually impaired individuals, using three-dimensionally resolved object identification
DE69504957T2 (en) VISUAL AID FOR THE BLIND
EP2425270B1 (en) Apparatus and method for the binaural reproduction of audio sonar signals
DE102020208720B4 (en) Method for operating a hearing system depending on the environment
EP0484354B1 (en) Stereo headphone for the "in front" location of auditory events generated by stereo headphones
DE102019003624A1 (en) Method for transmitting an acoustic signal to a person
AT524252B1 (en) Guidance device for people with impaired vision
Ye et al. A wearable vision-to-audio sensory substitution device for blind assistance and the correlated neural substrates
DE102021208922A1 (en) Method and system for generating noises in an interior based on extracted and classified real noise sources and for specific target noises acoustically transparent vehicle comprising such a system
EP3649538A1 (en) Assembly and method for communicating by means of two visual output devices
Davies et al. Where did that sound come from? Comparing the ability to localise using audification and audition
DE102013219636A1 (en) DEVICE AND METHOD FOR TRANSFERRING A SOUND SIGNAL

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10760320

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 10760320

Country of ref document: EP

Kind code of ref document: A1