RU2504917C2 - Файл медиаконтейнера - Google Patents

Файл медиаконтейнера Download PDF

Info

Publication number
RU2504917C2
RU2504917C2 RU2011118367/07A RU2011118367A RU2504917C2 RU 2504917 C2 RU2504917 C2 RU 2504917C2 RU 2011118367/07 A RU2011118367/07 A RU 2011118367/07A RU 2011118367 A RU2011118367 A RU 2011118367A RU 2504917 C2 RU2504917 C2 RU 2504917C2
Authority
RU
Russia
Prior art keywords
camera
view
views
layout
angles
Prior art date
Application number
RU2011118367/07A
Other languages
English (en)
Other versions
RU2011118367A (ru
Inventor
Пер ФРЕЙД
Чжуанфэй У
Original Assignee
Телефонактиеболагет Лм Эрикссон (Пабл)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Телефонактиеболагет Лм Эрикссон (Пабл) filed Critical Телефонактиеболагет Лм Эрикссон (Пабл)
Publication of RU2011118367A publication Critical patent/RU2011118367A/ru
Application granted granted Critical
Publication of RU2504917C2 publication Critical patent/RU2504917C2/ru

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/65Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience
    • H04N19/67Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using error resilience involving unequal error protection [UEP], i.e. providing protection according to the importance of the data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Abstract

Изобретение относится к системам обработки многоракурсных (многовидовых) видеоданных и конкретно к файлу медиаконтейнера, содержащему такие многоракурсные видеоданные. Техническим результатом является формирование файла медиаконтейнера, содержащего важную информацию о взаимосвязи и общем размещении и расположении камер и ракурсов камер в информации многоракурсности сообщения информации дополнительного улучшения (SET). Указанный технический результат достигается тем, что файл (30) медиаконтейнера формируется посредством организации закодированных видеоданных, представляющих множество ракурсов (22-28) камер, относящихся к видеоконтенту, в качестве одной или более видеодорожек (32) в файле (30) медиаконтейнера. Представление (34) компоновки ракурсов, указывающее заранее определенное размещение и взаимосвязи позиций ракурсов (22-28) камер, выбирается среди множества разных таких заранее определенных представлений компоновки ракурсов. Идентификаторы (36) ракурсов, относящиеся к множеству ракурсов (22-28) камер, включаются в выбранное представление (34) компоновки ракурсов, при этом представление (34) компоновки ракурсов с включенными идентификаторами (36) ракурсов организуется в файле (30) медиаконтейнера в отношении, по меньшей мере, одной видеодорожки (32). 2 н. и 20 з.п. ф-лы, 22 ил.

Description

ОБЛАСТЬ ТЕХНИКИ, К КОТОРОЙ ОТНОСИТСЯ ИЗОБРЕТЕНИЕ
Настоящее изобретение в целом относится к многоракурсным видеоданным и конкретно к файлу медиаконтейнера, содержащему такие многоракурсные видеоданные.
УРОВЕНЬ ТЕХНИКИ
Происходящая в настоящее время стандартизация Кодирования Многоракурсного Видео (Multi-View Video Coding (MVC)), выполняемая Экспертной Группой по Кинематографии (MPEG) [1] и Исследовательской Группой 16 (SG16) Сектора Стандартизации Телекоммуникаций Международного Союза Электросвязи (ITU-T), является технологией кодирования видео, которая кодирует видеопоследовательности, созданные несколькими камерами или совокупностью камер. MVC эффективно использует избыточность множества видеоракурсов, чтобы обеспечить компактный поток закодированного видео. MVC основана на стандарте Улучшенного Кодирования Видео (AVC), также известного как ITU-T H.264, и поэтому синтаксис и семантика битового потока MVC были сохранены по аналогии с синтаксисом и семантикой битового потока AVC.
ISO/IEC 14496-15 [2] является международным стандартом, предназначенным содержать в себе информацию битового потока Улучшенного Кодирования Видео (AVC) в гибком и расширяемом формате, который способствует управлению битовым потоком AVC. Этот стандарт совместим с Форматом Файла MP4 [3] и Форматом Файла 3GPP [4]. Все эти стандарты являются производными Базового Формата Мультимедийного Файла ISO [5], описанного MPEG. Структура хранения видеопотоков MVC именуется форматом файла MVC.
В формате файла MVC многоракурсный видеопоток представлен в файле одной или более видеодорожками. Каждая дорожка представляет собой один или более ракурсов потока. Формат файла MVC содержит, в дополнение к самим многоракурсным видеоданным, метаданные, используемые при обработке видеоданных. Например, каждый ракурс имеет связанный с ним идентификатор ракурса, предполагающий, что все элементы Уровня Сетевых Абстракций (NAL) MVC внутри одного ракурса имеют, тем не менее, одинаковый идентификатор ракурса, т.е. одинаковое значение полей id_ракурса в расширениях заголовка элемента NAL MVC.
На сегодняшний день параметры камеры сохраняются в информации получения Многоракурсности сообщения Информации Дополнительного Улучшения (SET), которое содержится в Блоке Внешних Параметров Камеры и Блоке Внутренних Параметров Камеры. Эти параметры включают в себя векторы перемещения, обеспечивающие позицию камер и координаты фокусного расстояния камеры.
СУЩНОСТЬ ИЗОБРЕТЕНИЯ
Очень сложно, а порой даже невозможно определить взаимосвязи и общее размещение и расположение камер и ракурсов камер на основании информации, включаемой на сегодняшний день в информацию получения многоракурсности сообщения SET.
Настоящие варианты осуществления преодолевают эти и прочие недостатки мероприятий известного уровня техники.
Основная цель обеспечить формирование файла медиаконтейнера, содержащего важную информацию о размещении ракурсов камеры.
Эти и прочие цели достигаются вариантами осуществления в соответствии с тем, что определено сопроводительной формулой изобретения.
Вкратце вариант осуществления задействует формирование файла медиаконтейнера посредством организации закодированных видеоданных, представляющих множество ракурсов камер, применительно к сцене в, по меньшей мере, одной дорожке файла медиаконтейнера. Доступно множество заранее установленных представлений компоновки ракурсов, указывающих альтернативное заранее определенное размещение и взаимосвязи позиций ракурсов камеры. Выбирается представление компоновки ракурсов или представления, свойственные текущей совокупности множества ракурсов камер. Идентификаторы ракурсов, относящиеся к множеству ракурсов камер, включаются в выбранное представление компоновки ракурсов. Это представление компоновки ракурсов вместе с идентификаторами ракурсов ассоциативно организуются в файле медиаконтейнера в отношении, по меньшей мере, одной дорожки мультимедийной информации.
Представление компоновки ракурсов предоставляет высокоуровневую информацию, которая непосредственно дает наглядное понимание того, каким образом друг относительно друга скомпонованы камеры, используемые для записи многоракурсных данных, и задает любые модели размещения камер.
Варианты осуществления также относятся к устройству формирования файла медиаконтейнера и такому файлу медиаконтейнера.
КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ
Варианты осуществления совместно с их дополнительными целями и преимуществами могут быть наилучшим способом поняты посредством ссылки на нижеследующее описание, рассматриваемое вместе с сопроводительными чертежами, в которых:
фиг.1 является блок-схемой способа формирования файла медиаконтейнера, в соответствии с вариантом осуществления;
фиг.2 является схематическим примером совокупности множества камер и ракурсов камер;
фиг.3 является другим примером совокупности множества ракурсов камер;
фиг.4 является иллюстрацией варианта осуществления файла медиаконтейнера;
фиг.5 является иллюстрацией блока множества представлений компоновки ракурсов, который может включаться в файл медиаконтейнера фиг.4;
фиг.6 является блок-схемой, иллюстрирующей вариант осуществления этапов выбора и включения способа формирования на фиг.1;
фиг.7A и 7B иллюстрируют примеры представления компоновки ракурсов в виде линии;
фиг.8 является блок-схемой, иллюстрирующей другой вариант осуществления этапов выбора и включения способа формирования на фиг.1;
фиг.9A и 9B иллюстрируют примеры представления компоновки ракурсов в виде плоскости;
фиг.10 является блок-схемой, иллюстрирующей вариант осуществления этапа выбора способа формирования на фиг.1;
фиг.11 иллюстрирует пример представления компоновки ракурсов в виде прямоугольной структуры;
фиг.12 является блок-схемой, иллюстрирующей другой вариант осуществления этапа выбора способа формирования на фиг.1;
фиг.13A и 13B иллюстрируют примеры представления компоновки ракурсов в виде сферической структуры;
фиг.14 является блок-схемой, иллюстрирующей еще один другой вариант осуществления этапа выбора способа формирования на фиг.1;
фиг.15 иллюстрирует представление компоновки ракурсов в виде стереопары;
фиг.16 является блок-схемой, иллюстрирующей опциональные, дополнительные этапы способа формирования на фиг.1;
фиг.17 иллюстрирует пример представления накладывающихся ракурсов камер, которое может включаться в файл медиаконтейнера на фиг.4;
фиг.18 является принципиальной структурной схемой устройства формирования файла контейнера в соответствии с вариантом осуществления;
фиг.19 является обзором примера системы связи, в которой могут быть реализованы варианты осуществления; и
фиг.20 схематично иллюстрирует накладывающиеся ракурсы камеры.
ПОДРОБНОЕ ОПИСАНИЕ
Во всех чертежах одинаковые условные обозначения будут использоваться применительно к соответствующим или аналогичным элементам.
Настоящие варианты осуществления направлены на многоракурсные видеоданные и файл медиаконтейнера, содержащий закодированные многоракурсные видеоданные.
Многоракурсные видеоданные подразумевают, что доступно множество ракурсов камер в отношении контента, где такой ракурс камеры формирует видеоданные, отображающие контент, но только с одного из множества доступных ракурсов камер. В многоракурсном видео применительно к сцене, которая должна быть записана, предоставлено множество камер или прочего оборудования записи/создания мультимедийной информации или совокупность множества таких камер. Так как по отношению к сцене камеры имеют разные позиции и/или разные направления наведения и/или фокусные расстояния, они тем самым предоставляют альтернативные ракурсы контента. Фиг.2 схематично иллюстрирует эту идею при помощи совокупности 10 множества камер 12-18, установленных непосредственно перед сценой 5, например, футбольным полем, где разными камерами 12-18 будет записан футбольный матч. Фигура также указывает соответствующие ракурсы 22-28 камер, относящиеся к камерам 12-18. В этом иллюстративном примере камеры 12-18 установлены на разных позициях вдоль футбольного поля и тем самым записывают разные части поля. Это означает, что камеры 12-18 захватывают разные версии мультимедийного контента в соответствии с тем, что просматривается с их ракурсов 22-28 камер.
Как хорошо известно в соответствующей области техники, кодирование видеоданных, как правило, основано на предсказании соответствующих пикселей, таком как в соответствии с форматами H.261, H.263, MPEG-4 и H.264. В формате H.264 существует три используемых способа предсказания пикселя, а именно внутрикадровое, межкадровое и двунаправленное предсказание. Внутрикадровое предсказание обеспечивает пространственное предсказание текущего пиксельного блока из ранее декодированных пикселей текущего кадра. Межкадровое предсказание дает предсказание текущего пиксельного блока во времени, используя соответствующий, но смещенный пиксельный блок в ранее декодированном кадре. Двунаправленное предсказание дает средневзвешенное из двух межкадровых предсказаний. Таким образом, кадры с внутренним предсказанием не зависят от любого предшествующего кадра в видеопотоке, тогда как кадры с межкадровым предсказанием, включая такие кадры с межкадровым предсказанием, полученные двунаправленным предсказанием, используют компенсацию движения из одного или более других опорных кадров в видеопотоке.
Кодирование многоракурсного видео применяет это, основанное на предсказании, кодирование на один этап дальше, разрешая предсказание не только между кадрами одной камеры, но также и предсказание между ракурсами. Таким образом, опорным кадром для сравнения с текущим кодируемым кадром может быть тот же по времени кадр, но принадлежащий другому ракурсу камеры. Также возможно сочетание межракурсного и внутриракурсного предсказания, и получение, таким образом, множества опорных кадров из разных ракурсов камер.
На известном уровне техники и в соответствии с тем, что раскрывается в проекте стандарта MVC [6], существует ограниченный объем информации, включаемой в формат файла MVC, применительно к позициям камер по отношению к записываемой сцене. По существу информация известного уровня техники ограничивается векторами перемещения и координатами в отношении фокусного расстояния камер. Тем не менее, эта информация, по сути, не обеспечивает какое-либо наглядное указание, например, того, каким образом в целом организованы ракурсы камер, какие ракурсы камер являются соседними по отношению друг к другу или в действительности могут быть накладывающимися. В явную противоположность информация вектора и координат для каждой камеры должна извлекаться из соответствующих адресов хранения файла медиаконтейнера ракурсов камер. Извлеченные данные обрабатываются сложным, с точки зрения вычисления, алгоритмом, для того чтобы определить любые общие и локальные взаимосвязи ракурсов камер. Например, может быть достаточно трудно, а иногда даже невозможно, на основании векторов и координат, решить, организованы ли камеры в сетке на плоскости или по сферической поверхности.
Варианты осуществления снимают эти ограничения известного уровня техники посредством обеспечения явной информации о представлениях компоновки ракурсов, которая может быть извлечена непосредственно из файла медиаконтейнера, и не прибегая к сложным вычислениям.
Фиг.1 является блок-схемой, иллюстрирующей способ формирования файла медиаконтейнера в соответствии с вариантом осуществления.
Способ начинается с этапа S1, на котором предоставляются закодированные видеоданные, представляющие собой видеоконтент с множеством ракурсов камер. Это предоставление многоракурсных видеоданных на этапе S1 может быть реализовано посредством извлечения видеоданных из доступной памяти хранения мультимедийной информации, в которую ранее были загружены видеоданные. В качестве альтернативы, видеоданные принимаются от некоторого другого внешнего модуля, в котором были сохранены записанные или сформированные видеоданные. Дополнительной возможностью является фактическое создание и кодирование видеоданных, как, например, запись видеопоследовательности или искусственное формирование видеоданных.
На следующем этапе S2 предоставленные закодированные многоракурсные видеоданные организуются в качестве, по меньшей мере, одной дорожки мультимедийной информации файла медиаконтейнера. Файл медиаконтейнера может, например, быть так называемым файлом MVC или в некотором другом формате файла, который предпочтительно основан на Базовом Формате Мультимедийного Файла ISO.
Файл медиаконтейнера может рассматриваться в качестве законченного входного пакета, который используется сервером мультимедийной информации во время сеанса передачи мультимедийной информации для обеспечения видеоконтента и преобразования видеоданных в приемлемые для передачи пакеты данных. Таким образом, файл контейнера предпочтительно содержит, по сути, в дополнение к видеоконтенту информацию и инструкции, требуемые серверу мультимедийной информации для выполнения обработки и позволяющие осуществление передачи видеоконтента во время сеанса передачи мультимедийной информации.
В варианте осуществления каждый ракурс камеры имеет отдельную назначенную дорожку мультимедийной информации файла медиаконтейнера, тем самым обеспечивая однозначную взаимосвязь между числом ракурсов камер и числом дорожек мультимедийной информации. В качестве альтернативы, в одной дорожке мультимедийной информации файла медиаконтейнера могут содержаться закодированные видеоданные, по меньшей мере, двух, возможно всех, ракурсов камер. Фиг.4 схематически иллюстрирует пример файла 30 медиаконтейнера, имеющего одну или более дорожки 32 мультимедийной информации, несущие в себе закодированные многоракурсные видеоданные.
Соответствующие видеоданные множества ракурсов камер независимо от того, организованы ли они в одну или более дорожки мультимедийной информации, предпочтительно являются с назначенными соответствующими идентификаторами ракурсов, связанными с ракурсами камер.
Далее на этапе S3 способа формирования выбирают представление компоновки ракурсов применительно к многоракурсным видеоданным на основании относительных позиций множества ракурсов камер. Это представление компоновки ракурсов дополнительно выбирается среди множества заранее определенных представлений компоновки ракурсов. Эти представления компоновки ракурсов указывают разное заранее определенное размещение и взаимосвязи позиций множества ракурсов камер. Представление компоновки ракурсов может рассматриваться в качестве идентификатора конкретного общего размещения множества камер и ракурсов камер в отношении записанной сцены. Следовательно, представление компоновки ракурсов непосредственно предоставляет информацию о том, каким образом организовано множество ракурсов камер, и не требует какой-либо обработки векторов и координат камеры, для того чтобы определить текущее размещение ракурса камеры.
На этапе S3 выбирают компоновку ракурсов из набора множества заранее определенных представлений компоновок ракурсов. Это означает, что существует конечное число заранее указанных и разрешенных размещений, в соответствии с которыми могут быть организованы камеры в отношении сцены или объекта, который должен быть записан с многоракурсной настройкой. Эти заранее определенные представления компоновки ракурсов соответствуют наиболее часто используемым схемам размещения камер, которые используются при многоракурсной записи.
Примерами таких заранее определенных представлений компоновки ракурсов, которые могут использоваться, включают в себя представление компоновки ракурсов в виде линии, представление компоновки ракурсов в виде плоскости, представление компоновки ракурсов в виде прямоугольной структуры, представление компоновки ракурсов в виде сферической структуры и представление компоновки ракурсов в виде стереопары. Таким образом, набор множества заранее определенных представлений компоновки ракурсов может включать в себя все из вышеупомянутых представлений компоновки ракурсов или его подмножество, если существует несколько, т.е., по меньшей мере, два заранее определенных представления компоновки ракурсов в наборе. Тем не менее, настоящие варианты осуществления не ограничены этими конкретными представлениями компоновки ракурсов и в качестве альтернативы или в дополнение могут использовать прочие представления компоновки ракурсов, имеющие отличные размещения ракурсов камер кроме как вдоль линии, в плоскости, в прямоугольной решетке, по сфере или в качестве стереопары ракурсов.
Выбор на этапе S3 может выполняться посредством выбора одного представления компоновки ракурсов. В качестве альтернативы для текущей компоновки ракурсов камер, несомненно, может применяться и, следовательно, может выбираться на этапе S3 подмножество из множества заранее определенных представлений компоновки ракурсов. Например, ракурсы камер, размещенные, как определено представлением компоновки ракурсов в виде прямоугольной структуры, также размещены в плоскости, следовательно, также может быть выбрано представление компоновки ракурсов в виде плоскости.
На этапе S4 в выбранное представление компоновки ракурсов включаются идентификаторы ракурсов, относящиеся к множеству ракурсов камер. Таким образом, эти идентификаторы ракурсов указывают, какие ракурсы камер, что размещены в отношении записываемой сцены в соответствии со схемой размещения, указываются выбранным представлением компоновки ракурсов. Идентификаторы ракурсов предпочтительно включаются в представление компоновки ракурсов в порядке, описывающем относительный порядок позиций ракурсов камер в размещении и взаимосвязь позиций, определяемую выбранным представлением компоновки ракурсов. Таким образом, идентификаторы ракурсов, относящиеся к ракурсам камер, предпочтительно включаются в представление компоновки ракурсов в порядке, в котором ракурсы камер были позиционированы относительно сцены на схеме размещения, определяемой представлением компоновки ракурсов.
На этапе S5 выбранное представление компоновки ракурсов с включенными идентификаторами ракурсов ассоциативно организуются в файле медиаконтейнера в отношении, по меньшей мере, одной дорожки мультимедийной информации, организованной в файле на этапе S2. Под ассоциативно организованным подразумевается, что представление компоновки ракурсов включается в файл медиаконтейнера таким образом, чтобы обеспечивать привязку представления компоновки ракурсов к ракурсам камер, в отношении которых применяется представление компоновки ракурсов. Соответственно такая привязка может вместо этого быть между представлением компоновки ракурсов и закодированными многоракурсными данными, организованными в, по меньшей мере, одну дорожку мультимедийной информации.
Привязка может быть выполнена в виде указателя из адреса хранения видеоданных внутри файла медиаконтейнера на адрес хранения представления компоновки ракурсов или наоборот. Следовательно, этот указатель или метаданные позволяют, учитывая конкретные видеоданные или их местоположение внутри файла медиаконтейнера, осуществлять идентификацию привязанного представления компоновки ракурсов или адреса хранения представления компоновки ракурсов внутри файла. Вместо использования указателя метаданные могут включать в себя идентификатор видеоданных, относящийся к видеоданным, или идентификатор дорожки, относящийся к дорожке мультимедийной информации, несущей в себе многоракурсные видеоданные. Дополнительные примеры включают в себя идентификаторы ракурсов, включенные в представление компоновки ракурсов, которые позволяют идентифицировать ракурсы камер и, следовательно, видеоданные и дорожки мультимедийной информации, в отношении которых используется представление компоновки ракурсов.
Затем способ завершается. Этапы операций способа формирования могут выполняться последовательно, как проиллюстрировано на фиг.1. В качестве альтернативы, этапы с S3 по S5 могут выполняться заранее или наоборот параллельно с этапами S1 и S2.
Фиг.4 схематично иллюстрирует вариант осуществления файла 30 медиаконтейнера. Файл 30 медиаконтейнера содержит одну или более дорожки 32 мультимедийной информации, несущие в себе закодированные многоракурсные видеоданные. Представление 34 компоновки ракурсов, содержащее идентификаторы 36 ракурсов применительно к ракурсам камер, также организованы в качестве метаданных в файле 30 медиаконтейнера.
Фиг.5 иллюстрирует пример того, каким образом в файле медиаконтейнера может быть организовано представление компоновки ракурсов. В этом иллюстративном примере файл медиаконтейнера содержит блок, обозначенный как Общий Дополнительный Блок 38 Позиций Ракурсов. Этот блок 38 документирует обычно используемые позиции камер. Это в частности полезно, когда камеры и ракурсы камер сориентированы по интуитивно понятной модели, которая может быть сложной для получения из координат позиций камер. Создатель контента может использовать этот блок для выделения полезных взаимосвязей между камерами по его или ее выбору.
Общий дополнительный блок 38 позиций ракурсов на фиг.5 иллюстрирует множество заранее определенных представлений с 34A по 34E компоновки ракурсов. Таким образом, блок 38 содержит линейный блок 34A ракурсов, плоскостной блок 34B ракурсов, прямоугольный блок 34C ракурсов, сферический блок 34D ракурсов и стереоблок 34E ракурсов. Отметим, что в более реальных вариантах реализации в общий дополнительный блок 38 позиций ракурсов вместо этого могут включаться только одно или подмножество из представлений с 34A по 34E компоновки ракурсов в соответствии с тем, как это представление или эти подмножества выбраны применительно к текущей компоновке ракурсов камер.
Не накладывающим ограничений примером предоставления общего дополнительного блока 38 позиций ракурсов в файле медиаконтейнера может служить следующее:
Типы Блоков: 'gsvp'
Контейнер: Блок Фильма ('moov')
Обязательность: Нет
Количество: Ровно один
выровненный(8) класс Общий Дополнительный Блок Позиций Ракурсов
расширяет Полный блок('gsvp', версия = 0,0) {
Линейный Блок Ракурсов(); //опционально
Плоскостной Блок Ракурсов(); //опционально
Прямоугольный Блок Ракурсов(); //опционально
Сферический Блок Ракурсов(); //опционально
Стерео Блок Ракурсов(); //опционально
}
Блоки с 34A по 34E ракурсов, доступные применительно к типу блока 'gsvp', являются опциональными, подразумевая, что не все из них обязательно должны включаться в файл медиаконтейнера для заданной компоновки ракурсов камер. На фиг.5 блок 38 проиллюстрирован как имеющий не более одного блока с 34A по 34E на каждый тип представления компоновки ракурсов. Тем не менее, для некоторой совокупности камер может быть преимущественно необходимым включить несколько представлений компоновки ракурсов заданного типа, таких как несколько представлений 34A компоновки ракурсов в виде линии и/или несколько представлений 34E компоновки ракурсов в виде стереопары.
Фиг.6 является блок-схемой, иллюстрирующей вариант осуществления этапа S3 выбора и этапа S4 включения способа формирования на фиг.1. Способ продолжается с этапа S2 на фиг.1. На следующем этапе S10 выбирают, на основании относительных позиций множества ракурсов камер или множества камер, представление компоновки ракурсов в виде линии. Например, и со ссылкой на фиг.2, все ракурсы 22-28 камер скомпонованы вдоль прямой линии, и для этого размещения ракурсов камер должно быть выбрано представление компоновки ракурсов в виде линии.
Фиг.3 иллюстрирует другую группу ракурсов камер. В этом случае фактически возможно 34 варианта записи представления компоновки ракурсов в виде линии для совокупности из 16 ракурсов с 22A по 28D камер, если минимальное число ракурсов камер равно трем:
22A, 22B, 22C, 22D
28A, 28B, 28C, 28D
22C, 24C, 26C, 28C
28A, 26B, 24C, 22D
24B, 26C, 28D
28A, 26B, 24C
22A, 22B, 22C
24B, 24C, 24D
28A, 28B, 28C
24A, 26A, 28A
22C, 24C, 26C
24D, 26D, 28D
24A, 24B, 24C, 24D
22A, 24A, 26A, 28A
22D, 24D, 26D, 28D
24A, 26B, 28C
22B, 24C, 26D
26B, 24C, 22D
22B, 22C, 22D
26A, 26B, 26C
28B, 28C, 28D
22B, 24B, 26B
24C, 26C, 28C
26A, 26B, 26C, 26D
22B, 24B, 26B, 28B
22A, 24B, 26C, 28D
22A, 24B, 26C
26A, 24B, 22C
28B, 26C, 24D
24A, 24B, 24C
26B, 26C, 26D
22A, 24A, 26A
24B, 26B, 28B
22D, 24D, 26D
В предпочтительном варианте осуществления число ракурсов камер, рассматриваемых как находящиеся на прямой линии, составляет, по меньшей мере, 3, как в примере выше.
На опциональном следующем этапе S11 выбирают версию линейности из первой версии линейности и второй версии линейности. Эти несколько версий линейности определяют разные способы организации идентификаторов ракурсов применительно к, предпочтительно, по меньшей мере, трем ракурсам камер, размещенным на прямой линии. Выбор на этапе S11 версии линейности выполняется на основании относительных позиций множества ракурсов камер. Если на этапе S11 выбрана первая версия V1 линейности, то способ переходит к этапу S12. На этапе S12 в представление компоновки ракурсов в виде линии включают все идентификаторы ракурсов, относящиеся к ракурсам камер, размещенных вдоль прямой линии. Таким образом, ракурсы камер предоставляются в правильном порядке по мере их размещения вдоль линии. Например, 22A, 24B, 26C, 28D на фиг.3, если с 22A по 28D представляют собой идентификаторы ракурсов, относящиеся к ракурсам камер.
Тем не менее, если на этапе S11 выбирается вторая версия V0 линейности, то на этапе S13 в представление компоновки ракурсов в виде линии включают идентификатор начального ракурса и опционально приращение идентификатора. Этот способ представления идентификаторов ракурсов будет более эффективным с точки зрения общего размера битов, отводимых на идентификаторы ракурсов. Тем не менее, вторая версия линейности допустима, только если ракурсы камер организованы так, что их идентификаторы ракурсов будут соответствовать id_начального_ракурса, id_начального_ракурса + приращение_id, id_начального_ракурса + 2хприращение_id, id_начального_ракурса + 3хприращение_id, …, где id_начального_ракурса является идентификатором ракурса, относящимся к ракурсу камеры с наименьшим идентификатором ракурса среди серии выстроенных в линию ракурсов камер, а приращение_id является приращением идентификатора. В некоторых приложениях приращение идентификатора может быть заранее заданным значением, таким как единица, тем самым исключая требование об указании какого-либо приращения идентификатора в линейном блоке ракурсов. Затем способ переходит к этапу S5 на фиг.1.
Фиг.7A иллюстрирует первый пример линейного блока 34A ракурсов, если на этапе S11 на фиг.6 была выбрана первая версия линейности. Линейный блок 34A ракурсов содержит идентификатор 31 версии, имеющий значение, связанное с первой версией линейности. Идентификаторы 36A ракурсов, расположенных в линию ракурсов камер, также включаются в линейный блок 34A ракурсов.
Фиг.7B иллюстрирует соответствующий линейный блок 34A ракурсов, если на этапе S11 на фиг.6 наоборот была выбрана вторая версия линейности. Линейный блок 34A ракурсов содержит идентификатор 31 версии линейности, идентификатор 36B начального ракурса и, опционально, приращение 36C идентификатора, упомянутые выше. Идентификатор 36B начального ракурса и приращение 36C идентификатора являются представлениями идентификаторов ракурсов, относящихся к расположенным на одной линии ракурсам камер, и могут использоваться для вычисления ракурсов камеры в соответствии с id_ракурса = id_начального_ракурса + kxприращение_id, где k=0, 1, 2, …, количество_ракурсов-1, а количество_ракурсов является целочисленным количеством, которое указывает количество последовательных расположенных на одной линии ракурсов камеры.
Несмотря на то, что не проиллюстрировано на фиг.7A и 7B, линейный блок 34A ракурсов также может содержать количество_ракурсов, т.е. общее число ракурсов камер, расположенных на прямой линии. Тем не менее, это не является обязательным, так как размер поля, содержащегося в структуре блока/полного блока, дает указание на то, какое количество записей ракурсов содержится в блоке. Всегда можно разделить размер на число битов, занятых каждым ракурсом, чтобы получить общее число ракурсов.
Линейный блок 34A ракурсов может быть определен в соответствии со следующим:
Типы Блоков: 'ilvi'
Контейнер: Общий Дополнительный Блок Позиций Ракурсов ('gsvp')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Линейный Блок Ракурсов расширяет Полный блок('ilvi', версия, 0) {
если(версия==1){
для(i=0;;i++{ //до конца блока
беззнаковая int(6) зарезервированная1=0;
беззнаковая int(10) id_ракурса;
}
{иначе{
беззнаковая int(6) зарезервированная2=0;
беззнаковая int(10) id_начального_ракурса;
беззнаковая int(16) количество_ракурсов
беззнаковая int(16) приращение_id
}
}
Семантика
версия является целочисленным значением, указывающим версию линейности применительно к линейному блоку ракурсов.
id_ракурса является идентификатором ракурса камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса в документе [6].
id_начального_ракурса является идентификатором ракурса применительно к ракурсу камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса, который является наименьшим id_ракурса среди серий, расположенных на одной линии ракурсов камер.
количество_ракурсов является целочисленным значением, которое вычисляет число последовательных расположенных на одной линии ракурсов камер.
приращение_id является приращением идентификатора.
Отметим, что одно представление компоновки ракурсов может содержать множество линейных блоков ракурсов, как указано выше и рассматривалось применительно к фиг.3.
В альтернативном варианте осуществления доступна первая версия линейности. Таким образом, этапы S11 и S13 могут быть пропущены, и линейные блоки ракурсов соответствуют тем, что проиллюстрированы на фиг.7A. Второй альтернативой является разрешение только второй версии линейности. Таким образом, могут быть пропущены этапы S11 и S12, и линейные блоки ракурсов соответствую тем, что проиллюстрированы на фиг.7B.
В других вариантах осуществления представление компоновки ракурсов также содержит информацию, указывающую, является ли прямая линия расположенных в одну линию ракурсов камер горизонтальной линией, вертикальной линией или наклонной линией.
Фиг.8 является блок-схемой, иллюстрирующей вариант осуществления этапа S3 выбора и этапа S4 включения на фиг.1. Способ продолжается с этапа S2 на фиг.1. На следующем этапе S20 выбирают, на основании относительных позиций множества ракурсов камер, представление компоновки ракурсов в виде плоскости. Это представление компоновки ракурсов выбирается, если группа ракурсов камер или камеры размещены в плоскости. Число ракурсов камер в группе предпочтительно не менее трех. Все ракурсы с 22A по 28D камер, проиллюстрированные на фиг.3, лежат в плоскости, и поэтому для группы ракурсов с 22A по 28D может быть выбрано представление компоновки ракурсов в виде плоскости.
На следующем опциональном этапе S21 выбирают между первой версией плоскости ракурсов и второй версией плоскости ракурсов в соответствии со случаем с представлением компоновки ракурсов в виде линии. Выбор на этапе S21 выполняется на основании относительных позиций множества ракурсов камер. Если на этапе S21 выбирается первая версия V1 плоскости, то на этапе S22 в представление компоновки ракурсов в виде плоскости включают все идентификаторы ракурсов, относящиеся к ракурсам камер, выровненным по плоскости. Этот этап S22 по существу выполняется, как и этап S12 на фиг.6, за исключением того, что множество ракурсов камер выровнены по плоскости, а не только по прямой линии. Предпочтительно идентификаторы ракурсов включаются в порядке, полученном посредством перехода по ракурсам камер в плоскости в соответствии с заранее определенной схемой сканирования, такой как начиная с верхнего левого ракурса камеры и дальнейшего сканирования по первому ряду и затем переходя ко второму ряду и т.д. Другие возможные порядки сканирования, которые могут использоваться, включают в себя зигзагообразный порядок сканирования. В таком случае это означает, что матрица, содержащая, например, 3x3 камер или ракурсы камер, может сканироваться в порядке (1,1), (1,2), (2,1), (3,1), (2,2), (1,3), (2,3), (3,2) и (3,3) при записи (ряд, столбец). Дополнительным примером является чересстрочный порядок сканирования.
Если вместо этого на этапе S22 выбирается вторая версия V0 плоскости, то на этапе S23 в представление компоновки ракурсов в виде плоскости включают идентификатор начального ракурса, опционально и в случае, если не фиксировано, то приращение идентификатора. Этот этап S23 по существу выполняется, как и этап S13 на фиг.6. Затем способ переходит к этапу S5 на фиг.1.
Фиг.9A иллюстрирует плоскостной блок 34B ракурсов, т.е. представление компоновки ракурсов в виде плоскости, для первой версии плоскости. Плоскостной блок 34B ракурсов содержит идентификатор 31 версии и все идентификаторы 36A ракурсов, относящиеся к ракурсам камер, выровненных по плоскости. Фиг.9B иллюстрирует плоскостной блок 34B ракурсов, если идентификатор 31 сигнализирует вторую версию плоскости. Плоскостной блок 34B ракурсов в этом случае содержит идентификатор 36B начального ракурса и, опционально, приращение 36С идентификатора. Плоскостной блок 34B ракурсов опционально содержит информацию, т.е. количество_ракурсов, относящуюся к количеству ракурсов камер, выровненных по плоскости.
Аналогично представлению компоновки ракурсов в виде линии в альтернативном варианте осуществления доступна только первая версия плоскости или только вторая версия плоскости.
Плоскостной блок ракурсов может быть определен в соответствии со следующим:
Типы Блоков: 'plvi'
Контейнер: Общий Дополнительный Блок Позиций Ракурсов ('gsvp')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Плоскостной Блок Ракурсов расширяет Полный блок('plvi', версия, 0) {
если(версия==1){
для(i=0;;i++{ //до конца блока
беззнаковая int(6) зарезервированная1=0;
беззнаковая int(10) id_ракурса;
}
{иначе{
беззнаковая int(6) зарезервированная2=0;
беззнаковая int(10) id_начального_ракурса;
беззнаковая int(16) количество_ракурсов
беззнаковая int(16) приращение_id
}
}
Семантика
версия является целочисленным значением, указывающим версию плоскости применительно к плоскостному блоку ракурсов.
id_ракурса является идентификатором ракурса камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса в документе [6].
id_начального_ракурса является идентификатором ракурса применительно к ракурсу камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса, который является наименьшим id_ракурса среди серий последовательных ракурсов камер, размещенных в плоскости.
количество_ракурсов является целочисленным значением, которое вычисляет количество последовательных выровненных по плоскости ракурсов камер.
приращение_id является приращением идентификатора.
Фиг.10 является блок-схемой, иллюстрирующей вариант осуществления этапа S3 выбора на фиг.1. Способ продолжается с этапа S2 на фиг.1. На следующем этапе S30 выбирают представление компоновки ракурсов в виде прямоугольной структуры на основании относительных позиций множества ракурсов камер. Такое представление компоновки ракурсов в виде прямоугольной структуры приемлемо для представления группы ракурсов камер или камер, которые образуют на плоскости прямоугольную решетку или сетку. Число ракурсов камер в группе предпочтительно не менее четырех, и ракурсы камер предпочтительно равноудалены друг от друга в повторяющейся модели. Фиг.3 иллюстрирует группу ракурсов с 22A по 28D камер, скомпонованных в прямоугольной структуре.
На следующем этапе S31 в представление компоновки ракурсов в виде плоскости включают представление количества рядов и представление количества столбцов прямоугольной структуры ракурсов камер. На этапе S32 определяются представления расстояния между последовательными рядами и последовательными столбцами в прямоугольной структуре ракурсов камер и включаются в представление компоновки ракурсов в виде прямоугольной структуры. Способ переходит к этапу S4 на фиг.1, на котором идентификаторы ракурсов, относящиеся к ракурсам камер в прямоугольной структуре, включаются в представление компоновки. Идентификаторы ракурсов предпочтительно включаются в порядке определенном упомянутой выше схемы сканирования.
Фиг.11 является схематической иллюстрацией прямоугольного блока 34C ракурсов, т.е. представления компоновки ракурсов в виде прямоугольной структуры в соответствии с вариантом осуществления. Прямоугольный блок 34С ракурсов содержит представления 35A, 35B количества рядов и столбцов в прямоугольной структуре и представления 37A, 37B расстояний между последовательными рядами и последовательными столбцами. Идентификаторы 36A ракурсов, относящиеся к ракурсам камер, организованным в прямоугольную структуру, также включаются в прямоугольный блок 34C ракурсов.
Применительно к прямоугольному блоку 34С ракурсов также альтернативно может использоваться выбор между двумя версиями прямоугольности аналогично линейному и плоскостному блокам ресурсов. Кроме того, вместо однозначного списка всех идентификаторов 36A ракурсов, относящихся к ракурсам камер, для обеспечения неявного списка идентификаторов ракурсов могут использоваться идентификатор начального ракурса и, опционально, приращение идентификатора.
Прямоугольный блок 34C ракурсов может быть представлен в файле медиаконтейнера в соответствии с нижеследующим:
Типы Блоков: 'rtvi'
Контейнер: Общий Дополнительный Блок Позиций Ракурсов ('gsvp')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Прямоугольный Блок Ракурсов расширяет Блок('rtvi') {
беззнаковая int(32) количество_рядов_ракурсов;
беззнаковая int(32) интервал_рядов;
беззнаковая int(32) количество_столбцов_ракурсов;
беззнаковая int(32) интервал_столбцов;
для (i=0; i<количество_рядов_ракурсов; i++){
для (j=0; j<количество_столбцов_ракурсов; j++){
беззнаковая int(6) зарезервированная=0;
беззнаковая int(10) id_ракурса[i][j];
}
}
}
Семантика
количество_рядов_ракурсов указывает количество рядов в прямоугольной структуре.
интервал_рядов обозначает расстояние между рядами в прямоугольной структуре.
количество_столбцов_ракурсов указывает количество столбцов в прямоугольной структуре.
интервал_столбцов обозначает расстояние между столбцами в прямоугольной структуре.
id_ракурса[i][j] является идентификатором ракурса камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса в документе [6].
Фиг.12 является блок-схемой, иллюстрирующей вариант осуществления этапа S3 выбора и этапа S4 включения на фиг.1. Способ продолжается с этапа S2 на фиг.1. Далее на этапе S40 выбирают представление компоновки ракурсов в виде сферической структуры на основании относительных позиций множества ракурсов камер. Это представление компоновки доступно для группы ракурсов камер или камер, расположенных по сферической поверхности. Ракурсы камер могут, например, предоставляться по окружности сферы, т.е. по существу позиционироваться по границе круга, центрированного по центру сферы и имеющего точно такой же радиус. Также возможны более сложные варианты осуществления, где ракурсы камер расположены по части сферической поверхности. В целом, число ракурсов камер предпочтительно не менее четырех.
Далее на этапе S41 на фиг.12 включают информацию о радиусе и координатах центра сферы в представление компоновки ракурсов в виде сферической структуры. В опциональном варианте осуществления, как и для представлений компоновки ракурсов в виде линии и в виде плоскости, доступны две версии сферы. На этапе S42 выбирают версию сферы для использования применительно к текущей группе ракурсов камер на основании относительных позиций ракурсов камер. Если выбрана первая версия сферы, то на этапе S43 все идентификаторы ракурсов камер из группы явно включаются в представление компоновки ракурсов в виде сферической структуры. Тем не менее, если вместо этого выбрана вторая версия сферы, то идентификатор начального ракурса и опционально приращение идентификатора включаются в дополнение к информации об общем числе ракурсов камер в группе.
После этого способ переходит к этапу S5 на фиг.1.
В альтернативных вариантах осуществления доступны только одна из первой версии сферы и второй версии сферы.
Фиг.13A иллюстрирует сферический блок 34D ракурсов в соответствии с первой версией сферы. Сферический блок 34D ракурсов содержит информацию о радиусе 39A и координатах 39B центра сферы в дополнение к идентификатору 31 версии сферы ракурсов. Ракурсы 36A камер явно перечислены в сферическом блоке ракурсов при этой версии сферы.
Фиг.13B иллюстрирует сферический блок 34D ракурсов в соответствии со второй версией сферы. Вместо явного перечисления идентификаторов ракурсов сферический блок 34D содержит идентификатор 36B начального ракурса и опционально приращение идентификатора, если оно не зафиксировано как, например, равное единице или другому целому числу.
Сферический блок ракурсов может быть определен в файле медиаконтейнера в соответствии с нижеследующим:
Типы Блоков: 'spvi'
Контейнер: Общий Дополнительный Блок Позиций Ракурсов ('gsvp')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Сферический Блок Ракурсов расширяет Полный Блок('spvi') {
беззнаковая int(32) радиус;
беззнаковая int(32) центр_сферы[3];
если (версия==1){
для (i=0;;i++){ //до конца блока
беззнаковая int(6) зарезервированная1=0;
беззнаковая int(10) id_ракурса;
}
} иначе {
беззнаковая int(6) зарезервированная2=0;
беззнаковая int(10) id_начального_ракурса;
беззнаковая int(16) количество_ракурсов
беззнаковая int(16) приращение_id
}
}
Семантика
версия является целочисленным значением, указывающим версию сферы применительно к сферическому блоку ракурсов.
радиус указывает радиус сферы в компоновке ракурсов в виде сферической структуры.
центр_сферы является координатой центральной точки сферы.
id_ракурса является идентификатором ракурса камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса в документе [6].
id_начального_ракурса является идентификатором ракурса применительно к ракурсу камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса, который является наименьшим id_ракурса среди серий последовательных ракурсов камер, размещенных по сферической поверхности.
количество_ракурсов является целочисленным значением, которое вычисляет число последовательных выровненных по сферической поверхности ракурсов камер.
приращение_id является приращением идентификатора.
Фиг.14 является блок-схемой, иллюстрирующей вариант осуществления этапа S3 выбора на фиг.1. Способ продолжается с этапа S2 на фиг.1. На этапе S50 выбирают представление компоновки ракурсов в виде стереопары на основании относительных позиций множества ракурсов камер. Эта компоновка ракурсов в виде стереопары указывает пару ракурсов камер, которые могут использоваться для визуализации трехмерного (3D) видео. Вследствие этого ракурсы камер имеют расстояние между собой, равное расстоянию между левым и правым глазом человека, и углы фокусировки, которые приемлемы для визуальной системы человека.
Способ переходит с этапа S50 к этапу S4 на фиг.1, где идентификаторы ракурсов для левого ракурса камеры и правого ракурса камеры включаются в представление компоновки ракурсов в виде стереопары.
Фиг.15 схематично иллюстрирует вариант осуществления стереоблока 34E ракурсов, т.е. представления компоновки ракурсов в виде стереопары. Стереоблок ракурсов содержит упомянутые выше идентификаторы 36D, 36E левого и правого ракурсов камер, формирующих стереопару ракурсов.
Стереоблок 34E ракурсов может быть реализован в соответствии с нижеследующим:
Типы Блоков: 'stvi'
Контейнер: Общий Дополнительный Блок Позиций Ракурсов ('gsvp')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Стерео Блок Ракурсов расширяет Блок('stvi') {
беззнаковая int(6) зарезервированная1=0;
беззнаковая int(10) id_левого_ракурса;
беззнаковая int(6) зарезервированная2=0;
беззнаковая int(10) id_правого_ракурса;
}
Семантика
id_левого_ракурса является идентификатором ракурса применительно к ракурсу камеры в соответствии с тем, что указывается в Блоке Идентификатора Ракурса в документе [6], и который может использоваться в качестве ракурса левого глаза.
id_правого_ракурса соответствующий идентификатор ракурса, который может использоваться в качестве ракурса правого глаза.
Как рассматривалось выше, заданной группе множества ракурсов камер может быть назначено множество представлений компоновки ракурсов. В таком случае множество представлений компоновки ракурсов может быть одного и того же типа или разных типов. Например, размещению ракурсов камер, проиллюстрированному на фиг.3, потенциально может быть назначено 34 разных представления компоновки ракурсов в виде линии, представление компоновки ракурсов в виде плоскости, представление компоновки ракурсов в виде прямоугольной структуры и возможно одно или более представления компоновки ракурсов в виде стереопары.
Таким образом, определения заранее определенных представлений компоновки ракурсов, рассмотренные выше, не являются единственными. Например, компоновка ракурсов в виде прямоугольной структуры также является компоновкой ракурсов в виде плоскости, но обратное не обязательно верно. Это задача поставщика контента, создающего файл медиаконтейнера, указать компоновку ракурсов или компоновки ракурсов, которые он или она считают наиболее важными или соответствующими текущей компоновке ракурсов камер. Создатель контента может дополнительно выбрать тип представления или представлений компоновки контента на основании конкретной сцены, записываемой множеством камер. Например, в сцене с ведущим новостей более преимущественной может быть компоновка ракурсов в виде сферической структуры. Соответственно, в состязаниях в беге, таких как бег на 100 метров, хорошим выбором будет компоновка ракурсов в виде линии, в то время как компоновки ракурсов в виде плоскости или прямоугольной структуры могут использоваться при охвате крупномасштабных сцен, таких как сражения или церемонии Олимпийских игр.
В дополнение к представлению компоновки ракурсов, выбранной для представления общей компоновки множества ракурсов камер, используемых для формирования многоракурсных видеоданных, включаемых в файл медиаконтейнера, файл медиаконтейнера также содержит информацию, описывающую локальные взаимосвязи ракурсов камер. Примерами таких локальных взаимосвязей является указание соседних ракурсов, т.е. наиболее близкого по расстоянию ракурса камеры по отношению к текущему ракурсу камеры, и накладывающихся ракурсов, т.е. ракурсов камер, которые имеют накладывающиеся зоны контента.
В таком случае файл медиаконтейнера может содержать так называемый локальный дополнительный блок 40 позиций ракурсов, как проиллюстрировано на фиг.17. Локальный дополнительный блок 40 позиций ракурсов может быть реализован в файле медиаконтейнера в соответствии с нижеследующим:
Типы Блоков: 'lsvp'
Контейнер: Локальный Дополнительный Блок Контейнера Позиций Ракурсов ('lvpc')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Локальный Дополнительный Блок Позиций Ракурсов расширяет Полный Блок('lsvp', версия=0, 0) {
Блок Идентификатора Локальной Позиции Ракурса(); //обязательный
Блок Соседних Ракурсов(); //опциональный
Блок Наложения Ракурсов(); //опциональный
}
В этом иллюстративном примере локальный дополнительный блок 40 позиций ракурсов предоставляется в локальном дополнительном блоке контейнера позиций ракурсов, выполненном в файле медиаконтейнера. Локальный дополнительный блок контейнера позиций ракурсов может быть реализован в соответствии с нижеследующим:
Типы Блоков: 'lvpc'
Контейнер: Простая Запись ('avc1', 'avc2', 'mvc1')
Обязательность: Нет
Количество: ноль или более
выровненный(8) класс Локальный Дополнительный Блок Контейнера Позиций Ракурсов расширяет Полный Блок('lsvp', версия=0, 0) {
Локальный Дополнительный Блок Позиций Ракурсов(); //опциональный
}
В качестве альтернативы, локальный дополнительный блок контейнера позиций ракурсов может быть опущен.
Локальный дополнительный блок 40 позиций ракурсов содержит блок 50 идентификатора локальной позиции ракурса, который указывает идентификатор 51 ракурса одного из ракурсов камер, который рассматривается в качестве базового ракурса. Таким образом, локальный дополнительный блок 50 позиций ракурсов может быть реализован в качестве:
Типы Блоков: 'lpvi'
Контейнер: Локальный Дополнительный Блок Позиций Ракурсов ('lsvp')
Обязательность: Да
Количество: Ровно один
выровненный(8) класс Блок Идентификатора Локальной Позиции Ракурса расширяет Блок('lpvi') {
беззнаковая int(6) зарезервированная=0;
беззнаковая int(10) id_ракурса;
}
Семантика
id_ракурса является идентификатором ракурса применительно к ракурсу камеры, чья информация соседства и/или наложения может предоставляться прочими блоками, которые содержатся в локальном дополнительном блоке позиций ракурсов.
Опциональный блок 70 соседних ракурсов содержит идентификатор или идентификатор 71 ракурсов применительно к ракурсу или ракурсам камер, находящимся наиболее близко с точки зрения расстояния по отношению к базовому ракурсу камеры, идентифицируемому в блоке 50 идентификатора локальной позиции ракурса. Блок 70 соседних ракурсов может быть реализован в соответствии с нижеследующим:
Типы Блоков: 'advi'
Контейнер: Локальный Дополнительный Блок Позиций Ракурсов ('lsvp')
Обязательность: Нет
Количество: Ноль или один
выровненный(8) класс Блок Соседних Ракурсов расширяет Блок('advi') {
для (i=0;;i++) { //до конца блока
беззнаковая int(6) зарезервированная=0;
беззнаковая int(10) id_ракурса;
}
}
Семантика
id_ракурса является идентификатором ракурса применительно к ракурсу камеры, который является соседним по отношению к ракурсу камеры, идентифицируемому в блоке 50 идентификатора локальной позиции ракурса.
Соседство ракурсов является определением физических позиций наиболее близко расположенных камер. Оно относится к позициям камер, но не относится к тому, какую сцену или объект снимает камера. Если две камеры из группы, состоящей из более чем двух камер, являются наиболее близкими в отношении расстояния, они могут быть классифицированы как соседние камеры, даже несмотря на то, что они могут снимать в разных, даже противоположных направлениях.
В явной противоположности к соседству ракурсов наложение ракурсов является представлением в отношении контента, которое определяет, что ракурсы камер из, по меньшей мере, двух камер являются накладывающимися, по меньшей мере, частично. В таком варианте осуществления, представление накладывающихся ракурсов камер организуется в файле медиаконтейнера.
Фиг.16 является блок-схемой, иллюстрирующей вариант осуществления, по обеспечению такого представления наложения ракурсов. Способ продолжается с этапа S5 на фиг.1. Со ссылкой на фиг.16 и 17 на следующем этапе S60 ассоциативно организуют представление 40 накладывающихся ракурсов камер в файле медиаконтейнера в отношении, по меньшей мере, одной дорожки мультимедийной информации. На этапе S61 идентификатор 51 ракурса, относящийся к ракурсу камеры, выбранный в качестве идентификатора базового ракурса, включается в представление 40 накладывающихся ракурсов камер, предпочтительно как включенный в блок 50 идентификатора локальной позиции ракурса.
На этапе S62 идентификатор или идентификаторы 61 ракурсов, относящиеся к ракурсу или ракурсам камер, которые накладываются, по меньшей мере, частично на базовый ракурс камеры, включаются в представление 40. На фиг.2, если ракурс 22 камеры выбран в качестве базового ракурса камеры, то ракурс 24 камеры будет накладывающимся ракурсом камеры. Соответственно, если наоборот ракурс 24 камеры является базовым ракурсом камеры, то как ракурс 22 камеры, так и ракурс 26 камеры будут накладывающимися ракурсами.
Расстояние между объектом или сценой и снимающими камерами приводит к разным зонам наложения. Например, две камеры могут записывать офицера полиции. Если офицер полиции стоит достаточно близко перед двумя камерами, то тогда возможно, что левая камера захватывает левую руку, а правая камера захватывает правую руку. В этом случае между двумя ракурсами камер нет зоны наложения. Если вместо этого офицер полиции стоит достаточно далеко, то обе камеры могут захватывать все изображение офицера полиции, и, следовательно, зоны экрана камеры, в которых стоит офицер полиции, принадлежат к зоне наложения.
Как следствие, на этапе S63 предпочтительно определяется и включается в представление 40 расстояние 62 до объекта, указывающее расстояние между камерами и объектом общих интересов.
Со ссылкой на фиг.16, 17 и 20, для того чтобы определить, каким образом накладывающийся ракурс 24 накладывается на базовый ракурс 22 камеры, на этапе S64 в представление 40 включается информация 63, 64 смещения, указывающая соответственно горизонтальное смещение 83 и вертикальное смещение 84. Размер накладывающейся области определяется посредством информации 65, 66 размера, предпочтительно шириной 85 и высотой 86 накладывающейся области. На этапе S65 информация 65, 66 размера включается в представление 40.
На фиг.17 информация, относящаяся к накладывающимся областям и ракурсам камер, предоставляется в блоке 60 наложения ракурсов, включаемом в локальный дополнительный блок 40 позиций ракурсов. Блок 60 наложения ракурсов может быть реализован в соответствии с нижеследующим:
Типы Блоков: 'olvi'
Контейнер: Локальный Дополнительный Блок Позиций Ракурсов ('lsvp')
Обязательность: Нет
Количество: Ноль или один
выровненный(8) класс Блок Наложения Ракурсов расширяет Блок('spvi') {
беззнаковая int(6) зарезервированная=0;
беззнаковая int(10) id_ракурса;
беззнаковая int(1) динамическое_наложение;
беззнаковая int(7) зарезервированная=0;
беззнаковая int(32) расстояние_до_объекта;
если(динамическое_наложение==0){
беззнаковая int(16) горизонтальное_смещение;
беззнаковая int(16) вертикальное_смещение;
беззнаковая int(16) ширина_области;
беззнаковая int(16) высота_области;
}
}
Семантика
id_ракурса является идентификатором ракурса камеры, который накладывается на ракурс камеры, идентифицируемый в блоке 50 идентификатора локальной позиции ракурса.
динамическое_наложение равно 1, чтобы указывать, что область, представленная текущим слоем, является динамически изменяемой прямоугольной частью базовой области. В противном случае, т.е. равно 0, область, представленная текущим слоем, является фиксированной прямоугольной частью базовой области.
расстояние_до_объекта указывает расстояние между камерами и объектом общих интересов. Если оно имеет значение 0, то информация в отношении областей наложения отсутствует, и область наложения принимает значение по умолчанию, предполагающее расстояние до объекта, например, на расстоянии в 100 единиц.
горизонтальное_смещение и вертикальное_смещение задают соответственно горизонтальное и вертикальное смещения верхнего левого пикселя прямоугольной области, представляемой ракурсом камеры, по отношению к верхнему левому пикселю базовой области, представляемой базовым ракурсом камеры, в единицах яркости базовой области.
ширина_области и высота_области задают соответственно ширину и высоту прямоугольной области, представляемой ракурсом камеры, в единицах яркости базовой области.
Локальный дополнительный блок 40 позиций ракурсов может содержать ни одного, один или множество блоков 70 соседних ракурсов в зависимости от числа наиболее близких соседних ракурсов камер и в зависимости от того, рассматривается ли создателем контента эта информация как ценная и по этой причине должна быть включена в локальный дополнительный блок 40 позиций ракурсов. Соответственно, в локальном дополнительном блоке 40 позиций ракурсов может использоваться ни один, один или множество блоков 60 наложения ракурсов в соответствии с тем, что определяется на основании числа накладывающихся ракурсов камер. Также отметим, что файл медиаконтейнера может содержать ни одного, один или множество локальных дополнительных блоков позиций ракурсов.
Информация, включаемая в локальный дополнительный блок позиций ракурсов, может рассматриваться как дополнительная или добавочная информация, которая может быть интересной в дополнение к общей информации ракурсов, обеспечиваемой представлениями компоновки ракурсов. В альтернативном подходе локальный дополнительный блок позиций ракурсов используется и включается в файл медиаконтейнера без необходимости выбора и включения какого-либо представления компоновки ракурсов.
Фиг.18 является принципиальной структурной схемой устройства для формирования файла медиаконтейнера в соответствии с вариантом осуществления. Устройство 100 содержит модуль 120 организации дорожек, выполненный с возможностью организации закодированных видеоданных, представляющих множество ракурсов камер применительно к видеоконтенту, в, по меньшей мере, одну дорожку мультимедийной информации файла медиаконтейнера. Модуль 120 организации дорожек может быть соединен с внешней или внутренней машиной мультимедийной информации, содержащей оборудование 12-18 для записи или формирования видеоданных, относящихся к множеству ракурсов камер, и кодировщик 190 для кодирования записанных или сформированных видеоданных. В качестве альтернативы, модуль 120 организации дорожек принимает видеоданные, как правило, в закодированном виде или в качестве незакодированных видеоданных, от соединенного приемника 110 устройства 100. Затем приемник 110 принимает видеоданные посредством проводной или беспроводной связи от внешнего терминала в системе связи. В качестве дополнительной альтернативы, модуль 120 организации дорожек может извлекать многоракурсные видеоданные из соединенной с ним памяти 130 мультимедийной информации устройства 100.
Модуль 140 выбора представлений реализован для выбора представления компоновки ракурсов среди множества заранее определенных представлений компоновки ракурсов. Выбор дополнительно выполняется, по меньшей мере, частично на основании относительных позиций множества ракурсов камер. Выбор представления компоновки ракурсов может выполняться вручную создателем контента, обладающим знаниями о расположении ракурсов камер. В этом случае модуль 140 выбора представлений содержит или соединен с устройством ввода пользователя, которое используется создателем контента для выбора представления компоновки ракурсов. В качестве альтернативы, модулю 140 выбора представлений могут быть предоставлены координаты камер как, например, посредством устройства ввода пользователя или из самих видеоданных. В таком случае модуль 140 выбора представлений содержит возможности обработки для выполнения сложных вычислений по определению размещения и взаимосвязей ракурсов камер. Так как файл медиаконтейнера формируется в автономном режиме и, как правило, в устройстве 100, имеется доступ к неограниченной мощности, трудоемкие вычисления могут вместо этого выполняться посредством модуля 140 выбора представлений. Такие вычисления, как правило, не возможны или, по меньшей мере, невыгодны применительно к этапу декодирования и визуализации видео, в частности из-за слабых терминалов, таких как мобильные терминалы, с ограниченными возможностями в отношении вычисления и обработки.
Процессор 160 идентификаторов предусмотрен в устройстве 100 для включения идентификаторов ракурсов, относящихся к множеству ракурсов камер, в представление компоновки ракурсов, выбранное модулем 140 выбора представлений. В этом случае процессор 160 идентификаторов предпочтительно включает идентификаторы ракурсов в порядке, описывающем порядки следования относительных позиций множества ракурсов камер в заранее определенных размещении и взаимосвязи позиций, определенных выбранным представлением компоновки ракурсов.
Выбранное представление компоновки ракурсов вместе с идентификаторами ракурсов ассоциативно организуются в файле медиаконтейнера в отношении, по меньшей мере, одной дорожки мультимедийной информации, посредством модуля 150 организации представлений.
Если модуль 140 выбора представлений выбрал представление компоновки ракурсов в виде линии, то активируется опциональный процессор 170 версий для выбора между первой версией линейности и второй версией линейности на основании относительных позиций ракурсов камер, выровненных по прямой линии. В первом случае процессор 160 идентификаторов включает идентификаторы ракурсов всех выровненных ракурсов камер. Тем не менее, если вместо этого идентификатором версий выбрана вторая версия, то процессор 160 идентификаторов включает идентификатор начального ракурса и опционально приращение идентификатора. Эта информация позволяет выполнять простое вычисление ракурсов камер.
Процессор 170 версий выбирает версии посредством изучения соответствующих идентификаторов ракурсов, относящихся к последовательным ракурсам камер. Если идентификаторы ракурсов увеличиваются или уменьшаются с приращением или отрицательным приращением по мере перехода вдоль линии, то процессор 170 версий выбирает вторую версию линейности, вместо использования первой версии линейности.
Модуль 140 выбора представлений может, в качестве альтернативы или в дополнение, выбирать представление компоновки ракурсов в виде плоскости. В этом случае процессор 170 версий предпочтительно выбирает между ранее описанными первой и второй версиями плоскости. В зависимости от того, какая версия плоскости выбрана, процессор 160 идентификаторов включает идентификаторы всех ракурсов камер, представленных в плоскости, или идентификатор начального ракурса, опционально общее число ракурсов камер и опционально приращение идентификатора.
Общее число ракурсов камер может определяться процессором 174 количества на основании входной информации в закодированных многоракурсных данных или из ввода пользователя.
Если модуль 140 выбора представлений выбирает представление компоновки ракурсов в виде прямоугольной структуры, то процессор 174 количества устройства 100 включает представление количества рядов и количества столбцов прямоугольной совокупности ракурсов камер в представление компоновки ракурсов в виде прямоугольной структуры. Процессор 176 расстояний включает информацию расстояний между последовательными рядами и столбцами в представление компоновки ракурсов в виде прямоугольной структуры.
Процессор 172 сферы активируется, если модуль 140 выбора представлений выбирает представление компоновки ракурсов в виде сферической структуры. Этот процессор 172 сферы включает в представление компоновки информацию о радиусе и координатах центра сферы, на которой скомпоновано множество камер.
Если модуль 140 выбора представления выбирает представление компоновки ракурсов в виде стереопары, то процессор 160 идентификаторов включает идентификаторы ракурсов для ракурса камеры левого глаза и ракурса камеры правого глаза в представление компоновки ракурсов в виде стереопары.
Также устройство 100 может опционально содержать процессоры для обеспечения дополнительной информации в файле медиаконтейнера. Процессор 182 ракурсов может, например, включать идентификатор ракурса применительно к ракурсу камеры, выбранному в качестве базового ракурса камеры из множества доступных ракурсов камер, таких как скомпонованных в линию, на плоскости, в прямоугольной решетке или по сфере. Процессор 182 ракурсов также может включать идентификатор ракурса, относящийся к ракурсу или ракурсам камер, которые определены как наиболее близкие с точки зрения расстояния к ракурсу камеры, указанному в качестве базового ракурса камеры.
Модуль 180 организации ракурсов может ассоциативно организовывать представление накладывающихся ракурсов камер в файле медиаконтейнера в отношении, по меньшей мере, одной дорожки мультимедийной информации. Процессор 182 ракурсов затем включает в представление идентификаторы базового ракурса камеры и накладывающиеся ракурсы камер.
Процессор 176 расстояний или другой процессор устройства 100 может включать информацию расстояния между накладывающимися камерами и интересующим объектом, в отношении которого существует наложение. Соответственно, процессор 184 смещений включает информацию о смещении между базовым ракурсом камеры и накладывающимся ракурсом камеры, а процессор размеров включает информацию о размере накладывающейся области в соответствии с тем, что описывалось выше.
Файл медиаконтейнера, сформированный в соответствии с вариантом осуществления устройства 100, может быть помещен в память 130 мультимедийной информации для дальнейшей передачи внешнему модулю, который служит для переадресации или обработки файла медиаконтейнера. В качестве альтернативы, файл медиаконтейнера может быть непосредственно передан этому внешнему модулю, такому как сервер мультимедийной информации, транскодеру или терминалу пользователя с возможностями визуализации или воспроизведения мультимедийной информации, посредством передатчика 110 устройства 100.
Модули 110, 120 и 140-190 устройства 100 могут быть предоставлены в качестве аппаратного обеспечения, программного обеспечения или сочетания аппаратного и программного обеспечения. Устройство 100 может преимущественно быть скомпоновано в сетевом узле проводной или предпочтительно беспроводной системы связи, основанной на радиопередаче. Устройство 100 может быть частью поставщика контента или сервера или может быть соединено с ними.
На фиг.18 использовался объединенный модуль, т.е. приемопередатчик, содержащий функциональные возможности как приема, так и передачи. В качестве альтернативы, в беспроводном варианте реализации могут использоваться выделенный приемник и выделенный передатчик, опционально соединенные с отдельной принимающей антенной и передающей антенной или объединенной принимающей и передающей антенной.
Фиг.19 является схематическим обзором части системы 1 беспроводной связи, в которой могут быть реализованы варианты осуществления. Система 1 связи содержит один или более сетевые узлы или базовые станции 300, обеспечивающие услуги связи подсоединенному терминалу 400 пользователей. По меньшей мере, одна из базовых станций 300 содержит или является соединенной с сервером мультимедийной информации или поставщиком 200, содержащим устройство 100 формирования файла контейнера, описанное выше и раскрытое на фиг.18. Многоракурсные видеоданные, включенные в файл медиаконтейнера, распространяются терминалам 400 пользователя и/или прочим устройствам обработки данных, предоставленным в системе 1 связи. В этом случае многоракурсные видеоданные могут передаваться терминалам 400 пользователя по одноадресной передаче или в виде многоадресной или широковещательной передачи, как схематично проиллюстрировано на фигуре.
Представление компоновки ракурсов, включенное в файл медиаконтейнера, обеспечивает высокоуровневую информацию, относящуюся к часто используемым взаимосвязям между камерами. Представления компоновок ракурсов могут использоваться для обеспечения интуитивной информации в отношении модели размещения камер достаточно просто без сканирования всех параметров камер и избегая обстоятельных вычислений. Представления компоновок, таким образом, могут использоваться для простого выяснения того, какие камеры или ракурсы камер выровнены по плоскости или расположены в соответствии с некоторой другой моделью размещения, какие камеры являются соседними по отношению друг к другу, какие ракурсы камер приемлемы для стереовизуализации и т.д.
Представление компоновки ракурсов и заключенная в нем информация может использоваться оборудованием визуализации, проигрывателями мультимедийной информации и прочими процессорами мультимедийной информации, например, при выборе мультимедийных данных для дальнейшей обработки, такой как транскодирование или визуализации. Таким образом, информация о том, как по отношению друг к другу скомпонованы камеры, используемые для записи многоракурсных видеоданных, преимущественно используется для обработки видеоданных в файле медиаконтейнера. Например, при визуализации 3D видео представление компоновки ракурсов в видео стереопары позволяет выполнить идентификацию ракурсов камер и, следовательно, видеоданных из этих ракурсов камер для совместной визуализации, для достижения 3D эффекта.
Прочие примеры обработки многоракурсных видеоданных, основанной на информации о размещении, состоят в обработке, которая производится, когда некто хочет переключиться между последовательными ракурсами камер, скомпонованными в прямую линию. Следовательно, представление компоновки ракурсов в виде линии позволяет произвести идентификацию ракурсов камер и видеоданных из этих ракурсов камер для использования при переключении визуализации ракурсов таким образом. Соответственно, представление компоновки ракурсов в виде сферической структуры может использоваться, если некто хочет осуществить панорамирование или перемещение между ракурсами камер, скомпонованными по сферической поверхности.
Кроме того, информация, содержащаяся в представлении компоновки ракурсов, может объединяться с локальной информацией, например, если соседние камеры имеют накладывающиеся ракурсы, для того чтобы решить приемлемо ли или действительно ли возможно соединение ракурсов камер. Примером использования соединения являются большие экраны или проекторы, которые требуют объединения нескольких ракурсов камер или единого панорамного вида в 360°.
Представления компоновки ракурсов также могут использоваться при отслеживании объекта. Например, предположим, что объект очень быстро бежит слева направо. В этом случае будет полезно знать, существуют ли представления компоновки ракурсов в виде линии по горизонтали в текущей совокупности камер, так что возможно отслеживание бегущего объекта.
Специалисту в соответствующей области должно быть понятно, что в отношении настоящего изобретения могут быть сделаны различные модификации и изменения, не отступая от его объема, который определяется прилагаемой формулой изобретения.
ССЫЛКИ
[1] ISO/IEC JTC1/SC29/WG11 - Coding of Moving Pictures and Audio, MPEG-4 Overview, Июль, 2000 г.
[2] ISO/IEC 14496-15:2004 - Information Technology, Coding of Audio-Visual Objects, Часть 15: Advanced Video Coding (AVC) File Format.
[3] ISO/IEC 14496-14:2003 - Information Technology, Coding of Audio-Visual Objects, Часть 14: MP4 File Format.
[4] 3GPP TS 26.244 V7.3.0 - 3rd Generation Partnership Project; Technical Specification Group Services and System Aspects; Transparent end-to-end packet switched streaming service (PSS); 3GPP file format, 2007 г.
[5] ISO/IEC 14496-12:2005 - Information Technology, Coding of Audio-Visual Objects, Часть 12: ISO Base Media File Format.

Claims (22)

1. Способ формирования файла медиаконтейнера, содержащий этапы, на которых: организуют закодированные видеоданные, представляющие множество ракурсов камер, относящихся к видеоконтенту, в по меньшей мере одной дорожке мультимедийной информации упомянутого файла медиаконтейнера; выбирают, на основе относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов среди множества заранее определенных представлений компоновки ракурсов, при этом упомянутое множество заранее определенных представлений компоновки ракурсов указывают разные заранее определенные взаимосвязи размещения и позиций упомянутого множества ракурсов камер; включают идентификаторы ракурсов, относящиеся к упомянутому множеству ракурсов камер, в упомянутое выбранное представление компоновки ракурсов; и включают упомянутое выбранное представление компоновки ракурсов в упомянутый файл медиаконтейнера таким образом, чтобы была обеспечена привязка между упомянутым представлением компоновки ракурсов и упомянутой по меньшей мере одной дорожкой мультимедийной информации.
2. Способ по п.1, в котором на упомянутом этапе включения включают упомянутые идентификаторы ракурсов в порядке, описывающем относительный порядок позиций упомянутого множества ракурсов камер в заранее определенной взаимосвязи размещения и позиций, определяемой упомянутым выбранным представлением компоновки ракурсов.
3. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов среди представления компоновки ракурсов в виде линии, представления компоновки ракурсов в виде плоскости, представления компоновки ракурсов в виде прямоугольной структуры, представления компоновки ракурсов в виде сферической структуры и представления компоновки ракурсов в виде стереопары.
4. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде линии, при этом способ дополнительно содержит этап, на котором выбирают между первой версией линейности и второй версией линейности на основе упомянутых относительных позиций упомянутого множества ракурсов камер, причем на упомянутом этапе включения идентификаторов ракурсов включают, если выбрана первая версия линейности, упомянутые идентификаторы ракурсов и включают, если выбрана вторая версия линейности, идентификатор начального ракурса, выбранный среди упомянутых идентификаторов ракурсов, и приращение идентификатора, применяемое к этому идентификатору начального ракурса для получения идентификаторов ракурсов, относящихся к, по меньшей мере, части упомянутого множества ракурсов камеры.
5. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде плоскости, при этом способ дополнительно содержит этап, на котором выбирают между первой версией плоскости и второй версией плоскости на основе упомянутых относительных позиций упомянутого множества ракурсов камер, причем на упомянутом этапе включения идентификаторов ракурсов включают, если выбрана первая версия плоскости, упомянутые идентификаторы ракурсов и включают, если выбрана вторая версия плоскости, идентификатор начального ракурса, выбранный среди упомянутых идентификаторов ракурсов, и приращение идентификатора, применяемое к этому идентификатору начального ракурса для получения идентификаторов ракурсов, относящихся к, по меньшей мере, части упомянутого множества ракурсов камеры.
6. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде прямоугольной структуры, при этом способ дополнительно содержит этапы, на которых: включают, в упомянутое представление компоновки ракурсов в виде прямоугольной структуры, представление количества рядов и представление количества столбцов прямоугольной структуры ракурсов камеры, относящихся к упомянутому множеству ракурсов камер; и включают, в упомянутое представление компоновки ракурсов в виде прямоугольной структуры, представление расстояния между последовательными рядами и представление расстояния между последовательными столбцами в упомянутой прямоугольной структуре ракурсов камер.
7. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде сферической структуры, при этом способ дополнительно содержит этап, на котором включают, в упомянутое представление компоновки ракурсов в виде сферической структуры, представление радиуса и представление координат центра сферической структуры ракурсов камер, содержащей упомянутое множество ракурсов камер.
8. Способ по п.1 или 2, в котором на упомянутом этапе выбора выбирают, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде стереопары и на упомянутом этапе включения идентификаторов ракурсов включают идентификатор ракурса, относящийся к ракурсу камеры левого глаза, и идентификатор ракурса, относящийся к ракурсу камеры правого глаза, из упомянутого множества ракурсов камер в упомянутое представление компоновки ракурсов в виде стереопары.
9. Способ по п.1 или 2, дополнительно содержащий этап, на котором осуществляют ассоциативную организацию представления накладывающихся ракурсов камер из упомянутого множества ракурсов камер в упомянутом файле медиаконтейнера в отношении упомянутой по меньшей мере одной дорожки мультимедийной информации.
10. Способ по п.9, дополнительно содержащий этапы, на которых: включают идентификатор ракурса, относящийся к базовому ракурсу камеры из упомянутого множества ракурсов камер, в упомянутое представление накладывающихся ракурсов камер; и включают любой идентификатор ракурса, относящийся к любому ракурсу камеры из упомянутого множества ракурсов камер, накладывающемуся на упомянутый базовый ракурс камеры, в упомянутое представление накладывающихся ракурсов камер.
11. Способ по п.10, дополнительно содержащий этапы, на которых: включают, в упомянутое представление накладывающихся ракурсов камер, информацию о смещении между упомянутым базовым ракурсом камеры и упомянутым любым ракурсом камеры, накладывающимся на упомянутый базовый ракурс камеры; и включают, в упомянутое представление накладывающихся ракурсов камер, информацию о размере накладывающейся области упомянутого базового ракурса камеры и упомянутого любого ракурса камеры, накладывающегося на упомянутый базовый ракурс камеры.
12. Устройство для формирования файла медиаконтейнера, содержащее: модуль организации дорожек для организации закодированных видеоданных, представляющих множество ракурсов камер, относящихся к видеоконтенту, в по меньшей мере одной дорожке мультимедийной информации упомянутого файла медиаконтейнера; модуль выбора представлений для выбора, на основе относительных позиций упомянутого множества ракурсов камер, представления компоновки ракурсов среди множества заранее определенных представлений компоновки ракурсов, при этом упомянутое множество заранее определенных представлений компоновки ракурсов указывают разные заранее определенные взаимосвязи размещения и позиций упомянутого множества ракурсов камер; процессор идентификаторов для включения идентификаторов ракурсов, относящихся к упомянутому множеству ракурсов камер, в упомянутое представление компоновки, выбранное посредством упомянутого модуля выбора представлений; и модуль организации представлений для включения упомянутого выбранного представления компоновки ракурсов в упомянутый файл медиаконтейнера таким образом, чтобы была обеспечена привязка между упомянутым представлением компоновки ракурсов и упомянутой по меньшей мере одной дорожкой мультимедийной информации.
13. Устройство по п.12, в котором упомянутый процессор идентификаторов выполнен с возможностью включать упомянутые идентификаторы ракурсов в порядке, описывающем относительный порядок позиций упомянутого множества ракурсов камер в заранее определенной взаимосвязи размещения и позиций, определяемой упомянутым представлением компоновки ракурсов, выбранным посредством упомянутого модуля выбора представлений.
14. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов среди представления компоновки ракурсов в виде линии, представления компоновки ракурсов в виде плоскости, представления компоновки ракурсов в виде прямоугольной структуры, представления компоновки ракурсов в виде сферической структуры и представления компоновки ракурсов в виде стереопары.
15. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде линии, при этом устройство дополнительно содержит процессор версий для включения, в упомянутое представление компоновки ракурсов в виде линии и на основе упомянутых относительных позиций упомянутого множества ракурсов камер, идентификатора версии, относящегося к первой версии линейности или второй версии линейности, причем упомянутый процессор идентификаторов выполнен с возможностью включать, если упомянутый процессор версий включает идентификатор версии, относящийся к первой версии линейности, упомянутые идентификаторы ракурсов, и включать, если упомянутый процессор версий включает идентификатор версии, относящийся ко второй версии линейности, идентификатор начального ракурса, выбранный среди упомянутых идентификаторов ракурсов, и приращение идентификатора, применяемое к упомянутому идентификатору начального ракурса для получения идентификаторов ракурсов, относящихся к, по меньшей мере, части упомянутого множества ракурсов камеры.
16. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде плоскости, при этом устройство дополнительно содержит процессор версий для включения, в упомянутое представление компоновки ракурсов в виде плоскости и на основе упомянутых относительных позиций упомянутого множества ракурсов камер, идентификатора версии, относящегося к первой версии плоскости или второй версии плоскости, причем упомянутый процессор идентификаторов выполнен с возможностью включать, если упомянутый процессор версий включает идентификатор версии, относящийся к первой версии плоскости, упомянутые идентификаторы ракурсов, и включать, если упомянутый процессор версий включает идентификатор версии, относящийся к упомянутой второй версии плоскости, идентификатор начального ракурса, выбранный среди упомянутых идентификаторов ракурсов, и приращение идентификатора, применяемое к этому идентификатору начального ракурса для получения идентификаторов ракурсов, относящихся к, по меньшей мере, части упомянутого множества ракурсов камеры.
17. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде прямоугольной структуры, при этом устройство дополнительно содержит: процессор количества для включения, в упомянутое представление компоновки ракурсов в виде прямоугольной структуры, представления количества рядов и представления количества столбцов прямоугольной структуры ракурсов камеры, относящихся к упомянутому множеству ракурсов камер; и процессор расстояний для включения, в упомянутое представление компоновки ракурсов в виде прямоугольной структуры, представления расстояния между последовательными рядами и представления расстояния между последовательными столбцами в упомянутой прямоугольной структуре ракурсов камер.
18. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде сферической структуры, при этом устройство дополнительно содержит процессор сферы для включения, в упомянутое представление компоновки ракурсов в виде сферической структуры, представления радиуса и представления координат центра сферической структуры ракурсов камер, содержащей упомянутое множество ракурсов камер.
19. Устройство по п.12 или 13, в котором упомянутый модуль выбора представлений выполнен с возможностью выбирать, на основе упомянутых относительных позиций упомянутого множества ракурсов камер, представление компоновки ракурсов в виде стереопары, и упомянутый процессор идентификаторов выполнен с возможностью включать идентификатор ракурса, относящийся к ракурсу камеры левого глаза, и идентификатор ракурса, относящийся к ракурсу камеры правого глаза, из упомянутого множества ракурсов камер в упомянутое представление компоновки ракурсов в виде стереопары.
20. Устройство по п.12 или 13, дополнительно содержащее модуль организации ракурсов для ассоциативной организации представления накладывающихся ракурсов камер из упомянутого множества ракурсов камер в упомянутом файле медиаконтейнера в отношении упомянутой по меньшей мере одной дорожки мультимедийной информации.
21. Устройство по п.20, дополнительно содержащее процессор ракурсов для включения идентификатора ракурса, относящегося к базовому ракурсу камеры, из упомянутого множества ракурсов камер в упомянутое представление накладывающихся ракурсов камер, и включения любого идентификатора ракурса, относящегося к любому ракурсу камеры из упомянутого множества ракурсов камер, накладывающегося на упомянутый базовый ракурс камеры, в упомянутое представление накладывающихся ракурсов камер.
22. Устройство по п.21, дополнительно содержащее: процессор смещений для включения, в упомянутое представление накладывающихся ракурсов камер, информации о смещении между упомянутым базовым ракурсом камеры и упомянутым любым ракурсом камеры, накладывающимся на упомянутый базовый ракурс камеры; и процессор размеров для включения, в упомянутое представление накладывающихся ракурсов камер, информации о размере накладывающейся области упомянутого базового ракурса камеры и упомянутого любого ракурса камеры, накладывающегося на упомянутый базовый ракурс камеры.
RU2011118367/07A 2008-10-07 2008-12-15 Файл медиаконтейнера RU2504917C2 (ru)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US10339908P 2008-10-07 2008-10-07
US61/103,399 2008-10-07
PCT/SE2008/051460 WO2010041999A1 (en) 2008-10-07 2008-12-15 Media container file

Publications (2)

Publication Number Publication Date
RU2011118367A RU2011118367A (ru) 2012-11-20
RU2504917C2 true RU2504917C2 (ru) 2014-01-20

Family

ID=42100782

Family Applications (2)

Application Number Title Priority Date Filing Date
RU2011118367/07A RU2504917C2 (ru) 2008-10-07 2008-12-15 Файл медиаконтейнера
RU2011118384/07A RU2508609C2 (ru) 2008-10-07 2008-12-15 Медиаданные с множеством изображений

Family Applications After (1)

Application Number Title Priority Date Filing Date
RU2011118384/07A RU2508609C2 (ru) 2008-10-07 2008-12-15 Медиаданные с множеством изображений

Country Status (9)

Country Link
US (2) US20110202575A1 (ru)
EP (2) EP2332337A4 (ru)
JP (2) JP5298201B2 (ru)
CN (2) CN102177718B (ru)
AU (2) AU2008362801A1 (ru)
CA (2) CA2739716A1 (ru)
ES (1) ES2515967T3 (ru)
RU (2) RU2504917C2 (ru)
WO (2) WO2010041999A1 (ru)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2764462C2 (ru) * 2017-07-31 2022-01-17 Хуавей Текнолоджиз Ко., Лтд. Сервер, оконечное устройство и способ обработки изображений

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5689705A (en) * 1995-02-13 1997-11-18 Pulte Home Corporation System for facilitating home construction and sales
US9190110B2 (en) 2009-05-12 2015-11-17 JBF Interlude 2009 LTD System and method for assembling a recorded composition
WO2011038195A1 (en) * 2009-09-25 2011-03-31 Phillip Anthony Storage A method and system for collection and management of remote observational data for businesses
US11232458B2 (en) 2010-02-17 2022-01-25 JBF Interlude 2009 LTD System and method for data mining within interactive multimedia
US9716920B2 (en) 2010-08-05 2017-07-25 Qualcomm Incorporated Signaling attributes for network-streamed video data
US9065936B2 (en) * 2010-12-09 2015-06-23 Allot Communications Ltd. Cellular traffic monitoring and charging using application detection rules
WO2013069608A1 (ja) * 2011-11-11 2013-05-16 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
US20130188922A1 (en) * 2012-01-23 2013-07-25 Research In Motion Limited Multimedia File Support for Media Capture Device Position and Location Timed Metadata
US20140032820A1 (en) * 2012-07-25 2014-01-30 Akinori Harasawa Data storage apparatus, memory control method and electronic device with data storage apparatus
US9444862B2 (en) * 2012-09-29 2016-09-13 Intel Corporation Dynamic media content output for mobile devices
WO2015008775A1 (ja) * 2013-07-19 2015-01-22 ソニー株式会社 情報処理装置および方法
KR102304687B1 (ko) * 2013-07-22 2021-09-27 소니그룹주식회사 정보 처리 장치 및 방법
EP3713234A1 (en) * 2014-01-07 2020-09-23 Canon Kabushiki Kaisha Method, device, and computer program for encoding inter-layer dependencies in encapsulating multi-layer partitioned timed media data
KR20150083243A (ko) * 2014-01-09 2015-07-17 삼성전자주식회사 영상표시장치, 영상표시장치의 구동방법 및 영상표시방법
US9653115B2 (en) 2014-04-10 2017-05-16 JBF Interlude 2009 LTD Systems and methods for creating linear video from branched video
US9792957B2 (en) 2014-10-08 2017-10-17 JBF Interlude 2009 LTD Systems and methods for dynamic video bookmarking
US9922680B2 (en) * 2015-02-10 2018-03-20 Nokia Technologies Oy Method, an apparatus and a computer program product for processing image sequence tracks
US10460765B2 (en) * 2015-08-26 2019-10-29 JBF Interlude 2009 LTD Systems and methods for adaptive and responsive video
US11856271B2 (en) 2016-04-12 2023-12-26 JBF Interlude 2009 LTD Symbiotic interactive video
CN109155861B (zh) * 2016-05-24 2021-05-25 诺基亚技术有限公司 用于编码媒体内容的方法和装置以及计算机可读存储介质
GB2553315A (en) * 2016-09-01 2018-03-07 Nokia Technologies Oy Determining inter-view prediction areas
US11050809B2 (en) 2016-12-30 2021-06-29 JBF Interlude 2009 LTD Systems and methods for dynamic weighting of branched video paths
EP3641321A4 (en) * 2017-06-15 2020-11-18 LG Electronics Inc. -1- METHOD FOR TRANSMITTING 360 DEGREE VIDEOS, METHOD FOR RECEIVING 360 DEGREE VIDEOS, DEVICE FOR TRANSMISSION OF 360 DEGREE VIDEOS AND DEVICE FOR RECEIVING 360 DEGREE VIDEOS
US10679415B2 (en) * 2017-07-05 2020-06-09 Qualcomm Incorporated Enhanced signaling of regions of interest in container files and video bitstreams
CN110870303B (zh) * 2017-07-13 2021-10-08 联发科技(新加坡)私人有限公司 呈现超出全方位媒体的vr媒体的方法和装置
US10257578B1 (en) 2018-01-05 2019-04-09 JBF Interlude 2009 LTD Dynamic library display for interactive videos
CN108184136B (zh) * 2018-01-16 2020-06-02 北京三体云联科技有限公司 一种视频合流方法及装置
US11601721B2 (en) 2018-06-04 2023-03-07 JBF Interlude 2009 LTD Interactive video dynamic adaptation and user profiling
US20200296316A1 (en) 2019-03-11 2020-09-17 Quibi Holdings, LLC Media content presentation
US20200296462A1 (en) 2019-03-11 2020-09-17 Wci One, Llc Media content presentation
CN110324708A (zh) * 2019-07-16 2019-10-11 浙江大华技术股份有限公司 视频处理方法、终端设备及计算机存储介质
US11490047B2 (en) 2019-10-02 2022-11-01 JBF Interlude 2009 LTD Systems and methods for dynamically adjusting video aspect ratios
US11245961B2 (en) 2020-02-18 2022-02-08 JBF Interlude 2009 LTD System and methods for detecting anomalous activities for interactive videos
US11997336B2 (en) * 2021-05-14 2024-05-28 Qualcomm Incorporated Scheduling compressed video frame for in-vehicle wireless networks
US11882337B2 (en) 2021-05-28 2024-01-23 JBF Interlude 2009 LTD Automated platform for generating interactive videos
US11934477B2 (en) 2021-09-24 2024-03-19 JBF Interlude 2009 LTD Video player integration within websites
EP4297418A1 (en) * 2022-06-24 2023-12-27 Beijing Xiaomi Mobile Software Co., Ltd. Signaling encapsulated data representing primary video sequence and associated auxiliary video sequence

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004055809A1 (en) * 2002-12-16 2004-07-01 Samsung Electronics Co., Ltd. Information storage medium having multi-angle data structure and apparatus therefor
EP1622154A1 (en) * 2004-07-27 2006-02-01 Microsoft Corporation A multi-view video format
RU2296379C2 (ru) * 2002-10-15 2007-03-27 Самсунг Электроникс Ко., Лтд. Носитель для хранения информации со структурой данных для многоракурсного показа и устройство для этого носителя
US20070177813A1 (en) * 2006-01-12 2007-08-02 Lg Electronics Inc. Processing multiview video
WO2008023328A2 (en) * 2006-08-24 2008-02-28 Nokia Corporation System and method for indicating track relationships in media files
WO2008047303A2 (en) * 2006-10-16 2008-04-24 Nokia Corporation System and method for implementing efficient decoded buffer management in multi-view video coding
RU2006141251A (ru) * 2004-04-22 2008-05-27 Текникалер, Инк. (Us) Методика контекстно-зависимой многоракурсной навигации для универсальных цифровых дисков
WO2008084443A1 (en) * 2007-01-09 2008-07-17 Nokia Corporation System and method for implementing improved decoded picture buffer management for scalable video coding and multiview video coding

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7782363B2 (en) * 2000-06-27 2010-08-24 Front Row Technologies, Llc Providing multiple video perspectives of activities through a data network to a remote multimedia server for selective display by remote viewing audiences
KR100814426B1 (ko) * 2001-07-14 2008-03-18 삼성전자주식회사 다 채널 영상 중계 처리기 및 이를 적용한 다 채널 영상보안 시스템
EP1501317A4 (en) * 2002-04-25 2006-06-21 Sharp Kk Image data generation device, image data reproduction device and image data recording medium
KR100491724B1 (ko) * 2002-10-14 2005-05-27 한국전자통신연구원 공간영상의 효율적인 저장 및 검색을 지원하기 위한공간영상정보시스템 및 그 검색방법
US20040076042A1 (en) * 2002-10-16 2004-04-22 Sifang Wu High performance memory column group repair scheme with small area penalty
US8832732B2 (en) * 2003-04-16 2014-09-09 Accenture Global Services Limited Controlled multi-media program review
US7778328B2 (en) * 2003-08-07 2010-08-17 Sony Corporation Semantics-based motion estimation for multi-view video coding
US20070053445A1 (en) * 2003-09-23 2007-03-08 Koninklijke Philips Electronics, N.V. System and method for providing video content and concealment dependent error protection and scheduling algorithms
JP4110105B2 (ja) * 2004-01-30 2008-07-02 キヤノン株式会社 文書処理装置及び文書処理方法及び文書処理プログラム
US7787013B2 (en) * 2004-02-03 2010-08-31 Panasonic Corporation Monitor system and camera
US20050193015A1 (en) * 2004-02-19 2005-09-01 Sandraic Logic, Llc A California Limited Liability Company Method and apparatus for organizing, sorting and navigating multimedia content
KR100679740B1 (ko) * 2004-06-25 2007-02-07 학교법인연세대학교 시점 선택이 가능한 다시점 동영상 부호화/복호화 방법
JP4630149B2 (ja) * 2005-07-26 2011-02-09 シャープ株式会社 画像処理装置
US20070103558A1 (en) * 2005-11-04 2007-05-10 Microsoft Corporation Multi-view video delivery
BRPI0710048A2 (pt) * 2006-03-30 2011-08-02 Lg Electronics Inc método e aparelho para decodificar / codificar um sinal de vìdeo
EP2039170B1 (en) * 2006-07-06 2019-09-04 InterDigital VC Holdings, Inc. Method and apparatus for decoupling frame number and/or picture order count (poc) for multi-view video encoding and decoding
US8365060B2 (en) * 2006-08-24 2013-01-29 Nokia Corporation System and method for indicating track relationships in media files
JP2010507975A (ja) * 2006-10-24 2010-03-11 トムソン ライセンシング 多視点映像符号化のための画像の管理
CN100588250C (zh) * 2007-02-05 2010-02-03 北京大学 一种多视点视频流的自由视点视频重建方法及***
CN101242530B (zh) * 2007-02-08 2011-06-01 华为技术有限公司 运动估计方法、基于运动估计的多视编解码方法及装置
EP2135454A4 (en) * 2007-03-02 2010-09-01 Lg Electronics Inc METHOD AND DEVICE FOR DECODING / CODING A VIDEO SIGNAL
US8253797B1 (en) * 2007-03-05 2012-08-28 PureTech Systems Inc. Camera image georeferencing systems
CN101641954B (zh) * 2007-03-23 2011-09-14 Lg电子株式会社 用于解码/编码视频信号的方法和装置
JP5281076B2 (ja) * 2007-04-25 2013-09-04 トムソン ライセンシング ダウンサンプリングされたリファレンスピクチャによるビュー間予測
WO2008133455A1 (en) * 2007-04-25 2008-11-06 Lg Electronics Inc. A method and an apparatus for decoding/encoding a video signal
US8355019B2 (en) * 2007-11-02 2013-01-15 Dimension Technologies, Inc. 3D optical illusions from off-axis displays

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2296379C2 (ru) * 2002-10-15 2007-03-27 Самсунг Электроникс Ко., Лтд. Носитель для хранения информации со структурой данных для многоракурсного показа и устройство для этого носителя
WO2004055809A1 (en) * 2002-12-16 2004-07-01 Samsung Electronics Co., Ltd. Information storage medium having multi-angle data structure and apparatus therefor
RU2006141251A (ru) * 2004-04-22 2008-05-27 Текникалер, Инк. (Us) Методика контекстно-зависимой многоракурсной навигации для универсальных цифровых дисков
EP1622154A1 (en) * 2004-07-27 2006-02-01 Microsoft Corporation A multi-view video format
US20070177813A1 (en) * 2006-01-12 2007-08-02 Lg Electronics Inc. Processing multiview video
WO2008023328A2 (en) * 2006-08-24 2008-02-28 Nokia Corporation System and method for indicating track relationships in media files
WO2008047303A2 (en) * 2006-10-16 2008-04-24 Nokia Corporation System and method for implementing efficient decoded buffer management in multi-view video coding
WO2008084443A1 (en) * 2007-01-09 2008-07-17 Nokia Corporation System and method for implementing improved decoded picture buffer management for scalable video coding and multiview video coding

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2764462C2 (ru) * 2017-07-31 2022-01-17 Хуавей Текнолоджиз Ко., Лтд. Сервер, оконечное устройство и способ обработки изображений

Also Published As

Publication number Publication date
EP2332336B1 (en) 2014-08-13
US20110202575A1 (en) 2011-08-18
AU2008362801A1 (en) 2010-04-15
EP2332336A4 (en) 2014-01-01
EP2332337A4 (en) 2014-01-01
JP5298201B2 (ja) 2013-09-25
JP2012505570A (ja) 2012-03-01
CA2739716A1 (en) 2010-04-15
CA2767794A1 (en) 2010-04-15
JP2012505569A (ja) 2012-03-01
WO2010041999A1 (en) 2010-04-15
EP2332336A1 (en) 2011-06-15
CN102177717A (zh) 2011-09-07
RU2011118384A (ru) 2012-12-10
US20110182366A1 (en) 2011-07-28
CN102177718A (zh) 2011-09-07
ES2515967T3 (es) 2014-10-30
CN102177717B (zh) 2014-01-29
WO2010041998A1 (en) 2010-04-15
CN102177718B (zh) 2014-03-12
AU2008362821A1 (en) 2010-04-15
RU2011118367A (ru) 2012-11-20
EP2332337A1 (en) 2011-06-15
RU2508609C2 (ru) 2014-02-27

Similar Documents

Publication Publication Date Title
RU2504917C2 (ru) Файл медиаконтейнера
CN109076255B (zh) 发送、接收360度视频的方法及设备
US11805304B2 (en) Method, device, and computer program for generating timed media data
KR102258448B1 (ko) 핫스팟 및 roi 관련 메타데이터를 이용한 360도 비디오를 송수신하는 방법 및 그 장치
KR101533114B1 (ko) 입체영상 데이터를 수록한 기록매체 및 상기 입체영상 데이터를 기록하는 방법
US20180077451A1 (en) Method and apparatus for transmitting and reproducing content in virtual reality system
CN110460858B (zh) 信息处理装置和方法
CN111937397B (zh) 媒体数据处理方法及装置
KR20190008901A (ko) 가상 현실 미디어 콘텐트의 스트리밍을 개선하는 방법, 디바이스, 및 컴퓨터 프로그램
SA516371000B1 (ar) تصميمات تنسيق ملف مرئي متعدد الطبقات
KR20210016530A (ko) 미디어 콘텐츠 전송을 위한 방법, 디바이스, 및 컴퓨터 프로그램
CN109587478A (zh) 一种媒体信息的处理方法及装置
JP2019514313A (ja) レガシー及び没入型レンダリングデバイスのために没入型ビデオをフォーマットする方法、装置、及びストリーム
US11139000B2 (en) Method and apparatus for signaling spatial region information
CN102984560A (zh) 从断点处播放视频的方法和设备
AU2018271975A1 (en) High-level signalling for fisheye video data
CN111726598B (zh) 图像处理方法和装置
Niamut et al. Live event experiences-interactive UHDTV on mobile devices
CN110198457A (zh) 视频播放方法及其设备、***、存储介质、终端、服务器
US20220256132A1 (en) Devices and methods for generating and rendering immersive video
CN114556962B (zh) 多视点视频处理方法和装置
Niamut et al. Immersive live event experiences-interactive UHDTV on mobile devices
Sægrov Bagadus: next generation sport analysis and multimedia platform using camera array and sensor networks
KR20180059281A (ko) 타임 슬라이스 영상을 제공하는 사용자 단말 및 영상 제공 서버
Seo et al. Bandwidth-Efficient Transmission Method for User View-Oriented Video Services

Legal Events

Date Code Title Description
MM4A The patent is invalid due to non-payment of fees

Effective date: 20181216