BR112020006752A2 - aparelho de envio, método de envio, e meio de armazenamento legível por computador - Google Patents

aparelho de envio, método de envio, e meio de armazenamento legível por computador Download PDF

Info

Publication number
BR112020006752A2
BR112020006752A2 BR112020006752-0A BR112020006752A BR112020006752A2 BR 112020006752 A2 BR112020006752 A2 BR 112020006752A2 BR 112020006752 A BR112020006752 A BR 112020006752A BR 112020006752 A2 BR112020006752 A2 BR 112020006752A2
Authority
BR
Brazil
Prior art keywords
transfer
layer
processing unit
subflow
moving image
Prior art date
Application number
BR112020006752-0A
Other languages
English (en)
Inventor
Hidetomo HIRAO
Original Assignee
Sony Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corporation filed Critical Sony Corporation
Publication of BR112020006752A2 publication Critical patent/BR112020006752A2/pt

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • H04N19/166Feedback from the receiver or from the transmission channel concerning the amount of transmission errors, e.g. bit error rate [BER]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2401Monitoring of the client buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440227Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/637Control signals issued by the client directed to the server or network components
    • H04N21/6377Control signals issued by the client directed to the server or network components directed to server

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

Esta descrição refere-se a um dispositivo de envio, a um método de envio e a um programa, com os quais uma imagem em movimento pode ser enviada para ser reproduzida com atraso inferior. Uma unidade de codificação implementa codificação escalável espacial em relação a uma imagem em movimento, e uma unidade de processamento de envio envia uma figura camada por camada, codificada pela unidade de codificação, por meio de uma rede. Uma unidade de processamento de controle da camada de referência controla a unidade de codificação de maneira tal que uma camada de referência seja limitada a uma camada intermediária se for esperado que a possibilidade de que um subfluxo ocorra em um armazenamento temporário de recepção seja alta ou a realimentação para o efeito em que um subfluxo ocorreu no armazenamento temporário de recepção for recebida. Esta tecnologia é aplicável a um dispositivo de envio que codifica e envia uma imagem em movimento, por exemplo.

Description

APARELHO DE ENVIO, MÉTODO DE ENVIO, E MEIO DE ARMAZENAMENTO LEGÍVEL POR COMPUTADOR CAMPO TÉCNICO
[001] A presente descrição refere-se a um aparelho de envio, um método de envio e a um programa, e, mais particularmente, refere-se a um aparelho de envio, a um método de envio e a um programa que podem transmitir uma imagem em movimento para ser reproduzida com latência inferior.
FUNDAMENTOS DA INVENÇÃO
[002] Convencionalmente, em um sistema de câmera em rede no qual uma imagem em movimento é codificada e transmitida por meio de uma rede e é reproduzida e exibida em um local remoto, por exemplo, a fim de reproduzir a imagem em movimento sem interrupção, um certo grau de latência é necessário. Entretanto, em um caso em que esta latência for aumentada, a função provida pelo sistema de câmera em rede é adversamente afetada em alguns casos.
[003] Por exemplo, em um caso de uso do sistema de câmera em rede em um sistema de comunicação que permite a conversação bidirecional entre locais remotos, considera-se que o tempo da afirmação até uma resposta da outra parte aumenta devido à latência, o que torna a conversação uniforme difícil. Além do mais, em um caso em que o sistema de câmera em rede for usado, por exemplo, em um sistema de câmera de vigilância que monitora uma imagem em movimento de um local remoto e exige uma contramedida de acordo com a situação no local remoto, considera-se que haverá um atraso na contramedida de acordo com a situação no local remoto devido à latência.
[004] Aqui, o Documento de Patente 1 descreve uma técnica capaz de melhorar, por exemplo, a tolerância ao erro, em um sistema de comunicação por vídeo usando codificação de vídeo escalável.
LISTA DE CITAÇÃO DOCUMENTO DE PATENTE
[005] Documento de Patente 1: JP 5753341 B1
SUMÁRIO DA INVENÇÃO PROBLEMAS A SER RESOLVIDOS PELA INVENÇÃO
[006] Da forma supradescrita, em um caso em que uma imagem em movimento for transmitida no sistema de câmera em rede e a latência até que a imagem em movimento seja reproduzida for aumentada, há vários efeitos adversos. Portanto, exige-se reproduzir a imagem em movimento sem interrupção, ao mesmo tempo em que se suprime a latência o tanto quanto possível.
[007] A presente descrição foi feita em vista de uma situação como esta, e habilita que uma imagem em movimento seja transmitida para ser reproduzida com latência inferior.
SOLUÇÕES PARA OS PROBLEMAS
[008] Um aparelho de envio de acordo com um aspecto da presente descrição inclui uma unidade de codificação que realiza a codificação espacialmente escalável em uma imagem em movimento, uma unidade de processamento de transferênciaque realiza um processo de envio de uma figura para cada camada codificada pela unidade de codificação, por meio de uma rede, e uma unidade de processamento de controle da camada de referência que faz com que a unidade de codificação limite uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior, em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[009] Um método de envio de acordo com um aspecto da presente descrição inclui realizar, por um aparelho de envio que transmite uma imagem em movimento, codificação espacialmente escalável na imagem em movimento, realizar, pelo aparelho de envio, um processo de envio de uma figura para cada camada codificada, por meio de uma rede, e realizar, pelo aparelho de envio, controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[0010] Um aspecto ou um programa da presente descrição inclui fazer com que um computador de um aparelho de envio que transmite uma imagem em movimento realize a codificação espacialmente escalável na imagem em movimento, realize um processo de envio de uma figura para cada camada codificada, por meio de uma rede, e realize controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[0011] Em um aspecto da presente descrição, a codificação espacialmente escalável é realizada em uma imagem em movimento, e um processo de envio de uma figura para cada camada codificada, por meio de uma rede, é realizado. Então, em um caso em que uma alta possibilidade de que subfluxo ocorra no armazenamento temporário de recepção for prevista, ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida, o controle é realizado para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior.
EFEITOS DA INVENÇÃO
[0012] De acordo com um aspecto da presente descrição, uma imagem em movimento pode ser transmitida para ser reproduzida com latência inferior.
[0013] Note que os efeitos aqui descritos não são necessariamente limitados, e podem ser qualquer efeito descrito na presente descrição.
BREVE DESCRIÇÃO DOS DESENHOS
[0014] A figura 1 é um diagrama de blocos que ilustra um exemplo de configuração de uma modalidade de um sistema de câmera em rede no qual a presente tecnologia é aplicada.
[0015] A figura 2 é um diagrama que ilustra a transferência geral de uma imagem em movimento.
[0016] A figura 3 é um diagrama que ilustra um estado em que o subfluxo ocorre e a imagem inválida se propaga.
[0017] A figura 4 é um diagrama de blocos que ilustra um exemplo de configuração de uma rede.
[0018] A figura 5 é um diagrama que ilustra um modelo de latência de um caminho de transferência.
[0019] A figura 6 é um diagrama que explica um processo de seleção de um caminho de chegada antecipada a partir de dois tipos de caminhos de transferência.
[0020] A figura 7 é um diagrama que explica um processo de controle de uma camada de referência.
[0021] A figura 8 é um fluxograma que ilustra um processo de envio, de envio de uma imagem em movimento.
[0022] A figura 9 é um diagrama de blocos que ilustra um exemplo de configuração de uma modalidade de um computador no qual a presente tecnologia é aplicada.
MODO PARA REALIZAR A INVENÇÃO
[0023] A seguir, as modalidades específicas nas quais a presente tecnologia é aplicada serão descritas com detalhes em relação aos desenhos. <Exemplo de configuração do sistema de câmera em rede>
[0024] A figura | é um diagrama de blocos que ilustra um exemplo de configuração de uma modalidade de um sistema de câmera em rede no qual a presente tecnologia é aplicada.
[0025] Da forma ilustrada na figura 1, um sistema de câmera em rede 11 é configurado pela conexão de um aparelho de formação de imagem 21, um aparelho de envio 22, um aparelho de recepção 23 e um aparelho de exibição 24 através de uma rede 25. Além do mais, o aparelho de envio 22 inclui uma unidade de processamento de imagem 31, uma unidade de codificação 32, uma unidade de processamento de transferência33, e uma unidade de controle de transferência 34. A unidade de controle de transferência 34 inclui uma unidade de processamento de seleção do caminho de transferência 35 e uma unidade de processamento de controle da camada de referência 36. Além do mais, o aparelho de recepção 23 inclui uma unidade de processamento de recepção 41, uma unidade de decodificação 42, e uma unidade de processamento de exibição 43. A unidade de processamento de recepção 41 inclui um armazenamento temporário de recepção 44.
[0026] O aparelho de formação de imagem 21 inclui, por exemplo, um elemento de formação de imagem, tal como um sensor de imagem de semicondutor de óxido de metal complementar (CMOS), e supre uma imagem em movimento capturada pelo elemento de formação de imagem para a unidade de processamento de imagem 31 do aparelho de envio 22.
[0027] A unidade de processamento de imagem 31 realiza vários tipos de processos de imagem na imagem em movimento capturada pelo aparelho de formação de imagem 21, realiza um processamento de imagem para ajustar, por exemplo, a taxa de bits, a resolução, a taxa de quadros ou congêneres da imagem em movimento, e supre a imagem em movimento obtida para a unidade de codificação 32.
[0028] A unidade de codificação 32 pode realizar a codificação espacialmente escalável na imagem em movimento suprida a partir da unidade de processamento de imagem 31, e supre um fluxo contínuo de figuras (figura [, figura P ou congêneres) obtido pela codificação da imagem em movimento para a unidade de processamento de transferência33. Além do mais, mediante a codificação da imagem em movimento, a unidade de codificação 32 pode limitar uma camada de referência a uma camada intermediária IL (veja a figura 7) de acordo com o controle de transferência realizado pela unidade de controle de transferência 34.
[0029] A unidade de processamento de transferência33 realiza um processo de envio, de envio de um fluxo contínuo de figura suprido a partir da unidade de codificação 32 para o aparelho de recepção 23 por meio da rede
25. Neste momento, a unidade de processamento de transferência33 pode transmitir uma figura através do caminho de transferência de acordo com o controle de transferência realizado pela unidade de controle de transferência
34.
[0030] A unidade de controle de transferência 34 faz com que a unidade de processamento de seleção do caminho de transferência 35 e a unidade de processamento de controle da camada de referência 36 realizem o controle de transferência de forma que uma imagem em movimento seja transferida com baixa latência no sistema de câmera em rede 11.
[0031] A unidade de processamento de seleção do caminho de transferência 35 monitora constantemente o envio para cada figura realizado pela unidade de processamento de transferência33, obtém a quantidade de latência até o início da transferência e a taxa depois do início da transferência, e calcula os valores estatísticos da mesma. Então, como será descrito em relação à figura 6 a ser descrita posteriormente, a unidade de processamento de seleção do caminho de transferência 35 seleciona a transferência do caminho através do qual é previsto que a transferência seja concluída antecipadamente, com base nas quantidades estatísticas calculadas e na quantidade de código da figura, e faz com que a unidade de processamento de transferência33 transmita a figura através do caminho de transferência selecionado.
[0032] Por exemplo, em um caso em que a unidade de processamento de controle da camada de referência 36 prevê que o subfluxo é altamente provável de ocorrer no armazenamento temporário de recepção 44 com base nos valores estatísticos calculados pela unidade de processamento de seleção do caminho de transferência 35, como será descrito em relação à figura 7 a ser descrita posteriormente, a unidade de processamento de controle da camada de referência 36 faz com que a unidade de codificação 32 limite a camada de referência à camada intermediária IL. Além do mais, a unidade de processamento de controle da camada de referência 36 pode realizar controle similar na unidade de codificação 32 no caso de recepção da realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção 44 do lado do aparelho de recepção 23.
[0033] A unidade de processamento de recepção 41 recebe as figuras transferidas por meio da rede 25 e armazena temporariamente as figuras no armazenamento temporário de recepção 44 sequencialmente. Então, a unidade de processamento de recepção 41 lê sequencialmente a figura que alcançou sincronismo de exibição de acordo com um intervalo de quadro do armazenamento temporário de recepção 44 e supre a figura para a unidade de decodificação 42. Além do mais, em um caso em que a latência na transferência de uma imagem em movimento por meio da rede 25 ocorrer, a recepção de uma figura no sincronismo de exibição não é concluída, e o subfluxo ocorre no armazenamento temporário de recepção 44, a unidade de processamento de recepção 41 provê a realimentação que notifica o lado do aparelho de envio 22 deste efeito.
[0034] A unidade de decodificação 42 supre, para a unidade de processamento de exibição 43, uma imagem em movimento obtida pela decodificação das figuras sequencialmente supridas a partir da unidade de processamento de recepção 41 de acordo com o intervalo de quadro.
[0035] A unidade de processamento de exibição 43 realiza um processo de exibição na imagem em movimento suprida a partir da unidade de decodificação 42 e faz com que o aparelho de exibição 24 exiba a imagem em movimento a ser reproduzida.
[0036] O aparelho de exibição 24 inclui, por exemplo, um dispositivo de exibição, tais como um painel de cristal líquido ou um painel de eletroluminescência (EL) orgânica, e exibe a imagem em movimento na qual o processo de exibição é realizado pela unidade de processamento de exibição
43.
[0037] No sistema de câmera em rede 11 configurado como exposto, a latência até que à imagem em movimento transmitida a partir do aparelho de envio 22 seja reproduzida pelo aparelho de recepção 23 pode ser reduzida de acordo com o controle de transferência realizado pela unidade de controle de transferência 34.
[0038] Aqui, antes de descrever o controle de transferência realizado pela unidade de controle de transferência 34, a transferência geral de uma imagem em movimento na qual o controle de envio não é realizado pela unidade de controle de transferência 34 será descrita em relação às figuras 2 e
2.
[0039] Da forma ilustrada na figura 2, no sistema de câmera em rede 11, a unidade de codificação 32 codifica uma imagem em movimento para gerar uma figura (figura I ou figura P) para cada intervalo de quadro Tfr, e transfere sequencialmente as figuras por meio da rede 25. Então, a unidade de processamento de recepção 41 acumula sequencialmente as figuras recebidas por meio da rede 25 no armazenamento temporário de recepção 44, e a latência de transferência Tfrmm pode ocorrer na rede 25, dependendo de um caminho de transferência através do qual cada figura é transferida.
[0040] Portanto, normalmente, mediante a transferência de uma imagem em movimento por meio da rede 25, a unidade de processamento de recepção 41 precisa incluir o armazenamento temporário de recepção 44 com uma capacidade suficiente, de forma que a imagem em movimento seja reproduzida sem interrupção. Então, a flutuação da latência de transferência Tfrn que ocorre na rede 25 pode ser absorvida pelo atraso do sincronismo no qual a unidade de decodificação 42 realiza a decodificação e do sincronismo no qual o aparelho de exibição 24 exibe a imagem em movimento, de forma que o subfluxo não ocorra no armazenamento temporário de recepção 44. Como exposto, pelo acúmulo temporário das figuras no armazenamento temporário de recepção 44, a latência ocorre entre o tempo em que a imagem em movimento é codificada e o tempo em que a imagem em movimento é decodificada e exibida.
[0041] Aqui, a latência pode ser reduzida pelo avanço do sincronismo no qual a unidade de decodificação 42 realiza a decodificação e do sincronismo no qual o aparelho de exibição 24 exibe a imagem em movimento.
[0042] Entretanto, se não for possível cobrir a máxima latência de transferência Tfrn que ocorre na rede 25 pela redução da latência, o subfluxo ocorre no armazenamento temporário de recepção 44 da forma ilustrada na figura 3.
[0043] Em decorrência disto, o resultado da decodificação da figura na qual o subfluxo ocorreu é inválido, e, em decorrência da exibição de uma imagem inválida, a exibição do aparelho de exibição 24 é perturbada. Além do mais, em um caso em que uma figura subsequente for uma figura P obtida pelo uso de previsão interquadro (Inter), uma imagem inválida é propagada.
Neste caso, uma figura I obtida pelo uso da próxima previsão intraquadro (Intra) é retornada ao normal. Portanto, dependendo do intervalo entre as figuras [, a perturbação da exibição do aparelho de exibição 24 pode continuar por um longo tempo.
[0044] Portanto, no sistema de câmera em rede 11, a unidade de controle de transferência 34 pode realizar o controle de transferência que suprime tal perturbação da exibição no aparelho de exibição 24 e habilita a transferência de uma imagem em movimento com baixa latência.
[0045] Por exemplo, a unidade de processamento de seleção do caminho de transferência 35 controla a unidade de processamento de transferência33 de forma que os códigos das respectivas camadas nas quais a codificação espacialmente escalável é realizada pela unidade de codificação 32 sejam enviados através do mesmo caminho de transferência ou caminhos de transferência individuais. Neste momento, a unidade de processamento de seleção do caminho de transferência 35 seleciona, como um caminho de transferência para enviar o código de cada camada, um caminho que é previsto com pequena latência de transferência de acordo com a quantidade de código. Além do mais, a unidade de processamento de seleção do caminho de transferência 35 pode melhorar a precisão da seleção do caminho de transferência pela obtenção do valor estatístico da quantidade de latência até o início da transferência e do valor estatístico da taxa depois do início da transferência para tal seleção do caminho de transferência.
[0046] Além do mais, a unidade de processamento de controle da camada de referência 36 pode julgar que uma possibilidade de que subfluxo ocorra no armazenamento temporário de recepção 44 é alta em um caso em que se puder determinar que a flutuação da latência do caminho de transferência do código da camada superior é grande com base, por exemplo, no valor estatístico da quantidade de latência até o início da transferência e no valor estatístico da taxa depois do início da transferência. Desta maneira,
neste caso, a unidade de processamento de controle da camada de referência 36 faz com que a unidade de codificação 32 se refira apenas a uma imagem ampliada da camada inferior. Portanto, mesmo se o subfluxo da camada superior ocorrer, é possível suprimir a propagação de uma imagem inválida.
[0047] Portanto, o sistema de câmera em rede 11 pode suprimir a latência de transferência pela seleção apropriadamente do caminho de transferência, e reduzir o risco de que a qualidade de uma imagem a ser exibida deteriore em decorrência de avançar o tempo de decodificação. Portanto, no sistema de câmera em rede 11, a latência até que uma imagem em movimento capturada pelo aparelho de formação de imagem 21 seja exibida no aparelho de exibição 24 pode ser suprimida.
[0048] Aqui, a configuração da rede 25 e a seleção do caminho de transferência realizadas pela unidade de processamento de seleção do caminho de transferência 35 serão descritas em relação à figura 4.
[0049] Por exemplo, da forma ilustrada na figura 4, na rede 25, uma pluralidade de aparelhos de envio 22 (no exemplo da figura 4, dois aparelhos de envio 22-1 e 22-2) é conectada e uma pluralidade de aparelhos de recepção 23 (dois aparelhos de recepção 23-1 e 23-2 no exemplo da figura 4) é conectada.
[0050] A rede 25 inclui uma unidade de processamento de distribuição de fatia 51 e uma pluralidade de fatias 52, cada qual configurando uma rede lógica. Por exemplo, a rede 25 pode prover de forma flexível uma função de rede de acordo com uma solicitação proveniente de um provedor de serviço.
[0051] A unidade de processamento de distribuição de fatia 51 realiza um processo de distribuição da comunicação para a pluralidade de fatias 52 de acordo com a quantidade de tráfego e os conteúdos de comunicação em cooperação com a virtualização da rede 25.
[0052] Cada uma da pluralidade de fatias 52 é uma rede virtual obtida pela divisão virtual da rede 25 em uma pluralidade de peças, e várias funções podem ser adicionadas em cada fatia 52. No exemplo ilustrado na figura 4, uma função de executar a transferência em melhor esforço é adicionada em uma fatia 52-1, uma função de executar transferência em alta velocidade é adicionada em uma fatia 52-2, e uma função de realizar a transferência com baixa latência é adicionada em uma fatia 52-3. Os recursos físicos necessários para cada fatia 52 são livremente combinados para habilitar a fatia 52 a constituir uma rede lógica.
[0053] Em um caso em que uma pluralidade de caminhos de transferência puder ser selecionada como na rede 25 configurada como exposto, a unidade de processamento de seleção do caminho de transferência pode realizar, por exemplo, o controle de transferência do envio de uma imagem em movimento com latência inferior pela seleção de um caminho de transferência que é mais adequado com o propósito.
[0054] Em relação às figuras 5 e 6, a seleção do caminho de transferência realizada pela unidade de processamento de seleção do caminho de transferência 35 será descrita.
[0055] A figura 5 ilustra um modelo de latência do caminho de transferência.
[0056] Por exemplo, da forma ilustrada na figura 5, em um caso em que a latência no caminho de transferência for expressada por uma expressão linear com tempo de espera do início da transferência d e taxa de transferência 1, a transferência da quantidade de código M toma o tempo T indicado pela seguinte expressão (1). [Expressão Matemática 1] T=a+l (1)
[0057] Então, da forma ilustrada na figura 6, em um caso em que houver dois tipos de caminhos de transferência com diferentes tempos de espera de início de transferência d e taxas de transferência r, o caminho de transferência (caminho de chegada antecipada) através do qual é previsto que a transferência seja concluída antecipadamente depende da quantidade de código M. Portanto, a unidade de processamento de seleção do caminho de transferência 35 pode compreender o tempo de espera do início da transferência d e a taxa de transferência r em cada caminho de transferência, e pode obter, por cálculo, uma quantidade de código limite Mx na qual o caminho de chegada antecipada é comutado. Então, a unidade de processamento de seleção do caminho de transferência 35 pode selecionar o caminho de chegada antecipada pela comparação da quantidade de código do resultado da codificação com a quantidade de código limite Mr.
[0058] Por exemplo, a unidade de processamento de seleção do caminho de transferência 35 armazena os valores reais como o tempo de espera do início da transferência d e a taxa de transferência r, calcula os valores estatísticos dos valores médios e desvios padrões, e pode prever o caminho de chegada antecipada com base nos valores estatísticos. Isto é, pelo uso de um valor médio da taxa rM, um valor médio da latência dM, um desvio padrão da taxa s(r), um desvio padrão da latência s(d), e um parâmetro de previsão n, a unidade de processamento de seleção do caminho de transferência 35 pode obter uma taxa prevista rP e uma latência prevista dP pelo cálculo da seguinte expressão (2). [Expressão Matemática 2] rP=rM-nxs(r) «oco (2) & = dW+nxs(d)
[0059] Aqui, quanto maior for o parâmetro de previsão n usado na Expressão (2), mais pessimista é a previsão com uma taxa inferior e uma maior latência.
[0060] Note que os valores reais do tempo de espera do início da transferência d e da taxa de transferência r usados pela unidade de processamento de seleção do caminho de transferência 35 para obter os valores estatísticos podem ser acumulados no aparelho de envio 22, ou podem ser obtidos por meio da rede 25 a partir de um servidor que coleta a informação de acúmulo da pluralidade de aparelhos de envio 22. Além do mais, já que se considera que os valores reais do tempo de espera do início da transferência d e da taxa de transferência r dependem do fuso horário e do local, a precisão da previsão pode ser melhorada pela geração de um mapa dos valores reais para cada informação de ponto no tempo e posição.
[0061] A unidade de processamento de seleção do caminho de transferência 35 calcula a taxa prevista rP e a latência prevista dP assim obtidas para cada um de uma pluralidade de caminhos de transferência. À unidade de processamento de seleção do caminho de transferência 35 pode calcular a quantidade de código limite Mr, ilustrada na figura 6 com base na taxa prevista rP e na latência prevista dP, e pode selecionar o caminho de chegada antecipada.
[0062] Por exemplo, a quantidade de código limite Mm e o tempo Tm quando a quantidade de código limite Mw for alcançada ilustrados na figura 6 são calculados da forma ilustrada na seguinte Expressão (3) pelo uso da taxa prevista rPA e da latência prevista dPA do caminho de transferência A, e da taxa prevista rPB e da latência prevista dPB do caminho de transferência B. [Expressão Matemática 3] h = rPAx rPB x SPA=dES. ** (3) Tm = rPA x dPA—rPB x dPB rPA—rPB
[0063] Então, a unidade de processamento de seleção do caminho de transferência 35 usa a quantidade de código limite Mr, e seleciona o caminho de transferência B em um caso em que a taxa prevista rPB do caminho de transferência B for maior do que a taxa prevista rPA do caminho de transferência A (TPB > rPA), e a quantidade de código M for maior do que a quantidade de código limite Mm (M > Mw). Ao contrário, a unidade de processamento de seleção do caminho de transferência 35 seleciona o caminho de transferência A em um caso em que a taxa prevista rPB do caminho de transferência B for maior do que a taxa prevista rPA do caminho de transferência A (IPB > rPA), e a quantidade de código M for igual a ou menor do que a quantidade de código limite Mw (M < Mx). Isto é, no exemplo ilustrado, é previsto que a transferência através do caminho de transferência A é concluída antecipadamente até o tempo Tw em que a quantidade de código limite Mx for alcançada, e é previsto que a transferência através do caminho de transferência B é prevista como antecipada depois do tempo Ti.
[0064] Note que um elemento dos custos de transferência pode ser incluído na quantidade de código limite Mw. Por exemplo, em um caso em que o preço da unidade de bits cA do caminho de transferência A for maior do que o preço da unidade de bits cB do caminho de transferência B (CA > cB), pela multiplicação da quantidade de código limite Mw por um coeficiente (= cB/cA), o caminho de transferência pode ser selecionado em consideração da latência e dos custos de transferência.
[0065] Da forma supradescrita, no sistema de câmera em rede 11, uma imagem em movimento pode ser transmitida com latência inferior pela seleção de uma transferência do caminho através do qual é previsto que a transferência seja concluída antecipadamente.
[0066] Um processo em que a unidade de processamento de controle da camada de referência 36 controla a camada de referência será descrito em relação à figura 7.
[0067] No aparelho de envio 22, a unidade de codificação 32 pode realizar a codificação espacialmente escalável para codificação de uma imagem em movimento. Isto é, a unidade de codificação 32 realiza a codificação para gerar um fluxo contínuo com uma estrutura hierárquica que inclui uma camada base BL de baixa resolução e uma camada de intensificação EL de alta resolução a partir de uma imagem em movimento capturada pelo aparelho de formação de imagem 21.
[0068] Por exemplo, na camada base BL, a unidade de codificação 32 realiza a codificação de uma figura P pela referência apenas à imagem decodificada da própria camada base BL; entretanto, na camada de intensificação EL, a unidade de codificação 32 pode se referir a uma camada intermediária IL, que é uma imagem ampliada da imagem decodificada da camada base BL, além da imagem decodificada da própria camada de intensificação EL. Portanto, devido a tal relacionamento de dependência, a codificação da camada base BL precede a codificação da camada de intensificação EL em série temporal.
[0069] Além do mais, no fluxo contínuo gerado pela unidade de codificação 32, a camada base BL e a camada de intensificação EL podem ser transmitidas independentemente. Portanto, a unidade de processamento de transferência33 pode enviar a camada base BL antes da camada de intensificação EL.
[0070] Então, em relação ao envio da camada base BL e da camada de intensificação EL, a unidade de processamento de seleção do caminho de transferência 35 faz uma comparação com a supradescrita quantidade de código limite M', com base na quantidade de código do fluxo contínuo de cada da camada base BL e da camada de intensificação EL para poder selecionar individualmente o caminho de transferência. Por exemplo, para a camada base BL com uma quantidade de código inferior, é altamente provável que um caminho de transferência com latência inferior (por exemplo, uma fatia 52-3 na figura 4) seja selecionado de acordo com o relacionamento de magnitude entre as resoluções, e o risco de que o subfluxo ocorra pode ser mais reduzido do que na camada de intensificação EL com uma quantidade de código mais alta. Ao contrário, a camada de intensificação EL tem uma possibilidade mais alta de passar através de um caminho de transferência com flutuação da latência maior.
[0071] Portanto, a unidade de processamento de controle da camada de referência 36 pode prever que uma possibilidade de que subfluxo ocorra no armazenamento temporário de recepção 44 é alta quando o valor absoluto da latência aumentar ou a flutuação aumentar, com base nos valores estatísticos calculados pela unidade de processamento de seleção do caminho de transferência 35. Com base nisto, a unidade de processamento de controle da camada de referência 36 faz com que a unidade de codificação 32 limite a camada de referência à camada intermediária IL. Além do mais, no caso de recepção da realimentação que indica que o subfluxo ocorreu no armazenamento temporário de recepção 44 do lado do aparelho de recepção 23, a unidade de processamento de controle da camada de referência 36 similarmente faz com que a unidade de codificação 32 limite a camada de referência à camada intermediária IL.
[0072] Neste caso, a unidade de codificação 32 codifica a camada de intensificação EL em relação apenas à camada intermediária IL. Portanto, a unidade de decodificação 42 realiza a decodificação sem referência a uma imagem inválida e, assim, pode interromper a decodificação em relação à imagem inválida gerada devido ao subfluxo. Em decorrência disto, no aparelho de recepção 23, quando a unidade de decodificação 42 realizar a decodificação e a unidade de processamento de exibição 43 realizar o processo de exibição no aparelho de exibição 24, é possível suprimir a propagação de uma imagem inválida e retornar a imagem para a imagem normal.
[0073] Da forma supradescrita, no sistema de câmera em rede 11, mesmo se o subfluxo ocorrer no armazenamento temporário de recepção 44 devido à ocorrência de latência no caminho de transferência, é possível impedir que uma imagem inválida se propague.
[0074] A figura 8 é um fluxograma que ilustra um processo de envio no qual o aparelho de envio 22 transmite uma imagem em movimento.
[0075] Por exemplo, quando uma imagem em movimento capturada pelo aparelho de formação de imagem 21 for suprida para o aparelho de envio 22, o processo é iniciado. Na etapa S11, a unidade de codificação 32 realiza a codificação espacialmente escalável na imagem em movimento na qual um processo de imagem foi realizado pela unidade de processamento de imagem
31. Portanto, a unidade de codificação 32 gera um fluxo contínuo com uma estrutura hierárquica que inclui uma camada base BL de baixa resolução e uma camada de intensificação EL de alta resolução e supre o fluxo contínuo para a unidade de processamento de transferência33.
[0076] Na etapa S12, a unidade de codificação 32 notifica a unidade de processamento de seleção do caminho de transferência 35 da unidade de controle de transferência 34 das quantidades de código da camada base BL e da camada de intensificação EL codificadas na etapa S11.
[0077] Na etapa S13, a unidade de processamento de seleção do caminho de transferência 35 compara as quantidades de código da camada base BL e da camada de intensificação EL com a quantidade de código limite Mx (veja a figura 6), e seleciona a transferência do caminho de transferência através do qual é previsto que seja concluída antecipadamente com base nos resultados da comparação. Então, a unidade de processamento de seleção do caminho de transferência 35 faz com que a unidade de processamento de transferência33 realize o envio através do caminho de transferência selecionado.
[0078] Na etapa S14, a unidade de processamento de transferência33 transmite a camada base BL e a camada de intensificação EL supridas a partir da unidade de codificação 32 na etapa S1I1l através do caminho de transferência selecionado pela unidade de processamento de seleção do caminho de transferência 35 na etapa S13.
[0079] Na etapa S15, a unidade de processamento de controle da camada de referência 36 julga se uma alta possibilidade de que subfluxo ocorra no armazenamento temporário de recepção 44 é prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção 44 é recebida ou não a partir do lado do aparelho de recepção 23.
[0080] Na etapa S15, em um caso em que uma alta possibilidade de que subfluxo ocorra no armazenamento temporário de recepção 44 não for prevista, e em um caso em que for julgado que a realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção 44 não é recebida a partir do lado do aparelho de recepção 23, o processo retorna para a etapa S11,e o processo similar é repetido posteriormente.
[0081] Ao contrário, na etapa S15, em um caso em que uma alta possibilidade de que subfluxo ocorra no armazenamento temporário de recepção 44 for prevista, ou em um caso em que a realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção 44 for recebida a partir do lado do aparelho de recepção 23, o processo prossegue para a etapa S16.
[0082] Na etapa S16, depois que a unidade de processamento de controle da camada de referência 36 fizer com que a unidade de codificação 32 limite a camada de referência à camada intermediária IL, o processo retorna para a etapa S11. Neste caso, a unidade de codificação 32 codifica a camada de intensificação EL com referência apenas à camada intermediária IL apenas na próxima etapa S11.
[0083] Posteriormente, o processo similar é repetido até que o suprimento da imagem em movimento capturada pelo aparelho de formação de imagem 21 seja interrompido.
[0084] Da forma supradescrita, no sistema de câmera em rede 11, no aparelho de envio 22, a unidade de controle de transferência 34 pode selecionar adaptativamente um caminho de transferência com base na quantidade estatística da latência de transferência. Portanto, a latência de transferência pode ser mantida baixa, e, em decorrência disto, o risco de ocorrência do subfluxo no armazenamento temporário de recepção 44 no aparelho de recepção 23 pode ser reduzido.
[0085] Além do mais, no sistema de câmera em rede 11, a unidade de codificação 32 realiza a codificação espacialmente escalável no aparelho de envio 22. Então, no sistema de câmera em rede 11, por exemplo, pela seleção adaptativa da camada de referência da camada superior de acordo com a flutuação da latência do caminho de transferência dos códigos da camada superior, mesmo quando o subfluxo ocorrer no armazenamento temporário de recepção 44, a propagação de uma imagem inválida pode ser impedida, e a deterioração da qualidade da imagem exibida no aparelho de exibição 24 pode ser suprimida.
[0086] Da forma descrita, no sistema de câmera em rede 11, o risco de ocorrência do subfluxo no armazenamento temporário de recepção 44 pode ser reduzido e a propagação de uma imagem inválida pode ser impedida e, portanto, o sincronismo no qual a unidade de decodificação 42 inicia a decodificação pode ser avançado. Desta maneira, o sistema de câmera em rede 11 pode transmitir uma imagem em movimento capturada pelo aparelho de formação de imagem 21 por meio da rede 25 de forma que a imagem em movimento seja reproduzida no aparelho de exibição 24 com latência inferior.
[0087] Em decorrência disto, o sistema de câmera em rede 11 pode melhorar a conveniência das aplicações que exigem uma resposta ou réplica a uma imagem em um local remoto recebida por meio da rede 25, tais como uma chamada de vídeo, uma câmera de vigilância ou congêneres. <Exemplo de configuração do computador>
[0088] Note que os processos descritos em relação ao supradescrito fluxograma não necessariamente precisam ser processados na ordem de série temporal de acordo com a ordem descrita no fluxograma, e podem incluir processos realizados em paralelo ou individualmente (por exemplo, um processo em paralelo ou um processo com base em um objeto). Além do mais, o programa pode ser processado por uma CPU, ou pode ser processado de uma maneira distribuída por uma pluralidade de CPUs.
[0089] Além do mais, a supradescrito série de processos (método de envio) pode ser executada por hardware ou pode ser executada por software. Em um caso em que a série de processos for executada por software, um programa que constitui o software é instalado a partir de uma mídia de gravação de programa na qual um programa é gravado em um computador incorporado em hardware dedicado ou, por exemplo, um computador pessoal de propósito geral ou congêneres nos quais vários programas são instalados para poder executar várias funções.
[0090] A figura 9 é um diagrama de blocos que ilustra um exemplo de uma configuração de hardware do computador que executa a série de processos supradescrita de acordo com o programa.
[0091] No computador, uma unidade de processamento central (CPU) 101, uma memória exclusiva de leitura (ROM) 102, e uma memória de acesso aleatório (RAM) 103 são mutuamente conectadas por um barramento 104.
[0092] Além do mais, uma interface de entrada/saída 105 é conectada no barramento 104. Uma unidade de entrada 106 que inclui um teclado, um mouse, um microfone ou congêneres, uma unidade de saída 107 que inclui um visor, um alto-falante ou congêneres, uma unidade de armazenamento 108 que inclui um disco rígido, uma memória não volátil ou congêneres, e uma unidade de comunicação 109 que inclui uma interface de rede ou congêneres, e uma unidade 110 que aciona uma mídia removível 111, tais como um disco magnético, um disco óptico, um disco magneto-óptico ou uma memória semicondutora, são conectadas na interface de entrada/saída 105.
[0093] No computador configurado como exposto, por exemplo, a CPU 101 carrega o programa armazenado na unidade de armazenamento 108 na RAM 103 por meio da interface de entrada/saída 105 e no barramento 104 e executa o programa, e, assim, a supradescrita série de processos é realizada.
[0094] O programa executado pelo computador (CPU 101) é gravado na mídia removível 111, que é um pacote de mídia que inclui, por exemplo, um disco magnético (incluindo um disco flexível), um disco óptico (memória exclusiva de leitura em disco compacto (CD-ROM), um disco versátil digital (DVD) ou congêneres), um disco magneto-óptico ou uma memória semicondutora ou congêneres, ou é provido por meio de uma mídia de transferência com fios ou sem fio, tais como uma rede de área local, a Internet ou difusão por satélite digital.
[0095] Então, o programa pode ser instalado na unidade de armazenamento 108 por meio da interface de entrada/saída 105 pela inserção da mídia removível 111 na unidade 110. Além do mais, o programa pode ser recebido pela unidade de comunicação 109 por meio de uma mídia de transferência com fios ou sem fio e pode ser instalado na unidade de armazenamento 108. Além do mais, o programa pode ser instalado em antecipação na ROM 102 ou na unidade de armazenamento 108. <Exemplos de combinações de configuração>
[0096] Note que a presente tecnologia também pode ser configurada como segue.
[0097] (1) Um aparelho de envio, que inclui: uma unidade de codificação que realiza a codificação espacialmente escalável em uma imagem em movimento; uma unidade de processamento de transferênciaque realiza um processo de envio de uma figura para cada camada codificada pela unidade de codificação, por meio de uma rede; e uma unidade de processamento de controle da camada de referência que faz com que a unidade de codificação limite uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[0098] (2) O aparelho de envio, como definido em (1) exposto, que inclui adicionalmente uma unidade de processamento de seleção do caminho de transferência que seleciona uma transferência do caminho através do qual é previsto que a transferência seja concluída antecipadamente de acordo com uma quantidade de código de uma figura para cada camada codificada pela unidade de codificação, e faz com que a unidade de processamento de transferênciarealize o envio através do caminho de transferência selecionado.
[0099] (3) O aparelho de envio, como definido em (2) exposto, em que a unidade de processamento de seleção do caminho de transferência seleciona o caminho de transferência com base na comparação entre uma quantidade de código da figura e uma quantidade de código limite obtida pelo uso de um valor estatístico de uma quantidade de latência até o início da transferência na unidade de processamento de transferênciae uma quantidade estatística de uma taxa depois que a unidade de processamento de transferênciainiciar a transferência.
[00100] (4) O aparelho de envio, como definido em (3) exposto, em que a unidade de processamento de controle da camada de referência prevê se uma possibilidade de que subfluxo ocorra no armazenamento temporário de recepção é alta ou não com base no valor estatístico da quantidade de latência e da quantidade estatística da taxa.
[00101] (5) O aparelho de envio, como definido em qualquer um de (1) a (4) expostos, em que a rede inclui uma pluralidade de redes virtuais que são obtidas pela divisão virtual da íntegra da rede e na qual as respectivas funções são adicionadas.
[00102] (6) Método de envio, que inclui:
realizar, por um aparelho de envio que transmite uma imagem em movimento, codificação espacialmente escalável na imagem em movimento; realizar, pelo aparelho de envio, um processo de envio de uma figura para cada camada codificada, por meio de uma rede; e realizar, pelo aparelho de envio, controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior, em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[00103] (7) Um programa que faz com que um computador de um aparelho de envio que transmite uma imagem em movimento realize um processo que inclui: realizar codificação espacialmente escalável na imagem em movimento; realizar um processo de envio de uma figura para cada camada codificada, por meio de uma rede; e realizar controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior, em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
[00104] Note que as presentes modalidades não são limitadas às modalidades supradescritas, e várias modificações podem ser feitas sem fugir do escopo da presente descrição. Além do mais, os efeitos descritos na presente descrição são ilustrações apenas e não limitados, e pode haver outros efeitos. Lista dos Sinais de Referência
[00105] 11 Sistema de câmera em rede 21 Aparelho de formação de imagem 22 Aparelho de envio 23 Aparelho de recepção 24 Aparelho de exibição Rede 31 Unidade de processamento de imagem 32 Unidade de codificação 33 Unidade de processamento de envio 34 Unidade de controle de transferência Unidade de processamento de seleção do caminho de transferência 36 Unidade de processamento de controle da camada de referência 41 Unidade de processamento de recepção 42 Unidade de decodificação 43 Unidade de processamento de exibição 44 Armazenamento temporário de recepção 51 Unidade de processamento de distribuição de fatia 52-1 a 52-3 Fatia

Claims (7)

REIVINDICAÇÕES
1. Aparelho de envio, caracterizado pelo fato de que compreende: uma unidade de codificação que realiza a codificação espacialmente escalável em uma imagem em movimento; uma unidade de processamento de transferência que realiza um processo de envio de uma figura para cada camada codificada pela unidade de codificação, por meio de uma rede; e uma unidade de processamento de controle da camada de referência que faz com que a unidade de codificação limite uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior, em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista, ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
2. Aparelho de envio de acordo com a reivindicação 1, caracterizado pelo fato de que compreende adicionalmente uma unidade de processamento de seleção do caminho de transferência que seleciona um caminho de transferência através do qual a transferência é prevista que seja concluída antecipadamente de acordo com uma quantidade de código de uma figura para cada camada codificada pela unidade de codificação, e faz com que a unidade de processamento de transferência realize a transferência através do caminho de transferência selecionado.
3. Aparelho de envio de acordo com a reivindicação 2, caracterizado pelo fato de que a unidade de processamento de seleção do caminho de transferência seleciona o caminho de transferência com base na comparação entre uma quantidade de código da figura e uma quantidade de código limite obtida pelo uso de um valor estatístico de uma quantidade de latência até o início da transferência na unidade de processamento de transferência e uma quantidade estatística de uma taxa depois que a unidade de processamento de transferência iniciar a transferência.
4. Aparelho de envio de acordo com a reivindicação 3, caracterizado pelo fato de que a unidade de processamento de controle da camada de referência prevê se uma possibilidade de que subfluxo ocorra no armazenamento temporário de recepção é alta ou não com base no valor estatístico da quantidade de latência e da quantidade estatística da taxa.
5. Aparelho de envio de acordo com a reivindicação 1, caracterizado pelo fato de que a rede inclui uma pluralidade de redes virtuais que são obtidas pela divisão virtual da íntegra da rede e na qual as respectivas funções são adicionadas.
6. Método de envio, caracterizado pelo fato de que compreende: realizar, por um aparelho de envio que transmite uma imagem em movimento, a codificação espacialmente escalável na imagem em movimento; realizar, pelo aparelho de envio, um processo de transferência de uma figura para cada camada codificada, por meio de uma rede; e realizar, pelo aparelho de transferência, controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior, em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista, ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
7. Meio de armazenamento legível por computador, caracterizado pelo fato de que compreende instruções legíveis por computador que, quando lidas por um computador de um aparelho de envio que transmite uma imagem em movimento, faz com que o mesmo realize um processo que inclui:
realizar a codificação espacialmente escalável na imagem em movimento;
realizar um processo de transferência de uma figura para cada camada codificada, por meio de uma rede; e realizar controle para limitar uma camada de referência a ser referida mediante a codificação de uma camada superior para uma camada intermediária gerada a partir de uma camada inferior em um caso em que uma alta possibilidade de que subfluxo ocorra em um armazenamento temporário de recepção for prevista, ou realimentação que indica que subfluxo ocorreu no armazenamento temporário de recepção for recebida.
UNIDADE DE CONTROLE DE TRANSFERÊNCIA
UNIDADE DE
PRGCESSAMENTO PROCESSAMENTO DECONTROLEDA CDE o CAMADA DE REFERÊNCIA || CAM DE
APARELHO DE UNIDADE DE E UNIDADE DE
FORMAÇÃO DE PROCESSAMENTO UNIDADE DE PROCESSAMENTO
IMAGEM DE IMAGEM CODIFICAÇÃO DE TRANSMISSÃO
UNIDADE DE PROCESSAMENTO 24
DE RECEPÇÃO
UNIDADE DE
UNIDADE DE APARELHO
ARMAZENAMENTO Ã PROCESSAMENTO Ã
TENPORNAID OS DECODIFICAÇÃO DE EXIBIÇÃO DE EXIBIÇÃO
RECEPÇÃO
CODIFICAÇÃO : : t i Ei TFR: INTERVALO DE QUADRO TfrsTfrifr PONTO NO ' ' , : TEMPO ; ' 1 ; 1 ' 1 1 1 ' ' í QUANTIDADEDE + ; ' DADOS RESTANTE '; Tfr2e—s : 1 e Tiro ' EA Oo) CPO 1 + EN EPs , LES ARMAZENAMENTO | iz iTfriio TEMPORÁRIO DE TO: Ê R RECEPÇÃO TIO: EO DURANTE A TRANSFERÊNCIA 4 pd TTANUATÊNCIA : : JÔ mec, [E saiba PONTO NO ' TEMPO 1 i 1 ' LATÊNCIA RA > tv 1 , DECODIFICAÇÃO — | ; h i ; ' 1 1 : ? : Y y : TfriTfeTfA: PONTO NO ' TEMPO ' ; LATÊNCIA ; : ; An aorose tea nieanteasaassaSSS RSRS ssa ren rs essas taatos nesses sensei e , , ' EXIBIÇÃO ' Í ; h ; : ' 1 ; T ? O ; ' TfrTfo fr PONTO NO í TEMPO
CODIFICAÇÃO | 3 : ; ; í i , ' Refis nfs meio à Rx 19] 55 PA 55] BP Pl 3 PB hq
EEE DME DEM TFR INTERVALO É IA 'Tfr: Tfr:Tfr: fr: fr DEQUADRO Tra PONTO NO rod TPTEMPO io QUANTIDADEDE = —reroi ; PORTE E je TIP NANA, ' ' Ss 1 NÉSIMO QUADRO ARMAZENAMENTO 2 Tfr 1 JW i i TEMPORÁRIO DE + , 1a o RECEPÇÃO TfrO: o SUBFLUXO 1 |, OCORRE
PONTO NO
TEMPO
PROPAGAÇÃO A
IMAGEM INVÁLIDA
DECODIFICAÇÃO NC NO RE P1l pa) Sa pal Bal ss [EITA E ÇA IT io a PE TfriTfreTfRcTiNATAAO Tfro PONTO NO mA NX = R iTfriTfoTio TATA :Tfr: PONTONO A a
TEMPO u o à — o2/N loo LD ISZSIT |XS ... PE US / oO vo es ES | qu o ES o ww qa <r ET o ma = Ê ê ê $ ê ê Fs á 8 8 & fe nz = g z x à 1º] 2º]: 28 = < x z < Ê
E . o & É " O Ex) un. do z< no u3> aa
UOES auUuhE a5ok% soou ZCEuX >SoAOO wo wo " — os ou e ! ou | | 2º ... NJ 3= | NJ 3d oN uoO JW C>z CCZ <q << ax ac <r <r
= o [. = Wu Fr ! ' ' i ' ' =). ; + ' vv ! ç o AA ONT 25955 : ! O ; : uu. : ' ' - j- ' o ' < : o ' Z2Zz ' & ' No - ' uu ' u , on 1 Oo É ; x ' Fr NA u = Oo wu Oo < 9
E 2 << 2 o
<< < o Ê — a E m 2 o
E 8 ã << Zz C Fr ão E q wu E a on Zz 2 ; É Zz: Fr Zz i wu o o ; o ;
IX Zz 1 = ' z ; O : e SRA: TRA Es) 1 Lune ; ' ' ; ; i ; ' oeneeoço ; Oo ; ; < . ' -
S E mm 1 E ; u < ; co o ' Po g ; No & 1 | : Ex : s Z i & ; z VV r Ss uu = o a á a a -) Em r< [ Z2 2 Zz í< << < xo Oo 3 Zz Zz õ 24 24 a a Au = ou Ou zo zo oz oz OL o< uu É uu Fr Fr <u <u 29º oo ão ão
CX CX wu Z uZ 25 4º £º co co = rp
CODIFICAÇÃO ' , s ' + + : Be lb E E E E 8 ms E So 4 SS iTfriTfrilfoiTfoTfnc ATO PONTO NO A ao Ao dA A dq TEMPO RNA RR NAL, IL 10 PA 1P2! 2P3: :P4l SPSS PGS ; P í » i DP É 2 DP DA REFERE-SE SOMENTE A IL PI IR Ro RO Ro NOS e 8 PA 5 PA DSI i TR TRA TRA TBr TETRA PONTO NO ARMAZENAMENTO 1 1 ; : : i 3 : % : E : i TEMPO TEMPORÁRIO DE FE .. FE + : r H : : it AFOFPÇÃO — auantpaDE DE! Ed Edo idos cf DADOS RESTANTE à ; ; ' ; : : 1 H : ; H BL fito cor 5 E do : [dei dom dei im ll dem , PONTO NO 1 " 1 1; 7 au 1 TEMPO —— , + r TREO EL 5 5 THA Bio auanmpADEDE —ITEFI EL: SO: Tera EL: SO tr EL Em o TAH: TSE jócomeeo EL | o Mi Res : fla ata AU ido PONTO NO
E TEMPO
DECODIFICAÇÃO T & QUE ribeiro ends PONTO NO % a x T Xv Ns “ TEMPO SE Ab, nb, E, sh, E, IL 110! !PJ! P2i 1P3) SPA) GPS: PG: o) E —FMMNHNA
EE E ME DE iTfrsTfeiTfA TATA TAG PONTO NO
NX NX RETORNADO PARA TEMPO . ' R ' ' ' 4 NN, IMAGEM NORMAL EXIBIÇÃO ' Não n No Re Ns > RU RC Reç R e. PTP ET E
EAD DME DE DRE EA «TfriTfeTfeTfoTíNA TA PONTO NO
TEMPO su
REALIZAR CODIFICAÇÃO ESPACIALMENTE
ESCALÁVEL NA IMAGEM EM MOVIMENTO DAR NOTÍCIA DA QUANTIDADE DE CÓDIGO S1 2 SELECIONAR CAMINHO DE TRANSFERÊNCIA S1 3
COM BASE NA COMPARAÇÃO COM
QUANTIDADE DE CÓDIGO LIMITE S14
TRANSMITIR CAMADA BASE E
CAMADA DE INTENSIFICAÇÃO S15
POSSIBILIDADE DE QUE SUBFLUXO OCORRA É ALTA, OU SUBFLUXO OCORREU?
SIM
LIMITAR CAMADA DE REFERÊNCIA
A CAMADA INTERMEDIÁRIA oO rr = = Y à ã z =Zz o = 3 aê = = < co 8 2 Lo < < ? AA em 5 FESRR < az = o FF) o É 3ê — So - . Z2Z O A u wu x é u o o ê és o ue o So => É & = = x EH ui F 4 3º
Z rm é Lo FEECSRhas Zu = = o. XX KO < - O 2 o aÉ = sã | Zu Ss
BR112020006752-0A 2017-10-11 2018-09-27 aparelho de envio, método de envio, e meio de armazenamento legível por computador BR112020006752A2 (pt)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017-197723 2017-10-11
JP2017197723 2017-10-11
PCT/JP2018/035841 WO2019073802A1 (ja) 2017-10-11 2018-09-27 送信装置および送信方法、並びにプログラム

Publications (1)

Publication Number Publication Date
BR112020006752A2 true BR112020006752A2 (pt) 2020-10-06

Family

ID=66100712

Family Applications (1)

Application Number Title Priority Date Filing Date
BR112020006752-0A BR112020006752A2 (pt) 2017-10-11 2018-09-27 aparelho de envio, método de envio, e meio de armazenamento legível por computador

Country Status (9)

Country Link
US (1) US11070827B2 (pt)
EP (1) EP3678372A4 (pt)
JP (1) JP7173028B2 (pt)
KR (1) KR20200058431A (pt)
CN (1) CN111183640A (pt)
BR (1) BR112020006752A2 (pt)
RU (1) RU2020112245A (pt)
TW (1) TW201933867A (pt)
WO (1) WO2019073802A1 (pt)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021199131A1 (ja) * 2020-03-30 2021-10-07 ソニーグループ株式会社 情報処理装置及び情報処理システム
EP4109993A4 (en) * 2020-03-31 2023-08-16 Sony Group Corporation INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING METHOD
WO2022185795A1 (ja) * 2021-03-05 2022-09-09 ソニーグループ株式会社 情報処理装置、情報処理方法およびプログラム
CN116033147A (zh) * 2021-10-27 2023-04-28 华为技术有限公司 图像编解码方法和装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BE790089A (fr) 1971-10-14 1973-04-13 Ici Ltd Derives de l'imidazole
JP2000236547A (ja) * 1998-12-15 2000-08-29 Sony Corp 画像情報変換装置及び画像情報変換方法
JP5753341B2 (ja) 2006-03-03 2015-07-22 ヴィドヨ,インコーポレーテッド スケーラブルビデオ通信でエラー耐性、ランダムアクセス、およびレート制御を提供するシステムおよび方法
CA2798008C (en) * 2010-05-06 2015-10-20 Nippon Telegraph And Telephone Corporation Method for controlling video encoding if a decoder underflow condition is detected
JP2015019319A (ja) * 2013-07-12 2015-01-29 キヤノン株式会社 符号化装置、符号化方法及びプログラム
JP2016184844A (ja) * 2015-03-26 2016-10-20 ソニー株式会社 画像処理装置および方法
EP3387835A1 (en) * 2015-12-11 2018-10-17 VID SCALE, Inc. Scheduling multiple-layer video segments

Also Published As

Publication number Publication date
CN111183640A (zh) 2020-05-19
WO2019073802A1 (ja) 2019-04-18
US11070827B2 (en) 2021-07-20
EP3678372A1 (en) 2020-07-08
RU2020112245A (ru) 2021-09-27
EP3678372A4 (en) 2020-09-09
JPWO2019073802A1 (ja) 2020-11-12
TW201933867A (zh) 2019-08-16
JP7173028B2 (ja) 2022-11-16
RU2020112245A3 (pt) 2022-01-21
US20200314439A1 (en) 2020-10-01
KR20200058431A (ko) 2020-05-27

Similar Documents

Publication Publication Date Title
BR112020006752A2 (pt) aparelho de envio, método de envio, e meio de armazenamento legível por computador
CN109891850B (zh) 用于减少360度视区自适应流媒体延迟的方法和装置
JP5788442B2 (ja) データストリームに対するブロックパーティショニング
JP6080951B2 (ja) 円滑な品質遷移を可能にする適応ストリーミングアウェアノード、エンコーダ及びクライアント
US9621613B1 (en) Bitrate adaptation transitioning using key frames
US20110249729A1 (en) Error resilient hierarchical long term reference frames
WO2019170073A1 (zh) 媒体播放
US10142644B2 (en) Decoding frames
US9661351B2 (en) Client side frame prediction for video streams with skipped frames
US20160381396A1 (en) Dynamic insertion of synchronization predicted video frames
US8804771B2 (en) Method for managing a data transmission from a sender device, corresponding computer-readable storage medium and sender device
US9654530B2 (en) Streaming distribution system, streaming distribution method
AU2015241276C1 (en) Decoding and synthesizing frames for incomplete video data
CN102413382A (zh) 一种提高实时视频平滑性的方法
US10002644B1 (en) Restructuring video streams to support random access playback
WO2012154156A1 (en) Apparatus and method for rendering video using post-decoding buffer
US11409415B1 (en) Frame interpolation for media streaming
WO2014005447A1 (zh) 双向预测图像片的编码、解码方法及设备
CN108933762B (zh) 一种媒体流的播放处理方法及装置
CN116962809A (zh) 自适应位速率视频流式传输的重新缓冲减少
JP5367687B2 (ja) データ配信システム、データ配信装置、及びデータ配信方法
JP2016129399A5 (ja) 動画像符号化方法
TW201228318A (en) System of dynamically allocating medium segment layers and method thereof

Legal Events

Date Code Title Description
B350 Update of information on the portal [chapter 15.35 patent gazette]
B08F Application dismissed because of non-payment of annual fees [chapter 8.6 patent gazette]

Free format text: REFERENTE A 5A ANUIDADE.

B08K Patent lapsed as no evidence of payment of the annual fee has been furnished to inpi [chapter 8.11 patent gazette]

Free format text: REFERENTE AO DESPACHO 8.6 PUBLICADO NA RPI 2741 DE 18/07/2023.