KR20230123680A - 유해 행동, 음성의 필터링 하기 위한 장치 및 방법 - Google Patents

Abstract

본 발명은 유해 행동, 음성을 필터링 하기 위한 기술에 관한 것으로서, 보다 상세하게는 화상통신 중 대상의 행동 및 음성을 분석하여 유해도를 판단하여 필터링하는 기술에 관한 것이다. 일실시예에 따른 유해 행동, 음성 필터링 장치는 행동, 음성의 유해도 검사를 위해 행동 이미지, 음성 텍스트 및 표정, 어조 등 행동, 음성 데이터의 전처리를 수행하는 유해도 검사 전처리부와, 상기 생성된 행동, 음성의 전처리 데이터를 분류기로 제공하여 유해도 산출을 위한 영상, 음성 데이터 분류를 요청하고, 상기 산출된 유해도를 포함하는 영상, 음성 분류 결과를 수집하는 영상, 음성 분류부 및 기 수집된 영상, 음성 데이터 분류 결과를 고려하여 상기 행동 및 음성에 대한 차단 및 경고 여부를 결정하는 콘텐츠 차단부를 포함할 수 있다.

Description

유해 행동, 음성의 필터링 하기 위한 장치 및 방법{Devices and methods for filtering harmful behaviors and voices.}

본 발명은 유해 행동, 음성을 필터링 하기 위한 기술에 관한 것으로서, 보다 상세하게는 화상통신 중 대상의 행동 및 음성을 분석하여 유해도를 판단하여 필터링하는 기술에 관한 것이다

최근의 통신 서비스는 고유의 서비스영역인 음성통화 서비스를 기반으로 무선 데이터 서비스로 그 서비스영역을 확장하고 있다. 무선 데이터 서비스는 스마트 통신 단말기의 다기능화, 데이터 전송속도의 향상 등 네트워크 기술의 발전에 따라, 텍스트 위주의 서비스에서 멀티미디어 서비스로 진화하고 있는 추세이다.

이러한 멀티미디어 서비스 중 하나가 화상통신이다. 화상통신 서비스는 사용자간 영상 및 음성의 실시간 송수신을 통해 공간에 구애받지 않고 사용자간 소통할 수 있도록 하는 서비스로서, 영상통화, 화상회의 등이 대표적 화상통신 서비스이다.

더욱이 정보통신 기술의 발달 및 가상융합기술의 진보로 인해 현재 메타버스라는 가상현실 세계 속에서 영상과 음성을 통한 활발한 소통이 이루어지고 있으며, 스마트 통신 단말기 및 관련 서비스의 대중화로 인해 많은 아동과 청소년들이 스마트 통신 단말기를 소지하게 되었고, 이에 따라, 성인 뿐 아니라 스마트 통신 단말기를 소지한 아동과 청소년까지 스마트 통신 단말기를 통해 메타버스와 같은 화상통신 기반 서비스를 사용하고 있다.

기술 발전으로 이룬 시공간 제약이 사라진 온라인 환경에서 편하게 만나서 소통할 수 있게 되었지만, 나쁜 의도를 가진 사람들도 쉽게 접근이 가능하게 되었으며, 이로인해 온라인 환경에서의 아동과 청소년을 대상으로 한 성범죄 및 모욕, 비하, 괴롭힘 등이 사회적 문제가 되고 있다.

따라서 이러한 유해 행동, 음성을 필터링 하기 위한 기술 개발이 요구되고 있다.

본 발명은 화상통신 환경에서 비방, 음해, 성적 내용 등 유해하다고 판단되는 행동 또는 음성을 필터링을 통해 처리하여 저속 행동에 대한 원천적인 차단 기술을 제공하는 것을 목적으로 한다.

본 발명은 화상통신 영상 파일로부터 캡쳐된 화면 이미지를 이용해서, 대상이 취한 행동이 유해하다고 판단되면, 필터링을 통해 해당 행동을 원천적으로 차단하는 것을 목적으로 한다.

본 발명은 화상통신 음성 파일로부터 분석된 문장 및 음성 특성 관련 데이터를 이용해서, 대상이 말한 음성 내용이 유해하다고 판단되면, 필터링을 통해 해당 행동을 원천적으로 차단하는 것을 목적으로 한다.

본 발명은 화상통신 영상 파일 및 음성 파일간의 데이터 비교, 융합을 통해 대상의 취한 행동, 표정과 단어 및 문장, 어조의 연관성을 분석하여 대상을 비방, 음해하고자 하는 의도를 분석하여 해당 행동을 원천적으로 차단하는 것을 목적으로 한다.

일실시예에 따른 유해 행동, 음성 필터링 장치는 행동, 음성의 유해도 검사를 위해 행동 이미지, 음성 텍스트 및 표정, 어조 등 행동, 음성 데이터의 전처리를 수행하는 유해도 검사 전처리부와, 상기 생성된 행동, 음성의 전처리 데이터를 분류기로 제공하여 유해도 산출을 위한 영상, 음성 데이터 분류를 요청하고, 상기 산출된 유해도를 포함하는 영상, 음성 분류 결과를 수집하는 영상, 음성 분류부 및 기 수집된 영상, 음성 데이터 분류 결과를 고려하여 상기 행동 및 음성에 대한 차단 및 경고 여부를 결정하는 콘텐츠 차단부를 포함할 수 있다.

일실시예에 따르면, 화상통신 중 유해하다고 판단되는 행동, 또는 음성 발견시 필터링 등을 처리하여 유해 내용에 대한 원천적인 차단 기술을 제공할 수 있다.

일실시예에 따르면, 화상통신 중 유해하다고 의심되는 행동, 또는 음성 발견시 영상 및 음성 파일간의 데이터 비교, 융합을 통한 분석으로 대상의 의도를 분석하여 유해 내용에 대한 정도를 분석하고 정도에 따른 필터링을 통해 해당 내용을 원천적으로 차단할 수 있다.

도 1은 일실시예에 따른 유해 행동, 음성 필터링 장치를 설명하는 도면이다.

.

Claims (1)

1. 화상통신 중 유해 행동, 음성을 필터링 하는 장치에 있어서,
   행동, 음성의 유해도 검사를 위한 전처리를 수행하는 유해도 검사 전처리부;
   상기 생성된 행동, 음성의 전처리 데이터를 분류기로 제공하여 유해도 산출을 위한 영상, 음성 데이터 분류를 요청하고, 상기 산출된 유해도를 포함하는 영상, 음성 분류 결과를 수집하는 영상, 음성 분류부; 및
   상기 수집된 영상, 음성 데이터 분류 결과를 고려하여 상기 행동 및 음성에 대한 차단 및 경고 여부를 결정하는 콘텐츠 차단부를 포함하는 유해 행동, 음성 필터링 장치.