JP2006293455A - 不適正データ確認システム - Google Patents

Abstract

【課題】 人手によることなく、類似データの判定手法を用いて、不適切なデータを確認することが可能な不適正データ確認システムを提供する。
【解決手段】 不適切サンプル記憶手段５０には、不適切な画像データのサンプルである不適切画像データを記憶しておく。端末装置１０から、画像データが投稿データとして送信されると、確認サーバ３０は、投稿データから特徴点を抽出し、不適切画像データから抽出した特徴点と比較する。両者の誤差が所定の範囲内の場合には、両画像が類似していることになるので、その投稿データは不適切な画像であるとして削除する。両者の誤差が所定の範囲に収まらない場合は、両者は類似していないことになるので、その投稿データを公開データ記憶手段７０に格納する。
【選択図】 図１

Description

本発明は、画像データ、音声データ、テキストデータ（文字データ）等について、不適切なものを確認するための技術に関する。

近年、コンピュータおよびネットワーク技術の発展により、インターネットに代表されるコンピュータ通信の世界で、様々なサービスが提供されるようになってきている。特に、いわゆる「掲示板」と呼ばれるサービスでは、不特定多数のユーザが、自由に情報の読み書きが可能となっており、人気が高いものとなっている。

掲示板のサービスでは、不特定多数の人間が、画像、音声、テキスト等のデータをアップロードして掲示板に掲載することができるが、これを投稿する人間の自由に任せると、***的なものや他人に不快な感じを与えるデータ等の不適切なデータが公開されてしまうという問題がある。そこで、現状では、投稿されたデータをシステム管理者が確認し、不適切なものが確認された場合には、そのデータを削除することにより対応している。

しかしながら、従来のチェック手法では、システム管理者が目視等により、不適切なデータを逐一確認しているため、膨大なデータを全て確認することは困難であるという問題がある。

上記のような点に鑑み、本発明は、人手によることなく、類似データの判定手法を用いて、不適切なデータを確認することが可能な不適正データ確認システムを提供することを課題とする。

上記課題を解決するため、本発明では、不適切な画像データのサンプルである不適切サンプル画像データを記録した不適切サンプル記憶手段と、ネットワークを介した送信により投稿された画像データである投稿画像データを格納する投稿データ記憶手段と、前記投稿画像データから特徴点を抽出し、前記不適切サンプル画像データから抽出された特徴点と類似するかどうかを判断する類似度判断手段と、前記類似度判断手段により類似していると判断された場合に、当該投稿画像データを削除し、類似していないと判断される場合に、ネットワークを介してアクセス可能な公開データ記憶手段に、前記投稿画像データを格納する投稿データ登録手段を有する不適切データ確認システムを提供する。

本発明によれば、投稿されたデータをあらかじめ準備された不適切なサンプルデータと比較し、この不適切なサンプルデータに類似する場合には、投稿されたデータを削除するようにしたので、不適切なデータが公開されることがなくなり、人手によることなく、類似データの判定手法を用いて、不適切なデータを確認することが可能となる。

（１．システム構成）
以下、本発明の実施形態について図面を参照して詳細に説明する。図１は、本発明に係る不適切データ確認システムの構成図である。図１において、１０は端末装置、２０はネットワーク、３０は確認サーバ、４０は公開サーバ、５０は不適切サンプル記憶手段、６０は投稿データ記憶手段、７０は公開データ記憶手段である。

端末装置１０は、ネットワーク２０へのアクセス機能を有する端末装置であり、汎用のコンピュータで実現可能である。ネットワーク２０は、データの送受信が可能なインターネット等の通信網である。確認サーバ３０は、ネットワーク２０を介して端末装置１０から送信された投稿データを受け付けて、投稿データ記憶手段６０に格納する機能を有すると共に、投稿データ記憶手段６０に格納された投稿データのうち、不適切なものを検出し、削除する機能を有するサーバコンピュータである。公開サーバ４０は、公開データ記憶手段７０に格納されているデータをネットワークを通じて公開する機能を有するサーバコンピュータであり、通常のＷＷＷサーバとしての機能を有するコンピュータにより実現可能である。

確認サーバ３０は、投稿データとして受信した画像データ、音声データ、テキストデータについて確認処理を行う。具体的には、不適切サンプル記憶手段５０に格納された不適切サンプルデータと、投稿データを比較し、類似度が高い場合には、投稿データを不適切なものであるとして削除する。類似度の判定については、画像データの場合は、投稿データから特徴点を抽出し、不適切サンプル記憶手段５０に格納された不適切サンプルデータから抽出した特徴点との誤差を算出し、その誤差が所定の比率以下である場合には、類似するものと判定することにより行う。ここで、特徴点とは、画像の特徴を表現する情報であり、種々の手法で作成することが可能である。本実施形態では、投稿データである画像内の所定の箇所に基準点を定め、この基準点からのベクトルデータの集合体として、特徴点を作成する。特徴点は、画像の特徴を表現したデータであるため、特徴点が互いに類似する場合は、その特徴点の抽出元である画像が互いに類似していることになるため、不適切なサンプル画像に類似している不適切画像の検出が可能となる。なお、このような特徴点の抽出手法は公知の技術により実現可能である。

音声データについては、時系列に変化するレベルを波形画像に変換し、この波形画像から特徴点を抽出する。そして、不適切サンプル記憶手段５０に格納された音声データ用の不適切サンプルデータから抽出した特徴点との誤差を算出し、その誤差が所定の比率以下である場合には、類似するものと判定することにより行う。すなわち、音声データである投稿データを一旦波形画像に変換した後は、投稿データが画像データである場合と同様に、処理が行われることになる。テキストデータについては、文字コードの一致・不一致を確認することにより、不適切サンプルデータとして不適切サンプル記憶手段５０に格納された文字列と一致する場合には削除する処理を行う。したがって、投稿データ中に、不適切サンプルデータである文字列が存在した場合には、その投稿データは削除されることになる。確認サーバ３０における上記各機能は、専用のソフトウェアを、サーバコンピュータに搭載することにより実現される。

（２．不適切サンプルデータの準備）
確認サーバ３０は、本発明を実施するため、不適切サンプルデータを蓄積する。具体的には、システム管理者が、不適切と考える画像データ、音声データ、テキストデータ等のサンプルデータを確認サーバ３０に入力し、確認サーバ３０は、不適切サンプル記憶手段５０にこれらを格納する処理を行う。さらに、確認サーバ３０は、画像データから特徴点を抽出する処理、および音声データを波形画像データに変換して特徴点を抽出する処理を行い、抽出した特徴点を不適切サンプル記憶手段５０に格納する処理を行う。

（３．確認処理）
続いて、図１に示したシステムにおける不適切データの確認処理について説明する。まず、投稿者は、端末装置１０から投稿データを確認サーバ３０に送信する。確認サーバ３０では、投稿データを受信すると、投稿データ記憶手段６０に格納する。また、確認サーバ３０は、上述の手法により、投稿データ記憶手段６０に格納された投稿データと、不適切サンプル記憶手段５０に格納された不適切サンプルデータの類似度を判断し、両者が類似する場合には、その投稿データを削除する処理を行う。そして、不適切サンプルデータと類似しないと判断された投稿データについては、公開データ記憶手段７０に格納する処理を行う。このように、確認サーバ３０において、不適切データの確認処理を行うことにより、不適切なデータを削除し、適切なデータのみが公開データ記憶手段７０に格納されることになる。

公開データ記憶手段７０に格納された投稿データは、公開サーバ４０がネットワーク２０を介して公開可能な状態となる。ネットワーク２０を介して外部の端末装置１０からデータの送信要求があった場合には、公開サーバ４０は、公開データ記憶手段７０に格納された投稿データを、要求元の端末装置１０に送信することになる。

以上のような処理を行うことにより、ネットワーク２０を介してアクセスしてきた閲覧者は、不適切なデータが排除された公開データ記憶手段７０に格納されたデータのみ入手可能となるので、不適切なデータが一般に公開されることはない。

本発明に係る不適切データ確認システムの構成図である。

符号の説明

１０・・・端末装置
２０・・・ネットワーク
３０・・・確認サーバ
４０・・・公開サーバ
５０・・・不適切サンプル記憶手段
６０・・・投稿データ記憶手段
７０・・・公開データ記憶手段

Claims (3)

1. 不適切な画像データのサンプルである不適切サンプル画像データを記録した不適切サンプル記憶手段と、
   ネットワークを介した送信により投稿された画像データである投稿画像データを格納する投稿データ記憶手段と、
   前記投稿画像データから特徴点を抽出し、前記不適切サンプル画像データから抽出された特徴点と類似するかどうかを判断する類似度判断手段と、
   前記類似度判断手段により類似していると判断された場合に、当該投稿画像データを削除し、類似していないと判断される場合に、ネットワークを介してアクセス可能な公開データ記憶手段に、前記投稿画像データを格納する投稿データ登録手段と、
   を有することを特徴とする不適切データ確認システム。
2. 前記不適切サンプル記憶手段は、さらに不適切な音声データのサンプルである不適切サンプル音声データを記録したものであり、
   前記投稿データ記憶手段は、ネットワークを介した送信により投稿された音声データである投稿音声データを格納するものであり、
   前記類似度判断手段は、前記投稿音声データを波形画像に変換した後、当該波形画像から特徴点を抽出し、前記不適切サンプル音声データから抽出された特徴点と類似するかどうかを判断するものであり、
   前記投稿データ登録手段は、前記類似度判断手段により類似していると判断された場合に、当該投稿音声データを削除し、類似していないと判断される場合に、ネットワークを介して外部からアクセス可能な公開データ記憶手段に、前記投稿音声データを格納するものであることを特徴とする請求項１に記載の不適切データ確認システム。
3. 前記不適切サンプル記憶手段は、さらに不適切なテキストデータのサンプルである不適切サンプルテキストデータを記録したものであり、
   前記投稿データ記憶手段は、ネットワークを介した送信により投稿されたテキストデータである投稿テキストデータを格納するものであり、
   前記類似度判断手段は、前記投稿テキストデータに、前記不適切サンプルテキストデータが含まれるかどうかを判断するものであり、
   前記投稿データ登録手段は、前記類似度判断手段により、不適切サンプルテキストデータが含まれると判断された場合に、当該投稿テキストデータを削除し、不適切サンプルテキストデータが含まれないと判断された場合に、ネットワークを介して外部からアクセス可能な公開データ記憶手段に、前記投稿テキストデータを格納するものであることを特徴とする請求項１または請求項２に記載の不適切データ確認システム。
   
   
   

Images