JP7110349B2 - 機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置 - Google Patents

機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置 Download PDF

Info

Publication number
JP7110349B2
JP7110349B2 JP2020532262A JP2020532262A JP7110349B2 JP 7110349 B2 JP7110349 B2 JP 7110349B2 JP 2020532262 A JP2020532262 A JP 2020532262A JP 2020532262 A JP2020532262 A JP 2020532262A JP 7110349 B2 JP7110349 B2 JP 7110349B2
Authority
JP
Japan
Prior art keywords
learning
data
printed
inspection
machine learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020532262A
Other languages
English (en)
Other versions
JPWO2020022024A1 (ja
Inventor
正之 浮島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020022024A1 publication Critical patent/JPWO2020022024A1/ja
Application granted granted Critical
Publication of JP7110349B2 publication Critical patent/JP7110349B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J2/00Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed
    • B41J2/005Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed characterised by bringing liquid or particles selectively into contact with a printing material
    • B41J2/01Ink jet
    • B41J2/015Ink jet characterised by the jet generation process
    • B41J2/04Ink jet characterised by the jet generation process generating single droplets or particles on demand
    • B41J2/045Ink jet characterised by the jet generation process generating single droplets or particles on demand by pressure, e.g. electromechanical transducers
    • B41J2/04501Control methods or devices therefor, e.g. driver circuits, control circuits
    • B41J2/0451Control methods or devices therefor, e.g. driver circuits, control circuits for detecting failure, e.g. clogging, malfunctioning actuator
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J2/00Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed
    • B41J2/005Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed characterised by bringing liquid or particles selectively into contact with a printing material
    • B41J2/01Ink jet
    • B41J2/21Ink jet for multi-colour printing
    • B41J2/2132Print quality control characterised by dot disposition, e.g. for reducing white stripes or banding
    • B41J2/2142Detection of malfunctioning nozzles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J2/00Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed
    • B41J2/005Typewriters or selective printing mechanisms characterised by the printing or marking process for which they are designed characterised by bringing liquid or particles selectively into contact with a printing material
    • B41J2/01Ink jet
    • B41J2/21Ink jet for multi-colour printing
    • B41J2/2132Print quality control characterised by dot disposition, e.g. for reducing white stripes or banding
    • B41J2/2146Print quality control characterised by dot disposition, e.g. for reducing white stripes or banding for line print heads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J29/00Details of, or accessories for, typewriters or selective printing mechanisms not otherwise provided for
    • B41J29/38Drives, motors, controls or automatic cut-off devices for the entire printing mechanism
    • B41J29/393Devices for controlling or analysing the entire machine ; Controlling or analysing mechanical parameters involving printing of test patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00026Methods therefor
    • H04N1/00037Detecting, i.e. determining the occurrence of a predetermined state
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00026Methods therefor
    • H04N1/00045Methods therefor using a reference pattern designed for the purpose, e.g. a test chart
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30144Printing quality

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)
  • Accessory Devices And Overall Control Thereof (AREA)

Description

本発明は機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置に係り、特に印刷物から欠陥を検出する技術に関する。
印刷物は、印刷の際にインク抜け、インク垂れ、キズ、スジ等の欠陥が発生する場合がある。このため、印刷物の欠陥を検出する自動検査が行われている。
特許文献1には、入力データを元に印刷された印刷画像を読み取って生成された印刷画像データの特徴量と、入力データを元にする参照画像の特徴量とパラメータとを用いた演算によって印刷画像の画質の良否を判定する検査装置が記載されている。
特開2014-186442号公報
特許文献1に記載の装置は、印刷画像と入力データとで画像の生成元が異なるため画像の構造が大きく異なり、高い判定精度を有する特徴量を規定することが難しいという問題点があった。
本発明はこのような事情に鑑みてなされたもので、高精度に印刷物の欠陥を検査する機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置を提供することを目的とする。
上記目的を達成するために機械学習モデルの生成方法の一の態様は、印刷物が撮像された撮像画像を元に取得された検査データと、印刷デジタルデータを元に取得された基準データとを、機械学習モデルで比較して印刷物の欠陥を検出するための機械学習モデルの生成方法であって、学習用印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする学習用検査データと、学習用印刷デジタルデータを元に印刷された基準となる印刷物が撮像された撮像画像を元にする第1の学習用基準データと学習用検査データとを比較処理することで推定された学習用検査データの学習用欠陥情報と、学習用印刷デジタルデータを元にする第2の学習用基準データと、を取得する取得工程と、学習用検査データと第2の学習用基準データとを学習用入力情報として少なくとも使用し、学習用欠陥情報を学習用出力情報として少なくとも使用することで機械学習モデルを生成する生成工程と、を備えた機械学習モデルの生成方法である。
本態様によれば、印刷デジタルデータを使用する検査の機械学習モデルを生成することができ、高精度に印刷物の欠陥を検査することができる。機械学習モデルの生成方法は、機械学習モデルの製造方法に相当する。
学習用欠陥情報は離散値を含み、生成工程は、分類を行う機械学習モデルを生成することが好ましい。これにより、高精度に印刷物の欠陥を検査することができる。
離散値は、印刷物の欠陥の有無を示す2値の離散値であることが好ましい。これにより、高精度に印刷物の欠陥を検査することができる。
離散値は、印刷物の欠陥の強度を示す3値以上の離散値であることが好ましい。これにより、高精度に印刷物の欠陥を検査することができる。
学習用欠陥情報は連続値を含み、生成工程は、回帰を行う機械学習モデルを生成することが好ましい。これにより、高精度に印刷物の欠陥を検査することができる。
学習用欠陥情報は、印刷物の欠陥の位置情報を含むことが好ましい。これにより、高精度に印刷物の欠陥を検査することができる。
生成工程は、機械学習モデルを深層学習により生成することが好ましい。これにより、機械学習モデルを適切に生成することができる。
生成工程は、第1の学習用基準データと第2の学習用基準データを学習用入力情報として少なくとも使用し、欠陥が非存在であることを示す学習用欠陥情報を学習用出力情報として少なくとも使用することで機械学習モデルを生成することが好ましい。これにより、欠陥が非存在である場合を学習させることができる。
取得工程は、学習用印刷デジタルデータの少なくとも一部が加工されることで欠陥が表現された加工済印刷デジタルデータを元に印刷された印刷物を撮像した学習用検査データを少なくとも取得することが好ましい。これにより、多数の学習データを収集することができる。
取得工程は、第1の学習用基準データを取得し、学習用検査データと第1の学習用基準データとを比較処理を行うことで学習用検査データの学習用欠陥情報を推定する比較処理工程を備えることが好ましい。これにより、学習用欠陥情報を適切に取得することができる。
比較処理工程は、比較処理用機械学習モデルによって比較処理を行うことが好ましい。これにより、学習用欠陥情報を適切に推定することができる。
学習用印刷デジタルデータを元に印刷された基準となる第1印刷物と学習用印刷デジタルデータを元に印刷された比較対象の第2印刷物とを比較した官能評価値を入力する官能評価値入力工程と、第1印刷物を撮像した比較処理学習用基準データと第2印刷物を撮像した比較処理学習用検査データとを学習用入力情報として使用し、官能評価値を学習用出力情報として使用することで、比較処理用機械学習モデルを生成する比較処理用モデル生成工程と、を備えることが好ましい。これにより、学習用欠陥情報を適切に取得することができる。
上記目的を達成するために検査方法の一の態様は、印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする検査データと、印刷デジタルデータを元にする基準データとを取得し、上記の機械学習モデルで比較して検査対象の印刷物の欠陥を検出する欠陥検査工程を備えた検査方法である。
本態様によれば、高精度に印刷物の欠陥を検査することができる。
上記目的を達成するために機械学習モデルの生成装置の一の態様は、印刷物が撮像された撮像画像を元に取得された検査データと、印刷デジタルデータを元に取得された基準データとを、機械学習モデルで比較して印刷物の欠陥を検出するための機械学習モデルの生成装置であって、学習用印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする学習用検査データと、学習用印刷デジタルデータを元に印刷された基準となる印刷物が撮像された撮像画像を元にする第1の学習用基準データと学習用検査データとを比較処理することで推定された学習用検査データの学習用欠陥情報と、学習用印刷デジタルデータを元にする第2の学習用基準データと、を取得する取得部と、学習用検査データと第2の学習用基準データとを学習用入力情報として少なくとも使用し、学習用欠陥情報を学習用出力情報として少なくとも使用することで機械学習モデルを生成する生成部と、を備えた機械学習モデルの生成装置である。
本態様によれば、印刷デジタルデータを使用する検査の機械学習モデルを生成することができ、高精度に印刷物の欠陥を検査することができる。
上記目的を達成するために検査装置の一の態様は、上記に記載の機械学習モデルの生成装置と、印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする検査データと、印刷デジタルデータを元にする基準データとを取得し、機械学習モデルで比較して検査対象の印刷物の欠陥を検出する欠陥検査部を備えた検査装置である。
本態様によれば、印刷デジタルデータを使用する検査の機械学習モデルを生成することができ、高精度に印刷物の欠陥を検査することができる。
上記目的を達成するために印刷装置の一の態様は、上記の検査装置と、印刷デジタルデータを元に印刷を行い、印刷物を生成する印刷部と、印刷物を撮像するカメラと、印刷物の欠陥の検出結果を出力する出力部と、を備えた印刷装置である。本態様によれば、生成した印刷物の欠陥を高精度に検査することができる。
学習用印刷デジタルデータの少なくとも一部を加工して欠陥を表現した加工済印刷デジタルデータを生成する加工部を備え、印刷部は、加工済印刷デジタルデータを元に印刷を行い、欠陥印刷物を生成し、カメラは、欠陥印刷物を撮像し、取得部は、欠陥印刷物が撮像された撮像画像を元にするデータを学習用検査データとして少なくとも取得することが好ましい。これにより、多数の学習用検査データを収集することができる。
生成部は、カメラによって印刷物が撮像された撮像画像を元にする学習用検査データを用いて印刷装置に適した機械学習モデルに調整された調整機械学習モデルを生成することが好ましい。これにより、印刷装置の顧客の印刷条件に応じた検査を行うことができる。
印刷部は、インクジェットヘッドを用いて印刷することが好ましい。本態様は、インクジェットヘッドを用いた印刷物の検査を行うことができる。
上記目的を達成するためにコンピュータに実行させるためのプログラムの一の態様は、上記の機械学習モデルの生成方法をコンピュータに実行させるためのプログラムである。
本態様によれば、印刷デジタルデータと比較する検査の機械学習モデルを生成することができ、高精度に印刷物の欠陥を検査することができる。
本発明によれば、高精度に印刷物の欠陥を検査することができる。
図1は、機械学習モデルの生成システムの構成を示すブロック図である。 図2は、機械学習モデルの生成過程を示すフロー図である。 図3は、印刷物検査装置の構成を示すブロック図である。 図4は、機械学習モデルの使用過程を示すフロー図である。 図5は、機械学習モデルの生成システムの構成を示すブロック図である。 図6は、機械学習モデルの生成過程を示すフロー図である。 図7は、機械学習モデルの生成システムの構成を示すブロック図である。 図8は、比較処理用機械学習モデルの生成過程を示すフロー図である。 図9は、学習用情報生成装置を有する印刷装置の構成を示すブロック図である。 図10は、学習用欠陥情報の収集を示すフロー図である。 図11は、機械学習モデルの生成及び更新を行う印刷装置の構成を示すブロック図である。 図12は、機械学習モデルの生成及び更新を示すフロー図である。 図13は、機械学習モデルの生成及び更新を行う印刷装置の構成を示すブロック図である。 図14は、インクジェット印刷装置の内部構成を示すブロック図である。 図15は、インクジェット印刷装置によって印刷される印刷物の一例を示す図である。
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
<正解データ比較方式と元データ比較方式>
印刷物の検査は、検査対象の印刷物を撮像装置で読み取って検査データを取得し、検査データを検査の基準となる基準データと比較して行う。本明細書では、この比較の処理を正解データ比較方式と元データ比較方式とに分類する。
正解データ比較方式は、印刷物から生成した基準データと比較する。基準データは、欠陥のない印刷物を撮像装置で撮像した撮像画像を元に取得する。基準データの撮像条件を検査データの撮像条件と同じ撮像条件にすることで、異なる生成元のデータ間を比較する場合と比較して、相対的に検査難易度を下げることができる。
しかしながら、欠陥のない印刷物を撮像装置で撮像する必要があるため、1ページだけのジョブ、及び各台の印刷ページ数が1ページであるバリアブル印刷では、正解データ比較方式を用いることができないという問題点がある。また、基準データをどのように取得するかを、通常印刷、丁合い印刷、及び裏面印刷等の印刷種別毎に定義する必要があり、条件が複雑化するという問題点がある。
さらに、基準データに欠陥が存在した場合に、検査データで欠陥のある箇所を欠陥と判断できない未検知、又は欠陥のない箇所を欠陥と判断する誤検知が発生する場合がある。
これらに対応するためには、元データ比較方式を採用する必要がある。元データ比較方式は、印刷行為を行うことなく取得した基準データと比較する。基準データは、印刷装置に入力されるデジタル画像データそのもの、或いはデジタル画像データに解像度変換、色変換、階調変換、スクリーニング処理、及び統計処理等の各種前処理を施して取得する。
元データ比較方式では、正解データ比較方式では実現できなかった1ページだけのジョブ及びバリアブル印刷での検査が可能となる。また、印刷種別毎の対応が容易である。
しかしながら、検査データと基準データとのデータ生成元が異なりデータ特性が大きく異なるため、正解データ比較方式に比べて相対的に検査難易度が高くなるという問題点がある。
<機械学習技術の利用と学習データの確保>
近年では機械学習の技術が大きく進歩しており、良質で膨大な学習データが存在する条件下では、人間が設計した特徴量を用いたパターン認識に比べ、深層学習等の最新の機械学習によるパターン認識の方が優れた性能を得られることがわかっている。
深層学習等で欠陥検査の高い性能を出すためには、良質で膨大な学習データが必要となる。一方、欠陥の度合いを人間の官能評価によって取得することは、官能評価の実施工数が大きいため、膨大な学習データを取得することが難しいという問題が生じる。また、官能評価は評価値がバラつきやすいため、良質な学習データを取得することが難しいという問題が生じる。
そこで、正解データ比較方式による欠陥検査を実施することで、良質で膨大な学習データを比較的容易に取得する。正解データ比較方式は自動評価のため実施工数が小さく、膨大な学習データを取得しやすいという利点がある。また、正解データ比較方式は客観評価のため結果のバラつきが小さく、良質な学習データを取得しやすいという利点がある。
<第1の実施形態>
第1の実施形態に係る機械学習モデルの生成システムは、印刷物が撮像された撮像画像を元に取得された検査データと、印刷デジタルデータを元に取得された基準データとを、機械学習モデルで比較して印刷物の欠陥を検出するための機械学習モデルを生成する。
なお、本明細書において「欠陥」とは、インク抜け、インク垂れ、オイル垂れ、ゴミ付着、その他ポツ状の欠陥、ムラ、色変動、文字欠け、キズ、光沢性の変化、シワ、インクジェットノズルのノズル不良によるスジ状の欠陥、不良ノズルの補正失敗によるスジ状の欠陥、シワ等の用紙変形、といった、本来印刷されるべき状態に対して意図しない変化のある状態で印刷されたもの全てを含む概念である。
〔機械学習モデルの生成システムの構成及び機械学習モデルの生成過程〕
図1は、機械学習モデルの生成システムの構成を示すブロック図である。また、図2は、機械学習モデルの生成過程を示すフロー図である。
生成システム10は、学習用情報生成装置20及びモデル生成装置40を備えている。
学習用情報生成装置20は、第1の学習用基準データ記憶部22、学習用検査データ記憶部24、比較処理部26、学習用欠陥情報記憶部28、及び第2の学習用基準データ記憶部30を備えている。
第1の学習用基準データ記憶部22は、第1の学習用基準データD1を記憶するメモリである。第1の学習用基準データD1は、欠陥のない印刷物(欠陥が非存在の印刷物)を不図示の撮像装置で撮像した撮像画像を元にするデータである。
学習用検査データ記憶部24は、学習用検査データD2を記憶するメモリである。学習用検査データD2は、欠陥のある印刷物を不図示の撮像装置で撮像した撮像画像を元にするデータ、及び欠陥のない印刷物を不図示の撮像装置で撮像した撮像画像を元にするデータである。
第1の学習用基準データD1及び学習用検査データD2は、撮像画像そのものであってもよいし、何らかの前処理を行ったものでも構わない。撮像画像に対する前処理として、色変換、階調変換、解像度変換、フィルタリング等の各種画像処理を施したものを使用してもよいし、画像を縦方向及び横方向等に平均値、中央値、最大値、又は最小値等の統計量を計算して生成されたプロファイルデータを使用してもよい。さらに、周波数解析、又は統計解析等で抽出された特徴量を利用してもよい。
この前処理は、学習用情報生成装置20において撮像画像に対して施してもよいし、前処理後の第1の学習用基準データD1及び学習用検査データD2を外部の装置から不図示のインターフェースを通じて取得してもよい。
第1の学習用基準データD1及び学習用検査データD2には、それぞれ同じ学習用印刷デジタルデータを元にした、対となる第1の学習用基準データD1及び学習用検査データD2が存在する。即ち、同じ学習用印刷デジタルデータを元に印刷された印刷物のうち、欠陥のない印刷物の撮像画像から取得された第1の学習用基準データD1と欠陥のある印刷物又は欠陥のない印刷物の撮像画像から取得された学習用検査データD2とが、対を構成する。ここでいう学習用印刷デジタルデータとは、印刷デジタルデータのうち学習に用いたものを指す。したがって、学習用に特別に生成した印刷デジタルデータに限られず、印刷物の検査に用いた印刷デジタルデータであってもよい。
尚、第1の学習用基準データD1及び学習用検査データD2の取得に使用される撮像装置は、任意である。例えば、ラインスキャンカメラを用いてもよいし、2次元配列された光学素子を用いたカメラを用いてもよい。カラー情報のないモノクロのカメラを用いてもよいし、RGB(Red Green Blue)、又は分光情報等のカラー情報を取得できるカメラを用いてもよい。検出したい欠陥に合わせて最適なものを選択すればよい。
複数の学習用検査データD2と、それらと対になる第1の学習用基準データD1とは、同一の撮像装置(同一のシリアルナンバーの装置)を元に取得することが好ましい。これにより、後述する比較処理P1の難易度が下がり、良質な後述する学習用欠陥情報D3を得やすくなる。
尚、複数の学習用検査データD2と、それらと対になる第1の学習用基準データD1との全てを同一の撮像装置を元に取得することは、必ずしも必要ではない。対となる第1の学習用基準データD1及び学習用検査データD2は、撮像特性がほぼ同等な異なる撮像装置を元に取得してもよい。例えば、光学素子の特性、照明の特性、及びそれらの幾何学的条件がほぼ同等であり、撮像特性がほぼ同等である撮像装置を複数用意して並行作業を行えば、学習用検査データD2と対になる複数の第1の学習用基準データD1を短時間で大量に取得することができる。
また、画像を大量に取得するのであれば、撮像特性が異なる撮像装置を使用してもよい。この場合に生成される機械学習モデルは、撮像特性にロバストな特性を有し機械学習に使用される。したがって、機械学習モデルの使用過程において、様々な撮像特性を有する撮像装置を使用して検査データを取得することができる。但し、検査性能を優先する場合は、撮像特性がほぼ同等の撮像装置を用いることが望ましい。
同様に、第1の学習用基準データD1及び学習用検査データD2の取得に使用される印刷装置は、任意である。また、複数の学習用検査データD2と、それらと対になる第1の学習用基準データD1とは、同一の印刷装置を元に取得することが好ましいが、異なっていてもよい。
比較処理部26は、印刷物の欠陥検査として比較処理P1を実施する演算部である。比較処理P1は、対となる第1の学習用基準データD1及び学習用検査データD2を比較することで、学習用欠陥情報D3を推定する処理である。
第1の学習用基準データD1及び学習用検査データD2は、いずれも撮像装置で撮像された撮像画像を元にしている。したがって、比較処理P1は、正解データ比較方式の簡易な比較処理を用いた場合であっても、未検知及び誤検知の少ない、比較的精度の良い欠陥検査が可能である。また、比較処理P1は自動検査であるため、画像さえ用意すれば容易に大量の学習用欠陥情報D3を取得することができる。
例えば、第1の学習用基準データD1が撮像画像そのものであり、学習用検査データD2が撮像画像そのものである場合の比較処理P1の具体例としては、次の処理が考えられる。即ち、比較処理P1は、第1の学習用基準データD1と学習用検査データD2との差分画像を計算し、計算された差分画像に対して閾値処理を行うことで、印刷物の欠陥部を抽出する。また、比較処理P1は、抽出された欠陥部から学習用欠陥情報D3を出力する。比較処理P1は、差分処理と閾値処理を用いる処理に限定はされず、学習用欠陥情報D3を計算する処理を適宜適用することができる。
学習用欠陥情報D3としては、例えば下記の(1)~(7)の情報を適用することができる。
(1)欠陥の有無の2値情報
印刷物の欠陥の有無を示す2値の離散値とする。例えば、欠陥がない場合(欠陥が非存在の場合)を0、欠陥がある場合を1と定義し、機械学習で分類させるデータとして用いる。
(2)欠陥の種類情報
欠陥の種類情報を示す3値の離散値とする。例えば、欠陥がない場合を0、スジ状の欠陥がある場合を1、ポツ状(点状、斑点状、ドット状ともいう)の欠陥がある場合を2と定義する。欠陥の種類をさらに増やしてもよい。
(3)欠陥の強度情報
欠陥の強度を連続値で定義し、欠陥がない場合を0、欠陥がある場合は欠陥強度が大きいほど、即ち欠陥が視認しやすいほど大きい数とする。例えば0~10の連続値で定義する。この場合、機械学習モデルは回帰を行う。
又は、印刷物の欠陥の強度を分類した3値以上の離散値とする。例えば、欠陥の強度を離散化したカテゴリ値である0、1、2の3値で定義し、欠陥がない場合を0、弱い欠陥がある場合を1、強い欠陥がある場合を2とする。この場合、機械学習モデルは分類を行う。カテゴリ値は、3値以上の離散値であってもよい。
(4)欠陥の位置情報
印刷物の欠陥の位置情報を含む情報とする。例えば、位置座標を数値化したデータで定義する。又は、非欠陥位置を0、欠陥位置を1とした画像情報として定義する。
(5)欠陥の強度情報と位置情報との双方を含む画像情報
例えば、非欠陥位置を0、欠陥位置には連続値又は離散値の欠陥の強度値を設定した画像情報として定義する。
(6)欠陥の種類情報と位置情報との双方を含む画像情報
例えば、非欠陥位置を0、欠陥位置に欠陥の種類情報を設定した画像情報として定義する。
(7)欠陥の強度情報、種類情報、及び位置情報の全てを含む多チャネル画像情報
例えば、第1チャネルにスジ状の欠陥の強度情報及び位置情報を設定した画像を定義し、第2チャネルにポツ状の欠陥の強度情報及び位置情報を設定した画像を定義する。
学習用欠陥情報D3は、欠陥の特性を示す情報であれば、上記の(1)~(7)の情報に限定されない。また、学習用欠陥情報D3は、複数種類であってもよい。例えば、上記例の(1)欠陥の有無の2値情報と(4)欠陥の位置情報とであってもよいし、(1)欠陥の有無の2値情報と(3)欠陥の強度情報と(4)欠陥の位置情報とであってもよい。
学習用欠陥情報記憶部28は、比較処理部26が取得した学習用欠陥情報D3を記憶するメモリである。
第2の学習用基準データ記憶部30は、第2の学習用基準データD4を記憶するメモリである。第2の学習用基準データD4は、第1の学習用基準データD1及び学習用検査データD2の印刷物を印刷する際に使用された学習用印刷デジタルデータを元にするデータである。
第2の学習用基準データD4は、印刷物を撮像した撮像画像に由来するものではなく、学習用印刷デジタルデータそのもの、又は何らかの前処理を行ったものである。学習用印刷デジタルデータに対する前処理として、色変換、階調変換、解像度変換、フィルタリング等の各種画像処理を施したものを使用してもよいし、画像を縦方向及び横方向等に平均値、中央値、最大値、又は最小値等の統計量を計算して生成されたプロファイルデータを使用してもよい。さらに、周波数解析、又は統計解析等で抽出された特徴量を利用してもよい。
この前処理は、学習用情報生成装置20において学習用印刷デジタルデータに対して施してもよいし、前処理後の第2の学習用基準データD4を外部の装置から不図示のインターフェースを通じて取得してもよい。
また、モデル生成装置40は、情報取得部42、モデル生成部44、及びモデル記憶部46を備えている。
情報取得部42は、学習用情報生成装置20から学習用検査データD2、学習用欠陥情報D3、及び第2の学習用基準データD4を取得する入力インターフェースである。情報取得部42は、学習用検査データD2及び第2の学習用基準データD4を学習用入力情報として、学習用欠陥情報D3を学習用出力情報として取得する。ここで、学習用入力情報は説明変数に相当し、学習用出力情報は目的変数に相当する。
モデル生成部44は、モデル生成処理P2を実施する演算部である。モデル生成処理P2は、学習用入力情報である学習用検査データD2及び第2の学習用基準データD4と、学習用出力情報である学習用欠陥情報D3とから、元データ比較方式の機械学習モデルD5を生成する処理である。尚、モデル生成処理P2は、学習用検査データD2を元にする情報及び第2の学習用基準データD4を元にする情報を学習用入力情報として少なくとも使用し、学習用欠陥情報D3を元にする情報を学習用出力情報として少なくとも使用すればよい。
機械学習には、重回帰分析、サポートベクターマシン、部分最小自乗法、深層学習等の任意の手法を用いることができる。深層学習では、パターン認識に使用する特徴量の抽出も自動で実施される。学習用情報生成装置20において取得された良質で膨大な学習用欠陥情報D3を用いることで、検査性能の高い機械学習モデルを生成することができる。ここでは、モデル生成処理P2は機械学習モデルD5を深層学習により生成する。
尚、学習用検査データD2は、学習用情報生成装置20における比較処理P1、及びモデル生成装置40におけるモデル生成処理P2の双方に使用されるが、比較処理P1に使用される学習用検査データD2とモデル生成処理P2に使用される学習用検査データD2とは、必ずしも同一の前処理が施されている必要はない。即ち、比較処理P1に使用される学習用検査データD2とモデル生成処理P2に使用される学習用検査データD2とは、欠陥のない印刷物を撮像装置で撮像した撮像画像に対して、それぞれ異なる前処理を施したデータであってもよい。本実施形態の最も大きな利点は、学習用欠陥情報D3を比較処理P1によって精度よく大量に生成することであるため、それぞれ異なる前処理を施しても問題はない。
また、比較処理P1で生成される学習用欠陥情報D3とモデル生成処理P2で使用される学習用欠陥情報D3とは、必ずしも同一である必要はなく、モデル生成処理P2で使用される学習用出力情報が学習用欠陥情報D3を元にして生成されていればよい。比較処理P1とモデル生成処理P2とは異なる処理であるため、それぞれの処理に合った形式で定義されていてもよい。
また、モデル生成処理P2は、学習用欠陥情報D3を元にして生成された学習用出力情報を、少なくとも使用していればよい。例えば、官能評価を元に作成された学習用出力情報と併用して使用してもよい。
尚、前述したように、学習用欠陥情報D3は欠陥の有無と欠陥の位置等の複数種類であってもよいが、この場合、学習用出力情報も複数種類定義されることになる。学習用出力情報が複数種類になった場合の利用方法を、深層学習を例に説明する。
深層学習では、学習用入力情報に基づいた入力層、学習用出力情報に基づいた出力層を定義することができる。深層学習では、入力層と出力層との間に畳み込み層及びプーリング層等の中間層を定義して、出力層における誤差からバックプロパゲーションという技術で中間層における各種パラメータを更新し、出力層における誤差が小さくなるような学習が行われる。また、深層学習では、層を途中で分離したり結合したりすることが可能である。そこで、層を途中で分離することで出力層を複数定義することができる。例えば、出力層を2つ定義して、1つ目の出力層では欠陥の有無に関する誤差を計算させ、2つ目の出力層では欠陥の位置に関する誤差を計算させることができる。更に、両者の誤差の和を最終的な誤差量と定義した上でバックプロパゲーションを行うことで、欠陥の有無に関する誤差と欠陥の位置に関する誤差との双方が小さくなるようなパラメータ更新が行われる。このようにして、複数種類の学習用出力情報を用いたモデル生成処理P2が可能となる。
モデル記憶部46は、モデル生成部44が生成した機械学習モデルD5を記憶するメモリである。
このように構成された生成システム10は、以下のように機械学習モデルD5を生成する(機械学習モデルの生成方法の一例)。即ち、情報取得部42において、第1の学習用基準データD1と、学習用検査データD2と、第2の学習用基準データD4と、を取得する(取得工程の一例)。また、対となる第1の学習用基準データD1と学習用検査データD2とについて比較処理P1を実施し、学習用欠陥情報D3を取得する(比較処理工程の一例)。さらに、モデル生成部44において、学習用検査データD2を元にする情報と第2の学習用基準データD4を元にする情報とを学習用入力情報として少なくとも使用し、学習用欠陥情報D3を元にする情報を学習用出力情報として少なくとも使用して機械学習モデルD5を生成するモデル生成処理P2を実施する(生成工程の一例)。これにより、元データ比較方式での欠陥検査を高精度に実施できる機械学習モデルを少ない労力で生成することができる。
第1の学習用基準データD1は、全ての撮像画像で検知対象の欠陥がない撮像画像を元に取得することが望ましい。第1の学習用基準データD1に検知対象の欠陥が紛れていると、正解データ比較方式の比較処理において欠陥箇所で未検知及び誤検知が発生し得る。これにより、学習用欠陥情報D3に不正な情報が紛れ、モデル生成処理P2で生成される機械学習モデルD5の性能に悪影響を与えてしまう。
学習用欠陥情報D3において、不正な情報の割合が正常な情報の割合に対して十分に小さければ、悪影響も小さくなり実用上問題にならないこともあるが、基本的にはこのような過程で生まれる不正な情報はできる限り排除すべきである。第1の学習用基準データD1に欠陥があるか否かは、印刷物を目視で確認する、或いは、撮像画像をディスプレイに表示して目視で確認する方法等がある。目視での確認は、第1の学習用基準データD1の印刷物に対してのみ実施すればよく、学習用検査データD2の印刷物に対して行う必要がないため、目視チェックの負担を大幅に削減することができる。
〔印刷物検査装置の構成及び機械学習モデルの使用過程〕
図3は、印刷物検査装置の構成を示すブロック図である。また、図4は、機械学習モデルの使用過程を示すフロー図である。
印刷物検査装置50は、機械学習モデルD5を用いて印刷物の検査を行う装置である。印刷物検査装置50は、検査データ記憶部52、基準データ記憶部54、モデル記憶部56、欠陥検査部58、及び検査結果記憶部60を備えている。
検査データ記憶部52は、検査データD6を記憶するメモリである。検査データD6は、検査対象の印刷物を撮像装置で撮像した撮像画像を元にするデータである。
検査データD6は、第1の学習用基準データD1及び学習用検査データD2と同様に、撮像画像そのものであってもよいし、何らかの前処理を行ったものでも構わない。検査データD6は、印刷物検査装置50において撮像画像から生成してもよいし、外部の装置から不図示のインターフェースを通じて取得してもよい。
また、検査データD6は、撮像装置を元に取得されるが、第1の学習用基準データD1及び学習用検査データD2の取得に用いられる撮像装置と同一の撮像装置を使う必要は必ずしもない。機械学習モデルD5の生成過程で使用した撮像装置と撮像特性がほぼ同等な撮像装置を用いれば、十分な性能を有する欠陥検査を実施し得る。
また、機械学習モデルD5の生成過程で様々な撮像特性を有する撮像装置を用いて、大量の学習データから撮像特性にロバストなモデルが生成できていれば、撮像特性が異なる撮像装置をモデル使用過程で利用した場合であっても、十分な性能を有する欠陥検査を実施することができる。
基準データ記憶部54は、基準データD7を記憶するメモリである。基準データD7は、検査データD6の印刷物を印刷する際に使用された印刷デジタルデータを元にするデータである。基準データD7は、印刷デジタルデータそのものであってもよいし、何らかの前処理を行ったものでも構わない。印刷デジタルデータに対する前処理として、色変換、階調変換、解像度変換、フィルタリング等の各種画像処理を施したものを使用してもよいし、画像を縦方向及び横方向等に平均値、中央値、最大値、又は最小値等の統計量を計算して生成されたプロファイルデータを使用してもよい。さらに、周波数解析、又は統計解析等で抽出された特徴量を利用してもよい。
この前処理は、印刷物検査装置50において印刷デジタルデータに対して施してもよいし、前処理後の基準データD7を外部の装置から不図示のインターフェースを通じて取得してもよい。
モデル記憶部56は、機械学習モデルD5を記憶するメモリである。印刷物検査装置50は、モデル生成装置40のモデル記憶部46に記憶された機械学習モデルD5を取得し、モデル記憶部56に記憶させる。
欠陥検査部58は、欠陥検査処理P3を実施する演算部である。欠陥検査処理P3は、入力された検査データD6及び基準データD7に対して機械学習モデルD5を適用して印刷物の欠陥検査を実施し、検査結果D8を取得する処理である。
検査結果記憶部60は、検査結果D8を記憶するメモリである。
このように構成された印刷物検査装置50は、以下のように欠陥検査を行う(検査方法の一例)。即ち、欠陥検査部58は、入力された検査データD6及び基準データD7に対して機械学習モデルD5を適用して欠陥検査処理P3を実施し、検査結果D8を生成する(欠陥検査工程の一例)。
印刷物の欠陥検査は、印刷物の印刷時にオンラインの撮像装置を用いて検査データD6を取得して直ちに実施してもよいし、印刷時に検査データD6を撮り溜めておいて、印刷後に実施してもよい。或いは、印刷後にオフラインの撮像装置で検査データD6の取得を行った上で実施してもよい。
このように、モデル生成装置40において生成した機械学習モデルD5を印刷物検査装置50に搭載することで、元データ比較方式による欠陥検査が可能となり、バリアブル印刷等の1ページものの印刷物に対しても欠陥検査を実施することができる。
印刷では多くの場合「紙」を印刷媒体に用いるが、本実施形態の印刷媒体は紙に限定されない。例えば、透明媒体シート上に印刷された印刷物に対して適用してもよいし、その他のいかなる媒体に印刷された印刷物に適用してもよい。
<第2の実施形態>
第1の実施形態では、欠陥のない学習用検査データD2として、欠陥のない印刷物を不図示の撮像装置で撮像した撮像画像を元にするデータを使用したが、第1の学習用基準データD1を流用してもよい。これは、第1の学習用基準データD1が欠陥のない印刷物の撮像に基づいて生成されたものであるからである。
〔機械学習モデルの生成システムの構成及び機械学習モデルの生成過程〕
図5は、機械学習モデルの生成システムの構成を示すブロック図である。また、図6は、機械学習モデルの生成過程を示すフロー図である。尚、図1及び図2と共通する部分には同一の符号を付し、その詳細な説明は省略する。
生成システム62は、欠陥のない学習用検査データD2として、第1の学習用基準データD1を流用する。生成システム62は、学習用情報生成装置20の第1の学習用基準データ記憶部22とモデル生成装置40の情報取得部42とが接続されている。情報取得部42は、学習用入力情報として、第1の学習用基準データD1を取得する。
欠陥のない学習用検査データD2と対になる学習用欠陥情報D3は、比較処理P1を実施して生成してもよいし、比較処理P1を介さずに生成してもよい。比較処理P1を介さずに生成する場合は、欠陥のない学習用欠陥情報D3Nが生成され、情報取得部42に入力される。欠陥のない学習用欠陥情報D3Nが比較処理P1を介さずに生成できる理由は、欠陥が非存在であるからである。
例えば、学習用欠陥情報D3が「欠陥の強度情報」である場合、欠陥が存在する場合はその強度を求めるために比較処理P1が必要となるが、欠陥が非存在であれば強度=ゼロの強度情報を生成するだけでよいため、比較処理P1は必ずしも必要ない。また、例えば、学習用欠陥情報が「欠陥の位置情報」である場合、欠陥が存在する場合はその欠陥位置を求めるために比較処理P1が必要となるが、欠陥が非存在であればすべての位置に欠陥がない旨を示す情報を生成するだけでよいため、比較処理P1は必ずしも必要ない。
モデル生成部44は、第1の実施形態と同様に、学習用入力情報である学習用検査データD2及び第2の学習用基準データD4と、学習用出力情報である学習用欠陥情報D3とから、モデル生成処理P2を行う。欠陥のない学習用検査データD2として第1の学習用基準データD1を流用し、かつ比較処理P1を実施しない場合は、欠陥のない学習用欠陥情報D3Nを使用する。
このようにモデル生成処理P2を行うことで、どのようなデータでは欠陥があり、どのようなデータでは欠陥がないのかを学習させた機械学習モデルD5を生成することができる。
本実施形態では、第1の学習用基準データD1が比較処理P1及びモデル生成処理P2の双方に使用される場合があるが、比較処理P1に使用される第1の学習用基準データD1とモデル生成処理P2に使用される第1の学習用基準データD1とは、必ずしも同一の前処理が施されている必要はない。即ち、比較処理P1に使用される第1の学習用基準データD1とモデル生成処理P2に使用される第1の学習用基準データD1とは、欠陥のない印刷物を撮像装置で撮像した撮像画像に対して、それぞれ異なる前処理を施したデータであってもよい。
<第3の実施形態>
〔比較処理(正解データ比較方式)における官能値の利用〕
印刷における欠陥は必ずしも物理量としての欠陥の有無だけでは規定できない。例えば、シングルパス方式のインクジェット印刷装置では、各ノズルの吐出曲がりにより印刷物にスジ状の欠陥が発生することがあるが、吐出曲がりの曲がり量に応じてスジの視認性が変化する。曲がり量が小さければ、微視的にはスジがあったとしても人間の目視ではスジは視認できない。一方、曲がり量が大きい場合は、人間の目視でも鋭くスジと認識される。吐出曲がりの曲がり量が皆無のノズルというものはほぼ存在しないため、視認性の度合いで欠陥かどうかを判断することが重要である。
また、人間の視覚系の特性と撮像装置の特性の間には極めて非線型な関係があり、前述した差分に基づく単純な比較処理では、正解データ比較方式であったとしても人間の視認性によく相関した欠陥情報を取得することは困難である。
そこで、比較処理(正解データ比較方式)にも機械学習を利用し、学習用出力情報として人間の官能評価値を使用することで、人間の視認性によく相関した欠陥情報を取得することができるようになる。
図7は、機械学習モデルの生成システムの構成を示すブロック図である。図1と共通する部分には同一の符号を付し、その詳細な説明は省略する。図8は、比較処理用機械学習モデルの生成過程を示すフロー図である。
生成システム64は、比較処理P1において比較処理用機械学習モデルD12を使用する。生成システム64は、比較処理用モデル生成装置66を備えている。比較処理用モデル生成装置66は、比較処理学習用基準データ記憶部68、比較処理学習用検査データ記憶部70、官能評価値入力部72、比較処理用モデル生成部74、及び比較処理用モデル記憶部76を備えている。
比較処理学習用基準データ記憶部68は、比較処理学習用基準データD9を記憶するメモリである。比較処理学習用基準データD9は、基準となる第1印刷物を不図示の撮像装置で撮像した撮像画像を元にするデータである。
比較処理学習用検査データ記憶部70は、比較処理学習用検査データD10を記憶するメモリである。比較処理学習用検査データD10は、比較対象の第2印刷物を不図示の撮像装置で撮像した撮像画像を元にするデータである。
比較処理学習用基準データD9及び比較処理学習用検査データD10には、それぞれ同じ印刷デジタルデータを元にした、対となる比較処理学習用基準データD9及び比較処理学習用検査データD10が存在する。即ち、同じ印刷デジタルデータから印刷された印刷物のうち、欠陥のない基準となる第1印刷物の撮像画像から取得された比較処理学習用基準データD9と比較対象の欠陥のある第2印刷物又は欠陥のない第2印刷物の撮像画像から取得された比較処理学習用検査データD10とが、対を構成する。
官能評価値入力部72は、対となる第1印刷物と第2印刷物とを比較したユーザの官能評価値D11をユーザが入力する入力インターフェースである。
比較処理用モデル生成部74は、比較処理モデル生成処理P4を実施する演算部である。比較処理モデル生成処理P4は、学習用入力情報である比較処理学習用基準データD9及び比較処理学習用検査データD10と、学習用出力情報である官能評価値D11とから、比較処理用機械学習モデルD12を生成する処理である。即ち、比較処理用機械学習モデルD12は、元データ比較方式のモデルである。
比較処理用モデル記憶部76は、比較処理用モデル生成部74が生成した比較処理用機械学習モデルD12を記憶するメモリである。
このように構成された生成システム64は、以下のように比較処理用機械学習モデルD12を生成する。即ち、ユーザは、対となる第1印刷物及び第2印刷物の官能評価値D11を官能評価値入力部72から入力する(官能評価値入力工程の一例)。比較処理用モデル生成部74は、学習用入力情報である比較処理学習用基準データD9及び比較処理学習用検査データD10と、学習用出力情報である官能評価値D11とから、比較処理用機械学習モデルD12を生成する比較処理モデル生成処理P4を実施する(比較処理用モデル生成工程の一例)。
比較処理モデル生成処理P4は、正解データ比較方式に基づいて行われるため、検査の精度を確保しやすく、深層学習のように大量のデータが必要となる機械学習手法を用いることなく比較処理用機械学習モデルD12を生成することができる。
比較処理モデル生成処理P4としては、例えば、重回帰分析、サポートベクターマシン、及び部分最小自乗法等を用いることができる。深層学習と比較して1桁或いは2桁オーダで必要となるデータ数が少ないため、官能評価によるデータ収集もしやすい。一方で、仮に深層学習を用いたとしても、元データ比較方式に比べれば検出難易度が下がるため、データ量を少なくすることができる。
比較処理部26、比較処理用機械学習モデルD12を用いて比較処理P1を実施することで、モデル生成部44は、官能評価値によく相関する元データ比較方式の機械学習モデルD5を生成することができる。
<第4の実施形態>
〔学習用欠陥情報の効率的な収集方法〕
第1の学習用基準データD1及び学習用検査データD2は、共に第2の学習用基準データD4の取得元である学習用印刷デジタルデータを印刷装置に入力し、出力された印刷物を撮像装置で撮像した撮像画像を元に生成される。しかしながら、この場合、学習用検査データD2に欠陥が発生するか否かにランダム性が伴うため、データ収集効率が極めて悪い。
例えば、シングルパス方式のインクジェット印刷装置において発生するスジ状の欠陥は、多くの場合、ノズルからの吐出曲がりが原因で発生する。しかしながら、意図的に吐出曲がりを引き起こすのは困難であるため、吐出曲がりが発生するまで何度も印刷を行う必要が生じてしまう。そこで、学習用検査データD2を取得するための印刷を行う際には、学習用印刷デジタルデータの一部の画像情報を意図的に加工することで、疑似的な欠陥を生じさせることが好ましい。
〔印刷装置の構成及び学習用欠陥情報の収集〕
図9は、学習用情報生成装置を有する印刷装置の構成を示すブロック図である。図1と共通する部分には同一の符号を付し、その詳細な説明は省略する。図10は、学習用欠陥情報の収集を示すフロー図である。
印刷装置80は、学習用情報生成装置20の他、未加工印刷デジタルデータ記憶部82、印刷デジタルデータ加工部84、加工済印刷デジタルデータ記憶部86、印刷部88、及び撮像部90を備えている。
未加工印刷デジタルデータ記憶部82は、未加工の印刷デジタルデータD13を記憶するメモリである。尚、未加工とは、疑似的な欠陥に関する加工がされていないという意味である。
印刷デジタルデータ加工部84は、未加工の印刷デジタルデータD13の少なくとも一部の画像情報を意図的に加工し、疑似的な欠陥を生じさせる画像処理部である。生じさせる疑似的な欠陥の位置、種類、及び強度は、ユーザが決めてもよいし、不図示のメモリに記憶しておいてもよい。印刷デジタルデータ加工部84は、未加工印刷デジタルデータ記憶部82から未加工の印刷デジタルデータD13を読み出し、所望の加工を行い、加工した印刷デジタルデータD14を生成する。
加工済印刷デジタルデータ記憶部86は、加工した印刷デジタルデータD14を記憶するメモリである。印刷装置80は、加工した印刷デジタルデータD14を外部の装置から不図示のインターフェースを通じて取得してもよい。
印刷部88は、入力された印刷デジタルデータを元に記録媒体に画像を印刷する画像記録部である。印刷部88は、未加工の印刷デジタルデータD13の印刷、及び加工した印刷デジタルデータD14の印刷を行う。撮像部90は、印刷部88において印刷された印刷物を撮像する撮像装置である。
印刷部88及び撮像部90は、印刷撮像処理P5を実施する。印刷撮像処理P5は、印刷部88において未加工の印刷デジタルデータD13の印刷を行い、撮像部90においてこの印刷物の撮像を行うことで、第1の学習用基準データD1を生成する処理である。印刷装置80は、この第1の学習用基準データD1を第1の学習用基準データ記憶部22に記憶させる。
同様に、印刷部88及び撮像部90は、印刷撮像処理P6を実施する。印刷撮像処理P6は、印刷部88において加工した印刷デジタルデータD14の印刷を行い、撮像部90においてこの印刷物(欠陥印刷物の一例)の撮像を行うことで、欠陥のある学習用検査データD2を生成する処理である。印刷装置80は、この学習用検査データD2を学習用検査データ記憶部24に記憶させる。
このように取得した第1の学習用基準データD1と学習用検査データD2とを用いて、比較処理部26において比較処理P1を行うことで、欠陥のある学習用欠陥情報D3を容易に収集することができる。
〔印刷デジタルデータの加工方法〕
例えば、印刷部88がシアン(C)、マゼンタ(M)、イエロー(Y)、及びブラック(K)のインクを吐出して印刷を行うものであり、印刷デジタルデータがCMYKの4チャネルの多値のデジタル画像であり、各チャネルの画素値がその色のインクの吐出量を表す信号である場合を例に説明する。
ブラックのインクの吐出不良によるスジ状の欠陥をある位置に表現した印刷デジタルデータD14を生成する場合は、印刷デジタルデータ加工部84は、その位置におけるKチャネルのデジタル画像の画素値を線状に弱めることで、欠陥が無い場合に比べて明るいスジ状の欠陥を表現することができる。或いは、画素値を強めることで、欠陥が無い場合に比べて暗いスジ状の欠陥を表現することができる。画素値の強弱の程度及び発生範囲を変更することで、欠陥の強度及び長さを表現することも可能である。もちろん、ブラックのインクの代わりに、シアン、マゼンタ、イエローのインクのチャネルの画像を加工して所望の欠陥を表現しても構わない。
或いは、不吐出補正の補正量や不吐出ノズルの密集度合いを変更することでスジ状の欠陥を表現してもよい。インクジェット印刷には不良ノズルを不吐出とした上で近傍ノズルの吐出量を制御(多くの場合は近ノズルの吐出量を増加させる)して不吐出位置の描画を補償する機能が搭載されていることがあるが、近傍ノズルの補正量が最適化されていない場合、補正不足や過補正となりスジ状の欠陥となる。このことを利用し、任意のノズルを不吐出化して最適でない不吐出補正を実施することでスジ状の欠陥を表現することができる。また、不吐出ノズルが密集していると近傍ノズルで補正しきれなくなり、結果スジ状の欠陥となる。このことを利用し任意のノズルとその周辺ノズルを不吐出化して密集させることでスジ状の欠陥を表現することができる。尚、不吐出補正の補正量や不吐出ノズルの密集度合いを変更することは、結局のところ印刷機で使用される画像データ(中間画像データ)を制御していると言えるため、加工した印刷デジタルデータD14の一例に含まれる。
シアンのインクのインク垂れによるポツ状の欠陥をある位置に表現した印刷デジタルデータD14を生成する場合は、印刷デジタルデータ加工部84は、その位置におけるCチャネルのデジタル画像の画素値を円状に強めることで、シアンのインク垂れを表現することができる。画素値の強弱の程度及び発生範囲を変更することで、欠陥の強度及び大きさを表現することも可能である。もちろん、ブラックのインクの代わりに、シアン、マゼンタ、イエローのインクのチャネルの画像を加工して所望の欠陥を表現しても構わない。
尚、未加工の印刷デジタルデータD13がハーフトーン処理後の0又は1の値を持つ2値のデジタル画像である場合には、画素値を強めたり弱めたりする代わりに、表現したい位置で0の値、或いは1の値の出現割合を増減させることで、欠陥を表現することができる。
このように加工した印刷デジタルデータD14について印刷撮像処理P6を実施することで、欠陥のある学習用検査データD2を生成することができる。一方、学習用検査データD2と対となる第1の学習用基準データD1を取得するには、これまでと同様に、未加工の印刷デジタルデータD13について印刷撮像処理P5を実施すればよい。
<第5の実施形態>
〔機械学習モデルを生成する印刷装置〕
印刷装置では、記録媒体として様々な用紙銘柄が使用される。また、用紙銘柄によって印字される印刷画像の特性が変化する。例えば、インクジェット印刷装置の場合、用紙によってインクの浸透性が異なり再現濃度が変化したり、紙面のインクドットサイズが変化し、画像構造に影響を及ぼしたりする。
機械学習はモデルの学習時に使用された条件に近い状態でモデルを利用したほうが良い推定精度が得られる。例えば、グロス紙Aを使用して生成されたモデルをマット紙Bに適用するよりも、マット紙Bを使用して生成されたモデルをマット紙Bに適用する、或いは、グロス紙Aとマット紙Bの双方を使用して生成されたモデルをマット紙Bに適用する方が、良い推定精度が得られる。
しかしながら、印刷機の顧客が使用するすべての用紙を使って予めモデルを生成することは困難である。したがって、顧客の現場において、使用条件に応じたモデルを生成することが好ましいインクジェット印刷装置及び電子写真等の所謂デジタル印刷機では、版が不要で、登録された印刷デジタルデータを即座に印刷可能であるため、予め様々な印刷デジタルデータとその一部を加工して欠陥を表現した印刷デジタルデータを印刷機に登録しておくことで、現場で容易にモデルを生成することができる。
〔印刷装置の構成及び機械学習モデルの生成〕
図11は、機械学習モデルの生成を行う印刷装置の構成を示すブロック図である。また、図12は、機械学習モデルの生成を示すフロー図である。
印刷装置92は、学習用情報生成装置20、モデル生成装置40、印刷物検査装置50、未加工印刷デジタルデータ記憶部82、印刷デジタルデータ加工部84、加工済印刷デジタルデータ記憶部86、印刷部88、及び撮像部90を備えている。
印刷装置92は、未加工印刷デジタルデータ記憶部82に未加工の印刷デジタルデータD13を記憶している。印刷部88及び撮像部90は、未加工の印刷デジタルデータD13に対して印刷撮像処理P5を実施し、第1の学習用基準データD1を生成する。第1の学習用基準データD1は、第1の学習用基準データ記憶部22に記憶される。
また、印刷デジタルデータ加工部84は、未加工の印刷デジタルデータD13を未加工印刷デジタルデータ記憶部82から読み出し、所望の加工を行い、加工した印刷デジタルデータD14を生成する。加工した印刷デジタルデータD14は、加工済印刷デジタルデータ記憶部86に記憶される。
印刷部88及び撮像部90は、加工した印刷デジタルデータD14に対して印刷撮像処理P6を実施し、学習用検査データD2を生成する。学習用検査データD2は、学習用検査データ記憶部24に記憶される。
比較処理部26は、第1の学習用基準データD1及び学習用検査データD2について比較処理P1を実施することで、欠陥のある学習用欠陥情報D3Dを取得する。欠陥のある学習用欠陥情報D3Dは、学習用欠陥情報記憶部28に記憶される。
印刷デジタルデータ加工部84において、様々な疑似的な欠陥を生じさせた印刷デジタルデータD14を生成し、同様の処理を繰り返すことで、欠陥のある学習用欠陥情報D3Dを多数収集することができる。
また、第2の学習用基準データ記憶部30は、未加工の印刷デジタルデータD13と同じ第2の学習用基準データD4を記憶している。第2の学習用基準データ記憶部30と未加工印刷デジタルデータ記憶部82とは、共通化してもよい。
情報取得部42は、学習用検査データD2及び第2の学習用基準データD4を学習用入力情報として取得し、欠陥のある学習用欠陥情報D3Dを学習用出力情報として取得する。
また、印刷部88及び撮像部90により、未加工の印刷デジタルデータD13に対して印刷撮像処理P6を実施して学習用検査データD2を生成し、学習用検査データD2を学習用検査データ記憶部24に記憶させ、比較処理部26において第1の学習用基準データD1及び学習用検査データD2について比較処理P1を実施することで、欠陥のない学習用欠陥情報D3Nを取得する。尚、印刷時に偶発的に欠陥が生じた場合には、比較処理P1にて、欠陥のある学習用欠陥情報D3Dが取得されることになることに注意する。或いは、情報取得部42において、未加工の印刷デジタルデータD13を元にする第1の学習用基準データD1を欠陥のない学習用入力情報として取得し、欠陥のない学習用欠陥情報D3Nを欠陥のない学習用出力情報として取得する。学習用欠陥情報D3Nの取得方法は上記どちらの方法を用いてもよいし、併用してもよい。
モデル生成部44は、学習用入力情報である学習用検査データD2(欠陥のない学習用検査データD2は第1の学習用基準データD1を流用してもよい)及び第2の学習用基準データD4と、学習用出力情報である欠陥のある学習用欠陥情報D3Dとから、元データ比較方式の調整機械学習モデルD15を生成する調整モデル生成処理P7を実施する。調整機械学習モデルD15はモデル記憶部46に記憶される。尚、「調整」とは、特定の顧客向けに調整していることを示す。
尚、調整モデル生成処理P7は、現場で取得或いは生成した学習用入力情報と学習用出力情報のみを使用して実施してもよい(調整モデル生成方法A)し、既存の機械学習モデルD5を作成した際に使用した学習用入力情報と学習用出力情報と現場で取得或いは生成した学習用入力情報と学習用出力情報と合算したものを使用して実施してもよい(調整モデル生成方法B)。或いは、現場で取得或いは生成した学習用入力情報と学習用出力情報を用いてミニバッチ学習やオンライン学習などの技術を使って既存の機械学習モデルを更新してもよい(調整モデル生成方法C)。このようにして、調整機械学習モデルD15が生成される。
調整モデル生成方法Aを使用する場合は、顧客の使用条件に特化したモデルを生成することができるという利点がある。また、調整モデル生成方法B、或いは調整モデル生成方法Cを使用する場合は、学習データ量が多くなるため生成される機械学習モデルD5の性能が安定しやすいという利点がある。
第5の実施形態の特徴は、正解データ比較方式(比較処理P1)を用いて、特定の顧客向けに調整された元データ比較方式用の機械学習モデルを生成することである。正解データ比較方式では同じ銘柄の用紙に印字された印刷画像を元に欠陥の検査が行われるため、どのような用紙銘柄が用いられても良好な検査ができるのに対し、元データ比較方式では印刷デジタルデータとの比較になるため、機械学習モデルを顧客向けに調整しない場合に検査精度が低下しやすい。よって、本実施形態のように正解データ比較方式を用いて、顧客の使用する用紙銘柄に調整された元データ比較方式用の機械学習モデルを生成することで、検査精度を大きく向上させることができる。
第5の実施形態は、顧客が使用する用紙に焦点を当てた説明がなされているが、仮に用紙が元々の機械学習モデル生成時に使用されたものと同じであっても、本実施形態の「機械学習モデルの調整」は有用である。例えば、顧客が独自に印字に関わるコンフィグ(インク種、インク吐出条件、乾燥条件)を変更したりする場合にも有効であるし、コンフィグを変更しない場合にも、印刷機そのものが有する各種ばらつき(号機差)に応じた「調整」を行うことができる。
〔印刷物の欠陥検査〕
印刷装置92は、出荷する印刷物のための印刷デジタルデータが未加工の印刷デジタルデータD13として未加工印刷デジタルデータ記憶部82に記憶されている。印刷部88は、未加工の印刷デジタルデータD13の印刷を行う。また、撮像部90は、この印刷物の撮像を行い、検査データD6として検査データ記憶部52に記憶させる。
また、基準データ記憶部54には、未加工の印刷デジタルデータD13と同じ出荷する印刷物のための印刷デジタルデータが基準データD7として記憶されている。基準データ記憶部54と未加工印刷デジタルデータ記憶部82とは、共通化してもよい。
欠陥検査部58は、入力された検査データD6及び基準データD7に対して機械学習モデルD5を適用して印刷物の欠陥検査を実施し、検査結果D8を取得する欠陥検査処理P3を実施する。取得された検査結果D8は、検査結果記憶部60に記憶される。
ここで、機械学習モデルD5が調整機械学習モデルD15によって更新されているため、顧客の使用条件に応じた欠陥検査を行うことができる。例えば、顧客で使用する用紙銘柄に印刷を行って調整機械学習モデルD15を生成し、機械学習モデルD5を更新することで、用紙銘柄に適した欠陥検査を行うことができる。
このように、印刷装置92に、正解データ比較方式の検査機能を有する学習用情報生成装置20と、元データ比較方式の検査機能を有する印刷物検査装置50の双方を搭載し、顧客が現場において正解データ比較方式で検査を行い、その結果を元に、元データ比較方式の機械学習モデルを生成又は更新する機能を用意することで、顧客の使用条件に適した元データ比較方式の調整機械学習モデルD15を現場において取得することができる。
本実施形態では、調整モデル生成処理P7の演算を印刷装置92において行ったが、印刷装置92に接続されたコンピュータで実施してもよいし、ネットワークに接続されたクラウド環境で実施してもよい。
<第6の実施形態>
印刷装置92を適用したインクジェット印刷装置について説明する。
〔インクジェット印刷装置の構成〕
図13は、インクジェット印刷装置100の全体の概略構成を示す全体構成図である。図13に示すように、インクジェット印刷装置100は、印刷媒体である枚葉の用紙Pにシアン(C)、マゼンタ(M)、イエロー(Y)、及びブラック(K)の4色のインクを吐出してカラー画像を印刷する印刷機である。
用紙Pには汎用の印刷用紙が使用される。汎用の印刷用紙とは、いわゆるインクジェット専用紙ではなく、一般のオフセット印刷等に用いられる塗工紙等のセルロースを主体とした用紙をいう。また、インクには水性インクが使用される。水性インクとは、水及び水に可溶な溶媒に染料、顔料等の色材を溶解又は分散させたインクをいう。
図13に示すように、インクジェット印刷装置100は、搬送部110、印刷部120、撮像部130、乾燥部140、選別部150、及び排紙部160を備えて構成される。
〔搬送部〕
搬送部110は、不図示の給紙部から給紙された用紙Pを搬送方向(Y方向)に搬送する。搬送部110は、上流側プーリ112、下流側プーリ114、及び搬送ベルト116を備えている。
上流側プーリ112は、水平方向に延びる不図示の回転軸を有し、回転軸が回転自在に軸支されている。下流側プーリ114は、上流側プーリ112の回転軸と平行な不図示の回転軸を有し、回転軸が回転自在に軸支されている。
搬送ベルト116は、ステンレス製の無端状のベルトである。搬送ベルト116は、上流側プーリ112及び下流側プーリ114に架け渡されている。ステンレス製の搬送ベルト116を使用することで、用紙Pの平坦性を良好に保つことができる。
下流側プーリ114は、駆動手段として不図示のモータを有している。モータが駆動すると、下流側プーリ114が図13において左回りに回転する。上流側プーリ112は、下流側プーリ114の回転に従動して図13において左回りに回転する。上流側プーリ112及び下流側プーリ114の回転により、搬送ベルト116は上流側プーリ112及び下流側プーリ114の間を走行経路に沿って走行する。
搬送ベルト116の搬送面には、不図示の給紙部から供給された用紙Pが載置される。搬送部110は、搬送ベルト116に載置された用紙Pを上流側プーリ112から下流側プーリ114に向かう搬送経路に沿って搬送し、排紙部160に受け渡す。この搬送経路の、印刷部120、撮像部130、乾燥部140、及び選別部150に対向する位置において、用紙Pは印刷面を水平に保持されて搬送される。
搬送ベルト116に不図示の複数の吸着孔を設け、不図示のポンプにより搬送ベルト116の吸着孔を吸引することで、搬送ベルト116の搬送面に載置された用紙Pを搬送面に吸着保持してもよい。
〔印刷部〕
印刷部120は、用紙Pに画像を形成(印刷)する。印刷部120は、インクジェットヘッド122C、122M、122Y、及び122Kを備えている。インクジェットヘッド122Cは、シアンのインク滴をインクジェット方式で吐出する。同様に、インクジェットヘッド122M、122Y、及び122Kは、それぞれマゼンタ、イエロー、及びブラックのインク滴をインクジェット方式で吐出する。
インクジェットヘッド122C、122M、122Y及び122Kは、搬送ベルト116による用紙Pの搬送経路に沿って一定の間隔をもって配置される。インクジェットヘッド122C、122M、122Y及び122Kは、それぞれラインヘッドで構成され、最大の用紙幅に対応する長さで形成される。インクジェットヘッド122C、122M、122Y及び122Kは、ノズル面(ノズルが配列される面)が搬送ベルト116に対向するように配置される。
インクジェットヘッド122C、122M、122Y及び122Kは、ノズル面に形成されたノズルから、搬送ベルト116によって搬送される用紙Pに向けてインク滴を吐出することにより、用紙Pの印刷面に画像を形成する。
このように、印刷部120は、搬送ベルト116によって搬送される用紙Pに対して1回の走査によって、いわゆるシングルパス方式によって印刷物を生成する。印刷部120は、印刷部88と共通であってもよい。
〔撮像部〕
撮像部130は、撮像部90と共通であってもよい。撮像部130は、用紙Pの印刷面の画像を取得する。撮像部130は、用紙Pの搬送方向に対して印刷部120の下流側に配置される。撮像部130は、スキャナ132を備えている。
スキャナ132は、インクジェットヘッド122C、122M、122Y及び122Kを用いて用紙Pに形成された画像を光学的に読み取り、その読取画像を示す画像データを生成する装置である。スキャナ132は、用紙P上に印刷された画像を撮像して電気信号に変換する撮像デバイスを含む。撮像デバイスとしてカラーCCD(charge coupled device)リニアイメージセンサを用いることができる。尚、カラーCCDリニアイメージセンサに代えて、カラーCMOS(complementary metal oxide semiconductor)リニアイメージセンサを用いることもできる。
スキャナ132は、撮像デバイスの他、読み取り対象を照明する照明光学系及び撮像デバイスから得られる信号を処理してデジタル画像データを生成する信号処理回路を含んでもよい。
〔乾燥部〕
乾燥部140は、用紙Pのインクを乾燥させる。乾燥部140は、用紙Pの搬送方向に対して撮像部130の下流側に配置される。
乾燥部140は、ヒータ142を備えている。ヒータ142としては、例えば、ハロゲンヒータ及び赤外線ヒータのうち少なくとも一方が使用される。ヒータ142は、用紙Pの印刷面を加熱して、用紙Pのインクを乾燥させる。乾燥部140は、ファン又はブロア等の送風手段を含んでいてもよい。
〔選別部〕
選別部150は、搬送ベルト116によって搬送される用紙Pに関する良否判定に応じて、印刷物を選別する。選別部150は、用紙Pの搬送方向に対して乾燥部140の下流側に配置される。選別部150は、スタンパ152を備えている。
スタンパ152は、搬送ベルト116によって搬送される用紙Pに関する良否判定に応じて、不良品印刷物と判定された用紙Pの先端エッジにインクを付着させるスタンプ処理を行う。
〔排紙部〕
排紙部160は、画像が形成され、乾燥された用紙P(印刷物)を回収する。排紙部160は、用紙Pの搬送方向に対して選別部150の下流側であって、搬送部110の搬送経路の終点に配置される。排紙部160は、排紙台162を備えている。
排紙台162は、搬送ベルト116によって搬送された用紙Pを積み重ねて回収する。排紙台162には、不図示の前用紙当て、後用紙当て、横用紙当てが備えられており、用紙Pを整然と積み重ねる。
また、排紙台162は、不図示の昇降装置によって昇降可能に設けられる。昇降装置は、排紙台162に積み重ねられる用紙Pの増減に連動して駆動が制御される。これにより、排紙台162に積み重ねられた用紙Pのうち最上位に位置する用紙Pが常に一定の高さとなる。
〔インクジェット印刷装置の制御系〕
図14は、インクジェット印刷装置100の内部構成を示すブロック図である。インクジェット印刷装置100は、前述の学習用情報生成装置20、モデル生成装置40、印刷物検査装置50、搬送部110、印刷部120、撮像部130、乾燥部140、選別部150、及び排紙部160の他、ユーザインターフェース170、記憶部172、統括制御部174、搬送制御部176、印刷制御部178、撮像制御部180、乾燥制御部182、選別制御部184、及び排紙制御部186を備えている。
ユーザインターフェース170は、ユーザがインクジェット印刷装置100を操作するための不図示の入力部及び不図示の表示部を備えている。入力部は、例えばユーザからの入力を受け付ける操作パネルである。表示部は、例えば画像データ及び各種の情報を表示するディスプレイである。ユーザは、ユーザインターフェース170を操作することで、インクジェット印刷装置100に所望の画像を印刷させることができる。
記憶部172は、インクジェット印刷装置100を制御するためのプログラム及びプログラムの実行に必要な情報を記憶する。記憶部172は、不図示のハードディスク、又は各種半導体メモリ等の非一時的記録媒体により構成される。第1の学習用基準データD1、学習用検査データD2、学習用欠陥情報D3、第2の学習用基準データD4、機械学習モデルD5等を一時的に記憶する不図示のRAM(Random Access Memory)等の揮発性のメモリを備えていてもよい。また、記憶部172は、未加工印刷デジタルデータ記憶部82、及び加工済印刷デジタルデータ記憶部86を兼ねる。
統括制御部174は、記憶部172に記憶されたプログラムに従って各種の処理を行い、インクジェット印刷装置100の全体の動作を統括制御する。学習用情報生成装置20、モデル生成装置40、印刷物検査装置50についても、統括制御部174により統括制御される。また、統括制御部174は、印刷デジタルデータ加工部84を兼ねる。
搬送制御部176は、搬送部110の不図示のモータを制御することで、搬送部110によって用紙Pを搬送方向に搬送させる。これにより、不図示の給紙部から供給された用紙Pは、印刷部120、撮像部130、乾燥部140、及び選別部150と対向する位置を通過し、最後に排紙部160に排紙される。
印刷制御部178は、インクジェットヘッド122C、122M、122Y、及び122Kによるインクの吐出を制御する。印刷制御部178は、インクジェットヘッド122C、122M、122Y、及び122Kによって、それぞれのノズル面と対向する位置を用紙Pが通過するタイミングにおいて、シアン、マゼンタ、イエロー、及びブラックのインク滴を用紙Pに向けて吐出させる。これにより、用紙Pの印刷面にカラー画像が形成され、用紙Pは「印刷物」となる。
撮像制御部180は、スキャナ132による撮像を制御することで、撮像部130によって用紙P(印刷物)の画像を読み取らせる。撮像制御部180は、スキャナ132によって、スキャナ132と対向する位置を用紙Pが通過するタイミングにおいて、用紙Pに形成された画像を読み取らせる。これにより、検査画像を取得する。
乾燥制御部182は、ヒータ142による加熱を制御することで、乾燥部140によって用紙Pを乾燥させる。乾燥制御部182は、ヒータ142によって、ヒータ142と対向する位置を用紙Pが通過する際に用紙Pを加熱させる。
選別制御部184は、スタンパ152によるスタンプ処理を制御することで、選別部150によって用紙Pを選別させる。選別制御部184(印刷物の欠陥の検出結果を出力する出力部の一例)は、検出された欠陥に応じて印刷物を良品印刷物と不良品印刷物とに分類する。選別制御部184は、スタンパ152と対向する位置を通過する用紙Pが不良品印刷物と判定された用紙Pである場合は、スタンパ152によってスタンプ処理を行う。
排紙制御部186は、排紙台162による用紙Pの積載を制御する。用紙Pは、排紙台162に排紙され、積み重ねられる。不良品印刷物の用紙Pには先端エッジにインクが付着している。このため、ユーザは、排紙台162に積載された用紙Pの中から不良品印刷物を特定することができる。
図15は、インクジェット印刷装置100によって印刷される印刷物の一例を示す図である。図15に示すように、印刷物である用紙Pには、不良ノズル検知パターンPT及び画像Gが印刷される。
不良ノズル検知パターンPTは、X方向に一定の間隔を開けたY方向に沿ったラインから構成される。ラインを形成するノズルを1ノズルずつずらして複数の不良ノズル検知パターンPTを印刷することで、全てのノズルの不良を検知することができる。
画像Gは、印刷デジタルデータを元に印刷された印刷結果である。印刷物検査装置50は、画像Gにおける欠陥を検出する。図15に示す画像Gは、Y方向に延びるスジ状の欠陥DFを有している。スジ状の欠陥には、連続的なスジの欠陥の他、断続的なスジの欠陥も含まれる。欠陥DFは、欠陥DFの位置にインクを吐出するノズルが、吐出不良であるために発生する。吐出不良のノズルは、不良ノズル検知パターンPTを用いて検知することも可能である。インクジェット印刷装置100では、印刷物検査装置50によって検出された欠陥に応じて印刷物を良品印刷物と不良品印刷物とに分類する。
<その他>
上記の機械学習モデルの生成方法及び検査方法は、各工程をコンピュータに実現させるためのプログラムとして構成し、このプログラムを記憶したCD-ROM(Compact Disk-Read Only Memory)等の非一時的な記録媒体を構成することも可能である。
ここまで説明した実施形態において、例えば、学習用情報生成装置20、モデル生成装置40、及び印刷物検査装置50の各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、画像処理に特化したプロセッサであるGPU(Graphics Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサ(例えば、複数のFPGA、或いはCPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、サーバ及びクライアント等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)である。
本発明の技術的範囲は、上記の実施形態に記載の範囲には限定されない。各実施形態における構成等は、本発明の趣旨を逸脱しない範囲で、各実施形態間で適宜組み合わせることができる。
10…生成システム
20…学習用情報生成装置
22…第1の学習用基準データ記憶部
24…学習用検査データ記憶部
26…比較処理部
28…学習用欠陥情報記憶部
30…第2の学習用基準データ記憶部
40…モデル生成装置
42…情報取得部
44…モデル生成部
46…モデル記憶部
50…印刷物検査装置
52…検査データ記憶部
54…基準データ記憶部
56…モデル記憶部
58…欠陥検査部
60…検査結果記憶部
62…生成システム
64…生成システム
66…比較処理用モデル生成装置
68…比較処理学習用基準データ記憶部
70…比較処理学習用検査データ記憶部
72…官能評価値入力部
74…比較処理用モデル生成部
76…比較処理用モデル記憶部
80…印刷装置
82…未加工印刷デジタルデータ記憶部
84…印刷デジタルデータ加工部
86…加工済印刷デジタルデータ記憶部
88…印刷部
90…撮像部
92…印刷装置
100…インクジェット印刷装置
110…搬送部
112…上流側プーリ
114…下流側プーリ
116…搬送ベルト
120…印刷部
122C…インクジェットヘッド
122K…インクジェットヘッド
122M…インクジェットヘッド
122Y…インクジェットヘッド
130…撮像部
132…スキャナ
140…乾燥部
142…ヒータ
150…選別部
152…スタンパ
160…排紙部
162…排紙台
170…ユーザインターフェース
172…記憶部
174…統括制御部
176…搬送制御部
178…印刷制御部
180…撮像制御部
182…乾燥制御部
184…選別制御部
186…排紙制御部
D1…第1の学習用基準データ
D2…学習用検査データ
D3…学習用欠陥情報
D3D…欠陥のある学習用欠陥情報
D3N…欠陥のない学習用欠陥情報
D4…第2の学習用基準データ
D5…機械学習モデル
D6…検査データ
D7…基準データ
D8…検査結果
D9…比較処理学習用基準データ
D10…比較処理学習用検査データ
D11…官能評価値
D12…比較処理用機械学習モデル
D13…未加工の印刷デジタルデータ
D14…加工した印刷デジタルデータ
D15…調整機械学習モデル
P…用紙
P1…比較処理
P2…モデル生成処理
P3…欠陥検査処理
P4…比較処理モデル生成処理
P5…印刷撮像処理
P6…印刷撮像処理
P7…調整モデル生成処理

Claims (21)

  1. 印刷物が撮像された撮像画像を元に取得された検査データと、印刷デジタルデータを元に取得された基準データとを、機械学習モデルで比較して印刷物の欠陥を検出するための機械学習モデルの生成方法であって、
    学習用印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする学習用検査データと、前記学習用印刷デジタルデータを元に印刷された基準となる印刷物が撮像された撮像画像を元にする第1の学習用基準データと前記学習用検査データとを比較処理することで推定された前記学習用検査データの学習用欠陥情報と、前記学習用印刷デジタルデータを元にする第2の学習用基準データであって、印刷物を撮像した撮像画像に由来するものではない第2の学習用基準データと、を取得する取得工程と、
    前記学習用検査データと前記第2の学習用基準データとを学習用入力情報として少なくとも使用し、前記学習用欠陥情報を学習用出力情報として少なくとも使用することで前記機械学習モデルを生成する生成工程と
    を備えた機械学習モデルの生成方法。
  2. 前記学習用欠陥情報は離散値を含み、
    前記生成工程は、分類を行う前記機械学習モデルを生成する請求項1に記載の機械学習モデルの生成方法。
  3. 前記離散値は、印刷物の欠陥の有無を示す2値の離散値である請求項2に記載の機械学習モデルの生成方法。
  4. 前記離散値は、印刷物の欠陥の強度を示す3値以上の離散値である請求項2又は3に記載の機械学習モデルの生成方法。
  5. 前記学習用欠陥情報は連続値を含み、
    前記生成工程は、回帰を行う前記機械学習モデルを生成する請求項1から4のいずれか1項に記載の機械学習モデルの生成方法。
  6. 前記学習用欠陥情報は、印刷物の欠陥の位置情報を含む請求項1から5のいずれか1項に記載の機械学習モデルの生成方法。
  7. 前記生成工程は、前記機械学習モデルを深層学習により生成する請求項1から6のいずれか1項に記載の機械学習モデルの生成方法。
  8. 前記生成工程は、前記第1の学習用基準データと前記第2の学習用基準データを学習用入力情報として少なくとも使用し、欠陥が非存在であることを示す前記学習用欠陥情報を学習用出力情報として少なくとも使用することで前記機械学習モデルを生成する請求項1から7のいずれか1項に記載の機械学習モデルの生成方法。
  9. 前記取得工程は、前記学習用印刷デジタルデータの少なくとも一部が加工されることで欠陥が表現された加工済印刷デジタルデータを元に印刷された印刷物を撮像した学習用検査データを少なくとも取得する請求項1から8のいずれか1項に記載の機械学習モデルの生成方法。
  10. 前記取得工程は、前記第1の学習用基準データを取得し、
    前記学習用検査データと前記第1の学習用基準データとを比較処理を行うことで前記学習用検査データの学習用欠陥情報を推定する比較処理工程を備えた請求項1から9のいずれか1項に記載の機械学習モデルの生成方法。
  11. 前記比較処理工程は、比較処理用機械学習モデルによって比較処理を行う請求項10に記載の機械学習モデルの生成方法。
  12. 学習用印刷デジタルデータを元に印刷された基準となる第1印刷物と前記学習用印刷デジタルデータを元に印刷された比較対象の第2印刷物とを比較した官能評価値を入力する官能評価値入力工程と、
    前記第1印刷物を撮像した比較処理学習用基準データと前記第2印刷物を撮像した比較処理学習用検査データとを学習用入力情報として使用し、前記官能評価値を学習用出力情報として使用することで、前記比較処理用機械学習モデルを生成する比較処理用モデル生成工程と、
    を備えた請求項11に記載の機械学習モデルの生成方法。
  13. 印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする検査データと、前記印刷デジタルデータを元にする基準データとを取得し、請求項1から12のいずれか1項に記載の機械学習モデルの生成方法により生成された機械学習モデルで比較して前記検査対象の印刷物の欠陥を検出する欠陥検査工程を備えた検査方法。
  14. 印刷物が撮像された撮像画像を元に取得された検査データと、印刷デジタルデータを元に取得された基準データとを、機械学習モデルで比較して印刷物の欠陥を検出するための機械学習モデルの生成装置であって、
    学習用印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする学習用検査データと、前記学習用印刷デジタルデータを元に印刷された基準となる印刷物が撮像された撮像画像を元にする第1の学習用基準データと前記学習用検査データとを比較処理することで推定された前記学習用検査データの学習用欠陥情報と、前記学習用印刷デジタルデータを元にする第2の学習用基準データであって、印刷物を撮像した撮像画像に由来するものではない第2の学習用基準データと、を取得する取得部と、
    前記学習用検査データと前記第2の学習用基準データとを学習用入力情報として少なくとも使用し、前記学習用欠陥情報を学習用出力情報として少なくとも使用することで前記機械学習モデルを生成する生成部と、
    を備えた機械学習モデルの生成装置。
  15. 請求項14に記載の機械学習モデルの生成装置と、
    印刷デジタルデータを元に印刷された検査対象の印刷物が撮像された撮像画像を元にする検査データと、前記印刷デジタルデータを元にする基準データとを取得し、前記機械学習モデルの生成装置により生成された機械学習モデルで比較して前記検査対象の印刷物の欠陥を検出する欠陥検査部を備えた検査装置。
  16. 請求項15に記載の検査装置と、
    前記印刷デジタルデータを元に印刷を行い、印刷物を生成する印刷部と、
    前記印刷物を撮像するカメラと、
    前記印刷物の欠陥の検出結果を出力する出力部と、
    を備えた印刷装置。
  17. 前記学習用印刷デジタルデータの少なくとも一部を加工して欠陥を表現した加工済印刷デジタルデータを生成する加工部を備え、
    前記印刷部は、前記加工済印刷デジタルデータを元に印刷を行い、欠陥印刷物を生成し、
    前記カメラは、前記欠陥印刷物を撮像し、
    前記取得部は、前記欠陥印刷物が撮像された撮像画像を元にするデータを前記学習用検査データとして少なくとも取得する請求項16に記載の印刷装置。
  18. 前記生成部は、前記カメラによって印刷物が撮像された撮像画像を元にする学習用検査データを用いて該印刷装置に適した機械学習モデルに調整された調整機械学習モデルを生成する請求項16又は17に記載の印刷装置。
  19. 前記印刷部は、インクジェットヘッドを用いて印刷する請求項16から18のいずれか1項に記載の印刷装置。
  20. 請求項1から12のいずれか1項に記載の機械学習モデルの生成方法をコンピュータに実行させるためのプログラム。
  21. 非一時的かつコンピュータ読取可能な記録媒体であって、前記記録媒体に格納された指令がコンピュータによって読み取られた場合に請求項20に記載のプログラムをコンピュータに実行させる記録媒体。
JP2020532262A 2018-07-25 2019-07-04 機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置 Active JP7110349B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018139555 2018-07-25
JP2018139555 2018-07-25
PCT/JP2019/026685 WO2020022024A1 (ja) 2018-07-25 2019-07-04 機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置

Publications (2)

Publication Number Publication Date
JPWO2020022024A1 JPWO2020022024A1 (ja) 2021-08-02
JP7110349B2 true JP7110349B2 (ja) 2022-08-01

Family

ID=69181403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020532262A Active JP7110349B2 (ja) 2018-07-25 2019-07-04 機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置

Country Status (4)

Country Link
US (1) US11820132B2 (ja)
EP (1) EP3828819B1 (ja)
JP (1) JP7110349B2 (ja)
WO (1) WO2020022024A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7474067B2 (ja) * 2020-02-26 2024-04-24 キヤノン株式会社 画像処理装置、画像処理方法
EP3871892B1 (de) * 2020-02-28 2022-02-09 Heidelberger Druckmaschinen AG Makulaturoptimierte detektion
WO2021256389A1 (ja) * 2020-06-19 2021-12-23 富士フイルム株式会社 欠陥検査装置、欠陥検査方法及びプログラム、並びに印刷装置、印刷物の製造方法
JP7494037B2 (ja) 2020-07-15 2024-06-03 キヤノン株式会社 情報処理装置、判定方法、検査装置、成形装置、および物品の製造方法
US11483435B2 (en) 2020-12-21 2022-10-25 Xerox Corporation Machine state and defect detection meta data to execute maintenance routines on a multi-function device
US11240385B1 (en) * 2020-12-21 2022-02-01 Xerox Corporation Defect detection for multi-function devices using machine learning
CN114654884B (zh) * 2020-12-22 2023-06-06 精工爱普生株式会社 印刷条件设定方法、印刷条件设定***
US11967055B2 (en) 2021-06-30 2024-04-23 International Business Machines Corporation Automatically generating defect data of printed matter for flaw detection
CN114468977B (zh) * 2022-01-21 2023-03-28 深圳市眼科医院 一种眼科视力检查数据收集分析方法、***及计算机存储介质
JP2023180697A (ja) * 2022-06-10 2023-12-21 日立Astemo株式会社 疑似欠陥画像生成装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008287378A (ja) 2007-05-16 2008-11-27 Hitachi Omron Terminal Solutions Corp 画像識別学習装置及びそれを用いた印刷物識別装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3414844B2 (ja) * 1994-06-08 2003-06-09 株式会社ヒューテック 欠陥パターン種別判定方法およびその装置
JP6011406B2 (ja) 2013-03-22 2016-10-19 富士ゼロックス株式会社 検査装置、画像形成装置及びプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008287378A (ja) 2007-05-16 2008-11-27 Hitachi Omron Terminal Solutions Corp 画像識別学習装置及びそれを用いた印刷物識別装置

Also Published As

Publication number Publication date
EP3828819B1 (en) 2023-10-18
WO2020022024A1 (ja) 2020-01-30
JPWO2020022024A1 (ja) 2021-08-02
EP3828819A1 (en) 2021-06-02
US20210114368A1 (en) 2021-04-22
EP3828819A4 (en) 2021-09-01
US11820132B2 (en) 2023-11-21

Similar Documents

Publication Publication Date Title
JP7110349B2 (ja) 機械学習モデルの生成装置、方法、プログラム、検査装置及び検査方法、並びに印刷装置
US9946944B2 (en) Image recording device, image defect detection device, and image defect detection method
JP6694362B2 (ja) 画像検査方法及び装置、プログラム並びに画像記録システム
JP2014071045A (ja) 画像評価装置、画像評価方法、及びプログラム
JP5881576B2 (ja) 画像評価装置、画像評価方法、画像評価システム、及びプログラム
US20220198638A1 (en) Printed matter inspection device, printed matter inspection method, program, and printing apparatus
US20230103391A1 (en) Defect inspection device, defect inspection method, and program, and printing device and method of manufacturing printed matter
JP2020186938A (ja) 検査方法、検査装置、プログラム及び印刷装置
JP5303503B2 (ja) 画像検査装置および印刷装置、並びに、画像検査方法
WO2019188911A1 (ja) 画像形成装置及び方法、異常ノズル検出方法並びに印刷物の製造方法
JP6184386B2 (ja) 画像欠陥検出装置及び方法、画像記録装置並びにプログラム
WO2019142517A1 (ja) 印刷装置、画像欠陥検出装置、方法及びプログラム
JP5699051B2 (ja) 画像検査装置および画像記録装置、並びに、画像検査方法
WO2020012826A1 (ja) 印刷装置、検査装置、検査方法及びプログラム
JP7225068B2 (ja) 印刷物の欠陥検査装置、欠陥検査方法及びプログラム、並びに印刷システム
JP6293027B2 (ja) 画像欠陥検出装置及び方法、並びにプログラム
JP7256139B2 (ja) 印刷物の欠陥検査装置、欠陥検査方法及びプログラム、並びに印刷システム
US11776107B2 (en) Inspection method, program, inspection device, and printing device
JP7126477B2 (ja) 画像検査方法及び装置、プログラム並びに画像記録システム
JP7021144B2 (ja) 印刷物の検査方法及びプログラム、印刷物の検査装置、印刷システム
JP2021071299A (ja) 画像検査装置及び画像検査システム
JP2021071298A (ja) 画像検査装置及び画像検査システム
JP2021071300A (ja) 画像検査装置及び画像検査システム
JP2021096535A (ja) 画像検査装置及び画像検査システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220720

R150 Certificate of patent or registration of utility model

Ref document number: 7110349

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150