JP6971514B1 - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP6971514B1 JP6971514B1 JP2021115877A JP2021115877A JP6971514B1 JP 6971514 B1 JP6971514 B1 JP 6971514B1 JP 2021115877 A JP2021115877 A JP 2021115877A JP 2021115877 A JP2021115877 A JP 2021115877A JP 6971514 B1 JP6971514 B1 JP 6971514B1
- Authority
- JP
- Japan
- Prior art keywords
- data
- attack
- predetermined
- defense
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
- G06F21/566—Dynamic detection, i.e. detection performed at run-time, e.g. emulation, suspicious activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/554—Detecting local intrusion or implementing counter-measures involving event detection and direct action
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1441—Countermeasures against malicious traffic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Virology (AREA)
- Medical Informatics (AREA)
- Computer And Data Communications (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
を備える。
<システム構成>
図1は、実施形態に係るシステム構成の一例を示す図である。図1に示す例では、サーバ10と、各エッジ端末(又はユーザ端末)20A、20B、20C、20Dとが、ネットワークを介してデータ送受信可能なように接続される。エッジ端末を個別に区別しない場合はエッジ端末20とも表記する。
図2は、実施形態に係る情報処理装置10の物理的構成の一例を示す図である。情報処理装置10は、演算部に相当するCPU(Central Processing Unit)10aと、記憶部に相当するRAM(Random Access Memory)10bと、記憶部に相当するROM(Read only Memory)10cと、通信部10dと、入力部10eと、表示部10fと、を有する。これらの各構成は、バスを介して相互にデータ送受信可能に接続される。
図3は、実施形態に係る情報処理装置(サーバ)10の処理ブロックの一例を示す図である。情報処理装置10は、取得部101、推論部102、検出部103、算出部104、特定部105、適用部108、出力部109、学習部110、及び記憶部111を備える。情報処理装置10は、汎用のコンピュータで構成されてもよい。
方法1の場合、事前にシミュレーション等が行われ、攻撃を受けた所定のデータの特徴量と、この所定のデータに適用し、効果があった防御アルゴリズムの防御特定情報(防御ID)とを関連付けた対応データAが生成される(例えば図5A)。例えば、各画像データに所定の摂動を与える敵対的攻撃を与え、この攻撃を受けた各画像データに対して各防御アルゴリズムを適用し、適切に分類できる防御アルゴリズムが選定される。このとき、敵対的攻撃を受けた画像の摂動に関する特徴量と、対応する防御アルゴリズムの防御IDとが関連付けられる。
方法2の場合、事前にシミュレーション等が行われ、攻撃を受けた所定のデータの特徴量を見出し、この特徴量と、この所定のデータに攻撃をした攻撃アルゴリズムの攻撃特定情報(攻撃ID)とを関連付けた対応データB1が生成される(例えば図5B)。例えば、各画像データに所定の摂動を与える敵対的攻撃を与え、敵対的攻撃を受けた画像の摂動に関する特徴量と、対応する防御アルゴリズムの防御IDとが関連付けられる。また、攻撃アルゴリズムそれぞれに対して有効な防御アルゴリズムが、シミュレーション等により特定されると、攻撃IDと、この攻撃IDに対して防御可能な防御IDとが関連付けられた対応データB2が生成される(例えば図5C)。
方法3の場合、特定部105は、所定の攻撃が加えられた各データと、前述の各データに適用される各防御アルゴリズムとを含む学習データを用いて教師あり学習により生成された第2推論モデルに対し、所定のデータを入力して第1防御アルゴリズムを予測することを含んでもよい。例えば、防御特定部106が、第2推論モデルを有し、第1防御アルゴリズムを予測して特定してもよい。
方法4の場合、特定部105に含まれる攻撃特定部107は、各攻撃アルゴリズムと、前述の各攻撃アルゴリズムに基づく各攻撃が加えられた各データとを含む学習データを用いて教師あり学習によって生成された第3推論モデルに対し、所定のデータを入力して第1攻撃アルゴリズムを予測することを含んでもよい。
方法5の場合、特定部105は、各データの各特徴量と、各特徴量に対応する各防御アルゴリズムとを含む学習データを用いて教師あり学習により生成された第4推論モデルに対し、算出された特徴量を入力して第1防御アルゴリズムを予測することを含んでもよい。
方法6の場合、特定部105に含まれる攻撃特定部107は、各データの各特徴量と、前述の各特徴量に対応する各攻撃アルゴリズムを含む学習データを用いて教師あり学習によって生成された第5推論モデルに対し、所定のデータを入力して第1攻撃アルゴリズムを予測することを含んでもよい。
図4は、実施形態にかかる処理の概念図を説明するための図である。図4に示す例では、所定のデータとして画像を用い、推論モデルとしてCNNを用い、所定の攻撃として、1ピクセルアタックなどの摂動を与える敵対的攻撃を用いるとする。また、Attackはエッジ端末20側、Defenseはサーバ10側とする。
図5A乃至Cは、実施形態に係る対応データ111aの一例を示す図である。図5Aに示す例において、対応データAは、推論対象データを特定する情報(ID)に関連付けて、推論対象データの特徴量と、この特徴量から導き出される攻撃アルゴリズムに効果があると考えられる防御アルゴリズムを特定する防御特定情報(防御ID)とを含む。例えば、図5Aに示す対応データAは、上述した方法1で用いられる。
次に、本実施形態に適用可能な攻撃手法、防御手法、及び検出処理について、以下に例示列挙するが、これらの例に限られない。
(回避攻撃(Evasion))
Auto-Attack (Croce and Hein, 2020)
(回避攻撃(White-Box型))
Auto Projected Gradient Descent (Auto-PGD) (Croce and Hein, 2020)、Shadow Attack (Ghiasi et al., 2020)、Wasserstein Attack (Wong et al., 2020)、Imperceptible, Robust, and Targeted Adversarial Examples for Automatic Speech Recognition (Qin et al., 2019)、Brendel & Bethge Attack (Brendel et al., 2019)、Targeted Universal Adversarial Perturbations (Hirano and Takemoto, 2019)、Audio Adversarial Examples: Targeted Attacks on Speech-to-Text (Carlini and Wagner, 2018)、High Confidence Low Uncertainty (HCLU) Attack (Grosse et al., 2018)、Iterative Frame Saliency (Inkawhich et al., 2018)、DPatch (Liu et al., 2018)、Robust DPatch (Liu et al., 2018, (Lee and Kolter, 2019))、ShapeShifter (Chen et al., 2018)、Projected Gradient Descent (PGD) (Madry et al., 2017)、NewtonFool (Jang et al., 2017)、Elastic Net (Chen et al., 2017)、Adversarial Patch (Brown et al., 2017)、Decision Tree Attack (Papernot et al., 2016)、Carlini & Wagner (C&W) L_2 and L_inf attack (Carlini and Wagner, 2016)、Basic Iterative Method (BIM) (Kurakin et al., 2016)、Jacobian Saliency Map (Papernot et al., 2016)、Universal Perturbation (Moosavi-Dezfooli et al., 2016)、Feature Adversaries (Sabour et al., 2016)、DeepFool (Moosavi-Dezfooli et al., 2015)、Virtual Adversarial Method (Miyato et al., 2015)、Fast Gradient Method (Goodfellow et al., 2014)
(回避攻撃(Black-Box型))
Square Attack (Andriushchenko et al., 2020)、HopSkipJump Attack (Chen et al., 2019)、Threshold Attack (Vargas et al., 2019)、Pixel Attack (Vargas et al., 2019, Su et al., 2019)、Simple Black-box Adversarial (SimBA) (Guo et al., 2019)、Spatial Transformation (Engstrom et al., 2017)、Query-efficient Black-box (Ilyas et al., 2017)、Zeroth Order Optimisation (ZOO) (Chen et al., 2017)、Decision-based/Boundary Attack (Brendel et al., 2018)
(汚染攻撃(Poisoning))
Adversarial Backdoor Embedding (Tan and Shokri, 2019)、Clean Label Feature Collision Attack (Shafahi, Huang et. al., 2018)、Backdoor Attack (Gu et. al., 2017)、Poisoning Attack on Support Vector Machines (SVM) (Biggio et al., 2013)、Bullseye Polytope (Aghakhani et al., 2020)
(抽出攻撃(Extraction))
Functionally Equivalent Extraction (Jagielski et al., 2019)、Copycat CNN (Correia-Silva et al., 2018)、KnockoffNets (Orekondy et al., 2018)
(属性推論攻撃(Attribute Inference))
Attribute Inference Black-Box、Attribute Inference White-Box Lifestyle Decision Tree (Fredrikson et al., 2015)、Attribute Inference White-Box Decision Tree (Fredrikson et al., 2015)
(メンバーシップ推論攻撃(Membership Inference))
Membership Inference Black-Box、Membership Inference Black-Box Rule-Based、Label-Only Boundary Distance Attack (Choquette-Choo et al., 2020)、Label-Only Gap Attack (Choquette-Choo et al., 2020)、
(移転攻撃(Model Inversion))
MIFace (Fredrikson et al., 2015)
(再構成攻撃(Reconstruction))
Database Reconstruction
(事前処理)
InverseGAN (An Lin et al. 2019)、DefenseGAN (Samangouei et al. 2018)、Video Compression、Resampling (Yang et al., 2019)、Thermometer Encoding (Buckman et al., 2018)、MP3 Compression (Carlini, N. & Wagner, D., 2018)、Total Variance Minimization (Guo et al., 2018)、PixelDefend (Song et al., 2017)、Gaussian Data Augmentation (Zantedeschi et al., 2017)、Feature Squeezing (Xu et al., 2017)、Spatial Smoothing (Xu et al., 2017)、Spatial Smoothing PyTorch、Spatial Smoothing TensorFlow v2、JPEG Compression (Dziugaite et al., 2016)、Label Smoothing (Warde-Farley and Goodfellow, 2016)、Virtual adversarial training (Miyato et al., 2015)
(事後処理)
Reverse Sigmoid (Lee et al., 2018)、Random Noise (Chandrasekaranet al., 2018)、Class Labels (Tramer et al., 2016, Chandrasekaranet al., 2018)、High Confidence (Tramer et al., 2016)、Rounding (Tramer et al., 2016)、General Adversarial Training (Szegedy et al., 2013)、Madry's Protocol (Madry et al., 2017)、Fast Is Better Than Free (Wong et al., 2020)
(回避防御(Evasion))
Defensive Distillation (Papernot et al., 2015)
(汚染防御(Poisoning))
Neural Cleanse (Wang et al., 2019)
(回避検出(Evasion))
Basic detector based on inputs、Detector trained on the activations of a specific layer、Detector based on Fast Generalized Subset Scan (Speakman et al., 2018)
(汚染検出(Poisoning))
Detection based on activations analysis (Chen et al., 2018)、Detection based on data provenance (Baracaldo et al., 2018)、Detection based on spectral signatures (Tran et al., 2018)
学習部110は、上述した攻撃手法を含む各攻撃アルゴリズムにより学習対象データに攻撃を加えた各データ、攻撃が加えられた各データに対して上述した防御手法を含む各防御アルゴリズムを適用した推論処理による結果データなどを用いて、上述した各推論モデルを生成する。
図6は、本実施形態に係るシステムにおける処理の一例を示すシーケンス図である。図6に示す処理は、サーバ10及び各エッジ端末20により実行される。図6に示す例では、エッジ端末20は1つしか表記しないが、複数のエッジ端末20があっても各エッジ端末20の処理内容は、図6に示す処理と同様である。なお、図6に示す例では、エッジ端末20をユーザ端末20とも表記する。
Claims (10)
- 所定のデータを取得する取得部と、
各データと、前記各データを用いて所定の問題を解いた各結果データとを含む学習データを用いて学習された第1推論モデルに、前記所定のデータを入力して推論処理を行う推論部と、
前記所定のデータに所定の攻撃が加えられた可能性を検出する検出部と、
前記可能性が検出された場合、前記所定の攻撃が加えられた所定のデータに基づいて、前記所定の攻撃に対応して防御可能な第1防御アルゴリズムを複数の防御アルゴリズムの中から特定する特定部と、
前記第1防御アルゴリズムを前記推論処理に適用する適用部と、
を備える情報処理装置。 - 前記特定部は、前記所定の攻撃が加えられた各データと当該各データに適用される各防御アルゴリズムとを含む学習データを用いて教師あり学習により生成された第2推論モデルに対し、前記所定のデータを入力して前記第1防御アルゴリズムを予測することを含む、請求項1に記載の情報処理装置。
- 前記特定部は、各攻撃アルゴリズムと前記各攻撃アルゴリズムに基づく各攻撃が加えられた各データとを含む学習データを用いて教師あり学習によって生成された第3推論モデルに対し、前記所定のデータを入力して第1攻撃アルゴリズムを予測することを含む、請求項1に記載の情報処理装置。
- 前記可能性が検出された場合、前記所定の攻撃を含む所定のデータの特徴量を算出する算出部をさらに備え、
前記特定部は、前記特徴量に基づいて、前記第1防御アルゴリズムを特定することを含む、請求項1に記載の情報処理装置。 - 前記特定部は、各特徴量及び前記各特徴量に対応する各防御アルゴリズムを含む学習データを用いて教師あり学習により生成された第4推論モデルに対し、前記算出された特徴量を入力して前記第1防御アルゴリズムを予測することを含む、請求項4に記載の情報処理装置。
- 前記特定部は、前記算出された特徴量に基づいて、複数の攻撃アルゴリズムの中から前記所定の攻撃に対応する第1攻撃アルゴリズムを特定することを含む、請求項4に記載の情報処理装置。
- 前記特定部は、各特徴量及び前記各特徴量に対応する各攻撃アルゴリズムを含む学習データとする教師あり学習により生成された第5推論モデルに対し、前記算出された特徴量を入力して前記第1攻撃アルゴリズムを予測することを含む、請求項6に記載の情報処理装置。
- 前記特定部は、各攻撃アルゴリズムと前記各攻撃アルゴリズムにより攻撃が加えられた各データに各防御アルゴリズムが適用された各データとを含む学習データを用いて教師あり学習によって生成された第6推論モデルに対し、前記第1攻撃アルゴリズムを入力して前記第1防御アルゴリズムを予測することを含む、請求項3又は7に記載の情報処理装置。
- 情報処理装置に備えられたプロセッサが、
所定のデータを取得することと、
各データと各結果データとを含む学習データを用いて学習された第1推論モデルに、前記所定のデータを入力して推論処理を行うことと、
前記所定のデータに所定の攻撃が加えられた可能性を検出することと、
前記可能性が検出された場合、前記所定の攻撃が加えられた所定のデータに基づいて、前記所定の攻撃に対応して防御可能な第1防御アルゴリズムを複数の防御アルゴリズムの中から特定することと、
前記第1防御アルゴリズムを前記推論処理に適用することと、
を実行する情報処理方法。 - 情報処理装置に備えられたプロセッサに、
所定のデータを取得することと、
各データと各結果データとを含む学習データを用いて学習された第1推論モデルに、前記所定のデータを入力して推論処理を行うことと、
前記所定のデータに所定の攻撃が加えられた可能性を検出することと、
前記可能性が検出された場合、前記所定の攻撃が加えられた所定のデータに基づいて、前記所定の攻撃に対応して防御可能な第1防御アルゴリズムを複数の防御アルゴリズムの中から特定することと、
前記第1防御アルゴリズムを前記推論処理に適用することと、
を実行させるプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021115877A JP6971514B1 (ja) | 2021-07-13 | 2021-07-13 | 情報処理装置、情報処理方法及びプログラム |
JP2021174462A JP2023012406A (ja) | 2021-07-13 | 2021-10-26 | 情報処理装置、情報処理方法及びプログラム |
CN202210360281.6A CN115618343A (zh) | 2021-07-13 | 2022-04-07 | 信息处理装置、信息处理方法和存储介质 |
US17/862,152 US20230016670A1 (en) | 2021-07-13 | 2022-07-11 | Information processing apparatus, information processing method, and storage medium |
EP22184498.8A EP4125004A1 (en) | 2021-07-13 | 2022-07-12 | Information processing apparatus, information processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021115877A JP6971514B1 (ja) | 2021-07-13 | 2021-07-13 | 情報処理装置、情報処理方法及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021174462A Division JP2023012406A (ja) | 2021-07-13 | 2021-10-26 | 情報処理装置、情報処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6971514B1 true JP6971514B1 (ja) | 2021-11-24 |
JP2023012311A JP2023012311A (ja) | 2023-01-25 |
Family
ID=78605604
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021115877A Active JP6971514B1 (ja) | 2021-07-13 | 2021-07-13 | 情報処理装置、情報処理方法及びプログラム |
JP2021174462A Pending JP2023012406A (ja) | 2021-07-13 | 2021-10-26 | 情報処理装置、情報処理方法及びプログラム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021174462A Pending JP2023012406A (ja) | 2021-07-13 | 2021-10-26 | 情報処理装置、情報処理方法及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230016670A1 (ja) |
EP (1) | EP4125004A1 (ja) |
JP (2) | JP6971514B1 (ja) |
CN (1) | CN115618343A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4202786A1 (en) * | 2021-12-23 | 2023-06-28 | INTEL Corporation | Adversarial sample protection for machine learning |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230185912A1 (en) * | 2021-12-13 | 2023-06-15 | International Business Machines Corporation | Defending deep generative models against adversarial attacks |
CN116366649B (zh) * | 2023-06-01 | 2023-09-05 | 中电云脑(天津)科技有限公司 | 一种边云协同的脑电数据任务调度方法和*** |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006067078A (ja) * | 2004-08-25 | 2006-03-09 | Nippon Telegr & Teleph Corp <Ntt> | ネットワークシステムおよび攻撃防御方法 |
CN108549940A (zh) * | 2018-03-05 | 2018-09-18 | 浙江大学 | 基于多种对抗样例攻击的智能防御算法推荐方法及*** |
WO2019181099A1 (ja) * | 2018-03-20 | 2019-09-26 | ソニー株式会社 | 情報処理装置および情報処理方法 |
CN112232434A (zh) * | 2020-10-29 | 2021-01-15 | 浙江工业大学 | 基于相关性分析的对抗攻击协同防御方法及装置 |
US10984272B1 (en) * | 2018-01-19 | 2021-04-20 | Apple Inc. | Defense against adversarial attacks on neural networks |
JP2021096854A (ja) * | 2019-12-16 | 2021-06-24 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | 敵対的攻撃を検出するためのシステム及び方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11036857B2 (en) * | 2018-11-15 | 2021-06-15 | International Business Machines Corporation | Protecting a machine learning model |
DE102019204318A1 (de) * | 2019-03-28 | 2020-10-01 | Conti Temic Microelectronic Gmbh | Automatische Erkennung und Klassifizierung von Adversarial Attacks |
CN111783083B (zh) * | 2020-06-19 | 2023-08-22 | 浙大城市学院 | 一种防御算法的推荐方法及装置 |
-
2021
- 2021-07-13 JP JP2021115877A patent/JP6971514B1/ja active Active
- 2021-10-26 JP JP2021174462A patent/JP2023012406A/ja active Pending
-
2022
- 2022-04-07 CN CN202210360281.6A patent/CN115618343A/zh active Pending
- 2022-07-11 US US17/862,152 patent/US20230016670A1/en active Pending
- 2022-07-12 EP EP22184498.8A patent/EP4125004A1/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006067078A (ja) * | 2004-08-25 | 2006-03-09 | Nippon Telegr & Teleph Corp <Ntt> | ネットワークシステムおよび攻撃防御方法 |
US10984272B1 (en) * | 2018-01-19 | 2021-04-20 | Apple Inc. | Defense against adversarial attacks on neural networks |
CN108549940A (zh) * | 2018-03-05 | 2018-09-18 | 浙江大学 | 基于多种对抗样例攻击的智能防御算法推荐方法及*** |
WO2019181099A1 (ja) * | 2018-03-20 | 2019-09-26 | ソニー株式会社 | 情報処理装置および情報処理方法 |
JP2021096854A (ja) * | 2019-12-16 | 2021-06-24 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | 敵対的攻撃を検出するためのシステム及び方法 |
CN112232434A (zh) * | 2020-10-29 | 2021-01-15 | 浙江工业大学 | 基于相关性分析的对抗攻击协同防御方法及装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4202786A1 (en) * | 2021-12-23 | 2023-06-28 | INTEL Corporation | Adversarial sample protection for machine learning |
Also Published As
Publication number | Publication date |
---|---|
JP2023012406A (ja) | 2023-01-25 |
JP2023012311A (ja) | 2023-01-25 |
EP4125004A1 (en) | 2023-02-01 |
US20230016670A1 (en) | 2023-01-19 |
CN115618343A (zh) | 2023-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Xiao et al. | Attentional factorization machines: Learning the weight of feature interactions via attention networks | |
JP6971514B1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11403349B2 (en) | Dark web content analysis and identification | |
US9727821B2 (en) | Sequential anomaly detection | |
US20190095301A1 (en) | Method for detecting abnormal session | |
Khan et al. | An unsupervised deep learning ensemble model for anomaly detection in static attributed social networks | |
CN109284371B (zh) | 反欺诈方法、电子装置及计算机可读存储介质 | |
US11790369B2 (en) | Systems and method for enhanced active machine learning through processing of partitioned uncertainty | |
Berahmand et al. | Autoencoders and their applications in machine learning: a survey | |
EP3916597B1 (en) | Detecting malware with deep generative models | |
Hyvärinen | Statistical models of natural images and cortical visual representation | |
US11977978B2 (en) | Finite rank deep kernel learning with linear computational complexity | |
CN111190967B (zh) | 用户多维度数据处理方法、装置及电子设备 | |
Kaupp et al. | Outlier detection in temporal spatial log data using autoencoder for industry 4.0 | |
Muthukumaran et al. | Deep learning enabled financial crisis prediction model for small-medium sized industries | |
Kaur et al. | Network traffic classification using multiclass classifier | |
CN115169465A (zh) | 变压器数据异常检测方法、装置、设备、介质和产品 | |
Yeh et al. | Objective criteria for explanations of machine learning models | |
Shen et al. | Long-term multivariate time series forecasting in data centers based on multi-factor separation evolutionary spatial–temporal graph neural networks | |
Zeng et al. | Anomaly detection for high‐dimensional dynamic data stream using stacked habituation autoencoder and union kernel density estimator | |
CN117009883B (zh) | 对象分类模型构建方法、对象分类方法、装置和设备 | |
Cecotti | Extreme Machine Learning Architectures Based on Correlation | |
Phaisangittisagul et al. | Receptive field resolution analysis in convolutional feature extraction | |
Hain et al. | Introduction to Predictive Modeling in Entrepreneurship and Innovation Studies: A Hands-On Application in the Prediction of Breakthrough Patents | |
Yang¹ et al. | Check for updates An Intelligent Ranking Evaluation Method of Simulation Models Based on Graph Neural Network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210714 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210714 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211006 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211026 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6971514 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |