JP2021105798A - Artificial intelligence system - Google Patents
Artificial intelligence system Download PDFInfo
- Publication number
- JP2021105798A JP2021105798A JP2019236238A JP2019236238A JP2021105798A JP 2021105798 A JP2021105798 A JP 2021105798A JP 2019236238 A JP2019236238 A JP 2019236238A JP 2019236238 A JP2019236238 A JP 2019236238A JP 2021105798 A JP2021105798 A JP 2021105798A
- Authority
- JP
- Japan
- Prior art keywords
- artificial intelligence
- unit
- data
- intelligence system
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 204
- 238000010801 machine learning Methods 0.000 claims abstract description 20
- 238000012546 transfer Methods 0.000 claims description 26
- 238000012545 processing Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 13
- 230000033001 locomotion Effects 0.000 description 8
- 230000006399 behavior Effects 0.000 description 7
- 230000009471 action Effects 0.000 description 5
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Traffic Control Systems (AREA)
Abstract
Description
本開示は、人工知能システムに関する。 The present disclosure relates to an artificial intelligence system.
従来、学習、推論、判断といった人間の持つ機能を有する人工知能システムが知られている。言語の理解、推論、問題解決等の知的行動を人間に代わって人工知能システムが行う場合、当該人工知能システムは、インターネット等を介して外部のリソースから情報を取得する必要がある。しかしながら、外部との間で情報を授受することに起因して、外部から不正に人工知能システムにアクセスされるおそれがあるので、ユーザの個人情報保護の観点から、外部から人工知能システムにアクセスされることを防ぐ必要がある。 Conventionally, an artificial intelligence system having human functions such as learning, reasoning, and judgment has been known. When an artificial intelligence system performs intellectual actions such as language understanding, reasoning, and problem solving on behalf of humans, the artificial intelligence system needs to acquire information from an external resource via the Internet or the like. However, since there is a risk of unauthorized access to the artificial intelligence system from the outside due to the exchange of information with the outside, the artificial intelligence system is accessed from the outside from the viewpoint of protecting the personal information of the user. You need to prevent that.
例えば、特許文献1には、オープンな環境における情報交換をアシストする、または、自律的に行う第1の人工知能モジュールと、情報交換に伴う処理をクローズドな環境で行う第2の人工知能モジュールとを有するシステムが開示されている。 For example, Patent Document 1 describes a first artificial intelligence module that assists or autonomously exchanges information in an open environment, and a second artificial intelligence module that performs processing associated with information exchange in a closed environment. The system with is disclosed.
ところで、現在使用中の人工知能システムを、他の人工知能システムに変える場合がある。この場合、他の人工知能システムでは、ユーザ向けにパーソナライズされていないので、再度機械学習に用いる動的学習データを蓄積する必要が生じる。人工知能システムをパーソナライズするためには、長期間にわたって人工知能システムを使用する必要があるので、従来の人工知能システムはユーザにとって利便性が悪いものとなっていた。 By the way, the artificial intelligence system currently in use may be changed to another artificial intelligence system. In this case, since other artificial intelligence systems are not personalized for users, it becomes necessary to accumulate dynamic learning data to be used for machine learning again. In order to personalize an artificial intelligence system, it is necessary to use the artificial intelligence system for a long period of time, so that the conventional artificial intelligence system is inconvenient for the user.
本開示の目的は、人工知能システムを変える場合におけるユーザの利便性を向上させることが可能な人工知能システムを提供することである。 An object of the present disclosure is to provide an artificial intelligence system capable of improving user convenience when changing the artificial intelligence system.
本開示に係る人工知能システムは、
ユーザの情報に基づいて機械学習を行う人工知能システムであって、
前記人工知能システムの外部からアクセス可能な非セキュア環境において、前記ユーザの情報の暗号化データを、前記人工知能システムに対応する他のシステムから取得し、かつ、前記ユーザの情報に基づく学習結果を前記外部に出力する第1人工知能部と、
前記外部とアクセス不可能なセキュア環境において、前記暗号化データを前記第1人工知能部から取得する第2人工知能部と、
を備え、
前記第2人工知能部は、前記暗号化データを機械学習に用いる復号化データに復号化する。
The artificial intelligence system according to this disclosure is
An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, the encrypted data of the user's information is acquired from another system corresponding to the artificial intelligence system, and the learning result based on the user's information is obtained. The first artificial intelligence unit that outputs to the outside and
In a secure environment inaccessible to the outside, a second artificial intelligence unit that acquires the encrypted data from the first artificial intelligence unit, and
With
The second artificial intelligence unit decodes the encrypted data into decrypted data used for machine learning.
本開示によれば、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。 According to the present disclosure, it is possible to improve the convenience of the user when changing the artificial intelligence system.
以下、本開示の実施の形態を図面に基づいて詳細に説明する。図1は、本開示の実施の形態に係る人工知能システム1を示す図である。 Hereinafter, embodiments of the present disclosure will be described in detail with reference to the drawings. FIG. 1 is a diagram showing an artificial intelligence system 1 according to an embodiment of the present disclosure.
図1に示すように、人工知能システム1は、例えば車両に組み込まれるコンピュータシステムであり、SoC(System on Chip)に組み込まれるシステムである。人工知能システム1は、ユーザの情報に基づいて機械学習する機能を有し、ハードウェアプラットフォーム10と、第1OS(Operating System)20と、第2OS30と、データ授受部40と、第1人工知能部50と、第2人工知能部60とを備える。
As shown in FIG. 1, the artificial intelligence system 1 is, for example, a computer system incorporated in a vehicle and a system incorporated in a SoC (System on Chip). The artificial intelligence system 1 has a function of machine learning based on user information, and has a
ハードウェアプラットフォーム10は、図示しないCPU(Central Processing Unit)等を有するプロセッサユニットを含んでおり、複数のコンピュータプログラムの実行環境を提供する。複数のコンピュータプログラムの実行環境には、セキュア環境と非セキュア環境とが含まれる。
The
セキュア環境は、外部からアクセス不可能な環境であり、例えば、メモリに保安領域が設定され、その保安領域へのアクセスを禁止するプロセッサユニットの支援機能により実現される環境である。 The secure environment is an environment inaccessible from the outside, for example, an environment realized by a support function of a processor unit in which a security area is set in a memory and access to the security area is prohibited.
非セキュア環境は、外部からアクセス可能な環境であり、セキュア環境よりも保安レベルが低い環境である。非セキュア環境では、例えば、プロセッサユニットの支援機能によりメモリの保安領域へのアクセスが禁止される。 A non-secure environment is an environment that can be accessed from the outside and has a lower security level than a secure environment. In a non-secure environment, for example, the support function of the processor unit prohibits access to the security area of the memory.
ハードウェアプラットフォーム10は、非セキュア記憶部11とセキュア記憶部12とを含む。非セキュア記憶部11は、非セキュア環境で使用されるメモリである。セキュア記憶部12は、セキュア環境で使用されるメモリである。
The
また、ハードウェアプラットフォーム10は、人工知能システム1の外部からユーザの情報等が入力され、かつ、人工知能システム1における学習結果を出力するための入出力部13を有する。
Further, the
第1OS20は、非セキュア環境で稼働するOSである。第2OS30は、セキュア環境で稼働するOSである。 The first OS 20 is an OS that operates in a non-secure environment. The second OS 30 is an OS that operates in a secure environment.
データ授受部40は、1つのハードウェアプラットフォーム10上において、第1OS20および第2OS30を切り替えて実行させる機能を有する。データ授受部40は、いわゆるハイパーバイザーであり得る。データ授受部40は、1つのハードウェアプラットフォーム10上において複数のOSを仮想化し得る。データ授受部40は、例えばプロセッサユニットがハードウェアとして持つ支援機構を用いて複数のOSを分離する。
The
データ授受部40は、第1OS20(第1人工知能部50)と第2OS30(第2人工知能部60)との間で、人工知能システム1の外部に漏洩することなく、ユーザの個人情報に関するデータを授受させる構成を有する。データ授受部40は、ハードウェアの仮想化技術を利用して第2OS30(第2人工知能部60)側への、外部からのアクセスを抑制する。
The
第1人工知能部50は、第1OS20上、つまり、非セキュア環境で動作するアプリケーション(例えば、人工知能アプリケーション)であり、非セキュア学習部51と、動作判定部52と、暗号データ授受部53とを有する。
The first
非セキュア学習部51は、入出力部13を介して人工知能システム1の外部からの情報を取得し、当該情報に基づいて初期学習を行う。非セキュア学習部51は、教師データを用いた初期学習を行うことにより、例えば基本的な意図推定、予測支援、タスクエージェント、自律学習等の機械学習処理を行うことができる。
The
基本的な意図推定の機能は、例えば、人工知能システム1に対するユーザの言動(発話など)を理解(認識)したり、その言動の意図を推定すること等である。予測支援の機能は、例えば、ユーザの行動(ユーザが車両によって行く頻度の高い場所(自宅、職場等)や車両によって通る頻度の高い経路)を先読み(事前の推定)し動作を支援すること等である。 The basic intention estimation function is, for example, to understand (recognize) the user's words and actions (utterances, etc.) with respect to the artificial intelligence system 1, and to estimate the intention of the words and actions. The function of the prediction support is, for example, to pre-read (preliminarily estimate) the user's behavior (the place where the user frequently goes by the vehicle (home, work, etc.) or the route frequently taken by the vehicle) and support the operation. Is.
タスクエージェントの機能は、例えば、ユーザへのサービスを最終決定すること等である。自律学習の機能は、例えば、ユーザの言動(発話など)後に行われる行動を学習すること等である。 The function of the task agent is, for example, to finalize the service to the user. The function of autonomous learning is, for example, learning an action performed after a user's words and actions (speaking, etc.).
非セキュア学習部51は、上記の機能を初期学習により取得したら、人工知能システム1の外部から入出力部13等を介してユーザの動的学習データを取得する。
After acquiring the above functions by the initial learning, the
ユーザの動的学習データについては、ユーザ自身の情報、ユーザの言動の情報(言動の履歴など)、ユーザの行動履歴の情報、ユーザによる車両の走行データに関する情報(走行データの履歴など)、ユーザの位置データに関する情報(位置の変化の履歴など)等が含まれる。ユーザ自身の情報については、ユーザの日常における自宅の不在時間、車両の移動経路、ユーザの運転特性、ユーザの嗜好性等の情報が含まれる。また、ユーザの動的学習データについては、ユーザによる機器の操作情報、ユーザの運転操作の情報、ユーザの車両内の振る舞いの情報、ユーザの車内環境(座席の位置やミラーの位置等)の情報等が含まれていても良い。 Regarding the user's dynamic learning data, the user's own information, the user's behavior information (word and behavior history, etc.), the user's behavior history information, the user's vehicle driving data information (driving data history, etc.), and the user. Information about the position data (history of position change, etc.) is included. The user's own information includes information such as the user's daily absence time at home, the vehicle's movement route, the user's driving characteristics, and the user's preference. Regarding the user's dynamic learning data, the user's device operation information, the user's driving operation information, the user's behavior information in the vehicle, and the user's vehicle environment (seat position, mirror position, etc.) information. Etc. may be included.
非セキュア学習部51は、初期学習を行った後、ユーザの動的学習データを取得して機械学習を行う。
After performing the initial learning, the
動作判定部52は、非セキュア学習部51の学習結果に基づいて人工知能システム1の動作判定を行う。動作判定部52の動作判定結果(動的学習データに基づく学習結果)は、図示しない出力処理部等を介して入出力部13より人工知能システム1の外部に出力される。
The
動作判定部52の動作判定結果としては、例えばユーザの言動または操作による指示等が動的学習データである場合、当該指示に対する動作内容に関するもの(ユーザへの応答、車両や車内機器の動作、車両外部の道路状況、地図情報の内容等)となる。
As the operation determination result of the
動作判定結果は、出力処理部等によって、音声処理(音声認識など)、画像処理(画像認識、物体認識など)等の所定処理が施されてユーザが認識できる状態となって入出力部13より出力される。
The operation determination result is subjected to predetermined processing such as voice processing (voice recognition, etc.) and image processing (image recognition, object recognition, etc.) by the output processing unit, etc., and is in a state where the user can recognize it from the input /
例えば、ユーザがカーナビゲーション等の車内機器を操作して目的地を勤務地に設定した指示を車内機器にしたとする。この場合、人工知能システム1において蓄積されたユーザの過去の行動履歴等の動的学習データに基づいて、機械学習が行われる。 For example, suppose that a user operates an in-vehicle device such as a car navigation system and gives an instruction to set a destination as a work location in the in-vehicle device. In this case, machine learning is performed based on the dynamic learning data such as the user's past behavior history accumulated in the artificial intelligence system 1.
この場合、第1人工知能部50は、例えばユーザが勤務地に向かう際、利用する頻度の高い移動経路を順に車内機器に表示するような学習結果を外部に出力する。これに対してユーザが選択した移動経路を動的学習データとして、当該動的学習データが人工知能システム1に蓄積されていく。
In this case, the first
暗号データ授受部53は、他の人工知能システム1Aから暗号化データを、入出力部13を介して取得する。他の人工知能システム1Aは、本実施の形態に係る人工知能システム1に対応する他のシステムであり、略同様の機能を有するシステムである。なお、他の人工知能システム1Aで用いられる動的学習データには、人工知能システム1で用いる複数の動的学習データのうち、全てが共通している必要はなく、共通で使用可能な動的学習データが含まれていれば良い。
The encrypted
暗号化データは、後述するが動的学習データを暗号化した情報であり、ユーザおよび他のユーザ(人間)によって認識不可能な情報である。また、暗号化データは、例えばネットワークを介して、システム間で授受されても良いし、記憶装置等、他の装置を介して、システム間で授受されても良い。 The encrypted data is information obtained by encrypting the dynamic learning data, which will be described later, and is information that cannot be recognized by the user and other users (humans). Further, the encrypted data may be exchanged between systems via a network, for example, or may be exchanged between systems via another device such as a storage device.
暗号データ授受部53は、他の人工知能システム1Aから取得した暗号化データを、データ授受部40を介して第2人工知能部60に引き渡す。
The encrypted
第2人工知能部60は、第2OS30上、つまり、セキュア環境で動作するアプリケーション(例えば人工知能アプリケーション)であり、人工知能システム1の外部からのアクセス不能である。第2人工知能部60は、復号化処理部61と、暗号化処理部62とを有する。
The second
復号化処理部61は、データ授受部40を介して暗号化データを第1人工知能部50から取得する。復号化処理部61は、取得した暗号化データを動的学習データ(復号化データ)に復号化する。復号化データは、例えば人工知能システム1と他の人工知能システム1Aとの間における共通鍵等によって復号化される。
The
復号化処理部61によって復号化された復号化データは、データ授受部40を介して第1人工知能部50に引き渡される。これにより、非セキュア学習部51が当該復号化データに基づいて機械学習を行うことができるので、他の人工知能システム1Aにおいてパーソナライズされた動的学習環境を人工知能システム1に移行させることができる。
The decrypted data decoded by the
暗号化処理部62は、人工知能システム1に蓄積された蓄積動的学習データを他の人工知能システム1Aに引き渡す場合、当該蓄積動的学習データを暗号化する。暗号化処理部62によって暗号化された暗号化データは、他の人工知能システム1Aから取得する暗号化データと略同様のものである。蓄積動的学習データには、復号化処理部61によって復号化された復号化データが含まれていても良い。
When the stored dynamic learning data stored in the artificial intelligence system 1 is handed over to another
蓄積動的学習データは、第1人工知能部50において蓄積されても良いし、第2人工知能部60で復号化された後、第2人工知能部60において蓄積されても良い。ただし、蓄積動的学習データの外部漏洩防止の観点から、セキュア環境である第2人工知能部60に蓄積動的学習データが蓄積されることが好ましい。
The accumulated dynamic learning data may be accumulated in the first
暗号化処理部62は、暗号化データを、データ授受部40を介して第1人工知能部50に引き渡す。上述の暗号データ授受部53は、当該暗号化データを、入出力部13を介して他の人工知能システム1Aに送信する。
The
これにより、人工知能システム1においてパーソナライズされた動的学習環境を他の人工知能システム1Aに移行させることができる。
As a result, the personalized dynamic learning environment in the artificial intelligence system 1 can be transferred to another
例えば、ユーザが他の人工知能システム1Aを搭載する車両から、人工知能システム1を搭載する車両に買い換えたとする。ここで、人工知能システム1は、ユーザ専用のシステムにパーソナライズされていないので、システム間で動的学習データの授受ができない構成である場合、長期間にわたって使用しないとユーザ専用のシステムにパーソナライズされないこととなる。
For example, suppose that the user replaces another vehicle equipped with the
本実施の形態では、他の人工知能システム1Aにおける動的学習環境を人工知能システム1に移行させることができるので、人工知能システム1を容易にユーザ専用のシステムにパーソナライズすることができる。すなわち、本実施の形態では、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。
In the present embodiment, since the dynamic learning environment in the other
ところで、動的学習データのシステム間における移動のために、動的学習データが人工知能システムの外部に出力されるので、出力された動的学習データが外部に漏洩するおそれがある。 By the way, since the dynamic learning data is output to the outside of the artificial intelligence system due to the movement of the dynamic learning data between the systems, the output dynamic learning data may be leaked to the outside.
しかし、本実施の形態では、動的学習データを暗号化データとした上でシステム間で授受するので、外部に出力されても動的学習データを人間が認識することができない。すなわち、本実施の形態では、ユーザの動的学習データが外部に漏洩することを抑制することができる。 However, in the present embodiment, since the dynamic learning data is used as encrypted data and then exchanged between the systems, the dynamic learning data cannot be recognized by humans even if it is output to the outside. That is, in the present embodiment, it is possible to suppress the leakage of the user's dynamic learning data to the outside.
また、暗号化データを、セキュア環境(第2人工知能部60)で復号するので、復号化された直後の動的学習データが外部に漏洩することがない。すなわち、本実施の形態では、ユーザの動的学習データが外部に漏洩することを防止することができる。 Further, since the encrypted data is decrypted in the secure environment (second artificial intelligence unit 60), the dynamic learning data immediately after the decryption is not leaked to the outside. That is, in the present embodiment, it is possible to prevent the user's dynamic learning data from being leaked to the outside.
また、人工知能システム1の動的学習データも他の人工知能システム1Aに移行させることもできるので、同様の構成を有するシステム間において、容易に動的学習データを同期させることができ、ひいては人工知能システムの利便性をさらに向上させることができる。
Further, since the dynamic learning data of the artificial intelligence system 1 can also be transferred to another
また、データ授受部40としてハイパーバイザーを用いるので、1つのSoCで人工知能システム1を構成することができる。その結果、人工知能システム1の小型化、人工知能システム1が搭載される車両の省スペース化、人工知能システム1全体におけるコストダウンを図ることができる。
Further, since the hypervisor is used as the
また、第1人工知能部50および第2人工知能部60は、学習、推論および判断が可能なコンピュータシステム(ソフトウェア)であれば良い。第1人工知能部50および第2人工知能部60は、例えば、決定木、帰納論理プログラミング、強化学習、ベイジアンネットワーク、サポートベクターマシン等を含むデータ・知識型AI(Artificial Intelligence)であっても良い。また、第1人工知能部50および第2人工知能部60は、例えば、ニュートラルネットワーク、ディープニュートラルネットワークを含む脳型AIであっても良いし、ファジィアルゴリズム、遺伝的アルゴリズム、進化的アルゴリズムを用いたものであっても良い。また、第1人工知能部50および第2人工知能部60は、例えば、これらをディープラーニングの技術を用いて進化させたものであっても良い。
Further, the first
なお、上記実施の形態では、第1人工知能部50が機械学習を行っていたが、本開示はこれに限定されず、例えば第2人工知能部60が機械学習を行っても良い。つまり、図2に示すように、第2人工知能部60がセキュア学習部63を有する構成であっても良い。
In the above embodiment, the first
セキュア学習部63は、蓄積した動的学習データに基づいて機械学習を行う。セキュア学習部63の学習結果は、データ授受部40を介して第1人工知能部50に引き渡される。
The
このような構成であっても、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。 Even with such a configuration, it is possible to improve the convenience of the user when changing the artificial intelligence system.
また、第2人工知能部60において、機械学習を行うため、機械学習に用いる動的学習データがセキュア環境に存在することとなる。つまり、人間が認識可能な動的学習データに基づく機械学習が非セキュア環境(第1人工知能部50)で行われないこととなるので、人工知能システム1において動的学習データが外部に漏洩することをさらに抑制することができる。
Further, since the second
ところで、人工知能システム1が有する機能と、他の人工知能システム1Aが有する機能とが完全に一致しない場合がある。そのため、人工知能システム1と他の人工知能システム1Aとの間で動的学習データを授受する際、不要な情報が存在する場合がある。
By the way, the function of the artificial intelligence system 1 may not completely match the function of the other
不要な情報には、人工知能システム1で使用不可能な動的学習データの他、最新の情報のみ必要な場合等は、所定日数前(例えば、数ヶ月前等)の動的学習データや、ユーザが引っ越した場合等、引っ越し前の自宅の周辺に係る動的学習データ等も含まれていても良い。 Unnecessary information includes dynamic learning data that cannot be used by the artificial intelligence system 1, and when only the latest information is required, dynamic learning data that is a predetermined number of days ago (for example, several months ago) or Dynamic learning data and the like related to the surroundings of the home before the move may be included, such as when the user moves.
この場合、第2人工知能部60において、他のシステムから取得した動的学習データのうち、不要なデータを削除するようにしても良い。つまり、第2人工知能部60は、復号化処理部61が復号化した動的学習データのうち、不要なデータを削除する。
In this case, the second
このようにすることで、人工知能システム1において不要なデータが蓄積されることを抑制することができる。 By doing so, it is possible to suppress the accumulation of unnecessary data in the artificial intelligence system 1.
また、人工知能システム1のユーザが、他の人工知能システム1Aから動的学習データを移行した後も、他の人工知能システム1Aを使用する場合がある。この場合、他の人工知能システム1Aでは、蓄積される動的学習データが更新される。
Further, the user of the artificial intelligence system 1 may use the other
上記実施の形態では、動的学習データの更新については言及されていなかったが、本開示はこれに限定されず、動的学習データの更新情報を都度取得するように構成しても良い。 In the above embodiment, the update of the dynamic learning data is not mentioned, but the present disclosure is not limited to this, and the update information of the dynamic learning data may be acquired each time.
具体的には、第1人工知能部50は、過去に暗号化データを取得した他の人工知能システム1Aで更新された動的学習データがある場合、更新された動的学習データに係る更新暗号化データを取得する。
Specifically, when the first
そして、第2人工知能部60は、更新暗号化データを機械学習に用いる更新復号化データに復号化する。
Then, the second
このようにすることで、人工知能システム1と他の人工知能システム1Aとを容易に同期させることができ、人工知能システム1を最新の動的学習環境にすることができる。
By doing so, the artificial intelligence system 1 and another
また、人工知能システム1から他の人工知能システム1Aに動的学習データの更新情報を都度送信するように構成しても良い。
Further, the artificial intelligence system 1 may be configured to transmit the update information of the dynamic learning data to the other
具体的には、第2人工知能部60は、人工知能システム1に蓄積された蓄積動的学習データを他のシステム1Aに引き渡す場合であって、当該蓄積動的学習データの中に他の人工知能システム1Aに既に存在するデータがある場合、当該データを除いた蓄積動的学習データを暗号化する。
Specifically, the second
そして、第2人工知能部60は、暗号化したデータを、データ授受部40を介して第1人工知能部50に引き渡す。第1人工知能部50は、引き渡されたデータを他の人工知能システム1Aに出力する。
Then, the second
このようにすることで、人工知能システム1と他の人工知能システム1Aとを容易に同期させることができ、他の人工知能システム1Aを最新の動的学習環境にすることができる。
By doing so, the artificial intelligence system 1 and the other
また、人工知能システム1から他の人工知能システム1Aに暗号化データを送信する場合、他の人工知能システム1Aにおいて不要な情報が含まれる場合がある。
Further, when the encrypted data is transmitted from the artificial intelligence system 1 to another
このような場合、第2人工知能部60は、他の人工知能システム1Aにおいて不要なデータを削除した上で、復号化データを暗号化処理する。暗号化処理されたデータは、第1人工知能部50によって他の人工知能システム1Aに送信される。
In such a case, the second
このようにすることで、送信データを小さくすることができるとともに、他の人工知能システム1Aで不要なデータを取得することを抑制して、余計な処理を行うことを抑制することができる。
By doing so, it is possible to reduce the size of the transmitted data, suppress the acquisition of unnecessary data by the other
送信データ削減の観点から、第1人工知能部50は、蓄積動的学習データの暗号化データを小分けにして他の人工知能システム1Aに出力するようにしても良い。
From the viewpoint of reducing transmission data, the first
このようにすることで、送信データを削減しつつ、他の人工知能システム1Aを徐々に人工知能システム1に同期させることができる。
By doing so, it is possible to gradually synchronize the other
また、上記実施の形態では、データ授受部40がハイパーバイザーで構成されていたが、本開示はこれに限定されない。例えば、データ授受部が、第1OSと第2OSとが異なるハードウェアプラットフォームに搭載される構成において、第1OSと第2OSとの間でデータを授受する構成であっても良い。
Further, in the above embodiment, the
また、上記実施の形態では、人工知能システム1として車両を例示したが、本開示はこれに限定されず、例えば、家、工場等、車両以外のシステムであっても良い。 Further, in the above embodiment, the vehicle is illustrated as the artificial intelligence system 1, but the present disclosure is not limited to this, and a system other than the vehicle such as a house or a factory may be used.
その他、上記実施の形態は、何れも本開示を実施するにあたっての具体化の一例を示したものに過ぎず、これらによって本開示の技術的範囲が限定的に解釈されてはならないものである。すなわち、本開示はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。 In addition, the above embodiments are merely examples of embodiment of the present disclosure, and the technical scope of the present disclosure should not be construed in a limited manner by these. That is, the present disclosure can be implemented in various forms without departing from its gist or its main features.
本開示の人工知能システムは、人工知能システムを変える場合におけるユーザの利便性を向上させることが可能な人工知能システムとして有用である。 The artificial intelligence system of the present disclosure is useful as an artificial intelligence system capable of improving user convenience when changing the artificial intelligence system.
1 人工知能システム
10 ハードウェアプラットフォーム
11 非セキュア記憶部
12 セキュア記憶部
13 入出力部
20 第1OS
30 第2OS
40 データ授受部
50 第1人工知能部
51 非セキュア学習部
52 動作判定部
53 暗号データ授受部
60 第2人工知能部
61 復号化処理部
62 暗号化処理部
1
30 Second OS
40
Claims (9)
前記人工知能システムの外部からアクセス可能な非セキュア環境において、前記ユーザの情報の暗号化データを、前記人工知能システムに対応する他のシステムから取得し、かつ、前記ユーザの情報に基づく学習結果を前記外部に出力する第1人工知能部と、
前記外部とアクセス不可能なセキュア環境において、前記暗号化データを前記第1人工知能部から取得する第2人工知能部と、
を備え、
前記第2人工知能部は、前記暗号化データを機械学習に用いる復号化データに復号化する、
人工知能システム。 An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, the encrypted data of the user's information is acquired from another system corresponding to the artificial intelligence system, and the learning result based on the user's information is obtained. The first artificial intelligence unit that outputs to the outside and
In a secure environment inaccessible to the outside, a second artificial intelligence unit that acquires the encrypted data from the first artificial intelligence unit, and
With
The second artificial intelligence unit decodes the encrypted data into decrypted data used for machine learning.
Artificial intelligence system.
請求項1に記載の人工知能システム。 The second artificial intelligence unit deletes the decrypted data that is unnecessary for the artificial intelligence system.
The artificial intelligence system according to claim 1.
前記第2人工知能部は、前記更新暗号化データを機械学習に用いる更新復号化データに復号化する、
請求項1または請求項2に記載の人工知能システム。 When there is information of a user updated by the other system that has acquired the encrypted data in the past, the first artificial intelligence unit acquires the updated encrypted data related to the updated user information.
The second artificial intelligence unit decodes the update encrypted data into update decryption data used for machine learning.
The artificial intelligence system according to claim 1 or 2.
前記第1人工知能部は、前記第2人工知能部により暗号化されたデータを前記他のシステムに出力する、
請求項1〜3の何れか1項に記載の人工知能システム。 When the second artificial intelligence unit delivers the stored data stored in the artificial intelligence system to the other system, the second artificial intelligence unit encrypts the stored data.
The first artificial intelligence unit outputs the data encrypted by the second artificial intelligence unit to the other system.
The artificial intelligence system according to any one of claims 1 to 3.
請求項4に記載の人工知能システム。 When the stored data includes data that already exists in the other system, the second artificial intelligence unit encrypts the stored data excluding the data.
The artificial intelligence system according to claim 4.
請求項4または請求項5に記載の人工知能システム。 The first artificial intelligence unit divides the encrypted data of the stored data into small pieces and outputs the encrypted data to the other system.
The artificial intelligence system according to claim 4 or 5.
請求項1〜6の何れか1項に記載の人工知能システム。 A data transfer unit is provided between the first artificial intelligence unit and the second artificial intelligence unit to transfer data related to the user's information without leaking to the outside.
The artificial intelligence system according to any one of claims 1 to 6.
請求項7に記載の人工知能システム。 The data transfer unit virtualizes a computer on one hardware platform, and switches and executes a first OS including the first artificial intelligence unit and a second OS including the second artificial intelligence unit.
The artificial intelligence system according to claim 7.
請求項1〜8の何れか1項に記載の人工知能システム。 A computer system built into a vehicle,
The artificial intelligence system according to any one of claims 1 to 8.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019236238A JP2021105798A (en) | 2019-12-26 | 2019-12-26 | Artificial intelligence system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019236238A JP2021105798A (en) | 2019-12-26 | 2019-12-26 | Artificial intelligence system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021105798A true JP2021105798A (en) | 2021-07-26 |
Family
ID=76918907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019236238A Pending JP2021105798A (en) | 2019-12-26 | 2019-12-26 | Artificial intelligence system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021105798A (en) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002182560A (en) * | 2000-12-12 | 2002-06-26 | Hitachi Ltd | Information server device equipped with ciphering processing function |
JP2006092198A (en) * | 2004-09-22 | 2006-04-06 | Fuji Xerox Co Ltd | Data processor and program |
WO2018008605A1 (en) * | 2016-07-04 | 2018-01-11 | 株式会社Seltech | System having artificial intelligence |
JP2018054765A (en) * | 2016-09-27 | 2018-04-05 | 日本電気株式会社 | Data processing device, data processing method, and program |
JP6431231B1 (en) * | 2017-12-24 | 2018-11-28 | オリンパス株式会社 | Imaging system, learning apparatus, and imaging apparatus |
JP2018190045A (en) * | 2017-04-28 | 2018-11-29 | 日立オートモティブシステムズ株式会社 | Vehicle electronic control apparatus |
WO2018225747A1 (en) * | 2017-06-06 | 2018-12-13 | 日本電気株式会社 | Distribution system, data management device, data management method, and computer-readable recording medium |
JP2019028836A (en) * | 2017-08-01 | 2019-02-21 | 三菱日立パワーシステムズ株式会社 | Learning assistance device for plant and learning assistance method for plant |
JP6600856B1 (en) * | 2018-06-27 | 2019-11-06 | 株式会社クロスコンパス | Distribution environment providing system providing distribution environment for artificial intelligence package |
-
2019
- 2019-12-26 JP JP2019236238A patent/JP2021105798A/en active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002182560A (en) * | 2000-12-12 | 2002-06-26 | Hitachi Ltd | Information server device equipped with ciphering processing function |
JP2006092198A (en) * | 2004-09-22 | 2006-04-06 | Fuji Xerox Co Ltd | Data processor and program |
WO2018008605A1 (en) * | 2016-07-04 | 2018-01-11 | 株式会社Seltech | System having artificial intelligence |
JP2018054765A (en) * | 2016-09-27 | 2018-04-05 | 日本電気株式会社 | Data processing device, data processing method, and program |
JP2018190045A (en) * | 2017-04-28 | 2018-11-29 | 日立オートモティブシステムズ株式会社 | Vehicle electronic control apparatus |
WO2018225747A1 (en) * | 2017-06-06 | 2018-12-13 | 日本電気株式会社 | Distribution system, data management device, data management method, and computer-readable recording medium |
JP2019028836A (en) * | 2017-08-01 | 2019-02-21 | 三菱日立パワーシステムズ株式会社 | Learning assistance device for plant and learning assistance method for plant |
JP6431231B1 (en) * | 2017-12-24 | 2018-11-28 | オリンパス株式会社 | Imaging system, learning apparatus, and imaging apparatus |
JP6600856B1 (en) * | 2018-06-27 | 2019-11-06 | 株式会社クロスコンパス | Distribution environment providing system providing distribution environment for artificial intelligence package |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102376626B1 (en) | Data transmission with obfuscation for a data processing(dp) accelerator | |
CN101589365B (en) | Protecting operating-system resources | |
CN110008735B (en) | Method, node and storage medium for realizing contract calling in block chain | |
US20210403004A1 (en) | Driver monitoring system (dms) data management | |
JP2021531533A (en) | Enhanced privacy using a reliable execution environment Deep learning cloud service | |
US20170235963A1 (en) | Method, apparatus, system and non-transitory computer readable medium for code protection | |
CN107346401A (en) | Information Guarantee System for safely configuration processor | |
US10372628B2 (en) | Cross-domain security in cryptographically partitioned cloud | |
CN101517549A (en) | Memory access security management | |
US20180101688A1 (en) | Trust-enhanced attribute-based encryption | |
CN105074712A (en) | Code processing device and program | |
CN104350486A (en) | Method and apparatus for virtual machine interoperability | |
CN107508846A (en) | The update method and system and terminal device of applications client | |
US20220318046A1 (en) | Method, system and domain for providing a security execution environment for security-relevant applications | |
US11755771B2 (en) | System, method, and computer-accessible medium for training models on mixed sensitivity datasets | |
EP4035042B1 (en) | Virtual primary platform (vpp) implemented on a secure element and an external environment | |
JP2021105798A (en) | Artificial intelligence system | |
CN112650982B (en) | Data processing accelerator and computer-implemented method performed by the data processing accelerator | |
CN112953886B (en) | System and method for securely broadcasting messages to accelerators using virtual channels with switches | |
CN112650981B (en) | Data processing accelerator and computer-implemented method performed by the data processing accelerator | |
KR101823226B1 (en) | Method and system for code protection | |
JP2010176583A (en) | Apparatus, method, program and system for processing information | |
CN112838926A (en) | Method for sharing key between accelerators | |
JP2021105796A (en) | Artificial intelligence system | |
CN103927488A (en) | Trusted platform module aiming at trusted embedded system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220914 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230523 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230606 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231128 |