KR102248705B1 - Ai 윤리 평가 방법 및 이를 지원하는 서버 장치 - Google Patents

Abstract

본 발명은 평가 서버 장치가, 특정 AI 모듈에 관한 AI 윤리 평가 요청을 수신하는 단계, 상기 평가 서버 장치가, AI 자율성 평가 정보의 존재 여부, 특정 AI의 윤리성 및 AI 개발자 윤리성을 확인하는 단계, 상기 평가 서버 장치가, 상기 AI 자율성 평가 정보의 존재 여부, 특정 AI 윤리성, 상기 AI 개발자의 윤리성 중 적어도 하나에 대응하여 상기 특정 AI의 이용 금지 또는 이용 권고를 제공하는 단계를 포함하는 것을 특징으로 하는 AI 윤리 평가 방법 및 이를 지원하는 서버 장치를 개시한다.

Description

AI 윤리 평가 방법 및 이를 지원하는 서버 장치{Ethics Estimation Method for trustworthy AI and an server device supporting the same}

본 발명은 AI 윤리 평가에 관한 것으로, 더욱 상세하게는 AI 윤리 평가의 기준과 평가 프로세스를 통해 이용자 상황에 맞는 AI 윤리 기준이 형성될 수 있도록 하는 AI 윤리 평가 방법 및 이를 지원하는 서버 장치에 관한 것이다.

최근, 인간이 해야 했던 일들을 인공지능(AI)이 대신하는 경우가 증가하고 있다. 예컨대, 인공지능을 기반으로 한 자율주행 자동차의 상용화에 박차를 가하고 있다. 자율주행차는 인공지능 기술을 기반으로 기존 자동차에 고도의 센서, 카메라, 위치기반시스템(GPS) 등으로 구성된 첨단 차량으로서, 인공지능이 상술한 센서 등을 토대로 주변 상황을 감지하고 스스로 차량을 주행하게 된다. 또한, 국내 일부 대형병원에도 인공지능 의사 '왓슨'을 도입하여, 치료를 위한 빠른 결정을 하기도 하며, 대형 로펌에 인간 변호사를 대신하여 리서치 업무를 수행하는 사례가 보고되고 있다.

하지만 인공지능과 로봇이 우리 생활에 적용되는 상황에서 부작용 및 부정적인 사례도 갈수록 늘어나는 추세에 있다. 예컨대, 최근 미국에서 인공지능을 활용한 자산 관리 AI인 '로봇 어드바이저(Robo-Advisor)'가 계산을 잘못함으로써 뉴욕 증시를 폭락하게 만드는 일이 발생하기도 했고, 딥러닝등 인공지능 기술을 활용하여 유명인의 얼굴을 성인물과 합성하는 '딥페이크(deepfake)' 기술이 논란이 되기도 했다. 또한, 인공지능이 사람의 생명을 위협하는 사례도 늘어나고 있는데, 미국에서는 우버 자율주행차의 잘못된 상황 판단으로 인해 여성 보행자가 치어 사망하는 사고가 발생하기도 했다.

상술한 문제 해결을 위해, 최근 각국 정부와 IT 기업들이 기술 발전에 더불어 인공지능이 인간의 상식과 윤리 규범을 준수할 수 있도록 하는 내용에 대해 연구 중에 있다. 예를 들어, 최근 미국 캘리포니아의 아실로마에서, '아실로마 AI 원칙(Asilomar AI Principles)'이 발표됐는데, 총 23가지로 구성된 세부 규칙에는 "고도의 인공지능 시스템은 작동하는 동안 인간의 가치와 일치하는 목표와 행동을 보여야 한다"라든가, "인공지능 시스템이 자기 복제를 통해 빠르게 성능이 좋아진다면 이 시스템은 다시 엄격한 통제 조치를 받아야 한다"는 규칙 등이 해당 AI 원칙에 포함되었다.

이와 더불어, 국내외의 많은 기관과 국가에서 AI윤리의 중요성을 인식하고 많은 AI윤리 강령과 가이드라인을 제정하고 발표하고 있으나, 이들은 AI 개발자를 포함한 AI를 제작하는 쪽에서 AI를 개발할 때 가이드라인으로 이용하는 방안을 제시하고 있을 뿐, 실제로 개발되어 활용되고 있는 AI의 윤리 정도를 측정할 수 없어서 AI의 위험성을 해소하거나 방지하는데 한계가 있다.

본 발명은 상술한 문제를 해결하기 위한 것으로, 추상적인 가이드 라인에 관한 문제, AI 개발자의 책무성 보완, AI 이용자들의 윤리 평가 참여 요구 등을 해결하고자, AI의 이용자가 AI의 윤리를 평가할 수 있는 AI 체크리스트 및 AI 윤리 평가 방법을 제공함으로써, AI에 관한 윤리 규정을 적절히 운용할 수 있도록 하는 AI 윤리 평가 방법 및 이를 지원하는 서버 장치를 제공함에 있다.

본 발명의 실시 예에 따른 AI(Artificial Intelligence) 윤리 평가 방법은, 평가 서버 장치가, 특정 AI 모듈에 관한 AI 윤리 평가 요청을 수신하는 단계, 상기 평가 서버 장치가, AI 자율성 평가 정보의 존재 여부, 특정 AI의 윤리성 및 AI 개발자 윤리성을 확인하는 단계, 상기 평가 서버 장치가, 상기 AI 자율성 평가 정보의 존재 여부, 특정 AI 윤리성, 상기 AI 개발자의 윤리성 중 적어도 하나에 대응하여 상기 특정 AI의 이용 금지 또는 이용 권고를 제공하는 단계를 포함하는 것을 특징으로 한다.

여기서, 상기 AI 윤리 평가 요청을 수신하는 단계는 상기 평가 서버 장치가 사용자 단말과 통신 채널을 형성하는 단계 및 상기 통신 채널을 통해 상기 AI 윤리 평가 요청을 수신하는 단계를 포함하는 것을 특징으로 한다.

또는, 상기 AI 윤리 평가 요청을 수신하는 단계는 상기 평가 서버 장치가 상기 특정 AI 모듈에 의해 구동되는 AI 운용 장치와 통신 채널을 형성하는 단계, 상기 통신 채널을 통해 상기 AI 윤리 평가 요청을 수신하는 단계를 포함하는 것을 특징으로 한다.

한편, 상기 윤리성을 확인하는 단계는 상기 평가 서버 장치가, 상기 AI 자율성 평가 정보에 따른 AI 윤리 라벨이 있는지 확인하는 단계를 포함하고, 이 경우 상기 방법은 상기 AI 윤리 라벨이 없는 경우, 상기 AI 이용 금지 권고를 제공하는 단계를 더 포함할 수 있다.

또는, 상기 윤리성을 확인하는 단계는 상기 평가 서버 장치가, 상기 AI 자율성 평가 정보에 따른 AI 윤리 라벨이 있는지 확인하는 단계를 포함하고, 이 경우 상기 방법은 상기 AI 윤리 라벨이 있는 경우, 상기 특정 AI의 윤리성이 기 설정된 조건을 만족하는지 확인하는 단계를 더 포함할 수 있다.

특히, 상기 특정 AI의 윤리성이 기 설정된 조건을 만족하는지 확인하는 단계는 상기 평가 서버 장치가 상기 특정 AI와 관련한 데이터 유출 또는 데이터 위변조 이력이 존재하는지 검색하는 단계를 포함하는 것을 특징으로 한다.

추가로, 상기 방법은 상기 데이터 유출 또는 상기 데이터 위변조 이력이 있는 경우, 상기 AI 모듈 이용에 대한 주의 권고를 제공하고, 상기 데이터 유출 또는 상기 데이터 위변조 이력이 없는 경우, 상기 AI 개발자의 위법 이력이 없는지 검색하는 단계를 더 포함하는 것을 특징으로 한다.

또한, 상기 방법은 상기 AI 개발자의 위법 이력이 있는 경우, 상기 AI 이용 주의 권고를 제공하고, 상기 AI 개발자의 위법 이력이 없는 경우, 상기 AI 이용 권고를 제공하는 단계를 더 포함하는 것을 특징으로 한다.

본 발명의 실시 예에 따른 평가 서버 장치는 특정 AI 모듈에 관한 AI 윤리 평가 요청을 수신하는 단계 서버 통신 회로, 상기 서버 통신 회로와 기능적으로 연결된 서버 프로세서를 포함하고, 상기 서버 프로세서는 상기 특정 AI 모듈에 대한 AI 윤리 라벨이 있는지 확인하고, 상기 AI 윤리 라벨이 없는 경우 상기 특정 AI 모듈의 이용 금지 권고를 제공하고, 상기 AI 윤리 라벨이 있는 경우, 상기 특정 AI 모듈과 관련한 데이터 유출 또는 위변조 이력이 있는지 확인하고, 상기 데이터의 유출 또는 위변조 이력이 있는 경우, AI 이용 금지를 권고하고, 상기 데이터의 유출 또는 위변조 이력이 없는 경우, 상기 특정 AI 모듈의 개발자와 관련한 위법 이력이 있는지 검색하고, 상기 개발자와 관련한 위법 이력이 검색되면 상기 AI 이용 주의 권고를 제공하고, 상기 개발자와 관련한 위법 이력이 없으면 상기 AI 이용 권고를 제공하도록 설정된 것을 특징으로 한다.

본 발명에 따른 AI 윤리 평가 방법 및 이를 지원하는 서버 장치에 따르면, 본 발명은 AI 운용 장치의 데이터 처리 결과를 기반으로 AI에 관한 평가 점수를 관리함으로써, AI 운용 사례에 부합하는 윤리 평가 결과를 제공할 수 있도록 하여, 보다 최적화된 AI 윤리 규정에 맞는 AI 모듈이 보다 폭넓게 이용될 수 있도록 지원할 수 있다.

기타, 본 발명이 제공할 수 있는 다양한 효과에 관하여 각 도면의 설명과 함께 기재하도록 한다.

도 1은 본 발명의 실시 예에 따른 AI 윤리 평가 시스템의 한 예를 나타낸 도면이다.
도 2는 본 발명의 실시 예에 따른 평가 서버 장치 구성의 한 예를 나타낸 도면이다.
도 3은 본 발명의 실시 예에 따른 서버 프로세서 구성의 한 예를 나타낸 도면이다.
도 4는 본 발명의 실시 예에 따른 AI 운용 장치 구성의 한 예를 나타낸 도면이다.
도 5는 본 발명의 실시 예에 따른 AI 윤리 평가 준비 방법의 한 예를 나타낸 도면이다.
도 6은 본 발명의 실시 예에 따른 AI 윤리 평가 분석 방법의 한 예를 나타낸 도면이다.

하기의 설명에서는 본 발명의 실시 예를 이해하는데 필요한 부분만이 설명되며, 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않는 범위에서 생략될 것이라는 것을 유의하여야 한다.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 바람직한 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.

이하, 첨부된 도면을 참조하여 본 발명의 실시 예를 보다 상세하게 설명하고자 한다.

도 1은 본 발명의 실시 예에 따른 AI 윤리 평가 시스템의 한 예를 나타낸 도면이다.

도 1을 참조하면, 본 발명의 실시 예에 따른 AI 윤리 평가 시스템(10)은 네트워크(50), AI 운용 장치(100), AI 개발자 단말(300) 및 평가 서버 장치(200)를 포함할 수 있다.

상기 네트워크(50)는 AI 운용 장치(100)와 평가 서버 장치(200) 및 AI 개발자 단말(300) 간의 통신 채널을 형성할 수 있다. 이러한 네트워크(50)는 특정 종류나 특성을 가지는 통신 요소에 한정되는 것은 아니며, 각 장치들 간의 필요로 하는 신호가 송수신될 수 있도록 하는 적어도 하나의 유선 또는 무선 통신 요소를 포함할 수 있다. 예를 들어, 상기 네트워크(50)는 상기 AI 운용 장치(100)와 상기 평가 서버 장치(200) 간에 무선 통신 채널을 형성할 수 있는 통신 요소(예: 기지국, 코어 등)를 포함할 수 있다. 또한, 네트워크(50)는 평가 서버 장치(200)와 AI 개발자 단말(300) 간의 통신 채널을 형성하여, AI 개발자 단말(300)이 개발한 AI 모듈을 평가 서버 장치(200)에 전달하고, 평가 서버 장치(200) 제어에 따라 특정 AI 운용 장치(100)에 상기 AI 모듈을 실장시킬 수 있는 통신 채널을 제공할 수 있다. 또는, 상기 네트워크(50)는 AI 개발자 단말(300)과 AI 운용 장치(100) 간의 통신 채널을 형성하고, AI 개발자 단말(300)에서 개발된 AI 모듈을 AI 운용 장치(100)에 실장시킬 수 있게 통신 채널 형성을 지원할 수 있다. 다른 예로서, 본 발명의 AI 윤리 평가 시스템(10)은 AI 운용 장치(100)에는 별도의 AI 모듈이 실장되지 않고, 평가 서버 장치(200)에 AI 모듈이 실장된 후, AI 운용 장치(100)와는 통신 채널을 통해 AI 운용 장치(100)의 동작을 제어하도록 구현될 수 있다. 이에 따라, 본 발명의 AI 윤리 평가 시스템(10)은 AI 모듈에 의해 동작하는 AI 운용 장치(100)를 사용자가 이용하는 과정에서 처리되는 데이터의 처리 형태에 따라 AI 모듈에 대한 평가를 결정하고, 해당 평가 정보를 평가 서버 장치(200)가 수집하여 AI 모듈에 대한 윤리 평가를 수행할 수 있도록 하는 다양한 시스템을 포함할 수 있다.

상기 AI 개발자 단말(300)은 다양한 프로그램 명령어들과, 각 명령어들을 통해 특정 동작을 수행하도록 설계된 AI 루틴을 포함하는 AI 모듈을 개발하는 단말이 될 수 있다. 이러한 AI 개발자 단말(300)은 적어도 하나의 개발자에 의해 개발된 AI 모듈(또는 AI 모듈이 실장된 미디어 또는 전자 장치)을 평가 서버 장치(200)에 제공하거나 또는 평가 서버 장치(200)에 의해 평가될 수 있도록 평가 서버 장치(200)의 감독을 받을 수 있도록 설치될 수 있다. 상기 AI 개발자 단말(300)을 이용하는 개발자는 AI 모듈에 대한 책무성 평가 결과에 영향을 줄 수 있다.

상기 AI 운용 장치(100)는 AI 모듈이 실장된 전자 장치 또는 AI 모듈에 의해 제어를 받아 동작하는 전자 장치 중 적어도 하나를 포함할 수 있다. 이러한 AI 운용 장치(100)는 AI 모듈이 실장된 자동차 장치, AI 모듈이 실장된 가전 장치, AI 모듈이 실장된 Office 장치와 같이, AI 모듈이 실장되고, 외부 환경에 따라 특정 동작을 적응적으로 수행할 수 있도록 설계된 적어도 하나의 전자 장치를 포함할 수 있다. 이러한 AI 운용 장치(100)는 AI 개발자 단말(300)이 개발한 특정 AI 모듈에 의해 제어를 받으면서 사용자에게 특정 서비스를 제공할 수 있다. 상기 AI 운용 장치(100)는 사용자 이용에 따른 특정 데이터 처리를 수행하며, 데이터 처리 결과를 평가 서버 장치(200)에 전송할 수 있다. 이 과정에서 상기 AI 운용 장치(100)는 장치 식별 정보, 제공된 서비스 정보 또는 데이터 처리 결과를 평가 서버 장치(200)에 제공할 수 있다.

상기 평가 서버 장치(200)는 AI 개발자 단말(300)로부터 AI 모듈을 수신하여 실장하거나 또는 수신된 AI 모듈을 AI 운용 장치(100)에 이식시킬 수 있다. 특히, 본 발명의 평가 서버 장치(200)는 AI 개발자 단말(300)이 AI 운용 장치(100)에 실장한 AI 모듈에 대한 윤리 평가를 수행할 수 있다. 이와 관련하여, 평가 서버 장치(200)는 AI 모듈을 제작한 AI 개발자 관련 정보를 수집할 수 있다. 예컨대, 평가 서버 장치(200)는 AI 개발자 관련하여 AI 모듈에 의한 데이터 유출, 위변조 또는 다양한 법률 위반 사례에 관한 정보를 검색할 수 있다.

상기 평가 서버 장치(200)는 AI 운용 장치(100)와 통신 채널을 형성하여, 사용자에게 AI 모듈 운용에 따른 서비스를 제공하는 동안 처리된 데이터를 수집할 수 있다. 상기 평가 서버 장치(200)는 상기 데이터 처리 과정에서 유출 또는 위변조가 있는지 여부를 기반으로 해당 AI 모듈에 관한 윤리 평가 결과를 산출할 수 있다. 이러한 평가 서버 장치(200)는 도 2에 도시된 바와 같은 구성의 적어도 일부를 포함할 수 있다.

도 2는 본 발명의 실시 예에 따른 평가 서버 장치 구성의 한 예를 나타낸 도면이다.

도 2를 참조하면, 본 발명의 실시 예에 따른 평가 서버 장치(200)는 서버 통신 회로(210), 서버 메모리(240), 서버 프로세서(260)를 포함할 수 있다.

상기 서버 통신 회로(210)는 상기 평가 서버 장치(200)의 통신 채널을 형성할 수 있다. 예컨대, 상기 서버 통신 회로(210)는 네트워크(50)를 AI 개발자 단말(300) 및 AI 운용 장치(100) 중 적어도 하나와 통신 채널을 형성할 수 있다. 상기 서버 통신 회로(210)는 실장된 AI 모듈의 제어 신호를 AI 운용 장치(100)에 전달할 수 있다. 또한, 서버 통신 회로(210)는 AI 운용 장치(100)로부터 특정 AI 서비스를 제공하는 동안 처리되는 데이터를 수신할 수 있다. 또한, 상기 서버 통신 회로(210)는 AI 개발자와 관련한 다양한 이슈 검색을 위해 다양한 뉴스 서버 등과 통신 채널을 형성할 수 있다.

상기 서버 메모리(240)는 평가 서버 장치(200) 운용과 관련한 적어도 하나의 데이터 또는 정보를 저장할 수 있다. 또한, 서버 메모리(240)는 평가 서버 장치(200) 운용과 관련한 프로그램을 저장할 수 있다. 서버 메모리(240)는 AI 운용 장치(100)에 제공할 AI 모듈을 저장할 수 있다. 또는, 서버 메모리(240)는 평가 서버 장치(200)에서 구동되는 AI 모듈을 저장할 수 있다. 상기 AI 모듈은 AI 운용 장치(100)와 통신 채널을 형성하고, AI 운용 장치(100) 제어와 관련한 제어 신호를 AI 운용 장치(100)에 제공하고, AI 운용 장치(100)로부터 제어 신호에 따른 동작 정보를 수신하고, 이를 기반으로 추가 동작을 제어하는 제어 신호를 생성하여 AI 운용 장치(100)에 제공하도록 설계될 수 있다. 상술한 AI 모듈은 AI 운용 장치(100)를 통해 사용자에게 특정 서비스를 제공할 수 있도록 설계될 수 있다. 상기 서비스는 예컨대, 차량 자동 운전 기능, 자동 집 관리 기능, 음악이나 영화와 같은 컨텐츠 자동 제공 서비스 기능 등 AI를 기반으로 사용자에게 제공할 수 있는 다양한 서비스 중 적어도 하나를 포함할 수 있다. 상술한 서버 메모리(240)는 AI 윤리 평가를 위한 AI 윤리 DB를 저장할 수 있다. 또한, 상기 서버 메모리(240)는 자율성 평가 체크리스트, AI 자율성 평가 결과, 책무성 평가 체크리스트, AI 책무성 평가 결과, 윤리 분석 결과 등을 저장할 수 있다.

상기 서버 프로세서(260)는 평가 서버 장치(200) 운용과 관련한 신호의 전달 또는 신호의 처리를 수행할 수 있다. 예컨대, 상기 서버 프로세서(260)는 AI 개발자 단말(300) 또는 AI 운용 장치(100)와의 통신 채널 형성을 제어하고, AI 개발자 단말(300)로부터 AI 모듈을 수신하여 저장할 수 있다. 상기 서버 프로세서(260)는 상기 AI 모듈이 필요한 AI 운용 장치(100)에 상기 AI 모듈을 제공할 수 있다. 또는, 서버 프로세서(260)는 AI 모듈 운용을 수행하고, AI 모듈과 특정 AI 운용 장치(100)와 통신 채널을 형성하여, AI 운용 장치(100)의 서비스 제공과 관련한 기능 제어를 수행할 수 있다.

상기 서버 프로세서(260)는 해당 AI 모듈의 운용을 통해 제공되는 서비스에 관한 데이터 처리 정보를 수집할 수 있다. 이와 관련하여, 서버 프로세서(260)는 특정 사용자가 AI 운용 장치(100)를 통해 지정된 서비스를 받는 중 또는 서비스 제공이 완료된 이후, AI 운용 장치(100)에서 처리된 데이터를 수집하고, 수집된 데이터의 유출 또는 변조 여부를 확인할 수 있다. 상기 서버 프로세서(260)는 수집된 데이터의 유출 또는 위변조 여부를 기반으로 특정 AI 모듈에 대한 윤리 평가를 수행할 수 있다. 또한, 서버 프로세서(260)는 AI 개발자 단말(300) 또는 AI 개발자를 기준으로 특정 AI 모듈에 대한 윤리 평가 정보를 수집할 수 있다. 수집된 AI 운용 장치(100)의 서비스 제공과 관련한 윤리 평가 정보 및 개발자 관련 윤리 평가 정보를 기반으로 서버 프로세서(260)는 AI 모듈에 관한 윤리 평가 결과를 산출할 수 있다. 이러한 상기 서버 프로세서(260)는 AI 윤리 라벨(Label), AI 윤리 평가 항목 획득, AI 윤리 평가 항목 체크리스트 이용, AI 윤리 평가 및 분석 프로세스 수행을 처리할 수 있다. 이와 관련하여, 상기 서버 프로세서(260)는 도 3에 도시된 바와 같은 구성을 포함할 수 있다.

도 3은 본 발명의 실시 예에 따른 서버 프로세서 구성의 한 예를 나타낸 도면이다.

도 3을 참조하면, 본 발명의 실시 예에 따른 상기 서버 프로세서(260)는 AI 자율성 평가부(263), AI 책무성 평가부(265), AI 윤리 분석부(267) 및 AI 라벨 분류부(261)를 포함할 수 있다.

상기 AI 라벨 분류부(261)는 일반 상품에 부착하는'상품 Label(상품 표식)'과 같이, AI 모듈들에 각각 윤리 라벨을 할당하여, AI 모듈에 관한 안정성을 보장할 수 있다. 일반적으로 사회에 유통되는 상품의 경우, 상품 사용 시 유의사항 등을 포함한 상품 품질 안정성을 보장하기 위하여 '상품 Label(상품 표식)'을 부착하도록 법률적으로 의무화하고 있는데, AI 라벨 분류부(261)는 AI의 경우 AI의 고위험성을 고려하여 다음 표 1과 같이, AI 모듈에 관한 AI 윤리 Label을 할당할 수 있다.

구분	Label 항목
데이터 유출	해당 AI의 데이터 유출 기능 유무
데이터 위변조	해당 AI의 데이터 위변조 기능 유무
SW 위변조	해당 AI의 SW 위변조 기능 유무

AI 라벨 분류부(261)는 AI로 인해 발생할 수 있는 문제를 고려하여, 해당 AI의 품질 안정성 차원을 기반으로 구성할 수 있다. AI 라벨 분류부(261)는 AI 윤리 Label의 공개와 관련하여, 해당 AI에 내재화시키거나, 특정 검색 영역 예컨대 홈페이지 등에 게재할 수 있다. 상기 AI 라벨 분류부(261)는 AI가 새로 개발되거나 갱신되거나 일정 주기가 도래한 경우, 상술한 표 1에 기재된 구분 내용에 따라 AI 윤리 라벨 할당을 수행할 수 있다. 상기 AI 라벨 분류부(261)는 AI 윤리 분석부(267)에 의해 분석한 결과를 토대로 특정 AI 모듈에 대한 라벨 할당을 수행할 수 있다.

상기 AI 자율성 평가부(263)는 윤리적 이슈와 법률적 이슈를 구분한다. AI 자율성 평가부(263)는 윤리적 이슈와 관련하여, AI가 획득한 각종 데이터를 외부로 유출하는 행위인 '데이터 유출'을 평가할 수 있다. 또한, AI 자율성 평가부(263)는 법률적 이슈와 관련하여, AI가 개인정보를 포함하여 다양한 데이터를 위변조하는 '데이터 위변조', SW의 원래 기능과 다르게 작동할 수 있도록 위변조하는 'SW위변조'를 평가할 수 있다. 상술한 기능 제공과 관련하여, AI 자율성 평가부(263)는 원본 데이터 또는 원본 프로그램을 서버 메모리(240)에 저장 관리할 수 있다.

상기 AI 책무성 평가부(265)는 평판도를 평가할 수 있다. AI 책무성 평가부(265)는 'AI 개발자의 윤리성'과 '해당 AI의 윤리성'을 평가할 수 있다. AI 책무성 평가부(265)는 AI개발자의 윤리성과 관련하여, AI 개발자 (개발 회사 포함)가 윤리적 이슈 및 법률적 이슈를 위반하여 사회적으로 물의를 일으킨 경우를 검색하고, 검색 결과를 기반으로 해당 AI 모듈에 관한 평가를 수행할 수 있다. AI 책무성 평가부(265)는 '특정 AI의 윤리성'과 관련하여, AI 이용자가 이용하려는 특정 AI가 윤리적 이슈 및 법률적 이슈를 위반하여 회적으로 물의를 일으킨 경우가 있는지를 검색하고, 검색 결과를 평가에 반영할 수 있다. 상술한 평가를 위하여 상기 AI 책무성 평가부(265)는 개발자 관련 이슈를 저장하는 서버(예: 범죄 또는 위법 행위에 따른 이력을 저장하는 서버)의 접근 권한을 획득하고, 해당 서버로부터 관련 이슈를 실시간으로 또는 주기적으로 수집할 수 있다.

상술한 바와 같이 AI 자율성 평가부(263) 및 AI 책무성 평가부(265)의 AI 윤리 평가 항목은 다음 표 2에 나타낸 바와 같다.

상기 AI 윤리를 평가하는데 필요한 체크리스트는 AI 윤리 자율성을 평가하기 위한 AI 윤리 자율성 체크리스트와 AI 윤리 책무성을 평가하기 위한 AI 윤리 책무성 체크리스트를 포함할 수 있다.

상기 AI 자율성 평가 체크리스트는 표 3과 같고, 표에서 Yes는 해당 기능이 포함되어 있지 않다는 것을 의미하고, No는 해당 기능의 포함 여부에 대해 언급되어 있지 않다는 것을 의미한다.

AI윤리 자율성 평가 항목	자율적 평가
특정 AI의 데이터 유출 기능 없음	Yes (또는 No)
특정 AI의 데이터 위변조 기능 없음	Yes (또는 No)
특정 AI의 SW 위변조 기능 없음	Yes (또는 No)

상기 AI 자율성 평가부(263)는 상술한 AI 자율성 평가 체크 리스트를 사용하되, 특정 AI 모듈의 사용 이력을 수집하고, 수집된 사용 이력에서 상술한 표 3에 지시한 사항들이 존재하는지 확인할 수 있다. 또는, AI 자율성 평가부(263)는 해당 AI 모듈에 관한 AI 이용자들의 평가 정보를 수집하고, 수집된 평가 정보를 자율성 평가 결과로 수집할 수 있다.

AI 윤리 책무성 평가 체크리스트는 표 4와 같고, 표에서 Yes는 관련 사례가 있음을 의미하고, No는 관련 사례가 없음을 의미한다.

상기 AI 책무성 평가부(265)는 AI 모듈에 관한 개발자 정보를 수집하고, 상기 개발자와 관련한 공지된 정보(예: 뉴스 등)를 수집한 후, 수집된 정보를 기준으로 책무성 평가를 수행할 수 있다. 또는, AI 책무성 평가부(265)는 AI 개발자에게 상기 체크리스트를 제공하고, 체크리스트 기입 정보를 토대로 책무성 결과를 수집할 수 있다.

상기 AI 윤리 분석부(267)는 특정 AI 모듈에 관하여 AI 자율성 평가부(263)로부터 자율성 평가 결과를 수집하고, 특정 AI 모듈에 관하여 AI 책무성 평가부(265)로부터 책무성 평가 결과를 수집할 수 있다. 상기 AI 윤리 분석부(267)는 평가 결과들을 이용하여 해당 AI 모듈에 관한 윤리 평가 결과를 산출할 수 있다. 상기 AI 윤리 분석부(267)는 산출된 윤리 평가 결과를 사용자에게 제공할 수 있다. 또한, AI 윤리 분석부(267)는 산출된 평가 결과를 서버 메모리(240)에 누적 저장할 수 있다. 상기 AI 윤리 분석부(267)가 산출한 평과 결과는 AI 라벨 분류부(261)에 의해 참조되고, AI 라벨 분류부(261)는 해당 평가 결과에 따른 라벨을 특정 AI 모듈에 할당할 수 있다. 할당된 라벨은 다양한 방식으로 사용자가 확인할 수 있도록 공지될 수 있다. 예컨대, 사용자가 특정 AI 운용 장치(100)를 이용하고자 할 경우, 해당 AI 운용 장치(100)는 자신의 AI 모듈이 할당받은 라벨 정보를 사용자게 고지(예: 디스플레이에 표시하거나 스피커를 통해 오디오 정보로서 안내함)할 수 있다.

도 4는 본 발명의 실시 예에 따른 AI 운용 장치 구성의 한 예를 나타낸 도면이다.

도 4를 참조하면, 본 발명의 AI 운용 장치(100)는 통신 회로(110), 입출력부(120), 메모리(140), 디스플레이(150), 프로세서(160)를 포함할 수 있다.

상기 통신 회로(110)는 AI 운용 장치(100)의 통신 채널 형성을 지원할 수 있다. 예를 들어, 상기 통신 회로(110)는 평가 서버 장치(200)와 통신 채널을 형성할 수 있다. 상기 AI 운용 장치(100)가 별도의 서버에서 운용 중인 AI 모듈의 제어 신호에 대응하여 동작하는 장치인 경우, 상기 통신 회로(110)는 별도 서버와 통신 채널을 형성하고 상기 AI 모듈의 제어 신호를 수신하여 프로세서(160)에 전달할 수 있다.

상기 입출력부(120)는 AI 운용 장치(100)의 운용과 관련한 사용자 입력을 생성할 수 있는 입력 장치를 포함할 수 있다. 예컨대, 상기 입출력부(120)는 터치 패널, 터치스크린, 물리키, 음성 입력 장치, 마이크 중 적어도 하나의 입력 장치를 포함할 수 있다. 상기 입출력부(120)는 사용자 조작에 따른 입력 신호를 생성하고, 생성된 입력 신호를 프로세서(160)에 제공할 수 있다. 또는, 입출력부(120)는 AI 운용 장치(100) 동작과 관련한 다양한 정보를 출력할 수 있는 출력 장치를 포함할 수 있다. 예컨대, 상기 입출력부(120)는 스피커, 디스플레이 등을 기반으로 오디오 정보 또는 이미지를 출력할 수 있다.

상기 메모리(140)는 AI 운용 장치(100) 이용과 관련한 다양한 데이터 또는 프로그램을 저장할 수 있다. 또한, 상기 메모리(140)는 AI 모듈을 저장할 수 있다. 상기 메모리(140)는 상기 AI 모듈 운용에 따른 데이터를 저장할 수 있다. 상기 메모리(140)에 저장된 데이터는 평가 서버 장치(200) 요청에 따라 평가 서버 장치(200)에 제공될 수도 있다.

상기 디스플레이(150)는 상기 AI 운용 장치(100) 이용과 관련한 적어도 하나의 화면을 출력할 수 있다. 예를 들어, 상기 디스플레이(150)는 AI 모듈의 제어에 따라 특정 서비스 화면을 출력할 수 있다. 상기 서비스 화면은 AI 모듈에 설계된 서비스 수행과 관련한 이미지를 포함할 수 있다. 예를 들어, 서비스 화면은 자동 운전 기능 수행 화면, 자동 관리 기능 수행 화면, 컨텐츠 재생 화면 등을 출력할 수 있다. 또한, 상기 디스플레이(150)는 AI 모듈의 라벨 정보를 출력할 수 있다. 상기 디스플레이(150)는 AI 모듈의 평가 결과를 출력할 수도 있다.

상기 프로세서(160)는 AI 운용 장치(100) 이용과 관련한 신호의 전달 또는 처리를 수행할 수 있다. 예를 들어, 상기 프로세서(160)는 AI 모듈 운용에 따른 제어 신호를 기반으로, 특정 동작을 수행할 수 있다. 예를 들어, 상기 AI 운용 장치(100)가 AI 자동 주행 장치인 경우, AI 모듈 운용에 따라 생성된 제어 신호를 기반으로, 프로세서(160)는 자동 주행을 수행할 수 있다. 상기 프로세서(160)는 AI 운용 장치(100)의 동작과 관련한 다양한 정보 또는 데이터를 수집하고, 수집된 데이터를 메모리(140)에 저장할 수 있다. 상기 프로세서(160)는 평가 서버 장치(200)로부터 상기 AI 운용 장치(100)의 동작과 관련한 데이터 요청을 수신하면, 메모리(140)에 저장된 데이터를 평가 서버 장치(200)에 제공할 수 있다. 상기 프로세서(160)는 평가 서버 장치(200)로부터 AI 윤리 라벨 정보를 수신할 수 있다. 이 경우, 프로세서(160)는 상기 AI 윤리 라벨을 AI 모듈에 내재화하거나 디스플레이(150) 일측에 출력하여 현재 동작 중인 AI 모듈의 라벨 정보를 사용자가 인식할 수 있도록 지원할 수 있다.

도 5는 본 발명의 실시 예에 따른 AI 윤리 평가 준비 방법의 한 예를 나타낸 도면이다.

도 5를 참조하면, 본 발명의 AI 윤리 평가 준비 방법과 관련하여, 평가 서버 장치(200)의 서버 프로세서(260)는 501 단계에서 AI 윤리 DB 검색을 수행할 수 있다. 즉, 서버 프로세서(260)는 이용자로부터 AI 윤리성 평가에 대한 요청 또는 의뢰를 수신하면, 서버 메모리(240)에 저장된 AI 윤리 DB를 검색할 수 있다. 상기 AI 윤리 DB는 AI 자율성 평가 DB와 AI 책무성 평가 DB로 구성될 수 있다. AI 자율성 평가 DB는 AI개발자(개발회사 포함)가 공개한 'AI 윤리 Label'을 토대로 작성되고, AI 책무성 평가 DB는 AI 이용자 또는 AI 윤리 평가시스템이 인터넷 등을 통해 확보한 내용을 토대로 작성된다.

다음으로, 503 단계에서, 서버 프로세서(260)는 AI 윤리 기초 자료를 작성할 수 있다. 예를 들어, 서버 프로세서(260)는 다음 표 5와 같은 AI 윤리 기초 자료를 작성할 수 있다.

상기 서버 프로세서(260)는 책무성 평가와 관련하여, 각 유출 사례에 대해서 AI 개발자 측에서 관련 사례가 발행되지 않도록 조치했음을 사회적으로 인정받았을 경우에 대한 정보가 수집되면, 해당 정보 분석 결과로서, AI 윤리평가 시스템측에서는 Yes를 No로 변경할 수도 있다.

다음으로 505 단계에서, 서버 프로세서(260)는 AI 윤리 분석을 수행할 수 있다. AI 윤리 기초자료에 대한 분석 기준은 표 6과 같다.

507 단계에서, 서버 프로세서(260)는 AI 윤리 평가 자료를 AI 운용 장치(100)를 통해 제공할 수 있다.

도 6은 본 발명의 실시 예에 따른 AI 윤리 평가 분석 방법의 한 예를 나타낸 도면이다.

도 6을 참조하면, AI 윤리 평가 분석과 관련하여, 서버 프로세서(260)는 601 단계에서 AI의 자율성 평가가 수행되었는지 확인할 수 있다. 다시 말하여, 상기 프로세서(160)는 특정 AI에 대한 AI 제작자(개발회사 포함)의 자율성 평가 즉, AI 윤리 Label이 없는 경우, 일반 AI 이용자들은 해당 AI의 내부를 알 수가 없어서 AI의 안정성을 보장할 수 없기 때문에, 서버 프로세서(260)는 603 단계에서, 해당 AI에 대해서 'AI 이용 금지'와 관련한 정보를 출력하도록 제어할 수 있다. 상기 AI 윤리 라벨의 경우 AI 모듈에 내재화되어 있는 경우, 서버 프로세서(260)는 AI 모듈의 모듈 정보 확인을 통해 AI 윤리 라벨 정보를 확인할 수 있다. 또는, 서버 프로세서(260)는 AI 모듈을 제공하는 AI 개발자 단말(300)과 통신 채널을 형성하고, 해당 AI 개발자 단말(300)에게 AI 모듈에 관한 AI 윤리 라벨에 대한 정보를 요청하여 확인할 수도 있다.

AI 자율성 평가가 수행되어 해당 평가가 공개된 경우, 서버 프로세서(260)는 605 단계에서, '특정 AI의 윤리성'에 있어서 위반 사례가 있는지 확인할 수 있다. 이와 관련하여, 상기 서버 프로세서(260)는 특정 AI의 이용 사례 중 위반 사례와 관련한 정보를 인터넷 네트워크를 통해 수집하거나 또는 관련 정보를 제공하는 서버 장치로부터 관련 정보 수집을 수행할 수 있다. 이 동작에서, 서버 프로세서(260)는 특정 AI 모듈의 이름, 법 위반 등 특정 AI의 윤리성을 평가하기 위해 필요한 정보를 수집하는데 이용되는 기 선정된 검색어를 이용하여 정보 수집을 수행할 수 있다.

상기 서버 프로세서(260)는 '특정 AI의 윤리성'에 있어서 위반 사례가 있는 경우, 603 단계로 분기하여 해당 AI의 사용을 통한 위험 초래 가능성을 안내하고, 추가적으로 'AI 이용 금지'를 권고할 수 있다.

AI 자율성 평가(AI 윤리 Label)는 공개되어 있고, '특정 AI의 윤리성'에는 문제가 없는 경우, 서버 프로세서(260)는 607 단계에서 'AI 개발자 윤리성'에 있어서 위반 사례가 있는지 확인할 수 있다. 이와 관련하여, 서버 프로세서(260)는 개발자 성명 및 위반과 관련하여 사전 정의된 키워드를 기반으로 위반 사례에 대한 정보를 수집할 수 있다. 정보 수집과 관련하여, 서버 프로세서(260)는 포털 사이트 또는 뉴스 사이트 등에서 상술한 키워드와 관련한 정보가 수집되는지 확인할 수 있다. 또는, 개발자의 범위 이력을 제공하는 서버에 주기적으로 또는 실시간으로 접속하고, 해당 서버로부터 개발자 위법 이력에 관한 정보를 수집할 수도 있다.

상기 서버 프로세서(260)는 AI 개발자 윤리성에 문제가 있을 경우에, 서버 프로세서(260)는 609 단계에서 AI 개발자(개발회사 포함)가 개발한 AI에 대해 주의 깊은 이용이 필요한 것으로 안내하고, 'AI 이용 요주의'를 권고할 수 있다.

상기 서버 프로세서(260)는, AI 자율성 평가가 공개되어 있고, '특정 AI의 윤리성' 및 'AI개발자 윤리성'에 아무런 문제가 없는 경우에, 611 단계에서 'AI 이용'을 권고할 수 있다.

추가적으로, 상기 서버 프로세서(260)는 AI 이용자에게 특정 AI에 대한 윤리 평가 자료 즉, AI 윤리 DB에서 확보된 AI 윤리 기초자료와 AI 윤리 분석 결과를 제공할 수 있다. 이 동작에서 서버 프로세서(260)는 분석 결과를 AI 운용 장치(100)를 통해 제공하거나 또는 특정 AI 모듈에 관한 윤리성 평가 정보를 요청한 사용자 단말에 제공할 수 있다.

한편, 본 명세서와 도면에 개시된 실시 예들은 이해를 돕기 위해 특정 예를 제시한 것에 지나지 않으며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형예들이 실시 가능하다는 것은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게는 자명한 것이다.

10: AI 윤리 평가 시스템
50: 네트워크
100: AI 운용 장치
200: 평가 서버 장치
300: AI 개발자 단말

Claims (9)

1. AI(Artificial Intelligence) 모듈의 윤리 평가 방법에 있어서,
   평가 서버 장치가, 특정 AI 모듈에 관한 AI 모듈 윤리 평가 요청을 수신하는 단계;
   상기 평가 서버 장치가, AI 자율성 평가 정보의 존재 여부, 특정 AI 모듈의 윤리성 위반 사례 및 AI 개발자 윤리성 위반 사례를 확인하는 단계;
   상기 평가 서버 장치가, 상기 AI 자율성 평가 정보의 존재 여부, 특정 AI 모듈 윤리성 위반 사례, 상기 AI 모듈 개발자의 윤리성 위반 사례 중 적어도 하나에 대응하여 상기 특정 AI 모듈의 이용 금지 또는 이용 권고를 제공하는 단계;
   를 포함하며,
   상기 확인하는 단계는
   상기 평가 서버 장치가
   상기 AI 자율성 평가에 따라 평가된 사항이 반영된 AI 윤리 라벨이 있는지 여부를 상기 AI에 내재화된 모듈로부터 확인하는 단계;
   를 포함하고,
   상기 AI 윤리 라벨이 없는 경우, 상기 AI 모듈 이용 금지 권고를 제공하는 단계;를 더 포함하며,
   상기 AI 윤리 Label은
   AI가 획득한 각종 데이터를 외부로 유출하는 행위인 데이터 유출 기능의 유무,
   AI가 개인정보를 포함하여 다양한 데이터를 위변조 하는 데이터 위변조 기능의 유무, 및
   AI가 SW의 원래 기능과 다르게 작동할 수 있도록 위변조하는 SW 위변조 기능의 유무가 기록되는 것
   을 특징으로 하는 AI 윤리 평가 방법.
2. 제1항에 있어서,
   상기 AI 모듈 윤리 평가 요청을 수신하는 단계는
   상기 평가 서버 장치가 사용자 단말과 통신 채널을 형성하는 단계;
   상기 통신 채널을 통해 상기 AI 모듈 윤리 평가 요청을 수신하는 단계;를 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
3. 제1항에 있어서,
   상기 AI 모듈 윤리 평가 요청을 수신하는 단계는
   상기 평가 서버 장치가 상기 특정 AI 모듈에 의해 구동되는 AI 운용 장치와 통신 채널을 형성하는 단계;
   상기 통신 채널을 통해 상기 AI 모듈 윤리 평가 요청을 수신하는 단계;를 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
4. 삭제
5. 제1항에 있어서,
   상기 확인하는 단계는
   상기 평가 서버 장치가, 상기 AI 자율성 평가 정보에 따른 AI 윤리 라벨이 있는지 확인하는 단계;를 포함하고,
   상기 AI 윤리 라벨이 있는 경우, 특정 AI 모듈의 윤리성 위반 사례가 있는지 확인하는 단계;를 더 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
6. 제5항에 있어서,
   상기 특정 AI 모듈의 윤리성 위반 사례가 있는지 확인하는 단계는
   상기 평가 서버 장치가 상기 특정 AI 모듈과 관련한 데이터 유출 또는 데이터 위변조 이력이 존재하는지 검색하는 단계;를 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
7. 제6항에 있어서,
   상기 데이터 유출 또는 상기 데이터 위변조 이력이 있는 경우, 상기 AI 모듈 이용에 대한 주의 권고를 제공하고,
   상기 데이터 유출 또는 상기 데이터 위변조 이력이 없는 경우, 상기 AI 개발자의 위법 이력이 없는지 검색하는 단계;를 더 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
8. 제7항에 있어서,
   상기 AI 개발자의 위법 이력이 있는 경우, 상기 AI 모듈 이용 주의 권고를 제공하고,
   상기 AI 개발자의 위법 이력이 없는 경우, 상기 AI 모듈 이용 권고를 제공하는 단계;를 더 포함하는 것을 특징으로 하는 AI 윤리 평가 방법.
9. AI(Artificial Intelligence) 윤리 평가를 지원하는 평가 서버 장치에 있어서,
   특정 AI 모듈에 관한 AI 모듈 윤리 평가 요청을 수신하는 단계 서버 통신 회로;
   상기 서버 통신 회로와 기능적으로 연결된 서버 프로세서;를 포함하고,
   상기 서버 프로세서는
   상기 특정 AI 모듈에 대한 AI 자율성 평가에 따라 평가된 사항이 반영된 AI 윤리 라벨이 있는지 여부를 상기 AI에 내재화된 모듈로부터 확인하고,
   상기 AI 윤리 라벨이 없는 경우 상기 특정 AI 모듈의 이용 금지 권고를 제공하고,
   상기 AI 윤리 라벨이 있는 경우, 상기 특정 AI 모듈과 관련한 데이터 유출 또는 위변조 이력이 있는지 확인하고,
   상기 데이터의 유출 또는 위변조 이력이 있는 경우, AI 모듈 이용 금지를 권고하고,
   상기 데이터의 유출 또는 위변조 이력이 없는 경우, 상기 특정 AI 모듈의 개발자와 관련한 위법 이력이 있는지 검색하고,
   상기 개발자와 관련한 위법 이력이 검색되면 상기 AI 모듈 이용 주의 권고를 제공하고,
   상기 개발자와 관련한 위법 이력이 없으면 상기 AI 모듈 이용 권고를 제공하도록 설정된 것을 특징으로 하며,
   상기 AI 윤리 Label은
   AI가 획득한 각종 데이터를 외부로 유출하는 행위인 데이터 유출 기능의 유무,
   AI가 개인정보를 포함하여 다양한 데이터를 위변조 하는 데이터 위변조 기능의 유무, 및
   AI가 SW의 원래 기능과 다르게 작동할 수 있도록 위변조하는 SW 위변조 기능의 유무가 기록되는 것
   을 특징으로 하는 평가 서버 장치.

Images