GIST, 미학습 데이터 식별 기술 개발…자율주행차·의료진단 AI 안전성 개선 | 비맥스테크놀로지
안녕하세요!
Digital 시대를 만들어가는 Embedded System과 IPC 및 Display Solution 기업 비맥스테크놀로지입니다!
<입력된 이미지(강아지)에 대해서 확률 값이 계산되는 딥러닝 모델 구조 도식. 딥러닝 모델은 여러 층(레이저)으로 구성된 블록으로 이뤄져 있다. 그림에서 학습된 카테고리(즉, 분포 내 입력)는 고양이, 강아지, 망아지다. AI는 답을 몰라도 기존에 학습한 카테고리에서 가장 유사한 값을 정답으로 잘못 인식하게 된다.>
국내 연구진이 자율주행차 운행중 동물을 사람으로 잘못 인식하거나 오진 문제 등을 방지할 수 있는 인공지능(AI) 기술을 개발했습니다.
광주과학기술원(GIST)은 이규빈 융합기술학제학부 교수팀이 학습한 적 없는 ‘모르는 데이터’를 구별해 내는 AI 기술을 개발했다고 22일 밝혔습니다.
대부분 AI 는 정답이 없으면 가장 비슷한 답을 찾도록 설계돼 있습니다. 딥러닝 모델(심층학습)은 이미지 인식 능력이 탁월해 컴퓨터비전 분야에서 다양하게 활용하고 있지만 답을 몰라도 가장 유사한 값을 정답으로 잘못 인식한다는 단점이 있습니다. 이 경우 자율주행 차량이 장애물을 잘못 인식하는 등 심각한 문제를 일으켜 이를 보완할 AI모델 개발 필요성이 제기되고 있습니다.
AI모델은 여러 블록으로 구성돼 있는데 각 블록은 똑같은 작업을 수행합니다. 컨베이어 벨트에 재료(데이터)가 들어오고 여러 사람(블록)이 분업해 순서대로 물건을 완성하는 것과 같습니다.
<기존 이미지와 직소 퍼즐 예시. 연구팀은 직소 퍼즐 이미지를 일종의 ‘모르는 데이터’ 입력(분포 외 입력)의 예시로 사용했다. 직소 퍼즐에는 기존 이미지에 있던 물체의 정보가 파괴되기 때문이다.>
연구팀은 이 가운데 ‘모르는 데이터’ 탐지에 적합한 블록을 찾아내기 위해 직소 퍼즐을 이용했습니다. 블록 활성도를 기준으로 모르는 데이터를 탐지하는 방법을 고안했습니다. 실제 이미지와 유사하지만 정답은 아닌 데이터를 입력한 뒤 활성도에 따라 모르는 데이터 탐지에 적합한 블록을 찾기 위해 모르는 데이터 예시로 이미지를 직소 퍼즐처럼 잘게 쪼갠 뒤 무작위로 섞어서 입력했습니다.
기존 연구에서는 가장 많은 데이터를 학습한 마지막 블록을 사용했으나 연구팀은 마지막 블록이 과도한 학습으로 인해 모르는 데이터도 아는 데이터로 착각하는 경향이 있다는 점을 밝혀냈습니다. 모르는 데이터(직소 퍼즐)에는 낮은 활성도를, 아는 데이터에는 높은 활성도를 보이는 블록이 모르는 데이터 탐지에 가장 적합한 것으로 보고 직소 퍼즐에 대한 활성도 대비 학습된 이미지에 대한 활성도가 가장 높은 블록을 선택했습니다. 이 방식으로 기존에 사용하던 첫 번째 벤치마크(연구 결과의 공정한 성능 비교를 위해 동일한 데이터셋으로 평가 환경을 구성해둔 것)에서는 5.8%, 두 번째 벤치마크에서는 6.8% 향상된 탐지 결과를 얻어 현재까지 가장 높은 수준의 성능이 달성됨을 입증했습니다.
이번 연구성과로 딥러닝 모델 메타인지가 가능해지면 지능을 증강하는 형태의 AI 모델도 개발할 수 있을 것으로 기대하고 있습니다. 자율주행, 의료 진단 등 안전이나 생명과 직결되는 민감한 분야에서 유용하게 이용할 수 있습니다. 특히 자율주행차 운행중 동물을 사람으로 잘못 인식해 급정거하거나 학습한 적 없는 피부병을 기존에 학습한 피부병 중 가장 유사한 질환으로 오진하는 것과 같은 문제를 방지할 수 있습니다.
<뒷줄 왼쪽부터 시계방향대로 이성주 박사과정생, 신성호 박사과정생. 유연국 박사과정생, 이규빈 융합기술학제학부 교수.>
이규빈 교수는 “이번 연구성과를 발전시키면 딥러닝 모델이 인식된 결과를 스스로 인지하는 메타인지 능력을 얻을 수 있을 것”이라며 “모르는 것을 아는 것으로 잘못 인식해 발생할 수 있는 막대한 피해를 방지할 수 있을 뿐만 아니라, 지능 증강과 같은 다양한 기술로 응용될 것이라고 기대한다”고 말했습니다.
이 교수가 지도하고 유연국 박사과정생이 신성호 박사과정생, 이성주 박사과정생, 전창현 석사와 함께 진행한 이번 연구는 과학기술정보통신부의 클라우드 로봇복합인공지능 핵심기술개발사업, 불확실성을 자각하고 성장하는 에이전트 기술개발사업의 지원을 받아 수행됐습니다. 연구 성과는 컴퓨터비전 분야 세계 수준 학회인 ‘컴퓨터비전과 패턴인식 학술대회(CVPR)’에서 6월 18일 발표된다. 연구에 사용된 코드는 깃허브에서 오픈소스로 이용할 수 있습니다.
