• 2018-2학기 등록금 납부 안내

사이버홍보실


AI 역기능 방지기술 개발사업 선정

조회 606

김현진 2018-06-05 09:00

이병국·이석호·강대기·이훈재·이상곤 등 컴퓨터공학부 교수팀

‘기만공격에 의한 AI 역기능 방지기술 개발사업’ 수행기관에 선정

 

영상처리·인공지능·정보보안 전문 교수들이 한 팀으로 뭉쳐

AI 부작용 막기 위한 기술 개발 선봉에 나서

빛이 있으면 그림자도 있기 마련이다.

AI(Artificial Intelligence:인공지능)는 4차 산업혁명을 주도할 기술로 주목을 받고 있지만 역기능도 만만치 않다. 이런 역기능 문제를 해결하기 위해 동서대 컴퓨터공학부 교수들이 선봉에 나섰다.

 

컴퓨터공학부 교수팀은 최근 ‘기만공격에 의한 AI 역기능 방지 기술 개발 사업’ 수행기관으로 선정됐다. 이 사업은 정보보호 분야 핵심 원천기술을 개발하기 위해 과학기술정보통신부 산하 정보통신기술진흥센터(IITP)가 주관하는 것이다.

 

과제 책임자는 동서대 IAI연구소 소장을 역임하고 있는 영상처리 전문가 이병국 교수가 맡고 있고, 영상처리·인공지능 전문가인 이석호·강대기 교수, 정보보안 전문가인 이훈재·이상곤 교수가 이 사업에 참여하고 있다.

 

AI는 제조·금융·의료 등 다양한 사업 분야로 확대되고 있으며, 앞으로 4차 산업혁명을 주도할 것으로 예상된다. 정부에서도 5월 15일 대통령직속 4차 산업혁명위원회 제6차 회의를 개최하고 국내 인공지능 기술력 확보를 위해 5년간 2조2000억원을 투자한다고 밝혔다.

 

세계적 수준의 인공지능 기술력을 확보하기 위해 최고급 인재를 양성하고, 공공분야(국방·의료·안전 등)를 대상으로 대형 인공지능 프로젝트를 추진해 머신러닝, 시각·언어지능 등 범용기술 연구를 중심으로 독자적인 인공지능 기술력을 확보한다는 계획이다. 앞으로 다양한 분야에서 AI에 대한 경제적, 사회적 의존도가 커질 것이다.

 

그러나 AI시스템이 오동작할 경우 감당해야 할 비용 또한 천문학적으로 늘어날 것으로 예상된다. 즉, AI 시스템의 잘못된 설계나 사전에 설계단계에서 감지하지 못한 AI허점들은 인류발전에 역효과를 가져올 수 있다. 그러므로 최근 AI기반의 애플리케이션 개발만큼이나 AI기반의 시스템의 안정성 등에 대한 연구가 필요하고 이 부분에 대하여서도 큰 관심을 가지고 개발해 나가야 한다.

동서대 연구팀은 이번 사업을 통해 AI기만공격(deception attack)에 강건한(robust) AI 시스템 구축을 연구개발 목표로 한다. 이를 위해서 적대적 사례(adversarial example)에 취약한 AI 시스템의 허점에 대한 기반 기술과 사전에 AI기만 공격이 이루어지고 있는지를 사전에 감지할 수 있는 기술, 그리고 이러한 공격에 대하여 강건한 AI시스템의 설계에 대하여 연구한다.

 

이를 통하여, AI 시스템 설계자들이 안정적인 시스템을 설계할 수 있는 표준지침 또는 평가 가이드라인을 제시하고자 한다. 그리고 이를 AI 시스템 인증 관리 플랫폼 서비스 시스템에 적용하여 실제 제품에 적용하고자 한다. 이를 위하여 (주)드림시큐리티가 참여하여 주관기관이 개발하는 AI 보안 역기능 방지 기술이 탑재된 FIDO모듈을 개발하는 것을 목표로 한다.

 

 
담당부서 :
종합홍보실
담당자 :
김현진
연락처 :
051-320-2090
최종수정일 :
2017-12-06