없는 것을 볼 수 있도록 해주는 스마트 소프트웨어

KISTI 미리안 『글로벌동향브리핑』 2015-01-01

딥러닝이라는 기술은 구글과 다른 회사들이 컴퓨터가 사진의 콘텐츠를 이해할 수 있도록 해주는 기술적 혁신을 이룰 수 있도록 해주었다. 현재 코넬대학교(Cornell University)와 와이오밍대학교(University of Wyoming)의 연구원들은 어떤 장소에 없는 사물들을 볼 수 있도록 해주는 소프트웨어를 통해서 영상을 만들 수 있는 방법을 개발하고 있다. 연구원들은 사람이 뒤섞여 있는 의미 없는 것이나 단순한 기하학적 패턴으로 보여질 수 있도록 하는 영상을 개발할 수 있다. 그러나 이것은 스쿨버스와 같이 일상에서 사용되는 사물들로서 소프트웨어가 감지하게 된다. 이 속임수 이미지들은 실제의 두뇌와 단순하게 시뮬레이션된 뉴런이 딥러닝 처리영상을 사용하는 방법의 차이에 대하여 새로운 식견을 제공하게 된다. 일반적으로 연구원들은 수백만 개의 기타 사진을 보여줌으로써 딥러닝 소프트웨어가 흥미있는 것을 인식할 수 있도록 훈련하게 된다. 그러면 컴퓨터는 항상 “이것은 기타입니다”라고 말하게 된다. 얼마 후에 소프트웨어는 이전에 보지 못했던 영상에서 기타를 인식하게 되며 신뢰도 등급을 줄 수 있는 대답을 하게 되는 것이다. 높은 신뢰도 등급은 흰색 배경에 단독으로 디스플레이되며, 더 낮은 신뢰도 등급에서는 선명하지 못한 배경에서 기타가 보여지게 된다. 이 방법은 얼굴인식 또는 보안, 트래픽 카메라 영상을 처리하는 소프트웨어를 사용하는데 가치가 있는 애플리케이션을 가지게 된다. 예를 들어, 트래픽 흐름이나 의미스러운 행동 등을 관찰할 수 있게 된다. 그러나 인공 신경 회로망을 만들기 위해서 사용된 수학적인 기능들이 개별적으로 이해할 수 있을지라도, 영상을 암호화하기 위해서 동작했던 방법은 알려지지 않았다. “우리는 그들이 동작한 것을 이해하지만, 그들이 동작했던 방법을 이해한 것은 아니다. 그들은 우리 자신이 배울 수 없는 것들을 하기 위해서 배울 수 있다”고 와이오밍대학교 컴퓨터과학과의 Jeff Clune 교수가 말했다. 이러한 네트워크가 동작하는 방법을 새롭게 밝히기 위해서 Clune의 연구그룹은 알렉스넷(AlexNet)이라는 신경 회로망을 사용하였다. 이것은 영상 인식에서 인상적인 결과를 이루었다. 그들은 반대로 동작하는 것으로서 영상을 통해서 무작위로 된 픽셀을 생성함으로써 어떤 것에 대한 사진을 만들기 위해서 기타에 대하여 알지 못하는 소프트웨어 버전에게 요청하는 것이었다. 연구원들은 첫 번째 네트워크에 의해 만들어진 영상을 평가하기 위해서 기타를 찾아내도록 훈련받은 두 번째 버전의 네트워크에게 요청하였다. 이와 같은 신뢰도 등급은 기타 영상을 만들기 위한 다음 시도를 개선하기 위해서 첫 번째 네트워크에 의해 사용되게 된다. 두 부분의 소프트웨어 조각들 간에 이러한 수천 번의 라운드가 지난 후에, 첫 번째 네트워크는 두 번째 네트워크가 99%의 신뢰도를 가지고 기타를 인식했다는 영상을 만들 수 있게 되었다. 그러나 사람들에게 이러한 기타 영상은 컬러 TV가 정지되어 있거나 단순한 패턴을 보여주는 것과 같이 느끼게 해준다. 이 소프트웨어는 사람이 어떤 사물을 인지하려고 하는 것처럼 줄 또는 프렛보드와 같이 구조적으로 자세한 사항들의 조각들이 한데 모여있는 것에 흥미를 가지고 있지 않다는 것을 보여주는 것이라고 Clune이 말했다. 대신에 소프트웨어는 특정한 거리나 픽셀 또는 전체적인 색깔과 질감 간의 색깔 관계를 고려하는 것이다. 이것은 인공 신경 회로망이 실제로 동작하는 방법에 대하여 새로운 식견을 제공해준다고 Clune이 말했다. 그러나 더 많은 연구가 필요하다고 그가 덧붙였다. 하버드대학교 컴퓨터과학과의 Ryan Adams 교수는 이 결과가 완전히 놀라운 것은 아니라고 말했다. 대부분의 속임수 영상 분야가 정적인 바다와 같이 보인다는 사실은 네트워크가 훈련된 영상을 인식하는 것으로부터 기인하기 때문이다. 흥미 있는 사물은 보통 사진의 작은 일부분이며, 나머지는 중요하지 않다. Adams는 또한 Clune의 연구가 사람과 인공 신경 회로망이 일반적으로 어떤 것을 가지고 있다는 것을 보여주는 것이라고 지적했다. 사람들은 천년 동안 별과 같은 무작위 패턴을 통해서 일상적인 사물들을 보고 있다고 생각하고 있다. Clune은 그것이 웹서비스와 다른 것들에서 동작을 하게 될 때, 영상인식 알고리즘을 속이기 위해서 그의 기술을 사용하는 것이 가능하다고 말했다. 그러나 이것이 성공하는 것은 매우 어려울 것이다. 예를 들어, 구글은 영상 검색서비스의 결과로부터 포르노를 걸러내는 알고리즘을 가지고 있다. 그러나 그것을 속이기 위한 영상을 만들기 위해서 구글의 소프트웨어가 디자인된 방법에 관하여 매우 자세한 사항을 아는 것이 필요할지도 모른다. deeplearning.jpg deeplearning_2.jpg http://www.technologyreview.com/news/533596/smart-software-can-be-tricked-into-seeing-what-isnt-there/