무엇이든 토스터로 보이는 마법의 스티커

이미지 인식 기술의 악몽.

이미지 인식 기술은 정교 해지고 있을지도 모르지만, 쉽게 속기도 합니다. 

AI는 연구자들에게 속아 스키어 2 인조와 개를, 야구공 과 에스프레소를 그리고 거북이와 소총을 오인식 했습니다. 

그리고 이번에 새롭게 등장한 AI를 속이는 방법은 그냥 스티커를 사용하는 간단한 방법이면서 그 영향은 광범위한 것입니다.

Google의 연구자들은 관련없는 이미지 위에 붙이는 것으로, AI에 그 이미지를 토스터이라고 인식시켜 버리는 환상적인 스티커를 개발했습니다. 

최근 제출 된 그 공격 기법에 대한 연구 논문에는 그 스티커는 "상황에 좌우되지 않고 기능함(scene-independent) '라고 적혀 있습니다. 

즉, 스티커와 함께 어떤게 AI 카메라에 찍혀도 빛이 어떻게 비치고있다 할지라도 어떤 각도에서 카메라가 인식하고 있든지,

이 스티커는 그냥 카메라에 찍히는 것만으로 기능을 한다는 것입니다. 

게다가 인터넷에서 공유 및 인쇄 할 수 있기 때문에 손에 넣기 쉽습니다.

Google의 딥러닝 연구팀 Google Brain의 멤버 인 Tom Brown가 게시 한 YouTube 동영상에는 

스티커가 어떻게 작용하는지 바나나를 이용하여 시연하고 있습니다. 

책상위의 바나나의 이미지는 신경망 VGG16 의해 바나나로 정확하게 분류되지만 그 옆에 스티커를 놓으면 토스터로 분류되어 버립니다.

그렇게 되는 이유는 딥러닝의 모델이 한 장의 이미지 속에서 감지하는 아이템은 1개, 

가장 돌출한 것으로 생각되는 아이템 때문이라고 합니다. 

기계 학습 알고리즘이 실수를 하게하는 방법은 많이 있지만, 쉽게 실행할 수  있고 눈에 띄지 않는다는 점에서 이 기술은 특히 중요합니다. 

"인간은 이러한 패치에주의해도 패치의 목적을 이해하지 예술의 형식으로 바라 보는지도 모른다"고 논문에 적혀 있습니다.

지금까지 AI에 바나나를 토스터이라고 잘못 인식시킨해도 사회에 위협이 될 수는 없습니다. 

그러나 세계가 이미지 인식 기술에 의존하고 늘어나면서이 같은 쉽게 수행 할 수있는 유형의 방법은 혼란을 일으킬 수도 있습니다. 

특히 주목할 점은 자율주행 자동차는 이미지 인식 소프트웨어에 의존하여 주변 상황을 이해하고 작용하고 있습니다. 

만약 고속도로를 구르고있는 몇 톤의 금속이 단지 토스터 밖에 보이지 않는다면 위험한 것이 될 수 있으니까요.