인공지능에 가해질 수 있는 악의적 공격

인터넷의 시대가 가고 ‘메타버스(Metaverse)’의 시대를 전망하는 목소리가 나오고 있다. 많은 사람들에게는 아직 생소할 수도 있는 메타버스는 현실과 비현실이 공존하고 서로 상호작용하는 3차원 그래픽 가상 공간의 세계를 의미한다. 메타버스 세계를 그려낸 스티브 스필버그 감독의 영화 ‘레디 플레이 원’과 닌텐도 게임 ‘동물의 숲’을 포함한 다양한 대규모 다중 사용자 온라인 롤플레잉 게임(Massively Multiplayer Online Role-Playing Game, MMORPG)들이 그 예시라 할 수 있다. 우리의 세컨드 라이프를 실현시켜줄 지도 모르는 메타버스 기술에 마이크로소프트, 페이스북, 엔비디아, 닌텐도 등 전세계 유수의 기업들은 앞다투어 투자를 하며 다양한 서비스를 만들어내고 있다. 가상현실, 증강현실 기술 및 인공지능 기술이 고도로 통합되어야 하는 진정한 의미의 메타버스 시대는 아직 시기상조일 수 있겠지만 인공지능 기술이 우리의 일상에 깊숙이 관여하는 시대는 근 시일 내에 도래할 것이다. 혹자는 이미 도래했다고 보는 경우도 있는데 사람의 말을 알아 듣는 가전 전자제품, 스스로 운전하는 자동차 등 인공지능 기술을 탑재한 제품들이 시중에 판매되고 있으며, 온라인 상에서 이루어지는 쇼핑 및 컨텐츠 소비에도 본인의 취향을 고려해 추천해주는 인공지능 기술이 적용되고 있어 이러한 주장에 점차 힘이 실린다.

인공지능 기술이 우리의 생활과 점점 가까워짐에 따라 간과해서는 안되는 점이 있는데 바로 인공지능 기술의 보안 취약성 문제이다. 2016년, 테슬라의 자율주행차가 해킹으로 조종 당하는 영상이 세간의 화제가 되었다. 같은 해 마이크로소프트에서 선보인 사람과 대화를 하는 인공지능 채팅봇 테이(Tay)가 악의적인 공격으로 인해 무차별적인 욕설과 함께 인종, 성 차별적 발언을 쏟아 내어 급히 종료된 바 있다. 이는 인공지능이 악의적, 적대적 공격(adversarial attack)에 노출되면 벌어지는 일들을 여실히 보여준 사례로 사람들은 인공지능 기술이 가져올 미래에 대한 기대감과 동시에 불안감을 맛보았다.

인공지능은 많은 데이터를 입력으로 받은 뒤 그 데이터 안에 내재되어 있는 패턴을 학습해 지능을 가지는 것으로 적대적 공격은 이러한 인공지능의 특성을 활용해 다양하게 이루어진다. 인공지능이 학습 시 사용하는 데이터를 활용해 인공지능을 오도하는 공격으로는, 직접적으로 악의적인 데이터를 주입하는 중독 공격(poisoning attack; 테이를 공격한 방법)과 보다 간접적인 방법으로 학습 데이터에 작은 노이즈(오류값)를 추가하는 회피 공격(evasion attack)이 있다. 인공지능의 큰 단점 중 하나가 사람과는 달리 데이터의 작은 변화에도 불안정한 행동을 보일 수 있는 것으로, 회피 공격을 통해 자율주행차가 원래와는 전혀 다른 의미의 표지판으로 인지하도록 만들 수 있다. 이러한 학습 데이터를 활용한 공격은 인공지능의 행동을 통제 불가하게 만들거나 잘못된 방향으로 유도해 문제를 야기한다.

인공지능을 공격해 인공지능이 학습 시 사용한 데이터를 유출하는 공격도 있는데, 인공지능에게 수많은 질문을 던진 후 뱉어내는 답변들을 분석해 학습한 데이터를 추출하는 공격으로 전도 공격(Inversion attack) 또는 학습 데이터 추출 공격이라 한다. 인공지능의 행동을 제어하는 공격은 아니지만 군사 기밀 정보 또는 개인의 민감 정보들을 학습한 인공지능이 공격을 당할 경우 사회에 큰 문제를 초래할 수 있다.

이밖에도 많은 공격들이 보고되고 있으나 세상은 선과 악이 공존하는 곳으로, 공격들에 대한 다양한 방어책들도 마련되어 있으며 관련 기술 역시 급속도로 발전하고 있음을 밝혀둔다. 이처럼 인공지능 시대로 나아감에 있어서 인공지능 기술의 취약점들을 미리 염두에 두어 적대적 공격으로부터 우리의 세계를 안전하게 지킬 수 있는 방안을 적극 모색할 필요가 있다. 기술의 발전은 그 기술을 활용하는 사회의 발전에 선행되는 경우가 많기에 기술을 기술로써 해결하는 방향이 우선 고려되는 점은 타당하다. 그러나 기술을 활용하는 사회 내에서 기술로 인해 벌어질 수 있는 문제에 대해 정책적으로, 사회적으로 대비하려는 사회의 노력이 등한시 되어서는 안될 것이다.

이정혜 UNIST 산업공학과 교수 ‧ 인공지능 기반 헬스케어 분야 연구

<본 칼럼은 2021년 4월 27일 경상일보 14면 ‘[경상시론] 인공지능 기술의 명과 암’ 이라는 제목으로 실린 것입니다.>