적기냐 새냐… 2차대전 레이더병 딜레마가 낳은 신호탐지이론

2차 세계대전 때 연합군에 레이더병의 실수는 큰 골칫거리였다. 당시에는 레이더 질이 좋지 않아 화면에 찍힌 게 적기(敵機)인지 새인지 잘 구별되지 않았다. 이 때문에 새를 적 폭격기로 착각해 쓸데없이 공습경보를 울리는 일이 적지 않았다. 레이더병을 꾸짖자 이번에는 적기가 나타났는데도 새라고 착각해 공습경보를 울리지 않는 일이 벌어졌다.

레이더병에게 일어날 수 있는 일은 단 네 가지다. 적기일 때 적기로 판별하면 ‘적중’, 적기일 때 새로 판별하면 ‘누락’, 새일 때 새로 판별하면 ‘올바른 기각’, 새일 때 적기로 판별하면 ‘오(誤)경보’다. 레이더병이 할 일은 적중 또는 올바른 기각이다. 그런데 왜 자꾸 누락 또는 오경보가 발생하는 것일까. 이 문제를 연구한 전문가들은 신호의 강도와 레이더병의 뇌에서 일어나는 일을 그래프로 만들었다.

그래프에서 오른쪽과 왼쪽의 곡선은 각각 적기와 새의 신호 강도를 나타낸다. 적기는 레이더병이 탐지해야 하는 올바른 신호이고, 새는 적기 탐지를 방해하는 노이즈(소음)다. 수직선 X는 레이더병의 뇌가 자극에 반응하는 인지 기준을 나타낸다. 상관이 관측병에게 적기를 놓치면 죽는다고 호통치면 레이더병은 의기소침해져 인지 기준을 낮추게 된다. X가 왼쪽으로 이동하는 것이다. 이렇게 되면 적기를 새로 착각하는 누락은 줄어드는 대신 새를 적기로 착각하는 오경보는 늘어난다. 반대로 상관이 “공연히 귀찮게 하면 가만두지 않겠다”고 겁주면 X가 오른쪽으로 이동한다. 오경보는 줄어드는 대신 누락 가능성은 높아진다.

그렇다면 이 문제는 어떻게 해결할 수 있을까. 가장 좋은 방법은 신호와 노이즈 두 곡선의 거리를 최대한 멀게 만드는 것이다. 레이더 장비를 개선하거나 레이더 탐지 전문 훈련을 시키면 두 곡선이 겹치는 부분이 줄어 오경보 또는 누락 가능성이 낮아진다. 다른 방법은 상황에 따라 인지 기준을 이동시키는 것이다. 오경보가 너무 잦아 쓸데없는 출동이 늘어난다면 적기를 판별하는 기준을 좀 더 엄격히 하라고 지시할 수 있다. 반대로 적기 한 대만 놓쳐도 피해가 돌이킬 수 없다면 조금만 미심쩍어도 공습경보를 울리도록 지시해야 한다.

이렇게 탄생한 신호 탐지 이론(Signal Detection Theory)은 심리학과 인지공학의 한 분야로 발전해 안전 관리, 의학 진단, 인공지능 등 다양한 분야에서 활용된다.

신호와 소음이 어지럽게 뒤섞인 것은 2차대전 때 레이더병뿐 아니라 현대를 살아가는 우리도 안고 있는 고민거리다. 신호 탐지 이론은 누락과 오경보가 서로 상충 관계이며, 상황에 맞게 둘 사이의 비용과 편익을 따져 적정한 인지 기준을 마련할 필요가 있음을 알려준다. 가령 암 전문 의사나 위험 시설 관리자라면 미세한 신호에도 반응할 수 있도록 인지 기준을 낮게 유지해야 한다. 반면 인터넷에서 뉴스를 읽는다면 인지 기준을 좀 높여도 무방하겠다. 쓸모 있는 정보를 놓칠 가능성도 있겠지만, 낚시성 기사에 스트레스 받을 일도 그만큼 줄 것이다.

<본 칼럼은 2022년  10월 21일 조선일보 B10면 “적기냐 새냐… 2차대전 레이더병 딜레마가 낳은 신호탐지이론” 라는 제목으로 실린 것입니다.>