감시와 통제 — 과학기술이 권력의 도구가 될 때
by ㅅㅅ
편리함이라는 이름의 그물
우리는 하루에도 수십 번씩 얼굴로 스마트폰을 열고, 지문으로 결제를 승인하고, 위치 정보를 통해 가장 빠른 길을 안내받는다. 이 모든 기술은 편리함이라는 이름으로 제공되지만, 그 이면에는 한 개인의 얼굴, 걸음걸이, 목소리, 이동 경로, 소비 패턴, 심지어 감정 상태까지도 데이터로 환원되어 누군가에게 축적되고 있다는 사실이 놓여 있다. 과학기술은 본래 인간의 삶을 편리하고 안전하게 만들기 위한 도구로 발전해왔지만, 동시에 인류 역사상 가장 정교하고 촘촘한 감시 체계를 구축하는 데도 그대로 활용되고 있다. 이 글에서는 안면인식 기술, 데이터 감시 자본주의, 예측적 치안, 그리고 신경과학과 유전정보까지 파고드는 감시의 최전선을 살펴보며, 과학이 권력의 도구로 전용될 때 우리가 마주하게 되는 구조적 위험을 짚어보고자 한다.
1. 안면인식: 얼굴이 곧 비밀번호가 될 때
안면인식 기술은 딥러닝의 발전과 함께 비약적으로 정교해졌다. 문제는 이 기술이 국가 권력 등에 의해 대규모로 활용될 때 발생한다. 대표적인 사례가 중국 신장 위구르 자치구에서의 활용이다. 다수의 인권단체와 언론 보도에 따르면, 이 지역에는 수백만 대의 감시 카메라가 설치되어 있으며, 안면인식 기술이 위구르족이라는 특정 민족 집단을 식별하는 데 활용되었다는 의혹이 제기되어 왔다. 이는 기술이 '보편적 인식'이 아니라 '차별적 분류'의 도구로 설계되고 사용될 수 있음을 보여주는 극단적인 사례다.
미국에서도 유사한 논쟁이 있었다. 클리어뷰 AI(Clearview AI)라는 기업은 페이스북, 인스타그램 등 소셜미디어에서 동의 없이 수십억 장의 얼굴 사진을 무단으로 수집해 안면인식 데이터베이스를 구축했고, 이를 미국 전역의 수사기관에 판매했다. 이 사실이 2020년 뉴욕타임스 보도로 드러나자 캐나다, 영국, 프랑스, 이탈리아 등 여러 국가의 개인정보보호 당국이 이 회사에 거액의 과징금을 부과하거나 서비스 중단을 명령했다. 그러나 이미 수집된 얼굴 데이터가 완전히 삭제되었는지, 어디까지 확산되었는지는 여전히 불투명하다.
안면인식 기술의 또 다른 심각한 문제는 인종적·성별적 편향이다. 미국 국립표준기술연구소(NIST)가 2019년 발표한 대규모 검증 연구는 189개의 안면인식 알고리즘을 분석한 결과, 흑인과 아시아인의 얼굴에 대한 오인식률이 백인에 비해 최대 100배까지 높게 나타났다고 밝혔다. 이는 단순한 기술적 결함이 아니라, 실제 형사 사법 절차에서 무고한 사람이 범죄자로 오인되어 체포되는 사건으로 이어졌다. 2020년 미국 디트로이트에서는 로버트 윌리엄스라는 흑인 남성이 안면인식 시스템의 오인식으로 인해 절도 혐의로 부당하게 체포된 사건이 있었는데, 이는 미국에서 안면인식 오인식으로 인한 최초의 공개된 부당 체포 사례로 기록되었다. 이후에도 유사한 사건이 여러 건 추가로 확인되었으며, 모든 피해자가 흑인이었다는 공통점이 있었다.
2. 감시 자본주의: 데이터가 상품이 되는 구조
정치철학자 쇼샤나 주보프(Shoshana Zuboff)는 '감시 자본주의(surveillance capitalism)'라는 개념으로 오늘날의 디지털 경제 구조를 분석했다. 그의 핵심 논지는, 구글이나 페이스북(메타) 같은 빅테크 기업들이 사용자의 검색어, 클릭, 위치, 대화 내용까지 포함한 '행동 데이터'를 대규모로 수집하고, 이를 정제해 인간 행동을 예측하고 나아가 조종하는 상품으로 만들어 광고주에게 판매하는 사업 모델을 구축했다는 것이다. 이 과정에서 이용자는 서비스의 '고객'이 아니라, 데이터가 채굴되는 '원자재'로 전락한다.
이러한 데이터 수집이 실제 정치적 조작으로 악용된 대표적 사례가 2018년에 폭로된 케임브리지 애널리티카(Cambridge Analytica) 스캔들이다. 이 회사는 페이스북 이용자 약 8,700만 명의 개인정보를 부적절하게 수집했고, 이 데이터를 심리학적 프로파일링에 활용해 개인별로 맞춤화된 정치 광고를 제작, 2016년 미국 대선과 영국의 브렉시트 국민투표 과정에 개입한 것으로 드러났다. 이 사건은 데이터 과학이라는 기술이 어떻게 민주주의의 핵심 절차인 선거에까지 침투해 여론을 조작하는 도구로 전용될 수 있는지를 극명하게 보여준 사례로 남아 있다.
여기서 중요한 것은, 이러한 감시 인프라가 국가의 강제가 아니라 시장의 '자발적' 논리에 의해 구축된다는 점이다. 사용자들은 이용약관에 동의하는 클릭 한 번으로 방대한 개인정보 수집에 '동의'하지만, 그 약관의 실제 내용을 이해하고 읽는 사람은 극히 드물다. 이것이 감시 자본주의가 전통적인 국가 감시와 구별되는 지점이며, 동시에 규제하기가 훨씬 까다로운 이유이기도 하다. 편리한 서비스를 이용하고자 하는 개인의 합리적 선택들이 총합적으로는 거대한 감시 인프라를 자발적으로 구축해주는 역설적 결과를 낳는 것이다.
3. 예측적 치안과 알고리즘 편향의 재생산
경찰과 사법 시스템에도 데이터 기반 예측 기술이 광범위하게 도입되고 있다. 이른바 '예측적 치안(predictive policing)'은 과거 범죄 발생 데이터를 학습해 특정 지역이나 개인의 범죄 발생 가능성을 예측하고, 이를 근거로 순찰 인력을 배치하거나 감시 대상을 선정하는 방식이다. 그러나 이 시스템의 근본적 문제는, 과거의 치안 데이터 자체가 이미 인종적·계층적 편향을 반영하고 있다는 점이다. 특정 지역에 경찰력이 더 많이 배치되었기 때문에 그 지역에서 더 많은 범죄가 '기록'되었을 뿐인데, 알고리즘은 이를 그 지역이 실제로 더 위험하다는 근거로 학습하고, 그 결과 해당 지역에 더 많은 경찰력을 배치하도록 권고한다. 이는 편향이 데이터를 통해 스스로를 정당화하고 증폭시키는 피드백 루프를 형성한다.
미국 여러 도시에서 사용되었던 재범 위험성 예측 알고리즘 COMPAS에 대한 2016년 프로퍼블리카(ProPublica)의 분석은 이 문제를 실증적으로 드러냈다. 이 알고리즘이 흑인 피고인의 재범 위험을 실제보다 체계적으로 과대평가하는 반면, 백인 피고인의 위험은 과소평가하는 경향이 있다는 것이 확인되었다. 이 알고리즘의 예측 결과는 실제 법원의 보석 결정이나 형량 산정에 참고 자료로 활용되었기 때문에, 기술적 편향이 곧바로 한 개인의 자유를 결정하는 사법적 불평등으로 직결되었다.
이러한 문제의식 속에서 최근 몇 년간 여러 도시와 국가에서 경찰의 안면인식 및 예측적 치안 기술 사용을 제한하거나 금지하는 움직임이 나타나고 있다. 유럽연합의 인공지능법(AI Act)은 실시간 원격 안면인식을 이용한 공공장소 감시를 원칙적으로 금지 대상으로 분류했으며, 미국 샌프란시스코를 비롯한 여러 도시도 정부 기관의 안면인식 사용을 조례로 금지한 바 있다. 그러나 이러한 규제가 국가 안보나 실종자 수색 등의 예외 조항을 폭넓게 허용하는 경우가 많아, 실효성에 대한 의문은 계속되고 있다.
4. 생체정보와 신경데이터: 감시의 다음 국경
감시의 대상은 이제 얼굴과 행동 패턴을 넘어 신체 내부의 생물학적 정보로까지 확장되고 있다. 유전자 정보를 대규모로 수집하는 상업적 유전자 검사 서비스(23andMe 등)는 조상 추적이나 건강 정보 제공이라는 편익을 내세우지만, 축적된 유전정보 데이터베이스는 법 집행기관의 수사 목적으로 활용되거나, 보험사의 위험 평가에 이용될 가능성, 혹은 데이터 유출 시 되돌릴 수 없는 개인정보 침해로 이어질 위험을 안고 있다. 실제로 2023년 23andMe에서 발생한 대규모 해킹 사고는 수백만 명의 유전자 관련 개인정보가 유출되는 사건으로 이어졌는데, 유전정보는 비밀번호처럼 변경할 수 없다는 점에서 그 피해의 영속성이 다른 개인정보 유출과는 질적으로 다르다.
더 나아가 신경과학 기술의 발전은 '신경데이터(neural data)'라는 새로운 감시 영역을 열고 있다. 뇌-컴퓨터 인터페이스(BCI) 기술이 발전하면서, 뇌파나 신경 신호로부터 개인의 감정 상태, 주의력, 심지어 특정 생각의 패턴까지 추론하려는 시도가 산업 현장(작업자 피로도 모니터링)이나 소비자 시장(뉴로마케팅)에서 이미 상용화되고 있다. 칠레는 2021년 세계 최초로 '신경권(neurorights)'을 헌법에 명시해 개인의 정신적 프라이버시와 정체성을 명시적으로 보호하는 입법을 추진했는데, 이는 신경데이터가 미래의 감시 자원으로 전용될 가능성에 대한 선제적 우려에서 비롯된 조치였다. 이는 감시의 경계가 신체 외부의 행동에서 신체 내부의 정신 활동으로까지 확장되고 있다는 점에서, 이제까지의 프라이버시 논의와는 전혀 다른 차원의 윤리적 문제를 예고한다.
5. 코로나19와 감시 인프라의 정상화
팬데믹은 감시 기술이 사회적으로 정당화되고 정상화되는 결정적인 계기가 되기도 했다. 감염병 확산을 막기 위한 접촉자 추적(contact tracing) 앱, QR코드 기반 이동 기록, 위치 데이터를 활용한 자가격리 감시 시스템 등이 세계 각국에서 도입되었다. 한국의 경우 신용카드 사용 내역, CCTV, 휴대폰 위치 정보를 결합해 확진자의 이동 경로를 매우 정밀하게 추적하고 공개하는 방식으로 초기 방역에 상당한 성과를 거두었다는 평가를 받았지만, 동시에 확진자의 사생활이 과도하게 노출되어 2차 피해(신상 정보 유추, 사회적 낙인)를 낳는 부작용도 함께 드러났다.
문제는 팬데믹이라는 예외적 위기 상황에서 도입된 감시 인프라와 사회적 관용의 기준이, 위기가 지나간 뒤에도 완전히 해체되지 않고 잠재적으로 남아있을 수 있다는 점이다. 감염병학자이자 역사학자들은 이런 현상을 '위기의 관성(crisis ratchet)'이라 부르는데, 이는 9·11 테러 이후 도입된 각종 대규모 감시 프로그램(미국의 애국자법에 따른 통신 감청 등)이 테러 위협이 감소한 이후에도 크게 축소되지 않고 관행으로 굳어졌던 역사적 선례와 겹쳐진다. 과학기술이 위기 대응이라는 명분 아래 확장시킨 감시 권한은, 위기가 종료된 후에도 스스로 축소되는 경우가 드물다는 것이 역사가 반복적으로 보여주는 패턴이다.
기술 그 자체가 아니라 그것을 쥔 손의 문제
이번 글에서 살펴본 모든 사례들이 공통적으로 보여주는 것은, 감시와 통제의 문제가 기술 그 자체의 결함에서 비롯되는 것이 아니라, 그 기술을 설계하고 배치하고 운용하는 권력 구조의 문제라는 사실이다. 안면인식 알고리즘의 인종적 편향은 훈련 데이터를 누가, 어떻게 수집했는가의 문제이며, 감시 자본주의는 데이터 수집에 대한 실질적 동의 구조가 부재한 시장 설계의 문제이고, 예측적 치안의 편향은 애초에 편향된 사회 구조가 만들어낸 데이터를 그대로 학습한 결과다. 기술은 중립적이라는 오래된 믿음은, 그 기술이 누구의 손에서 어떤 목적으로 설계되고 배치되는가를 따져보는 순간 무너진다.
감시와 통제의 문제로부터 과학기술 발전 자체를 멈추자는 결론으로 이어질 수는 없다. 안면인식 기술은 실종 아동을 찾는 데도 쓰이고, 유전자 데이터베이스는 희귀질환 치료제 개발의 토대가 되기도 한다. 결국 중요한 것은 이 강력한 도구들에 대한 투명한 거버넌스, 실질적인 동의 구조, 그리고 편향과 오남용을 지속적으로 감시하고 시정할 수 있는 독립적인 견제 장치를 얼마나 견고하게 구축할 수 있는가에 달려 있다. 과학기술이 권력의 도구가 되는 것을 막을 수 있는 것은 결국 또 다른 기술이 아니라, 그 기술을 감시할 수 있는 사회적 제도와 시민적 각성이라는 점을 이 사례들은 거듭 확인시켜준다.