외교안보연구소 발간자료

인공지능 기술을 이용한 국가의 사회감시 체계 현황과 주요 쟁점

인공지능 기술을 이용한 국가의 사회감시 체계 현황과 주요 쟁점

인공지능 기술을 이용한 국가의 사회감시 체계 현황과 주요 쟁점

중국

대한민국

미국

Ⅰ. 서론 
Ⅱ. 디지털 감시기술 현황 
Ⅲ. 인공지능 감시체계의 특징 
Ⅳ. 인공지능 감시의 주요 쟁점
V. 국제사회의 대응
Ⅵ. 전망과 함의


<요약>

세계 각국은 4차 산업혁명의 진전에 의해 고도화되고 있는 정보통신기술과 인공지능 기술을 이용하여 개인에 대한 정보수집 및 사회감시 활동의 범위와 영역을 급속도로 확장시키고 있다. 현대의 디지털 감시기술은 인공지능 기술이 접목된 지능형 CCTV, 빅데이터와 사물인터넷을 이용한 실시간 도시 관리 시스템인 스마트시티와 안면인식 기술과 빅데이터 분석을 통한 범죄예방 알고리즘, 클라우드 컴퓨팅 기반의 원격 감시 시스템 및 국가 발행 디지털 화폐에 이르기까지 다양하다.

현대 국가의 감시는 과거의 중앙으로부터의 일방적·전방위적인 파놉티콘 형태의 감시방식과 같이 특정 대상에 대한 국가의 빅브라더스식 관찰보다도 사방에 구축된 감시 기기에 의해 인구 전체를 한꺼번에 무작위로 관찰할 수 있는, 수많은 리틀브라더스에 의한 유비쿼터스 감시의 성격을 갖는다.

즉 무선인터넷, LTE, 5G, 블루투스 등 다양한 커뮤니케이션 기술이 위치정보를 실시간으로 기록하는 스마트폰, 사물인터넷, 항공 드론과 연결되어 실시간 감시가 가능해졌다. 더불어, 오늘날의 감시체계는 데이터의 실시간성으로 인해 인구 전체에 대한 예방감시 혹은 예측감시의 성격을 갖게 되었다. 요컨대 디지털 정보통신기술 및 데이터 수집 환경의 변화로 오늘날 국가의 사회감시는 표적감시를 넘어서 빅데이터 감시로 전환되고 있다.

디지털 감시기술이 널리 사용되면서 최근 인공지능과 관련된 다양한 윤리문제가 사회적으로 이슈화되고 있다. 먼저 인공지능 알고리즘이 편향된 데이터를 사용하여 사회 내 특정 그룹에 대한 차별을 야기하는 사례가 빈번해지면서 알고리즘의 의사결정에 대한 신뢰성이 크게 훼손되었다. 또한 개인정보에 대한 수집, 처리, 보관, 폐기 과정에서 정보가 유출, 오용, 남용되는 프라이버시 침해도 발생하고 있다. 게다가 AI 감시기술에 대한 세계적 수요가 급증하면서 중국의 IT 대기업이 세계시장으로 진출하면서 중국의 감시기술과 사회통제 및 감시방식 즉 중국식 디지털 권위주의도 세계적으로 확산되고 있어 인권침해와 민주주의 후퇴 가능성 등 국제사회의 우려도 높아지고 있다.

마이크로소프트, 인텔, 구글 등 세계적 IT 기업들은 AI 기술의 인권침해 가능성에 대한 사회 내 우려와 반감에 대응하여 공정성, 포용, 신뢰성, 안전성, 투명성, 보안성, 책임성 등 AI 개발자가 준수할 윤리원칙과 가이드라인을 선제적으로 제시하며 신뢰할 수 있으며 사회적 공공재 창출에 기여할 수 있는 AI 구현을 위해 다양한 프로젝트를 전개하고 있다. 국제기구와 비정부기구, 다양한 국제 협의체들도 감시기술을 비롯한 다양한 AI 기술에 의한 개인정보 및 인권 침해와 관련된 의제에 초점을 두어 강화된 규제를 통해 법제도적 규범을 구축할 것을 촉구하고 있다.

국제정치적 맥락에서 주목할 것은 인공지능 기술이 경제발전과 국가 경쟁력에 끼치는 지대한 영향력, 국가 안보와 치안에 기여하는 역할의 중요성, 그리고 세계적 기술경쟁의 첨예화 등으로 국가의 광범위한 감시기술 사용 자체에 대한 근본적인 문제 제기는 자제되고 있다. 유럽은 강력한 규제정책을 담은 개인정보보호법인 GDPR을 통해 디지털 감시기술 거버넌스에서 선도적인 역할을 취하면서 동시에 타 지역 AI 기술 발전을 견제하고 있다. 기술패권경쟁으로 미국은 중국의 세계적 디지털 생태계의 기반이 되는 5G 산업을 견제하기 시작했고 이러한 추세는 AI 시장 전반으로 확대될 것이다. 디지털 정보통신 인프라가 발전되어 있는 한국은 코로나19 감염병 팬데믹 대응 과정에서 성공적인 방역으로 국제사회의 주목을 받은 만큼 세계적으로 강화되는 AI 기술에 대한 윤리적 규제 추세에 적극적으로 대응하여 민주주의 법치국가로서 신기술 경쟁력을 증진시키면서도 개인정보보호와 AI 개발의 윤리원칙 등 국내적 법제도와 디지털 거버넌스와 관련된 국제사회의 규범 담론에 적극적인 역할을 취할 필요가 있다.  


* 붙임 참조

Foreign Affaris and National Security Research

정책연구시리즈

유럽

GDP

"2021"^^xsd:integer

"https://www.ifans.go.kr/knda/ifans/kor/pblct/PblctView.do?clCode=P03&pblctDtaSn=13713&koreanEngSe=KOR"^^xsd:anyURI

"https://www.ifans.go.kr/knda/ifans/kor/pblct/PblctView.do?csrfPreventionSalt=null&pblctDtaSn=13713&menuCl=P03&clCode=P03&koreanEngSe=KOR"^^xsd:anyURI

송태은 외교전략센터 연구교수

송태은

송태은

"20210121"^^xsd:integer

020-12

KOR