빅데이터 사회의 역설적 상황 
기존 편견·차별 없애기보다 강화
‘올리볼리 동화’ 다이버시티 코리아
기술 통해 다양성 인식개선 나서
다음세대재단-구글ORG 손잡고 ‘다이버시티 코리아’

지난 1월 비영리법인인 다음세대재단의 진행으로 서울시 교육연수원에서 초중등 교사 20여명을 대상으로 문화다양성 교사 직무연수 프로그램이 진행됐다. 다음세대재단 제공
지난 1월 비영리법인인 다음세대재단의 진행으로 서울시 교육연수원에서 초중등 교사 20여명을 대상으로 문화다양성 교사 직무연수 프로그램이 진행됐다. 다음세대재단 제공
기술은 다양성의 친구일까, 적일까.

디지털 기술은 많은 편리함과 강력함을 가져왔지만 다양성과 관련해서는 이중적 상황을 만들고 있다. 디지털 기술은 그동안 목소리를 내기 어려웠던 사회적 약자와 소수자들로 하여금 인터넷으로 손쉽게 자신들의 존재와 주장을 알릴 수 있게 해 기본적으로 다양성을 확대하는 데 기여하고 있다. 그러나 일상생활에 빅데이터 기술과 기계학습 알고리즘 기술이 확대 적용되면서 지배적인 다수의 목소리를 증폭시키고 소수집단과 낮은 빈도의 데이터를 무시하면서 결과적으로 다양성을 훼손하는 결과로 이어지고 있다. 동시에 기술은 감춰져 있던 차별과 배제를 드러내어 포용과 다양성의 문화를 개선하게 만드는 도구가 될 수도 있다.

다양성 훼손

사회에는 인종, 출신, 성별, 소득, 지역 등 다양한 차원의 차별이 존재하는데 지금까지의 차별은 사람의 편견과 무지, 고의적 의도에 의해서 주로 이뤄져왔다. 빅데이터 기술은 긴 시간에 걸쳐 방대하게 축적된 사용자 데이터를 알고리즘으로 분석해 처리하기 때문에 사람의 주관이나 편견으로부터 자유로운 공정하고 객관적인 결과를 가져다줄 것으로 기대됐다. 그러나 실제로 빅데이터와 알고리즘에 의해 수행된 결과가 오히려 새로운 차별을 만들어내고 있다는 결과가 보고되고 있다.

미국 일부 주 법원은 판결에서 범죄자의 가석방, 보석금, 형량 등을 결정할 때 범죄자의 재범 가능성을 알려주는 콤파스라는 소프트웨어를 사용하고 있다. 미국 언론 <프로퍼블리카>는 2016년 탐사보도를 통해 콤파스가 플로리다에서 체포된 범죄자 1만명을 대상으로 재범 가능성을 예측한 결과 흑인을 백인보다 2배나 억울하게 재범 대상으로 예측했다고 보도한 바 있다.

미국의 데이터과학자 캐시 오닐은 저서 <대량살상수학무기>에서 가장 뛰어나고 평판이 좋은 교사들이 교사평가 알고리즘(임팩트)에 의해 해고되는 현실을 예로 들며 알고리즘의 비민주성과 비과학성을 고발했다. 알고리즘은 통계와 수학을 도구로 모델을 만들어 현실을 이해하고 예측하는 도구인데, 모델은 기본적으로 특정한 전제와 관점을 포함하기 때문에 편향적이라는 주장이다. 알고리즘은 기존 데이터를 학습시켜 기대하는 목표에 이르는 공정을 자동화하는 구조인데, 이는 기존 관행과 편견을 기계와 객관화의 이름으로 고착화하는 결과로 이어지게 된다. 실리콘밸리가 남성, 백인과 아시아계, 기술자 중심인 까닭에 정보기술 기업들의 알고리즘 대부분이 설계자와 데이터의 편향성을 지닌다는 비판이 나오는 배경이다.

미국 연방거래위원회(FTC)는 2016년 1월 ‘빅데이터: 포용의 도구인가, 배제의 도구인가’라는 보고서를 통해 알고리즘과 빅데이터가 기존 차별을 고착화할 수 있다는 우려를 제기한 바 있다.

다양성 진작

베를린에 있는 정보기술 감시단체 알고리즘워치의 설립자 마티아스 슈필캄프는 2017년 6월 <엠아이티(MIT) 테크놀로지 리뷰> 기고를 통해, 알고리즘이 편견을 갖고 있지만 사회가 이를 좀더 현명하게 활용할 수 있는 방법이 있음을 강조했다. 뉴욕 경찰은 2002년부터 2012년까지 440만명을 불심검문해 혐의가 없는 88%를 풀어줬는데 흑인과 히스패닉이 심하게 차별받았다. 이들은 전체에서 인구 비중이 절반인데도 검문 대상에선 83%를 차지했다. 슈필캄프는 이러한 차별 역시 데이터 분석을 통해 드러났기 때문에 기술의 긍정적 활용을 알려주는 사례라고 지적했다. 영화배우 지나 데이비스도 2007년 설립한 지나데이비스 미디어연구소를 통해 영화와 드라마에서 남녀 배우의 출연 시간과 배역, 대사 분량과 중요도 등을 분석해 지수화하고 미디어 제작에서 성차별적 수준을 밝히는 데 인공지능 기술을 활용하고 있다.

기술을 통해 적극적으로 다양성 문화를 키우려는 시도도 있다. 지난달 22일 다음세대재단은 구글의 사회공헌 조직 구글닷오아르지(google.org)와 함께 국내에 다양성 문화를 확산시키는 ‘다이버시티 코리아’ 프로젝트를 시작했다. 2009년부터 다음세대재단이 필리핀, 르완다, 팔레스타인 등 제3세계 위주 14개 국가의 그림동화를 애니메이션으로 만들어 온라인으로 제공해온 올리볼리 그림동화 사업을 본격적인 문화다양성 프로젝트로 확대하는 프로젝트다. 기존 올리볼리 그림동화가 국내 다문화가정 및 제3세계 어린이용 콘텐츠 제공이었던 것과 달리 다이버시티 코리아는 다수의 인식 개선을 위한 프로젝트로 선회했다. 이를 위해 다음세대재단은 어린이와 성인을 대상으로 자신의 문화다양성 수준을 알아볼 수 있는 온라인 테스트를 신설하고 초등학교에서 문화다양성 수업을 진행할 수 있도록 교육용 콘텐츠 개발과 교사 연수에 나설 계획이다.

방대욱 다음세대재단 대표는 “기존의 문화다양성 프로그램은 다문화가정 지원 등 소수자를 대상으로 했으나 우리 사회에서 다양성을 개선하기 위해서는 소수자 지원보다 구성원 다수의 인식을 바꾸는 게 더 중요하다”며 “다름이 차별의 요인이 아니라 창의의 원천이라는 것을 전달하고 싶고 그 과정에 정보기술을 적극 활용하고자 한다”고 말했다.

구본권 사람과디지털연구소장 starry9@hani.co.kr