인문의 시선으로 본 제4차산업혁명-‘인간 이성의 임계치’(3)
브래드 피트가 야구 구단주로 나오는 영화 <머니볼>은 스포츠 과학의 극치를 보여준다. 야심만만한 젊은 구단주 빌리 빈은 수재형 경제학자 조나 힐을 참모로 영입한다. 그리곤 확률과 함수, 소수(素數)와 로그, 온갖 경우의 수를 동원한 알고리즘에 따라 팀을 짜고 선수를 스카웃한다. 스포츠 ‘과학’이 아니라 ‘수학’이라고 해야 정확하다. 유감스럽게도 그 행간에 ‘인간’은 없다. 오직 승률을 위한 무채색의 수학적 메트릭스만이 있을 뿐이다. 그래도 <머니볼>은 봐줄만 하다. 그나마 객관적이고 공정한 ‘모형’을 찾아낸다는 설정에 관객들은 흡족하게 영화를 즐긴다. 하지만 딱 그까지다.
본래 모형 또는 알고리즘은 인간과 자연의 복잡한 현실을 단순화한 개념이다. 덕분에 카오스적 세상을 계측하는 매뉴얼로 신뢰받고 있다. 인간을 둘러싼 모든 우주적 원리를 연산과 수식으로 객관화한 공식쯤으로 떠받들어지기도 한다. 허나 잠깐 따옴표를 둘러쳐보면, 꼭 그렇지만은 않다. 인간 세상의 미묘한 질서나 차이를 완벽하게 반영하는 알고리즘이란 애초 존재하기 어렵다. 일단 알고리즘 개발자들은 그것을 통해 특정 목표를 달성하는게 급선무다. 목표로 향하는 과정에 필요없다 싶으면, 아무리 인간과 자연의 피드백에 불가결한 데이터라도 가지치기를 해버린다. 알고리즘을 ‘객관화된 공식’으로 신봉할 수만은 없는 까닭이다.
알고리즘은 자칫 개발자의 ‘뇌’가 되기 십상이다. 조종석에 앉은 특정 인간의 판단 기준과 가치관의 아바타가 될 수도 있는 것이다. 그렇지 않으려면 겸허하게 새로운 데이터를 피드백하며, 양해하고 수정하는 과정을 무한 반복해야 한다. <머니볼>은 구단주 빌리 빈이 이런 ‘객관화’에 대한 치열함을 보이면서 영화의 서사적 가치를 어느 정도 보장한다. 하지만 영화는 영화일 뿐이다. 현실에선 객관화된 공식, 즉 공정한 빅데이터로 인간과 세상을 공정히 재단한다는 명제는 허구에 가깝다. 그럼에도 오늘날 빅데이터와 알고리즘은 우주와 세상의 셋톱박스로 칭송받고 있다.
그래서 알고리즘 맹신의 세상은 위험하다. 아무리 공정하다고 여겨지는 모형들에도 특정 인간의 특정 의도와 이념이 투영된다. 심지어는 개발자 뜻에 따라 왜곡된 모형이 그대로 통용되고, 신뢰성있는 데이터가 작위적으로 배제되기도 한다. 단지 자신에게 필요한 가정들을 검증없이 재생산하고, 그 가정들을 확인하고 강화하는 데이터만 받아들인다. 그 결과는 추악한 예측모형이다. 제도적 불공평에 의해 강화되며, 송수신하고픈 주파수 대역 이외의 것들은 걸러버리는 확증편향(confirmation bias)으로 얼룩진 알고리즘만 양산한다.
특히 문제는 아메바 수준의 데이터나 매트릭스다. 즉 하나의 변수에만 의존하는 원시적인 형태의 모형이 그것이다. 그런 단순한 모형을 인간세상의 복잡한 방정식에 무리하게 적용할 때 비극은 생기기 마련이다. 과거 인류 문명사가 그러했다. ‘인종차별’의 예를 들어보자. 이는 사람들의 머릿 속에 존재하는 일종의 정신예측 모형(선입견의 알고리즘)의 결과다. 그 모형은 결함이 많고 불완전하며, 특수함을 일반화한 오류 투성이의 데이터로 만들어진 것이다. 반드시 A=B이며, C, D 등이 결코 될 수 없다는 이분법적 편향으로 가득하다. 데이터 과학자 캐시 오닐의 말처럼 빅데이터와 알고리즘에 의한 ‘대량살상무기’에 다름 아니다.
오닐은 그래서 “알고리즘이 신을 대체했다”고 경악해마지 않는다. 기실 빅데이터를 교리로, 알고리즘을 경전으로 삼은 데이터교(敎)가 위세를 떨친지는 꽤 되었다. 이대로라면 수 천 년의 보편종교를 데이터교가 대체할 날도 멀지 않은 것 같다. 디지털 혁명의 첨단 정신과는 반대로 데이터교 광신도들이 기하급수로 늘어나고 세상을 미혹하는 역설도 펼쳐지고 있다. “태양이 지구를 돈다”는 식의 반동적인 도그마와, 차별과 무지, 반(反)공화적 혐오가 알고리즘의 옷을 입고 횡행하곤 한다. 그래서 “21세기는 데이터교가 지배하는 신(新)중세시대가 될 것”이란 예언이 빈말은 아니다. 이는 곧 데이터교가 숨겨놓은 ‘종말론’이다. 그 끝엔 과학 이성의 과잉으로 인한 인류사의 암흑기가 기다리고 있다.